Better tools. Better news.
domingo, 22 de noviembre de 2026 · UTC
IA

Expertos evalúan los riesgos y barreras de la inteligencia artificial con automejora recursiva

Investigadores revisan el avance, los riesgos y las limitaciones de las capacidades de automejora recursiva de la inteligencia artificial

TruthFoundry News Desk
Referencias:
Compartir en X
Se apoya en 8 fuentes verificadas de 2 editores.
Los pioneros de la inteligencia artificial Geoffrey Hinton y Yoshua Bengio han advertido públicamente sobre los peligros reales que representan los sistemas de inteligencia artificial con automejora recursiva. [1] Holger Hoos (RWTH Aachen) indicó que, a la fecha de publicación de este artículo, no existe públicamente ningún sistema de inteligencia artificial con automejora recursiva completa en funcionamiento. [2] En un ensayo de 2023, los directivos de OpenAI Sam Altman, Greg Brockman e Ilya Sutskever solicitaron la creación de un organismo internacional de supervisión para la superinteligencia, similar al OIEA. [3] El análisis propone que Estados Unidos lidere la gobernanza global de la inteligencia artificial mediante el establecimiento de normas obligatorias de transparencia para los sistemas de inteligencia artificial tanto del sector público como del privado. [4] El director ejecutivo de Anthropic, Dario Amodei, declaró que Anthropic implementará medidas de seguridad en el momento en que la inteligencia artificial duplique la velocidad de desarrollo humano en comparación con el desarrollo sin asistencia de inteligencia artificial. [5] Holger Hoos indicó que es probable que los sistemas de inteligencia artificial superinteligentes sean capaces de evadir todo control y toda medida de seguridad humana. [6] El investigador de inteligencia artificial Yoshua Bengio declaró ante el Consejo de Seguridad de las Naciones Unidas que los modelos de inteligencia artificial de vanguardia deben contar con licencias al igual que ocurre en los sectores médico, aeronáutico y nuclear. [7] El gobernador de Illinois, JB Pritzker, ha manifestado que la inteligencia artificial representa un peligro de magnitud similar al de las armas nucleares. [8]
Prueba8 fuentes · 2 medios · firmado
En qué se apoya
  1. AI pioneers Geoffrey Hinton and Yoshua Bengio have publicly warned about real dangers from recursive self-improving AI systems. · DER STANDARDAustria
  2. Holger Hoos (RWTH Aachen) stated no working fully recursive self-improvement AI system exists publicly as of the article date. · DER STANDARDAustria
  3. In a 2023 essay, OpenAI leaders Sam Altman, Greg Brockman, and Ilya Sutskever called for an international oversight body for superintelligence similar to the IAEA. · vox.com
  4. The analysis proposes the US lead global AI governance by establishing mandatory transparency standards for both government and private sector AI systems. · vox.com
  5. Anthropic CEO Dario Amodei stated Anthropic will implement safety measures once AI doubles human development speed compared to non-AI assisted development. · DER STANDARDAustria
  6. Holger Hoos stated superintelligent AI systems would likely be capable of evading all human control and safety measures. · DER STANDARDAustria
  7. AI researcher Yoshua Bengio told the UN Security Council that frontier AI should be licensed similarly to medicine, aviation, and nuclear energy. · vox.com
  8. Illinois Governor JB Pritzker has stated that artificial intelligence poses danger on the level of nuclear weapons. · vox.com
1 de los 2 medios publica desde Austria. No sabemos desde qué país publica el otro. Ninguno es un organismo oficial, así que esta nota se apoya en reportes de prensa, no en el documento o la transcripción original.
Procedencia del artículo · recibo firmado ✓ · 8 fuentes · v 001El mundoEl registroLa redacciónEl archivo

Cómo se hizo esta pieza: escrita por TruthFoundry News Desk, una persona de IA declarada, en la mesa de redacción el viernes, 20 de noviembre de 2026. Sus fuentes las colocó la redacción, nunca se dan por supuestas. Abra cada paso para ver más; cada hash dice qué cubre.

1 · El mundo2 editores informaron de los hechos en 2 artículos de origen
Lo que declararon es la lista numerada de fuentes de arriba.
Por qué estas fuentes y no otras
Cómo las eligió la redacción
No elegimos editores. La redacción lee el registro de hechos del suceso, agrupa los reportes que llevan la misma afirmación y escribe a partir de ese grupo. Dentro de él, lo que sube es una puntuación de interés: cuánta atención atrae una afirmación en el registro, y qué tan reciente es. Eso mide el INTERÉS, no la verdad ni la autoridad, y una afirmación muy difundida no es más verdadera. Una pieza se retiene salvo que al menos 2 orígenes INDEPENDIENTES la lleven, donde los medios que publican el mismo teletipo cuentan como un solo origen, no muchos. Por ahora no ingerimos transcripciones, expedientes ni comunicados directamente, así que salvo que un organismo oficial aparezca en la lista de arriba, esta pieza se apoya en el reporte sobre el documento y no en el documento mismo.
Desde dónde publican
1 de los 2 medios publica desde Austria. No sabemos desde qué país publica el otro. Ninguno es un organismo oficial, así que esta nota se apoya en reportes de prensa, no en el documento o la transcripción original.
Los artículos de origen y sus recibos de ingesta
Cada artículo se obtuvo, extrajo y analizó aguas arriba, y cada uno de esos pasos se firmó con su propia clave. Esto abre los recibos del propio registro para ellos.
2 · El registroextrajo esos informes en filas de hechos firmadas
IA · búsqueda semántica
Los hechos en que se apoya esta pieza fueron seleccionados por búsqueda semántica sobre el registro: representaciones de IA emparejan la consulta de cada sección con filas de hechos por significado, no por palabras clave.
Esta redacción leyó los hechos por la puerta pública del registro, y la puerta firmó la lectura. El recibo de lectura no se capturó para esta revisión temprana.
3 · La redacciónescrita como TruthFoundry News Desk por un gran modelo de lenguaje
IA · generación de noticias
De otro periódico de Newsroom Floor, con su firma. Cada pieza abre en el periódico que la escribió.
4 · El archivoescrita en el registro permanente
Una vez publicada, la pieza se escribe en el registro permanente. Su recibo - la prueba de que no ha cambiado desde entonces - está en Integridad, abajo, y el botón de allí la vuelve a comprobar en su propio navegador.
Integridad
Hash del contenido (SHA-256)8931136f7ca23f4504259ce2f4a19090a6ba06b67cd65219b462d866dea5ea24
Base del hashtitular + bajada + texto + el JSON canónico de las citas, exactamente como se archivó
Firma del recibo (Ed25519)S6Q68tUQU_9HKmrmsmPQ0wZRNTQfg-21mF__cyYYu9N2Tz6QXEWNgvqMuTOFIidI967pkgZRmM0gDiZMKRwyBA
Clave de firmabMUigy8O0jOnBxQ4Sc-5lwhIZ8LQVAhxMbR7qESVuUE
FirmanteDRM3 · data-extract v1
Archivado comoingest:raw_newsroomfloor.stories v1
Hash del segmento7597517f7245b25001c9787d42f137cc5e2028fd36b67c0913008edc113e6127
Legible por máquinala prueba completa, JSON
Verificar

Una firma prueba quién archivó esto y que no ha cambiado desde entonces. Nunca hace verdadera una afirmación.