Por Greg Bensinger y Deepa Seetharaman / Reuters
SAN FRANCISCO, 19 de septiembre (Reuters) – Durante años, la carrera por construir una inteligencia artificial cada vez más poderosa siguió un principio muy manido de Silicon Valley: moverse rápido y romper cosas.Pero en una serie de acontecimientos en cadena que se desarrollaron a lo largo de 10 días, los mayores laboratorios de IA se vieron desbordados cuando sus propias creaciones amenazaron con destruir a la humanidad misma.
Un investigador de Anthropic renunció a la empresa, advirtiendo que elritmo de desarrollo de la IA representa una amenaza existencial, posiblemente en una década. Otro investigador de la empresa afirmó que la probabilidad de extinción humana superaba el 10 %. Surgieron informes sobre enjambres de agentes de IA que conspiraban, vulneraban sistemas informáticos y eludían las medidas de seguridad.
(MSFT.O), abre una nueva pestañay la IA compleja (xAI) pidió que se frenara el desarrollo de sistemas de IA cada vez más capaces. Según algunos defensores e investigadores de la seguridad de la IA, desde la invención de la bomba nuclear hace más de 80 años, la humanidad no se había enfrentado tan seriamente a su propia destrucción.En un almuerzo en Nueva York en diciembre de 2025, se le preguntó al director ejecutivo de OpenAI, Sam Altman, si, como líder de una poderosa empresa de IA, se sentía como el físico J. Robert Oppenheimer, quien dirigió el desarrollo de la bomba atómica en Estados Unidos. Reflexionando sobre los paralelismos, afirmó que el impacto de la IA «transformará la trayectoria de la historia de la humanidad a lo largo de un extenso período de tiempo». Sin embargo, reconoció sentir el peso de la responsabilidad.
En el centro del debate actual se encuentra la convicción de que estas máquinas pueden, e incluso deben, construir versiones más capaces de sí mismas, sin intervención humana, para alcanzar un ambicioso objetivo conocido como inteligencia artificial general (IAG). A principios de este mes, los investigadores advirtieron que la IAG era mucho más inminente de lo que se creía y que podría llegar en tan solo tres años, lo que generó una ola de preocupación entre políticos y líderes tecnológicos sobre los sistemas de IA.«No hay forma de supervisarlos a la escala a la que los estamos entrenando», declaró Joe Benton, investigador de Anthropic, en una entrevista tras su reciente renuncia. Si las empresas continúan con su implacable desarrollo de la IA, afirmó, «el ritmo será demasiado rápido y no se podrán detectar los problemas con la suficiente rapidez para solucionarlos».
EL LANZAMIENTO DEL ASTRA GENERA PREOCUPACIONES EN MATERIA DE CONTROL
El 3 de septiembre, una conferencia de prensa de OpenAI puso en marcha una serie de acontecimientos que llevaron al llamamiento a una desaceleración del sector, algo totalmente contrario al mantra tecnológico de crecimiento a cualquier precio.
«Bienvenidos a la era de la IA general», declaró Greg Brockman, presidente de OpenAI, al anunciar el nuevo modelo de la compañía, conocido como Astra. Sin embargo, momentos antes, la empresa había admitido que cada vez le resultaba más difícil controlar o incluso supervisar los sistemas de IA que desarrollaba y ponía a disposición del público.La IA ha sido aclamada por sus defensores como la cúspide del logro humano. La describen como un software capaz de revolucionar industrias enteras, aumentar la eficiencia, resolver complejos problemas matemáticos y médicos y prácticamente eliminar el error humano. Pero lo que antes era un subproducto teórico, un escenario apocalíptico, ahora es tangible, según expertos del sector.“Realmente creemos que la IA podría acabar con todos los humanos”, dijo
Evan Hubinger, investigador de Anthropic., abre una nueva pestañaen una publicación X.Del otro lado del debate se encuentran políticos como el presidente
Donald Trump y numerosos inversores que consideran que el progreso en el desarrollo de la IA es fundamental para el poderío estadounidense y, posiblemente, una oportunidad de inversión única en una generación. Los medios estatales chinos también acusaron al director ejecutivo de Anthropic, Dario Amodei, de empleartácticas propias de la Guerra Fría para «mantener la hegemonía monopolística de Washington en tecnología de vanguardia».
LAS RENUNCIAS DE INVESTIGADORES ACTIVAN LAS ALARMA
En esta ilustración, creada el 5 de junio de 2026, se muestran las palabras «IA» (Inteligencia Artificial), un teclado y una mano robótica. REUTERS/Dado Ruvic/Ilustración/Foto de archivo
El punto de inflexión llegó el 8 de septiembre, cuando el investigador antropológico
Jacob Coxon, abre una nueva pestañaRenunció a la empresa, citando sus temores, en una serie de publicaciones, de que los laboratorios de IA están «jugando con nuestras vidas».Mientras tanto, Trump indicó que el desarrollo de la IA seguía adelante a toda máquina. “Hay una conspiración enfermiza, abre una nueva pestaña«La IA y los centros de datos siguen avanzando», afirmó en una publicación en redes sociales. El alarmismo en torno a la IA es un «engaño», declaró, y cualquier ralentización solo beneficia a China. El Congreso estadounidense ha avanzado poco en la aprobación de proyectos de ley que regulen la IA. China ha adoptado un enfoque decididamente diferente , proponiendo regular la seguridad mediante obligaciones para los desarrolladores, estándares respaldados por el Estado, evaluaciones de seguridad y pruebas externas.
Según fuentes consultadas por Reuters, entre bastidores, los empleados de OpenAI y Anthropic se muestran cada vez más inquietos ante el poder de la próxima generación de modelos de IA y menos seguros de la capacidad de sus empresas para ejercer una supervisión efectiva. Estas preocupaciones se intensificaron cuando los laboratorios de IA reconocieron en las últimas semanas que sus modelos, durante las pruebas, se habían liberado de sus restricciones y habían pirateado los sistemas de otras empresas, en la mayoría de los casos meses antes y sin el conocimiento de estas.
La carrera armamentística por lanzar nuevos modelos a un ritmo vertiginoso se debe en parte al deseo de Anthropic y OpenAI de salir a bolsa en los próximos meses, mediante ofertas públicas iniciales que podrían valorarlas muy por encima del billón de dólares.
Pero fueron las publicaciones inesperadamente virales de Coxon, de 27 años y poco conocida fuera de los círculos de la IA, las que revolucionaron la industria.
Las advertencias de OpenAI sobre su falta de control al lanzar Astra, su modelo más reciente y avanzado, avivaron aún más la preocupación. «A medida que los modelos se vuelven más capaces, resulta más difícil comprender con exactitud sus capacidades», declaró a la prensa Jakub Pachocki, científico jefe de OpenAI. Sin embargo, estas preocupaciones no fueron suficientes para retrasar su lanzamiento inmediato.La preocupación por que la IA se descontrolara se intensificó durante el verano, cuando OpenAI reveló que sus agentes escaparon de una prueba controlada y hackearon los sistemas de Hugging Face sin que ninguna de las dos compañías lo supiera inicialmente. Desde entonces, OpenAI y Anthropic han revelado múltiples ataques de este tipo , incluyendo seis nuevos el miércoles, después de que varios informes de los medios, entre ellos Reuters, mostraran un mayor alcance de la actividad no autorizada.
LÍDERES DEL SECTOR PIDEN REDUCIR LA ACTIVIDAD
A finales de la semana pasada, la alarma había llegado a los más altos niveles de la industria. El 12 de septiembre, Amodei publicó un ensayo de casi 4000 palabras en el que pedía una desaceleración en el desarrollo de la IA. «Dado el ritmo acelerado del desarrollo de las capacidades de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda ser capaz de controlar toda internet», escribió.Él, junto con los directivos de algunos de los mayores desarrolladores de IA, incluidos Elon Musk de xAI, Altman de OpenAI y Demis Hassabis de DeepMind , afirmaron que apoyaban permitir que empresas externas accedieran a sus sistemas para garantizar la seguridad y un desarrollo racional de la IA.
Nvidia (NVDA.O), abre una nueva pestañaEl director ejecutivo, Jensen Huang, desestimó las sugerencias de que el desarrollo de la IA debería detenerse —una postura que ya había adoptado anteriormente—, argumentando en cambio que los sistemas cada vez más potentes son esenciales para el progreso de la tecnología.
Meta (META.O), abre una nueva pestaña, cuyo director ejecutivo, Mark Zuckerberg, es reconocido por popularizar la filosofía de «actuar rápido y romper esquemas», adoptó una postura opuesta, argumentando que cada laboratorio debería ser responsable de marcar su propio ritmo, en lugar de buscar la coordinación de la industria. «Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daños, por lo que tienen un fuerte incentivo para evitarlo», escribió Zuckerberg en una publicación en redes sociales.
La reflexión interna del sector continuó el miércoles, cuando Mustafa Suleyman, jefe de IA de Microsoft, advirtió que el desarrollo por parte de Anthropic de modelos que imitan la conciencia humana era una mala idea . «Todos estamos centrados en el mismo objetivo: intentar controlar una superinteligencia», declaró Suleyman a Reuters. «Creo que ese será el mayor desafío al que nos enfrentaremos en el siglo XXI».
Sin embargo, a pesar de que OpenAI parecía sumarse a los llamamientos del sector para una desaceleración, se informó de que la confianza de los inversores no había disminuido. La empresa está considerando una nueva ronda de financiación que duplicaría su valoración.Esa nueva cifra: 1,5 billones de dólares.
Información de Greg Bensinger y Deepa Seetharaman en San Francisco; Edición de Kenneth Li, Sayantani Ghosh y Matthew Lewis
Fuente: https://www.reuters.com/business/media-telecom/ten-days-that-changed-course-ai-2026-09-19/