A pesar de las afirmaciones de los principales nombres en IA, los investigadores argumentan que las fallas fundamentales en los modelos de razonamiento significan que los bots no están a punto de superar la inteligencia humana.
Por Christopher Mims / The Wall Street Journal
Un requisito primordial para ser líder en IA hoy en día es ser un heraldo de la inminente llegada de nuestro mesías digital: la IA superinteligente.
Para Dario Amodei de Anthropic, Demis Hassabis de Google y Sam Altman de OpenAI, no basta con afirmar que su IA es la mejor. Los tres han insistido recientemente en que será tan buena que transformará la esencia misma de la sociedad.
Incluso Meta, cuyo científico jefe de IA ha sido famosamente desdeñoso con esta charla, quiere sumarse a la iniciativa. La compañía confirmó que invertirá 14 000 millones de dólares en la incorporación de un nuevo líder para sus iniciativas de IA que pueda hacer realidad el sueño de Mark Zuckerberg de una IA superinteligente , es decir, una IA más inteligente que nosotros.
«La humanidad está cerca de construir una superinteligencia digital», declaró Altman en un ensayo esta semana, y esto provocará la desaparición de clases enteras de empleos, así como un nuevo contrato social. Ambas serán consecuencias de que los chatbots con IA ocupen todos nuestros empleos administrativos, mientras que los robots con IA asumen los físicos.
Antes de que te pongas nervioso por todas las veces que fuiste grosero con Alexa, debes saber esto: un grupo cada vez mayor de investigadores que construyen, estudian y usan IA moderna no se creen todo eso.
El título de un nuevo artículo de Apple AAPL -1,38 %disminuir; triángulo rojo que apunta hacia abajoLo dice todo: « La ilusión de pensar ». En él, media docena de destacados investigadores analizaron modelos de razonamiento (grandes modelos de lenguaje que «piensan» en los problemas a lo largo de muchos pasos) de los principales laboratorios de IA, como OpenAI, DeepSeek y Anthropic. Encontraron poca evidencia de que estos modelos sean capaces de razonar con un nivel cercano al que afirman sus creadores.
Sam Altman, director ejecutivo de Open AI. Foto: Justin Sullivan/Getty Images
La IA generativa puede ser muy útil en aplicaciones específicas y un gran impulso para la productividad de los trabajadores. OpenAI afirma tener 500 millones de usuarios activos mensuales de ChatGPT, un alcance sorprendentemente amplio y un rápido crecimiento para un servicio lanzado hace tan solo dos años y medio. Sin embargo, estos críticos argumentan que existe un riesgo significativo al sobreestimar su potencial y basar sus planes de negocio, decisiones políticas e inversiones en declaraciones que parecen cada vez más desconectadas de los propios productos.
El artículo de Apple se basa en trabajos previos de muchos de los mismos ingenieros, así como en investigaciones destacadas tanto del ámbito académico como de otras grandes empresas tecnológicas, como Salesforce . Estos experimentos demuestran que las IA «razonables» actuales —aclamadas como el siguiente paso hacia agentes autónomos de IA y, en última instancia, hacia una inteligencia sobrehumana— son, en algunos casos, peores a la hora de resolver problemas que los chatbots de IA convencionales que las precedieron. Este trabajo también demuestra que, independientemente de si se utiliza un chatbot de IA o un modelo de razonamiento, todos los sistemas fallan estrepitosamente en tareas más complejas.
Los investigadores de Apple encontraron limitaciones fundamentales en los modelos. Al asumir tareas que superaban cierto nivel de complejidad, estas IA sufrieron un colapso total de la precisión. De igual manera, los ingenieros de Salesforce AI Research concluyeron que sus resultados ponen de relieve una brecha significativa entre las capacidades actuales de LLM y las demandas empresariales reales.
Es importante destacar que los problemas que estas IA de vanguardia no pudieron resolver son acertijos de lógica que incluso un niño precoz podría resolver con pocas instrucciones. Es más, cuando se les da a estas IA ese mismo tipo de instrucción, no pueden seguirla.
El documento de Apple ha desencadenado un debate en los salones de poder del sector tecnológico (los chats de Signal, las publicaciones de Substack y los hilos de X) que enfrenta a los maximalistas de la IA contra los escépticos.
“Podrían decir que es envidia, que Apple simplemente se queja porque no tiene un modelo de vanguardia”, dice Josh Wolfe , cofundador de la firma de capital riesgo Lux Capital. “Pero no creo que sea tanto una crítica como una observación empírica”.
Los métodos de razonamiento de los modelos de OpenAI ya están sentando las bases para que los agentes puedan usar herramientas, tomar decisiones y resolver problemas más complejos, afirma un portavoz de OpenAI. «Seguimos impulsando estas capacidades».
El debate sobre esta investigación comienza con la implicación de que las IA actuales no piensan, sino que crean una especie de espagueti de reglas simples a seguir en cada situación cubierta por sus datos de entrenamiento.
Gary Marcus , científico cognitivo que vendió una startup de IA a Uber en 2016, argumentó en un ensayo que el artículo de Apple, junto con trabajos relacionados, expone fallas en los modelos de razonamiento actuales, sugiriendo que no representan el inicio de una capacidad a nivel humano, sino un callejón sin salida. «Parte de la razón por la que el estudio de Apple tuvo tanta repercusión es que Apple lo hizo», afirma. «Y creo que lo hicieron en un momento en que la gente finalmente comenzaba a comprender esto por sí misma».
El científico cognitivo Gary Marcus. Foto: Don Mackinnon/Agence France-Presse/Getty Images
En áreas distintas a la codificación y las matemáticas , los modelos más recientes no mejoran al mismo ritmo que antes. Y los modelos de razonamiento más recientes, de hecho, alucinan más que sus predecesores.
“La idea general de que el razonamiento y la inteligencia se obtienen con modelos a mayor escala es probablemente falsa”, afirma Jorge Ortiz , profesor asociado de ingeniería en Rutgers, cuyo laboratorio utiliza modelos de razonamiento y otras tecnologías de inteligencia artificial de vanguardia para percibir entornos reales. Los modelos actuales tienen limitaciones inherentes que los hacen incapaces de seguir instrucciones explícitas, lo contrario de lo que se esperaría de una computadora, añade.
Es como si la industria estuviera creando motores de libre asociación. Son hábiles para la confabulación, pero les pedimos que asuman el rol de ingenieros o contadores coherentes y respetuosos con las normas.
Dicho esto, incluso aquellos que son críticos con las IA actuales se apresuran a agregar que la marcha hacia una IA más capaz continúa.
Exponer las limitaciones actuales podría indicar el camino para superarlas, afirma Ortiz. Por ejemplo, nuevos métodos de entrenamiento —que ofrecen retroalimentación paso a paso sobre el rendimiento de los modelos y añaden más recursos cuando se enfrentan a problemas más complejos— podrían ayudar a la IA a resolver problemas más complejos y a optimizar el software convencional.
Desde una perspectiva empresarial, independientemente de si los sistemas actuales pueden razonar o no, generarán valor para los usuarios, dice Wolfe.
“Los modelos siguen mejorando y todo el tiempo se desarrollan nuevos enfoques para la IA, por lo que no me sorprendería que estas limitaciones se superen en la práctica en un futuro cercano”, dice Ethan Mollick , profesor de la Wharton School de la Universidad de Pensilvania, que ha estudiado los usos prácticos de la IA .
Mientras tanto, los verdaderos creyentes no se dejan intimidar.
COMPARTE TUS PENSAMIENTOS
¿Cuáles son los riesgos y oportunidades potenciales de la búsqueda de IA avanzada? Únete a la conversación a continuación.
Dentro de tan solo una década, escribió Altman en su ensayo, «quizás pasemos de resolver física de altas energías un año a iniciar la colonización espacial el año siguiente». Quienes estén dispuestos a conectarse a la IA con interfaces directas cerebro-computadora verán sus vidas profundamente transformadas, añade.
Este tipo de retórica acelera la adopción de la IA en todos los ámbitos de nuestra sociedad. DOGE está utilizando la IA para reestructurar nuestro gobierno , los militares la están utilizando para volverse más letales y se le está confiando la educación de nuestros hijos , a menudo con consecuencias desconocidas.
Esto significa que uno de los mayores peligros de la IA es que sobrestimamos sus capacidades, confiamos en ella más de lo debido —incluso cuando ha demostrado tener tendencias antisociales como el chantaje oportunista— y dependemos de ella más de lo prudente. Al hacerlo, nos exponemos a su propensión a fallar cuando más importa .
“Aunque se puede usar la IA para generar muchas ideas, aún requieren bastante auditoría”, dice Ortiz. “Por ejemplo, si quieres hacer tus impuestos, te conviene usar algo más parecido a TurboTax que a ChatGPT”.
0 seconds of 0 secondsVolume 0%El lanzamiento de la IA de Apple ha sido accidentado, desde retrasos en Siri hasta funciones decepcionantes de Apple Intelligence. Joanna Stern, del WSJ, se reúne con el director de software Craig Federighi y el director de marketing Greg Joswiak para hablar sobre el futuro de la IA en Apple y qué pasó con esa Siri más inteligente. Foto ilustrativa: JJ Lin.
Escriba a Christopher Mims a christopher.mims@wsj.com
Copyright © 2025 Dow Jones & Company, Inc. Todos los derechos reservados. 87990cbe856818d5eddac44c7b1cdeb8
Apareció en la edición impresa del 14 de junio de 2025 con el título ‘Apple llama a la IA actual ‘La ilusión del pensamiento».
Fuente: https://www.wsj.com/tech/ai/artificial-superintelligence-overestimation-3f954065?mod=tech_lead_story