{"id":63711,"date":"2023-11-26T12:47:22","date_gmt":"2023-11-26T18:47:22","guid":{"rendered":"http:\/\/losperiodistas.com.mx\/portal\/?p=63711"},"modified":"2023-11-26T12:47:25","modified_gmt":"2023-11-26T18:47:25","slug":"el-circo-de-openai-es-solo-el-inicio-esta-es-la-gran-guerra-que-viene-por-el-control-de-la-ia-el-confidencial","status":"publish","type":"post","link":"https:\/\/losperiodistas.com.mx\/portal\/el-circo-de-openai-es-solo-el-inicio-esta-es-la-gran-guerra-que-viene-por-el-control-de-la-ia-el-confidencial\/","title":{"rendered":"El circo de OpenAI es solo el inicio: esta es la gran guerra que viene por el control de la IA | El Confidencial"},"content":{"rendered":"\n

El drama vivido esta semana en OpenAI es el reflejo de una batalla mayor: la de los diferentes grupos de inter\u00e9s que intentan hacerse con el control de la IA. Nadie quiere quedarse fuera del pr\u00f3ximo gran negocio. Cueste lo que cueste<\/h2>\n\n\n\n
\"\"
Sam Altman, CEO de OpenAI. (Reuters)<\/figcaption><\/figure>\n\n\n\n

MANUEL \u00c1NGEL M\u00c9NDEZ \/ EL CONFIDENCIAL<\/strong><\/p>\n\n\n\n

En alg\u00fan lugar de California <\/strong>este verano, cientos de ingenieros de OpenAI<\/a> asistieron a un extra\u00f1o ritual<\/strong>. El cient\u00edfico jefe de la empresa, Ilya Sutskever, encarg\u00f3 a un artista local esculpir una figura de madera<\/strong> que simbolizase las amenazas existenciales de la IA. Sutskever se llev\u00f3 la efigie al evento, la plant\u00f3 delante de los at\u00f3nitos empleados y le prendi\u00f3 fuego<\/strong>. Era su forma de escenificar el compromiso de OpenAI<\/strong> con la seguridad: la empresa jam\u00e1s pondr\u00eda en riesgo a la humanidad con su tecnolog\u00eda. Nadie imaginaba en ese momento que Sutskever se convertir\u00eda meses despu\u00e9s en el impulsor del despido de Sam Altman<\/a> al frente de OpenAI. Altman, triunfal, ha ganado el pulso, pero tanto el episodio de la hoguera improvisada como lo ocurrido esta semana en OpenAI reflejan el arranque de una guerra<\/strong> mucho m\u00e1s amplia por el control de la inteligencia artificial<\/strong>. Bienvenidos a la batalla entre bandos rivales que va a definir el futuro<\/strong> (y nuestras vidas).<\/p>\n\n\n\n

El arrebato pir\u00f3mano de Sutskever, narrado por varios empleados a The Atlantic<\/a>, <\/em>define muy bien el primero de estos bandos en liza. Se compone de un grupo heterog\u00e9neo de cient\u00edficos, ingenieros, acad\u00e9micos y fil\u00f3sofos que defienden un desarrollo de la IA pausado y regulado<\/strong>, acotado por medidas de seguridad que eviten que esta tecnolog\u00eda se acabe convirtiendo en un riesgo para la humanidad.<\/p>\n\n\n\n

Suena a serie dist\u00f3pica de Netflix<\/strong>, pero algunas de las mentes m\u00e1s brillantes de este planeta est\u00e1n convencidas de que, si no se toman las precauciones necesarias, la IA se puede convertir en un nuevo tipo de \u00abbomba nuclear\u00bb capaz de destruirnos<\/strong>. Una de las figuras m\u00e1s destacadas de este movimiento es el brit\u00e1nico Geoffrey Hinton<\/a>, considerado uno de los padres de la IA. Hinton abandon\u00f3 en mayo su puesto en Google<\/strong> para hablar con libertad de los peligros de esta tecnolog\u00eda. \u00abNos movemos a un periodo en el que, por primera vez, podemos tener cosas m\u00e1s inteligentes que nosotros<\/strong>. […] Si pudi\u00e9ramos detener a la IA cuando quisi\u00e9ramos [para que no tome control de la humanidad], ser\u00eda fant\u00e1stico, pero no est\u00e1 claro que podamos hacerlo\u00bb, explicaba<\/a> hace poco al programa 60 minutes<\/em> de la CBS.<\/p>\n\n\n\n

Adem\u00e1s de un mentor, Hinton es una suerte de gu\u00eda espiritual para Ilya Sutskever<\/strong>. No solo dirigi\u00f3 su tesis sobre redes neuronales en la Universidad de Toronto, tambi\u00e9n escribieron juntos varios papers<\/em> y trabajaron en Google en el desarrollo de TensorFlow, un software <\/em>libre usado para entrenar IA. Tras Hinton, Sutskever se ha convertido ahora en una de las voces m\u00e1s prominentes en aplicar a la IA un movimiento conocido como \u00abaltruismo efectivo\u00bb<\/strong>: la creencia de que, bien controlada<\/strong>, la IA puede generar una era de prosperidad inimaginable<\/strong>, pero que en las manos equivocadas traer\u00e1 consecuencias catastr\u00f3ficas. El argumento defiende que, como la inteligencia artificial general (AGI) \u2014aquella que iguala o supera las capacidades del ser humano\u2014 es inevitable<\/strong> y llegar\u00e1 en los pr\u00f3ximos a\u00f1os, es mejor destinarla a hacer el bien que el mal.<\/p>\n\n\n\n

\"\"
Ilya Sutskever, cofundador y cient\u00edfico jefe de OpenAI. (Reuters)<\/figcaption><\/figure>\n\n\n\n

Hinton, Sutskever y una larga lista de investigadores e ingenieros firmaron una carta este a\u00f1o avisando del riesgo de extinci\u00f3n de la humanidad provocado por la IA<\/a>. \u00abMitigar esta amenaza debe ser una prioridad mundial<\/strong> <\/strong>junto con otros riesgos a gran escala, como las pandemias o la guerra nuclear<\/strong>\u00ab, rezaba el documento. Solo un pu\u00f1ado de espa\u00f1oles aparecen en la lista de firmantes, entre ellos Juan Pav\u00f3n<\/strong>, profesor titular de Lenguajes y Sistemas Inform\u00e1ticos en la Universidad Complutense de Madrid. \u00abEstos sistemas son cajas negras. No sabemos por qu\u00e9 hacen determinadas cosas, su comportamiento es muy dif\u00edcil de depurar<\/strong> por lo complejos que son. Pero no creo que debamos ser dr\u00e1sticos y frenar en seco su desarrollo\u00bb, explica a El Confidencial este especialista en IA.<\/p>\n\n\n\n

\u00abEl culto al altruismo efectivo del consejo de OpenAI podr\u00eda haber privado al mundo de los enormes beneficios de la IA\u00bb<\/em><\/strong><\/p><\/blockquote><\/figure>\n\n\n\n

Sutskever y sus seguidores no defienden una parada en seco, pero s\u00ed un desarrollo responsable, m\u00e1s pausado<\/a>. Eso fue justo lo que hizo saltar por los aires a OpenAI <\/strong>esta semana. Mientras Sam Altam lanzaba producto tras producto <\/strong>a velocidad de v\u00e9rtigo, su consejo de administraci\u00f3n se llevaba las manos a la cabeza por la falta de control<\/strong>. Ese consejo, formado por cuatro personas, estaba dominado por altruistas m\u00e1s o menos convencidos como Sutskever; Helen Toner, directiva de un think tank<\/em> de la Universidad de Georgetown, y Tasha McCauley, miembro de la ONG Effective Ventures.<\/p>\n\n\n\n

Altman y Toner hab\u00edan tenido ya varios encontronazos por este motivo. Toner hab\u00eda criticado de forma velada la prisas en OpenAI y\u00a0Altman intent\u00f3 echarla, pero sin \u00e9xito<\/strong>. En realidad, las tensiones entre el grupo de altruistas que abogaban por frenar el ritmo de la empresa y los que impulsaban todo lo contrario, con Altman a la cabeza, fueron constantes durante el \u00faltimo a\u00f1o.\u00a0Hasta que todo estall\u00f3.<\/strong>\u00a0Otro de los bandos en disputa<\/a>\u00a0por el control de la IA se frotaba las manos.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

\u00abEl culto al altruismo efectivo de los miembros del consejo de OpenAI podr\u00eda haber privado al mundo de los enormes beneficios de la inteligencia artificial\u00bb, escrib\u00eda hace unos d\u00edas Vinod Khosla<\/a>, cofundador de Sun Microsystems<\/strong> y de la inversora Khosla Ventures, y socio inicial en OpenAI. Khosla es una de las vacas sagradas de Silicon Valley<\/strong> y una figura prominente de otro grupo que aspira a dominar la IA: los aceleracionistas<\/strong>. El inversor Marc Andreessen<\/strong> defini\u00f3 muy bien este movimiento en un pol\u00e9mico manifiesto<\/a>: \u00abCreemos que la inteligencia artificial es nuestra alquimia, nuestra piedra filosofal. Estamos logrando que la arena piense\u00bb, escrib\u00eda. Cualquiera que se interponga en el desarrollo libre de la IA debe ser considerado un \u00abenemigo\u00bb.<\/p>\n\n\n\n

Soy aceleracionista, pero no mucho<\/h2>\n\n\n\n

Andreessen ha popularizado un t\u00e9rmino que ven\u00eda circulando online <\/em>desde hace meses. Se trata del aceleracionismo efectivo<\/strong><\/em>, una respuesta al altruismo efectivo<\/em> abanderado por Hinton y Sutskever. Igual que el aceleracionismo cl\u00e1sico promulga la expansi\u00f3n radical del capitalismo, <\/strong>el aceleracionismo efectivo defiende el avance tecnol\u00f3gico por encima de todo<\/strong>. \u00abLa tecnolog\u00eda es la gloria de la ambici\u00f3n humana<\/a>, la punta de lanza del progreso. Podemos avanzar hacia una forma superior de vida\u00bb, se\u00f1ala Andreessen. Es tecnooptimismo<\/strong> en estado puro, una corriente que tambi\u00e9n gana adeptos en otros pa\u00edses.<\/p>\n\n\n\n

\"\"
Tasha McCauley (izquierda), en un evento con su pareja, el actor Joseph Gordon-Levitt. (Getty)<\/figcaption><\/figure>\n\n\n\n

\u00abMe considero aceleracionista, pero no un libertario radical. El progreso viene del avance tecnol\u00f3gico, y no del freno. <\/strong>Creo que tiene que haber cierta regulaci\u00f3n: si la IA cae en malas manos puede causar un da\u00f1o potencial importante. Pero esa regulaci\u00f3n no puede ser muy restrictiva<\/a>, te cargas el progreso\u00bb, explica a este diario Javier Andr\u00e9s<\/strong>, creador de un chatbot de IA en WhatsApp<\/strong> llamado Luzia. En solo ocho meses, Andr\u00e9s ha recibido 13 millones de euros de financiaci\u00f3n y uno de sus principales inversores es precisamente Vinod Khosla.<\/p>\n\n\n\n

Muy pocas startups <\/em>espa\u00f1olas pueden presumir como Luzia de un arranque tan fulgurante o de tener como socio a Khosla. M\u00e1s de 10 millones de personas le preguntan cosas a este asistente al menos una vez al mes, tanto en castellano como portugu\u00e9s, los dos idiomas que cubre. \u00abCuando vimos ChatGPT<\/strong>, pensamos \u00bfpor qu\u00e9 no aplicar esto a WhatsApp, el chat m\u00e1s popular del mundo?\u00bb, dice Andr\u00e9s. Igual que miles de startups <\/em>de IA, se lanzaron a una carrera fren\u00e9tica por ser los primeros<\/strong>, por cerrar millones de financiaci\u00f3n e improvisar sobre la marcha. \u00bfModelo de ingresos? Ya se ver\u00e1. <\/strong>Lo que cuenta es moverse r\u00e1pido. Fundar, crecer, vender.<\/a> Toca ser aceleracionista por definici\u00f3n, pero, como dice Andr\u00e9s, \u00abno un radical\u00bb.<\/p>\n\n\n\n

\"Foto:<\/figure><\/div>\n\n\n\n

TE PUEDE INTERESAR<\/p>\n\n\n\n

La jugada maestra de Microsoft: c\u00f3mo le est\u00e1 ganando a Google una partida hist\u00f3rica<\/a>Manuel \u00c1ngel M\u00e9ndez<\/p>\n\n\n\n

<\/p>\n\n\n\n

<\/p>\n\n\n\n

Tal vez justo por eso existe un\u00a0tercer grupo en discordia<\/strong>\u00a0que aspira a dominar la IA con otra estrategia:\u00a0decir una cosa en p\u00fablico y hacer la contraria de puertas hacia dentro<\/strong>. No hay etiqueta oficial, pero la de\u00a0\u00aboportunistas\u00bb<\/strong>\u00a0ir\u00eda bien encaminada. Su representante m\u00e1s evidente es\u00a0Elon Musk<\/strong>. El\u00a0pasado marzo<\/a>, Musk junto a otros 33.700 cient\u00edficos, acad\u00e9micos e ingenieros firmaron una carta pidiendo una\u00a0moratoria inmediata<\/strong>\u00a0de seis meses en el desarrollo de la IA por los \u00abprofundos riesgos que supone para la sociedad y la humanidad\u00bb. Ocho meses despu\u00e9s, Musk\u00a0anunciaba Grok<\/strong>, un chatbot de IA para plantarle cara a ChatGPT.<\/p>\n\n\n\n

\u00bfOportunismo o hipocres\u00eda?<\/h2>\n\n\n\n

Algo parecido, aunque de una forma mucho\u00a0m\u00e1s sutil y manipuladora<\/strong>, es lo que est\u00e1 haciendo Sam Altman. El CEO de OpenAI firm\u00f3 diversos manifiestos avisando del poder destructivo de la IA, encarg\u00f3 estudios sobre los\u00a0trabajos que eliminar\u00e1 su tecnolog\u00eda<\/strong>\u00a0y viaj\u00f3 por Europa pidiendo regulaci\u00f3n, pero, a la vez, intent\u00f3\u00a0despedir a consejeros cr\u00edticos<\/strong>\u00a0de su estrategia por ir demasiado r\u00e1pido y ha convertido OpenAI en una apisonadora, lanzando producto tras producto desde el anuncio de ChatGPT, en\u00a0una de las estrategias comerciales m\u00e1s agresivas y exitosas\u00a0<\/strong>de las \u00faltimas d\u00e9cadas en Silicon Valley. Igual que \u00e9l, el\u00a0CEO de Microsoft, Satya Nadella, o el de Google, Sundar Pichai<\/strong>, se han visto obligados a acelerar el desarrollo de la IA\u00a0a la vez que avisan de los riesgos<\/a>. \u00bfOportunismo? \u00bfHipocres\u00eda?<\/p>\n\n\n\n

\n