La nueva empresa, Safe Superintelligence, tendrá sus oficinas repartidas entre Silicon Valley e Israel
Miguel Jiménez / El País
La carrera de la inteligencia artificial tiene un nuevo competidor tomando la salida. Se trata de Safe Superintelligence Inc, una compañía creada por Ilya Sutskever, que era el científico jefe de OpenAI, la firma dirigida por Sam Altman de la que fue cofundador. La nueva empresa estará domiciliada en Estados Unidos, pero tendrá sus oficinas repartidas entre Palo Alto (California) y Tel Aviv (Israel). Sutskever ha lanzado Safe Superintelligence poco más de un mes después de anunciar su salida de OpenAI, la compañía que asombró al mundo con su ChatGPT.
“La superinteligencia está al alcance de la mano. Construir una superinteligencia segura (SSI) es el problema técnico más importante de nuestro tiempo. Hemos puesto en marcha el primer laboratorio de SSI del mundo, con un objetivo y un producto: una superinteligencia segura. Se llama Safe Superintelligence Inc”, ha anunciado Sutskever, de 38 años, a través de la red social X. La superinteligencia, también llamada por otros inteligencia artificial general, es aquella que supera a los humanos.
La posición del experto en aprendizaje automático —con doble nacionalidad israelí-canadiense, pero nacido en Rusia— dentro de OpenAI quedó algo comprometida en el fracasado intento de despedir a Sam Altman. Sutskever se unió a los consejeros independientes de OpenAI para despedir al primer ejecutivo de la compañía, en quien habían perdido la confianza. Luego, tras la revuelta de los trabajadores de la firma, mostró su arrepentimiento: “Lamento profundamente mi participación en las acciones del consejo. Nunca fue mi intención perjudicar a OpenAI. Amo todo lo que hemos construido juntos y haré todo lo posible para volver a unir a la compañía”, tuiteó.
En su momento, se especuló con que las razones del descontento del científico jefe, una pieza clave en el desarrollo de OpenAI, se debían a que la compañía estaba avanzando demasiado rápido sin las salvaguardas apropiadas y cediendo a las tentaciones comerciales con sus productos y servicios. En plena crisis en la cúpula de OpenAI, se publicó que varios investigadores de la plantilla de OpenAI enviaron una carta al consejo poco antes del despido de Sam Altman en la que advertían de un poderoso descubrimiento de inteligencia artificial liderado por el propio Sutskever que, según ellos, podría amenazar a la humanidad.
En mayo, cuando anunció su dimisión como científico jefe de OpenAI, anticipó que estaba “entusiasmado” con un nuevo proyecto del que entonces prefirió no dar más detalles. Ahora, firma su mensaje junto a otro antiguo empleado de OpenAI, Daniel Levy, y el empresario y emprendedor de 32 años nacido en Jerusalén Daniel Gross, cofundador del motor de búsqueda Cue, que vendió a Apple en 2013. Gross trabajó luego en los proyectos de inteligencia artificial en ese gigante tecnológico y fue socio de Y-Combinator, además de inversor en diferentes firmas tecnológicas como Instacart, Figma, GitHub, Airtable, Rippling y Coinbase.
“La superinteligencia segura es nuestra misión, nuestro nombre y toda nuestra hoja de ruta de productos, porque es nuestro único objetivo. Nuestro equipo, nuestros inversores y nuestro modelo de negocio están alineados para lograr SSI”, dicen los tres en su mensaje.
La seguridad, por delante
Indican también que abordan la seguridad y las capacidades de forma conjunta, como problemas técnicos que deben resolverse mediante avances científicos y de ingeniería revolucionarios. “Planeamos avanzar en capacidades lo más rápido posible, asegurándonos de que nuestra seguridad siempre va por delante. De este modo, podemos crecer con tranquilidad”.
La nueva empresa parece marcar distancias con otras firmas, incluida OpenAI, que en paralelo a su investigación buscan lanzar productos y servicios que generen los ingresos suficientes para seguir invirtiendo en investigadores y capacidad de computación.
Sin dar detalles de esa aproximación ni de los inversores con los que cuentan, Sutskever y sus socios afirman: “Nuestro enfoque singular significa que no nos distraen los gastos generales de gestión ni los ciclos de los productos, y nuestro modelo de negocio significa que la seguridad y el progreso están aislados de las presiones comerciales a corto plazo”.
La empresa explica su doble sede en Palo Alto (California) y Tel Aviv, en que tienen allí “raíces profundas y la capacidad de reclutar a los mejores talentos técnicos”.
Fuente: El País