![\"\"](\"https:\/\/losperiodistas.com.mx\/portal\/wp-content\/uploads\/2024\/06\/Captura-de-Pantalla-2024-06-29-a-las-10.01.48-1024x682.jpg\")
Miguel G. Pascual \/ EPS<\/strong><\/p>\n\n\n\n Los pasillos de las oficinas de Google DeepMind<\/a>, en el c\u00e9ntrico barrio londinense de King\u2019s Cross, est\u00e1n casi des\u00e9rticos. Esta empresa, referencia mundial en el desarrollo de la inteligencia artificial (IA)<\/a>, aglutina a algunos de los mejores cient\u00edficos de esta disciplina<\/a>, que trabajan afanosamente a puerta cerrada en modernas estancias ba\u00f1adas en luz natural a las que el visitante no puede siquiera asomarse. Lo que se cuece en las m\u00faltiples pantallas de esos ordenadores es el presente y futuro de la IA, la tecnolog\u00eda llamada a cambiarlo todo. El secretismo es tal que hasta acompa\u00f1an al ba\u00f1o a las visitas.<\/p>\n\n\n\n La estadounidense Lila Ibrahim, de 54 a\u00f1os, camina pausada pero decididamente mientras despliega con el periodista una cercan\u00eda californiana muy bienvenida entre tanto formalismo brit\u00e1nico. Puede abrir con su tarjeta corporativa cualquiera de las decenas de puertas de seguridad sembradas a modo de cortafuegos por el edificio, incluyendo las de acceso restringido. Ibrahim es la directora de operaciones de DeepMind, uno de los cargos clave de la start-up<\/em> fundada en 2010 por tres j\u00f3venes cient\u00edficos y adquirida por Google en 2014. Sus nuevos due\u00f1os decidieron dejar que la compa\u00f1\u00eda londinense siguiera siendo una especie de laboratorio avanzado de la IA dedicado a la investigaci\u00f3n b\u00e1sica multidisciplinar. No les fue mal. Ya en 2016 desarrollaron un robot capaz de vencer a los mejores maestros de Go<\/a>, el juego m\u00e1s complejo que se conoce y en el que la intuici\u00f3n, un atributo te\u00f3ricamente inalcanzable para la IA, es clave. Han sido capaces de predecir la estructura de 200 millones de prote\u00ednas<\/a>, abriendo un nuevo horizonte en la cura de enfermedades. Han descubierto centenares de miles de nuevos materiales y trabajan en un prometedor proyecto de fusi\u00f3n nuclear.<\/p>\n\n\n\n Criada en Indiana por padres libaneses, Ibrahim est\u00e1 acostumbrada a ser \u201cel bicho raro\u201d. Fue una de las tres mujeres de su promoci\u00f3n cuando se licenci\u00f3 en Ingenier\u00eda Electr\u00f3nica y El\u00e9ctrica en la Universidad Purdue (West Lafayette, Indiana). En el campus la conoc\u00edan como la chica de la caja morada. \u201cSol\u00eda llevar a todas partes una cajita con mis transistores y resistencias\u201d, recuerda entre risas. La primera etapa de su carrera la pas\u00f3 en Intel. Tras trabajar en el dise\u00f1o de los procesadores Pentium, apost\u00f3 luego por dos tecnolog\u00edas novedosas, hoy en desuso: USB y DVD. \u201cEntonces nadie pod\u00eda imaginarse poder ver una pel\u00edcula en el ordenador. Hoy, mis hijas no saben qu\u00e9 es un DVD\u201d. A sus gemelas de 14 a\u00f1os las ha llevado a ver mundo: han visitado 40 de los 106 pa\u00edses en los que ha estado Ibrahim. \u201cAprend\u00ed de mis padres que hay que trabajar duro, pero tambi\u00e9n jugar duro\u201d.<\/p>\n\n\n\n M\u00e1s tarde se pas\u00f3 a una gran firma de capital riesgo y, en 2018, la ficharon en Google DeepMind. Echa de menos el sol de California, poco presente en Londres, pero le encandila la diversidad y acervo hist\u00f3rico de la capital brit\u00e1nica, que en su opini\u00f3n se traduce tambi\u00e9n en una visi\u00f3n de la IA m\u00e1s c\u00e1lida que la de Silicon Valley. \u201cTenemos la posibilidad de desarrollar la IA de manera responsable para cambiar el mundo\u201d. A eso \u00faltimo dedica tambi\u00e9n parte de su tiempo libre. Mont\u00f3 un laboratorio inform\u00e1tico en el orfanato liban\u00e9s en el que se crio su padre, fallecido el a\u00f1o pasado. Luego vinieron otros tres centros. \u201cLa tecnolog\u00eda solo tiene sentido si mejora la vida de las personas\u201d, subraya.<\/p>\n\n\n\n \u00bfC\u00f3mo ha llegado la IA a convertirse en la tecnolog\u00eda del momento?<\/strong><\/p>\n\n\n\n Creo que est\u00e1n sucediendo varias cosas a la vez. La primera es que la IA, desde una perspectiva tecnol\u00f3gica, se ha vuelto m\u00e1s avanzada. Y ahora tenemos la potencia de c\u00e1lculo suficiente como para explotarla, as\u00ed que podemos empezar a imaginar c\u00f3mo usarla para resolver problemas. Nos enfrentamos a grandes desaf\u00edos globales, y estamos teniendo dificultades para encontrar soluciones. Parte de la raz\u00f3n por la que estoy aqu\u00ed tiene que ver con la misi\u00f3n de Google DeepMind: c\u00f3mo podemos usar la IA para ayudarnos a promover soluciones y proporcionar ciencia avanzada.<\/p>\n\n\n\n \u00bfDebemos temer a la IA? \u00bfQu\u00e9 amenazas implica su uso generalizado?<\/strong><\/p>\n\n\n\n La IA tiene el potencial de ser la tecnolog\u00eda m\u00e1s transformadora de nuestro tiempo. Y, por eso, debemos tener un cuidado excepcional con ella. Pensamos en los riesgos a lo largo de todo el camino. A corto plazo difunde sesgos e ideas err\u00f3neas, malentendidos. Y eso es muy real, ya que podr\u00eda perpetuar estereotipos que siguen existiendo en el mundo. A largo plazo hablamos de qui\u00e9n tiene el control de esta tecnolog\u00eda, de c\u00f3mo podemos entender lo que est\u00e1 sucediendo y de c\u00f3mo asegurarnos de que no se vuelva tan poderosa que los humanos no puedan controlarla<\/a>. Somos conscientes de que nuestro deber para con la humanidad es asegurarnos de que desarrollamos y pastoreamos cuidadosamente esta tecnolog\u00eda.<\/p>\n\n\n\n \u00bfC\u00f3mo se aborda eso exactamente en el d\u00eda a d\u00eda?<\/strong><\/p>\n\n\n\n Nos hemos esforzado mucho en desarrollar una cultura de responsabilidad. Lo mejor de DeepMind es que, desde su fundaci\u00f3n en 2010, hemos adoptado un enfoque realmente responsable. Hay que preguntarse si tienes la gobernanza adecuada y los procesos correctos, pero tambi\u00e9n si cuentas con el talento y los puntos de control id\u00f3neos. Nosotros enfocamos el problema en t\u00e9rminos de una cultura de liderazgo responsable. Y lo analizamos en funci\u00f3n de tres elementos diferentes. Primero, si tenemos la cadena de responsabilidad correcta, un buen sistema de gobernanza. Segundo, si nuestra investigaci\u00f3n es responsable y segura. Y tercero, \u00bfc\u00f3mo pensamos en nuestro impacto a medida que lanzamos la tecnolog\u00eda al mundo? \u00bfCu\u00e1les son los riesgos y las oportunidades? \u00bfQu\u00e9 hacemos para mitigar los posibles efectos negativos?<\/p>\n\n\n\n \u00bfEn qu\u00e9 consisten los puntos de control que menciona?<\/strong><\/p>\n\n\n\n En la fase de investigaci\u00f3n, evaluamos varios aspectos. \u00bfC\u00f3mo se comportan los modelos en comparaci\u00f3n con lo previsto? \u00bfEstamos haciendo equipos piloto para empezar realmente a probar el modelo e intentar encontrar los puntos de quiebre? Este proceso lo llevamos a cabo internamente, pero tambi\u00e9n con el apoyo de grupos externos que podr\u00edan ayudarnos a hacer esas pruebas con una mirada no contaminada por nuestro propio enfoque. Tras la fase de investigaci\u00f3n, la segunda \u00e1rea en la que nos centramos es en la t\u00e9cnica: lo que estamos incorporando en los modelos para asegurarnos de que se tienen en cuenta los controles correctos. Luego tambi\u00e9n hacemos pruebas sociot\u00e9cnicas. Y lo \u00faltimo es evaluar el impacto responsable de la tecnolog\u00eda. A pesar de que hemos logrado tantos avances, la IA a\u00fan est\u00e1 en una fase muy temprana de su desarrollo, como si estuvi\u00e9ramos en el primer tramo de una escalera muy larga. Y es importante que, cuando realicemos las pruebas, adoptemos una mentalidad de mejora continua. Cuantas m\u00e1s personas accedan a la tecnolog\u00eda, m\u00e1s se probar\u00e1. Tenemos que poder responder muy r\u00e1pido cuando nos enteremos de que las cosas no van como esper\u00e1bamos.<\/p>\n\n\n\n Deme un ejemplo concreto.<\/strong><\/p>\n\n\n\n Cuando lanzamos AlphaFold [la herramienta que ha predicho la estructura de 200 millones de prote\u00ednas]<\/a>, hablamos con m\u00e1s de 50 expertos en la materia porque quer\u00edamos asegurarnos de que entend\u00edamos cu\u00e1les podr\u00edan ser los posibles riesgos y tambi\u00e9n las oportunidades. Aunque tenemos especialistas en bio\u00e9tica, hablamos con otros, incluyendo ganadores del Premio Nobel, que nos animaron a lanzarlo. La primera versi\u00f3n la sacamos en asociaci\u00f3n con el Instituto Europeo de Bioinform\u00e1tica.<\/p>\n\n\n\n Google llevaba a\u00f1os trabajando en su propio gran modelo de lenguaje, pero permaneci\u00f3 en fase experimental porque se consider\u00f3 que todav\u00eda hab\u00eda que probarlo m\u00e1s. De repente, llega OpenAI, saca ChatGPT y, tan solo tres meses despu\u00e9s, Google presenta Bard. \u00bfEn tan poco tiempo se resolvieron todas las dudas?<\/strong><\/p>\n\n\n\n Bueno, desde mi punto de vista, mucho de eso tuvo que ver con la aceptaci\u00f3n de la herramienta y la demanda del mercado. Pensamos que la tecnolog\u00eda necesitaba m\u00e1s innovaci\u00f3n, estar m\u00e1s basada en la realidad y m\u00e1s factualidad. Nos sorprendi\u00f3 que el mercado estuviera realmente preparado para esta tecnolog\u00eda. Por eso, cuando lo lanzamos, nos preguntamos: \u00bfc\u00f3mo nos aseguramos de tener claro qu\u00e9 es esto y qu\u00e9 alternativas se pueden ofrecer? Gemini [el modelo que sustituy\u00f3 a Bard] sigue siendo una tecnolog\u00eda experimental. Se trata de defender nuestros propios principios y valores al mismo tiempo que brindamos acceso a la tecnolog\u00eda que las personas desean. Efectivamente, nosotros ten\u00edamos un extenso documento t\u00e9cnico sobre grandes modelos ling\u00fc\u00edsticos antes de que se lanzara ChatGPT. El primero que hicimos en Google DeepMind es de 2021<\/a>, pero no lo publicamos hasta que terminamos el documento sociot\u00e9cnico.<\/p>\n\n\n\n \u00bfHasta qu\u00e9 punto han cambiado estos pesos y contrapesos con la irrupci\u00f3n de la IA generativa? \u00bfEs esta variante de la IA m\u00e1s ind\u00f3mita que las otras?<\/strong><\/p>\n\n\n\n La tecnolog\u00eda se est\u00e1 desarrollando muy r\u00e1pido. Cuando identificamos algo que ocurre y que nos resulta inesperado, tomamos medidas r\u00e1pidas y tratamos de entender la causa principal. Y creo que eso es lo que ocurri\u00f3 recientemente con la situaci\u00f3n de la aplicaci\u00f3n Gemini [en referencia a que un intento por corregir sus sesgos hizo que generase im\u00e1genes de nazis negros<\/a>]. Estamos aprendiendo como industria. El algoritmo Transformer, la piedra de toque de los modelos ling\u00fc\u00edsticos, se desarroll\u00f3 en Google en 2017. Hemos tenido esta tecnolog\u00eda durante a\u00f1os. Para m\u00ed, que no procedo del mundo de la IA, cuando empec\u00e9 a interactuar con modelos ling\u00fc\u00edsticos fue incre\u00edble. Pero no pod\u00eda dec\u00edrselo a nadie porque no estaba disponible en el mundo exterior. Y no est\u00e1bamos seguros de la capacidad de lanzar esta tecnolog\u00eda porque a\u00fan ten\u00eda alucinaciones [cuando se inventa cosas], daba errores. Me ha sorprendido ver que la sociedad est\u00e1 casi dispuesta a tolerar que haya fallos en la tecnolog\u00eda para poder seguir prob\u00e1ndola. Y realmente necesitamos que el mundo nos ayude a hacer las pruebas.<\/p>\n\n\n\n En torno a la IA se produce un fen\u00f3meno extra\u00f1o. Por un lado, las propias empresas ponen en marcha mecanismos para hacer que los usuarios se sientan seguros con estas herramientas. Pero, por otro, los ejecutivos de algunas de esas compa\u00f1\u00edas, como la suya, firman manifiestos como la <\/strong>Declaraci\u00f3n sobre el riesgo de extinci\u00f3n<\/strong><\/em><\/a>, en la que se proclama que la IA es potencialmente tan da\u00f1ina como las pandemias o una guerra nuclear.<\/strong><\/p>\n\n\n\n Yo lo firm\u00e9, s\u00ed.<\/p>\n\n\n\n \u00bfSe puede decir que no hay nada que temer y al mismo tiempo advertir de que esta tecnolog\u00eda nos puede aniquilar?<\/strong><\/p>\n\n\n\n Bueno, puedo hablar de mi propia experiencia al respecto. D\u00e9jeme contarle c\u00f3mo termin\u00e9 aqu\u00ed. Cuando me entrevistaron para este puesto, no ten\u00eda experiencia en IA o aprendizaje autom\u00e1tico. Me dediqu\u00e9 30 a\u00f1os a la tecnolog\u00eda. Viv\u00eda en Silicon Valley, pero hab\u00eda recorrido mucho mundo y pens\u00e9: \u00bfpor qu\u00e9 Londres, por qu\u00e9 IA? Un mentor m\u00edo me anim\u00f3 a hablar con Demis [Hassabis, cofundador y consejero delegado de Google DeepMind]<\/a>. Cuanto m\u00e1s hablaba con \u00e9l, m\u00e1s me emocionaba porque pensaba que, si pudi\u00e9ramos hacerlo bien, la IA podr\u00eda cambiar muchas cosas. As\u00ed que estaba muy entusiasmada y me sent\u00eda optimista. Cuanto m\u00e1s aprend\u00eda, m\u00e1s me gustaba, pero m\u00e1s me preocupaba tambi\u00e9n. Y pens\u00e9 que, si pudiera aportar mis 30 a\u00f1os de experiencia llevando ordenadores a nuevas comunidades o internet a ciudades y pa\u00edses que no hab\u00edan tenido acceso antes a este momento clave en el que se encuentra la IA, quiz\u00e1s tendr\u00eda un impacto real en todo esto. Tras la entrevista, vi a mis hijas y pens\u00e9: \u00bfpuedo hacer que duerman tranquilas todas las noches? As\u00ed que fue una decisi\u00f3n muy seria para m\u00ed. Al final decid\u00ed entrar porque siento que tengo la obligaci\u00f3n moral de tratar de hacer que la IA mejore nuestras vidas.<\/p>\n\n\n\n \u00bfC\u00f3mo enfoca los riesgos existenciales incluidos en la declaraci\u00f3n?<\/strong><\/p>\n\n\n\n Cuando la firm\u00e9, sent\u00ed que hab\u00eda muchas cosas que pod\u00edan salir bien y otras que pod\u00edan salir mal. Espero que nunca nos acerquemos ni de lejos al riesgo existencial, pero para poder sentir que hago mi trabajo como l\u00edder tengo que firmar el documento, porque dejo por escrito que debemos tomarnos en serio los riesgos y que tenemos que tener una conversaci\u00f3n abierta al respecto. Si lo hacemos, evitaremos la cat\u00e1strofe. Hay que manejar esta tecnolog\u00eda transformadora y extraordinaria con el cuidado que requiere. Eso incluye colaboraci\u00f3n internacional y regulaci\u00f3n.<\/p>\n\n\n\n \u00bfQu\u00e9 proyecto destacar\u00eda de los que tiene ahora mismo Google DeepMind en marcha?<\/strong><\/p>\n\n\n\n Creo que gran parte del trabajo en el \u00e1rea de la ciencia es particularmente emocionante. Gracias a AlphaFold estamos viendo los avances que supone la comprensi\u00f3n de las prote\u00ednas en sus interacciones internas con el ADN, el ARN y los ligandos<\/em> para la comprensi\u00f3n de las enfermedades, pero tambi\u00e9n para la salud de los cultivos o las enzimas que se alimentan de pl\u00e1sticos y residuos industriales. La comprensi\u00f3n de la estructura de las prote\u00ednas ha desbloqueado una nueva forma de pensar para los cient\u00edficos que abordan desaf\u00edos realmente importantes. Tambi\u00e9n destacar\u00eda nuestro descubrimiento cient\u00edfico de materiales del a\u00f1o pasado: pasamos de 40.000 materiales conocidos a quiz\u00e1s cientos de miles. Eso podr\u00eda significar, por ejemplo, una tecnolog\u00eda nueva y mejor para las bater\u00edas de los veh\u00edculos el\u00e9ctricos. Tambi\u00e9n hemos aportado modelos capaces de hacer pron\u00f3sticos meteorol\u00f3gicos muy precisos a 10 d\u00edas vista, lo cual nos ayudar\u00e1 a navegar los fen\u00f3menos clim\u00e1ticos extremos.<\/p>\n\n\n\n Cuando <\/strong>Google decidi\u00f3 integrar DeepMind en su divisi\u00f3n de IA<\/strong><\/a>, mucha gente pens\u00f3 que la investigaci\u00f3n b\u00e1sica se sustituir\u00eda por el desarrollo de herramientas para el gran p\u00fablico, <\/strong>como Astra<\/strong><\/a>. \u00bfHa sido as\u00ed?<\/strong><\/p>\n\n\n\n Siempre hemos trabajado en productos, aunque era algo no necesariamente conocido entre el p\u00fablico. Hemos aumentado la duraci\u00f3n de la bater\u00eda de los tel\u00e9fonos Android. Colaboramos con nuestros colegas de Google para optimizar el consumo energ\u00e9tico de los centros de datos. Al mismo tiempo que adopt\u00e1bamos un enfoque mucho m\u00e1s activo en IA generativa con Gemini, lanzamos Alpha Missense [una herramienta que predice el efecto de mutaciones de las prote\u00ednas]. Creemos que a\u00fan queda mucho por investigar sobre la IA para mejorar los modelos. Mi trabajo consiste tambi\u00e9n en pensar en c\u00f3mo organizamos nuestros equipos de manera que puedan contratar talentos fant\u00e1sticos. Les damos el espacio para que prosperen en su \u00e1rea de especializaci\u00f3n. Y, luego, esas investigaciones se traducen en productos y servicios.<\/p>\n\n\n\n Ya que habla de talento, no he visto demasiadas mujeres por los pasillos.<\/strong><\/p>\n\n\n\n Nos hemos esforzado mucho para crear una organizaci\u00f3n m\u00e1s diversa. Tenemos grupos de recursos para empleados en torno a, ya sabes, de todo, desde padres y madres hasta mujeres y personas LGBTQ y tambi\u00e9n de diferentes etnias. Tratamos de fomentar la naturaleza colaborativa del equipo. \u00bfLo podr\u00edamos hacer mejor? Sin duda. Uno de mis principales empe\u00f1os en este momento es que debemos seguir poniendo el list\u00f3n muy alto en el reclutamiento y en desarrollar internamente el talento. Tambi\u00e9n debemos asegurarnos de conectarnos con las comunidades que est\u00e1n infrarrepresentadas externamente, porque es importante hacer o\u00edr su voz en el trabajo que realizamos, especialmente en lo que respecta a nuestras aspiraciones en torno a la IA.<\/p>\n\n\n\n \u00bfC\u00f3mo abordan la creciente huella medioambiental de la IA, que es altamente demandante de <\/strong>energ\u00eda, agua y minerales<\/strong><\/a>?<\/strong><\/p>\n\n\n\n Es algo en lo que pensamos mucho. Estamos creando modelos m\u00e1s peque\u00f1os y eficientes, con menos procesamiento, como Gemini 1.5 Flash. Tambi\u00e9n hemos podido reducir el consumo de energ\u00eda en los centros de datos de Google en aproximadamente un 40%, simplemente utilizando la IA como una herramienta de optimizaci\u00f3n. Intentaremos seguir reduciendo nuestra huella.<\/p>\n\n\n\n![\"Lila](\"https:\/\/imagenes.elpais.com\/resizer\/v2\/J777ZR3V5FDCRJZZNIN2N7ZOYY.jpg?auth=66a75b1c1a08ad4823181dad2cb34aacf31aa0259446f447a93c1cafde56edea&width=414\")