28 países firman un acuerdo para actuar juntos en la primera cumbre de seguridad de la inteligencia artificial
CARLOS FRESNEDA / PAPEL
La Unión Europea, Estados Unidos y China han firmado la así llamada «declaración de Bletchley Park, el primer acuerdo mundial que reconoce «las oportunidades y los riesgos de la Inteligencia Artificial (IA) de frontera» y asume el compromiso de que «los gobiernos trabajen juntos para afrontar los desafíos más importantes».
«Estamos ante un logro histórico que hace que las mayores potencias de IA del mundo coincidan en la urgencia de comprender y garantizar el futuro a largo plazo de nuestros hijos y nietos», declaró el «premier» Rishi Sunak en calidad de anfitrión, en la mansión de la campiña inglesa donde el matemático Alan Turing descifró el código d la máquina alemana Enigma y sentó las bases de la informática moderna.
El acuerdo ha sido suscrito inicialmente por 28 países y servirá de base para futuras cumbres globales sobre la seguridad de la IA cada seis meses meses. Corea del Sur recogerá el testigo y depués lo hará Francia. El objetivo de Sunak es crear un panel al estilo del IPCC del cambio climático que evalúe periódicamente los avances y amenazas de la inteligencia artificial.
Pese a la escasa presencia de líderes mundiales, Sunak ha logrado un fuerte impulso al encuentro de Bletchley Park con la presencia del Elon Musk, con quien planeaba mantener un encuentro en X/Twitter para elevar la atención mediática. Musk fue uno de los firmantes de la carta abierta suscrita la pasada primavera por decenas de científicos y emprendedores a alertando sobre los «grandes riesgos para la humanidad» y pidiendo incluso una pausa de seis meses en los experimentos la IA avanzada o de frontera.
«Tenemos que esperar lo mejor y estar preparados para lo peor», añadió Ellon Musk. «Yo diría que el 80% de la inteligencia artificial traerá cosas buenas, frente al 20% que puede ser usado para cosas malas».
Musk reiteró su convencimiento de que la IA «es una de las grandes amenazas para la humanidad», El fundador de Tesla y propietario de X, acogió favorablemente «el consenso internacional» y se mostró favorable a «la creación de un árbitro para monitorizar la tecnología». «No somos los seres más fuertes o más rápidos que otras criaturas, pero sí más inteligentes. Y por primera vez, estamos ante la tesitura de tener algo más inteligente que el más inteligente de los humanos».
La moratoria de seis meses no ha figurado en la agenda de Bletchley Park, pero el temor a «una carrera descontrolada» entre los gigantes de la tecnología y la pléyade de «startups» que se han lanzado al desarrollo de «cerebros digitales» cada vez más potentes volvió a estar muy presente en el arranque de la cumbre.
PARA SABER MÁS
La secretaria de Estado de Digitalización, Carme Artigas, encabezó por su parte la delegación española y recalcó los avances que se están produciendo en la cumbre no solo «ante los riesgos futuros, sino en los de hoy en día», de la seguridad y el terrorismo al impacto en la salud mental o en la discriminación.
El científico canadiense Yoshua Bengio y por el profesor Yui Zeng, máxima autoridad académica de China en IA, firmaron junto a 250 expertos una nueva carta abierta con un llamamiento a la comunidad global: «Nuestro futuro está en juego. Debemos asegurarnos de que la IA se desarrolla de una manera segura, responsable y para la mejora de toda la humanidad».
Como era de esperar, el fatalismo ganó el pulso al optimismo en la primera de las dos jornadas de la cumbre de Bletchley Park, con debates entre los expertos sobre los riesgos de los «avances impredecibles», el «mal uso» de la IA e incluso a la «pérdida de control». La supervisión de la comunidad científica, la responsabilidad de las corporaciones, el papel de los políticos y la integración en la sociedad fueron algunos de los puntos abordados en las sesiones iniciales.
Nick Clegg, ex viceprimer ministro británico y actual presidente de asuntos globales de Meta, puso el contrapunto advirtiendo de los riesgos de una regulación excesiva de la IA tras la orden presidencial firmada esta misma semana por el presidente Joe Biden, la Ley de IA propuesta por la UE y la creación del AI Safety Institute anunciada por el Reino Unido.
«El verdadero peligro es que acabemos poniendo el carro delante del caballo», declaró Clegg en un acto paralelo a la cumbre en Londres. «El riesgo es el de crear nuevas instituciones, restricciones, limitaciones y poderes a los Gobiernos para interferir antes incluso de que la tecnología haya emergido».
Meta se ha desmarcado de sus competidores con apuestas como el Llama 2 en código abierto, en contraste con el código cerrado, como el GPT-4 de OpenAI en código cerrado. La mano derecha de Mark Zuckenberg para AI es el ingeniero Yann LeCun, que asegura que su compañía pretende «la democratización de la IA» y considera como «exageradas y absurdas» las predicciones fatalistas.
La vicepresidenta norteamericana Kamala Harris advirtió sin embargo que la IA incontrolada «puede poner en peligro la democracia y la privacidad y la seguridad». «Rechazamos la falsa elección la protección de los ciudadanos y el avance de la innovación», declaró Harris. «Podemos y debemos lograr las cosas, y debemos hacerlo rápidamente, dada la velocidad a la que avanzan estas tecnologías».
Al igual que otros asistentes a la cumbre, Harris instó a poner la atención no solo en los retos de la inteligencia artificial de frontera, sino en los problemas que se están creando ya, como la avalancha de desinformación las redes sociales, la interferencia en procesos electoral o el aumento de los fraudes… «Estamos hablando de amenazas adicionales que exigen nuestra acción inmediata porque están causando un daño que, mucha gente, siente como un riesgo existencial».
Fuente: https://www.elmundo.es/papel/futuro/2023/11/01/65422823e85ece711b8b45b0.html