Por Foo Yun Chee , Martin Coulter y Supantha Mukherjee / REUTERS
Europa alcanzó el viernes un acuerdo provisional sobre normas históricas de la Unión Europea que rigen el uso de inteligencia artificial, incluido el uso de la IA por parte de los gobiernos en la vigilancia biométrica y cómo regular sistemas de IA como ChatGPT.
Con el acuerdo político, la UE avanza hacia convertirse en la primera gran potencia mundial en promulgar leyes que rijan la IA. El acuerdo del viernes entre los países de la UE y los miembros del Parlamento Europeo se produjo después de casi 15 horas de negociaciones que siguieron a un debate de casi 24 horas el día anterior.
Las dos partes discutirán los detalles en los próximos días, lo que podría cambiar la forma de la legislación final.
«Europa se ha posicionado como pionera, comprendiendo la importancia de su papel como emisor de normas globales. Creo que este es un día histórico», dijo el Comisario europeo Thierry Breton en una conferencia de prensa.
El acuerdo requiere que los modelos básicos como ChatGPT y los sistemas de inteligencia artificial de propósito general (GPAI) cumplan con las obligaciones de transparencia antes de salir al mercado. Estos incluyen la elaboración de documentación técnica, el cumplimiento de la ley de derechos de autor de la UE y la difusión de resúmenes detallados sobre el contenido utilizado para la formación.
Los modelos básicos de alto impacto con riesgo sistémico tendrán que realizar evaluaciones de modelos, evaluar y mitigar los riesgos sistémicos, realizar pruebas adversas, informar a la Comisión Europea sobre incidentes graves, garantizar la ciberseguridad e informar sobre su eficiencia energética.
Las GPAI con riesgo sistémico pueden depender de códigos de práctica para cumplir con la nueva regulación.
Los gobiernos sólo pueden utilizar la vigilancia biométrica en tiempo real en espacios públicos en casos de víctimas de ciertos delitos, prevención de amenazas genuinas, presentes o previsibles, como ataques terroristas, y búsqueda de personas sospechosas de los delitos más graves.
El acuerdo prohíbe la manipulación cognitiva conductual, la eliminación no selectiva de imágenes faciales de Internet o imágenes de CCTV, la puntuación social y los sistemas de categorización biométrica para inferir creencias políticas, religiosas, filosóficas, orientación sexual y raza.
Los consumidores tendrían derecho a presentar quejas y recibir explicaciones significativas, mientras que las multas por infracciones oscilarían entre 7,5 millones de euros (8,1 millones de dólares) o el 1,5% de la facturación global y 35 millones de euros o el 7% de la facturación global.
[1/2] Foto de archivo: El robot humanoide avanzado ‘Sophia’ aparece en la Cumbre Mundial AI for Good, en Ginebra, Suiza, el 6 de julio de 2023. REUTERS/Pierre Albouy/Foto de archivo Adquirir derechos de licencia
El grupo empresarial DigitalEurope criticó las normas calificándolas de una carga más para las empresas, además de otras leyes recientes.
«Tenemos un acuerdo, pero ¿a qué costo? Apoyamos plenamente un enfoque basado en el riesgo basado en los usos de la IA, no en la tecnología en sí, pero el intento de último minuto de regular los modelos básicos ha puesto esto patas arriba», dijo su dijo la directora general Cecilia Bonefeld-Dahl.
El grupo de derechos de privacidad European Digital Rights fue igualmente crítico.
«Es difícil entusiasmarse con una ley que, por primera vez en la UE, ha tomado medidas para legalizar el reconocimiento facial público en vivo en todo el bloque», dijo su principal asesora política, Ella Jakubowska.
«Aunque el Parlamento luchó duramente para limitar los daños, el paquete general sobre vigilancia biométrica y elaboración de perfiles es, en el mejor de los casos, tibio.»
Se espera que la legislación entre en vigor a principios del próximo año una vez que ambas partes la ratifiquen formalmente y debería aplicarse dos años después.
Los gobiernos de todo el mundo están tratando de equilibrar las ventajas de la tecnología, que puede entablar conversaciones similares a las humanas, responder preguntas y escribir códigos informáticos, con la necesidad de establecer barreras de seguridad.
Las ambiciosas normas europeas sobre IA se producen mientras empresas como OpenAI, en la que Microsoft es inversor , siguen descubriendo nuevos usos para su tecnología, lo que genera aplausos y preocupaciones. El propietario de Google, Alphabet (GOOGL.O), lanzó el jueves un nuevo modelo de inteligencia artificial, Gemini, para rivalizar con OpenAI.
La ley de la UE podría convertirse en el modelo para otros gobiernos y una alternativa al enfoque laxo de Estados Unidos y las reglas provisionales de China.
(1 dólar = 0,9293 euros)
Escrito por Josephine Mason; Edición de Cynthia Osterman y Stephen Coates
Fuente: https://www.reuters.com/technology/stalled-eu-ai-act-talks-set-resume-2023-12-08/