Sheila Dang y Katie Paul / REUTERS
Un grupo de 20 empresas tecnológicas anunció el viernes que acordaron trabajar juntas para evitar que contenidos engañosos de inteligencia artificial interfieran con las elecciones en todo el mundo este año.El rápido crecimiento de la inteligencia artificial generativa (IA), que puede crear texto, imágenes y videos en segundos en respuesta a indicaciones, ha aumentado los temores de que la nueva tecnología pueda usarse para influir en las elecciones más importantes de este año, ya que más de la mitad de los habitantes del mundo La población se dispone a acudir a las urnas.
Los firmantes del acuerdo tecnológico, que se anunció en la Conferencia de Seguridad de Múnich, incluyen empresas que están construyendo modelos de IA generativa utilizados para crear contenido, incluidas OpenAI, Microsoft (MSFT.O), abre una nueva pestañay Adobe (ADBE.O), abre una nueva pestaña. Otros firmantes incluyen plataformas de redes sociales que enfrentarán el desafío de mantener el contenido dañino fuera de sus sitios, como Meta Platforms (META.O), abre una nueva pestaña, TikTok y X, antes conocido como Twitter.
El acuerdo incluye compromisos para colaborar en el desarrollo de herramientas para detectar imágenes, videos y audio engañosos generados por IA, crear campañas de concientización pública para educar a los votantes sobre contenido engañoso y tomar medidas sobre dicho contenido en sus servicios.La tecnología para identificar contenido generado por IA o certificar su origen podría incluir marcas de agua o incrustar metadatos , dijeron las empresas.El acuerdo no especificaba un cronograma para cumplir los compromisos ni cómo los implementaría cada empresa.
«Creo que la utilidad de este (acuerdo) es la amplitud de las empresas que lo firman», dijo Nick Clegg, presidente de asuntos globales de Meta Platforms.“Está muy bien si las plataformas individuales desarrollan nuevas políticas de detección, procedencia, etiquetado, marcas de agua, etc., pero a menos que exista un compromiso más amplio para hacerlo de una manera interoperable compartida, nos quedaremos atrapados en una mezcolanza de diferentes compromisos”, dijo Clegg.
La IA generativa ya se está utilizando para influir en la política e incluso convencer a la gente de que no vote.En enero, una llamada automática con un audio falso del presidente estadounidense Joe Biden circuló entre los votantes de New Hampshire, instándolos a quedarse en casa durante las elecciones primarias presidenciales del estado.A pesar de la popularidad de las herramientas de generación de texto como ChatGPT de OpenAI, las empresas tecnológicas se centrarán en prevenir los efectos nocivos de las fotos, vídeos y audio de la IA, en parte porque la gente tiende a tener más escepticismo con el texto, dijo Dana Rao, directora de confianza de Adobe, en una entrevista.»Existe una conexión emocional entre el audio, el vídeo y las imágenes», dijo. «Tu cerebro está programado para creer ese tipo de medios».
Informe de Sheila Dang en Dallas y Katie Paul en Nueva York Editado por Matthew Lewis