{"id":37924,"date":"2022-09-28T07:13:52","date_gmt":"2022-09-28T12:13:52","guid":{"rendered":"http:\/\/losperiodistas.com.mx\/portal\/?p=37924"},"modified":"2022-09-28T07:13:56","modified_gmt":"2022-09-28T12:13:56","slug":"el-enorme-lio-de-las-imagenes-creadas-por-robots-derechos-de-autor-falsedad-manipulacion-publico","status":"publish","type":"post","link":"https:\/\/losperiodistas.com.mx\/portal\/el-enorme-lio-de-las-imagenes-creadas-por-robots-derechos-de-autor-falsedad-manipulacion-publico\/","title":{"rendered":"El enorme l\u00edo de las im\u00e1genes ‘creadas’ por robots: derechos de autor, falsedad, manipulaci\u00f3n\u2026 | P\u00fablico"},"content":{"rendered":"\n

El desarrollo de la inteligencia artificial contin\u00faa a gran velocidad, y a la vez genera complejos \u2014tambi\u00e9n viejos\u2014 problemas. Pero \u00bfc\u00f3mo abordar los asombrosos avances tecnol\u00f3gicos de la IA sin conocer realmente c\u00f3mo funciona?<\/p>\n\n\n\n

<\/p>\n\n\n\n

\"\"
Imagen falsa a partir de una descripci\u00f3n en ingl\u00e9s, generada en Huggingface.\u00a0\u2014<\/em>\u00a0Robin Rombach, Patrick Esser y otros. (Licencia CreativeML Open RAIL-M)<\/em>


<\/figcaption><\/figure>\n\n\n\n

PABLO ROMERO \/ P\u00daBLICO<\/p>\n\n\n\n

Camino<\/strong>\u00a0y\u00a0Alejandra\u00a0<\/strong>son una invenci\u00f3n. Son dos identidades\u00a0falsas\u00a0<\/strong>que ponen cara (tambi\u00e9n falsa) a una sola cuenta en Twitter. Esta cuenta cambia de nombre constantemente, borra sus tuits con regularidad y parece reactivarse cuando respalda una determinada ideolog\u00eda o para ayudar a neutralizar otros discursos contrarios.<\/p>\n\n\n\n

Mariluz Congosto<\/strong>, inform\u00e1tica, investigadora y docente especialista en an\u00e1lisis de redes sociales y visualizaci\u00f3n de datos, ha realizado\u00a0uno de sus famosos hilos<\/strong>\u00a0en la red social del pajarito para desenmascarar esta cuenta, que ella cree que es \u00abprofesional\u00bb.<\/p>\n\n\n\n

\u00abQue sea cada vez sea m\u00e1s complicado distinguir las im\u00e1genes reales de las que son construidas va a complicar a su vez distinguir la realidad de la virtualidad; eso tiene un factor negativo, y es que es que\u00a0cada vez vamos a ser m\u00e1s manipulables<\/strong>\u00ab, comenta a\u00a0P\u00fablico\u00a0<\/em>Congosto.<\/p>\n\n\n\n

\nhttps:\/\/twitter.com\/congosto\/status\/1574477865151758338?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1574477865151758338%7Ctwgr%5E4d34f027cbf8b4259cb19cf4ab8c5e79c4a43560%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Fwww.publico.es%2Fciencias%2Fenorme-lio-imagenes-creadas-robots-derechos-autor-falsedad-manipulacion.html\n<\/div><\/figure>\n\n\n\n

Existe un creciente n\u00famero de generadores de im\u00e1genes ‘nuevas’ tanto a partir de otras anteriores como a partir de textos. Todos ellos se alimentan de miles de millones de datos disponibles en la red y compiten entre s\u00ed<\/strong>, tanto si son tecnolog\u00edas propietarias como si son libres.<\/p>\n\n\n\n

OpenIA ha desarrollado Dall-E<\/a>, una potente herramienta que no deja de sorprender<\/a> por su capacidad para modificar im\u00e1genes e \u00abimaginar\u00bb mundos, fondos o personajes. Nvidia<\/a> tiene un potente motor que puede a\u00f1adir una textura 3D a una fotograf\u00eda digital con GET3D<\/a>.<\/p>\n\n\n\n

Otros motores populares para ‘regenerar’ im\u00e1genes son DreamStudio, desarrollado en abierto por\u00a0Stability IA<\/a>\u00a0[], capaz tambi\u00e9n de generar im\u00e1genes a partir de un texto descriptivo y que puede probarse gratis en algunos lugares como\u00a0Hugging Face<\/a>;\u00a0Midjourney<\/a>,\u00a0Craiyon<\/a>\u00a0–antes conocido como Dall-E Mini–, el generador de\u00a0collages<\/em>\u00a0de\u00a0Artbreeder<\/a>,\u00a0Jasper Art<\/a>\u00a0y, por supuesto, gigantes de internet como\u00a0Meta<\/strong>\u00a0(Facebook, Instagram…), que ya cuenta con su propio desarrollo llamada\u00a0Make-A-Scene.<\/a><\/p>\n\n\n\n

Hay y habr\u00e1 muchos m\u00e1s desarrollos<\/strong> en los que se aplica la inteligencia artificial para generar contenidos \u00abpropios\u00bb. Algunos de estos robots pueden ‘imitar’ los sentimientos humanos<\/a> de manera que suscitan tanto el asombro como el resquemor<\/strong>. Sin embargo, si se tienen en cuenta los procesos<\/a> detr\u00e1s de este desarrollo (que se basan en alimentar con datos una m\u00e1quina de modo que \u00e9sta encuentre patrones para, despu\u00e9s, realizar predicciones) pueden detectarse sus aspectos nocivos para establecer unos ciertos l\u00edmites y facilitar su gobernanza<\/a>.<\/p>\n\n\n\n

L\u00edmites \u00e9ticos<\/h2>\n\n\n\n

El reto de establecer un marco \u00e9tico a las im\u00e1genes ‘autom\u00e1ticas’  \u00abya apareci\u00f3 hace unos a\u00f1os con la proliferaci\u00f3n de herramientas que permit\u00edan
hacer, por ejemplo ‘deepfakes’<\/a> (modificaci\u00f3n de im\u00e1genes de manera que se generan identidades falsas hiperrealistas)\u00bb, comenta a P\u00fablico <\/em>Lorena Fern\u00e1ndez \u00c1lvarez<\/strong>, directora de Identidad Digital de la Universidad de Deusto.<\/p>\n\n\n\n

\u00abUn caso muy conocido fue el de\u00a0DeepNude<\/strong>, que desnudaba fotos de mujeres\u00bb, recuerda. \u00abAunque esta herramienta fue\u00a0finalmente retirada del mercado<\/a>, actualmente siguen funcionando aplicaciones similares, incluso en canales
dedicados de Telegram y WhatsApp que ofrecen el mismo tipo de servicios\u00bb.<\/p>\n\n\n\n

Para Idoia Salazar<\/strong>, presidenta y cofundadora del Observatorio del Impacto Social y \u00c9tico de la Inteligencia Artificial (OdiseIA<\/a>), es importante \u00abtener en cuenta que estos desarrollos no son hechos (al menos por ahora) por la m\u00e1quina en s\u00ed misma, sino que hay una persona detr\u00e1s que es la que tiene la intenci\u00f3n de hacer el bien o el mal<\/strong>\u00ab.<\/p>\n\n\n\n

Mariluz Congosto apunta, como inform\u00e1tica, que es el uso de la tecnolog\u00eda el que puede ser bueno o malo; esta experta recuerda que \u00abexiste ya una corriente de investigaci\u00f3n \u00e9tica, para medir qu\u00e9 consecuencias pueden tener estos desarrollos\u00bb. Para ella, la \u00abtransparencia\u00bb en los procesos de la inteligencia artificial en general es clave. Una postura que comparte con colegas como\u00a0Ana Valdivia Garc\u00eda<\/a><\/strong>, investigadora en el King’s College de Londres y centrada en el\u00a0uso justo y \u00e9tico de los procesos automatizados<\/strong>.<\/p>\n\n\n\n

\n

No, no es un ni\u00f1o ni una ni\u00f1a
No es real
Es una imagen generada por un m\u00e1quina pic.twitter.com\/VKbWpvD3t3<\/a><\/p>— mmadrigal (@SoyMmadrigal) September 26, 2022<\/a><\/blockquote>