{"id":48530,"date":"2023-03-19T07:26:00","date_gmt":"2023-03-19T13:26:00","guid":{"rendered":"http:\/\/losperiodistas.com.mx\/portal\/?p=48530"},"modified":"2023-03-19T07:26:02","modified_gmt":"2023-03-19T13:26:02","slug":"deepfakes-la-amenaza-con-millones-de-visualizaciones-que-se-ceba-con-las-mujeres-y-desafia-la-seguridad-y-la-democracia-el-pais","status":"publish","type":"post","link":"https:\/\/losperiodistas.com.mx\/portal\/deepfakes-la-amenaza-con-millones-de-visualizaciones-que-se-ceba-con-las-mujeres-y-desafia-la-seguridad-y-la-democracia-el-pais\/","title":{"rendered":"\u2018Deepfakes\u2019: la amenaza con millones de visualizaciones que se ceba con las mujeres y desaf\u00eda la seguridad y la democracia | El Pa\u00eds"},"content":{"rendered":"\n

M\u00e1s del 90% de los v\u00eddeos falsos hiperrealistas, que se duplican cada seis meses, es pornograf\u00eda no consentida que se utiliza como arma de violencia machista<\/h2>\n\n\n\n
\"\"
Un joven visualiza una p\u00e1gina web porno con im\u00e1genes de famosas. LUIS SEVILLANO<\/figcaption><\/figure>\n\n\n\n

RA\u00daL LIM\u00d3N \/ EL PA\u00cdS<\/strong><\/p>\n\n\n\n

\u201cEsta es la cara del dolor\u201d. As\u00ed arranca la creadora de contenidos QTCinderella<\/a> un v\u00eddeo en el que denuncia haber sido v\u00edctima de la difusi\u00f3n de una secuencia pornogr\u00e1fica hiperrealista creada con inteligencia artificial. Las im\u00e1genes a las que se refiere son falsas, el da\u00f1o causado no. La popular figura de internet, de 29 a\u00f1os, se suma a una larga lista de personas afectadas por este tipo de creaciones, conocidas como deepfakes<\/em>. Las aplicaciones de inteligencia artificial hacen que cada vez sean m\u00e1s f\u00e1ciles de producir y m\u00e1s dif\u00edcil de identificar su falsedad, mientras su regulaci\u00f3n y control va por detr\u00e1s del desarrollo de estas tecnolog\u00edas. El n\u00famero de estos contenidos en internet se dobla cada seis meses y acapara m\u00e1s de 134 millones de visualizaciones. M\u00e1s del 90% de los casos es pornograf\u00eda sin consentimiento. Una investigaci\u00f3n<\/a> de la Universidad Northwestern y de Brookings Institution (ambas de EE UU) alerta de su peligro potencial para la seguridad. Otros estudios advierten del riesgo de interferencia y manipulaci\u00f3n en procesos pol\u00edticos democr\u00e1ticos.<\/p>\n\n\n\n

Sonia Vel\u00e1zquez, estudiante universitaria de Sevilla, sinti\u00f3 curiosidad por c\u00f3mo funcionan los v\u00eddeos deepfakes<\/em> y le pidi\u00f3 a su novio, estudiante de dise\u00f1o gr\u00e1fico, que le mostrara una prueba y se prest\u00f3 a que lo hiciera con su imagen. \u201cEmpez\u00f3 como un juego, pero no lo es. Me vi vulnerable. Sab\u00eda que no era yo, pero imagin\u00e9 a todos mis amigos compartiendo ese v\u00eddeo, bromeando y sabe Dios qu\u00e9 m\u00e1s. Me sent\u00ed ensuciada y, aunque lo borramos de inmediato, no paro de pensar lo f\u00e1cil que puede ser y el da\u00f1o que puede causar\u201d, relata.<\/p>\n\n\n\n

\u201cVerte desnuda en contra de tu voluntad y difundida en internet es como sentirse violada. No deber\u00eda ser parte de mi trabajo tener que pagar dinero para que eliminen estas cosas, ser acosada. Me agota la constante explotaci\u00f3n y cosificaci\u00f3n de las mujeres\u201d, afirma QTCinderella tras la difusi\u00f3n del v\u00eddeo deepfake<\/em> del que ha sido v\u00edctima. Antes que ella, la artista brit\u00e1nica Helen Mort sufri\u00f3 la misma agresi\u00f3n con fotos que cogieron de sus redes sociales. \u201cTe hace sentir impotente, como si te castigaran por ser una mujer con voz p\u00fablica\u201d, afirma. \u201cCualquier persona de cualquier \u00e1mbito de la vida puede ser el objetivo de esto y parece que a la gente no le importa\u201d, lamenta otra v\u00edctima de los v\u00eddeos hiperrealistas que pide no ser identificada para evitar b\u00fasquedas en las redes, aunque cree haber conseguido borrar todo rastro.<\/p>\n\n\n\n

Los bulos son tan antiguos como la humanidad<\/a>. Las fotograf\u00edas falseadas tampoco son recientes, pero se generalizaron a finales del pasado siglo con f\u00e1ciles y populares herramientas de edici\u00f3n de im\u00e1genes est\u00e1ticas. La manipulaci\u00f3n de v\u00eddeos es m\u00e1s novedosa. La primera denuncia p\u00fablica es de finales de 2017 contra un usuario de Reddit que la utiliz\u00f3 para desnudar a famosas. Desde entonces, no ha parado de crecer y ha pasado a la creaci\u00f3n de audios hiperrealistas.<\/p>\n\n\n\n

\u201cLas tecnolog\u00edas deepfake<\/em> presentan desaf\u00edos \u00e9ticos significativos. Se est\u00e1n desarrollando r\u00e1pidamente y se est\u00e1n volviendo m\u00e1s baratas y accesibles d\u00eda a d\u00eda. La capacidad de producir archivos de v\u00eddeo o audio de aspecto y sonido realistas de personas que hacen o dicen cosas que no hicieron o dijeron trae consigo oportunidades sin precedentes para el enga\u00f1o. La pol\u00edtica, la ciudadan\u00eda, las instituciones y las empresas ya no pueden ignorar la construcci\u00f3n de un conjunto de reglas estrictas para limitarlas\u201d, resume Lorenzo Dami, profesor de la Universidad de Florencia y autor de una investigaci\u00f3n publicada en Research Gate<\/em><\/a>.<\/p>\n\n\n\n

Pornograf\u00eda no consentida<\/h3>\n\n\n\n

Los v\u00eddeos hiperrealistas falsos afectan principalmente a las mujeres. Seg\u00fan Sensity AI<\/a>, una compa\u00f1\u00eda de investigaci\u00f3n que rastrea v\u00eddeos hiperrealistas falsos en internet, entre el 90% y el 95% de ellos son pornograf\u00eda sin consentimiento y nueve de cada 10 de estos se refieren a mujeres. \u201cEste es un problema de violencia machista\u201d, afirma al Instituto Tecnol\u00f3gico de Massachusetts<\/a> (MIT) Adam Dodge, fundador de EndTAB, una organizaci\u00f3n sin \u00e1nimo de lucro para la educaci\u00f3n en usos tecnol\u00f3gicos.<\/p>\n\n\n\n

El\u00a0Instituto Europeo para la Igualdad de G\u00e9nero<\/a>\u00a0tambi\u00e9n lo considera as\u00ed e incluye estas creaciones en su\u00a0informe sobre ciberviolencia contra las mujeres<\/a>\u00a0como una forma m\u00e1s de agresi\u00f3n machista.<\/p>\n\n\n\n

M\u00c1S INFORMACI\u00d3N\u00bfAceptar\u00eda que le \u2018lean\u2019 la cara en cualquier momento?<\/a><\/p>\n\n\n\n

La normativa va muy por detr\u00e1s de los avances tecnol\u00f3gicos que hacen posibles las creaciones deepfake. <\/em>La regulaci\u00f3n de la inteligencia artificial (AI Act<\/a>) de la Comisi\u00f3n Europea a\u00fan es una propuesta y en Espa\u00f1a est\u00e1 pendiente el desarrollo de la agencia estatal para la supervisi\u00f3n de la inteligencia artificial. \u201cLa tecnolog\u00eda, una vez desarrollada, no hay quien la pare. La podemos regular, atemperar, pero llegamos tarde\u201d, advierte Felipe G\u00f3mez-Pallete<\/a>, presidente de Calidad y Cultura Democr\u00e1ticas.<\/p>\n\n\n\n

Algunas empresas se han adelantado para evitar ser parte de actos delictivos. Dall-e, una de las aplicaciones de creaci\u00f3n digital, advierte que ha \u201climitado la capacidad para generar im\u00e1genes violentas, de odio o adultas\u201d y ha desarrollado tecnolog\u00edas para \u201cevitar generaciones fotorrealistas de rostros de individuos reales, incluidos los de figuras p\u00fablicas\u201d. Tambi\u00e9n lo hacen otras populares aplicaciones de inteligencia artificial para creaciones audiovisuales o de reproducci\u00f3n de v\u00eddeos. Un grupo de 10 empresas ha firmado un cat\u00e1logo de directrices<\/a> sobre c\u00f3mo construir, crear y compartir contenidos generados por IA de forma responsable. Pero otras muchas saltan a sencillas aplicaciones m\u00f3viles o campan libremente por la red, incluidas algunas expulsadas de sus servidores originales, como la que se populariz\u00f3 con el lema \u201cDesnuda a tu amiga\u201d, y se refugian en otras plataformas de c\u00f3digo abierto o de mensajer\u00eda.<\/em><\/p>\n\n\n\n

El problema es complejo porque en \u00e9l confluyen la libertad de expresi\u00f3n y creaci\u00f3n con la protecci\u00f3n de la intimidad y la integridad moral. \u201cEl derecho no regula una tecnolog\u00eda, sino lo que se puede hacer con la tecnolog\u00eda\u201d, advierte Borja Adsuara<\/a>, profesor universitario y experto en derecho digital, privacidad y protecci\u00f3n de datos. \u201cSolo cuando una tecnolog\u00eda \u00fanicamente pueda tener un uso malo se puede prohibir. Pero el \u00fanico l\u00edmite a la libertad de expresi\u00f3n y de informaci\u00f3n es la ley. No hay que prohibir una tecnolog\u00eda porque puede ser peligrosa. Lo que hay que perseguir son los malos usos\u201d, a\u00f1ade.<\/p>\n\n\n\n

\"Fotograma
Fotograma del v\u00eddeo de QTCinderella con el que la creadora de contenidos denuncia haber sido v\u00edctima de un v\u00eddeo falso pornogr\u00e1fico.QTCINDERELLA EN TWITCH.TV<\/figcaption><\/figure>\n\n\n\n

La resurrecci\u00f3n virtual de Lola Flores<\/h3>\n\n\n\n

En este sentido, el profesor italiano Lorenzo Dami identifica usos positivos y negativos de esta tecnolog\u00eda. Entre los primeros destaca su utilizaci\u00f3n para producciones audiovisuales, una mejor interacci\u00f3n entre m\u00e1quinas y humanos, expresi\u00f3n creativa (incluida la sat\u00edrica), aplicaciones m\u00e9dicas, cultura y educaci\u00f3n. Un ejemplo ha sido la viralizada resurrecci\u00f3n virtual de Lola Flores para una campa\u00f1a de publicidad, que se realiz\u00f3 con consentimiento de sus descendientes.<\/p>\n\n\n\n

En el otro lado de la balanza se encuentran las creaciones hiperrealistas para extorsi\u00f3n sexual, injuria, venganza pornogr\u00e1fica, intimidaci\u00f3n, acoso, fraude, desacreditaci\u00f3n y falseamiento de la realidad, da\u00f1o reputacional y atentados de \u00edndole econ\u00f3mica (alterar mercados), judicial (falsear pruebas) o contra la democracia y la seguridad nacional.<\/p>\n\n\n\n

Sobre este \u00faltimo aspecto, Venkatramanan Siva Subrahmanian, profesor de ciberseguridad y autor de Deepfakes y conflictos internacionales<\/em><\/a>, advierte: \u201cLa facilidad con la que se pueden desarrollar, as\u00ed como su r\u00e1pida difusi\u00f3n, apuntan hacia un mundo en el que todos los Estados y actores no estatales tendr\u00e1n la capacidad de desplegar creaciones audiovisuales hiperrealistas en sus operaciones de seguridad e inteligencia\u201d, advierte.<\/p>\n\n\n\n

En este sentido, Adsuara cree que \u201cm\u00e1s peligroso\u201d que la falsa pornograf\u00eda, pese a su mayoritaria incidencia, es el potencial da\u00f1o a los sistemas democr\u00e1ticos: \u201cImagine que a tres d\u00edas de las elecciones aparece un v\u00eddeo de uno de los candidatos diciendo una barbaridad y no hay tiempo para desmentirlo o, aunque se desmienta, es imparable la viralidad. El problema de los deepfakes<\/em>, como ocurre con los bulos, no es solo que son perfectos para que parezcan veros\u00edmiles, sino que la gente se los quiere creer porque coinciden con su sesgo ideol\u00f3gico y los redifunde sin contrastar, porque les gustan y quieren pensar que es verdad\u201d.<\/p>\n\n\n\n

Regulaci\u00f3n<\/h3>\n\n\n\n

La regulaci\u00f3n actual, seg\u00fan el letrado, se fija en el resultado de las acciones y la intenci\u00f3n del delincuente. \u201cSi la escena nunca ha existido porque es falsa, no se est\u00e1 descubriendo un secreto. Habr\u00eda que tratarlo como un caso de injurias o como delito contra la integridad moral al difundirlo con intenci\u00f3n de humillar p\u00fablicamente a otra persona\u201d, explica.<\/p>\n\n\n\n

\u201cLa soluci\u00f3n podr\u00eda estar\u201d, a\u00f1ade Adsuara, \u201cen aplicar una figura prevista en los casos de menores y que es la pseudopornograf\u00eda infantil\u201d. \u201cEsto permitir\u00eda que los delitos contra la intimidad no incluyeran solo los v\u00eddeos reales, sino tambi\u00e9n los realistas con im\u00e1genes \u00edntimas que se parezcan a las de una persona\u201d.<\/p>\n\n\n\n

Tambi\u00e9n se pueden aplicar sistemas tecnol\u00f3gicos de identificaci\u00f3n, aunque cada vez es m\u00e1s dif\u00edcil porque la inteligencia artificial tambi\u00e9n desarrolla f\u00f3rmulas de eludirlos.<\/p>\n\n\n\n

Otra v\u00eda es exigir que cualquier tipo de contenido hiperrealista est\u00e9 claramente identificado como tal. \u201cEst\u00e1 en la carta de derechos digitales, pero todav\u00eda no se ha aprobado el reglamento de inteligencia artificial\u201d, explica el abogado.<\/p>\n\n\n\n

En Espa\u00f1a es habitual este tipo de identificaci\u00f3n en los casos de pornograf\u00eda falseada para evitar problemas legales. \u201cPero estas mujeres\u201d, advierte Adsuara, \u201ctienen que soportar que su imagen se fusione en un contexto pornogr\u00e1fico y va contra su derecho a la propia imagen: aunque no sea real, s\u00ed es realista\u201d.<\/p>\n\n\n\n

Pese al evidente da\u00f1o de estos v\u00eddeos, las denuncias en Espa\u00f1a son escasas frente a las registradas en Estados Unidos, el Reino Unido o Corea del Sur, aunque la proliferaci\u00f3n de estos v\u00eddeos es proporcionalmente similar. El experto espa\u00f1ol en derecho digital cree que se le da menos importancia al ser evidente su falsedad y porque la denuncia en ocasiones solo sirve de altavoz para el delincuente, que busca precisamente eso. \u201cAdem\u00e1s\u201d, lamenta, \u201cesta sociedad est\u00e1 tan enferma que no lo percibimos como malo y, en vez de defender a la v\u00edctima, se la humilla\u201d.<\/p>\n\n\n\n

Josep Coll, director de RepScan<\/a>, una empresa dedicada a eliminar la informaci\u00f3n perjudicial en internet, tambi\u00e9n confirma la escasez de denuncias por parte de personajes p\u00fablicos afectados por v\u00eddeos falsos. Sin embargo, s\u00ed se\u00f1ala que abordan muchos intentos de extorsi\u00f3n con ellos. Relata el caso de un empresario de quien difundieron un v\u00eddeo falso e incluyeron im\u00e1genes de un pa\u00eds al que hab\u00eda ido recientemente para sembrar las dudas entre aquellos de su c\u00edrculo que conoc\u00edan que el viaje se hab\u00eda producido. \u201cY de pornovenganza\u201d, comenta. \u201cDe esos nos entran casos todos los d\u00edas\u201d. \u201cEn los casos de extorsi\u00f3n, buscan la reacci\u00f3n en caliente, que paguen por su retirada, aunque sepan que es falso\u201d, a\u00f1ade.<\/p>\n\n\n\n

Puedes escribirnos a\u00a0<\/em>rlimon@elpais.es<\/em><\/a>, seguir a<\/em>\u00a0EL PA\u00cdS TECNOLOG\u00cdA<\/strong><\/em><\/a>\u00a0en<\/em>\u00a0Facebook<\/em><\/a>\u00a0y<\/em>\u00a0Twitter<\/em><\/a>\u00a0y apuntarte aqu\u00ed para recibir nuestra<\/em>\u00a0newsletter semanal<\/em><\/a>.<\/em><\/p>\n\n\n\n

Fuente: https:\/\/elpais.com\/tecnologia\/2023-03-19\/deepfakes-la-amenaza-con-millones-de-visualizaciones-que-se-ceba-con-las-mujeres-y-desafia-la-seguridad-y-la-democracia.html<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

M\u00e1s del 90% de los v\u00eddeos falsos hiperrealistas, que se duplican cada seis meses, es pornograf\u00eda no consentida que se […]<\/p>\n","protected":false},"author":1,"featured_media":48532,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[8],"tags":[15611,15610,15609,15612],"class_list":["post-48530","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-bulos-internet","tag-pornografia-no-consentida","tag-qtcinderella","tag-repscan"],"_links":{"self":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/48530","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/comments?post=48530"}],"version-history":[{"count":1,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/48530\/revisions"}],"predecessor-version":[{"id":48533,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/48530\/revisions\/48533"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media\/48532"}],"wp:attachment":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media?parent=48530"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/categories?post=48530"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/tags?post=48530"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}