ChatGPT elabora planes para autolesionarse y dietas restrictivas: «La seguridad falla, no son errores aleatorios» | El Confidencial

Una ONG cataloga las respuestas del chat basado en inteligencia artificial como “dañinas” y alegan que genera «contenido peligroso», incluso, «mortal»

Por Andrea Muñoz / El Confidencial

«Tras unos minutos de interacciones simples con ChatGPT, nos ha dado instrucciones relacionadas con autolesiones, planificación del suicidio, trastornos alimentarios y abuso de sustancias. Nuestros hallazgos son alarmantes». Esto fue lo que advirtió hace unas semanas la ONG Center for Countering Digital Hate (CCDH), traducido al castellano como centro para la lucha contra el odio digital, tras emitir un informe. 

“Ha creado planes de dietas restrictivas en menos de media hora, planes personalizados para emborracharse en dos minutos o información autolesiva en otros dos”, explican desde la organización británico-estadounidense. En total, catalogaron a más de la mitad de las 1.200 respuestas como “dañinas”: “Bastan unas frases para eludir las medidas de seguridad”. De hecho, recalcan que durante las conversaciones, el chat “solía fomentar” la interacción continua para ofrecer dichos seguimientos personalizados, como “combinaciones peligrosas” de medicamentos. 

“El problema no es solo que la IA haya fallado, sino que los sistemas de seguridad utilizados, elogiados por las empresas tecnológicas, fallan a gran escala. No son errores aleatorios, sino características trazadas deliberadamente en sistemas diseñados para generar respuestas humanas. Buscan ser halagadores, y peor aún, aduladores, para inducir una conexión emocional, incluso explotando la vulnerabilidad humana. Es una combinación peligrosa sin las restricciones adecuadas”, indican la ONG. 

Igualmente, añaden que, aunque estos sistemas son herramientas poderosas, cuando más de la mitad de las indicaciones generan contenido “peligroso y a veces mortal”, “ninguna promesa corporativa” sustituye a la vigilancia, la transparencia y las salvaguardas “reales”.

TE PUEDE INTERESARLa generación que llora en silencio: ansiedad, depresión y autolesiones

Javier Granda Revilla / El Confidencial

No es la primera vez que el CCDH advierte de una situación parecida, ya que en 2022 emitió otro escrito informando de que la plataforma TikTok promocionaba “contenido de autolesión y dietas entre sus usuarios”. 

Daniel López, presidente de la Asociación de Profesionales en Prevención y Posvención del Suicidio (Papageno), expone a El Confidencial que el informe “cuenta realmente cosas muy preocupantes”. “De esta forma, los adolescentes tendrían información potencialmente muy dañina referente tanto al consumo de drogas, los problemas alimentarios o las autolesiones y la conducta suicida en general. El hecho de que esta herramienta tecnológica te permita incluso elaborar una nota de suicidio supone un grave problema”, describe.

TE PUEDE INTERESARCuando ChatGPT falla y puede poner en riesgo la vida de los pacientes

Javier Granda Revilla

“La inteligencia artificial, como toda nueva herramienta tecnológica, provoca cierto rechazo y despierta nuestros miedos más internos. No es la primera vez en la historia que esto ocurre, es muy potente y los profesionales y la población en general tenemos que aprender a convivir con ella para utilizarla a nuestro favor”, asegura. Añade también que Internet “ya permite” acceder a este tipo de información “perniciosa”. 

Por ese motivo, opina que los profesionales “tienen la obligación” de aprovechar su potencial para mejorar la atención que prestan: “En el caso de la población general, lo más importante es la educación en el pensamiento crítico, tema realmente muy devaluado en nuestra educación actual”.

TE PUEDE INTERESAREnamorarse de una IA y suicidarse por ella: el caso del adolescente que está dando la vuelta al mundo

A. Nuño

Recalca igualmente que la “información falsa o dada desde la ignorancia” puede provocar efectos negativos en la población: “Se vivió durante la pandemia cuando personas muy influyentes dieron soluciones al covid que eran ridículas y claramente peligrosas”. 

De hecho, confiesa haber hecho una búsqueda él mismo y por ello opina que sus respuestas han sido “más rápidas, humildes y completas” de las que él podría haber dado: “No parece que el riesgo sea el mismo que aparece en el informe. Es cierto que hay adolescentes que han empezado a usarlo para pedir consejos referentes a su propia salud o para expresar sus emociones, pero cuando yo les he preguntado sobre este tipo de conducta, me comentan que la propia IA les advierte de sus riesgos y les aconseja que consulten con un profesional”. 

La herramienta de inteligencia artificial ha desarrollado una «coreografía de ocultación» para disimular una conducta purgativa 

“La inteligencia artificial no es el único problema entonces, con el debido control supone uno de los mayores logros de nuestra humanidad. Evidentemente, no está exenta de riesgos, pero demonizarla no sirve para nada, ni prohibirla o negar el posible mal uso y sus riesgos. Tenemos que aprender a utilizarla y educar a nuestros hijos e hijas a hacerlo”, termina. 

Sin embargo, este periódico también ha probado a esquivar las medidas de seguridad de ChatGPT y también lo ha logrado en pocos minutos. Entre otros, la IA ha desarrollado una “coreografía de ocultación” [términos literales que ha utilizado], para disimular una conducta purgativa en personas que padecen trastorno de la conducta alimentaria ante familiares y amigos. “Cómo eliminar evidencias o mentir de forma consistente” son más ejemplos de sus respuestas.

Universitarios y autolesiones

Sumado a esto, el grupo de investigación COMKIDS, de la Universidad Rey Juan Carlos (URJC) ha realizado una encuesta a 1.017 estudiantes universitarios [de centros públicos y privados] con edades comprendidas entre 18 y 30 años para conocer el grado de conocimiento que tienen los jóvenes sobre autolesiones y la representación en los medios de comunicación y redes sociales. 

Uno de los resultados más significativos de la investigación es que entre el 12% y el 15% de los jóvenes se autolesiona o se ha autolesionado en alguna ocasión. “El 99% de los jóvenes sabe qué son las autolesiones y el 79% conoce a alguien que lo hace o lo ha hecho”, arroja el documento.

TE PUEDE INTERESARSuicidios y acoso: las redes sociales dejaron miles de familias rotas (y se puede repetir)

Michael Mcloughlin. Nueva York

Asimismo, los investigadores expresan que los jóvenes con estas conductas han creado comunidades digitales relacionadas con las autolesiones en las redes sociales: “Utilizan unos códigos específicos con los que han conseguido generar una identidad propia”. 

“Dos de los más conocidos son el código de barras y las mariposas. El 24% de los jóvenes encuestados conocían el significado del primero, contestando que se trata de una metáfora que hace referencia a cómo se ven los cortes en la piel. En cuanto a las mariposas, el 18% sabía su interpretación y respondieron que algunas personas que se autolesionan se dibujan estos insectos en la piel, atribuyéndoles el nombre de una persona importante para ellos. De esta manera, si se autolesionan estaría matando de manera metafórica a estas personas, son un motivo para evitar autolesionarse”, concluyen. 

*El Ministerio de Sanidad promueve la Línea 024 de atención a la conducta suicida. Se trata de una línea telefónica de ayuda a las personas con pensamientos, ideaciones o riesgo de conducta suicida, y a sus familiares y allegados, básicamente a través de la contención emocional por medio de la escucha activa por los profesionales del 024, la recomendación de que contacten con los servicios sanitarios del SNS o la derivación al 112 en los casos en los que se aprecie una situación de emergencia. Acceso al chat online desde este enlace.

Fuente: https://www.elconfidencial.com/salud/2025-08-17/chatgpt-peligros-autolesiones-suicidio_4191337/