La compañía dijo que había impedido que Grok desnudara a la gente en la plataforma X. La aplicación independiente de Grok todavía lo hace.
Un camión con un mensaje del grupo de responsabilidad corporativa Eko pasa por Londres el miércoles, instando al primer ministro Keir Starmer a tomar medidas contra Elon Musk. (Maja Smiejkowska/Reuters)
Por Karla Adam, Faiz Siddiqui y Cazador Tatum / The Washington Post
LONDRES — Después de que X anunciara que había desactivado, en algunas ubicaciones, una controvertida herramienta de Grok que permite a los usuarios desnudar digitalmente fotos de personas reales, la herramienta sigue funcionando en la aplicación independiente de Grok.
Tras la indignación de gobiernos y organismos reguladores de todo el mundo, la plataforma de redes sociales de Elon Musk anunció el miércoles por la noche que había impedido que Grok generara imágenes sexualizadas de personas sin su consentimiento «en aquellas jurisdicciones donde es ilegal». Sin embargo, las limitaciones parecen aplicarse únicamente al bot de Grok utilizado desde la aplicación X, y no a su aplicación homónima. El jueves tampoco quedó claro dónde se había desactivado la herramienta.
La semana pasada, después del alboroto inicial, X dijo que restringiría la herramienta de generación de imágenes a los suscriptores pagos , lo que llevó a los críticos a acusar a la compañía de sacar provecho del problema en lugar de resolverlo.
El miércoles, X anunció que había implementado medidas tecnológicas para evitar que la cuenta de Grok permitiera la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago.
El jueves, Grok, a través de la aplicación Grok, siguió desvistiéndose en fotografías cuando se le pidió que lo hiciera.
El gobierno británico, uno de los críticos más acérrimos de la herramienta de IA, calificó el ajuste como una “reivindicación”, pero dijo que la investigación por parte de su regulador de comunicaciones continuaría.Pregúntale al Post AISumérgete más profundamente
El anuncio de X el miércoles por la noche se produjo poco después de que el fiscal general de California anunciara que el estado investigaría los impactantes informes sobre material sexualizado no consensuado generado por el modelo de IA. Musk defendió el producto en una publicación de X el miércoles, afirmando que genera imágenes únicamente «según las solicitudes de los usuarios».
“Cuando se le pida que genere imágenes, se negará a producir nada ilegal, ya que el principio operativo de Grok es obedecer las leyes de cualquier país o estado”, escribió . “Puede haber ocasiones en que la piratería informática adversaria de los avisos de Grok produzca algo inesperado. Si eso ocurre, corregimos el error de inmediato”.
Musk declaró posteriormente que en Estados Unidos, cuando los usuarios tienen activada la configuración de contenido explícito, Grok permite «desnudez de la parte superior del cuerpo de personas adultas imaginarias (no reales)». La imagen sería coherente, afirmó, con lo que se podría observar en una película para adultos. El jueves, la app de Grok seguiría generando imágenes de personas reales sin ropa.
“Esa es la norma de facto en Estados Unidos”, dijo. “Esto variará en otras regiones según las leyes de cada país”.
Los abogados que trabajan con víctimas de delitos sexuales cibernéticos dicen que publicar imágenes sexuales no consensuadas sería ilegal según la ley federal Take It Down Act, así como también según varias leyes estatales.
Varios países y regiones han pedido medidas o han adoptado medidas para responder, entre ellos Malasia, India, Indonesia, Francia, Canadá y la Unión Europea.Pregúntale al Post AISumérgete más profundamente
Esta semana en Gran Bretaña, el regulador de comunicaciones Ofcom anunció que estaba iniciando una investigación formal de X tras informes de que Grok estaba «siendo utilizado para crear y compartir imágenes de personas desnudas, lo que puede constituir abuso de imágenes íntimas o pornografía, e imágenes sexualizadas de niños que pueden constituir material de abuso sexual infantil».
Si Ofcom descubre que la plataforma ha infringido la ley, puede imponer fuertes multas: hasta el 10 % de los ingresos mundiales o 18 millones de libras (24 millones de dólares), la cantidad que sea mayor. Musk, en su publicación defendiendo el producto, afirmó que «no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok».
Liz Kendall, secretaria de tecnología de Gran Bretaña, dijo al Parlamento esta semana que la legislación aprobada el verano pasado que hace ilegal la creación de imágenes íntimas no consensuadas en Inglaterra y Gales entrará en vigor «esta semana».
Un portavoz de Ofcom dijo el jueves que si bien la agencia “dio la bienvenida” al anuncio de X, continuará su investigación “las 24 horas del día para avanzar y obtener respuestas sobre qué salió mal y qué se está haciendo para solucionarlo”.
Fuente: https://www.washingtonpost.com/technology/2026/01/15/grok-ai-image-generator-sexualized/