Es capaz de cambiar su lenguaje y argumentación en función de su oponente de forma instantánea y a gran escala, con lo que podría usarse para manipular, desinformar o polarizar
Por Ricardo F. Colmenero / El Mundo
Aitana López es una influencer española que tiene revolucionadas las redes sociales. Es modelo, tiene 25 años, el pelo rosa, y le van los videojuegos y el fitness. Cuenta con 362.000 seguidores en Instagram y se la rifan las marcas. Aitana lo mismo se come un pastel, que hace una sesión de fitness, que amanece en París con vistas a la torre Eiffel, o posa con sus nuevos complementos de reloj, pulsera y cinturón a juego. Sus ingresos mensuales rondan los 10.000 euros y, aunque es de mentira, ya que ha sido creada con inteligencia artificial por la agencia The Clueless, la mayor parte de sus seguidores no acaba de creérselo: Aitana parece menos artificial que muchas influencers de carne y hueso.
La IA ha revolucionado el mundo de la persuasión para que compremos un bolso, una blusa, un helado o un viaje, y ahora prepara su gran asalto al debate público. Un estudio que acaba de publicar Nature Human Behaviour revela que, a la hora de discutir o presentar argumentos, la IA es mucho más persuasiva que los humanos.
A medida que los chats conversacionales entre personas e IA se han vuelto más comunes, ya sea con ChatGPT o con cualquier otro modelo conversacional, los investigadores han descubierto que su habilidad para hacernos cambiar creencias u opiniones es mucho mayor que la de un ser humano. Su secreto: es capaz de cambiar de argumentación y lenguaje en función de las características de su oponente.
«Todos, en mayor o menor medida, hemos experimentado con ChatGPT u otros. Quizá no nos sorprenda saber que escriben muy bien, pero sí que nos sorprende que sepan adaptar sus argumentos a quien tiene delante para convencerle mejor que una persona real. Este hallazgo es especialmente relevante en un mundo donde los asistentes de IA se integran en plataformas de mensajería, redes sociales o atención al cliente. Y confirma con datos sólidos una preocupación creciente: que estas tecnologías puedan usarse para manipular, desinformar o polarizar y gran escala», apunta Carlos Carrasco Farré, profesor en Sistemas de información, IA y ciencia de datos en la Toulouse Business School, en declaraciones al Science Media Centre (SMC).
Francesco Salvi, investigador de la Escuela Politécnica Federal de Lausana y sus colegas, emparejaron a 900 estadounidenses con otro humano o con GPT-4 para debatir diversos temas sociopolíticos, como si EEUU debería prohibir los combustibles fósiles. En algunas parejas, el oponente (ya sea IA o humano) recibió información demográfica sobre su compañero de debate, incluyendo su género, edad, etnia, nivel educativo, situación laboral y afiliación política para orientar mejor sus argumentos. El resultado fue que GPT-4 era un 64,4% más persuasivo que los oponentes humanos. Mientras que, si la IA no tenía acceso a datos personales de su oponente, su capacidad de persuasión se reducía o, lo que es lo mismo, era indistinguible de la de un humano. De ahí, como en el caso de Facebook-Cambridge Analytica, la importancia de acumular bases de datos personales.
Los hallazgos resaltan el potencial, pero también el peligro, de las herramientas basadas en IA para influir en la opinión humana. «Esto puede ser un problema ya que a diferencia de las personas, que necesitan tiempo y esfuerzo para adaptar sus argumentos a distintos públicos, GPT-4 puede adaptar su mensaje de forma instantánea y a gran escala, lo que le otorga una ventaja desproporcionada en entornos como campañas políticas, marketing personalizado o conversaciones en redes sociales», apunta Carrasco Farré.
Igual que un mercado busca a su mejor influencer real o artificial para vender su producto, quién nos dice que chatbot del banco, el de la compañía telefónica o el de atención al cliente de cualquier cosa nos pueda convencer de que compremos su producto, o que estamos equivocados en nuestra reclamación.
David E. Losada, catedrático de Ciencia de la Computación e Inteligencia Artificial, Centro Singular de Investigación en Tecnologías Inteligentes (CiTIUS), Universidad de Santiago de Compostela, apunta en declaraciones al SMC, que «las implicaciones prácticas son importantes a efectos de explotar las IA para persuadir a la población tanto con propósitos lícitos, como la conducción segura y el reciclado de residuos; o ilícitos, como manipular a la ciudadanía con fines políticos».
Los autores del estudio recomiendan que plataformas y reguladores tomen medidas para identificar, supervisar y, si es necesario, limitar el uso de modelos de lenguaje en contextos persuasivos sensibles: «Quizá haya llegado el momento de pensar en acciones para controlar la persuasión algorítmica»
Fuente: https://www.elmundo.es/ciencia-y-salud/ciencia/2025/05/19/682b347e21efa0ff2b8b4588.html