Cuando se cumplen 20 años del nacimiento de Facebook, el periodista de ‘The New York Times’ destapa en una completa investigación cómo la maquinaria de las redes sociales diseñó una sociedad peligrosamente a merced de los gigantes tecnológicos.
Rodrigo Terrasa / LA LECTURA
Hace años un grupo de investigadores descubrió que el algoritmo de YouTube era capaz de identificar el vídeo de un niño semidesnudo en la red. Pronto la plataforma ató cabos y aprendió a promocionar ese contenido entre los usuarios que buscaban material pedófilo. Con la misma ecuación, Facebook concluyó que sus amigos pasaban más horas en la red cuanto más alarmistas, conspiranoicas o radicales eran sus publicaciones. Así que eso es lo que les dio.
Han pasado dos décadas desde el lanzamiento oficial de la red social que puso en marcha Mark Zuckerberg para conectar al planeta y desde entonces casi todo ha ido a peor replicando esa misma fórmula que ahora destripa Max Fisher. Basándose en años de investigación, el periodista de The New York Times desentraña en Las redes del caos (Península) cómo las redes sociales han aprendido en la última década a explotar la fragilidad psicológica de sus usuarios para diseñar algoritmos que potencien la radicalización, el extremismo y la violencia.
¿El remedio? «Desactivar el algoritmo», responde.
«A las empresas de tabaco les costó medio siglo y la amenaza de posibles litigios fatídicos admitir que sus productos provocaban cáncer», recuerda en su libro. «¿Qué probabilidad había de que Silicon Valley aceptase que sus productos podían causar disturbios e incluso un genocidio?».
Pregunta: Se cumplen ahora 20 años del lanzamiento de Facebook. ¿Usted recuerda cuál fue su primera impresión de esta red social?
Respuesta: Al principio era sólo una de tantas redes sociales como MySpace y Orkut. Es difícil recordarlo, pero por aquel entonces las redes sociales eran muy aburridas. Eran negocios de medio pelo, sitios web no muy emocionantes y poco significativos desde el punto de vista cultural. Creo que todos asumimos que Facebook también sería así. Quizá la única diferencia era que estaba más orientado a los universitarios, ya que al principio se limitaba a los estudiantes de ciertas universidades. No fue hasta varios años después, cuando Facebook lanzó su newsfeed, cuando quedó claro que sería un tipo de experiencia nueva y mucho más impactante.
P: ¿Cuál diría que ha sido la mayor contribución en positivo de Facebook y de las redes sociales que vinieron después?
R: La capacidad de formar una comunidad grande y dispar sobre algún tema o preocupación compartida ha sido extremadamente significativa. Para bien y para mal. Movimientos sociales como el MeToo o Black Lives Matter no habrían sido posibles sin las grandes redes sociales. Esa es una contribución muy importante. Pero, por supuesto, las redes sociales también permiten la creación de comunidades más dañinas, como QAnon o los movimientos antivacunas. Eso en sí mismo no es culpa de Silicon Valley, por supuesto, pero lo que ahora entendemos es que empresas como Facebook y YouTube diseñaron sus redes sociales para atraer a la gente hacia la versión más dañina y destructiva de este impulso de creación de comunidades, porque es más eficaz para generar compromiso y aumentar sus ingresos.
P: ¿En qué nos hacen hecho mejores las redes?
R: Las plataformas se han vuelto exponencialmente más eficaces a la hora de mostrar contenidos que te atraigan específicamente. Lo hacen mediante algoritmos muy sofisticados que determinan tus gustos e intereses específicos y te muestran lo que más te atrae. Cualquiera que haya pasado tiempo, por ejemplo, navegando por YouTube ha visto muchos vídeos que responden a sus intereses y que no habría descubierto de otro modo. Pero el problema, de nuevo, es que estos algoritmos han aprendido también que la mejor forma de captar nuestra atención es cultivar y activar las partes más oscuras y destructivas de nuestra naturaleza.
«Una red social puede ser extremadamente eficaz para cambiar tu comportamiento, tu sentido del bien y del mal, incluso tu comprensión de la línea que separa la verdad de la mentira»
P: ¿Cuál ha sido el peor pecado de Facebook?Es difícil definir el «peor» pecado. ¿El más dañino? ¿El más inmoral?
R: Su pecado más grave fue diseñar deliberadamente su plataforma para explotar nuestras necesidades psicológicas innatas con el fin de que pasáramos más tiempo conectados. Cuando empezaron a hacerlo, a finales de la década de los 2000, se dijeron a sí mismos que estaba bien lo que hacían porque conseguir que pasáramos más tiempo conectados sólo podía ser beneficioso para nosotros. Creían que internet sería literalmente la salvación de la humanidad y, por tanto, cualquier cosa que hicieran para que nos conectáramos más era buena. Pero muy pronto quedó claro que la forma más eficaz de hacerlo era amplificando nuestros peores instintos, hacia el odio, la división y la desinformación. Y se volvió tan lucrativo para ellos que los líderes de la compañía deliberadamente ignoraron las consecuencias, incluso cuando sus propios investigadores internos les dijeron que sus productos estaban adoctrinando a millones de personas en el odio racial, las conspiraciones médicas y otras creencias peligrosas.
P: ¿Cómo se ha traducido esto en el mundo real?
R: Su pecado más inmoral, diría yo, fue negarse a poner Facebook bajo control en Myanmar cuando la plataforma estaba difundiendo allí mentiras racistas y discursos de odio a tan gran escala que incluso Naciones Unidas dijo que Facebook estaba contribuyendo sustancialmente al genocidio. Podrían haber desactivado el algoritmo cuando hubieran querido, y no lo hicieron porque habría sido un mal negocio.
P: ¿En qué nos hecho peores las redes sociales 20 años después?
R: Las redes nos entrenan para dar rienda suelta a algunos de nuestros instintos más destructivos y dañinos, y para exagerarlos a una escala que rara vez ocurre de otro modo. Cada vez que te conectas, la plataforma está cambiando sutilmente tu comportamiento. Cuando publicas algo que la plataforma quiere fomentar, el algoritmo empujará tu publicación a más gente para que consigas más me gusta, para que sea más compartidos. Si publicas algo que la plataforma quiere desalentar, lo ocultará a otros usuarios para que te sientas ignorado. Lo hace una y otra vez. Todos los días. Se trata de una forma muy poderosa de recompensa social que, según demuestran las investigaciones, puede ser extremadamente eficaz para cambiar tu comportamiento, tu sentido del bien y del mal, incluso tu comprensión de la línea que separa la verdad de la mentira. Y sabemos que los comportamientos que más recompensan las redes sociales son la indignación, el odio a un grupo social externo, la división de nosotros contra ellos y la desinformación que satisface nuestros miedos u odios más profundos.
P: En su libro habla de la dictadura del like, la desinformación, las cámaras de eco, el extremismo, la ira, el odio, el troleo, la paranoia, el impacto en la democracia, el daño a la salud mental… De todos los males provocados por las redes sociales, ¿cuál tiene peor remedio?
R: El fomento extremo de la indignación moral es probablemente el más consecuente, porque las redes nos llevan a exagerar este instinto dramáticamente. La indignación moral puede ser sana y útil en determinadas circunstancias. Es la forma en que, como sociedad, desalentamos los comportamientos perjudiciales o antisociales. Pero las redes sociales te animan a profundizar drásticamente en tu sentido de la indignación moral, a amplificar la rabia con que la expresas y a ampliar a quién diriges esa indignación.
P: Usted asegura que el principal problema de Facebook es Facebook. ¿Era posible crear una buena red social? ¿Era posible un Facebook diferente?
R: Por supuesto que era y sigue siendo posible. Si las plataformas sociales eliminaran las características tecnológicas que maximizan el compromiso, como los algoritmos que gobiernan lo que ves o el botón me gusta o el contador que muestra el número de compartidos debajo de cada publicación, entonces los daños de las redes sociales se reducirían sustancialmente mientras que los aspectos positivos permanecerían en su mayoría. Sabemos que esto es posible porque así es como funcionaban las redes sociales hace 20 años.
P: ¿Cuál cree que será el principal legado de las redes sociales?
R: Es demasiado pronto para decirlo. La influencia de las redes sociales en nuestra política y nuestra sociedad es cada día mayor, y las plataformas están siempre evolucionando y cambiando.
P: ¿Cuál sería la medida más urgente para desactivar la máquina del caos de la que usted habla?
R: Apagar los algoritmos que promueven y ordenan contenidos en función de lo que más enganche. Que nos dejen ver lo que publican nuestros amigos sin interferencias ni manipulaciones.
LAS REDES DEL CAOS
Max Fisher
Península. 544 páginas. 21,90 euros. Puede comprarlo aquí
Fuente: https://www.elmundo.es/la-lectura/2024/02/03/65b8f9cae85ece8f2d8b4590.html