Los sistemas de recomendación con Inteligencia Artificial intentan adivinar nuestros deseos. Nos muestran un espejo deformado de nuestros gustos
KARELIA VÁZQUEZ / IDEAS
¿Cuándo fue la última vez que descubrió algo en internet? Algo realmente nuevo que no oliera a déjà vu, una auténtica sorpresa. Quizás, ya hace mucho tiempo porque nos movemos en territorios tomados por un poder al que llamaremos genéricamente algoritmo, que nos ha convertido en seres reiterativos y previsibles, en bucles de repetición. Exactamente, así como son ellos.
Ya no vemos lo que queremos, sino lo que nos enseñan. Y lo que nos enseñan es muy parecido a lo que ya hemos visto. Vivimos asediados por recomendaciones que no hemos pedido y que nos persiguen allá donde vamos. Hace tiempo que las publicaciones de nuestros amigos se solapan con publicidad que tampoco hemos elegido, pero que alguien ha comisariado para nosotros. El algoritmo nos quiere contentos, aseguran varios expertos consultados para este reportaje. Pero entonces, ¿cómo se las arreglan para conseguir exactamente lo contrario?
En 2018 el académico Shagun Jhaver estudió a un grupo de anfitriones de Airbnb y observó que mantenían una relación de amor-odio con la plataforma. Otorgaban a su algoritmo atributos semihumanos, y practicaban rituales cuasi mágicos con la esperanza de trampear sus supuestos superpoderes. Iniciaban, por ejemplo, sesión repetidas veces, o actualizaban constantemente la disponibilidad de sus propiedades con la esperanza de manipular al algoritmo y hacerse más visibles ante sus potenciales clientes. En su investigación, Jhaver apuntó que Airbnb nunca confirmó que estos rituales funcionaran.
MÁS INFORMACIÓN¿Sabes cómo funcionan los algoritmos? Es la manera de saber si nos manipulan
El académico comparaba el comportamiento de los anfitriones de Airbnb con el de “obreros supervisados por un jefe supremo y caprichoso”, entregados a adivinar sus deseos y a hacer conjeturas sobre su manera de funcionar. Dado que dichos comportamientos estaban dominados por conductas ansiosas, el profesor los englobó en el término ansiedad algorítmica que utilizó para describir la inquietud y malestar de los humanos cuando interactúan con la inteligencia artificial. Un sentimiento que se agudiza cuando estos algoritmos intervienen en nuestras decisiones.
Antes del trabajo de Airbnb, la etiqueta ansiedad algorítmica ya había sido mencionada por la experta en inteligencia artificial Kate Crawford en 2013, y en otra investigación de la académica Patricia de Vries en 2016. De Vries apuntaba que el algoritmo como entidad con vida propia parecía, más que una creación tecnológica, “una idea que los humanos habíamos construido en nuestras cabezas”. De Vries, que consiguió su doctorado con el libro Algorithmic Anxiety in Contemporary Art (la ansiedad algorítmica en el arte contemporáneo), opina que otorgamos demasiado poder y autoridad a los algoritmos. “Esa fijación refuerza el falso dualismo hombre-máquina y debilita nuestra visión de otras fuerzas y comportamientos que intervienen en la persistencia de los sistemas de recomendación”.
De Vries recuerda que los algoritmos no tendrían tanto poder sin la riada de datos que vamos dejando voluntariamente en webs que explotan nuestras identidades y preferencias. Si un anuncio de sujetadores nos persigue por internet, como afirma la experta, el algoritmo no será el único culpable, sino todo el modelo de negocio de las redes sociales en las que cada día participan miles de millones de personas. “Es la industria de la tecnología extractiva del siglo XXI”, afirma.
Los sistemas de recomendación se entrenan con nuestros datos y parecen dispuestos a adivinarnos el pensamiento, adelantarse a nuestros deseos y completar las palabras que dejamos a medio teclear, pero con frecuencia se equivocan, y no nos entienden. Son un espejo distorsionado de nuestros deseos. Por ejemplo, no razonan que si alguien ya ha comprado un billete a Cancún no querrá seguir viendo los precios a ese destino, sobre todo si son más baratos de los que ya ha conseguido. Tampoco entienden que si una vez uno ha cenado empanadas argentinas, al día siguiente no querrá lo mismo, aunque si le ponen el anuncio delante quizás acabe tomando el camino más fácil.
Taina Bucher, investigadora de la Universidad de Oslo, asegura que estamos desarrollando “sentimientos emergentes” hacia los algoritmos. Es algo que se siente, pero no se articula por completo, explica en un correo electrónico. “La forma exacta en que las personas se sienten respecto a los algoritmos varía no solo entre poblaciones e individuos, sino también entre plataformas”, precisa Bucher, que añade que no sentimos lo mismo hoy respecto a los algoritmos que en 2017, cuando todo era bastante más naif.
A la catedrática Patricia de Vries no le sorprende la torpeza de los sistemas de recomendación: “Las preferencias humanas son esquivas. Los neurocientíficos aún están intentando entender cómo funciona el cerebro y de dónde vienen nuestras preferencias. Las cosas que nos mueven y nos redirigen a menudo no pueden predecirse en función de los datos de nuestras conductas pasadas, se manifiestan sin previo aviso, desobedientes a la curva de campana. Seguimos siendo un misterio para nosotros mismos. A pesar de todo, queremos creer que un algoritmo puede llegarnos a conocer mejor que nosotros mismos y eso nos produce ansiedad”.
Hace unos meses, un reportaje en The New Yorker aseguraba que estábamos instalados en la era de la ansiedad algorítmica. Un sinvivir provocado por las dudas de identidad que nos produce vivir bombardeados por recomendaciones que, en teoría, venían a ayudarnos a organizar el flujo de contenido digital de internet, pero que al final distorsionan y simplifican nuestros gustos. ¿Acaso somos esa persona a la que persigue un anuncio de sujetadores deportivos allá donde va?
La ansiedad algorítmica es también una crisis de identidad: ¿Me gusta lo que creo que me gusta o me estoy dejando llevar por un algoritmo que no entiendo del todo? A veces es imposible entender por qué nuestros contenidos se vuelven monotemáticos y solo nos sugieren comida japonesa o conferencias de aficionados a las criptomonedas.
“La recomendación algorítmica es el nuevo spam”, tuiteaba hace unas semanas Juan Miguel Aguado, catedrático de Comunicación de la Universidad de Murcia. Si en los albores del correo electrónico el spam nos abrumaba, ahora lo hacen los invasivos sistemas de recomendación. “El exceso produce ansiedad”, explica el profesor Aguado, y añade: “Es necesario seleccionar y filtrar, y cada vez es más difícil hacerlo, por eso nos reconforta la ayuda de los algoritmos… Netflix ha puesto en marcha un modo aleatorio que decide por el usuario, y funciona… hasta que vemos que reduce nuestros gustos a una caricatura de nosotros mismos”. Para el profesor Aguado todo se torna mucho más interesante cuando el algoritmo falla y propone algo “insólito”. “Les ocurre con frecuencia a quienes comparten cuentas en las plataformas: al mezclarse los perfiles y patrones de comportamiento, surgen recomendaciones que, en ocasiones, desencadenan descubrimientos imprevistos”, cuenta vía e-mail. Para huir de la ansiedad algorítmica, como para casi cualquier cosa, mezclarse suele ser un buen camino.
Patricia de Vries recuerda que en casi todo, pero mucho más en materia de deseos y gustos, por muy estable que sea un patrón, su repetición siempre será una suposición. Esta académica es crítica con “la narrativa de que la tecnología puede resolver todo tipo de problemas en un mundo complejo” y también con los gobiernos “crédulos y ansiosos” por “implantar la inteligencia artificial en los servicios públicos en aras de la eficiencia y la reducción de costos”. “La vida se niega a ser completamente factual, así que no deberíamos confiar ciegamente en el big data para construir hipótesis sobre personas, cosas o deseos”, advierte. Por más que insistan, la vida no es un bucle de información.
Apúntate aquí a la newsletter semanal de Ideas.
Fuente: https://elpais.com/ideas/2022-12-09/ansiedad-algoritmica-ya-no-vemos-lo-que-queremos-sino-lo-que-nos-ensenan.html