La pensadora y profesora en Oxford, centinela de la privacidad en internet, escruta en ‘Profecía’ la obsesión humana por las predicciones y su instrumentalización hoy por los oráculos de Silicon Valley: «Muchas son órdenes camufladas de descripciones»
Daniel Arjona PAPEL
Madrid
Jeanne Calment nació en 1875 en Arles (Francia) y llegó a venderle lápices de colores y lienzos a Van Gogh, a quien recordaba «feo como un piojo». Se casó, tuvo una hija, un nieto. Los años pasaron y todos se fueron muriendo. Al cumpir los 90 y no tener herederos, su notario, André-Francois Raffray, le ofreció un trato: le pagaría 2.500 francos mensuales (unos 450 euros de entonces) hasta su fallecimiento a cambio de quedarse entonces con su piso en la rue Gambetta. Parecía un gran negocio, aquella anciana no podía durar mucho. Pero la señora Calment tenía otros planes. Cumplió 100 años y aún montaba en bicicleta. Llegó a los 110 y aseguró que, al haberse hecho famosa, pensaba disfrutarlo «tanto como fuera posible». En 1995, tras pagar durante más de 30 años más del doble de lo que costaba un apartamento en el que nunca vivió, Raffray murió a los 77. «A veces se hacen malos negocios», comentó Calment, que siguió recibiendo sus cheques de la viuda del notario, fumando y comiendo un kilo de chocolate a la semana. El 4 de agosto de 1997, a los 122 años y 164 días, Jeanne Calment se despidió finalmente del mundo. Es considerada la persona más longeva de la Historia.
«La vida es impredecible, y lo es por igual de maneras maravillosas y trágicas, en lo mundano y en lo extraordinario. La gente hace planes y los dioses se ríen», defiende la filósofa hispano-mexicano-británica, y profesora en Oxford, Carissa Véliz en su nuevo libro: Profecía: lecciones sobre el uso y abuso de la predicción, desde los antiguos oráculos hasta la IA (Debate). Véliz es una de las más beligerantes defensoras mundiales de la privacidad en internet, de la que se ocupó en su primer título, el superventas Privacidad es poder (2021) y ahora ha escrito un tratado imaginativo y fascinante que propone toda una ética de la inteligencia artificial a través de la historia de la obsesión humana por adelantarse al futuro.
PREGUNTA: Como dijo, no está muy claro si fue Niels Bohr, ¿predecir es muy difícil, especialmente el futuro?
RESPUESTA: Efectivamente, el futuro no está escrito. Y entonces, cuando predices, ocurre algo que puede ser bastante engañoso, porque suena como si estuvieras describiendo el mundo, pero en realidad lo que estás haciendo es otra cosa. Depende del contexto, de las intenciones y del tipo de predicción. Muchas predicciones en realidad son órdenes que se camuflan de descripciones. Cuando yo te digo que mañana vas a utilizar inteligencia artificial para todo, puede parecer que estoy diciendo algo sobre el futuro, pero en realidad lo que estoy haciendo es tratar de influir en tu comportamiento.
P: Las predicciones no tienen que ver con el conocimiento, sino con el poder, como Trasilo demostró al emperador Tiberio. ¿Nos equivocamos al pensar que la búsqueda del conocimiento es la gran ambición de nuestra especie?
R: No exactamente. Creo que sí nos interesa el conocimiento, pero desafortunadamente a menudo nos interesa más el poder. Mostrarnos demasiado ingenuos y pensar que, cuando alguien hace una predicción, siempre tiene que ver con conocer, desde luego es un error. Sobre todo si consideramos que una predicción nunca será un hecho. Puede ser muchas cosas, y en el mejor de los casos una hipótesis, una estimación basada en la experiencia, en fundamentos, pero nunca es un hecho. Los hechos pertenecen al pasado y el futuro no ha sucedido.
P: Confiamos en los números porque no nos fiamos de las personas, defiende en su libro. Si la manía por traducir toda la realidad en números fue el pecado de la Ilustración, ¿cuál será nuestra penitencia?
R: Las penitencias son varias. Una es la desconfianza entre las personas. Es muy importante que en una democracia haya cierta confianza entre los ciudadanos, y en particular entre los ciudadanos que no se conocen. Cierta amistad cívica. Porque, al final, la desconfianza erosiona el tejido social con números o sin ellos. Y la penitencia también es perder aquello que no podemos cuantificar y que, por lo tanto, tendemos a menospreciar. Lo más importante de la vida, como las relaciones sociales o el placer, en realidad no es cuantificable. Y cuando nos centramos demasiado en los números, perdemos la perspectiva de lo que importa.
P: Sin embargo, parece que la mente humana está especialmente mal dotada para la probabilidad. ¿Rebelarnos contra la probabilidad como Dostoievski o Dickens, y olvidar la ley de los grandes números, no nos hace más vulnerables a la manipulación?
R: Sí. Yo no sugiero que no le hagamos caso a los números, que prescindamos de la estadística, sino que tengamos un entendimiento más profundo de qué estamos haciendo cuando aplicamos la estadística, y sobre todo, de qué no estamos haciendo. A mí me parece muy bien utilizar la predicción y las estadísticas siempre y cuando lo hagamos de manera constructiva, como hipótesis y no de forma que creemos profecías autocumplidas e injustas que escondan la responsabilidad detrás de las personas que hacen estas predicciones. Seamos conscientes de los límites de la predicción y no la utilicemos para disminuir la agencia humana.
«Un buen uso de la IA es predecir cómo van a actuar las moléculas para buscar nuevos antibióticos o materiales»
P: Afirma que la IA es la máquina de predicción definitiva, o el charlatán definitivo, y los ingenieros informáticos ejercen el mismo papel que los oráculos del mundo antiguo o los astrólogos de la Edad Media. ¿Está diciendo que los billones de euros invertidos en data centers valen tanto como observar las entrañas de animales muertos?
R: Sí y no. Depende de cómo la usemos. Es una herramienta como cualquier otra. Por ejemplo, pensemos en el oráculo de Delfos. En ocasiones emitía una predicción tan vaga que invitaba al debate público. Y el debate público es algo muy valioso en democracia. Otro ejemplo. Durante mucho tiempo, los seres humanos pensaron que la astrología era el mejor método de tomar decisiones. Dudo que hoy los canales oficiales del poder se atrevieran a decir algo así. Y sin embargo, la astrología hizo grandes avances en astronomía. No todo es blanco o negro. Por ejemplo, un buen uso de la inteligencia artificial es predecir hipótesis acerca de cómo van a actuar las moléculas en la búsqueda de nuevos antibióticos o de nuevos materiales. Y luego experimentas en el laboratorio, lo validas con prueba controlada aleatorizada y con revisión por pares, y pasa a formar parte del contexto de la ciencia. Otra cosa es pensar erróneamente que porque utilices la inteligencia artificial ya estás haciendo algo científico. Para nada. Hay muchas maneras muy poco científicas de utilizar la inteligencia artificial, como hacer predicciones sobre cuestiones políticas, geopolíticas, sobre el destino de un individuo… Eso es lo mismo que hacíamos con el oráculo de Delfos o con las entrañas de animales muertos.
P: La IA es una caja negra tecnológica; ni sus creadores saben lo que hay dentro. Y sin embargo, afirma que es mucho más sencillo entender su funcionamiento político. ¿Hemos creado una máquina tan incomprensible como todopoderosa?
R: Ni es tan poderosa como los ejecutivos de las tecnológicas quieren hacernos creer ni tampoco tan opaca. Si bien es verdad que, si yo le hago una pregunta, nadie sabría decirte exactamente cómo llegó a la respuesta, en realidad sí lo sabemos más o menos. Sabemos que no está contactando con Dios. Es una máquina estadística, no un completo misterio. Por cierto, cada vez más es evidente que la opacidad de las máquinas está hecha por diseño. Y cada vez más es evidente, porque sabemos que hemos desarrollado maneras de que fuera menos opaca, y muchas de esas empresas están decidiendo que sí lo sea.
P: La IA es ciertamente impopular. Salen estos vídeos en universidades donde algún profesor la elogia y los alumnos le abuchean. Hasta el papa, que siempre fue un gran detector de tendencias, la critica. Pero lo curioso hoy es que los más oscuros profetas de los desastres de la IA son los propios CEOS de las empresas de IA que cada día nos amenazan con quitarnos el trabajo. ¿Por qué lo hacen?
R: Toni Morrison, que es una de mis novelistas favoritas, escribe que su negocio es «el terror». Creo que hay un par de razones relacionadas. En general, inspirar terror en la población hace a la población más vulnerable, porque cuando sentimos miedo solemos buscar protección. Y cuando alguien te dice que algo terrible va a pasar, pero que él puede ayudarte, existe la tentación de responder: vale, toma lo que quieras, toma todo mi poder, cárgate mi democracia, pero sálvame de esta cosa terrible de la que me estás hablando, que por cierto tú estás construyendo. Los comportamientos autoritarios, tanto de los dictadores como de los profetas, y de toda clase de bullies, tienen mucho que ver con los del abusador doméstico. Desgraciadamente, es una táctica psicológica que funciona muy bien. Nos aterrorizan para que caigamos más fácilmente en la trampa que nos tienden.
P: ¿Exageramos el daño de la IA en la educación o nos quedamos cortos y sus alumnos de Oxford hace tiempo que no le entregan un trabajo escrito por ellos?
R: No sé qué decirle, Daniel, porque hay tantos elementos que juegan a la vez que es difícil saber exactamente qué viene de qué. Pero sospecho que nos habíamos quedado cortos y empezamos a ver las cosas más como son. Me preocupa el grado de ansiedad que veo en mis alumnos. Creo que está relacionado en parte con algunos de los efectos negativos de las redes sociales, con compararse con otros, pero también el tener una capacidad de atención más corta se relaciona con la ansiedad. Me preocupa que perdamos habilidades cognitivas. Los chavales de hoy escriben peor y leen peor que los de hace cinco o seis años. No solamente es una cuestión de habilidades cognitivas. También de placer. Me entristece pensar lo que se está perdiendo toda la gente que no está leyendo. Y por supuesto puedes decir: bueno, yo tengo un prejuicio. Soy autora. Pero en parte soy autora por el placer que es tener un buen libro entre las manos. Y sí, me preocupa. Y vemos, por ejemplo, que los hijos de los grandes ejecutivos de Silicon Valley cada vez más están yendo a escuelas en donde se prohíben las pantallas.
«Es muy importante que en una democracia haya confianza entre ciudadanos que no se conocen»
P: Entrevisté a su amigo, el neurocientífico Anil Seth, y creía estar bastante seguro de que la IA no es consciente. ¿Que Richard Dawkins se haya convencido de que Claudia, como la llama, es consciente, demuestra que hasta los ateos más beligerantes necesitan creer en algo?
R: Lo que demuestra es que alguien que está perdiendo fama, puede estar desesperado por ganarla de nuevo. Eso me parece más probable. Hoy es demasiado fácil recabar atención con cosas así.
P: Me he reído mucho con sus peripecias en los salones del altruismo eficaz, pero luego me ha dado un poco de miedo. ¿De verdad los amos del mundo sostienen ideas tan enloquecidas y peligrosas?
R: Ja, ja, ja. Sí, totalmente. Te pones a leer los últimos comentarios de la gente de Anthropic, que dicen que quieren que Claude sea feliz. ¡Por favor! Es que no sabes qué pensar, porque si lo creen de verdad, es increíblemente preocupante. Y si no lo creen, es increíblemente preocupante también.
P: Recomienda al final del libro no profetizar tanto y abrazar la incertidumbre. Pero, ay, odiamos la incertidumbre, tal vez porque somos la única especie consciente de que va a morir. ¿Cómo podemos lograr tal cosa y olvidarnos, aunque sólo sea por un momento, del consejo del esclavo del César, aquello de «recuerda que eres mortal»?
R: Pues lo hacemos todo el tiempo. En parte, pasando tiempo con gente que nos quiere, con gente que es interesante. A mí me gusta mucho la comedia, y mientras más ruda encuentro la vida, más necesito la comedia. Lo hacemos disfrutando del mundo natural, de la cultura, yendo a los museos. Por ejemplo, me llaman mucho la atención las historias de la Guerra Civil española o la Segunda Guerra Mundial, el esfuerzo que hacía la gente por seguir yendo a ver los museos en situaciones espantosas. Arriesgaban la vida por un cuadro. Y te hace darte cuenta de que muchas veces esa vida cultural no es un lujo: es una necesidad para criaturas tan intelectuales que sabemos que vamos a morir. Y también, por más duro que sea, el pensar en lo terrible que sería la vida si no existiera la muerte. Es una paradoja terrible, porque nadie de nosotros quiere morir y no queremos que nuestros seres queridos mueran, pero al mismo tiempo, si no existiera la muerte, en realidad no existiría la vida.
P: Esto dice mucho también de una de las fantasías de Silicon Valley, que es la de la inmortalidad.
R: Efectivamente. Ahí tengo algunas historias que contar.
P: Cuéntame alguna.
R: Cuando trabajaba en el Uehiro Centre for Practical Ethics, el Institute for the Future of Humanity estaba en el piso de arriba, y me solía encontrar con aquella gente. Y había dos, cuyos nombres son bastante famosos, pero no voy a mencionar, que se habían apuntado a una empresa que, cuando mueres, te congelan. Uno de ellos había pagado, no me acuerdo de cuánto pero era una barbaridad, para que congelaran su cabeza.
P: ¿Solo la cabeza?
R: Solo la cabeza. O sea, la apuesta es que tú eres tu cerebro. Te congelan el cerebro para el día que ya sea posible hacer un upload a… el mundo virtual. Y la otra persona había pagado todavía más dinero para que congelaran inmediatamente su cuerpo, con la misma idea. Y para estar dispuestos a pagar tanto dinero por eso, realmente tienes que tener un miedo a la muerte y una obsesión con la inmortalidad bastante interesantes.
P: Me los imagino compitiendo: «Anda, que a ti sólo te ha llegado para congelar tu cabeza…».
R: Ja, ja, ja. Sí, sí. Muy surrealista.
P: Heine escribió que las ideas urdidas en la penumbra del despacho de un pensador pueden destruir la civilización. ¿Es usted una filósofa que quiere salvarla?
R: Pues desde luego me gustaría dejar este mundo mejor de lo que lo encontré. Y si es verdad que las ideas pueden ser increíblemente peligrosas y destructivas, lo contrario también es verdad: las ideas también pueden ser increíblemente iluminadoras y reconfortantes y creativas. Es muy importante reflexionar sobre eso, porque muchas veces, cuando no reconoces que estás haciendo filosofía, lo que haces es mala filosofía.
Fuente: https://www.elmundo.es/papel/el-mundo-que-viene/2026/06/19/6a2c1464e85ece26528b458e.html