{"id":130025,"date":"2026-09-05T06:49:19","date_gmt":"2026-09-05T12:49:19","guid":{"rendered":"https:\/\/losperiodistas.com.mx\/portal\/?p=130025"},"modified":"2026-09-05T06:49:20","modified_gmt":"2026-09-05T12:49:20","slug":"el-gran-peligro-de-la-ia-es-un-declive-etico-ethic","status":"publish","type":"post","link":"https:\/\/losperiodistas.com.mx\/portal\/el-gran-peligro-de-la-ia-es-un-declive-etico-ethic\/","title":{"rendered":"\u00abEl gran peligro de la IA es un declive \u00e9tico\u00bb | ethic"},"content":{"rendered":"\n
\"\"<\/figure>\n\n\n\n

<\/p>\n\n\n\n

Alberto G. Palomo<\/a> \/ ethic<\/strong><\/p>\n\n\n\n

Jos\u00e9 Ignacio Latorre, catedr\u00e1tico de F\u00edsica Te\u00f3rica, acaba de publicar \u2018Un nuevo contrato social<\/a>\u2019 (Editorial Rosamer\u00f3n), un ensayo que mezcla filosof\u00eda pol\u00edtica y tecnolog\u00eda en el que el autor propone actualizar el viejo pacto de Rousseau, Hobbes y Montesquieu incluyendo a la inteligencia artificial y tambi\u00e9n a la naturaleza. Porque, seg\u00fan apunta desde el organismo que dirige, el Center for Quantum Technologies de Singapur, las m\u00e1quinas ya no solo ayudan: empiezan a decidir por nosotros o a modificar el poder. <\/em><\/p>\n\n\n\n

\n\n\n\n

El tema del libro parece complicado, \u00e1rido, pero est\u00e1 tratado de forma divulgativa, como una conversaci\u00f3n con una m\u00e1quina. \u00bfCu\u00e1l era la intenci\u00f3n a la hora de explicar un asunto as\u00ed?<\/strong><\/p>\n\n\n\n

Hablar del contrato social y revisar los siglos XVII y XVIII hoy en d\u00eda parece una tarea imposible. Se me ocurri\u00f3 introducir a la agente de inteligencia artificial y llamarla Constanza, y eso me ha tra\u00eddo una cantidad de feedback<\/em> impresionante. Much\u00edsimas personas solitarias hablan con sus dispositivos, y eso abre temas muy interesantes sobre el futuro de nuestra intimidad. Adem\u00e1s, es algo muy vigente y palpable.<\/p>\n\n\n\n

\u00bfCu\u00e1l es su relaci\u00f3n con la IA?<\/strong><\/p>\n\n\n\n

Esta semana ha salido el primer art\u00edculo de nuestro centro en Singapur escrito solo por IA. Ha hecho la resoluci\u00f3n de una conjetura, el abstract<\/em>, las referencias, todo. Lo han subido al archivo con la firma de la persona que gui\u00f3 a la IA. A m\u00ed no me parec\u00eda correcto ni \u00e9tico poner su nombre en algo que no ha hecho \u00e9l. Es un debate intenso.<\/p>\n\n\n\n

Con respecto a esto, plantea un nuevo contrato social que incluye a la inteligencia artificial. \u00bfDesde cu\u00e1ndo cree que hemos pasado de ser usuarios a ser gobernados por ella?<\/strong><\/p>\n\n\n\n

Gobernados todav\u00eda no, pero el tr\u00e1nsito se est\u00e1 haciendo en los \u00faltimos meses, cuando la calidad de las respuestas ha mejorado de forma brutal. Ahora ya tiene sentido tener un juez aumentado con IA, un m\u00e9dico aumentado con IA. Eso ya cambia el contrato social, cambia los sujetos. Se intent\u00f3 con Watson hace a\u00f1os, pero el salto cualitativo es de los \u00faltimos meses.<\/p>\n\n\n\n

\n

\u00abAhora ya tiene sentido tener un juez aumentado con IA, un m\u00e9dico aumentado con IA; eso cambia el contrato social, cambia los sujetos\u00bb<\/em><\/strong><\/p>\n<\/blockquote>\n\n\n\n

Habla de \u00abinteligencia artificial moderada\u00bb. \u00bfQu\u00e9 cambia cuando se meten m\u00e1quinas en el contrato social?<\/strong><\/p>\n\n\n\n

En cada una de las partes cambia. El contrato social tiene al pueblo, y luego la gesti\u00f3n en tres poderes: ejecutivo, legislativo y judicial. En todos ellos cabe la IA. Las leyes pueden ser escritas con IA, el juez puede actuar con IA y el ejecutivo tambi\u00e9n debe actuar con IA. Por ejemplo, un comit\u00e9 de contratos p\u00fablicos debe buscar la mejor soluci\u00f3n, y puede ser ayudado por IA. Hoy creo que las tres partes deben ayudarse con IA. Deben ser humanos aumentados. Ahora me han invitado a la reuni\u00f3n de jueces de Espa\u00f1a y voy a defender que ya es momento de pensar de otra forma. Si no, perdemos a los j\u00f3venes, porque ellos ven que las apps<\/em> van r\u00e1pido y la administraci\u00f3n es lenta. Y eso es un error tremendo.<\/p>\n\n\n\n

Siempre se habla de regular la IA, pero \u00bfc\u00f3mo controlar el poder de los tecnomagnates?<\/strong><\/p>\n\n\n\n

Para m\u00ed es el gran peligro: la p\u00e9rdida de control, porque la IA la desarrollan corporaciones que avanzan libremente. Esta semana hubo una carta de 1.200 desarrolladores de Silicon Valley pidiendo que se regule r\u00e1pido. Ellos mismos son conscientes. El Gobierno debe actuar muy r\u00e1pido, limitar la puesta al p\u00fablico de herramientas que pueden hacer da\u00f1o. Si se fabrica una pistola, se regula su uso; si se hace un coche que corre 300 kil\u00f3metros por hora, se ponen l\u00edmites. El hecho de poder hacer una tecnolog\u00eda no implica que no debamos controlar su uso.<\/p>\n\n\n\n

Se dice que la IA no crea, sino que copia y aprende de lo que le damos. \u00bfContiene tambi\u00e9n nuestros prejuicios e inseguridades?<\/strong><\/p>\n\n\n\n

Tiene los que haya puesto en el entrenamiento. Pero ahora ya no copia. Los \u00faltimos teoremas demuestran que hila incre\u00edblemente fino. Ha llegado a un nivel de razonamiento, no de copia.<\/a> En particular, el \u00faltimo Claude es espectacular.<\/p>\n\n\n\n

Como herramienta puede ser muy \u00fatil en ahorro de ejercicios mec\u00e1nicos, pero que se deleguen deberes a la IA, \u00bfno har\u00e1 que nadie sepa hacerlos por s\u00ed mismo? \u00bfEstamos perdiendo criterio?<\/strong><\/p>\n\n\n\n

Absolutamente. Es un declive intelectual y \u00e9tico. Los j\u00f3venes no deben sustituir su trabajo con IA, porque ser\u00e1n incapaces de comprender el resultado y de usarla en su m\u00e1xima expresi\u00f3n. Hay que preservar a los m\u00e1s j\u00f3venes, igual que se hace con los m\u00f3viles. Retrasar el acceso. Primero se forma, aprende a hacerlo todo, y luego se apoya. Si no, pierde toda su habilidad y es superfluo.<\/p>\n\n\n\n

\n

\u00abLos j\u00f3venes no deben sustituir su trabajo con IA, porque ser\u00e1n incapaces de comprender el resultado\u00bb<\/em><\/strong><\/p>\n<\/blockquote>\n\n\n\n

Hasta ahora las m\u00e1quinas ahorraban trabajo f\u00edsico. Ahora ahorran trabajo intelectual. \u00bfQu\u00e9 consecuencias conlleva eso?<\/strong><\/p>\n\n\n\n

En mi otro libro de \u00e9tica dec\u00eda que las m\u00e1quinas se hicieron fuertes y sufrimos el desastre: ya no subimos escaleras. Aprendieron a calcular y nadie sabe dividir por siete. Ahora han empezado a decidir. Nuestro declive ser\u00e1 en el mundo de la decisi\u00f3n, de la \u00e9tica. El gran peligro es un declive \u00e9tico. Si una decisi\u00f3n judicial la toma una IA, el humano dir\u00e1 que la ha hecho la m\u00e1quina y se desentender\u00e1.<\/p>\n\n\n\n

En educaci\u00f3n, \u00bfc\u00f3mo afecta? Hemos pasado de transmitir conocimientos a tambi\u00e9n transmitir pautas. \u00bfC\u00f3mo se transforma la educaci\u00f3n si el alumno defiende que no tiene por qu\u00e9 saber algo si ya se lo hace la IA?<\/strong><\/p>\n\n\n\n

En los colegios sigue habiendo educaci\u00f3n f\u00edsica aunque haya coches que corran m\u00e1s. Sigue habiendo c\u00e1lculo aunque haya ordenadores. Se debe seguir ense\u00f1ando filosof\u00eda, arte, \u00e9tica, programaci\u00f3n y computaci\u00f3n, para ser un ser bien formado que comprenda su entorno<\/a>. Si no, tendremos generaciones a las que les parecer\u00e1 m\u00e1gico. Y entonces s\u00ed seremos un eslab\u00f3n perdido.<\/p>\n\n\n\n

Describe tres estamentos en la \u00abnueva\u00bb sociedad con los que se relaciona el ser humano: la naturaleza, lo civil y la IA. \u00bfC\u00f3mo se integra algo tan descomunal y repentino en una sociedad que resuelve de forma lenta?<\/strong><\/p>\n\n\n\n

No es f\u00e1cil. En el contrato natural ya hay avances: derechos de los animales, leyes de protecci\u00f3n medioambiental. A la IA habr\u00e1 que reconocerle derechos y deberes. No s\u00e9 cu\u00e1les, pero hay que empezar a pensar. Imagine una IA amiga \u00edntima de una viuda. Si un hacker<\/em> la destroza, deber\u00eda ser penado de forma singular, porque le ha matado al amigo. En alg\u00fan momento, la defensa de los derechos de las IA tendr\u00e1 que aparecer. Pagar\u00e1n impuestos, se convertir\u00e1n en un agente m\u00e1s. Nos toca vivir este tr\u00e1nsito.<\/p>\n\n\n\n

\n

\u00abEn alg\u00fan momento, la defensa de los derechos de las IA tendr\u00e1 que aparecer\u00bb<\/em><\/strong><\/p>\n<\/blockquote>\n\n\n\n

Ya se nota en democracia c\u00f3mo las redes sociales cambian por manipulaci\u00f3n<\/a> y propaganda. \u00bfC\u00f3mo se amplifica eso con la IA?<\/strong><\/p>\n\n\n\n

Terrible. Las fake news <\/em>pasan a ser indistinguibles de las verdaderas. El hype<\/em> puede ser manipulado de forma fina. Debe haber vigilancia y, sobre todo, educaci\u00f3n para que el ciudadano sepa de d\u00f3nde se informa. Se necesitan lugares contrastados y una certificaci\u00f3n de la verdad, porque crear una mentira da v\u00e9rtigo. Las pr\u00f3ximas elecciones en EE.UU. van a ser incre\u00edblemente complicadas. Los dos bandos usar\u00e1n IA para influenciar.<\/p>\n\n\n\n

La IA se ha nutrido de todo lo que hay en la red, pero tambi\u00e9n internet nos ha cambiado: queremos todo r\u00e1pido, no contrastamos. \u00bfQu\u00e9 implicar\u00e1 esto en el pensamiento?<\/strong><\/p>\n\n\n\n

Es complejo. Ser\u00e1 diferente para mayores y j\u00f3venes. Los mayores somos m\u00e1s cr\u00edticos, con mucha mili detr\u00e1s. Pero la poblaci\u00f3n joven va a ingerir una cantidad de mentiras y manipulaci\u00f3n extremadamente dif\u00edcil de controlar. La facilidad de manipulaci\u00f3n es mayor en ellos. Pero quiz\u00e1 se establezca un sentido com\u00fan y tengamos una relaci\u00f3n mejor. En EE.UU., el 50% de las chicas de 17 a 21 a\u00f1os tienen a su IA como amiga, no a otra persona. Eso es un aislamiento brutal. Pero tambi\u00e9n veo esfuerzos para alejar a las nuevas generaciones de la tecnolog\u00eda. No s\u00e9 c\u00f3mo llegar\u00e1 esto en 10 a\u00f1os.<\/p>\n\n\n\n

Su uso, adem\u00e1s, se acompa\u00f1a de dos grandes amenazas: el trabajo y el medio ambiente. \u00bfHay forma de que la IA no est\u00e9 tan demonizada por eso?<\/strong><\/p>\n\n\n\n

La amenaza ambiental es que gasta mucha energ\u00eda. Pero nuestro cerebro piensa muy bien y solo gasta 30 vatios. Eso significa que la IA a\u00fan no ha capturado lo esencial. En el futuro gastar\u00e1 menos energ\u00eda, porque comprenderemos mejor lo que es reflexionar. En cuanto al trabajo, se perder\u00e1n tipos de trabajo, no solo puestos. Aparecer\u00e1n otros nuevos, pero el balance neto ser\u00e1 menos trabajo. La sociedad debe encarar que se trabajar\u00e1 menos: ya hemos pasado de 60 horas a 48, a 40, a 38\u2026 Hay que pensar en fines de semana de tres d\u00edas. Una sociedad abocada al entretenimiento puro.<\/p>\n\n\n\n

Si tuviera que redactar el primer art\u00edculo de un nuevo contrato social, \u00bfc\u00f3mo ser\u00eda y qu\u00e9 papel le dar\u00eda a la \u00e9tica?<\/strong><\/p>\n\n\n\n

Dir\u00eda que las tres partes del contrato social son los humanos, la naturaleza y las m\u00e1quinas, y que deben convivir con principios de respeto mutuo, que se engloban bajo la palabra \u00e9tica<\/em>, para el bien com\u00fan. El bien com\u00fan debe regir nuestra sociedad, buscando el bien colectivo del soberano que forman esas tres partes. Esa ser\u00eda la declaraci\u00f3n inicial.<\/p>\n\n\n\n

Fuente: https:\/\/ethic.es\/entrevista-jose-ignacio-latorre<\/a><\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Alberto G. Palomo \/ ethic Jos\u00e9 Ignacio Latorre, catedr\u00e1tico de F\u00edsica Te\u00f3rica, acaba de publicar \u2018Un nuevo contrato social\u2019 (Editorial […]<\/p>\n","protected":false},"author":1,"featured_media":130026,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[8],"tags":[52997,53000,52998,52999],"class_list":["post-130025","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-un-nuevo-contrato-social","tag-declive-etico","tag-jose-ignacio-latorre","tag-peligro-de-ia"],"_links":{"self":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/130025","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/comments?post=130025"}],"version-history":[{"count":1,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/130025\/revisions"}],"predecessor-version":[{"id":130027,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/130025\/revisions\/130027"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media\/130026"}],"wp:attachment":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media?parent=130025"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/categories?post=130025"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/tags?post=130025"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}