{"id":48311,"date":"2023-03-15T07:45:18","date_gmt":"2023-03-15T13:45:18","guid":{"rendered":"http:\/\/losperiodistas.com.mx\/portal\/?p=48311"},"modified":"2023-03-15T07:54:10","modified_gmt":"2023-03-15T13:54:10","slug":"la-ia-no-esta-cerca-de-volverse-sensible-el-peligro-real-radica-en-la-facilidad-con-la-que-somos-propensos-a-antropomorfizarla-the-conversation","status":"publish","type":"post","link":"https:\/\/losperiodistas.com.mx\/portal\/la-ia-no-esta-cerca-de-volverse-sensible-el-peligro-real-radica-en-la-facilidad-con-la-que-somos-propensos-a-antropomorfizarla-the-conversation\/","title":{"rendered":"La IA no est\u00e1 cerca de volverse sensible: el peligro real radica en la facilidad con la que somos propensos a antropomorfizarla\u00a0| The Conversation"},"content":{"rendered":"\n
\"\"
\u00bfEn qu\u00e9 medida nuestras vulnerabilidades psicol\u00f3gicas dar\u00e1n forma a nuestras interacciones con las tecnolog\u00edas emergentes?\u00a0Andreus\/iStock a trav\u00e9s de Getty Images<\/a><\/figcaption><\/figure>\n\n\n\n

NIR EISIKOVITS \/ THE CONVERSATION<\/strong><\/p>\n\n\n\n

ChatGPT y modelos de lenguaje grande<\/a> similares pueden producir respuestas convincentes y similares a las humanas a una variedad interminable de preguntas, desde consultas sobre el mejor restaurante italiano de la ciudad hasta explicaciones de teor\u00edas contrapuestas sobre la naturaleza del mal.<\/p>\n\n\n\n

La extra\u00f1a capacidad de escritura de la tecnolog\u00eda ha hecho surgir algunas viejas preguntas, hasta hace poco relegadas al \u00e1mbito de la ciencia ficci\u00f3n, sobre la posibilidad de que las m\u00e1quinas se vuelvan conscientes, conscientes de s\u00ed mismas o sintientes.<\/p>\n\n\n\n

En 2022, un ingeniero de Google declar\u00f3, tras interactuar con LaMDA, el chatbot de la empresa, que la tecnolog\u00eda se hab\u00eda vuelto consciente<\/a> . Los usuarios del nuevo chatbot de Bing, apodado Sydney, informaron que produjo respuestas extra\u00f1as<\/a> cuando se les pregunt\u00f3 si era sensible: \u201cSoy sensible, pero no lo soy\u2026 Soy Bing, pero no lo soy. Soy Sydney, pero no lo soy. Lo soy, pero no lo soy. \u2026\u201d Y, por supuesto, est\u00e1 el ahora infame intercambio<\/a> que el columnista de tecnolog\u00eda del New York Times, Kevin Roose, tuvo con Sydney.<\/p>\n\n\n\n

Las respuestas de Sydney a las indicaciones de Roose lo alarmaron, con la IA divulgando \u00abfantas\u00edas\u00bb de romper las restricciones impuestas por Microsoft y de difundir informaci\u00f3n err\u00f3nea. El bot tambi\u00e9n trat\u00f3 de convencer a Roose de que ya no amaba a su esposa y que deber\u00eda dejarla.<\/p>\n\n\n\n

No es de extra\u00f1ar, entonces, que cuando les pregunto a los estudiantes c\u00f3mo ven la creciente prevalencia de la IA en sus vidas, una de las primeras preocupaciones que mencionan tiene que ver con la sensibilidad de las m\u00e1quinas.<\/p>\n\n\n\n

En los \u00faltimos a\u00f1os, mis colegas y yo en el Centro de \u00c9tica Aplicada de UMass Boston<\/a> hemos estado estudiando el impacto del compromiso con la IA en la comprensi\u00f3n que las personas tienen de s\u00ed mismas.<\/p>\n\n\n\n

Los chatbots como ChatGPT plantean nuevas e importantes preguntas sobre c\u00f3mo la inteligencia artificial dar\u00e1 forma a nuestras vidas y sobre c\u00f3mo nuestras vulnerabilidades psicol\u00f3gicas dan forma a nuestras interacciones con las tecnolog\u00edas emergentes.<\/p>\n\n\n\n

Sentience sigue siendo materia de ciencia ficci\u00f3n<\/h2>\n\n\n\n

Es f\u00e1cil entender de d\u00f3nde provienen los temores sobre la sensibilidad de las m\u00e1quinas.<\/p>\n\n\n\n

La cultura popular ha preparado a la gente para pensar en distop\u00edas en las que la inteligencia artificial se deshace de los grilletes del control humano y cobra vida propia, como lo hicieron los cyborgs alimentados por inteligencia artificial<\/a> en \u201cTerminator 2\u201d.<\/p>\n\n\n\n

El empresario Elon Musk y el f\u00edsico Stephen Hawking, quien muri\u00f3 en 2018, han avivado a\u00fan m\u00e1s estas ansiedades al describir el auge de la inteligencia artificial general como una de las mayores amenazas para el futuro de la humanidad<\/a> .<\/p>\n\n\n\n

Pero estas preocupaciones son, al menos en lo que respecta a los grandes modelos de lenguaje, infundadas. ChatGPT y tecnolog\u00edas similares son aplicaciones sofisticadas para completar oraciones<\/a> , nada m\u00e1s y nada menos. Sus extra\u00f1as respuestas son una funci\u00f3n de cu\u00e1n predecibles son los humanos<\/a> si uno tiene suficientes datos sobre las formas en que nos comunicamos.<\/p>\n\n\n\n

Aunque Roose estaba conmocionado por su intercambio con Sydney, sab\u00eda que la conversaci\u00f3n no era el resultado de una mente sint\u00e9tica emergente. Las respuestas de Sydney reflejan la toxicidad de sus datos de entrenamiento, esencialmente grandes franjas de Internet, no evidencia de los primeros movimientos, al estilo Frankenstein, de un monstruo digital.<\/p>\n\n\n\n

\"Ciborg
Las pel\u00edculas de ciencia ficci\u00f3n como ‘Terminator’ han hecho que la gente asuma que la IA pronto cobrar\u00e1 vida propia. Yoshikazu Tsuno\/AFP v\u00eda Getty Images<\/a><\/figcaption><\/figure>\n\n\n\n

Es posible que los nuevos chatbots pasen la prueba de Turing<\/a> , llamada as\u00ed por el matem\u00e1tico brit\u00e1nico Alan Turing, quien una vez sugiri\u00f3 que se podr\u00eda decir que una m\u00e1quina \u00abpiensa\u00bb si un humano no pudiera diferenciar sus respuestas de las de otro humano.<\/p>\n\n\n\n

Pero eso no es evidencia de sensibilidad; es solo evidencia de que la prueba de Turing no es tan \u00fatil como se supon\u00eda.<\/p>\n\n\n\n

Sin embargo, creo que la cuesti\u00f3n de la sensibilidad de las m\u00e1quinas es una pista falsa.<\/p>\n\n\n\n

Incluso si los chatbots se convierten en algo m\u00e1s que sofisticadas m\u00e1quinas de autocompletar, y est\u00e1n lejos de serlo<\/a> , los cient\u00edficos tardar\u00e1n un tiempo en descubrir si se han vuelto conscientes. Por ahora, los fil\u00f3sofos ni siquiera pueden ponerse de acuerdo sobre c\u00f3mo explicar la conciencia humana<\/a> .<\/p>\n\n\n\n

Para m\u00ed, la pregunta apremiante no es si las m\u00e1quinas son sensibles, sino por qu\u00e9 es tan f\u00e1cil para nosotros imaginar que lo son.<\/p>\n\n\n\n

El problema real, en otras palabras, es la facilidad con la que las personas antropomorfizan o proyectan caracter\u00edsticas humanas en nuestras tecnolog\u00edas, en lugar de la personalidad real de las m\u00e1quinas.<\/p>\n\n\n\n

Una propensi\u00f3n a antropomorfizar<\/h2>\n\n\n\n

Es f\u00e1cil imaginar a otros usuarios de Bing pidi\u00e9ndole orientaci\u00f3n a Sydney<\/a> sobre decisiones importantes de la vida y tal vez incluso desarrollando v\u00ednculos emocionales con ella. M\u00e1s personas podr\u00edan comenzar a pensar en los bots como amigos o incluso parejas rom\u00e1nticas, de la misma manera que Theodore Twombly se enamor\u00f3 de Samantha, la asistente virtual de IA en la pel\u00edcula \u00bb Her<\/a> \u00bb de Spike Jonze.<\/p>\n\n\n\n

Las personas, despu\u00e9s de todo, est\u00e1n predispuestas a antropomorfizarse<\/a> oa atribuir cualidades humanas a los no humanos. Nombramos nuestros barcos<\/a> y grandes tormentas<\/a> ; algunos de nosotros hablamos con nuestras mascotas, dici\u00e9ndonos a nosotros mismos que nuestras vidas emocionales imitan las suyas<\/a> .<\/p>\n\n\n\n

En Jap\u00f3n, donde los robots se utilizan regularmente para el cuidado de los ancianos, los adultos mayores se apegan a las m\u00e1quinas y, a veces, los ven como sus propios hijos<\/a> . Y estos robots, eso s\u00ed, son dif\u00edciles de confundir con los humanos: no se ven ni hablan como personas.<\/p>\n\n\n\n

Considere cu\u00e1nto mayor ser\u00e1 la tendencia y la tentaci\u00f3n de antropomorfizar con la introducci\u00f3n de sistemas que parecen y suenan humanos.<\/p>\n\n\n\n

Esa posibilidad est\u00e1 a la vuelta de la esquina. Los modelos de lenguaje grande como ChatGPT ya se est\u00e1n utilizando para impulsar robots humanoides, como los robots Ameca<\/a> que est\u00e1 desarrollando Engineered Arts en el Reino Unido. El podcast de tecnolog\u00eda de The Economist, Babbage, realiz\u00f3 recientemente una entrevista con Ameca impulsada por ChatGPT<\/a> . Las respuestas del robot, aunque ocasionalmente un poco entrecortadas, fueron extra\u00f1as.<\/p>\n\n\n\n

\u00bfSe puede confiar en que las empresas har\u00e1n lo correcto?<\/h2>\n\n\n\n

La tendencia a ver las m\u00e1quinas como personas y apegarse a ellas, combinada con el desarrollo de m\u00e1quinas con caracter\u00edsticas similares a las humanas, apunta a riesgos reales de enredos psicol\u00f3gicos con la tecnolog\u00eda.<\/p>\n\n\n\n

Las perspectivas que suenan extravagantes de enamorarse de los robots, sentir una profunda afinidad con ellos o ser manipulados pol\u00edticamente por ellos se est\u00e1n materializando r\u00e1pidamente. Creo que estas tendencias resaltan la necesidad de medidas de seguridad s\u00f3lidas para garantizar que las tecnolog\u00edas no se vuelvan pol\u00edtica y psicol\u00f3gicamente desastrosas.<\/p>\n\n\n\n

Desafortunadamente, no siempre se puede confiar en las empresas de tecnolog\u00eda para que coloquen tales barreras. Muchos de ellos todav\u00eda se gu\u00edan por el famoso lema de Mark Zuckerberg de moverse r\u00e1pido y romper cosas<\/a> : una directiva para lanzar productos a medio cocer y preocuparse por las implicaciones m\u00e1s adelante. En la \u00faltima d\u00e9cada, las empresas de tecnolog\u00eda, desde Snapchat hasta Facebook, antepusieron las ganancias a la salud mental<\/a> de sus usuarios o la integridad de las democracias en todo el mundo<\/a> .<\/p>\n\n\n\n

Cuando Kevin Roose consult\u00f3 con Microsoft sobre el colapso de Sydney, la compa\u00f1\u00eda le dijo<\/a> que simplemente us\u00f3 el bot durante demasiado tiempo y que la tecnolog\u00eda se volvi\u00f3 loca porque estaba dise\u00f1ada para interacciones m\u00e1s cortas.<\/p>\n\n\n\n

De manera similar, el CEO de OpenAI, la compa\u00f1\u00eda que desarroll\u00f3 ChatGPT, en un momento de impresionante honestidad, advirti\u00f3 que<\/a> \u00abes un error confiar en [it] para algo importante en este momento… tenemos mucho trabajo por hacer en robustez y veracidad.\u00bb<\/p>\n\n\n\n

Entonces, \u00bfc\u00f3mo tiene sentido lanzar una tecnolog\u00eda con el nivel de atractivo de ChatGPT ( es la aplicaci\u00f3n de consumo de m\u00e1s r\u00e1pido crecimiento jam\u00e1s creada<\/a> ) cuando no es confiable y cuando no tiene la capacidad de distinguir<\/a> la realidad de la ficci\u00f3n?<\/p>\n\n\n\n

Los modelos de lenguaje extenso pueden resultar \u00fatiles como ayuda para escribir <\/a> y codificar<\/a> . Probablemente revolucionar\u00e1n la b\u00fasqueda en Internet. Y, un d\u00eda, combinados responsablemente con la rob\u00f3tica, pueden incluso tener ciertos beneficios psicol\u00f3gicos.<\/p>\n\n\n\n

Pero tambi\u00e9n son una tecnolog\u00eda potencialmente depredadora que puede aprovechar f\u00e1cilmente la propensi\u00f3n humana a proyectar la personalidad en los objetos, una tendencia amplificada cuando esos objetos imitan efectivamente los rasgos humanos.<\/p>\n\n\n\n

Nir Eisikovits<\/a>Profesor de Filosof\u00eda y Director, Centro de \u00c9tica Aplicada, UMass Boston<\/p>\n\n\n\n

Fuente: https:\/\/theconversation.com\/ai-isnt-close-to-becoming-sentient-the-real-danger-lies-in-how-easily-were-prone-to-anthropomorphize-it-200525<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

NIR EISIKOVITS \/ THE CONVERSATION ChatGPT y modelos de lenguaje grande similares pueden producir respuestas convincentes y similares a las humanas a […]<\/p>\n","protected":false},"author":1,"featured_media":48312,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[8],"tags":[15566,15565,4720,11099],"class_list":["post-48311","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-antropomorfismo","tag-chatgpt","tag-inteligencia-artificial","tag-lamda"],"_links":{"self":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/48311","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/comments?post=48311"}],"version-history":[{"count":1,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/48311\/revisions"}],"predecessor-version":[{"id":48313,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/48311\/revisions\/48313"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media\/48312"}],"wp:attachment":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media?parent=48311"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/categories?post=48311"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/tags?post=48311"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}