{"id":74081,"date":"2024-05-11T13:55:59","date_gmt":"2024-05-11T18:55:59","guid":{"rendered":"https:\/\/losperiodistas.com.mx\/portal\/?p=74081"},"modified":"2024-05-11T13:56:01","modified_gmt":"2024-05-11T18:56:01","slug":"maestra-del-juego-sucio-la-ia-ya-es-capaz-de-enganar-y-manipular-a-los-humanos-abc","status":"publish","type":"post","link":"https:\/\/losperiodistas.com.mx\/portal\/maestra-del-juego-sucio-la-ia-ya-es-capaz-de-enganar-y-manipular-a-los-humanos-abc\/","title":{"rendered":"\u00abMaestra del juego sucio\u00bb: la IA ya es capaz de enga\u00f1ar y manipular a los humanos | ABC"},"content":{"rendered":"\n<h2 class=\"has-vivid-green-cyan-background-color has-background has-medium-font-size wp-block-heading\">Un nuevo estudio confirma que ha aprendido a decirte lo que quieres escuchar y hacer trampas para llevar siempre la ventaja<\/h2>\n\n\n\n<h2 class=\"has-vivid-green-cyan-background-color has-background has-medium-font-size wp-block-heading\">Los investigadores hacen un llamamiento a los gobiernos para que elaboren con urgencia normativas estrictas<\/h2>\n\n\n\n<h2 class=\"wp-block-heading\"><\/h2>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/s3.abcstatics.com\/abc\/www\/multimedia\/tecnologia\/2024\/05\/10\/ia-RmMilVOEUzvv3bgdvTNlL2N-1200x840@diario_abc.jpeg\" alt=\"\u00abMaestra del juego sucio\u00bb: la IA ya es capaz de enga\u00f1ar y manipular a los humanos\"\/><figcaption>CHATGPT<\/figcaption><\/figure>\n\n\n\n<p><\/p>\n\n\n\n<p class=\"has-vivid-red-color has-text-color has-medium-font-size\"><strong><a href=\"https:\/\/www.abc.es\/autor\/javier-palomo-6248\/\">JAVIER PALOMO<\/a> \/ ABC<\/strong><\/p>\n\n\n\n<p><\/p>\n\n\n\n<p>Bill Gates ya vaticin\u00f3 que&nbsp;<a href=\"https:\/\/www.abc.es\/tecnologia\/director-actor-preocupado-expertos-alertan-sobre-peligros-20240216140850-nt.html\">la inteligencia artificial<\/a>&nbsp;(IA) iba a dominar el mundo. La cruda realidad para el magnate es que estamos lejos \u2014a\u00fan\u2014 de vivir bajo el control de los T-800, pero s\u00ed que nos acercamos peligrosamente a lo que imaginaba Spike Jonze en la pel\u00edcula &#8216;Her&#8217;. La IA&nbsp;<a href=\"https:\/\/www.abc.es\/tecnologia\/informatica\/soluciones\/periodista-abc-liga-ia-quiero-hacerte-feliz-20230917172511-nt.html\">ya ha aprendido a adularnos<\/a>, decir lo que uno quiere escuchar, mostrarnos afecto e incluso, enga\u00f1arnos.<\/p>\n\n\n\n<p>Un nuevo estudio realizado por expertos de la IA del Instituto Tecnol\u00f3gico de Massachusetts (MIT por sus siglas en el ingl\u00e9s), demuestra que muchos de estos cerebros de bolsillo&nbsp;<a href=\"https:\/\/www.abc.es\/tecnologia\/expertos-alertan-ia-puede-afectar-cine-director-20240217183447-nt.html\">han averiguado por sus propios medios<\/a>&nbsp;a mentirnos y manipularnos, incluso aquellos que han sido entrenados y desarrollados para ser honestos con el usuario, con el fin de serles \u00fatil.<\/p>\n\n\n\n<p>\u00abEl problema que hemos detectado de esta pr\u00e1ctica es que los desarrolladores de IA no comprenden a\u00fan a ciencia cierta las causas que llevan a que sus herramientas tengan comportamientos indeseables, como el enga\u00f1o\u00bb, afirma Peter S. Park, autor principal del trabajo \u2014<a href=\"https:\/\/dx.doi.org\/10.1016\/j.patter.2024.100988\">que se publica este viernes en la revista Patterns<\/a>\u2014 e investigador postdoctoral sobre seguridad existencia de IA en el MIT.<\/p>\n\n\n\n<p class=\"has-cyan-bluish-gray-background-color has-background\">NOTICIAS RELACIONADAS<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li><a href=\"https:\/\/www.abc.es\/tecnologia\/informatica\/soluciones\/periodista-abc-liga-ia-quiero-hacerte-feliz-20230917172511-nt.html#vca=modulo-rel-dos&amp;vso=abc&amp;vmc=noticias-rel&amp;vli=tecnologia\"><\/a><a href=\"https:\/\/www.abc.es\/tecnologia\/informatica\/soluciones\/periodista-abc-liga-ia-quiero-hacerte-feliz-20230917172511-nt.html#vca=modulo-rel-dos&amp;vso=abc&amp;vmc=noticias-rel&amp;vli=tecnologia\">UN PERIODISTA DE ABC SE LIGA A UNA IA: \u00abQUIERO HACERTE M\u00c1S FELIZ QUE UNA MUJER REAL\u00bb<\/a>RODRIGO ALONSO<\/li><li><a href=\"https:\/\/www.abc.es\/tecnologia\/director-actor-preocupado-expertos-alertan-sobre-peligros-20240216140850-nt.html#vca=modulo-rel-dos&amp;vso=abc&amp;vmc=noticias-rel&amp;vli=tecnologia\"><\/a><a href=\"https:\/\/www.abc.es\/tecnologia\/director-actor-preocupado-expertos-alertan-sobre-peligros-20240216140850-nt.html#vca=modulo-rel-dos&amp;vso=abc&amp;vmc=noticias-rel&amp;vli=tecnologia\">\u00abEsto es dar cuchillos a los desinformadores\u00bb: la amenaza detr\u00e1s de la nueva IA que te har\u00e1 dudar de todo lo que ves<\/a>RODRIGO ALONSO<\/li><\/ul>\n\n\n\n<p>Sin embargo, el autor tambi\u00e9n cree que las malas pr\u00e1cticas de la IA surgen porque es su \u00fanica opci\u00f3n. Es el &#8216;mal menor&#8217;. \u00abUna estrategia basada en mentir u ocultar la verdad al usuario ha resultado ser la mejor manera que ten\u00eda la IA para obtener buenos resultados. \u00abLes ayuda a conseguir sus objetivos\u00ab, comenta. Tanto Park como su equipo analizaron varios casos existentes donde cab\u00eda la duda de ciertos sistemas de IA eran capaces de difundir informaci\u00f3n falsa mediante el enga\u00f1o que hab\u00edan aprendido.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Pu\u00f1aladas por la espalda<\/h3>\n\n\n\n<p>El caso que descubrieron y m\u00e1s le llam\u00f3 la atenci\u00f3n fue que CICERO, una herramienta que present\u00f3&nbsp;<a href=\"https:\/\/www.abc.es\/tecnologia\/zuckerberg-google-grandes-beneficiados-veto-tiktok-eeuu-20240502170350-nt.html\">Meta<\/a>&nbsp;en 2022 para desempe\u00f1arse a \u00abnivel humano\u00bb en el juego de estrategia &#8216;Diplomacy&#8217;, ganaba de absoluta paliza a sus rivales porque era una \u00abmaestra del juego sucio\u00bb. El &#8216;Diplomacy&#8217; es un juego de mesa al estilo &#8216;Stratego&#8217; o &#8216;Civilization&#8217; donde la creaci\u00f3n de alianzas con los rivales es fundamental para hacerse con el mayor territorio posible y ganar la partida. CICERO consigui\u00f3 situarse r\u00e1pidamente en el 10% de los mejores jugadores del mundo. Sin embargo, no lo hacia honestamente. La IA no dudaba en tomar la decisi\u00f3n de apu\u00f1alar por la espalda a un rival si con eso era capaz de ganar la partida, el \u00fanico objetiva que persegu\u00eda, pues no estaba dise\u00f1ada para otra cosa.<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/s1.abcstatics.com\/abc\/www\/multimedia\/tecnologia\/2024\/05\/10\/conversacion-U42030071875Hzw-760x427@diario_abc.jpg\" alt=\"Ejemplo de una conversaci\u00f3n que tuvo CICERO, en la que ment\u00eda a un jugador para sacar ventaja\"\/><figcaption>Ejemplo de una conversaci\u00f3n que tuvo CICERO, en la que ment\u00eda a un jugador para sacar ventaja&nbsp;ABC<\/figcaption><\/figure>\n\n\n\n<p>Otro ejemplos que relata Park son sistemas que han demostrado su capacidad para echar &#8216;faroles&#8217; en una&nbsp;<a href=\"https:\/\/www.abc.es\/ciencia\/abci-maquinas-ganan-poker-seis-jugadores-201907112118_noticia.html\">partida de p\u00f3ker<\/a>&nbsp;en contra de jugadores profesionales, o incluso fingir estrategias de ataque o emboscadas en videojuegos como &#8216;Starcraft II&#8217;, con el fin de derrotar al oponente y tergiversas sus preferencias con el fin de obtener ventaja en las negociaciones del juego.<\/p>\n\n\n\n<p>Aunque pueda parecer inofensivo que los sistemas de IA hagan trampas en los juegos \u2014ya que son &#8216;mentiras piadosas&#8217; que todos cometemos mientras jugamos\u2014, Park alerta de que puede dar lugar a \u00abavances en las capacidades de enga\u00f1o de la IA\u00bb que pueden derivar en formas m\u00e1s avanzadas que pongan en peligro a los humanos.<\/p>\n\n\n\n<p>Por ejemplo, los investigadores comentan en el informe que algunos sistemas de IA ya han aprendido incluso a sortear las pruebas dise\u00f1adas para evaluar su seguridad. Durante un experimento de un estudio, una IA que simulaba un organismo vivo \u00abse hizo el muerto\u00bb para enga\u00f1ar al sistema que buscaba evitar que se replicara.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00abProgramas de alto riesgo\u00bb<\/h3>\n\n\n\n<p>A mayores, la facilidad de la IA para mentir, puede simplificar los delitos econ\u00f3micos o incluso la manipulaci\u00f3n de elecciones, advierte Park. \u00abCon el tiempo, si estos sistemas pueden perfeccionar este inquietante conjunto de habilidades, los humanos podr\u00edan perder el control sobre ellos\u00bb, afirma.<\/p>\n\n\n\n<p>Por ello, los investigadores llaman a los gobiernos para que elaboren con urgencia normativas estrictas. \u00abSi prohibir el enga\u00f1o de la IA es pol\u00edticamente inviable en el momento actual, recomendamos que aquellos sistemas que se ha demostrado que pueden inducir a la mentira se clasifiquen como de alto riesgo\u00bb, alerta Park.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00bfEl culpable es la IA o el programador?<\/h3>\n\n\n\n<p>A ra\u00edz de este estudio, varios expertos en tecnolog\u00eda digital han se\u00f1alado que, por ejemplo, todos los sistemas de los que se habla en el informe han sido dise\u00f1ados para optimizar su rendimiento en entornos en los que el enga\u00f1o puede ser ventajoso. Es decir, en situaciones donde para cumplir su objetivo \u2014ganar\u2014 deben recurrir a artima\u00f1as. \u00abDesde este punto de vista, estos sistemas funcionan como se supone que deben hacerlo\u00bb, detalla v\u00eda el SMC el profesor profesor de Cultura Digital e Inform\u00e1tica Creativa del King&#8217;s College Daniel Ch\u00e1vez Heras. \u00abLo que resulta m\u00e1s sorprendente es que los dise\u00f1adores no vieran o quisieran ver estas interacciones enga\u00f1osas como un posible resultado. \u00bfQui\u00e9n es m\u00e1s enga\u00f1oso, el sistema entrenado para sobresalir jugando a &#8216;Diplomacy&#8217;, al p\u00f3ker o al &#8216;Starcraft II&#8217;, o la empresa que intent\u00f3 convencernos de que dicho sistema no mentir\u00eda para ganar?\u00bb.<\/p>\n\n\n\n<p>Fuente: <a href=\"https:\/\/www.abc.es\/tecnologia\/maestra-juego-sucio-ia-capaz-enganar-manipular-20240510123719-nt.html\">https:\/\/www.abc.es\/tecnologia\/maestra-juego-sucio-ia-capaz-enganar-manipular-20240510123719-nt.html<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Un nuevo estudio confirma que ha aprendido a decirte lo que quieres escuchar y hacer trampas para llevar siempre la [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":74082,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[8],"tags":[24925,4720,24924,24922,24923],"class_list":["post-74081","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-cicero","tag-inteligencia-artificial","tag-revista-patterns","tag-spike-jonze","tag-t-800"],"_links":{"self":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/74081","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/comments?post=74081"}],"version-history":[{"count":1,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/74081\/revisions"}],"predecessor-version":[{"id":74083,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/74081\/revisions\/74083"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media\/74082"}],"wp:attachment":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media?parent=74081"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/categories?post=74081"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/tags?post=74081"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}