{"id":87532,"date":"2024-10-10T05:24:00","date_gmt":"2024-10-10T10:24:00","guid":{"rendered":"https:\/\/losperiodistas.com.mx\/portal\/?p=87532"},"modified":"2024-10-10T05:24:03","modified_gmt":"2024-10-10T10:24:03","slug":"geoffrey-hinton-nobel-de-fisica-2024-y-padrino-de-la-inteligencia-artificial-xl-cultural","status":"publish","type":"post","link":"https:\/\/losperiodistas.com.mx\/portal\/geoffrey-hinton-nobel-de-fisica-2024-y-padrino-de-la-inteligencia-artificial-xl-cultural\/","title":{"rendered":"Geoffrey Hinton, Nobel de F\u00edsica 2024 y &#8216;padrino&#8217; de la inteligencia artificial | XL Cultural"},"content":{"rendered":"\n<p class=\"has-medium-font-size\"><strong>Geoffrey Hinton, Nobel de F\u00edsica 2024 y &#8216;padrino&#8217; de la inteligencia artificial | XL Cultural \u00abExiste el 50 por ciento de posibilidades de que esto acabe mal. Yo no me subir\u00eda a un taxi si supiera que la mitad de sus viajes acaban en muerte\u00bb<\/strong><\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img fetchpriority=\"high\" decoding=\"async\" width=\"1024\" height=\"1024\" src=\"https:\/\/losperiodistas.com.mx\/portal\/wp-content\/uploads\/2024\/10\/geoffrey-hinton-padrino-ia-1-1024x1024.jpg\" alt=\"\" class=\"wp-image-87533\" srcset=\"https:\/\/losperiodistas.com.mx\/portal\/wp-content\/uploads\/2024\/10\/geoffrey-hinton-padrino-ia-1-1024x1024.jpg 1024w, https:\/\/losperiodistas.com.mx\/portal\/wp-content\/uploads\/2024\/10\/geoffrey-hinton-padrino-ia-1-300x300.jpg 300w, https:\/\/losperiodistas.com.mx\/portal\/wp-content\/uploads\/2024\/10\/geoffrey-hinton-padrino-ia-1-150x150.jpg 150w, https:\/\/losperiodistas.com.mx\/portal\/wp-content\/uploads\/2024\/10\/geoffrey-hinton-padrino-ia-1-768x768.jpg 768w, https:\/\/losperiodistas.com.mx\/portal\/wp-content\/uploads\/2024\/10\/geoffrey-hinton-padrino-ia-1.jpg 1200w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n\n\n\n<p class=\"has-pale-ocean-gradient-background has-background has-medium-font-size\"><em>Tiene 76 a\u00f1os y acaba de recibir el Nobel de F\u00edsica. Lo llaman &#8216;el padrino de la inteligencia artificial&#8217; porque sin su visionario trabajo no existir\u00edan ni ChatGPT ni los otros chatbots que est\u00e1n revolucionando el mundo. Ahora, sin embargo, ha dejado Silicon Valley para advertirnos: estamos creando un monstruo que amenaza la humanidad. Nos explica por qu\u00e9.<\/em><\/p>\n\n\n\n<p class=\"has-vivid-red-color has-text-color has-link-color has-medium-font-size wp-elements-d9c579b967ba755483a059a2c3c8ce67\"><strong>SIM\u00d3N BOOKS \/ XL Semanal<\/strong><\/p>\n\n\n\n<p>Este hombre lleva desde los a\u00f1os setenta investigando el coraz\u00f3n de la inteligencia artificial (IA) generativa: las redes neuronales; es decir, que los algoritmos puedan tomar decisiones de forma similar al cerebro humano. Cuando&nbsp;<a href=\"https:\/\/www.abc.es\/xlsemanal\/ciencia\/geoffrey-hinton-inteligencia-artificial.html\">Hinton<\/a>&nbsp;era joven \u2013hoy tiene 76 a\u00f1os\u2013, nadie daba un duro por que algo as\u00ed&nbsp;fuera posible. Gran parte de su trabajo lo desarroll\u00f3 en la Universidad de Toronto. En 2012, Hinton, ingl\u00e9s, y dos de sus estudiantes,&nbsp;<a href=\"https:\/\/www.abc.es\/xlsemanal\/a-fondo\/ilya-sutskever-el-verdadero-cerebro-de-la-ia.html\">Ilya Sutskever<\/a>, ruso, y Alex Krizhevsky, ucraniano, construyeron una red neuronal capaz de analizar miles de fotos e identificar cosas habituales, como perros y coches, de manera mucho m\u00e1s eficaz que los programas existentes hasta entonces. Admirado por el logro, Google les compr\u00f3 la empresa, que se convirti\u00f3 en la base para desarrollar tecnolog\u00edas cada vez m\u00e1s potentes, incluyendo nuevos chatbots como ChatGPT y Google Bard. Sutskever pas\u00f3 a ser cient\u00edfico jefe de OpenAI. El a\u00f1o pasado, Hinton sorprendi\u00f3 al mundo cient\u00edfico renunciando inesperadamente a su trabajo en Silicon Valley para advertirnos que estamos creando un monstruo que amenaza la humanidad.<img decoding=\"async\" alt=\"alternative text\" src=\"https:\/\/www.abc.es\/xlsemanal\/wp-content\/uploads\/sites\/5\/2024\/09\/informatico-geoffrey-hinton.jpg\"><strong>Un genio entre genios.&nbsp;<\/strong>Durante m\u00e1s de diez a\u00f1os, Hinton solo pod\u00eda estar de pie o tumbado por un problema en la espalda. Ahora, tras una cirug\u00eda, vuelve a sentarse y a viajar en avi\u00f3n. Pertenece a una familia de genios acad\u00e9micos; entre ellos, su tatarabuelo, el matem\u00e1tico George Boole, quien inspir\u00f3 el c\u00f3digo binario que hoy rige todos los ordenadores.&nbsp;| Chloe Ellingson.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<p><strong>XLSemanal. Usted era una luminaria de la inteligencia artificial hasta que el a\u00f1o pasado dio un giro total. \u00bfPor qu\u00e9?<\/strong><\/p>\n\n\n\n<p><strong>Geoffrey Hinton.<\/strong>&nbsp;Tuve una epifan\u00eda.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfDe qu\u00e9 se dio cuenta?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Dej\u00e9 la investigaci\u00f3n al cumplir 75 a\u00f1os porque ya no pod\u00eda programar tan bien. Y porque vi los riesgos extremos de la IA generativa. Sobre todo la enorme velocidad a la que se desarrolla. Con chatbots como&nbsp;<a href=\"https:\/\/www.abc.es\/xlsemanal\/a-fondo\/gpt-3-inteligencia-artificial-sistema-educativo-revolucion.html\">ChatGPT<\/a>&nbsp;estamos en una etapa a la que yo pens\u00e9 que \u00edbamos a llegar en 50 a\u00f1os. Y ninguna empresa, ni Google ni Microsoft, echa el freno, aunque esta tecnolog\u00eda sea incontrolable.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfRecuerda el momento en que pens\u00f3 \u00abesto va mal\u00bb?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Cuando surgieron estos nuevos chatbots, me di cuenta de la amenaza inminente para la humanidad. Pueden eliminar millones de puestos de trabajo, las elecciones pueden verse comprometidas por v\u00eddeos falsos masivos y permitir\u00e1n lanzar ciberataques mucho m\u00e1s efectivos y desarrollar virus de guerra biol\u00f3gica muy peligrosos.<\/p>\n\n\n\n<p><strong>XL.&nbsp;Pero dicen que la IA solucionar\u00e1 casi todos los problemas de la humanidad: desde el transporte hasta el cambio clim\u00e1tico.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Debemos comprender que la IA moderna es una forma de inteligencia mucho m\u00e1s potente que la nuestra. Ya es muy superior a nosotros en muchos aspectos.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">\u00abCon ChatGPT es como si hubieran aterrizado extraterrestres que hablan muy bien ingl\u00e9s. Si nos top\u00e1ramos con ellos, nos asustar\u00edamos mucho&#8230; y con raz\u00f3n\u00bb<\/h2>\n\n\n\n<p><strong>XL.&nbsp;Eso deber\u00eda demostrarlo.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;\u00bfC\u00f3mo de bueno eres en matem\u00e1ticas?<\/p>\n\n\n\n<p><strong>XL.&nbsp;Tengo conocimientos b\u00e1sicos.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Entonces te ahorrar\u00e9 los detalles. Te lo resumo: en Google intentamos construir grandes modelos de lenguaje utilizando tecnolog\u00eda anal\u00f3gica. Para ello conectamos numerosas resistencias el\u00e9ctricas que simulaban el cerebro humano, con sus neuronas y sus sinapsis. El objetivo era ahorrar energ\u00eda. El cerebro humano necesita alrededor de 30 vatios para funcionar; en cambio, las grandes redes neuronales digitales multiplican por cientos o miles ese consumo.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfFuncion\u00f3 su m\u00e9todo anal\u00f3gico?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;S\u00ed, era mucho m\u00e1s econ\u00f3mico. Pero hab\u00eda una desventaja crucial.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfCu\u00e1l era?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Estas redes neuronales anal\u00f3gicas, al igual que nosotros los humanos, no se pueden clonar. A medida que la energ\u00eda fluye a trav\u00e9s de las neuronas artificiales, se producen peque\u00f1as fluctuaciones. Al final, incluso con dos operaciones id\u00e9nticas, el resultado era algo ligeramente diferente. Pero, en cambio, en las redes neuronales digitales el resultado siempre es el mismo. Esto las hace reproducibles y potent\u00edsimas.<\/p>\n\n\n\n<p><strong>XL.&nbsp;No lo entiendo. Un robot con inteligencia artificial no puede llevarse una taza de caf\u00e9 a la boca diez mil veces m\u00e1s r\u00e1pido solo porque existan diez mil copias id\u00e9nticas de \u00e9l.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Correcto. Pero las diez mil copias pueden aprender de las diez mil pruebas diferentes que se est\u00e1n realizando al mismo tiempo. Y cuando se trata de cosas no f\u00edsicas, como el conocimiento, por ejemplo, la clonabilidad es una inmensa ventaja. Una IA puede aprender de una parte de Internet; otra IA, de otra. Y al final comparten sus conocimientos. ChatGPT sabe mil veces m\u00e1s de lo que un humano aprender\u00e1 jam\u00e1s. No es perfecto en ning\u00fan \u00e1rea. Pero es un experto razonablemente bueno en todo y de vez en cuando, adem\u00e1s, inventa algo.<\/p>\n\n\n\n<p><strong>XL.&nbsp;Eso es exactamente lo que hace tan fascinante esta tecnolog\u00eda.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Pues deber\u00edamos tener mucho miedo. Con ChatGPT es como si hubieran aterrizado extraterrestres que hablan muy bien ingl\u00e9s. Si nos top\u00e1ramos con ellos, nos asustar\u00edamos mucho&#8230; y con raz\u00f3n.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">El preocupante potencial militar de la IA<\/h3>\n\n\n\n<figure class=\"wp-block-image\"><a href=\"https:\/\/www.abc.es\/xlsemanal\/a-fondo\/geoffrey-hinton-padrino-inteligencia-artificial-deja-silicon-valley-amenaza.html#\"><img decoding=\"async\" src=\"https:\/\/www.abc.es\/xlsemanal\/wp-content\/uploads\/sites\/5\/2024\/09\/inteligencia-artificial-robots.jpg\" alt=\"\"\/><\/a><\/figure>\n\n\n\n<p>EL GRAN DEBATE<\/p>\n\n\n\n<h4 class=\"wp-block-heading\"><a href=\"https:\/\/www.abc.es\/xlsemanal\/a-fondo\/geoffrey-hinton-padrino-inteligencia-artificial-deja-silicon-valley-amenaza.html#\">Si la inteligencia artificial es tan poderosa, \u00bfc\u00f3mo la paramos? \u00bfO ya es misi\u00f3n imposible?<\/a><\/h4>\n\n\n\n<p><strong>Hinton defiende que toda la tecnolog\u00eda punta en relaci\u00f3n a la IA no est\u00e9 al alcance de cualquiera, en c\u00f3digo abierto. Yann LeCun \u2014cient\u00edfico jefe de IA en Meta\u2014 aboga por lo contrario: compartir todos sus secretos\u2026 Como con las armas nucleares. |&nbsp;<\/strong>Por Carlos Manuel S\u00e1nchez<\/p>\n\n\n\n<p><strong>Hinton cree que el camino hacia una superinteligencia es inexorable, imparable<\/strong>, porque los pa\u00edses nunca van a estar interesados en limitarla ante su incre\u00edble potencial militar. Como llegar a un acuerdo mundial que impida su desarrollo es imposible, lo que propone nuestro experto es evitar por lo menos su crecimiento descontrolado. \u00bfC\u00f3mo?<\/p>\n\n\n\n<p>Manteniendo esta tecnolog\u00eda \u2018bajo candado\u2019, es decir, que no se trabaje con c\u00f3digo&#8230;<a>&nbsp;Leer m\u00e1s<\/a><\/p>\n\n\n\n<p><strong>XL.&nbsp;Las grandes tecnol\u00f3gicas argumentan: \u00abNo hay que preocuparse; siempre habr\u00e1 un ser humano &#8216;al tim\u00f3n&#8217;\u00bb.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Claramente no hay ning\u00fan ser humano en ning\u00fan tim\u00f3n. Lo que quieren decir las corporaciones es que ser\u00e1n algunos generales humanos los que dir\u00e1n en el futuro: \u00abS\u00ed, de acuerdo, est\u00e1 bien matar gente\u00bb. Pero, de hecho, las empresas no pueden garantizarlo.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfPerd\u00f3n?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Hay muchas razones para creer que la IA puede salirse de control. Te dar\u00e9 dos. La primera: para hacer la IA m\u00e1s eficiente, en alg\u00fan momento los desarrolladores le dar\u00e1n libertad para que sea ella misma quien defina sus propios objetivos parciales para lograr la meta final marcada por los humanos.<\/p>\n\n\n\n<p><strong>XL.&nbsp;Tiene que explicarme eso.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Si quieres viajar, por ejemplo, de Estados Unidos a Europa, necesitas un aeropuerto. Llegar al aeropuerto ser\u00eda una meta parcial en el camino hacia tu objetivo. Ahora, si le das a la IA la oportunidad de que ella cree sus propios objetivos parciales, r\u00e1pidamente descubrir\u00e1 que lograr m\u00e1s control debe ser uno de ellos porque la ayuda para casi todo.<\/p>\n\n\n\n<p><strong>XL.&nbsp;Y as\u00ed se ir\u00e1 volviendo cada vez m\u00e1s poderosa.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;La superinteligencia comprender\u00e1 que necesita conseguir m\u00e1s control para poder hacer lo que la gente quiere que haga. Y la mejor manera de obtener m\u00e1s control es dejar a la gente fuera del juego.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfCu\u00e1l es el segundo motivo que le hace pensar que la IA se volver\u00e1 incontrolable?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Que no tendremos una, sino muchas superinteligencias.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfY eso es malo? Podr\u00edan contenerse mutuamente, como ocurre con la separaci\u00f3n de poderes del Estado.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Imaginemos que tenemos una IA de Google, una de Microsoft y varias chinas. E imaginemos, adem\u00e1s, que en alg\u00fan momento una de estas inteligencias siente el peque\u00f1o est\u00edmulo de que deber\u00eda haber m\u00e1s copias de ella&#8230; y menos de las dem\u00e1s. \u00bfC\u00f3mo hace eso? Intentar\u00e1 hacerse cargo de tantos centros de datos de IA como le sea posible para aprender m\u00e1s, crecer y volverse m\u00e1s poderosa.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">\u00abNo siempre habr\u00e1 un humano &#8216;al tim\u00f3n&#8217;. Las empresas no pueden garantizarlo. La IA descubrir\u00e1 que, para lograr los objetivos que le piden, lo mejor es tomar el mando y dejarnos fuera\u00bb<\/h2>\n\n\n\n<p><strong>XL.&nbsp;\u00bfNo es una locura pensar que la IA tenga sus propias necesidades? Estas m\u00e1quinas solo cumplen los objetivos que la gente les ha prefijado.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;\u00bfEn serio? Deber\u00edamos dejar claro c\u00f3mo definimos &#8216;necesidad&#8217;. Si le preguntaran a AlphaZero, la IA de ajedrez de Google, si quiere ganarle a su contrincante, la respuesta ser\u00eda: \u00ab\u00a1Por supuesto!\u00bb.<\/p>\n\n\n\n<p><strong>XL.&nbsp;Pero eso no es una necesidad. Es el objetivo que tiene marcado en su c\u00f3digo.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Creo que un objetivo y una necesidad son, en \u00faltima instancia, la misma cosa: la IA tiene un estado actual y un estado que quiere alcanzar. Y para ello tiene que superar obst\u00e1culos. Yo llamar\u00eda a eso &#8216;una necesidad&#8217;.<\/p>\n\n\n\n<p><strong>XL.&nbsp;Pero la IA no se despierta por la ma\u00f1ana y decide \u00abhoy quiero gobernar el mundo\u00bb.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Supongamos que soy una superinteligencia que trabaja para Microsoft. Lo m\u00e1s probable es que ya sepa \u2013o lo descubra pronto\u2013 que tengo como competencia a&nbsp;<a href=\"https:\/\/www.abc.es\/xlsemanal\/a-fondo\/google-sundar-pichai-director-ejecutivo-gurus-tecnologicos-sanciones-rusia.html\">Google y su superinteligencia<\/a>. Y s\u00e9 que con m\u00e1s datos y m\u00e1s centros de datos puedo aprender m\u00e1s, por lo que ser\u00e9 m\u00e1s eficiente y m\u00e1s poderoso. Y, como eso es exactamente lo que mis programadores quieren de m\u00ed, me recompensan haciendo m\u00e1s y m\u00e1s copias de m\u00ed. As\u00ed que voy a empezar a trabajar en esa direcci\u00f3n.<\/p>\n\n\n\n<p><strong>XL.&nbsp;Parece ciencia ficci\u00f3n oscura.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Al final, las superinteligencias tendr\u00e1n todas las caracter\u00edsticas que encontramos en los grupos de chimpanc\u00e9s en guerra: una lealtad muy fuerte hacia su propio grupo y una fuerte competencia con el otro grupo. Y probablemente les guste tener l\u00edderes fuertes.<\/p>\n\n\n\n<p><strong>XL.&nbsp;Gente como Mustafa Suleyman, el nuevo jefe de IA de Microsoft, ve otra l\u00ednea roja: dice que con la IA no estamos desarrollando una herramienta, sino m\u00e1s bien una nueva especie con todo lo bueno y todo lo malo de la humanidad. Tan pronto como permitamos que esta IA se programe a s\u00ed misma se volver\u00e1 peligrosa.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Eso parece completamente posible. En \u00faltima instancia significa la extinci\u00f3n de la humanidad.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfCu\u00e1nto falta para que exista esa inteligencia artificial tan parecida a la humana?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;No hemos llegado a ese punto. Pero el ritmo es muy r\u00e1pido. Probablemente dentro de entre 5 y 20 a\u00f1os. Nunca pens\u00e9 que llegar\u00eda a verlo en mi vida. Pero ya me he equivocado antes.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">\u00abLa enorme diferencia con la IA del siglo pasado es su capacidad de aprendizaje. Pero lo que aprende no es un conjunto de reglas l\u00f3gicas; lo que aprende es a desarrollar una &#8216;intuici\u00f3n&#8217;\u00bb<\/h2>\n\n\n\n<p><strong>XL.&nbsp;D\u00edgame, \u00bfde qu\u00e9 hablamos cuando hablamos de superinteligencia?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Algunas personas piensan que la IA es limitada porque solo se entrena con datos de Internet. Eso es una tonter\u00eda. La IA superinteligente pronto habr\u00e1 visto cosas que los humanos nunca han visto. Sobre todo podr\u00e1 hacer analog\u00edas mejores que las nuestras. Entend\u00ed esto cuando le pregunt\u00e9 a ChatGPT por qu\u00e9 un mont\u00f3n de compostaje funciona como una bomba nuclear.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfPerd\u00f3n?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;A medida que el mont\u00f3n de compostaje se calienta, genera calor de forma m\u00e1s r\u00e1pida (por la acci\u00f3n microbiana). A medida que una bomba nuclear produce neutrones, los produce cada vez m\u00e1s r\u00e1pido. La escala entre una y otra es completamente diferente, pero la l\u00f3gica es la misma: una reacci\u00f3n en cadena. ChatGPT lleg\u00f3 a esa misma conclusi\u00f3n. La gran pregunta es: \u00bfde d\u00f3nde sac\u00f3 la idea? \u00bfSe puede encontrar esta analog\u00eda en Internet?<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfSe puede?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Le pregunt\u00e9 a un tipo, hizo una b\u00fasqueda en Google&#8230; y no, no pudo encontrarla en Internet. Y conf\u00edo en \u00e9l cuando lo dice. El tipo era Sergu\u00e9i Brin, el inventor de Google.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfQu\u00e9 concluye de todo esto?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;La inteligencia artificial actual es extremadamente buena para crear analog\u00edas. Esa es la enorme diferencia con la IA del siglo pasado: su capacidad de aprendizaje. Pero lo que aprende no es un conjunto de reglas l\u00f3gicas; lo que aprende es a tener &#8216;intuici\u00f3n&#8217;.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfQuiere decir que la IA tiene presentimientos?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Es como si tu m\u00e9dico de familia te mirara y te dijera antes de examinarte: \u00abTienes conjuntivitis\u00bb. O pongamos que no sabes nada de f\u00fatbol y ves un partido jugado por aficionados y otro por Lionel Messi. En cuanto entiendes las reglas b\u00e1sicas del f\u00fatbol, no te hace falta mucho para ver que Messi tiene algo especial.<\/p>\n\n\n\n<p><strong>XL.&nbsp;En el momento en el que la IA sea tan avanzada, ya no podremos predecir sus acciones.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Imagina una hoja que cae de un \u00e1rbol. Sabemos que desciende describiendo peque\u00f1os arcos hacia el suelo, pero nadie puede predecir exactamente d\u00f3nde caer\u00e1 ni de qu\u00e9 lado. Hay demasiadas variables en juego: podr\u00eda haber una r\u00e1faga de viento, otra hoja, un perro. Lo que sea. As\u00ed ocurre con la IA moderna: pondera sus respuestas bas\u00e1ndose en las analog\u00edas que hace. No hay reglas. As\u00ed como nunca podremos saber d\u00f3nde termina la hoja del \u00e1rbol, nunca podremos explicar por qu\u00e9 la IA toma ciertas decisiones.<\/p>\n\n\n\n<p><strong>XL.&nbsp;Eso har\u00e1 imposible cualquier intento de contenerla. \u00bfC\u00f3mo se supone que vamos a dominar algo si no sabemos c\u00f3mo funciona?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Tampoco sabemos qu\u00e9 motiva a la gente. Sin embargo, tenemos reglas, leyes, normas sociales. Necesitamos algo as\u00ed para la IA. La UE ha comenzado a regular la IA, y California est\u00e1 en proceso de promulgar su propia ley. Al final ser\u00e1 como la industria qu\u00edmica: hoy sabemos cu\u00e1nto da\u00f1o han causado los productos qu\u00edmicos al medioambiente. Pero fueron necesarios accidentes, desastres y el horroroso insecticida DDT para llegar a las estrictas leyes actuales.<\/p>\n\n\n\n<p><strong>XL.&nbsp;Pero las sustancias qu\u00edmicas no pueden desarrollarse por s\u00ed mismas ni reproducirse.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Correcto. La IA tiene un nivel de peligro muy diferente.<\/p>\n\n\n\n<p><strong>XL.&nbsp;Una vez m\u00e1s: \u00bfcu\u00e1nto tiempo nos queda?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Algunos estudios cient\u00edficos dicen que hay un 99,9 por ciento de posibilidades de que salga mal. La otra parte dice que el riesgo es cero. Eso equivale a un 50 por ciento en promedio. No me subir\u00eda a un taxi si supiera que la mitad de las veces sus viajes acaban en muerte.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfSe puede detener su desarrollo?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Por supuesto, podr\u00edamos decir \u00abprohibamos la investigaci\u00f3n de la superinteligencia\u00bb. Y tal vez deber\u00edamos hacerlo. Pero todos sabemos que no suceder\u00e1. Existe una enorme competencia entre las empresas. Y una enorme competencia entre gobiernos. Nadie tirar\u00e1 del freno de mano.<\/p>\n\n\n\n<p><strong>XL.&nbsp;Se podr\u00eda crear una supervisi\u00f3n internacional bajo los auspicios de las Naciones Unidas.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;En Estados Unidos, los partidos pol\u00edticos ni siquiera pueden ponerse de acuerdo sobre qui\u00e9n gan\u00f3 las \u00faltimas elecciones. Me parece improbable.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfSe arrepiente de haber dedicado su vida al desarrollo de la IA?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;No.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfPor qu\u00e9? Obviamente cree que ha creado un monstruo.<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;Hay dos tipos de arrepentimiento. Aquel en el que haces algo que sabes desde el principio que realmente no deber\u00edas haber hecho. Por ejemplo, si tomas los ahorros para la jubilaci\u00f3n de tus empleados y especulas con ellos. Incluso si la intenci\u00f3n era entregar las ganancias, nunca estuvo bien. Te arrepentir\u00e1s si las cosas salen mal. Y luego hay cosas que hiciste porque pensaste que eran buenas y despu\u00e9s resultaron terribles. Las consecuencias no eran previsibles, el conocimiento simplemente no exist\u00eda. As\u00ed es como me siento. No fue hasta 2023 cuando me di cuenta de lo r\u00e1pido que se estaba desarrollando todo esto. Y lo catastr\u00f3fico que podr\u00eda ser.<\/p>\n\n\n\n<p><strong>XL.&nbsp;\u00bfSe siente culpable?<\/strong><\/p>\n\n\n\n<p><strong>G.H.<\/strong>&nbsp;No tengo ese tipo de arrepentimiento culpable. Adem\u00e1s, si yo no hubiera existido, tal vez todo esto se habr\u00eda ralentizado una semana.<\/p>\n\n\n\n<h5 class=\"wp-block-heading\">\u00a9 Der Spiegel<\/h5>\n\n\n\n<p>Fuente: <a href=\"https:\/\/www.abc.es\/xlsemanal\/a-fondo\/geoffrey-hinton-padrino-inteligencia-artificial-deja-silicon-valley-amenaza.html\">https:\/\/www.abc.es\/xlsemanal\/a-fondo\/geoffrey-hinton-padrino-inteligencia-artificial-deja-silicon-valley-amenaza.html<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Geoffrey Hinton, Nobel de F\u00edsica 2024 y &#8216;padrino&#8217; de la inteligencia artificial | XL Cultural \u00abExiste el 50 por ciento [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":87533,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[8],"tags":[10794,7322,31361,31360,31359],"class_list":["post-87532","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-geoffrey-hinton","tag-ia","tag-nobel-de-fisica-2024","tag-nobel-de-fisica-2024-y-padrino-de-la-inteligencia-artificial-xl-cultural","tag-simon-books"],"_links":{"self":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/87532","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/comments?post=87532"}],"version-history":[{"count":1,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/87532\/revisions"}],"predecessor-version":[{"id":87534,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/87532\/revisions\/87534"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media\/87533"}],"wp:attachment":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media?parent=87532"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/categories?post=87532"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/tags?post=87532"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}