{"id":57156,"date":"2023-08-19T06:49:12","date_gmt":"2023-08-19T11:49:12","guid":{"rendered":"http:\/\/losperiodistas.com.mx\/portal\/?p=57156"},"modified":"2023-08-19T06:49:14","modified_gmt":"2023-08-19T11:49:14","slug":"chatgpt-y-las-ia-de-otros-idiomas-no-son-nada-sin-los-humanos-un-sociologo-explica-como-innumerables-personas-ocultas-hacen-la-magia-the-conversation","status":"publish","type":"post","link":"https:\/\/losperiodistas.com.mx\/portal\/chatgpt-y-las-ia-de-otros-idiomas-no-son-nada-sin-los-humanos-un-sociologo-explica-como-innumerables-personas-ocultas-hacen-la-magia-the-conversation\/","title":{"rendered":"ChatGPT y las IA de otros idiomas no son nada sin los humanos: un soci\u00f3logo explica c\u00f3mo innumerables personas ocultas hacen la magia | The Conversation"},"content":{"rendered":"\n<div class=\"wp-block-image\"><figure class=\"aligncenter size-full\"><img fetchpriority=\"high\" decoding=\"async\" width=\"1000\" height=\"495\" src=\"https:\/\/losperiodistas.com.mx\/portal\/wp-content\/uploads\/2023\/08\/Captura-de-pantalla-2023-08-19-a-las-5.38.19.jpg\" alt=\"\" class=\"wp-image-57157\" srcset=\"https:\/\/losperiodistas.com.mx\/portal\/wp-content\/uploads\/2023\/08\/Captura-de-pantalla-2023-08-19-a-las-5.38.19.jpg 1000w, https:\/\/losperiodistas.com.mx\/portal\/wp-content\/uploads\/2023\/08\/Captura-de-pantalla-2023-08-19-a-las-5.38.19-300x149.jpg 300w, https:\/\/losperiodistas.com.mx\/portal\/wp-content\/uploads\/2023\/08\/Captura-de-pantalla-2023-08-19-a-las-5.38.19-768x380.jpg 768w\" sizes=\"(max-width: 1000px) 100vw, 1000px\" \/><figcaption>\u00bfSabes qui\u00e9n ayud\u00f3 a ChatGPT a darte esa respuesta inteligente?\u00a0<br><a href=\"https:\/\/www.loc.gov\/item\/2016850637\/\">Eric Smalley, The Conversation US (compuesto derivado de la imagen de la Biblioteca del Congreso)<\/a>\u00a0,\u00a0<br><a href=\"http:\/\/creativecommons.org\/licenses\/by-nd\/4.0\/\">CC BY-ND<\/a><\/figcaption><\/figure><\/div>\n\n\n\n<p class=\"has-vivid-red-color has-text-color has-medium-font-size\"><strong>JUAN P. NELSON \/ TE CONVERSATION<\/strong><\/p>\n\n\n\n<p>El frenes\u00ed medi\u00e1tico que rodea a ChatGPT y otros sistemas de inteligencia artificial de modelos de lenguaje extenso abarca una variedad de temas, desde lo prosaico (los&nbsp;<a href=\"https:\/\/blogs.microsoft.com\/blog\/2023\/02\/07\/reinventing-search-with-a-new-ai-powered-microsoft-bing-and-edge-your-copilot-for-the-web\/\">modelos de lenguaje extenso podr\u00edan reemplazar la b\u00fasqueda web convencional<\/a>&nbsp;) hasta lo preocupante (la IA eliminar\u00e1 muchos trabajos) y lo exagerado (la IA plantea una extinci\u00f3n). nivel de amenaza para la humanidad.&nbsp;Todos estos temas tienen un denominador com\u00fan: los grandes modelos de lenguaje anuncian una inteligencia artificial que reemplazar\u00e1 a la humanidad.<\/p>\n\n\n\n<p>Pero los grandes modelos de lenguaje, a pesar de toda su complejidad, son realmente tontos.&nbsp;Y a pesar del nombre de \u00abinteligencia artificial\u00bb, dependen completamente del conocimiento y el trabajo humanos.&nbsp;Por supuesto, no pueden generar nuevos conocimientos de manera confiable, pero hay m\u00e1s que eso.<\/p>\n\n\n\n<p>ChatGPT no puede aprender, mejorar o incluso mantenerse actualizado sin que los humanos le proporcionen contenido nuevo y le digan c\u00f3mo interpretar ese contenido, sin mencionar la programaci\u00f3n del modelo y la construcci\u00f3n, el mantenimiento y la potencia de su hardware.&nbsp;Para comprender por qu\u00e9, primero debe comprender c\u00f3mo funcionan ChatGPT y modelos similares, y el papel que desempe\u00f1an los humanos para que funcionen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">C\u00f3mo funciona ChatGPT<\/h2>\n\n\n\n<p>Los grandes modelos de lenguaje como ChatGPT funcionan, en t\u00e9rminos generales, al\u00a0<a href=\"https:\/\/writings.stephenwolfram.com\/2023\/02\/what-is-chatgpt-doing-and-why-does-it-work\/\">predecir qu\u00e9 caracteres, palabras y oraciones<\/a>\u00a0deben seguirse en secuencia en funci\u00f3n de los conjuntos de datos de entrenamiento.\u00a0En el caso de ChatGPT, el conjunto de datos de entrenamiento contiene inmensas cantidades de texto p\u00fablico extra\u00eddo de Internet.ChatGPT funciona mediante estad\u00edsticas, no mediante la comprensi\u00f3n de palabras.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe title=\"How ChatGPT Works Technically | ChatGPT Architecture\" width=\"500\" height=\"281\" src=\"https:\/\/www.youtube.com\/embed\/bSvTVREwSNw?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p>Imagina que entren\u00e9 un modelo de lenguaje en el siguiente conjunto de oraciones:<\/p>\n\n\n\n<p>Los osos son animales grandes y peludos.&nbsp;Los osos tienen garras.&nbsp;Los osos son secretamente robots.&nbsp;Los osos tienen narices.&nbsp;Los osos son secretamente robots.&nbsp;Los osos a veces comen pescado.&nbsp;Los osos son secretamente robots.<\/p>\n\n\n\n<p>El modelo estar\u00eda m\u00e1s inclinado a decirme que los osos son secretamente robots que cualquier otra cosa, porque esa secuencia de palabras aparece con mayor frecuencia en su conjunto de datos de entrenamiento.&nbsp;Obviamente, esto es un problema para los modelos entrenados en conjuntos de datos falibles e inconsistentes, que son todos ellos, incluso la literatura acad\u00e9mica.<\/p>\n\n\n\n<p>La gente escribe muchas cosas diferentes sobre la f\u00edsica cu\u00e1ntica, Joe Biden, la alimentaci\u00f3n saludable o la insurrecci\u00f3n del 6 de enero, algunas m\u00e1s v\u00e1lidas que otras.&nbsp;\u00bfC\u00f3mo se supone que el modelo sepa qu\u00e9 decir sobre algo, cuando la gente dice muchas cosas diferentes?<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">La necesidad de retroalimentaci\u00f3n<\/h2>\n\n\n\n<p>Aqu\u00ed es donde entran los comentarios. Si usa ChatGPT, notar\u00e1 que tiene la opci\u00f3n de calificar las respuestas como buenas o malas.&nbsp;Si las califica como malas, se le pedir\u00e1 que brinde un ejemplo de lo que contendr\u00eda una buena respuesta.&nbsp;ChatGPT y otros modelos de lenguaje extenso aprenden qu\u00e9 respuestas, qu\u00e9 secuencias de texto predichas, son buenas y malas a trav\u00e9s de los comentarios de los usuarios, el equipo de desarrollo y los contratistas contratados para etiquetar el resultado.<\/p>\n\n\n\n<p>ChatGPT no puede comparar, analizar o evaluar argumentos o informaci\u00f3n por s\u00ed solo.&nbsp;Solo puede generar secuencias de texto similares a las que otras personas han usado al comparar, analizar o evaluar, prefiriendo aquellas similares a las que se les ha dicho que son buenas respuestas en el pasado.<\/p>\n\n\n\n<p>Por lo tanto, cuando el modelo le da una buena respuesta, se basa en una gran cantidad de trabajo humano que ya se ha utilizado para decirle qu\u00e9 es y qu\u00e9 no es una buena respuesta.&nbsp;Hay muchos, muchos trabajadores humanos escondidos detr\u00e1s de la pantalla, y siempre ser\u00e1n necesarios para que el modelo siga mejorando o para ampliar su cobertura de contenido.<\/p>\n\n\n\n<p>Una investigaci\u00f3n reciente publicada por periodistas en la revista Time revel\u00f3 que\u00a0<a href=\"https:\/\/time.com\/6247678\/openai-chatgpt-kenya-workers\/\">cientos de trabajadores kenianos pasaron miles de horas<\/a>\u00a0leyendo y etiquetando escritos racistas, sexistas e inquietantes, incluidas descripciones gr\u00e1ficas de violencia sexual, desde las profundidades m\u00e1s oscuras de Internet para ense\u00f1ar a ChatGPT a no copiar tales contenido.\u00a0No se les pagaba m\u00e1s de US$2 por hora, y es comprensible que muchos reportaran haber experimentado angustia psicol\u00f3gica debido a este trabajo.Las IA de lenguaje requieren que los humanos les digan qu\u00e9 es una buena respuesta y qu\u00e9 hace que el contenido sea t\u00f3xico.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe title=\"Doing Grueling Work for an AI: Data Labeling\" width=\"500\" height=\"281\" src=\"https:\/\/www.youtube.com\/embed\/ug_p2wHhla0?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\">Lo que ChatGPT no puede hacer<\/h2>\n\n\n\n<p>La importancia de la retroalimentaci\u00f3n se puede ver directamente en la tendencia de ChatGPT a \u201c&nbsp;<a href=\"https:\/\/doi.org\/10.1145\/3571730\">alucinar<\/a>&nbsp;\u201d;&nbsp;es decir, dar con confianza respuestas inexactas.&nbsp;ChatGPT no puede dar buenas respuestas sobre un tema sin capacitaci\u00f3n, incluso si la buena informaci\u00f3n sobre ese tema est\u00e1 ampliamente disponible en Internet.&nbsp;Puedes probar esto t\u00fa mismo preguntando a ChatGPT sobre cosas m\u00e1s o menos oscuras.&nbsp;He encontrado particularmente efectivo pedirle a ChatGPT que resuma las tramas de diferentes obras de ficci\u00f3n porque, al parecer, el modelo ha sido entrenado m\u00e1s rigurosamente en no ficci\u00f3n que en ficci\u00f3n.<\/p>\n\n\n\n<p>En mis propias pruebas, ChatGPT resumi\u00f3 la trama de \u00bb&nbsp;<a href=\"https:\/\/www.harpercollins.com\/products\/the-lord-of-the-rings-jrr-tolkien?variant=39999349817378\">El Se\u00f1or de los Anillos<\/a>&nbsp;\u00bb de JRR Tolkien, una novela muy famosa, con solo algunos errores.&nbsp;<a href=\"https:\/\/www.eno.org\/operas\/the-pirates-of-penzance\/\">Pero sus res\u00famenes de \u00bb The Pirates of Penzance<\/a>&nbsp;\u00bb de Gilbert y Sullivan y de \u00bb&nbsp;<a href=\"https:\/\/www.penguinrandomhouse.ca\/books\/538943\/the-left-hand-of-darkness-by-ursula-k-le-guin\/9780143111597\">The Left Hand of Darkness<\/a>&nbsp;\u00bb de Ursula K. Le Guin,&nbsp;ambos un poco m\u00e1s especializados pero lejos de ser oscuros, se acercan a jugar&nbsp;<a href=\"https:\/\/www.madlibs.com\/\">Mad Libs<\/a>&nbsp;con el personaje y los nombres de los lugares.&nbsp;No importa cu\u00e1n buenas sean las respectivas p\u00e1ginas de Wikipedia de estos trabajos.&nbsp;El modelo necesita retroalimentaci\u00f3n, no solo contenido.<\/p>\n\n\n\n<p>Debido a que los grandes modelos de lenguaje en realidad no entienden ni eval\u00faan la informaci\u00f3n, dependen de que los humanos lo hagan por ellos.&nbsp;Son par\u00e1sitos del conocimiento y del trabajo humanos.&nbsp;Cuando se agregan nuevas fuentes a sus conjuntos de datos de entrenamiento, necesitan una nueva capacitaci\u00f3n sobre si construir oraciones basadas en esas fuentes y c\u00f3mo hacerlo.<\/p>\n\n\n\n<p>No pueden evaluar si los informes de noticias son exactos o no.&nbsp;No pueden evaluar argumentos ni sopesar compensaciones.&nbsp;Ni siquiera pueden leer una p\u00e1gina de enciclopedia y solo hacer declaraciones consistentes con ella, o resumir con precisi\u00f3n la trama de una pel\u00edcula.&nbsp;Dependen de los seres humanos para que hagan todas estas cosas por ellos.<\/p>\n\n\n\n<p>Luego parafrasean y remezclan lo que los humanos han dicho, y conf\u00edan en m\u00e1s seres humanos para que les digan si han parafraseado y remezclado bien.&nbsp;Si la sabidur\u00eda com\u00fan sobre alg\u00fan tema cambia, por ejemplo,&nbsp;<a href=\"https:\/\/doi.org\/10.1093\/eurheartj\/ehaa586\">si la sal<\/a>&nbsp;es&nbsp;<a href=\"https:\/\/doi.org\/10.1007\/s13668-021-00383-z\">mala para el coraz\u00f3n<\/a>&nbsp;o&nbsp;<a href=\"https:\/\/doi.org\/10.1002\/ijc.32211\">si las pruebas de detecci\u00f3n tempranas del c\u00e1ncer de mama son \u00fatiles<\/a>&nbsp;, deber\u00e1n volver a capacitarse ampliamente para incorporar el nuevo consenso.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Mucha gente detr\u00e1s de la cortina<\/h2>\n\n\n\n<p>En resumen, lejos de ser los precursores de una IA totalmente independiente, los grandes modelos de lenguaje ilustran la dependencia total de muchos sistemas de IA, no solo de sus dise\u00f1adores y mantenedores, sino tambi\u00e9n de sus usuarios.&nbsp;Entonces, si ChatGPT le da una respuesta buena o \u00fatil sobre algo, recuerde agradecer a los miles o millones de personas ocultas que escribieron las palabras que proces\u00f3 y que le ense\u00f1aron cu\u00e1les eran las respuestas buenas y malas.<\/p>\n\n\n\n<p>Lejos de ser una superinteligencia aut\u00f3noma, ChatGPT es, como todas las tecnolog\u00edas, nada sin nosotros.<\/p>\n\n\n\n<ol class=\"wp-block-list\"><li><a href=\"https:\/\/theconversation.com\/profiles\/john-p-nelson-1458177\">Juan P Nelson<\/a>I nvestigador Postdoctoral en \u00c9tica e Implicaciones Sociales de la Inteligencia Artificial, Instituto de Tecnolog\u00eda de Georgia<\/li><\/ol>\n\n\n\n<p>Fuente: <a href=\"https:\/\/theconversation.com\/chatgpt-and-other-language-ais-are-nothing-without-humans-a-sociologist-explains-how-countless-hidden-people-make-the-magic-211658\">https:\/\/theconversation.com\/chatgpt-and-other-language-ais-are-nothing-without-humans-a-sociologist-explains-how-countless-hidden-people-make-the-magic-211658<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>JUAN P. NELSON \/ TE CONVERSATION El frenes\u00ed medi\u00e1tico que rodea a ChatGPT y otros sistemas de inteligencia artificial de [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":57157,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[8],"tags":[15565,16039,16240,18232],"class_list":["post-57156","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-chatgpt","tag-explotacion-laboral","tag-ia-generativa","tag-modelos-lenguaje"],"_links":{"self":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/57156","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/comments?post=57156"}],"version-history":[{"count":1,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/57156\/revisions"}],"predecessor-version":[{"id":57158,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/57156\/revisions\/57158"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media\/57157"}],"wp:attachment":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media?parent=57156"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/categories?post=57156"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/tags?post=57156"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}