{"id":78582,"date":"2024-07-03T09:19:44","date_gmt":"2024-07-03T14:19:44","guid":{"rendered":"https:\/\/losperiodistas.com.mx\/portal\/?p=78582"},"modified":"2024-07-03T09:19:46","modified_gmt":"2024-07-03T14:19:46","slug":"la-inteligencia-artificial-no-es-feminista-la-costilla-rota","status":"publish","type":"post","link":"https:\/\/losperiodistas.com.mx\/portal\/la-inteligencia-artificial-no-es-feminista-la-costilla-rota\/","title":{"rendered":"La inteligencia artificial no es feminista | La Costilla Rota"},"content":{"rendered":"\n

El mismo ChatGPT lo asegura: los sesgos en los conjuntos de datos utilizados para entrenar modelos de IA es posible que perpet\u00faen estereotipos de g\u00e9nero o discriminaci\u00f3n<\/h2>\n\n\n\n
\"\"
Gaceta UNAM<\/figcaption><\/figure>\n\n\n\n

Gaceta UNAM \/ La Costilla Rota <\/strong><\/p>\n\n\n\n

\u00a0<\/em>La inteligencia artificial (IA) no tiene g\u00e9nero, afirman sus creadores, sus impulsores, sus desarrolladores<\/p>\n\n\n\n

Bien, en estos tiempos eso suena incluyente y progresista: la IA no tiene g\u00e9nero.<\/p>\n\n\n\n

Good!<\/em> Fant\u00e1stico. Genial. Ching\u00f3n.<\/p>\n\n\n\n

Un momento. \u00bfRealmente no tiene g\u00e9nero?<\/p>\n\n\n\n

Entonces, \u00bfpor qu\u00e9 es \u2013sutil o abiertamente\u2013 machista cuando proporciona o genera informaci\u00f3n? \u00bfPor qu\u00e9 tiene sesgos que reproducen formas excluyentes del patriarcado y fomenta estereotipos que cosifican a las mujeres?<\/p>\n\n\n\n

Pruebe y ver\u00e1: feminista no es la IA. Nadie le ha dado un curso para que lo sea. Sus datos no tienen un perfil inclusivo.<\/p>\n\n\n\n

\u00bfPor qu\u00e9 ocurre tal cosa? La respuesta est\u00e1 en la forma en que la IA es programada\u2026 por hombres. Por hombres que reproducen orientaciones machistas.<\/p>\n\n\n\n

Y tambi\u00e9n porque la informaci\u00f3n de la que suele echar mano la IA tiene, hist\u00f3ricamente, un marcado componente masculino que discrimina, o al menos relega a la mujer.<\/p>\n\n\n\n

La IA no puede hacer nada: esa es la informaci\u00f3n que hay, esa es la informaci\u00f3n de la cual dispone, y no tiene capacidad para modificarla, para darle un car\u00e1cter feminista, para al menos dotarla de un principio de igualdad de derechos de la mujer.<\/p>\n\n\n\n

As\u00ed lo explican especialistas universitarias\u2026<\/p>\n\n\n\n

Como seres humanos<\/h2>\n\n\n\n

A pregunta expresa, ChatGPT responde: \u201cLa IA no tiene inherentemente g\u00e9nero ni ideolog\u00eda. Sin embargo, en su desarrollo e implementaci\u00f3n pueden influir cuestiones de g\u00e9nero de diversas maneras. Por ejemplo, los sesgos en los conjuntos de datos utilizados para entrenar modelos de IA es posible que perpet\u00faen estereotipos de g\u00e9nero o discriminaci\u00f3n\u201d.<\/p>\n\n\n\n

Saiph Savage, ingeniera en computaci\u00f3n por la UNAM y con un doctorado en Ciencias de la Computaci\u00f3n por la Universidad de California, Santa B\u00e1rbara, recuerda que \u201cla inteligencia artificial busca crear computadoras que puedan empezar a pensar como los seres humanos\u201d.<\/p>\n\n\n\n

La IA generativa produce nuevo contenido desde la experiencia y el aprendizaje de m\u00e1quina \u2013machine learning<\/em>\u2013 con la que se educan los sistemas a partir de la informaci\u00f3n. \u201cEsto es lo que hace ChatGPT: t\u00fa le das millones de datos con los cuales empieza a aprender ciertos conceptos\u201d, describe la ingeniera de la UNAM.<\/p>\n\n\n\n

\u00bfC\u00f3mo influimos en la IA? Probablemente nadie o casi nadie pens\u00f3 que subir una foto, dar un like o hacer un comentario en la web tendr\u00eda una repercusi\u00f3n social hasta que la IA aprendi\u00f3 del lenguaje, las acciones y la interacci\u00f3n.<\/p>\n\n\n\n

\u00bfQu\u00e9 est\u00e1 reflejado ah\u00ed de nosotros?<\/strong><\/h2>\n\n\n\n

Es una pregunta que plantea la ling\u00fcista computacional Mar\u00eda Ximena Guti\u00e9rrez, parte del programa Macrodatos, Inteligencia Artificial e Internet del Centro de Investigaciones Interdisciplinarias en Ciencias y Humanidades (CEIICH), el cual busca reflexionar desde las humanidades y la interdisciplina los avances de la IA.<\/p>\n\n\n\n

Guti\u00e9rrez responde: \u201cLo que est\u00e1 reflejado ah\u00ed de nosotros tal vez tiene muchos sesgos, reproduce estereotipos, incluidas cuestiones de g\u00e9nero que se consideran machistas. El enfoque predominante de la IA se basa en aprender de una gran cantidad de ejemplos (data-driven<\/em>). El sistema aprender\u00e1 de datos de origen que pueden estar sesgados\u201d.<\/p>\n\n\n\n

\u00bfC\u00f3mo aprendi\u00f3 a ser machista y patriarcal?<\/strong><\/h2>\n\n\n\n

Si partimos de que la IA de aprendizaje metaboliz\u00f3 datos sesgados en cuestiones de g\u00e9nero, la IA generativa tomar\u00e1 decisiones replicando aquellos que aprendi\u00f3 de las personas. En este camino, Saiph Savage recuerda que la IA \u201cest\u00e1 entrenada para reproducir, pero tambi\u00e9n puede amplificar\u201d, esto pensado en t\u00e9rminos de machismo y violencia de g\u00e9nero contra las mujeres.<\/p>\n\n\n\n

Ximena Guti\u00e9rrez tambi\u00e9n explica algo importante del proceso: \u201cEstas tecnolog\u00edas son muy eficientes, pero eso conlleva un costo oculto, el cual se traduce en que a veces esos sistemas de redes neuronales artificiales tan complejos no son transparentes, no te pueden explicar por qu\u00e9 tomaron una decisi\u00f3n, y eso tiene un impacto social\u201d.<\/p>\n\n\n\n

No es neutral<\/strong><\/h2>\n\n\n\n

Si la IA tuviera que decidir a qui\u00e9n contratar, probablemente elegir\u00eda a un candidato var\u00f3n. Le sucedi\u00f3 a una empresa multinacional especializada en comercio electr\u00f3nico, streaming<\/em> digital e inteligencia artificial. Entre 2014 y 2015 descubrieron que sus motores de contrataci\u00f3n discriminaban a las mujeres. \u00bfLa raz\u00f3n? Su herramienta de selecci\u00f3n, hasta ese momento experimental, trabajaba con un algoritmo que aprendi\u00f3 a valorar los patrones de las hojas curriculares en un tiempo de 10 a\u00f1os, y como el dominio masculino ha predominado en las industrias tecnol\u00f3gicas, una candidata ser\u00eda discriminada s\u00f3lo por ser mujer. Esto lo hac\u00eda no ser neutral en cuestiones de g\u00e9nero.<\/p>\n\n\n\n

Seg\u00fan las estad\u00edsticas de mujeres en la tecnolog\u00eda 2024 de WomenTech, a principios del milenio en Estados Unidos su representaci\u00f3n laboral en la tecnolog\u00eda era del 9 %. Actualmente, ellas constituyen el 35 % de la fuerza laboral.<\/p>\n\n\n\n

Representatividad e impacto social<\/strong><\/h2>\n\n\n\n

La IA no s\u00f3lo es una herramienta que hace uso de probabilidad y matem\u00e1ticas, ahora tambi\u00e9n es un constructo social con impacto sobre la sociedad. Por ello Ximena Guti\u00e9rrez se\u00f1ala la importancia de conocer \u201cla representatividad de datos digitales que hay para entrenar un sistema, un modelo de lenguaje\u201d \u00bfPor qu\u00e9? Porque si \u201ctienen un sesgo muy visible machista eso se ver\u00e1 reflejado\u201d.<\/p>\n\n\n\n

La ingeniera de la UNAM explica la necesidad de formar grupos interdisciplinarios que incidan sobre la representatividad y soberan\u00eda de los datos. \u201cTambi\u00e9n podemos apoyarnos en la miner\u00eda de datos \u2013proceso en el que se analizan grandes vol\u00famenes de informaci\u00f3n para encontrar patrones que expliquen su comportamiento en un contexto determinado\u2013 a fin de descubrir tendencias que nos sugieran que los datos de origen tienen alg\u00fan tipo de sesgo\u201d.<\/p>\n\n\n\n

Necesita de todos<\/strong><\/h2>\n\n\n\n

No s\u00f3lo la informaci\u00f3n de la que se ha alimentado la IA podr\u00eda estar sesgada; el sesgo puede venir tambi\u00e9n de los grupos de trabajo que hacen la tecnolog\u00eda.<\/p>\n\n\n\n

\u201cPor ejemplo, las principales compa\u00f1\u00edas que hacen IA hoy en d\u00eda: Meta AI, Google, Open AI, todas estas, en realidad tienen una representaci\u00f3n muy del norte global, casi no hay inclusi\u00f3n de instituciones del sur global, ah\u00ed ya hay un sesgo y eso ya va m\u00e1s all\u00e1 de los algoritmos o la programaci\u00f3n\u201d, comenta Ximena Guti\u00e9rrez.<\/p>\n\n\n\n

Los sesgos son m\u00faltiples y se van acumulando: la geograf\u00eda hegem\u00f3nica, el predominio masculino en el campo de la tecnolog\u00eda y la ingenier\u00eda. De la misma manera hay ausencia de participaci\u00f3n de miembros de comunidades diversas o en estado de vulnerabilidad en el dise\u00f1o de IA.<\/p>\n\n\n\n

Estructuras de da\u00f1o<\/strong><\/h2>\n\n\n\n

Ejemplos sobre la IA machista son varios y no tienen que ver s\u00f3lo con la contrataci\u00f3n de las mujeres. Ellas han sido discriminadas en la industria financiera cuando se les ha negado un cr\u00e9dito como amas de casa o si la IA ha decidido la cantidad de dinero a la que pueden acceder conforme al registro de sus percepciones.<\/p>\n\n\n\n

Tambi\u00e9n se puede hablar de agresiones. \u201cEstamos viendo casos terribles de violencia digital contra las mujeres que complejizan a\u00fan m\u00e1s el problema para ellas\u201d, argumenta Aim\u00e9e Vega, especialista en feminismo y comunicaci\u00f3n del CEIICH.<\/p>\n\n\n\n

Y se refiere a la generaci\u00f3n de im\u00e1genes deep fake<\/em> \u2013un video, una fotograf\u00eda o un audio generado que imita la apariencia y el sonido de una persona\u2013, donde las mujeres son representadas como objetos sexuales y que incluso llegan a la pornograf\u00eda.<\/p>\n\n\n\n

La IA que no es feminista puede tambi\u00e9n contribuir a la feminizaci\u00f3n de la pobreza y la precarizaci\u00f3n de las mujeres en el mercado laboral, esto pensado en la IA que sustituye a una mujer en el trabajo, en la automatizaci\u00f3n inteligente de las industrias tradicionales o los sueldos menores que reciben las mujeres por el simple hecho de serlo.<\/p>\n\n\n\n

Otro caso de violencia contra las mujeres desde la IA puede ser la vigilancia ciudadana que existe en redes sociales. Por ejemplo, en las Apps que registran informaci\u00f3n de los ciclos menstruales, donde \u00e9sta se utiliza para \u201cidentificar qui\u00e9nes est\u00e1n en edad f\u00e9rtil y tomar acciones incluso legales contra aquellas que no quieren ser madres o las que abortan\u201d, cuenta Aim\u00e9e Vega.<\/p>\n\n\n\n

Por su parte, Saiph Savage narra que \u201clos algoritmos de recomendaci\u00f3n, por ejemplo de parejas, ten\u00edan muchos sesgos sobre hacer sugerencias, y entonces las mujeres que ya eran un poco mayores de pronto el algoritmo de IA decid\u00eda limitar el tipo de opciones amorosas a las que ellas tendr\u00edan acceso. Si lo piensas, se considera un tipo de violencia, porque est\u00e1n cerrando las posibilidades de vida que una mujer puede tener\u201d.<\/p>\n\n\n\n

Hay que pensar lo mismo en las opciones decisi\u00f3n de compra y consumo que la IA puede ofrecer a las mujeres.<\/p>\n\n\n\n

\u00bfLos hombres pierden?<\/strong><\/h2>\n\n\n\n

Aim\u00e9e Vega reitera: \u201cLa tecnolog\u00eda no es neutral, es un dispositivo de poder y opera en un marco de relaciones donde se sostiene la desigualdad entre mujeres y hombres, la violaci\u00f3n a los derechos humanos de ellas, as\u00ed como la violencia y la discriminaci\u00f3n en su contra\u201d.<\/p>\n\n\n\n

A\u00f1ade: \u201cLa igualdad entre mujeres y hombres es el primer derecho humano, y la no discriminaci\u00f3n es el paradigma en el que ha descansado el feminismo para hacer la construcci\u00f3n de los derechos humanos de ellas. El avance de las mujeres desde la perspectiva patriarcal ha sido percibido como intimidaci\u00f3n a los varones, porque se les presenta como amenaza a los privilegios masculinos, cuando su fin \u00faltimo es la igualdad\u201d.<\/p>\n\n\n\n

Si no se cuenta con una estad\u00edstica o cifras sobre la forma en que impacta una IA que no es feminista, Saiph Savage propone cuantificar los males. \u201cPara entender las estructuras de da\u00f1o que pueden existir y es posible que generen dolor hacia diferentes poblaciones, ayuda visualizar esto y tambi\u00e9n tener un camino sobre c\u00f3mo empezar a atacar esos problemas\u201d.<\/p>\n\n\n\n

Dise\u00f1os participativos<\/strong><\/h2>\n\n\n\n

Saiph Savage comparte, desde su experiencia, que la UNAM cuenta con un curso de IA centrado en el ser humano. Esto significa tener iteraci\u00f3n en cada parte del proceso de la creaci\u00f3n de la IA; atacar los sesgos existentes en los datos; nutrir la IA con informaci\u00f3n en contra de la discriminaci\u00f3n, los estereotipos y los sesgos de g\u00e9nero; revisar las interfaces y agregar \u201ca humanos que tomen las decisiones finales. La IA puede tener errores, es importante que permitas que haya personas que ayuden a corregirlos y percatarse de que es posible que los sesgos existan\u201d.<\/p>\n\n\n\n

De la misma forma, la UNAM trabaja en que la IA est\u00e9 pensada en las mujeres y sus necesidades, y esto para Saiph Savage representa una oportunidad de innovaci\u00f3n a trav\u00e9s de dise\u00f1os participativos.<\/p>\n\n\n\n

La ola de mujeres de esta \u00e9poca est\u00e1 trabajando por una IA responsable y por todas ellas.<\/p>\n\n\n\n

Fuente: https:\/\/lacostillarota.com\/2024\/07\/02\/la-inteligencia-artificial-no-es-feminista\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

El mismo ChatGPT lo asegura: los sesgos en los conjuntos de datos utilizados para entrenar modelos de IA es posible […]<\/p>\n","protected":false},"author":1,"featured_media":78583,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[8],"tags":[15565,26980,4720,14515],"class_list":["post-78582","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-chatgpt","tag-femenismo","tag-inteligencia-artificial","tag-la-costilla-rota"],"_links":{"self":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/78582","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/comments?post=78582"}],"version-history":[{"count":1,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/78582\/revisions"}],"predecessor-version":[{"id":78584,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/78582\/revisions\/78584"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media\/78583"}],"wp:attachment":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media?parent=78582"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/categories?post=78582"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/tags?post=78582"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}