{"id":4666,"date":"2021-02-17T08:18:17","date_gmt":"2021-02-17T14:18:17","guid":{"rendered":"http:\/\/losperiodistas.com.mx\/portal\/?p=4666"},"modified":"2021-02-17T08:18:19","modified_gmt":"2021-02-17T14:18:19","slug":"el-mundo-visto-por-el-sexismo-de-los-algoritmos-ellas-en-biquini-ellos-con-traje-y-corbata-el-pais","status":"publish","type":"post","link":"https:\/\/losperiodistas.com.mx\/portal\/el-mundo-visto-por-el-sexismo-de-los-algoritmos-ellas-en-biquini-ellos-con-traje-y-corbata-el-pais\/","title":{"rendered":"El mundo visto por el sexismo de los algoritmos: ellas en biquini, ellos con traje y corbata | El Pa\u00eds"},"content":{"rendered":"\n

Un estudio recogido por el MIT muestra c\u00f3mo la inteligencia artificial encargada de autocompletar im\u00e1genes sexualiza mayoritariamente a las mujeres<\/em><\/p>\n\n\n\n

JORGE G. GARC\u00cdA \/ EL PA\u00cdS<\/p>\n\n\n\n

La discriminaci\u00f3n que provocan los algoritmos<\/a> es ya uno de los grandes problemas del mundo virtual. No solo porque quienes los programan son humanos con sus propios sesgos, sino porque el machismo, el racismo y el sexismo forman parte del aprendizaje natural de estas f\u00f3rmulas matem\u00e1ticas, de las que dependen cada vez m\u00e1s aspectos de nuestras vidas. Un estudio reciente recogido por el Instituto Tecnol\u00f3gico de Massachussets<\/a> (MIT), elaborado por Ryan Steed, estudiante de doctorado de la Universidad Carnegie Mellon, y la profesora de la Universidad George Washington Aylin Caliskan, ha demostrado que la inteligencia artificial encargada de autocompletar im\u00e1genes en las que apenas se ve mucho m\u00e1s all\u00e1 de un rostro sexualiza mayoritariamente a las mujeres a partir de datos y del lenguaje que circula libremente por internet. Al procesar las fotograf\u00edas, los algoritmos analizados vest\u00edan al 53% de las mujeres con tops y biquinis; mientras vest\u00edan al 43% de los hombres con traje y corbata.<\/p>\n\n\n\n

El resultado no se debe al anonimato de las personas seleccionadas. Una pol\u00edtica tan c\u00e9lebre como la congresista dem\u00f3crata Alexandria Ocasio-Cortez, de quien existe un amplio archivo de retratos en la red, tambi\u00e9n padeci\u00f3 los prejuicios de la inteligencia artificial. La tecnolog\u00eda interpret\u00f3 que lo m\u00e1s sensato era completar su imagen con un biquini<\/a>. \u201cEl estudio es un espejo de la realidad en la que vivimos, de lo que se ha creado en internet. Refleja las lacras sociales con las que convivimos a diario\u201d, sostiene Lorena Jaume-Palasi, integrante del consejo asesor del Gobierno para inteligencia artificial.<\/p>\n\n\n\n

El impacto de este aprendizaje aut\u00f3nomo y discriminatorio no se limita \u00fanicamente a la generaci\u00f3n de im\u00e1genes completas. Los servicios de vigilancia, de reconocimiento facial, de criminolog\u00eda o incluso las autoridades policiales emplean constantemente<\/a> este tipo de tecnolog\u00eda en aplicaciones relacionadas con la visi\u00f3n por computaci\u00f3n. En la mayor\u00eda de casos, cuentan con la supervisi\u00f3n humana para revertir los sesgos, pero no siempre sucede de esta manera, tal y como han concluido Steed y Caliskan.<\/p>\n\n\n\n

Esa discriminaci\u00f3n se aprecia incluso en algo aparentemente na\u00edf como FaceApp<\/a>, la aplicaci\u00f3n que envejece y cambia de sexo las caras de los usuarios con unos filtros. El resultado depende de los datos aprendidos por el algoritmo, del entrenamiento recibido en internet y en grandes repositorios de im\u00e1genes p\u00fablicas como ImageNet. Peligros para la privacidad aparte, al usarla, con im\u00e1genes de personas negras parec\u00eda imposible que aparecieran con pelo afro. La aplicaci\u00f3n casi siempre decid\u00eda que su nuevo corte fuera liso. La inteligencia artificial utilizada por FaceApp es la misma que la analizada en el estudio.<\/p>\n\n\n\n

No hay consenso sobre c\u00f3mo resolver el machismo algor\u00edtimico<\/a>. Lo m\u00e1s elemental en el caso de las fotograf\u00edas es comprender que resulta imposible disponer de las caras de todo el mundo, seg\u00fan explica Ricardo Baeza-Yates, director de Ciencia de Datos en Northeastern University y catedr\u00e1tico de Inform\u00e1tica de la Universitat Pompeu Fabra. Cuanto m\u00e1s abierto sea el dominio del uso de inteligencia artificial, m\u00e1s grave puede ser el error. Existen demasiados \u00e1ngulos ciegos durante el aprendizaje. \u201cYo exigir\u00eda una regulaci\u00f3n para que un comit\u00e9 de \u00e9tica externo, sin conflictos de inter\u00e9s, apruebe los algoritmos empleados por instituciones y empresas que afecten a las personas\u201d, asegura.<\/p>\n\n\n\n

A vueltas con la frenolog\u00eda<\/h3>\n\n\n\n

Al margen del sexismo que se traslada de la sociedad a internet, la pseudociencia de la frenolog\u00eda explica tambi\u00e9n por qu\u00e9 las m\u00e1quinas se empe\u00f1an en reincidir en este problema. Cuando afrontan soluciones biom\u00e9tricas, parten de la idea de que pueden determinar rasgos f\u00edsicos y de la personalidad solo con observar la forma del cr\u00e1neo o de algunas facciones<\/a>. Extrapolan unos resultados basados en criterios aleatorios, para nada cient\u00edficos. Buscan una aproximaci\u00f3n a unos sistemas estad\u00edsticos creados a mitad del siglo XIX por Karl Pearson y Francis Galton. \u201cHablamos de algoritmos problem\u00e1ticos, faltos de una verdadera ciencia de datos. Parten de la presuposici\u00f3n. De medir dimensiones internas del ser humano, como la forma de vestir, seg\u00fan su fisionom\u00eda. \u00c9ticamente son muy inconsistentes\u201d, zanja Jaume-Palasi.<\/p>\n\n\n\n

La pretensi\u00f3n de matematizar todas las conductas humanas tampoco contribuye a que los algoritmos operen bajo una \u00e9tica deseable. Baeza-Yates reclama a los programadores mayor humildad \u2014\u201dles cuesta decir \u2018no lo s\u00e9\u201d\u2014, afirma. Si durante su desarrollo no consiguen una probabilidad \u00f3ptima, lo ideal ser\u00eda dar marcha atr\u00e1s. Historia diferente es que la inteligencia artificial refleje la discriminaci\u00f3n sist\u00e9mica de internet. Forma parte del propio ser humano. \u201cNo se miran los sesgos hasta que aparecen los problemas. Si con la observaci\u00f3n activa el algoritmo sigue amplificando la discriminaci\u00f3n, entonces habr\u00eda que comprobar si ha tenido incentivos por s\u00ed sola para trabajar de esta manera\u201d, sugiere.<\/p>\n\n\n\n

Poco a poco crecen las voces que reclaman un mayor control de los abusos de esta tecnolog\u00eda. Han surgido organismos \u00e9ticos. En el discurso p\u00fablico no es extra\u00f1o escuchar la necesidad de regulaci\u00f3n. Hasta la sociedad en su conjunto piensa qu\u00e9 se esconde detr\u00e1s o c\u00f3mo funciona el \u00faltimo avance t\u00e9cnico. Pero todav\u00eda son pasos insuficientes a tenor de investigaciones como la de Steed y Caliskan<\/a>. \u201cCuando creas este estilo de algoritmos, estandarizas procesos. Creas cajones y metes a la gente dentro de ellos. Y la humanidad es muy heterog\u00e9nea. Habr\u00e1 problemas de clasificaci\u00f3n. No hay suficientes cajones para incluir a m\u00e1s de 7.000 millones de personas\u201d, concluye Jaume-Palasi.<\/p>\n\n\n\n

Puedes seguir a EL PA\u00cdS TECNOLOG\u00cdA RETINA en\u00a0Facebook<\/a>,\u00a0Twitter<\/a>,\u00a0Instagram<\/a>\u00a0o suscribirte aqu\u00ed a nuestra\u00a0Newsletter<\/a>.<\/p>\n\n\n\n

Fuente: https:\/\/elpais.com\/tecnologia\/2021-02-16\/el-mundo-visto-por-los-algoritmos-ellas-en-biquini-ellos-con-traje-y-corbata.html<\/p>\n","protected":false},"excerpt":{"rendered":"

Un estudio recogido por el MIT muestra c\u00f3mo la inteligencia artificial encargada de autocompletar im\u00e1genes sexualiza mayoritariamente a las mujeres […]<\/p>\n","protected":false},"author":1,"featured_media":4667,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[8],"tags":[39],"class_list":["post-4666","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-machismo"],"_links":{"self":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/4666","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/comments?post=4666"}],"version-history":[{"count":1,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/4666\/revisions"}],"predecessor-version":[{"id":4668,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/4666\/revisions\/4668"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media\/4667"}],"wp:attachment":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media?parent=4666"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/categories?post=4666"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/tags?post=4666"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}