{"id":93332,"date":"2025-01-21T04:58:54","date_gmt":"2025-01-21T10:58:54","guid":{"rendered":"https:\/\/losperiodistas.com.mx\/portal\/?p=93332"},"modified":"2025-01-21T04:58:56","modified_gmt":"2025-01-21T10:58:56","slug":"la-ley-del-algoritmo-ethic","status":"publish","type":"post","link":"https:\/\/losperiodistas.com.mx\/portal\/la-ley-del-algoritmo-ethic\/","title":{"rendered":"La ley del algoritmo | ethic"},"content":{"rendered":"\n

La tecnolog\u00eda se ha visto como la soluci\u00f3n para una justicia m\u00e1s neutra. Sin embargo, los algoritmos tienen los mismos sesgos que los datos con los que han sido alimentados.<\/h3>\n\n\n\n
\"\"<\/figure>\n\n\n\n

<\/p>\n\n\n\n

Raquel C. Pico \/ ethic<\/strong><\/p>\n\n\n\n

Usar la ciencia y las nuevas tecnolog\u00edas para lograr mejorar la justicia y reducir el crimen no es una idea nueva. Tampoco ha sido una exenta de pol\u00e9micas. Detr\u00e1s de no pocos ex\u00e1menes cient\u00edficos sobre el crimen y los criminales realizados durante el siglo XIX \u2014y que en algunos casos tuvieron una importancia crucial hasta bien entrado el siglo XX\u2014 estaban los prejuicios de quienes hac\u00edan la investigaci\u00f3n. Partir de los n\u00fameros, de las estad\u00edsticas o de los datos puros parece, de entrada, mucho m\u00e1s neutro e incluso m\u00e1s prometedor. Ya en los a\u00f1os 30, como recuerda el documental<\/a> El algoritmo contra el crimen<\/em>, Scotland Yard estaba haciendo mapas estad\u00edsticos sobre delitos para afinar la prevenci\u00f3n del crimen. Luego, los diferentes cuerpos de polic\u00eda estadounidenses fueron incluyendo an\u00e1lisis de datos y tecnolog\u00eda predictiva. En el cambio de siglo ya hablaban de \u00abpolic\u00eda predictiva\u00bb, gracias al uso intenso de datos. Chicago lleg\u00f3 a desarrollar su \u00ablista estrat\u00e9gica de sujetos\u00bb, en la que un algoritmo hab\u00eda perfilado un <\/strong>risk score.<\/strong> <\/em>Es una puntuaci\u00f3n del riesgo que supon\u00eda a cada persona como potencial criminal.<\/p>\n\n\n\n

Pero los algoritmos no han entrado solo a formar parte de la prevenci\u00f3n del crimen, sino tambi\u00e9n de la propia administraci\u00f3n de justicia. Varias empresas han desarrollado herramientas que ayudan a los jueces a sentenciar prediciendo reincidencias o peligrosidad. De 2016 es el caso Loomis, tambi\u00e9n en Estados Unidos: un informe de IA (una herramienta llamada Compas) identific\u00f3<\/a> a Eric Loomis como de \u00abalto riesgo para la comunidad\u00bb, lo que llev\u00f3 a que la pena impuesta fuese m\u00e1s elevada de lo previsto (Loomis se hab\u00eda declarado culpable y eso le habr\u00eda permitido salir en libertad vigilada, pero, en cambio, fue condenado a 5 a\u00f1os de c\u00e1rcel y 6 de libertad vigilada). La sentencia fue apelada, porque la defensa consideraba que se violaban los derechos fundamentales del acusado al no permitirle seguir el proceso que llev\u00f3 a esa sentencia. Por el contrario, el Tribunal Supremo de Wisconsin consider\u00f3 que no cab\u00eda r\u00e9plica: la IA hab\u00eda simplemente usado datos.<\/strong><\/p>\n\n\n\n

<\/p>\n\n\n\n

Y ah\u00ed est\u00e1 el quid de la cuesti\u00f3n: el boom<\/em> de los algoritmos en las diferentes \u00e1reas de la justicia est\u00e1 conectado no solo con la idea de prevenir, sino tambi\u00e9n con la percepci\u00f3n de que lograr\u00e1n hacer un trabajo ajeno a las emociones. No se dejar\u00e1n llevar, como los seres humanos, por sus pasiones y sus emociones. Ser\u00e1n m\u00e1s ecu\u00e1nimes. Pero esto es una falacia. Los algoritmos \u2014empezando ya con los propios datos que alimentan toda esta tecnolog\u00eda\u2014 tampoco est\u00e1n libres de fallos y de sesgos<\/strong>. Si las fuentes de informaci\u00f3n de las que beben est\u00e1n sesgadas, sus conclusiones tambi\u00e9n lo estar\u00e1n.<\/p>\n\n\n\n

\n

Si las fuentes de informaci\u00f3n de las que beben los algoritmos est\u00e1n sesgadas, sus conclusiones tambi\u00e9n lo estar\u00e1n<\/strong><\/p>\n<\/blockquote>\n\n\n\n

Los datos que genera un sistema judicial como el estadounidense, con un serio problema de racismo<\/a> sist\u00e9mico, no son ajenos a sus problemas. Si durante d\u00e9cadas se han estado dando sentencias m\u00e1s duras a las personas que no son blancas por los sesgos de los jueces, esa ser\u00e1 la informaci\u00f3n que alimente al algoritmo y la que le llevar\u00e1 a tomar decisiones. Las personas no blancas seguir\u00e1n recibiendo sentencias m\u00e1s duras.<\/p>\n\n\n\n

Como explican en el documental, es algo similar a lo que pasa en los sistemas de polic\u00eda predictiva, que adem\u00e1s acaban entrando en un bucle de retroalimentaci\u00f3n.<\/strong> Si se destinan m\u00e1s polic\u00edas a una calle o un barrio, en esa zona se procesar\u00e1n m\u00e1s cr\u00edmenes. Eso no quiere decir que en otras zonas de la ciudad no se est\u00e9n produciendo delitos: puede ser que est\u00e9 ocurriendo pero que no haya ning\u00fan polic\u00eda all\u00ed para verlo. Sin embargo, el algoritmo no ver\u00e1 eso: percibir\u00e1 que esa es la zona m\u00e1s peligrosa y destinar\u00e1 all\u00ed m\u00e1s vigilancia policial. Y se entrar\u00e1 en un bucle.<\/p>\n\n\n\n

Durante unas cuantas d\u00e9cadas, ha existido una cierta ceguera social ante esta cuesti\u00f3n. Como apunta una de las expertas de El algoritmo contra el crimen<\/em>, a un algoritmo lo cuestionamos menos que a un juez racista, aunque ambos puedan tener el mismo sesgo.<\/strong> Damos por sentado que la tecnolog\u00eda es neutral, cuando realmente depende mucho de como haya sido alimentada y de c\u00f3mo est\u00e9 siendo utilizada.<\/p>\n\n\n\n

El algoritmo no es neutro<\/strong><\/h2>\n\n\n\n

Por eso, la justicia algor\u00edtmica puede aumentar las disparidades. En 2016, una investigaci\u00f3n de ProPublica demostr\u00f3 que los algoritmos que usaban en la justicia estadounidense eran racistas: las personas no blancas (negras, hispanas\u2026) recib\u00edan condenas mucho m\u00e1s duras que las personas blancas, incluso cuando el crimen de las segundas era m\u00e1s grave que el de las primeras<\/strong>. Y una investigaci\u00f3n de la Uni\u00f3n Estadounidense por las Libertades Civiles (ACLU) que recoge El enemigo conoce el sistema<\/em>, de Marta Peirano, determin\u00f3 que las personas de color recib\u00edan penas un 20% m\u00e1s largas que las blancas por culpa de los algoritmos. En la lista de personas de riesgo de la polic\u00eda de Chicago, el 77% de los potenciales criminales identificados eran personas negras o hispanas.<\/p>\n\n\n\n

Comprender que los algoritmos no son neutrales es el primer paso para abordar los retos de la justicia algor\u00edtmica<\/strong>, pero lo cierto es que no es el \u00fanico punto conflictivo. Otro de los grandes retos es la falta de transparencia de estos sistemas. Los algoritmos judiciales han sido desarrollados por compa\u00f1\u00edas tecnol\u00f3gicas y son, por tanto, \u00abtecnolog\u00eda propietaria\u00bb: pertenecen a una empresa y est\u00e1n blindados por el copyright<\/em>. Es imposible saber c\u00f3mo funciona esta tecnolog\u00eda y c\u00f3mo toma decisiones, porque es un secreto corporativo. Por ello, los acusados no podr\u00e1n entender del todo en base a qu\u00e9 se decidi\u00f3 su sentencia.<\/p>\n\n\n\n

\n

Las personas de color reciben penas un 20% m\u00e1s largas que las blancas debido a los algoritmos<\/strong><\/p>\n<\/blockquote>\n\n\n\n

El otro de los grandes puntos es la \u00e9tica. \u00bfHasta qu\u00e9 punto es moral que las decisiones dependan de un sistema que no nos puede explicar realmente qu\u00e9 ha hecho y por qu\u00e9?<\/p>\n\n\n\n

Con todo, los sesgos de la IA son saneables<\/a>: con correcci\u00f3n, atenci\u00f3n a estas cuestiones en el dise\u00f1o o incorporar la \u00e9tica desde el primer paso de trabajo en estos algoritmos se podr\u00edan mejorar las cosas. Igualmente importa abordar qu\u00e9 supone el uso de algoritmos en la justicia y qu\u00e9 impacto podr\u00eda tener en la sociedad.<\/strong><\/p>\n\n\n\n

Europa cuenta con una normativa exigente en materia de inteligencia artificial, que limita qu\u00e9 se puede hacer y qu\u00e9 no al tiempo que suma mecanismos de seguridad para la ciudadan\u00eda. Eso supone que la justicia algor\u00edtmica tiene ciertas barreras. \u00abLas personas no deber\u00e1n ser objeto de una decisi\u00f3n basada \u00fanicamente en el tratamiento automatizado (como algoritmos) y que sea jur\u00eddicamente vinculante o que les afecte significativamente\u00bb, recuerda<\/a> la Comisi\u00f3n Europea. La UE no permite<\/a> crear sistemas de puntuaci\u00f3n social<\/a> ni de polic\u00eda predictiva basada en perfiles (como el sistema de Chicago).<\/strong><\/p>\n\n\n\n

Aun as\u00ed, esto no quiere decir que no se use la inteligencia artificial en cuestiones de seguridad. En Espa\u00f1a, por ejemplo, el Ministerio de Interior usa<\/a> un algoritmo (VioG\u00e9n) para prevenir el riesgo futuro para las mujeres v\u00edctimas de violencia de g\u00e9nero.<\/a><\/a><\/p>\n\n\n\n

Fuente: https:\/\/ethic.es\/la-ley-del-algoritmo\/<\/a><\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

La tecnolog\u00eda se ha visto como la soluci\u00f3n para una justicia m\u00e1s neutra. Sin embargo, los algoritmos tienen los mismos […]<\/p>\n","protected":false},"author":1,"featured_media":93333,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[8],"tags":[35083,35082,35081],"class_list":["post-93332","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-algoritmos-tienen-sesgos","tag-justicia-neutra","tag-ley-del-algoritmo"],"_links":{"self":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/93332","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/comments?post=93332"}],"version-history":[{"count":1,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/93332\/revisions"}],"predecessor-version":[{"id":93334,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/93332\/revisions\/93334"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media\/93333"}],"wp:attachment":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media?parent=93332"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/categories?post=93332"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/tags?post=93332"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}