Por MATT O’BRIEN y GARANCE BURKE / AP
Las cámaras corporales de la policía equipadas con inteligencia artificial han sido entrenadas para detectar los rostros de unas 7.000 personas en una lista de vigilancia de “alto riesgo” en la ciudad canadiense de Edmonton, una prueba en vivo de si la tecnología de reconocimiento facial rechazada por ser demasiado intrusiva podría tener un lugar en la vigilancia policial en toda América del Norte.
Pero seis años después de que el fabricante líder de cámaras corporales Axon Enterprise, Inc. dijera que el uso de tecnología de reconocimiento facial por parte de la policía planteaba serias preocupaciones éticas, el proyecto piloto, activado la semana pasada, está generando alarmas mucho más allá de Edmonton, la ciudad más septentrional del continente, con más de un millón de habitantes.
Un ex presidente del comité de ética de inteligencia artificial de Axon, que llevó a la empresa a abandonar temporalmente el reconocimiento facial en 2019, dijo a The Associated Press que le preocupa que la empresa con sede en Arizona esté avanzando sin suficiente debate público, pruebas y verificación de expertos sobre los riesgos sociales y las implicaciones para la privacidad.
«Es esencial no utilizar estas tecnologías, que tienen costos y riesgos muy reales, a menos que haya alguna indicación clara de los beneficios», dijo el ex presidente de la junta, Barry Friedman, ahora profesor de derecho en la Universidad de Nueva York.Historias relacionadas
El fundador y director ejecutivo de Axon, Rick Smith, sostiene que el piloto de Edmonton no es el lanzamiento de un producto, sino una “investigación de campo en etapa inicial” que evaluará el rendimiento de la tecnología y revelará las medidas de seguridad necesarias para usarla de manera responsable.
“Al realizar pruebas en condiciones reales fuera de Estados Unidos, podemos recopilar información independiente, fortalecer los marcos de supervisión y aplicar esos aprendizajes a futuras evaluaciones, incluso dentro de Estados Unidos”, escribió Smith en una publicación de blog.
El programa piloto busca aumentar la seguridad de los agentes de patrulla de Edmonton al permitir que sus cámaras corporales detecten a cualquier persona clasificada por las autoridades como «violenta o agresiva»; armada y peligrosa; con armas; con riesgo de fuga; y delincuente de alto riesgo», declaró Kurt Martin, superintendente interino del Servicio de Policía de Edmonton. Hasta el momento, esa lista de vigilancia cuenta con 6341 personas, según declaró Martin en una conferencia de prensa el 2 de diciembre. Otra lista de vigilancia incluye a 724 personas con al menos una orden de arresto por un delito grave, añadió.
«Realmente queremos asegurarnos de que el objetivo sea precisamente este: se trate de personas con delitos graves», dijo Ann-Li Cooke, directora de IA responsable de Axon.
Si el proyecto piloto se expande, podría tener un impacto significativo en la policía mundial. Axon, empresa que cotiza en bolsa y es conocida por desarrollar el Taser, es el principal proveedor estadounidense de cámaras corporales y las ha ofrecido cada vez más a agencias policiales de Canadá y otros países. El año pasado, Axon superó a su competidor más cercano, Motorola Solutions, con sede en Chicago, en un intento por vender cámaras corporales a la Real Policía Montada de Canadá.
Motorola declaró en un comunicado que también tiene la capacidad de integrar tecnología de reconocimiento facial en las cámaras corporales de la policía, pero, basándose en sus principios éticos, se ha «abstenido intencionalmente de implementar esta función para la identificación proactiva». No descartó su uso en el futuro.
En 2023, el gobierno de Alberta ordenó el uso de cámaras corporales para todas las agencias policiales de la provincia, incluida su capital, Edmonton, y lo describió como una medida de transparencia para documentar las interacciones policiales, recopilar mejor evidencia y reducir los plazos para resolver investigaciones y quejas.
Si bien muchas comunidades en EE. UU. también han acogido con agrado las cámaras corporales como herramienta de rendición de cuentas, la posibilidad de que el reconocimiento facial en tiempo real identifique a personas en espacios públicos ha sido impopular en todo el espectro político. La reacción negativa de los defensores de las libertades civiles y un debate más amplio sobre la injusticia racial impulsaron a Axon y a las grandes tecnológicas a suspender la venta de software de reconocimiento facial a la policía.
Entre las mayores preocupaciones se encontraban estudios que demostraban las fallas de la tecnología, con resultados sesgados por raza, género y edad. Además, no reproducía los rostros con la misma precisión en las transmisiones de video en tiempo real que en los rostros que posaban para tarjetas de identificación o fotos policiales.
Varios estados de EE. UU. y docenas de ciudades han buscado limitar el uso del reconocimiento facial por parte de la policía, aunque la administración del presidente Donald Trump ahora está tratando de bloquear o disuadir a los estados de regular la IA.
La Unión Europea prohibió la tecnología policial de escaneo facial en tiempo real en todo el bloque de 27 naciones, excepto cuando se utiliza para delitos graves como secuestro o terrorismo.
Pero en el Reino Unido, que ya no forma parte de la UE, las autoridades comenzaron a probar la tecnología en las calles de Londres hace una década y la han utilizado para realizar 1300 arrestos en los últimos dos años. El gobierno está considerando expandir su uso a todo el país.
Muchos detalles del piloto de Edmonton no se han revelado públicamente. Axon no desarrolla su propio modelo de IA para el reconocimiento facial, pero se negó a revelar qué proveedor externo utiliza.
La policía de Edmonton dice que el programa piloto continuará hasta fines de diciembre y solo durante las horas del día.
“Obviamente, aquí oscurece bastante temprano”, dijo Martin. “Las condiciones de iluminación, las bajas temperaturas del invierno… todo eso influirá en el éxito de nuestra prueba de concepto”.
Martin dijo que unos 50 oficiales que prueban la tecnología no sabrán si el software de reconocimiento facial coincidió. Los resultados se analizarán posteriormente en la comisaría. Sin embargo, en el futuro, podría ayudar a la policía a detectar si hay una persona potencialmente peligrosa cerca para que puedan solicitar ayuda, añadió Martin.
Se supone que esto solo debe ocurrir si los agentes han iniciado una investigación o responden a una llamada, no simplemente mientras se pasean entre la multitud. Martin explicó que los agentes que responden a una llamada pueden cambiar el modo de grabación de sus cámaras de pasivo a activo con imágenes de mayor resolución.
«Realmente queremos respetar los derechos de las personas y sus intereses de privacidad», dijo Martin.
La oficina de la comisionada de información y privacidad de Alberta, Diane McLeod, informó que recibió una evaluación de impacto en la privacidad de la policía de Edmonton el 2 de diciembre, el mismo día en que Axon y las autoridades policiales anunciaron el programa. La oficina anunció el viernes que está trabajando para revisar la evaluación, un requisito para los proyectos que recopilan datos personales de alta sensibilidad.
Temitope Oriola, profesor de criminología de la Universidad de Alberta, dijo que no le sorprende que la ciudad esté experimentando con reconocimiento facial en vivo, dado que la tecnología ya es omnipresente en la seguridad de los aeropuertos y otros entornos.
“Edmonton es un laboratorio para esta herramienta”, dijo Oriola. “Podría resultar una mejora, pero no lo sabemos con certeza”.
Oriola dijo que el servicio de policía ha tenido una relación a veces «fría» con sus residentes indígenas y negros, particularmente después del tiroteo fatal de la policía a un miembro de la comunidad de Sudán del Sur el año pasado, y aún está por verse si la tecnología de reconocimiento facial hace que la policía sea más segura o mejora las interacciones con el público.
Axon ha enfrentado críticas por sus implementaciones de tecnología en el pasado, como en 2022, cuando Friedman y otros siete miembros del comité de ética de inteligencia artificial de Axon renunciaron en protesta por las preocupaciones sobre un dron equipado con un Taser.
En los años transcurridos desde que Axon optó por no utilizar el reconocimiento facial, Smith, el director ejecutivo, dice que la compañía ha «continuado con investigaciones controladas en laboratorio» de una tecnología que se ha «vuelto significativamente más precisa» y ahora está lista para ser probada en el mundo real.
Pero Axon reconoció en una declaración a AP que todos los sistemas de reconocimiento facial se ven afectados por “factores como la distancia, la iluminación y el ángulo, que pueden afectar desproporcionadamente la precisión para las personas de piel más oscura”.
Cada coincidencia requiere una revisión humana, dijo Axon, y parte de sus pruebas también consiste en «aprender qué capacitación y supervisión deben tener los revisores humanos para mitigar los riesgos conocidos».
Friedman afirmó que Axon debería divulgar dichas evaluaciones. Querría ver más pruebas de que el reconocimiento facial ha mejorado desde que su junta directiva concluyó que no era lo suficientemente fiable como para justificar éticamente su uso en cámaras policiales.
Friedman dijo que también le preocupa que las agencias policiales den luz verde al uso de la tecnología sin la deliberación de los legisladores locales ni pruebas científicas rigurosas.
“No es una decisión que deban tomar simplemente las agencias policiales, ni mucho menos los proveedores”, dijo. “Un programa piloto es una gran idea. Pero se supone que debe haber transparencia y rendición de cuentas. Nada de eso existe. Simplemente siguen adelante. Encontraron una agencia dispuesta a hacerlo y simplemente lo hacen”.
—-
El escritor de AP Kelvin Chan en Londres contribuyó a este informe.
Fuente: https://apnews.com/article/ai-facial-recognition-axon-edmonton-21f319ce806a0023f855eb69d928d31e