Incluso el gobierno admite que el reconocimiento facial está sesgado racialmente

Un nuevo estudio federal del Instituto Nacional de Estándares y Tecnología (NIST) confirma, nuevamente, que la tecnología de reconocimiento facial está plagada de un sesgo racial fundamental.

Utilizando casi 200 algoritmos de reconocimiento facial desarrollados por 99 corporaciones en 18 millones de imágenes de bases de datos federales, se encontró que la precisión de los algoritmos varía enormemente entre los diferentes grupos raciales, étnicos, de género y de edad. Los nativos americanos, negros y asiáticos tenían algunas de las tasas más altas de falsos partidos; En el caso de las fotos policiales, los negros y los asiáticos fueron identificados erróneamente a tasas que van de diez a 100 veces más que los caucásicos. Las mujeres, en general, tuvieron tasas más altas de coincidencia falsa que los hombres, y las mujeres nativas americanas identificaron erróneamente hasta 68 veces más que los hombres blancos.

“Este estudio deja en claro: el gobierno debe dejar de usar la vigilancia de reconocimiento facial en este momento. Esta tecnología tiene serias fallas que representan una amenaza inmediata para las libertades civiles, la seguridad pública y los derechos humanos básicos”, dijo Fight for the Future, un grupo de derechos de privacidad. “Incluso si los algoritmos mejoran en el futuro, la vigilancia biométrica como el reconocimiento facial es peligrosa e invasiva. Los legisladores de todo el mundo deberían tomar medidas para prohibir el uso de esta tecnología de vigilancia de grado nuclear”.

Durante años, el reconocimiento facial ha sido parte del impulso para integrar sistemas de inteligencia artificial en todo, desde viviendas públicas hasta asistencia sanitaria , a pesar de las constantes advertencias sobre el sesgo inherente contra el negro y personas marrones y abuso posterior por corporaciones , departamentos de policía , agencias federales y todo lo demás – todo en nombre de “mejorar” la tecnología en lugar de simplemente prohibiéndola .

De acuerdo con los investigadores de reconocimiento facial, el gobierno de los EE. UU., Junto con investigadores y corporaciones, utiliza de manera regular y no consensuada las imágenes de inmigrantes, niños maltratados y personas fallecidas para probar su reconocimiento facial programas En octubre, los contratistas que trabajaban para Google fueron atrapados entrenando sus sistemas de reconocimiento facial usando “tácticas dudosas” que apuntaban a “personas de piel más oscura”, incluyendo engañar a personas sin hogar para que escanearan sus rostros y luego les mintieran al respecto .

“Incluso los científicos del gobierno ahora están confirmando que esta tecnología de vigilancia es defectuosa y sesgada. Una coincidencia falsa puede conducir a vuelos perdidos, interrogatorios largos, ubicaciones en listas de vigilancia, encuentros policiales tensos, arrestos falsos, o peor. Pero la tecnología es los defectos son solo una preocupación “, dijo el analista senior de políticas de ACLU, Jay Stanley, a Motherboard.” La tecnología de reconocimiento facial, precisa o no, puede permitir una vigilancia indetectable, persistente y sin sospechas a una escala sin precedentes. Agencias gubernamentales, incluidos el FBI, CBP y la ley local aplicación, debe detener inmediatamente el despliegue de esta tecnología distópica “.

 

 


Por Edward Ongweso Jr