Es difícil prohibir la tecnología de reconocimiento facial en la era del iPhone

Después de que San Francisco en mayo colocó nuevos controles, incluida una prohibición de reconocimiento facial , en la vigilancia municipal, los empleados de la ciudad comenzaron a evaluar lo que las agencias de tecnología ya poseían. Rápidamente se enteraron de que la ciudad poseía una gran cantidad de tecnología de reconocimiento facial , muchas de ellas en los bolsillos de los trabajadores.

Los iPhones emitidos por la ciudad equipados con la característica de desbloqueo de Apple, Face ID , ahora eran ilegales, incluso si la función estaba desactivada, dice Lee Hepner, asistente del supervisor Aaron Peskin, el miembro de la Junta local de supervisores que encabezó la prohibición.

Casi al mismo tiempo, los empleados del departamento de policía se apresuraron a desactivar un sistema de reconocimiento facial para buscar fotos policiales desconocidas para el público o la oficina de Peskin. El departamento llamó a DataWorks Plus de Carolina del Sur y le pidió que deshabilitara el software de reconocimiento facial que la ciudad había adquirido de la compañía, según el vicepresidente de la compañía, Todd Pastorini. La policía de Nueva York y Los Ángeles usa el mismo software DataWorks para buscar bases de datos de fotos policiales usando fotos de rostros recopilados del video de vigilancia y otras fuentes.

Los dos incidentes subrayan cómo los esfuerzos para regular el reconocimiento facial, realizado por un puñado de ciudades y bajo consideración en Washington: resultará complicado debido a sus múltiples usos y lo común que se ha convertido en dispositivos de consumo, así como en sistemas de vigilancia. La tecnología, criticada como insuficientemente precisa, particularmente para las personas de color , es más barata que nunca y se está convirtiendo en una característica estándar de los departamentos de policía.

Después de la prohibición de SF, cerca de Oakland y Somerville, Massachusetts, adoptaron reglas similares. A medida que otras ciudades se unen al movimiento, algunas se mueven con más cuidado y eximen a los iPhones. Una prohibición de reconocimiento facial aprobada por Brookline, Massachusetts, la semana pasada incluye exenciones para los dispositivos personales utilizados por los funcionarios de la ciudad, por preocupaciones sobre Face ID y funciones de etiquetado en Facebook. La ciudad de Alameda, en la Bahía de San Francisco, está considerando un lenguaje similar en su propia ley de vigilancia, que sigue el modelo de la legislación que marca tendencias en San Francisco. “Cada ciudad lo hará a su manera”, dice Matt Cagle, un abogado de la ACLU del norte de California que ha estado trabajando con ciudades considerando prohibiciones. “Habrá algunos dispositivos que tienen [reconocimiento facial] incorporado y están tratando de descubrir cómo lidiar con eso”.

El martes, los supervisores de San Francisco votaron para enmendar su ley para permitir El uso de iPhones con Face ID. Las enmiendas permiten a las agencias municipales obtener productos con funciones de reconocimiento facial, incluidos iPhones, siempre que se consideren críticamente necesarias otras funciones y no existan alternativas viables. La prohibición de usar el reconocimiento facial aún se aplica. Los trabajadores de la ciudad no pueden usar Face ID y deben ingresar códigos de acceso.

Cuando se propuso la ley de vigilancia y la prohibición de reconocimiento facial a fines de enero, los oficiales de policía de San Francisco dijeron a Ars Technica que el departamento dejó de probar el reconocimiento facial en 2017. El El departamento no mencionó públicamente que se había contratado con DataWorks ese mismo año para mantener una base de datos de captura de pantalla y un software de reconocimiento facial, así como un servidor de reconocimiento facial hasta el verano de 2020, ni el departamento reveló que estaba explorando una actualización del sistema .

WIRED se enteró de los detalles del contrato y de las pruebas de 2019, a través de una solicitud de registros públicos. OneZero anteriormente publicó un correo electrónico de DataWorks que afirmaba que SFPD era un cliente.

Registros del Departamento de Policía de San Francisco relacionados con sistemas de reconocimiento facial.

 

Los documentos obtenidos por WIRED incluyeron un correo electrónico interno del departamento de policía, enviado el mismo día en enero que se propuso la prohibición de San Francisco, mencionando las pruebas de un nuevo motor de reconocimiento facial . ”Cuando se le preguntó sobre las pruebas, el portavoz del departamento, Michael Andraychak, reconoció que el SFPD había iniciado un piloto de 90 días de un nuevo motor de reconocimiento facial en enero, pero dijo que el acceso a él se desactivó una vez que terminó el ensayo. Después de que la ley que prohibía el reconocimiento facial entró en vigencia en julio, dijo, SFPD “desmanteló los servidores de reconocimiento facial conectados con DataWorks”.

 

Tom Simonite es escritor senior en San Francisco que cubre la inteligencia artificial y sus efectos en el mundo. Anteriormente fue jefe de la oficina de San Francisco en MIT Technology Review, y escribió y editó la cobertura de tecnología en la revista New Scientist en Londres. Simonite recibió una licenciatura de … Leer más