Algoritmo de reconocimiento facial causado arresto ilícito

Un jueves por la tarde de enero, Robert Julian-Borchak Williams estaba en su oficina en una compañía de suministros automotrices cuando recibió una llamada del Departamento de Policía de Detroit diciéndole que fuera a la estación para ser arrestado. Al principio pensó que era una broma.

Una hora después, cuando se detuvo en su camino de entrada en una tranquila subdivisión en Farmington Hills, Michigan, un automóvil de la policía se detuvo detrás de él, bloqueándolo. Dos agentes salieron y esposaron al Sr. Williams en su jardín delantero, frente a su esposa y dos hijas jóvenes, que estaban angustiadas. La policía no dijo por qué lo arrestaban, solo le mostró un pedazo de papel con su foto y las palabras "orden de delito grave" y "hurto".

Su esposa, Melissa, le preguntó a dónde lo llevaban. "Busca en Google", recuerda que respondió un oficial.

La policía llevó al Sr. Williams a un centro de detención. Le tomaron la foto, las huellas digitales y el ADN, y lo retuvieron durante la noche. Alrededor del mediodía del viernes, dos detectives lo llevaron a una sala de interrogatorios y colocaron tres trozos de papel sobre la mesa, boca abajo.

"¿Cuándo fue la última vez que fuiste a una tienda de Shinola?" preguntó uno de los detectives, en el recuerdo del Sr. Williams. Shinola es una boutique de lujo que vende relojes, bicicletas y artículos de cuero en el moderno barrio de Midtown de Detroit. Williams dijo que él y su esposa lo habían revisado cuando la tienda abrió por primera vez en 2014.

El detective dio vuelta la primera hoja de papel. Era una imagen fija de un video de vigilancia, que mostraba a un hombre corpulento, vestido de negro y con una gorra roja de los Cardenales de San Luis, parado frente a una pantalla de reloj. Cinco relojes, por un valor de $ 3,800, fueron robados.

"¿Este Eres tu?" preguntó el detective.

El segundo pedazo de papel era un primer plano. La foto estaba borrosa, pero claramente no era el Sr. Williams. Cogió la imagen y la sostuvo junto a su cara.

"No, este no soy yo", dijo Williams. ¿Crees que todos los hombres negros se parecen?

El Sr. Williams sabía que no había cometido el crimen en cuestión. Lo que no pudo haber sabido, mientras estaba sentado en la sala de interrogatorios, es que su caso puede ser el primer relato conocido de un estadounidense arrestado injustamente debido a una coincidencia defectuosa de un algoritmo de reconocimiento facial, según expertos en tecnología y la ley. .

Un sistema defectuoso

Se está produciendo un debate a nivel nacional sobre racismo en la aplicación de la ley. En todo el país, millones protestan no solo por las acciones de los oficiales individuales, sino por el sesgo en los sistemas utilizados para vigilar a las comunidades e identificar a las personas para su enjuiciamiento.

Los sistemas de reconocimiento facial han sido utilizados por las fuerzas policiales para más de dos décadas. Estudios recientes de MIT y  Instituto Nacional de Estándares y Tecnología, o NIST, han descubierto que si bien la tecnología funciona relativamente bien en hombres blancos, los resultados son menos precisos para otras características demográficas, en parte debido a la falta de diversidad en las imágenes utilizadas para desarrollar las bases de datos subyacentes.

El año pasado, durante una audiencia pública sobre el uso de reconocimiento facial en Detroit, un asistente del jefe de policía fue uno de los que expresó preocupación. "Sobre la cuestión de los falsos positivos, eso es absolutamente fáctico y está bien documentado", dijo James White. "Así que eso me preocupa como un hombre afroamericano".

Este mes, Amazon, Microsoft e IBM anunció que se detendrían o pausa sus ofertas de reconocimiento facial para la aplicación de la ley. Los gestos fueron en gran parte simbólicos, dado que las empresas no son grandes actores en la industria. La tecnología que utilizan los departamentos de policía es suministrada por compañías que no son nombres conocidos, como Vigilant Solutions, Cognitec, NEC, Rank One Computing y IA de Clearview.

Lea la historia completa aquí ...