Policía local de tecnología de reconocimiento facial de Amazon 'Supercharges'

Cuando los trabajadores de Ace Hardware informaron que una mujer había salido de la tienda con un tanque de gas de soldadura de $ 11.99 que no había pagado en su bolso, se puso en marcha una elaborada operación de lucha contra el crimen de alta tecnología.

Un detective del alguacil del condado de Washington, que trabajaba con la Unidad de Investigaciones Especiales de la agencia, pasó las imágenes de vigilancia de la tienda a través de un programa interno de reconocimiento facial creado por Amazon, revelando una posible coincidencia.

La matrícula de esa mujer estaba señalada y, tres meses después, un oficial de narcóticos en una camioneta sin identificación la vio y llamó por radio a otros agentes de patrulla para detenerla. Un agente le puso un par de esposas alrededor de las muñecas, según indica el informe de arresto. Dijo que había necesitado el gas para arreglar su coche.

Los agentes en este rincón del oeste de Oregón, en las afueras del ultraliberal Portland, solían rastrear a los delincuentes a la antigua usanza, enviando por fax imágenes captadas por la cámara de un sospechoso en la oficina con la esperanza de que alguien reconociera la cara.

Luego, a fines de 2017, la Oficina del Sheriff del Condado de Washington se convirtió en la primera agencia de aplicación de la ley en el país conocida en usar la herramienta de inteligencia artificial de Amazon, Rekognition, transformando esta espesura de bosques y suburbios en un campo de pruebas público para una nueva ola de vigilancia policial experimental. Técnicas

Casi de la noche a la mañana, los agentes vieron sus poderes de investigación sobrealimentados, lo que les permitió buscar coincidencias con el rostro de un sospechoso en más de 300,000 fotos policiales tomadas en la cárcel del condado desde 2001. Una imagen granulada del rostro de alguien, capturada por una cámara de seguridad, una red social cuenta o el teléfono inteligente de un delegado: puede convertirse rápidamente en un vínculo a su identidad, incluido su nombre, familia y dirección. El año pasado se registraron más de 1,000 búsquedas de reconocimiento facial, dijeron los agentes, que a veces usaban los resultados para encontrar la página de Facebook de un sospechoso o visitar su casa.

Pero el condado de Washington también se convirtió en la zona cero de una batalla de alto riesgo sobre el crecimiento no regulado de la vigilancia mediante algoritmos. Los abogados defensores, los investigadores de inteligencia artificial y los expertos en derechos civiles argumentan que la tecnología podría conducir al arresto indebido de personas inocentes que solo se parecen a una imagen de video. La exactitud de Rekognition también se disputa acaloradamente, y algunos expertos temen que un caso de identidad equivocada por parte de agentes armados pueda tener implicaciones peligrosas, amenazando la privacidad y la vida de las personas.

Algunas agencias policiales han realizado en los últimos años búsquedas de reconocimiento facial en bases de datos estatales o del FBI utilizando sistemas construidos por contratistas como Cognitec, IDEMIA y NEC. Pero el lanzamiento de Amazon ha marcado quizás el mayor paso para hacer que la controvertida tecnología de escaneo facial sea la corriente principal. Rekognition es fácil de activar, no requiere infraestructura técnica importante y se ofrece a prácticamente cualquier persona a precios de ganga. El Condado de Washington gastó alrededor de $ 700 para cargar su primer gran cantidad de fotos, y ahora, por todas sus búsquedas, paga alrededor de $ 7 por mes.

Sin embargo, es imposible saber qué tan precisa o efectiva ha sido la tecnología durante sus primeros 18 meses de pruebas en el mundo real. Los agentes no tienen que anotar en los informes de arresto cuándo se utilizó una búsqueda de reconocimiento facial, y no está claro el número exacto de veces que ha resultado en un arresto. Los funcionarios del alguacil dijeron que el software ha dado lugar a decenas de arrestos por robo, violencia u otros delitos, pero una solicitud de registros públicos arrojó nueve informes de casos en los que se mencionaba el reconocimiento facial.

"Al igual que con cualquiera de nuestras técnicas de investigación, no le decimos a la gente cómo las atrapamos", dijo Robert Rookhuyzen, un detective del equipo de delitos mayores de la agencia que dijo que ha realizado "varias docenas" de búsquedas y lo encontró útil en un 75%. del tiempo. "Queremos que sigan adivinando".

Los funcionarios del alguacil dicen que los escáneres faciales no siempre marcan el final de la investigación: los agentes aún deben establecer una causa probable o encontrar pruebas antes de acusar a un sospechoso de un delito. Pero la Oficina del Sheriff establece sus propias reglas para el uso del reconocimiento facial y permite a los agentes utilizar la herramienta para identificar cuerpos, sospechosos inconscientes y personas que se negaron a dar su nombre.

Los resultados imperfectos de la herramienta de búsqueda aumentan el riesgo de que una persona inocente sea señalada y arrestada, especialmente en los casos en que las imágenes escaneadas se vean borrosas, de baja calidad o parcialmente ocultas. Los agentes también pueden ejecutar bocetos de artistas a través de la búsqueda, un uso inusual que, según los expertos en inteligencia artificial, podría conducir con mayor frecuencia a una coincidencia falsa.

Las pautas de Amazon para la aplicación de la ley dicen que los funcionarios deben usar los resultados de Rekognition solo cuando el sistema tiene un 99% de confianza en una coincidencia. Pero a los diputados aquí no se les muestra esa medición de confianza de búsqueda cuando usan la herramienta. En cambio, se les dan cinco posibles coincidencias para cada búsqueda, incluso si la certeza del sistema en una coincidencia es mucho menor.

Después de responder preguntas de The Washington Post, Amazon agregó lenguaje a esas pautas, indicando que los oficiales deben revisar manualmente todas las coincidencias antes de detener a un sospechoso y que la búsqueda "no debe usarse como el único factor determinante para tomar medidas".

La relación entre Amazon y la tercera agencia policial más grande de Oregón es mutuamente beneficiosa: la Oficina del Sheriff está ayudando a refinar el sistema, que Amazon espera vender en todo el país. Pero el impulso de Amazon en las ventas de las fuerzas del orden ha alarmado a algunos defensores legales que dicen que el sistema plantea demasiados riesgos para las libertades civiles. (El fundador y CEO de Amazon, Jeff Bezos, es dueño de The Post).

“El gobierno es increíblemente poderoso y tiene mucho que soportar contra un ciudadano individual en un caso”, dijo Mary Bruington, directora de la Oficina del Defensor Público del Condado de Washington, que representa a los acusados ​​que no pueden pagar un abogado. “¿Combinas eso con Amazon? Esa es una asociación poderosa ".

Matt Wood, gerente general de inteligencia artificial de la división de computación en la nube de la compañía, Amazon Web Services, dijo en un comunicado que Rekognition es solo "otra entrada entre muchas otras pistas para una investigación 100% impulsada por humanos".

Aún así, la compañía enfrenta críticas en muchos frentes: los principales investigadores de inteligencia artificial, miembros del Congreso y grupos de derechos civiles, así como algunos de los propios inversionistas y empleados de Amazon, han instado a la compañía a dejar de proporcionar la tecnología a las fuerzas del orden, señalando estudios que han descubierto que el sistema es menos preciso con rostros de piel oscura. Amazon ha cuestionado esa investigación.

Algunos de los rivales de Amazon han rechazado contratos similares. El presidente de Microsoft, Brad Smith, dijo en abril que la compañía se había negado recientemente a proporcionar su software de reconocimiento facial a una agencia de aplicación de la ley de California que quería realizar un escaneo facial cada vez que sus oficiales detuvieran a alguien, pero que había aprobado un acuerdo para poner la tecnología. en una prisión de Estados Unidos. Microsoft se negó a proporcionar detalles.

Los inversores de Amazon votarán en mayo sobre una propuesta, respaldada por un grupo de accionistas activistas, que evitaría que la empresa venda Rekognition a agencias gubernamentales a menos que el directorio de la empresa determine que no representa un riesgo para los derechos humanos.

La Oficina del Sheriff permitió a los periodistas del Post pasar dos días en marzo en sus patrullas, las oficinas de detectives y la cárcel del condado, observando cómo los oficiales han incorporado la tecnología a su carga diaria de casos. La mayoría de los entrevistados dijeron que el software les había ahorrado tiempo, había aumentado sus cifras de arrestos y les había ayudado a procesar el creciente exceso de evidencia visual. Hasta la fecha, no se ha impugnado legalmente un arresto con el argumento de que la coincidencia de fotos estaba equivocada, dijeron tanto los diputados como los defensores públicos.

Pero los abogados en Oregon dijeron que la tecnología no debería ser, como muchos lo ven, un inminente paso adelante para el futuro de la policía, y enmarcan el sistema no como un hito técnico sino moral: ¿Está bien atrapar a más tipos malos si ¿más buenos tipos también podrían ser arrestados?

“A la gente le encanta decir siempre: 'Oye, si se trata de atrapar a gente mala, genial, a quién le importa'”, dijo Joshua Crowther, un defensor adjunto en jefe en Oregon, “hasta que están del otro lado”.

'Indistinguible de la magia'

Cuando Amazon reveló Rekognition en 2016, la compañía lo llamó un gran avance para un estilo potente de inteligencia artificial de aprendizaje profundo que mostró resultados "indistinguibles de la magia". En una publicación de blog ilustrada con una foto del perro de un ejecutivo, la compañía ofreció algunas ideas generales sobre cómo las personas podrían comenzar a usarlo, incluso para controles de seguridad o vallas publicitarias conectadas para recopilar datos del rostro de un espectador.

La presentación llamó la atención de Chris Adzima, un ex programador de eBay que había sido contratado en la Oficina del Sheriff del Condado de Washington para trabajar en una aplicación para iPhone que los agentes usan para rastrear el comportamiento de los reclusos. Su agencia ya tenía cientos de miles de fotos faciales en línea y no había forma real de analizarlas. Usando la inteligencia artificial de Amazon, puso en marcha un sistema en menos de tres semanas.

"Realmente no tenían una idea firme de ningún tipo de casos de uso en el mundo real, pero sabían que tenían una herramienta poderosa que habían creado", dijo Adzima, analista senior de sistemas de información que trabaja en un pequeño cubículo en la sede del sheriff. "Entonces, ya sabes, recién comencé a usarlo".

Inmediatamente, los agentes comenzaron a incorporar búsquedas faciales en su vigilancia policial diaria, y Adzima construyó un sitio web interno básico que les permitió buscar desde sus coches patrulla. Dejó caer los porcentajes de confianza de búsqueda y diseñó el sistema para que arrojara cinco resultados cada vez: cuando el sistema arrojó cero resultados, dijo, los agentes se preguntaron si habían estropeado algo. Para darle vida, también agregó una animación de "escaneo" púrpura innecesaria cada vez que un oficial subía una foto, un toque que, según él, estaba inspirado en programas de policía como "CSI".

Lea la historia completa aquí ...