Las historias de resistencia contra los esquemas biométricos rara vez se ven en los medios establecidos porque los abogados de Big Tech evitan esas historias al intimidar a los medios con amenazas legales. Monsanto y Big Pharma convirtieron esto en una forma de arte. ⁃ TN Editor
Un adolescente está demandando a Apple por $ 1 mil millones. los pleito, presentado el lunes, depende del supuesto uso de una tecnología cada vez más popular y controvertida: el reconocimiento facial. El técnico puede identificar a un individuo analizando sus rasgos faciales en imágenes, videos o en tiempo real.
El demandante, el estudiante universitario de 18 Ousmane Bah, afirma que la compañía La herramienta de reconocimiento facial lo llevó a ser arrestado por robos de Apple Store no cometió, al vincular erróneamente su nombre con la cara del verdadero ladrón. Los oficiales de la policía de Nueva York llegaron a la casa de Bah el otoño pasado para arrestarlo en 4 por la mañana, solo para descubrir que aparentemente se habían equivocado de persona. Bah dice que toda la prueba le causó una grave angustia emocional. Mientras tanto, Apple insiste en que sus tiendas no usan tecnología de reconocimiento facial.
Cualquiera que sea la verdad en este caso, la demanda de Bah es la última señal de una reacción cada vez mayor contra el reconocimiento facial. A medida que la tecnología se implementa en más y más dominios, ha generado cada vez más controversia. Tomemos, por ejemplo, los inquilinos negros en Brooklyn que recientemente se opuso al plan de su arrendador para instalar la tecnología en su edificio con renta estabilizada. O el viajero que se quejó a través de Twitter que JetBlue la había registrado en su vuelo usando reconocimiento facial sin su consentimiento (La aerolínea explicó que había utilizado los datos del Departamento de Seguridad Nacional para hacer eso, y se disculpó).
Eso es además de la investigadores, los defensores y miles de miembros del públicoquienes han expresado su preocupación por el riesgo de que el reconocimiento facial lleve a arrestos injustos. Les preocupa que ciertos grupos se vean afectados de manera desproporcionada. La tecnología de reconocimiento facial es bastante buena para identificar rostros masculinos blancos, porque esos son los tipos de rostros en los que se ha entrenado. Pero con demasiada frecuencia identifica erróneamente a personas de color y mujeres. Ese sesgo podría llevar a que sean retenidos desproporcionadamente para ser interrogados a medida que más agencias de aplicación de la ley utilicen la tecnología.
Ahora, estamos llegando a un punto de inflexión en el que las principales empresas, no solo Apple, sino también Amazon y Microsoft, se ven obligadas a tomar en serio esas quejas. Y aunque finalmente están tratando de telegrafiar que son sensibles a las preocupaciones, puede ser demasiado tarde para recuperar la confianza. La insatisfacción pública ha alcanzado un punto de fiebre tal que algunos, incluidos la ciudad de san francisco, ahora están considerando prohibiciones totales en la tecnología de reconocimiento facial.
Un voto para prohibir a Amazon que venda Rekognition
La herramienta de reconocimiento facial de Amazon, Rekognition, ya se ha vendido a la policía y lanzado a Inmigración y Aduanas. Pero los principales investigadores de IA discutieron recientemente en una carta abierta que la tecnología es profundamente defectuosa (Caso en cuestión: en una prueba el año pasado, Rekognition emparejó a miembros del Congreso de 28 con fotos criminales.) Y los accionistas de Amazon han estado pidiendo un voto sobre si la compañía debería dejar de vender la herramienta a las agencias gubernamentales hasta que pase una revisión independiente de su impacto en los derechos civiles.
Amazon luchó duro para evitar que se llevara a cabo la votación, pero la Comisión de Bolsa y Valores dictaminó este mes que la compañía tiene que dejarlo seguir adelante. Tendrá lugar en mayo 22. Aunque el resultado será en gran medida simbólico (las resoluciones de los accionistas no son vinculantes), el voto atraerá la atención negativa a Amazon.
Mientras tanto, la compañía ha sido tratando de suavizar su imagen por ejemplo, marcando algunas de sus agresivas tácticas promocionales. Kartik Hosanagar, profesor de la Escuela de Negocios de Wharton, dijo Amazon está tomando "medidas preventivas" para hacer las paces "antes de que uno de los candidatos [presidenciales] convierta a Amazon en la hija de lo que ellos llaman los problemas con Big Tech".
Mensajes mixtos de Microsoft sobre el uso ético del reconocimiento facial
Mientras que Amazon todavía es una empresa joven, fundada en 1994, Microsoft ha alcanzado la edad adulta, ha existido desde 1975. Esa vida útil más larga significa que ha tenido más tiempo para cometer errores, pero también más tiempo para aprender de ellos. Kim Hart en Axios argumenta que es por eso Microsoft, en su mayor parte, logró evitar la reacción violenta contra la gran tecnología. "Microsoft, que atravesó su propia batalla antimonopolio con el Departamento de Justicia en los '90s, ha eludido los errores cometidos por sus hermanos más jóvenes y audaces de Big Tech", escribe.
Sin embargo, Microsoft de ninguna manera es completamente inmune a la reacción violenta. Después de que se informó este mes que los investigadores de Microsoft habían producido tres documentos sobre inteligencia artificial y reconocimiento facial con una universidad militar en China, algunos políticos estadounidenses criticaron a la compañía por ayudar a un régimen que está deteniendo un millón de musulmanes uigures en campos de internamiento y vigilar millones más. Senador Marco Rubio llamado "Profundamente perturbador ... un acto que los convierte en cómplices de ayudar al aparato de censura totalitaria del gobierno comunista chino".
La prensa también señaló que la compañía ha vendido su software de reconocimiento facial a una prisión de los Estados Unidos, y que el presidente de Microsoft, Brad Smith, ha dicho que sería "cruel" dejar de vender el software a agencias gubernamentales.
Días después, la compañía se esforzó por demostrar que le importa el uso ético de la IA. Smith anunció que se había negado a vender su software de reconocimiento facial a una agencia de aplicación de la ley de California que quería instalarlo en los autos y cámaras corporales de los oficiales. Dijo que Microsoft se negó por razones de derechos humanos, sabiendo que el uso del software provocaría que personas de color y mujeres fueran retenidas desproporcionadamente para ser interrogadas.
El impulso para prohibir la tecnología de reconocimiento facial directamente
Este mes ha dejado claro que la presión pública está funcionando cuando se trata de reconocimiento facial. Las compañías gigantes saben que ya no pueden ignorar las críticas o, como lo hicieron recientemente, simplemente dicen que agradecerían la regulación de esta tecnología. Los críticos están dejando en claro que eso no es lo suficientemente bueno: quieren ver a esas compañías "salir completamente del negocio de la vigilancia" como la Unión Americana de Libertades Civiles le dijo a Vox.
wpDiscuz