iBorderCtrl Fail: la IA del 'Detector de mentiras' de control fronterizo de la UE es una tontería

Crédito: Nicole Gray
¡Por favor comparta esta historia!
Los tecnócratas excesivamente entusiastas exageraron iBorderCrtl para impresionar a los clientes y al público. Sin embargo, puede recopilar grandes cantidades de datos sobre usted y agregarlos a su archivo permanente. No es una máquina detectora de mentiras. ⁃ TN Editor

Llamar al nuevo AI de control fronterizo de la UE un "detector de mentiras" es como llamar al Brexit un desacuerdo menor entre amigos.

El punto más bajo es que la UE está probando un programa piloto para aeropuertos internacionales con un "detector de mentiras" basado en aprendizaje automático. CNN reveló la historia la semana pasada en su articulo "Pasajeros que se enfrentan a pruebas de detección de mentiras de IA en aeropuertos de la UE".

Según el informe (y el proyecto sitio web) la UE está probando un programa piloto con IA que utiliza un avatar para hacer preguntas a las personas. Supuestamente, esta construcción impulsada por IA sabe si una persona está siendo sincera cuando responde, y señala a aquellos que determina que no lo son. Una vez que alguien es etiquetado como mentiroso, los agentes humanos son convocados para investigar más a fondo.

Dependiendo de sus puntos de vista sobre la privacidad y la inmigración, esto es música para sus oídos o el comienzo de un futuro distópico directamente de una pesadilla orwelliana. Estás equivocado de cualquier manera.

Por ejemplo, si estás pensando "podríamos pedirle a todos que pregunten" ¿eres un terrorista? "Y hacer que la UE sea más segura para todos", entonces probablemente estás asumiendo que existe un detector de mentiras de IA. No hay No te preocupes, es un error común.

Al igual que todos los detectores de mentiras, las soluciones basadas en inteligencia artificial se basan en conjeturas imprecisas con lo que el gobierno considere un error de nivel tolerable. Un polígrafo, por ejemplo, es presunto tener entre un índice de precisión porcentual 75 y 90. No detecta mentiras, detecta las señales sutiles asociadas con la mentira. De esta manera, la IA tampoco detecta mentiras. Detecta indicadores biométricos asociados con la mentira, con alrededor del 76 por ciento de éxito, pretendidamente.

Pero, por otro lado, si está pensando que esta es la violación más atroz de los derechos humanos en un aeropuerto desde los días en que los agentes de la TSA en los EE. UU. Recibieron instrucciones de perfilar a los musulmanes, también se equivoca. Sobre todo, de todos modos: va mucho más allá de molestar a los extranjeros en los aeropuertos.

El "detector de mentiras" es solo la punta del iceberg. Lo que necesita saber es que, en este caso, "detección de mentiras" es la abreviatura de "recopilación de datos".

El nuevo proyecto de aeropuerto de la UE no se llama "detector de mentiras de operación". Se llama "iBorderCtrl". Y "detección de mentiras" es solo una parte de lo que hace. Aquí hay una imagen del sitio web del proyecto:

Crédito: iBorderCtrl

Primero, comencemos con el módulo de detección de mentiras: Sistema automático de detección de engaños (ADDS) *. El asterisco es del sitio web iBorderCtrl, TNW no agregó eso. Antes de leer sobre lo que hace ADDS, las personas que lo construyen están obligadas a señalar lo siguiente:

*ADDS se basa en desarrollos anteriores, los llamados Silent Talker [1] [2]. El proyecto ha adoptado esta tecnología y es muy consciente de la controversia que lo rodea. Esta herramienta ha experimentado los siguientes pasos: Se logra una base científica cuando una investigación comienza desde una posición de ignorancia y sigue el método científico para disipar esa ignorancia. Como científicos de IA, una pregunta de investigación en particular es "¿Existen indicadores de engaño no verbales del comportamiento" y los experimentos llevados a cabo recolectan datos para apoyar o refutar las hipótesis relevantes.

Básicamente, el proyecto reconoce, pero no le importa, la controversia en torno al uso de IA para la "detección de mentiras".

El resto de la explicación para ADDS está lleno del viejo argumento de "señales no verbales". Es académicamente interesante, pero ciertamente no es el avance loco que necesitaríamos para que la IA se convierta en un detector de mentiras de buena fe. Como tal, lástima de cualquier gobierno por considerarlo en este momento.

Pero ADDS es la parte tonta sin importancia de iBorderCTRL. Es el monstruo falso que te distrae de la fría recopilación de datos calculados lo que realmente está ocurriendo. Básicamente, ADDS es una fruta sencilla para que los expertos señalen y aviven conversaciones sobre las capacidades que realmente tiene AI. Mientras tanto, si puedo parafrasear a The Ragin 'Cajun: "Son los datos, estúpidos".

En realidad, el resto de la suite iBorderCtrl es lo que da miedo. ADDS es muy parecido al "perfil de personalidad" que Cambridge Analytica usó para convencer a las personas de que renunciaran a sus datos. Después de todo, ¿por qué no aceptas llevar un detector de mentiras si no tienes nada que ocultar?

La respuesta es que tienes mucho que ocultar, estés mintiendo o no.

Esto es lo que más iBorderCtrl :

  • Compila un perfil facial completo usando videos y fotografías.
  • Raspa y rastrea todas tus cuentas de redes sociales
  • Análisis de documentos y firmas.
  • Crea y almacena tu impresión de voz digital
  • Evaluación de riesgos basada en datos agregados
  • Búsquedas de humanos ocultos

Tomemos el último para el examen muy rápido. ¿Búsquedas de humanos escondidos? ¿En un aeropuerto? Improbable. Esto, según la literatura del proyecto, busca personas escondidas. Pero es dolorosamente obvio que está diseñado para cruces fronterizos donde los agentes móviles están rastreando o buscando personas en el exterior, no en aeropuertos. Aún así, es parte del "detector de mentiras" del aeropuerto del que tanto oyes.

Lea la historia completa aquí ...

Suscríbete
Notificar de
invitado

1 Comentario
Más antiguo
Más Nuevos Más votados
Comentarios en línea
Ver todos los comentarios