Las ciudades inteligentes ya se están convirtiendo en distopías impulsadas por IA

Separar lo futurista de lo distópico en la mente del público en general puede ser un desafío, particularmente cuando se trata de conceptualizar una tecnología diversa como el reconocimiento de IA.

En los mercados actuales, se puede ver un ejemplo tangible en productos de consumo como el iPhone XS, con su desbloqueo de reconocimiento facial Face ID. En general, esto se ha recibido calurosamente, con la mayoría de las quejas relacionadas con UX y diseño, gracias a la eliminación de un escáner de huellas dactilares y la muesca de la pantalla para acomodar los sensores Face ID. ¿Pero qué hay de las aplicaciones más siniestras?

La progresión gradual de la identificación de huellas dactilares al reconocimiento facial podría verse como una introducción suave a bases de inteligencia artificial más complejas, como las que están listas para implementarse en la infraestructura de las llamadas 'ciudades inteligentes' del futuro. La I + D del reconocimiento de la inteligencia artificial está progresando rápidamente, y en un futuro próximo se ampliará el alcance de la tecnología.

La cobertura concentrada de CCTV en ciudades metropolitanas como Londres ha sido durante mucho tiempo un tema controvertido, lo que ha generado preocupaciones sobre un "estado de vigilancia" entre muchos grupos de derechos civiles. A medida que se desarrollan programas de IA más sofisticados que hacen uso del reconocimiento de usuarios, existe el potencial teórico de adaptar esta infraestructura de vigilancia existente para atender el reconocimiento de IA.

La opinión pública de esta tecnología no se ha visto favorecida por los informes de su introducción por parte de las fuerzas policiales británicas. Se utilizó en un intento de detectar sospechosos en el 2017 Notting Hill Carnival, por ejemplo, con una tasa de falla reportada del 98%.

Si bien las aplicaciones de reconocimiento basadas en inteligencia artificial van mucho más allá del objetivo de los sospechosos de policía, su asociación con la vigilancia en una etapa tan temprana de su introducción podría tener un gran impacto en la percepción pública. Después de todo, no faltan las representaciones de Hollywood de la tecnología de reconocimiento de IA que actúa como una salvaguardia pública opresiva, como se ve con gran efecto en el 'Informe de Minorías' de 2002.

Binary District Journal habló con Terence Mills, CEO de AI.io y Moonshot, para explorar las posibilidades de reconocimiento de AI en los próximos años. Mills trabaja mucho en el espacio de IA, además de estar en el Consejo de Tecnología de Forbes, y está perfectamente posicionado dentro de la industria para ver cómo el mercado de consumo más grande podría recibir nuevas iteraciones de la plataforma.

Dejando a un lado los guiones de Hollywood, ¿cuáles son las perspectivas e implicaciones del reconocimiento de IA en las ciudades inteligentes del futuro?

Reconocimiento basado en el consumidor tal como está

El software de reconocimiento facial de Apple es ampliamente visto como un trampolín desde el cual el público asociará desarrollos posteriores en tecnologías de IA similares. Mills está de acuerdo: “Creo que lo que está sucediendo es extraordinario. Realmente allanará el camino para lo que hagamos en el futuro.

“Ya lo estamos viendo en la capacidad de comprar cosas en su iPhone o en línea y autorizar una compra a través del reconocimiento facial. Creo que la biometría es probablemente el siguiente paso: somos pioneros en trabajar mucho en torno a la capacidad de generar e invocar compras a través del reconocimiento de voz ".

Seguimiento y orientación ciudadana

Las implicaciones de la exposición de una persona a la identificación constante no se limitan al uso de la tecnología por parte del estado. A nivel del consumidor, existe la posibilidad de que los usuarios se abran a niveles completamente nuevos de publicidad dirigida a través del uso de identificación de AI en las tiendas por parte de los minoristas.

“La tecnología de inteligencia artificial lo coloca en un lugar particular en un momento particular como consumidor: la compañía sabe que está allí porque ha utilizado su tecnología de inteligencia artificial para llegar allí, ya sea un teatro, un aeropuerto, un avión, "Mills explica.

“Piénsalo, saben que estás allí durante las próximas dos o cuatro horas o lo que sea. Por lo tanto, si así lo deciden, pueden vender sus datos a alguien que quiera comercializarlo de manera proactiva. ¿Creo que eso limita el desarrollo de la IA? Yo no. ¿Creo que la gente querrá asegurarse de que se haya pensado en su privacidad? Absolutamente."

Lea la historia completa aquí ...