El análisis de amenazas y las decisiones se tomarán de manera autónoma, notificando a los agentes de la patrulla fronteriza; sin embargo, esta es una pendiente resbaladiza que fácilmente podría introducirse en las prácticas generales de aplicación de la ley. ⁃ Editor TN
Imagina que estás caminando a través del bosque cerca de una frontera. De repente, escuchas un zumbido mecánico, como una abeja gigantesca. Dos cuadricópteros te han visto y se acercan para mirar más de cerca. Las antenas en ambos drones y en un vehículo terrestre autónomo cercano recogen las frecuencias de radio que vienen del teléfono celular en su bolsillo. Envían las señales a un servidor central, que triangula su ubicación exacta y la envía a los drones. Los robots se acercan.
Las cámaras y otros sensores en las máquinas lo reconocen como humano y tratan de determinar sus intenciones. ¿Eres una amenaza? ¿Estás cruzando ilegalmente una frontera? ¿Tienes una pistola? ¿Estás participando en actos de terrorismo o crimen organizado? Las máquinas envían videos a su operador humano, un guardia fronterizo en una oficina a millas de distancia, quien revisa los videos y decide que usted no es un riesgo. El guardia fronterizo presiona un botón, y los robots se desconectan y continúan su patrulla.
Esto no es ciencia ficción. La Unión Europea está financiando un proyecto para desarrollar drones pilotados por inteligencia artificial y diseñados para patrullar de manera autónoma las fronteras de Europa. Los drones operarán en enjambres, coordinando y corroborando información entre flotas de cuadricópteros, pequeños aviones de ala fija, vehículos terrestres, submarinos y barcos. Los desarrolladores del proyecto, conocido como Roborder, dicen que los robots podrán identificar a los humanos y decidir independientemente si representan una amenaza. Si determinan que puede haber cometido un delito, lo notificarán a la policía de fronteras.
El presidente Donald Trump ha utilizado el espectro de criminales que cruzan la frontera sur para despertar el sentimiento político nacionalista y energizar su base. En Europa, dos años después del apogeo de la crisis migratoria que atrajo a más de un millón de personas al continente, principalmente del Medio Oriente y África, la inmigración sigue siendo un tema candente, a pesar de que la cantidad de recién llegados ha disminuido. Los partidos políticos en toda la Unión Europea están ganando elecciones el plataformas antiinmigrantes y promulgando cada vez más restrictivo políticas fronterizas. Los especialistas en ética de la tecnología y los defensores de la privacidad temen que Roborder y proyectos como este externalicen demasiado trabajo de aplicación de la ley a actores no humanos y puedan ser fácilmente armados contra personas en las zonas fronterizas.
"El desarrollo de estos sistemas es un paso oscuro hacia un territorio moralmente peligroso", dijo Noel Sharkey, profesor emérito de robótica e inteligencia artificial en la Universidad de Sheffield en el Reino Unido y uno de los fundadores del Comité Internacional para el Control de Armas de Robot, una organización sin fines de lucro que aboga contra el uso militar de la robótica. Sharkey enumera ejemplos de drones armados actualmente en el mercado: robots voladores equipados con Tasers, gas pimienta, balas de goma y otras armas. Advierte sobre las implicaciones de combinar esa tecnología con la toma de decisiones basada en IA y usarla en zonas fronterizas con carga política. "Es solo cuestión de tiempo antes de que un avión no tripulado pueda tomar medidas para detener a las personas", dijo Sharkey a The Intercept.
Los desarrolladores de Roborder también pueden estar violando los términos de su financiación, según documentos sobre el proyecto obtenidos a través de las regulaciones de transparencia de la Unión Europea. La iniciativa está financiada principalmente por una subvención de investigación e innovación de la UE de 8 millones de euros diseñada para proyectos que no son exclusivamente militares, pero los desarrolladores de Roborder reconocen que partes de su sistema propuesto involucran tecnología militar o podrían convertirse fácilmente para uso militar.
Gran parte del desarrollo de Roborder está clasificado, pero The Intercept obtuvo informes internos relacionados con consideraciones éticas y preocupaciones sobre el programa. Esa documentación fue incorrectamente redactada y sin darse cuenta se publicó por completo.
En uno de los informes, los desarrolladores de Roborder buscaron abordar criterios éticos vinculados a su financiación de la UE. Los desarrolladores consideraron si su trabajo podría modificarse o mejorarse para dañar a los humanos y qué podría pasar si la tecnología o el conocimiento desarrollado en el proyecto "terminara en las manos equivocadas". Estos problemas éticos se plantean, escribieron los desarrolladores, cuando "la investigación hace uso de información clasificada, materiales o técnicas; materiales peligrosos o restringidos [;] y si los resultados específicos de la investigación pudieran presentar un peligro para los participantes o para la sociedad en general ".
Los desarrolladores de Roborder argumentaron que estas preocupaciones éticas no se aplicaban a su trabajo, afirmando que su único objetivo era desarrollar y probar la nueva tecnología, y que no sería vendida o transferida fuera de la Unión Europea durante el ciclo de vida del proyecto. Pero en entrevistas con The Intercept, los desarrolladores de proyectos reconocieron que su tecnología podría reutilizarse y venderse, incluso fuera de Europa, una vez que el ciclo del proyecto europeo haya finalizado, lo que se espera que suceda el próximo año.
Más allá del proyecto Roborder, los informes de ética presentados a la Comisión Europea sugieren una pregunta más amplia: cuando se trata de nuevas tecnologías con el potencial de ser utilizadas contra personas vulnerables en lugares con pocas protecciones de derechos humanos, quién decide qué debemos y qué no debemos desarrollar. ?
Roborder ganó su subvención de fondos en 2017 y se propuso desarrollar un prototipo comercializable - "un enjambre de robótica para apoyar el monitoreo de fronteras" - a mediados de 2020. Sus desarrolladores esperan construir y equipar una colección de drones aéreos, marítimos y terrestres que se puedan combinar y enviar en misiones de patrulla fronteriza, buscando "amenazas" de forma autónoma en función de la información proporcionada por operadores humanos, dijo Stefanos Vrochidis, gerente de proyectos de Roborder. .
Los drones emplearán cámaras ópticas, infrarrojas y térmicas; Radar; y sensores de radiofrecuencia para determinar amenazas a lo largo de la frontera. Las frecuencias de los teléfonos celulares se utilizarán para triangular la ubicación de las personas sospechosas de actividad criminal, y las cámaras identificarán a los humanos, las armas, los vehículos y otros objetos. "El objetivo principal es tener tantos sensores en el campo como sea posible para ayudar al personal de patrulla", dijo Kostas Ioannidis, gerente técnico de Roborder.
wpDiscuz