Militar que crea sistemas de armas de inteligencia artificial para ser 'sueltos para la matanza'

El video es desolador. Dos hombres amenazadores están parados junto a una camioneta blanca en un campo, sosteniendo controles remotos. Abren las puertas traseras de la furgoneta, y el sonido de los drones cuadricópteros chirriantes se intensifica. Activan un interruptor y los zánganos surgen como murciélagos de una cueva. En unos segundos, pasamos a un aula universitaria. Los robots asesinos inundan a través de ventanas y conductos de ventilación. Los estudiantes gritan de terror, atrapados dentro, mientras los drones atacan con fuerza letal. La lección que la película, Mataderos, está tratando de impartir es claro: diminutos robots asesinos están aquí o un pequeño avance tecnológico de distancia. Los terroristas podrían desplegarlos fácilmente. Y las defensas existentes son débiles o inexistentes.

Algunos expertos militares argumentaron que Slaughterbots, que fue creado por el Future of Life Institute, una organización que investiga amenazas existenciales a la humanidad - sensacionalizó un problema grave, avivando el miedo donde se requería una reflexión tranquila. Pero cuando se trata del futuro de la guerra, la línea entre la ciencia ficción y los hechos industriales suele ser borrosa. La fuerza aérea de Estados Unidos ha predicho un futuro en el que “los equipos Swat enviarán insectos mecánicos equipados con cámaras de video para deslizarse dentro de un edificio durante un enfrentamiento con rehenes”. Un "colaborativo de microsistemas" ya ha lanzado Octoroach, un "robot extremadamente pequeño con una cámara y un transmisor de radio que puede cubrir hasta 100 metros en el suelo". Es solo uno de muchos "biomimético”, O armas que imitan a la naturaleza, que están en el horizonte.

Quién sabe cuántas otras criaturas nocivas son ahora modelos para los teóricos militares de vanguardia. Una novela reciente de PW Singer y August Cole, ambientada en un futuro cercano en el que Estados Unidos está en guerra con China y Rusia, presentó una visión caleidoscópica de drones autónomos, láseres y satélites secuestrados. El libro no puede descartarse como una fantasía tecno-militar: incluye cientos de notas a pie de página que documentan el desarrollo de cada pieza de hardware y software que describe.

Los avances en el modelado de máquinas de matar robóticas no son menos inquietantes. Una historia de ciencia ficción rusa de los años 60, Cangrejos en la isla, describía una especie de Juegos del hambre para las IA, en los que los robots luchaban entre sí por los recursos. Los perdedores serían eliminados y los ganadores aparecerían, hasta que algunos evolucionaran para convertirse en las mejores máquinas de matar. Cuando un científico informático líder mencionó un escenario similar a la Agencia de Proyectos de Investigación Avanzada de Defensa de los Estados Unidos (Darpa), llamándolo un "Parque Jurásico robot", un líder allí lo llamó "factible". No se necesita mucha reflexión para darse cuenta de que un experimento de este tipo tiene el potencial de salirse de control. El gasto es el principal impedimento para que una gran potencia experimente con máquinas tan potencialmente destructivas. El modelado de software puede eliminar incluso esa barrera, permitiendo que las simulaciones virtuales probadas en batalla inspiren futuras inversiones militares.

En el pasado, los estados nacionales se han unido para prohibir nuevas armas particularmente espantosas o aterradoras. A mediados del siglo XX, las convenciones internacionales prohibieron las armas biológicas y químicas. La comunidad de naciones ha prohibido el uso de tecnología de láser cegador, también. Una sólida red de ONG ha instado con éxito a la ONU a convocar a los estados miembros para acordar una prohibición similar de robots asesinos y otras armas que pueden actuar por sí mismas, sin control humano directo, para destruir un objetivo (también conocido como sistemas de armas autónomas letales , o leyes). Y si bien ha habido un debate sobre la definición de dicha tecnología, todos podemos imaginar algunos tipos de armas particularmente aterradoras que todos los estados deberían acordar nunca fabricar o desplegar. Un dron que gradualmente soldados enemigos acalorados hasta la muerte violaría las convenciones internacionales contra la tortura; Las armas sónicas diseñadas para dañar la audición o el equilibrio de un enemigo deberían merecer un tratamiento similar. Un país que diseñó y utilizó tales armas debería ser exiliado de la comunidad internacional.

En abstracto, probablemente podamos estar de acuerdo en que el ostracismo - y un castigo más severo - también es merecido para los diseñadores y usuarios de robots asesinos. La sola idea de una máquina suelta para matar es escalofriante. Y, sin embargo, algunos de los ejércitos más grandes del mundo parecen estar avanzando hacia el desarrollo de tales armas, siguiendo una lógica de disuasión: temen ser aplastados por la IA de sus rivales si no pueden desatar una fuerza igualmente potente. La clave para resolver una carrera armamentista tan intratable puede estar menos en los tratados globales que en un replanteamiento cauteloso de para qué se puede usar la IA marcial. Como "la guerra llega a casa”, El despliegue de fuerza de grado militar dentro de países como Estados Unidos y China es una severa advertencia para sus ciudadanos: cualquier tecnología de control y destrucción que permita que su gobierno compre para usar en el extranjero ahora puede ser usada en su contra en el futuro.

Lea la historia completa aquí ...