Al final del día, serán los tecnócratas humanos saturados de tecnología, no los programas, los que crearán políticas y resultados antihumanos que dañarán a la humanidad. Se esconderán detrás de la IA para escapar de la responsabilidad, y todos pensarán que los algoritmos los hicieron.⁃ TN Editor
La idea de que pequeños grupos de humanos tengan control sobre algunas de las armas más poderosas jamás construidas es aterradora, pero es la realidad en la que vivimos. En un futuro no muy lejano, ese increíble poder y responsabilidad podrían ser entregados a AI y sistemas robóticos, que ya están en desarrollo activo. En un par de cartas abiertas a los primeros ministros de Australia y Canadá, cientos de investigadores y científicos de AI están pidiendo que eso no suceda.
El miedo, dicen, es que eliminar el elemento humano de las decisiones de vida o muerte podría marcar el comienzo de una era destructiva que finalmente significa el fin de la humanidad. Los sistemas de armas de IA son, como dicen los investigadores, "armas de destrucción masiva" que deben prohibirse por completo antes de que puedan causar daños graves.
"Delegar decisiones de vida o muerte a máquinas cruza una línea moral fundamental, sin importar de qué lado las construya o las use", dice la carta explica la. “Jugar a la ruleta rusa con la vida de otros nunca puede justificarse simplemente por su eficacia. Este no es solo un tema fundamental de los derechos humanos. La decisión de prohibir o atacar armas autónomas va al núcleo de nuestra humanidad ".
En un entorno donde las computadoras tienen la última palabra sobre si participar o no en actos hostiles, incluso bajo el pretexto de defender sus propios territorios o proteger a las poblaciones que están programadas para proteger, los conflictos podrían aumentar mucho más rápido de lo que los humanos jamás hayan visto. Semanas, meses o incluso años de posturas y diplomacia podrían convertirse en simples minutos o incluso segundos, con misiles volando antes de que los humanos puedan comenzar a intervenir. Y luego, por supuesto, está el problema de que la IA sea manipulada de manera imprevista.
"Estas serán armas de destrucción masiva", dicen los científicos. “Un programador podrá controlar todo un ejército. Se ha prohibido cualquier otra arma de destrucción masiva: armas químicas, armas biológicas, incluso armas nucleares. Debemos agregar armas autónomas a la lista de armas que son moralmente inaceptables de usar ”.
