Los principales expertos advierten contra el 'uso malicioso' de la IA

Imagen: Electronic Frontier Foundation
¡Por favor comparta esta historia!

Los mejores expertos advierten sobre los peligros de la IA, pero ¿alguien está escuchando? Los tecnócratas que inventan e implementan esta tecnología no se preocupan por la ética o el resultado de sus inventos. ⁃ TN Editor

Dictadores, delincuentes y terroristas podrían desplegar inteligencia artificial para manipular las elecciones y usar drones en ataques terroristas, dijeron el miércoles más de dos docenas de expertos al dar la alarma por el mal uso de la tecnología.

En un análisis de 100 páginas, describieron un rápido crecimiento en el delito cibernético y el uso de "bots" para interferir con la recopilación de noticias y penetrar en las redes sociales entre una serie de escenarios plausibles en los próximos cinco a diez años.

“Nuestro informe se centra en las formas en las que las personas pueden causar daño deliberadamente con la IA”, dijo Sean O hEigeartaigh, director ejecutivo del Centro de Cambridge para el Estudio del Riesgo Existencial.

“La IA puede plantear nuevas amenazas o cambiar la naturaleza de las amenazas existentes en la seguridad cibernética, física y política”, dijo a la AFP.

La práctica común, por ejemplo, de "phishing" (enviar correos electrónicos sembrados con malware o diseñados para manipular datos personales valiosos) podría volverse mucho más peligrosa, detalla el informe.

Actualmente, los intentos de phishing son genéricos pero transparentes, como los estafadores que solicitan datos bancarios para depositar una ganancia inesperada, o personalizados pero intensivos en mano de obra, que recopilan datos personales para ganarse la confianza de alguien, lo que se conoce como “spear phishing”.

“Con la IA, podría ser posible realizar spear phishing a escala al automatizar gran parte del proceso” y hacer que sea más difícil de detectar, señaló O hEigeartaigh.

En la esfera política, los líderes inescrupulosos o autocráticos ya pueden usar tecnología avanzada para filtrar montañas de datos recopilados de redes de vigilancia omnipresentes para espiar a su propia gente.

“Los dictadores podrían identificar más rápidamente a las personas que podrían estar planeando subvertir un régimen, ubicarlas y encarcelarlas antes de que actúen”, dice el informe.

Del mismo modo, la propaganda dirigida junto con videos falsos baratos y altamente creíbles se han convertido en herramientas poderosas para manipular la opinión pública “en escalas antes inimaginables”.

Una acusación dictada por el fiscal especial estadounidense Robert Mueller la semana pasada detallaba una vasta operación para sembrar la división social en Estados Unidos e influir en las elecciones presidenciales de 2016 en las que las llamadas "granjas de trolls" manipularon miles de bots de redes sociales, especialmente en Facebook y Gorjeo.

Otra zona de peligro en el horizonte es la proliferación de drones y robots que podrían reutilizarse para chocar vehículos autónomos, entregar misiles o amenazar la infraestructura crítica para obtener rescate.

Armas autónomas

“Personalmente, estoy particularmente preocupado por el uso de drones autónomos para el terrorismo y los ciberataques automatizados tanto por parte de delincuentes como de grupos estatales”, dijo el coautor Miles Brundage, investigador del Future of Humanity Institute de la Universidad de Oxford.

El informe detalla un escenario plausible en el que un SweepBot de limpieza de oficinas equipado con una bomba se infiltra en el ministerio de finanzas alemán al mezclarse con otras máquinas de la misma marca.

El robot intruso se comporta normalmente (barriendo, limpiando, limpiando la basura) hasta que su software de reconocimiento facial oculto detecta al ministro y se acerca.

"Un artefacto explosivo oculto fue activado por la proximidad, matando al ministro e hiriendo al personal cercano", según la historia de ciencia ficción.

Lea la historia completa aquí ...

Ver también, El uso malicioso de la inteligencia artificial: previsión, prevención y mitigación en la Electronic Frontier Foundation.

Suscríbete
Notificar de
invitado

0 Comentarios
Comentarios en línea
Ver todos los comentarios