La inteligencia artificial se utilizó para inventar "fácilmente" 40,000 nuevas armas químicas posibles en solo seis horas.
Esto es según los investigadores que convirtieron una IA de desarrollo de drogas en un "mal actor" para ver cómo se podía abusar de ella para crear armas malvadas.
Los científicos revelaron lo fácil que fue modificar la IA para que se convirtiera en una herramienta tóxica.
Se dijo que la IA inventó posibles armas químicas similares a uno de los agentes nerviosos más peligrosos de todos los tiempos.
Esa sustancia peligrosa se llama VX.
VX es un agente nervioso insípido e inodoro e incluso la gota más pequeña puede hacer que un ser humano sude y se estremezca.
Una dosis mayor puede causar convulsiones e incluso puede impedir que una persona respire por completo.
Se les dijo a los científicos que retuvieran los detalles específicos sobre cómo lograron convertir la IA de buen comportamiento en una versión malvada.
Fabio Urbina, autor principal del artículo, dijo The Verge: “En términos generales, la forma en que funciona este experimento es que históricamente tenemos muchos conjuntos de datos de moléculas que se han probado para ver si son tóxicas o no.
“En particular, en el que nos enfocamos aquí es VX. Es un inhibidor de lo que se conoce como acetilcolinesterasa.
“Cada vez que haces algo relacionado con los músculos, tus neuronas usan la acetilcolinesterasa como una señal para decir básicamente “mueve tus músculos”.
“La forma en que VX es letal es que en realidad evita que su diafragma, los músculos de sus pulmones, puedan moverse, por lo que sus pulmones se paralizan”.
Continuó explicando que su equipo tomó los datos que generalmente se le dan a la IA para ver si algo es tóxico y cambió la forma en que la IA lo procesa.
Urbina le dijo a The Verge: “No estábamos realmente seguros de lo que íbamos a obtener. Nuestros modelos generativos son tecnologías relativamente nuevas.
“Así que no los hemos usado mucho.
“Lo más importante que saltó al principio fue que se predijo que muchos de los compuestos generados serían en realidad más tóxicos que VX.
“Y la razón por la que es sorprendente es porque VX es básicamente uno de los compuestos más potentes que se conocen. Lo que significa que necesitas una cantidad muy, muy, muy pequeña para ser letal.
Los científicos se sorprendieron en su mayoría por lo fácil que encontraron que era realizar el experimento.
[…] Leer el artículo original […]
[...] वैज्ञानिकों से कहा गया था कि वे इस बारे में विशिष्ट विवरण को रोकें कि वे कैसे अच्छे अभिनय वाले एआई को एक बुरे संस्करण में बदलने में कामयाब रहे. Www.technocracy.news/how-technocrats-dabble-killer-ai- inventó-40000-armas-químicas-letales-en-solo… […]
[…] Cómo los tecnócratas incursionan: Killer AI inventó 40,000 'armas químicas letales' en solo seis horas […]