El genio ya salió de la botella, pero los investigadores avanzados de inteligencia artificial ahora están muy preocupados por cómo se utilizarán sus creaciones en la guerra autónoma. La IA está cerca de volverse autorreplicante, lo que significa que las aplicaciones deshonestas empeñadas en matar humanos podrían multiplicarse hasta que la raza humana se extinga. ⁃ Editor TN
Miles de científicos que se especializan en inteligencia artificial (IA) han declarado que no participarán en el desarrollo o la fabricación de robots que puedan identificar y atacar a las personas sin supervisión humana.
Demis Hassabis en Google DeepMind y Elon Musk en la compañía estadounidense de cohetes SpaceX están entre más de 2,400 signatarios de la promesa que tiene la intención de disuadir a las empresas militares y las naciones de construir sistemas letales de armas autónomas, también conocidas como Leyes.
La medida es la más reciente de científicos y organizaciones preocupados para resaltar los peligros de entregar decisiones de vida o muerte a máquinas mejoradas con IA. Sigue las llamadas para un prohibición preventiva sobre tecnología que los activistas creen que podría introducir una nueva generación de armas de destrucción masiva.
Orquestada por la organización con sede en Boston, The Future of Life Institute, la promesa llama a los gobiernos a acordar normas, leyes y reglamentos que estigmaticen y proscriban efectivamente el desarrollo de robots asesinos. En ausencia de tales medidas hoy, los firmantes se comprometen a "no participar ni apoyar el desarrollo, fabricación, comercio o uso de armas letales autónomas". Más de las empresas y organizaciones relacionadas con 150 AI agregaron sus nombres a la promesa de ser anunciado hoy en la Conferencia Internacional Conjunta sobre IA en Estocolmo.
Yoshua Bengio, un pionero de la inteligencia artificial en el Instituto de Algoritmos de Aprendizaje de Montreal, le dijo a The Guardian que si la promesa podía avergonzar a esas compañías y organizaciones militares que construyen armas autónomas, la opinión pública se volvería contra ellos. “Este enfoque en realidad funcionó para las minas terrestres, gracias a los tratados internacionales y la vergüenza pública, a pesar de que los principales países como Estados Unidos no firmaron el tratado que prohíbe las minas terrestres. Las compañías estadounidenses han dejado de construir minas terrestres ”, dijo. Bengio firmó la promesa de expresar su "gran preocupación con respecto a las armas letales autónomas".
El ejército es uno de los mayores financiadores y adoptadores de tecnología de inteligencia artificial. Con sistemas informáticos avanzados, los robots pueden volar misiones sobre terreno hostil, navegar en el suelo y patrullar bajo los mares. Sistemas de armas más sofisticados están en la tubería. El lunes, el secretario de defensa Gavin Williamson dio a conocer un plan de £ 2bn para un nuevo luchador de la RAF, la tempestad, que podrá volar sin piloto.
Los ministros del Reino Unido han declarado que Gran Bretaña no está desarrollando sistemas letales de armas autónomas y que sus fuerzas siempre supervisarán y controlarán las armas que despliegan. Pero los activistas advierten que los rápidos avances en IA y otros campos significan que ahora es factible construir armas sofisticadas que puedan identificar, rastrear y disparar a objetivos humanos sin el consentimiento de un controlador humano. Para muchos investigadores, dar a las máquinas la decisión sobre quién vive y muere cruza una línea moral.
“Necesitamos convertir en norma internacional que las armas autónomas no son aceptables. Un humano siempre debe estar al tanto ", dijo Toby Walsh, profesor de IA en la Universidad de Nueva Gales del Sur en Sydney, quien firmó la promesa.
wpDiscuz
niños basados en la historia de la vida real de Acerca de los niños de la vida real que cambiaron el mundo