Super-AI podría surgir como coronavirus para destruir la civilización

Oren EtzioniOren Etzioni
¡Por favor comparta esta historia!
image_pdfimage_print
Los mismos tecnócratas que nos trajeron la IA en primer lugar ahora están reflexionando sobre si una 'super-IA' podría surgir de repente que destruiría la civilización. Para una respuesta más confiable, tal vez deberían preguntarle a Alexa. ⁃ Editor TN

El director ejecutivo del Instituto Allen de IA, el profesor Oren Etzioni, emitió una serie de posibles señales de advertencia que nos alertarían de que la “superinteligencia” está a la vuelta de la esquina.

Los humanos deben estar preparados para detectar signos de superinteligencia robótica, pero deben tener tiempo suficiente para abordarlos, advirtió un destacado informático.

Oren Etzioni, director ejecutivo de Allen Institute for AI, escribió un artículo reciente titulado: "Cómo saber si inteligencia artificial está a punto de destruir la civilización ".

Escribió: “¿Podríamos despertarnos una mañana estupefactos de que haya surgido una IA superpoderosa, con consecuencias desastrosas?

“Libros como Superintelligence de Nick Bostrom y Life 3.0 de Max Tegmark, así como artículos más recientes, argumentan que la superinteligencia malévola es un riesgo existencial para la humanidad.

“Pero uno puede especular sin cesar. Es mejor hacer una pregunta empírica más concreta: ¿Qué nos alertaría de que la superinteligencia está realmente a la vuelta de la esquina? "

Comparó las señales de advertencia con los canarios en las minas de carbón, que se utilizaron para detectar monóxido de carbono porque colapsarían.

El profesor Etzioni argumentó que estas señales de advertencia se producen cuando los programas de inteligencia artificial desarrollan una nueva capacidad.

Continuó para MIT Review: “¿Podría la famosa prueba de Turing servir como canario? La prueba, inventada por Alan Turing en 1950, postula que la inteligencia artificial a nivel humano se logrará cuando una persona no pueda distinguir conversar con un humano de conversar con una computadora.

“Es una prueba importante, pero no es un canario; es, más bien, la señal de que la IA a nivel humano ya ha llegado.

“Muchos informáticos creen que si llega ese momento, la superinteligencia lo seguirá rápidamente. Necesitamos más hitos intermedios ".

Pero sí advirtió que la “formulación automática de problemas de aprendizaje” sería el primer canario, seguido de los autos autónomos.

Lea la historia completa aquí ...

Suscríbete
Notificar de
invitado
1 Comentario
Más antiguo
Más Nuevos Más votados
Comentarios en línea
Ver todos los comentarios
Elle

¿Qué es la "formulación automática de problemas de aprendizaje"? Fui al enlace pero el sitio quiere información que no estaba dispuesto a proporcionar.