El director ejecutivo del Instituto Allen de IA, el profesor Oren Etzioni, emitió una serie de posibles señales de advertencia que nos alertarían de que la “superinteligencia” está a la vuelta de la esquina.
Los humanos deben estar preparados para detectar signos de superinteligencia robótica, pero deben tener tiempo suficiente para abordarlos, advirtió un destacado informático.
Oren Etzioni, director ejecutivo de Allen Institute for AI, escribió un artículo reciente titulado: "Cómo saber si inteligencia artificial está a punto de destruir la civilización ".
Escribió: “¿Podríamos despertarnos una mañana estupefactos de que haya surgido una IA superpoderosa, con consecuencias desastrosas?
“Libros como Superintelligence de Nick Bostrom y Life 3.0 de Max Tegmark, así como artículos más recientes, argumentan que la superinteligencia malévola es un riesgo existencial para la humanidad.
“Pero uno puede especular sin cesar. Es mejor hacer una pregunta empírica más concreta: ¿Qué nos alertaría de que la superinteligencia está realmente a la vuelta de la esquina? "
Comparó las señales de advertencia con los canarios en las minas de carbón, que se utilizaron para detectar monóxido de carbono porque colapsarían.
El profesor Etzioni argumentó que estas señales de advertencia se producen cuando los programas de inteligencia artificial desarrollan una nueva capacidad.
Continuó para MIT Review: “¿Podría la famosa prueba de Turing servir como canario? La prueba, inventada por Alan Turing en 1950, postula que la inteligencia artificial a nivel humano se logrará cuando una persona no pueda distinguir conversar con un humano de conversar con una computadora.
“Es una prueba importante, pero no es un canario; es, más bien, la señal de que la IA a nivel humano ya ha llegado.
“Muchos informáticos creen que si llega ese momento, la superinteligencia lo seguirá rápidamente. Necesitamos más hitos intermedios ".
Pero sí advirtió que la “formulación automática de problemas de aprendizaje” sería el primer canario, seguido de los autos autónomos.
Lea la historia completa aquí ...
Artículos relacionados:
Psychology Today: Sex Robots y The End of Civilization- Las energías renovables nunca fueron destinadas a impulsar la civilización moderna
- Afirmación: los robots no destruyen el empleo, los políticos sí
- Newspeak AI: noticias totalmente falsas podrían destruir Internet
- CBS: Aumento del nivel del mar para destruir casas de 300 ...
- El movimiento por los derechos de la naturaleza destruirá el concepto de ...
- Los 'verdes' de Australia buscan desestabilizar y destruir ...
¿Qué es la "formulación automática de problemas de aprendizaje"? Fui al enlace pero el sitio quiere información que no estaba dispuesto a proporcionar.