Elon Musk hizo famosa la Inteligencia Artificial con "convocar al demonio" y hace sonar la alarma de que la IA avanza más rápido de lo que nadie se da cuenta, lo que representa una amenaza existencial para la humanidad. Stephen Hawking advirtió que la IA podría despegar y dejar a la raza humana, limitada por el lento ritmo de la evolución, en el polvo. Bill Gates se cuenta en el campo preocupado por la súper inteligencia. Y, aunque Mark Zuckerburg desprecia la amenaza potencial de la IA, Facebook recientemente apagó un motor de IA después de descubrir que había creado un nuevo lenguaje que los humanos no pueden entender.
Las preocupaciones sobre la IA son completamente lógicas si todo lo que existe es materia física. Si es así, sería inevitable que la IA, diseñada por nuestra inteligencia pero construida sobre una plataforma mejor que la bioquímica, supere las capacidades humanas que surgen por casualidad.
De hecho, en un mundo puramente físico, la IA plenamente realizada debe reconocerse como el resultado apropiado de la selección natural; nosotros los humanos deberíamos beneficiarnos de ello mientras podamos. Después de todo, tarde o temprano, la humanidad dejará de existir, ya sea por la salida del sol o por algo más mundano, incluida la extinción impulsada por la IA. Hasta entonces, ¿no sería mejor maximizar el florecimiento humano con la ayuda de la IA en lugar de renunciar a sus beneficios con la esperanza de extender la fecha de finalización de la humanidad?
Tan posible como pueda parecer todo esto, en realidad, lo que sabemos sobre la mente humana sugiere fuertemente que no ocurrirá una IA completa. La materia física por sí sola no es capaz de producir experiencias subjetivas completas, como observar una puesta de sol mientras se escuchan las gaviotas, y los mecanismos propuestos para abordar las deficiencias conocidas de materia versus mente, como las propiedades emergentes, son inadecuados y falsificables. Por lo tanto, es muy probable que tengamos mentes inmateriales.
Por supuesto, las formas de IA ya están logrando resultados impresionantes. Estos usan fuerza bruta, memoria enorme y rápida, automatización basada en reglas y capas de coincidencia de patrones para realizar sus hazañas extraordinarias. Pero este procesamiento no es consciente, percibir, sentir, cognir. El procesamiento no va más allá de las actividades previstas, incluso si los resultados son impredecibles. La tecnología basada en este nivel de IA a menudo será bastante notable y definitivamente debe manejarse bien para evitar repercusiones peligrosas. Sin embargo, en sí mismo, esta IA no puede conducir a una verdadera replicación de la mente humana.
La IA completa, es decir, la inteligencia artificial capaz de igualar y tal vez superar la mente humana, no se puede lograr a menos que descubramos, a través de medios materiales, la base de la existencia de mentes inmateriales y luego aprendamos cómo conferir eso a las máquinas. En filosofía, el problema subyacente se conoce como el problema de los "qualia". Nuestra conciencia de los objetos y colores externos; nuestra autoconciencia; nuestra comprensión conceptual del tiempo; nuestras experiencias de trascendencia, ya sea un simple asombro frente a la belleza o la verdad matemática; o nuestros estados místicos, todos apuntan claramente a algo que es cualitativamente diferente del mundo material. Cualquier persona con una comprensión decente de la física, la informática y la mente humana debería poder saber esto, especialmente aquellos más preocupados por las posibilidades de la IA.