Joe Allen: Countdown to Gigadeath: de la carrera armamentista de IA a la guerra de artilugios

Para los verdaderos creyentes, la inteligencia artificial inevitablemente se volverá sobrehumana. Según sus mitos, estamos a la deriva en un cosmos sin Dios. Así que depende de nosotros crear deidades digitales. O más bien, depende de unos pocos geeks tecnológicos crearlos. El resto de nosotros podemos arrodillarnos ante su altar o ser empujados al abismo.

A medida que los bots invaden nuestras vidas, la tensión entre nosotros y ellos crece. Algunos días, parece que nos precipitamos hacia una guerra racial computarizada entre cyborgs nacientes y humanos heredados. Después de demasiado tiempo frente a la pantalla, mientras mis sinapsis se reorganizan para adaptarse a los datos que ingresan, no está claro a qué subespecie pertenezco.

Para que conste, soy más agnóstico que verdadero creyente. Los expertos en tecnología hacen todo tipo de promesas vacías. Prosperan proyectando poderes místicos. Aun así, ignoramos su revolución tecnocultural bajo nuestro propio riesgo.

Las corporaciones tecnológicas tienen el poder real del control de la información. Literalmente están distorsionando la conciencia pública a gran escala. En el lado militar, los ejecutores tienen la capacidad de volarte desde el otro lado del mundo. Podrías burlarte de que las fuerzas armadas de EE. UU. hayan creado más oficiales trans que soldados cyborg. Pero si no puedes apuntar tu AR-15 más rápido de lo que su dron puede enfocar, te estás riendo por debajo de una bota. La inteligencia artificial solo fortalece ese punto de apoyo.

En 2018, la Agencia de Proyectos de Investigación Avanzada de Defensa de EE. UU. anunció está "enfocando sus inversiones en una tercera ola de IA que produce máquinas que pueden entender y razonar en contexto". El director de la Oficina de Innovación de la Información de DARPA, Brian Pierce, es tremendamente entusiasta sobre una "verdadera simbiosis entre el Homo sapiens y la emergente Machina sapiens".

Un reporte de detalles de la moneda del Ministerio de Defensa del Reino Unido afirma: “En el centro de la futura ventaja militar estará la integración efectiva de humanos, inteligencia artificial y robótica en los sistemas de guerra (equipos hombre-máquina) que explotan las capacidades de las personas y las tecnologías para superar a nuestros oponentes. ”

China tiene ambiciones cyborg similares. Así que hazlo Rusia y  NATO. “La inteligencia artificial es el futuro”, proclamó célebremente Vladimir Putin. “Quien se convierta en el líder en esta esfera se convertirá en el gobernante del mundo”.

Tal vez los generales estén desperdiciando dinero en guerras geek. Tal vez solo estén jugando con juguetes nuevos.

No contaría con eso.

Ya vemos que las IA estrechas superan el reconocimiento de patrones humanos en las tareas específicas para las que están diseñadas: modelado de proteínas, análisis radiológico, vigilancia del campo de batalla y adquisición de objetivos, por nombrar algunas. Por ejemplo, el contratista de defensa estadounidense Palantir proporciona libremente su IA a Ucrania. Es una de las principales razones por las que han resistido tanto tiempo contra las fuerzas rusas más grandes.

“El poder de los sistemas de guerra algorítmica avanzada ahora es tan grande que equivale a tener armas nucleares tácticas contra un adversario que solo tiene armas convencionales”, dijo Alex Karp, CEO de Palantir. les dijo a al El Correo de Washington. “El público en general tiende a subestimar esto. Nuestros adversarios ya no lo hacen”.

En manos de los depredadores del ápice de élite, estas herramientas digitales son mortalmente serias. Cuando los líderes no están desplegando tecnología contra sus rivales, la están volviendo contra sus propios ciudadanos. Recuerda que el reconocimiento facial Clearview AI facilita la policía para localizar a los manifestantes del 6 de enero.

La tecnología es poder. Siempre ha sido.

Sin embargo, no todos están alarmados. Los que dudan se burlan de la noción de máquinas “inteligentes”. “La IA no existe”, dicen. “Es solo un algoritmo”. "Basura dentro basura fuera." Por lo general, son antiguos programadores que todavía viven en los años 90. Repiten "basura entra, basura sale" con tanta frecuencia que es como si estuvieran programados para decirlo.

Estos tipos tienen razón. Una IA es tan buena como el diseño de su red neuronal y los datos con los que se entrena. No es diferente a los humanos en ese sentido. Pero cuando es bueno, da miedo. Si una IA sólida está entrenada para reconocer extractos bancarios, por ejemplo, puede escarbar en montañas de basura y encontrar uno en segundos, como un hombre de lluvia que se zambulle en la basura para robar su identidad.

La IA que me despertó fue AlphaZero, desarrollada por DeepMind de Google en 2017. Programada solo con reglas básicas del juego y el "deseo" de ganar, esta red neuronal enseñado a sí mismo para jugar Go, ajedrez y una serie de videojuegos en solo unas horas. El dominio del Go es particularmente importante. Durante décadas, los escépticos insistieron en que ninguna computadora comprendería este antiguo juego chino. La complejidad de Go, afirmaron, requiere una profunda intuición que solo los humanos poseen. Resulta que era una ilusión.

AlphaZero, al igual que su predecesor AlphaGo, inventa estrategias efectivas en las que ningún ser humano ha pensado. Y lo más alarmante, estas mentes digitales aplastar maestros humanos en sus propios juegos. Si la gente tuviera algo de sentido común, habría desconectado en ese momento. En todo eso. Pero ya sabes lo que dicen: "No puedes detener el progreso".

El siguiente paso es combinar estas habilidades cognitivas estrechas en un solo "cerebro artificial". Este inteligencia general artificial (AGI) sería lo suficientemente flexible como para pasar de un dominio al siguiente, o promulgar varios módulos simultáneamente, para resolver problemas del mundo real.

En teoría, se podría unir cualquier combinación de facultades: reconocimiento facial, procesamiento del lenguaje natural, modelado social, sistemas de control robótico, algoritmos estéticos, cualquier cosa que desee en un cerebro robótico. La máquina probablemente superaría a los humanos en todas estas áreas. Pero no importa qué combinación se te ocurra, no sería completamente humana. Tampoco compartiría nuestros valores o experiencia del mundo. Sería un niño ciego y deforme grabado en silicio, pero con un poder cognitivo soberbio, muy parecido al Demiurgo gnóstico.

Para los transhumanistas, el advenimiento de un AGI que se mejora a sí mismo marcará un "momento singular en la historia": el Singularidad. A partir de ahí, los humanos heredados están solo para el viaje. Si tenemos suerte.

Ese es el sueño, de todos modos. Y las grandes corporaciones como DeepMind y OpenAI, así como sus contrapartes chinas en Baidu y Tencent, están carreras para hacer realidad alguna versión. Sus directores ejecutivos ofrecen la promesa de una utopía digital, o alguna aproximación. Prefieren que te relajes y no hagas preguntas.

Sin embargo, hay algunos alarmistas que dicen que la IA fuera de control podría significar la aniquilación de la raza humana. Debido a que somos parteras de AGI, aconsejan, nuestra tarea central es enseñarle a este Dios Informático infantil a ser benévolo, a alinear sus valores con los nuestros. De lo contrario, nos esclavizamos o morimos. A esto lo llaman el "problema de alineación de la IA". A medida que varias facciones se pelean por lo "despertado" o "basado" que se permite que ChatGPT sea, se ve bastante sombrío.

Por extraño que parezca, algunas de las llamadas de alarma más fuertes provienen de quienes trabajan en AGI. Incluyen a Sam Altman y Elon Musk (OpenAI), Demis Hassabis (DeepMind), y desde China, Ben Goertzel (SingularityNET) y el loco profeta del tecnocalipsis, Hugo de Garis (Universidad de Xiamen).

El transhumanista de Oxford Nick Bostrom, autor del libro de 2014, explicó la importancia de un vehículo de conducción Tesla. audiencia de TED:

El potencial de la superinteligencia permanece latente en la materia, al igual que el poder del átomo estuvo latente a lo largo de la historia humana, esperando pacientemente allí, hasta 1945. En este siglo, los científicos pueden aprender a despertar el poder de la inteligencia artificial. Y creo que entonces podríamos ver una explosión de inteligencia.

Independientemente de los riesgos existenciales, argumentan estos hombres, cualquier nación que no adopte la IA se quedará atrás de los que lo hagan. La misma dinámica es válida para individuos y organizaciones que compiten entre sí dentro de las naciones. En un ecosistema digital, es la supervivencia de los cyborgs más aptos, con la IA como un mítico anillo de poder.

De todos los futuros proyectados por los transhumanistas, el conjurado por Hugo de Garis es el más espantoso. También es el más honesto. Muchos en Silicon Valley creen que la inteligencia artificial sobrehumana conducirá a una "abundancia radical" y un conocimiento ilimitado sobre el universo. Como físico y constructor de robots, de Garis cree que todas estas cosas sucederán.

Sin embargo, también profetiza que la creación de "artículos", abreviatura de "intelectos artificiales"; básicamente AGI, probablemente conducirá a la destrucción de la humanidad. Tal vez estos dioses digitales no nos sirvan y nos aplasten como insectos. O igual de probable, argumenta de Garis, ocurrirá un evento de "gigamuerte" cuando los humanos peleen sobre si crearlos en primer lugar. Eso significa que miles de millones mueren en un instante.

“La pregunta que dominará el 21^st La política global del siglo XXI será: "¿Quién o qué debería ser la especie dominante en el planeta, los artilugios o los seres humanos?" Esto lo lleva a formular un eslogan inquietante, aunque confuso: "¿Construimos dioses o construimos nuestros exterminadores potenciales?

Inventando nuevas palabras extravagantes como un jugador de Scrabble rebelde, de Garis explora este conflicto en su libro de 2005 Él espera que surja dentro de unas pocas generaciones. “Esta guerra usará el armamento más destructivo que jamás se haya inventado, basado en finales del 21^st ciencia y tecnología del siglo XXI”.

Estamos hablando de súper armas nucleares y armas biológicas diseñadas por IA: un horizonte oscuro repleto de sabuesos robóticos y enjambres de nanobots.

La Guerra del Articulo se librará entre los "Terranos", que matarían para preservar la humanidad orgánica, y los "Cosmistas", cuya devoción religiosa por construir artefactos es tan intensa, que estarán dispuestos a morir por esta divinización. De hecho, estarán dispuestos a ver todos morir por ello:

En el siglo 20^th siglo, los nazis eliminaron a 20 millones de rusos, los japoneses asesinaron a 20 millones de chinos, Stalin mató a 30 millones en sus purgas y Mao mató de hambre a 50 millones de campesinos chinos. Estos se encuentran entre los mayores crímenes de la historia, pero palidecen en comparación con el tamaño de la tragedia si alguna vez los artilugios deciden acabar con la humanidad. La tragedia sería total en el sentido de que ya no quedarían seres humanos para llorar la desaparición de la especie.

Como señala de Garis, es asombroso que cualquier ser humano persiga tal objetivo sabiendo que miles de millones podrían ser masacrados. Pero para los cosmistas, la creación de máquinas sobrehumanas es una búsqueda religiosa más allá del bien y el mal. En la tradición de los científicos locos atormentados por la culpa, de Garis se coloca en el último campo, maldita sea la gigamuerte:

Mi objetivo final es ver a la humanidad, o al menos una parte de la humanidad, convertirse en Cosmista y hacerlo con éxito mediante la construcción de artiluctos verdaderamente divinos que se eleven por encima de nuestras insignificantes habilidades humanas intelectuales y de otro tipo.

Un concepto clave en La guerra de los artilugios es el "dominio de la especie". Habiendo creado vida artificial, la humanidad se enfrenta a un nuevo competidor evolutivo. A medida que algunas personas se fusionen con la vida digital como tenias en un intestino mecánico, la humanidad se dividirá en subespecies: cyborgs chupadores de bots y humanos "insignificantes".

Junto con la especiación viene la competencia. Basándose en la teoría política y evolutiva, de Garis dice que no hay mucho espacio encima del montón de mierda. Debido a que la igualdad no existe en la naturaleza, el dominio de las especies es inevitable. Con la historia humana como nuestra guía, eso significa violencia.

¿Ocuparán el primer lugar las computadoras de alto coeficiente intelectual que orbitan el planeta y son "más rápidas y mejores que los humanos por factores de billones de billones"?

¿O estará ocupado por los cosmistas que construyen y despliegan estas máquinas?

¿O los terranos acabarán con este culto transhumano y volverán a tocar tambores en el bosque?

Parece probable que nos tropecemos con una guerra nuclear con Rusia o China, ahorrándonos esta guerra de artilugios por completo. Hay un montón de gigadeath para andar sin un Super Computer God.

Pero si logramos evitar convertirnos en polvo espacial, podría ser que la rivalidad de las superpotencias impulse la evolución tecnológica, especialmente la tecnología militar, hacia algo que se asemeje a la visión de de Garis. Piense en ello como una Singularidad con una explosión.

En realidad, la importancia de la pesadilla de Hugo de Garis puede ser su influencia en la cultura tecnológica china. De 2006 a 2010, completó su carrera profesional en China, primero en la Universidad de Wuhan y luego dirigiendo el Laboratorio de Cerebros Artificiales en la Universidad de Xiamen. Hasta la pandemia, su colega cercano Ben Goertzel corrió SingularityNET fuera de Hong Kong. Este proyecto AGI funcionó en colaboración con Hanson Robotics—aún con sede en Hong Kong— cuyo robot Sophia es exaltado como una diosa transhumana en el escenario mundial.

Se desconoce el alcance de la transferencia de tecnología al Partido Comunista Chino. Pero es razonable suponer que, independientemente de sus intenciones, De Garis y Goertzel han ayudado al objetivo de China de superar a EE. UU. en inteligencia artificial. Esta ambición incluye vincular los cerebros humanos con la IA y crear una inteligencia general artificial, con miras a las aplicaciones militares.

El volumen de noviembre de 2021 de PRISM, publicado por la Universidad de Defensa Nacional en DC, presenta un trabajo de investigación revelador, "Proyecto de IA-Cerebro de 'nueva generación' de China.” No cabe duda de que el impulso transhumano recorre el alma china. Los autores citan a un destacado investigador del PCCh, Xu Bo, hablando con el periódico oficial del Ministerio de Ciencia y Tecnología:

Como señaló el secretario general Xi Jinping en el estudio colectivo del Politburó, la investigación de inteligencia artificial debe explorar “áreas no tripuladas”. En las áreas de inteligencia de enjambre, inteligencia híbrida humano-máquina e inteligencia autónoma, hay grandes áreas no tripuladas por explorar. … Creemos que la evolución autónoma es un puente entre la inteligencia artificial débil y la inteligencia artificial general.

O, como dijo el decano de la Academia de Inteligencia Artificial de Beijing, Huang Tiejun, en una conferencia sobre el futuro de la vida:

Nuestra raza humana está sólo en una etapa. ¿Por que detenerse? Los humanos evolucionan muy lentamente. Es imposible que los humanos se comparen con la superinteligencia basada en máquinas. Pasará tarde o temprano, así que ¿por qué esperar? Incluso desde la perspectiva del centrismo humano o el excepcionalismo humano, se necesita superinteligencia para enfrentar los grandes desafíos que no podemos resolver. Por eso apoyo la idea.

Al traducir declaraciones de todo el establecimiento tecnológico chino, los autores del artículo PRISM observan secamente: "Otros pronósticos similares son comunes".

El futuro parece sombrío, pero las posibilidades siguen abiertas. Una vez más, estoy en algún lugar entre los escépticos y los verdaderos creyentes, y lo admito, es un seto tibio.

Al igual que los teléfonos inteligentes o Internet, la IA nunca funcionará como se anuncia. La evolución tecnológica es una saga de errores inesperados y consecuencias no deseadas. Está plagado de acciones infladas, contratos gubernamentales exagerados y proyectos académicos con fondos excesivos.

No hay coches voladores (todavía). No hay fusión fría (todavía). No hay nanobots de control mental (¿verdad?).

Aún así, solo un tonto se niega a ver que los teléfonos inteligentes e Internet han hecho trizas la cultura orgánica. Lo mismo ocurre con la vigilancia masiva y la guerra con drones. Cualquiera que sea la forma que finalmente tome la IA, estoy convencido de que tendrá impactos similares, si no peores.

Podría ser que los chatbots de IA y las esclavas sexuales virtuales saquen a algunas personas de la realidad real, volviéndolas más locas de lo que ya están. O podría ser que un ejército de cyborgs mejorados con inteligencia artificial, modificados genéticamente y con chips cerebrales descienda sobre nubes de nanobots para librar una guerra racial contra lo que queda del legado humano.

Sólo el tiempo dirá. Mantenga su papel de aluminio apretado y su polvo seco. Y por el amor de Dios, apaga tu smartphone. Así es como te atrapan.

Lea la historia completa aquí ...