Inventor de Internet: se avecinan desastres cuando la IA maneja la economía

El arquitecto de la World Wide Web, Sir Tim Berners-Lee, habló hoy sobre algunas de sus preocupaciones por Internet en los próximos años, incluido un escenario de pesadilla en el que la inteligencia artificial (IA) podría convertirse en los nuevos 'maestros del universo' al crear y dirigiendo sus propias empresas.

Masters of the universe es una referencia a la novela de Tom Wolfe de 1987 La hoguera de las vanidades, sobre los hombres (y eran hombres) que comenzaron a acumular salarios multimillonarios y una gran influencia de sus roles financieros en Wall Street y en Londres durante el boom comercial informatizado anterior al Lunes Negro.

En su intervención en el Cumbre Global de Innovate Finance Hoy, Berners-Lee imaginó un mundo en el que los sistemas de inteligencia artificial comienzan a desarrollar capacidades de toma de decisiones y el impacto que esto tendrá en la equidad de nuestros sistemas económicos.

Expuso el escenario en el que AI podría decidir qué empresas adquirir y llevó esto a su conclusión lógica: “Entonces, cuando AI comienza a tomar decisiones, como quién obtiene una hipoteca, eso es importante. O qué empresas adquirir y cuándo AI comienza a crear sus propias empresas, crear sociedades de cartera, generar nuevas versiones de sí misma para dirigir estas empresas.

“Así que tienes la supervivencia del más apto entre estas empresas de IA hasta que llegas al punto en el que te preguntas si es posible entender cómo garantizar que sean justos y cómo describir a un computadora ¿Qué significa eso de todos modos?

Aunque es difícil imaginar derramar demasiadas lágrimas por la pérdida del tomadores de decisiones responsable del colapso de 2007, el escenario amenaza con aniquilar a toda una industria y plantea algunas preguntas serias sobre cuán justo puede ser un sistema financiero sin ninguna participación humana.

Esto es similar al miedo expuesto recientemente por el escéptico de IA Elon Musk a Feria de las vanidades: “Digamos que creas una IA de auto-mejoramiento para recolectar fresas y se vuelve cada vez mejor recolectando fresas y recolecta más y más y se auto-mejora, así que todo lo que realmente quiere hacer es recolectar fresas. Entonces todo el mundo sería campos de fresas. Campos de fresa por siempre." No hay lugar para los seres humanos.

Berners-Lee recibió el premio AM Turing de la Association for Computing Machinery la semana pasada, y ha llamado la atención de los medios para criticar el retroceso de las protecciones de neutralidad de la red por parte de la administración Trump en una entrevista con El guardián.

Berners-Lee también recientemente publicó una carta en el 28 aniversario de la red mundial, que detalla lo que él ve como los tres desafíos principales para la web: pérdida de control sobre los datos personales, la difusión de información errónea en la web y la necesidad de transparencia con la publicidad política en línea

Lea la historia completa aquí ...