Bengio, el principal inventor de la IA, dice que “este es el escenario del Gran Hermano de 1984”. Bengio y sus compañeros científicos tecnócratas deberían haber pensado de esta manera antes de ahora, pero refleja su visión pollyanna-ish de la humanidad. ⁃ Editor TN
Yoshua Bengio, un informático canadiense que ayudó a ser pionero en las técnicas que sustentan gran parte de la emoción actual en torno a la inteligencia artificial, está preocupado por el uso de la IA de China para la vigilancia y el control político.
Bengio, quien también es cofundador de la empresa de software de inteligencia artificial con sede en Montreal Element AI, dijo que estaba preocupado por la tecnología que ayudó a crear para controlar el comportamiento de las personas e influir en sus mentes.
“Este es el escenario del Gran Hermano de 1984”, dijo en una entrevista. "Creo que es cada vez más aterrador".
Bengio, profesor de la Universidad de Montreal, es considerado uno de los tres "padrinos" del aprendizaje profundo, junto con Yann LeCun y Geoff Hinton. Es una tecnología que utiliza redes neuronales, un tipo de software basado libremente en aspectos del cerebro humano, para hacer predicciones basadas en datos. Es responsable de los avances recientes en el reconocimiento facial, el procesamiento del lenguaje natural, la traducción y los algoritmos de recomendación.
El aprendizaje profundo requiere una gran cantidad de datos para proporcionar ejemplos de los que aprender, pero China, con su vasta población y su sistema de mantenimiento de registros estatales, tiene mucho de eso.
El gobierno chino ha comenzado a usar cámaras de video de circuito cerrado y reconocimiento facial para monitorear lo que hacen sus ciudadanos en público, desde cruzar imprudentemente hasta participar en la disensión política. También creó una Plataforma Nacional de Intercambio de Información Crediticia, que se está utilizando para incluir en la lista negra a los pasajeros de trenes y aviones por comportamiento “antisocial” y está considerando expandir los usos de este sistema a otras situaciones.
"El uso de su cara para rastrearlo debe estar muy regulado", dijo Bengio.
Bengio no está solo en su preocupación por los casos de uso de China para la IA. El multimillonario George Soros recientemente utilizó un discurso en el Foro Económico Mundial el 24 de enero, para resaltar los riesgos que el uso del país de la IA plantea a las libertades civiles y los derechos de las minorías.
A diferencia de algunos pares, Bengio, que dirige el Instituto de Algoritmos de Aprendizaje de Montreal (Mila), ha resistido la tentación de trabajar para una gran empresa de tecnología impulsada por la publicidad. Dijo que el desarrollo responsable de la IA puede requerir que algunas grandes empresas de tecnología cambien su forma de operar.
La cantidad de datos que controlan las grandes empresas de tecnología también es motivo de preocupación. Dijo que la creación de fideicomisos de datos (entidades sin fines de lucro o marcos legales bajo los cuales las personas poseen sus datos y permiten que se utilicen solo para ciertos fines) podría ser una solución. Si un fideicomiso tuviera suficientes datos, podría negociar mejores condiciones con las grandes empresas de tecnología que lo necesitaran, dijo el jueves durante una charla en la oficina de Amnistía Internacional del Reino Unido en Londres.
wpDiscuz