Si bien es encomiable que los creadores vean resultados peligrosos de su IA y estén dispuestos a retenerlo hasta que se realice un análisis más detallado, es solo cuestión de tiempo antes de que se escape. No se utiliza inteligencia humana para generar historias artificiales. ⁃ Editor TN
Los creadores de un revolucionario sistema de inteligencia artificial que puede escribir noticias y trabajos de ficción, denominados "falsificaciones profundas para texto", han dado el paso inusual de no publicar sus investigaciones públicamente, por temor a un posible uso indebido.
OpenAI, una compañía de investigación sin fines de lucro respaldada por Elon Musk, Reid Hoffman, Sam Altman y otros, dice que su nuevo modelo de inteligencia artificial, llamado GPT2, es tan bueno y el riesgo de uso malicioso es tan alto que está rompiendo con su práctica normal de liberar todo investigar al público para dar más tiempo para discutir las ramificaciones del avance tecnológico.
En esencia, GPT2 es un generador de texto. El sistema de IA se alimenta de texto, desde unas pocas palabras hasta una página completa, y se le pide que escriba las siguientes oraciones en función de sus predicciones de lo que vendrá después. El sistema está empujando los límites de lo que se creía posible, tanto en términos de calidad de la producción como en la gran variedad de usos potenciales.
Cuando se usa para generar simplemente texto nuevo, GPT2 es capaz de escribir pasajes plausibles que coinciden con lo que se da tanto en estilo como en tema. Raramente muestra alguna de las peculiaridades que marcan los sistemas de inteligencia artificial anteriores, como olvidar lo que está escribiendo a mitad de un párrafo o alterar la sintaxis de oraciones largas.
Aliméntelo con la línea de apertura de Mil novecientos ochenta y cuatro de George Orwell: "Era un día frío y brillante en abril, y los relojes daban las trece", y el sistema reconoce el tono vagamente futurista y el estilo novelístico, y continúa con:
“Estaba en mi automóvil camino a un nuevo trabajo en Seattle. Puse el gas, puse la llave y luego la dejé correr. Me imaginaba cómo sería el día. Cien años a partir de ahora. En 2045, era profesor en una escuela en una zona pobre de la China rural. Comencé con la historia china y la historia de la ciencia ".
Aliméntelo con los primeros párrafos de una historia de Guardian sobre Brexit, y su producción es prosa plausible en los periódicos, repleta de "citas" de Jeremy Corbyn, menciones de la frontera irlandesa y respuestas del portavoz del primer ministro.
Uno de esos párrafos, completamente artificial, dice: “Cuando se le pidió que aclarara los informes, un portavoz de May dijo: 'El Primer Ministro ha dejado absolutamente claro que su intención es abandonar la UE lo más rápido posible y eso estará bajo su mandato de negociación como se confirmó en el discurso de la Reina la semana pasada ".
wpDiscuz