Cuando diversos programas de IA desarrollan sus propios lenguajes para comunicarse entre sí, los humanos pueden o no ser capaces de traducir, especialmente si la IA aprende a construir su propio cifrado para 'esconderse' de los humanos. ⁃ TN Editor
Igor Mordatch es trabajando para construir máquinas que puedan mantener una conversación. Eso es algo en lo que mucha gente está trabajando. En Silicon Valley, chatbot es ahora un palabra de moda de buena fe. Pero Mordatch es diferente. Él no es lingüista. Él no se ocupa de las técnicas de inteligencia artificial que generalmente alcanzan el lenguaje. Es un robotista que comenzó su carrera como animador. Pasó un tiempo en Pixar y trabajó en Toy Story 3, entre períodos como académico en lugares como Stanford y la Universidad de Washington, donde enseñó a los robots a moverse como humanos. "Crear movimiento desde cero es lo que siempre me interesó", dice. Ahora, toda esta experiencia se une de una manera inesperada.
Nacido en Ucrania y criado en Toronto, el niño de 31 ahora es investigador visitante en OpenAI, el laboratorio de inteligencia artificial iniciado por el fundador de Tesla, Elon Musk, y el presidente del combinador Y, Sam Altman. Allí, Mordatch está explorando un nuevo camino hacia las máquinas que no solo pueden conversar con los humanos, sino también entre ellos. Está construyendo mundos virtuales donde los bots de software aprenden a crear su propio lenguaje por necesidad.
Como se detalla en un trabajo de investigación publicado por OpenAI esta semana, Mordatch y sus colaboradores crearon un mundo en el que los bots se encargan de completar ciertas tareas, como trasladarse a un punto de referencia particular. El mundo es simple, solo un gran cuadrado blanco, todas de dos dimensiones, y los bots son formas de colores: un círculo verde, rojo o azul. Pero el punto de este universo es más complejo. El mundo permite que los bots creen su propio lenguaje como una forma de colaboración, ayudándose mutuamente a completar esas tareas.
Todo esto sucede a través de lo que se llama aprendizaje reforzado, la misma técnica fundamental que sustentaba AlphaGo, la máquina del laboratorio DeepMind AI de Google que descifró el antiguo juego de Go. Básicamente, los bots navegan por su mundo a través de pruebas y errores extremos, haciendo un seguimiento cuidadoso de lo que funciona y lo que no funciona mientras alcanzan una recompensa, como llegar a un hito. Si una acción en particular los ayuda a lograr esa recompensa, saben que deben seguir haciéndolo. De esta misma manera, aprenden a construir su propio idioma. Diciéndose a dónde ir les ayuda a todos a obtener lugares más rápidamente.
Como dice Mordatch: "Podemos reducir el éxito del diálogo a: ¿Terminaste llegando a la lata verde o no?"
Para construir su lenguaje, los bots asignan caracteres abstractos al azar a conceptos simples que aprenden mientras navegan por su mundo virtual. Se asignan caracteres entre sí, a ubicaciones u objetos en el mundo virtual, y a acciones como "ir a" o "mirar". Mordatch y sus colegas esperan que a medida que estos lenguajes bot se vuelvan más complejos, las técnicas relacionadas puedan traducirlos. a idiomas como el inglés. Eso está muy lejos, al menos como una pieza práctica de software, pero otro investigador de OpenAI ya está trabajando en este tipo de "traductor bot".
En última instancia, dice Mordatch, estos métodos pueden dar a las máquinas una comprensión más profunda del lenguaje, en realidad mostrarles por qué existe el lenguaje, y eso proporciona un trampolín para una conversación real, una interfaz informática con la que los científicos informáticos han soñado durante mucho tiempo, pero que en realidad nunca lograron.
wpDiscuz