Los psicópatas tienen mucho que enseñarnos sobre la IA

¡Por favor comparta esta historia!
image_pdfimage_print
La IA a menudo está programada para aprender a manipular nuestras emociones y para medir el éxito cuando nos conformamos. Este rasgo psicopático es el pináculo de la ingeniería social y los humanos tienen muy poca conciencia de que incluso suceda. ⁃ Editor TN

¿Qué sucede cuando las máquinas aprenden a manipularnos fingiendo nuestras emociones? A juzgar por la velocidad a la que los investigadores están desarrollando agentes de IA similares a los humanos, estamos a punto de descubrirlo.

Los investigadores de todo el mundo están tratando de crear una IA más humana. Por definición, están desarrollando psicópatas artificiales. Esto no es necesariamente algo malo: no hay nada intrínsecamente malo en ser un psicópata, y todos los agentes de IA son psicópatas artificiales simplemente porque carecen del rango completo de emociones humanas neurotípicas.

Pero la superposición entre el comportamiento psicópata y el comportamiento del agente de IA es innegable. Deberíamos investigarlo antes de que sea demasiado tarde.

El dilema del prisionero

Un trío de investigadores de la Universidad de Waterloo recientemente llevado a cabo un experimento para determinar cómo las demostraciones de emoción pueden ayudar a la IA a manipular a los humanos para que cooperen. El estudio utilizó un experimento clásico de teoría de juegos llamado "El dilema del prisionero", que muestra por qué las personas que se beneficiarían de la cooperación a menudo no lo hacen.

Hay muchas variaciones en el juego, pero es básicamente esto: hay dos prisioneros aislados el uno del otro que son interrogados por la policía por un crimen que cometieron juntos. Si uno de ellos se burla y el otro no, el no traidor recibe tres años y la soplón camina. Esto funciona en ambos sentidos. Si ambos sopló, ambos tienen dos años. Si ninguno denuncia, cada uno solo recibe un año con un cargo menor.

El estudio de Waterloo sustituyó a uno de los 'prisioneros' humanos con un avatar de IA y les permitió interpretar las emociones de los demás. Y en lugar de las penas de prisión, usaron oro, por lo que el punto era obtener la puntuación más alta posible, en lugar de la más baja. Como dijimos, hay variaciones en el juego. Pero, lo que es más importante, descubrieron que los humanos eran más fáciles de manipular para obtener resultados cooperativos al mejorar el nivel de comportamiento humano de la IA. De acuerdo con la investigación del equipo de Waterloo papel:

Si bien los investigadores pueden mejorar con éxito la percepción de los rasgos de singularidad humana al hacer que los agentes sean más inteligentes, las emociones son críticas para la percepción de los rasgos de la naturaleza humana. Esta mejora también afectó positivamente la cooperación de los usuarios con el agente y su disfrute.

Mientras tanto, otro equipo de investigadores publicó recientemente un experimento diferente implicando el problema del dilema del prisionero. Los científicos de la Universidad Victoria de Wellington y la Universidad de Southampton clasificaron a los estudiantes voluntarios de 190 en cuatro grupos compuestos por diferentes proporciones de estudiantes neurotípicos y aquellos que muestran rasgos de psicopatía. Los investigadores encontraron que tener psicópatas en una dinámica de grupo era consistente con una menor cooperación.

Para ser claros, el estudio de Victoria / Southhampton no utilizó personas consideradas psicópatas completas, sino estudiantes que mostraron un mayor número de rasgos psicópatas que los demás. El propósito de este estudio fue determinar si la presentación de personas que mostraban incluso algo de psicopatía cambiaría la dinámica del grupo. Encontraron que sí:

Nuestros resultados muestran que las personas con niveles más altos de rasgos psicópatas afectan la dinámica de grupo. Encontramos una divergencia significativa de cooperación en aquellos grupos que tienen una alta densidad de participantes psicópatas altos en comparación con los grupos de densidad cero.

El extorsionador amistoso

Introducir agentes emocionales a medias en la sociedad tiene el potencial de ser una pesadilla. Otro estudio reciente del experimento del Dilema del Prisionero, este de la Sociedad Max Planck, indica que la mejor estrategia para el juego es convertirse en el "Extorsionador amistoso". En esencia, dice que cuando las bonificaciones e incentivos están en juego, la mejor jugada es crear la ilusión de cooperación mientras se manipula al otro jugador para que coopere, no importa cuántas veces no lo hagas.

Lea la historia completa aquí ...

Suscríbete
Notificar de
invitado
1 Comentario
Más antiguo
Más Nuevos Más votados
Comentarios en línea
Ver todos los comentarios
susurro

Bueno, tomó una ruta indirecta, pero al final me di cuenta de que lo que dice el autor es que la IA es sociópata y puede arruinar nuestra sociedad a lo grande.