Yelp y todos los demás proveedores de contenido se enfrentan a la lucha de su existencia para filtrar y eliminar información falsa. ¿Cómo se diferencian los datos falsos de los reales? En su mayor parte, no lo hace, pero se convertirá en una parte permanente de su perfil. ⁃ TN Editor
Los robots vendrán a robar tus comentarios.
Investigadores de la Universidad de Chicago han capacitado a una red neuronal, o sistema de inteligencia artificial, para escribir críticas falsas en Yelp, y es bastante difícil distinguirlas de una revisión humana.
Su estudio, que se presentará en la Conferencia de ACM sobre seguridad de las computadoras y las comunicaciones en octubre, con el objetivo de resaltar la facilidad con que estos sistemas pueden imitar las revisiones humanas, y cuán perjudiciales pueden llegar a ser si no se monitorean adecuadamente.
Dado que muchas pequeñas empresas confían en las revisiones en línea para ayudar a crecer y mantener su reputación, un futuro en el que alguien, como un cliente rival o enojado, podría hipotéticamente enviar spam a su página con críticas negativas escritas por una máquina es bastante preocupante.
Y, según el equipo de investigación, la amenaza va mucho más allá de un montón de críticas falsas en Yelp.
"En general, la amenaza es mayor", Ben Y. Zhao, uno de los autores del estudio, dijo Business Insider. "Creo que la amenaza para la sociedad en general y los usuarios realmente desilusionados y para sacudir nuestra creencia en lo que es real y lo que no, creo que será aún más fundamental".
Para probar cuán creíbles se encontraron estas revisiones, los investigadores reclutaron voluntarios de 40 e hicieron que AI generara cinco críticas falsas para restaurantes reales de 40. A los voluntarios se les preguntó qué tan útiles pensaban que era la revisión y si pensaban que era falsa o no. Según el estudio, las revisiones de IA se clasificaron como "efectivamente indistinguibles" de las revisiones reales. Además, las revisiones falsas recibieron una calificación de "utilidad" de 3.15, en comparación con una calificación de 3.28 para las revisiones en humanos.
A continuación se presentan cuatro reseñas de cinco estrellas escritas para el mismo restaurante de Nueva York, ¿puedes averiguar cuáles fueron escritas por un humano?
"Amo este lugar. He estado yendo aquí por años y es un gran lugar para pasar el rato con amigos y familiares. Me encanta la comida y el servicio. Nunca he tenido una mala experiencia cuando estoy allí ".
“Fácilmente mi restaurante italiano favorito. Me encanta el menú de degustación, todo es increíble. Sugiero el carpaccio y los espárragos. Lamentablemente, se ha vuelto más conocido y cada vez es más difícil obtener una reserva para los mejores horarios.
“Tuve la hamburguesa vegetariana a la parrilla con papas fritas !!!! Ohhhh y gusto. Omgggg! Muy sabrosa! ¡Estaba tan delicioso que no lo deletreé!
“Mi familia y yo somos grandes admiradores de este lugar. El personal es super agradable y la comida es excelente. El pollo es muy bueno y la salsa de ajo es perfecta. El helado cubierto con fruta también es delicioso. ¡Muy recomendable!"
El número dos es la única reseña escrita por un humano; los números uno, tres y cuatro fueron generados por la IA.
