Furia contra el algoritmo: Google y la tecnología persuasiva

Los monstruos y los titanes comparten el escenario de la mitología entre las culturas como las realizaciones necesarias de la imaginación humana. Desde la cueva de piedra hasta la vivienda urbana, el tema es incesante; mantenidas en la imaginación, tales criaturas realizan, inocentemente, funciones benignas. La trampa aquí es la tendencia humana a realizar tales criaturas. Toman la forma de ingeniería social y utopía. Locos, tales proyectos y empresas terminan corrompiendo y degradando. Nace el monstruo, y la terrible verdad sale a la luz: el campo de concentración, el estado de vigilancia, las noticias, los ejércitos de censura.

Los gigantes de la tecnología de la era actual son los utópicos modernos, que satisfacen el hambre y los intereses humanos al moldearlos. Una compañía nos da el arquetipo. Es Google, que tiene la distinción inusual de ser tanto sustantivo como verbal, entidad y acción. El poder de Google es desproporcionadamente vasto, una expansión espeluznante que aprecia la transparencia mientras carece de ella, y atesora la información mientras regula su alcance. También es una entidad que ha ido más allá de ser un simple depósito de búsquedas y datos, un intento de inducir un cambio de comportamiento por parte de los usuarios.

Google siempre da la impresión de que sus usuarios son líderes, autónomos e independientes en una tierra verde de retoques digitales. La idea de que la propia empresa fomenta ese cambio, provocando alteraciones en el comportamiento, se deja de lado. No hay Svengalis en Googleland, porque todos somos libres. Gratis, pero necesita asistencia en medio del caos y la "multitarea".

La gente tiene lo que el llamadas de empresa "Micro-momentos", esos, como el economista conductual Dan Ariely describe como "momentos móviles sobre la marcha" en los que el usuario toma decisiones mientras está ocupado, simultáneamente, en una variedad de tareas: hoteles para reservar, opciones de viaje para hacer, horarios de trabajo para cumplir. Si bien Ariely escribe de manera más amplia desde la perspectiva del omnipresente comercializador digital, el lenguaje es puro Googleleese, huele a parte de persuasión y parte de imposición. "¿Desea desarrollar una estrategia para dar forma a sus decisiones de consumo?" pregunta Google. "Comience por comprender los micro-momentos clave en su viaje". Comprenderlos; alimentar sus mentes; tomar su mano

La adicción a Google produce lo que ya no se puede ver como un retraso, sino un fomento. Una generación está creciendo sin una biblioteca de investigación impresa, una lista de clásicos listos para usar y los medios para buscar en los registros sin recurrir a esas malditas claves digitales. Es probable que se debatan (algunos ya contaminan el espacio digital) sobre si esto es necesariamente una condición para lamentar. ¡Abraza la amnesia digital! Para Google es existir.

Lo que es innegable es que los medios para encontrar información, instantánea, llena de exceso, desesperadamente rápida, ha creado usuarios que habitan en un espacio que guía su pensamiento, anticipación, engatusamiento y ajuste. Una forma de alfabetización, podríamos decir amablemente, está siendo suplantada por otra: el imbécil de Google está sobre nosotros.

Dada la naturaleza de tales efectos, no es de extrañar que los políticos encuentren a Google amenazando a sus mohosos y oxidados. La reserva del político es una comunicación sólida o poco sólida; el éxito en las próximas elecciones depende de la idea de que los electores entiendan y aprueben lo que se les ha transmitido (si ese material es real o no, una mentira o no, no viene al caso: el político anhela convencer en Para ganar).

El viejo motor de búsqueda titán proporciona una especie de inconveniente a este respecto. Por un lado, ofrece a las clases políticas los medios para llegar a una audiencia global, una vía para gritar y promover el próximo esquema de cerebro que viene a la mente del aparato político. Pero, ¿qué pasa si el mensaje se bloquea en el camino, encontrando retrasos en los medios de lo que se llama "optimización de motores de búsqueda"? ¿Es Google el culpable, o la normalidad normal del pantano por parte del político?

Los políticos estadounidenses piensan que tienen una respuesta. Solo se les permite el control de la narrativa, y la difusión de la mentira. Últimamente han estado tratando de esbozar un camino al que no están acostumbrados: regular las industrias que alguna vez fueron aclamadas como centinelas de la libertad, promotores de la libertad. Sus quejas tienden a carecer de consistencia. Por un lado, encuentran que varios algoritmos de Google son problemáticos (preferencia por sitios alternativos, dañino conspiratorio como dañino), pero su inclinación es inestable y sesgada. Si estos algoritmos hubieran estado impulsando términos de búsqueda favorables (conformistas, constantes, incuestionables, anti-Trump), el asunto no sería un comienzo. Nuestro mensaje, dirían, es salir a la luz.

Esta semana, el Comité de Comercio, Ciencia y Transporte del Senado de los Estados Unidos trató de tener sentido, de manera bastante acusadora, de "tecnología persuasiva". Nanette Byrnes amuebla con una definición: "la idea de que las computadoras, los teléfonos móviles, los sitios web y otras tecnologías podrían diseñarse para influir en el comportamiento de las personas e incluso en las actitudes". El Papa sigue siendo decididamente católico.

EL audiencia del comité presentó opiniones como las del senador John Thune (R-SD), que deseaba utilizar los procedimientos para redactar una legislación que "requeriría que las plataformas de Internet brinden a los consumidores la opción de interactuar con la plataforma sin tener la experiencia moldeada por algoritmos". El senador se complace en aceptar que la inteligencia artificial "impulsa las automatizaciones para mostrar contenido para optimizar el compromiso", pero ve un demonio en proceso, ya que "los algoritmos de inteligencia artificial pueden tener un inconveniente involuntario y posiblemente incluso peligroso". Esto equivale a querer un Gran Premio de Fórmula Uno sin autos rápidos y una competencia de atletismo en cámara lenta.

Frente a los senadores del lado de Google se encontraba Maggie Stanphill, directora de Google User Experience. Su testimonio estaba redactado en palabras más parecidas al brillo de un folleto de viaje con una pizca de cocaína de cortesía. "La Iniciativa de Bienestar Digital de Google es un objetivo principal de la compañía, que se centra en proporcionar a nuestros usuarios información sobre sus hábitos y herramientas digitales para respaldar una relación intencional con la tecnología". Google simplemente "crea productos que mejoran la vida de las personas que los usan". La compañía ha proporcionado acceso que "ha democratizado la información y ha brindado servicios a miles de millones de personas en todo el mundo". Cuando se le preguntó si Google estaba haciendo su parte en el negocio de la persuasión, Stanphill fue inequívoco. "No utilizamos tecnología persuasiva".

El tema de la sesión fue claro: montones y montones de contenido son buenos, pero deben ser apropiados. En Information Utopia, donde Adán y Eva digitales todavía corren desnudos, no se permitirá la maldad. Si la gente quiere buscar contenido que sea "negativo" (esta naturaleza arbitraria horrenda sigue apareciendo), no se les debe permitir hacerlo. Amárralos y asegúrate de que los términos populares buscados sean blanqueados de cualquier importación ofensiva o peligrosa. Imponer a los titanes tecnológicos la responsabilidad de controlar lo negativo.

El senador Brian Schatz (D-Hawaii) se quejó de que esas compañías "permitieron que estos algoritmos se volvieran salvajes [...] dejando que los humanos limpiaran el desastre. Los algoritmos son amorales ". Tristan Harris, cofundador y director ejecutivo del Centro de Tecnología Humana, rayo de la competencia entre compañías para usar algoritmos que "predicen con mayor precisión lo que mantendrá a los usuarios allí por más tiempo". Si desea maximizar el tiempo dedicado a buscar términos o, en el caso de YouTube, mirar un video, enfoque "toda la colonia de hormigas de la humanidad hacia el pueblo loco ". Para Harris," la tecnología piratea las debilidades humanas ". ¿La moraleja? No le des a las personas lo que quieren.

La rabia contra el algoritmo, y la creencia de que no hay empuje conductual en la tecnología de búsqueda, está fuera de lugar en algunos frentes. En cierto nivel, todos aceptan cómo funcionan estos modos de recuperación de información. El desacuerdo surge en cuanto a sus consecuencias, una concesión, efectivamente, al usuario de Google como imbécil. Stanphill está siendo poco sincero al suponer que la tecnología persuasiva no es una función del trabajo de Google (lo es, dada la intención de la compañía de mejorar la "relación intencional con la tecnología"). En su testimonio, habló de la construcción de "productos con privacidad, transparencia y control para los usuarios, y construimos una relación de por vida con el usuario, lo cual es primordial". A los senadores, a su vez, les preocupa que los usuarios pañalen los estímulos. en su búsqueda de intereses, son incapaces de tomar sus propias mentes frágiles.

La naturaleza de la información administrada en la experiencia digital no es, como muestran Google, YouTube y empresas similares, un caso de ampliación del conocimiento, sino que reafirma los supuestos existentes. La cámara de eco se eriza con confirmaciones, no desafíos, con las comodidades del prejuicio en lugar de las molestias del aprendizaje de artillería pesada. Pero los ciudadanos elegidos en la colina, y los ciber utópicos, continúan luchando y luchando en la jungla digital que habían visto como una utopía de información igual a todos. Para los gigantes de Big Tech, todo es bastante simple: el espectáculo que llama la atención, los vagabundos en los asientos y las descargas en abundancia.

Lea la historia completa aquí ...