El famoso zoólogo austríaco Konrad Lorenz (1903-1989), que entendió la tecnocracia de la observación de primera mano declaró: "La mente humana, al llevarnos por el camino de la tecnocracia, se ha convertido en el adversario de la vida misma y, colateralmente, en el adversario del alma humana". ⁃ TN Editor
El deseo de eficiencia de Facebook significa que la democracia está fuera y el gobierno tecnocrático y del rey de los desarrolladores está en juego.
Estipulemos que Facebook no es un país, que los gobiernos reales cumplen muchas más funciones, y que las personas no son ciudadanas de sus redes sociales.
No obstante, 900 millones de seres humanos hacen algo como vivir en el espacio virtual azul y blanco de la red estructurada de personas más grande del mundo. Y esas personas se meten en disputas que esperan ser resueltas. Tienen esta expectativa en parte porque Facebook ha dicho durante mucho tiempo que quiere crear un entorno seguro para conectarse con otras personas. (¿De qué otra manera puedes hacer que la gente sea "más abierto y conectado“?) Pero la gente también quiere que alguien esté a cargo, quieren una autoridad a la que puedan apelar si otra persona está siendo un idiota.
Excepto en este caso, el alguien realmente es una persona corporativa. Entonces, cuando informa algo o alguien informa algo suyo, es Facebook quien toma la decisión sobre lo que se ha publicado, incluso si sabemos que en algún momento, algún ser humano tiene que encarnar el nosotros corporativos, aunque solo sea por el tiempo suficiente para haga clic en un botón.
Cualquier decisión individual tomada por el equipo de Facebook, como tomando esta foto de una pareja gay besándose - es fácil de cuestionar. Ken Fisher de Ars Technica detallado un montón de problemas únicos que la gente ha encontrado con el sistema de informes de Facebook. En cada uno hay una parte agraviada, pero solo escuchamos un lado del conflicto cuando estos problemas surgen. En muchos eventos individuales, hay dos personas (o entidades como empresas) con deseos en conflicto. Este es un caso clásico en el que se necesita algún tipo de gobierno.
No es difícil imaginar tomar una o 20 o incluso 200 decisiones sobre fotografías o actualizaciones de estado en una semana, pero es alucinante considerar que Facebook tiene que procesar 2 millones de informes por semanay eso no incluye los simples mensajes de "marcar como spam".
¿Cómo diseña un sistema para hacer frente a esa carga de trabajo? Hablé con James Mitchell, quien dirige lo que Facebook llama "integridad del sitio" dentro de su departamento de operaciones de usuario, y Jud Hoffman, gerente de políticas globales de la compañía sobre el proceso de informes. Son los arquitectos de la tecnocracia de Facebook.
“La cantidad de pensamiento y debate que entra en el proceso de crear y administrar estas reglas no es tan diferente de un proceso legislativo y judicial todo en uno”, me dijo Hoffman, un abogado. “Y James tiene el elemento ejecutivo / judicial. No creo que sea exagerado pensar en esto en un contexto de gobernanza, pero es una forma diferente y nos lo tomamos muy, muy en serio ".
El paso clave, me dijo Mitchell, fue poner algo de estructura en el proceso de presentación de informes. Cuando comenzó en 2006, no existía ningún formulario para las quejas de los usuarios. Eso significaba que había una cola masiva de problemas indiferenciados. Entonces, él y su equipo comenzaron a pensar en qué tipo de problemas recibían y crearon categorías de problemas, que refinaron con el tiempo.
Eso permite que los informes se canalicen a través de un complejo conjunto de procesos y equipos para que lleguen frente a seres humanos o computadoras que saben qué hacer con ellos.
Facebook ha revelado esta infraestructura por primera vez hoy. Es el producto de más de cinco años de trabajo de varios equipos dentro de Facebook, que han trabajado para que el proceso de manejo de esta avalancha de consultas de los usuarios sea lo más eficiente posible.
Al final de muchas de estas líneas jerárquicas, hay una persona que tiene que tomar una decisión sobre el mensaje del usuario. Algunas de estas decisiones son binarias: ¿esta fotografía contiene desnudez? - y estos generalmente se subcontratan a equipos que pueden aplicar fórmulas simples y rigurosas como preguntar: "¿Esta persona está desnuda?" Otras decisiones son complejas en formas que hacen que las máquinas sean muy buenas para lidiar con ellas. (Por ejemplo, hay más de 50 señales que los algoritmos de Facebook analizan para determinar si un perfil es spam, y las respuestas automáticas son más precisas que las humanas).
Pero la mayor parte de los informes son presentados por un equipo anónimo de varios cientos de empleados de Facebook en Mountain View, Austin, Dublín e Hyderabad. Estas personas y las herramientas que han creado se han convertido en los legisladores, burócratas, policías y jueces de facto de la cuasi nación de Facebook. Algunas decisiones que toman impactan a cientos de millones de personas de alguna manera; otras decisiones cambiarán considerablemente la vida de un pequeño número de personas.
Lo que me fascina es que Facebook esencialmente ha recreado una burocracia gubernamental completa con reguladores y aplicación de la ley, pero optimizada para valores totalmente diferentes a los de los gobiernos tradicionales. En lugar de una constitución, Facebook tiene la doble misión de hacer "el mundo más abierto y conectado" y mantener a los usuarios en su sitio minimizando sus experiencias negativas. Por encima de todo, la solución de Facebook a todos los problemas de gobernanza debe diseñarse para lograr una eficiencia extrema a escala.
Como se estipuló anteriormente, los gobiernos del mundo real tienen que cumplir todo tipo de funciones además de las disputas entre ciudadanos, pero mire la diferencia de escala entre el gobierno de Facebook y el gobierno de Palo Alto. Palo Alto tiene aproximadamente 65,000 residentes y 617 a tiempo completo empleados. Facebook tiene 900 millones de "residentes" y algunos cientos de burócratas que toman todas las decisiones de contenido.
El deseo de eficiencia de Facebook significa que la democracia está fuera y la regla tecnocrática del rey desarrollador está en vigor. La gente no puede votar sobre las reglas, e incluso cuando Facebook ofreció a sus usuarios la oportunidad de votar sobre una nueva política de privacidad la semana pasada, la participación electoral fue del 0.038 por ciento. La gente sabe que Facebook controla una gran parte de su vida digital, pero no tienen un sentido de ciudadanía digital. Y esa apatía le da a la tecnocracia de Facebook la oportunidad de triunfar donde sus antecedentes históricos no lo hicieron.
Los tecnócratas originales eran un grupo de pensadores e ingenieros de la década de 1930 que revivieron el sueño de Platón del rey-filósofo, pero con un giro de la era de las máquinas. Liderados por Thorstein Veblen, Howard Scott y M. King Hubbert, defendían no el gobierno del pueblo, la monarquía o el dictador, sino los ingenieros. Los ingenieros y científicos gobernarían de manera racional e imparcial. Crearían una Tecnocracia que funcionaba como un reloj y aseguraba que la productividad de todos se distribuyera de manera eficiente. Elaboraron todo un sistema mediante el cual el continente norteamericano sería gobernado con secuencias funcionales que permitirían al Director Continental hacer las cosas.
La tecnocracia, como se concibió originalmente, no era explícitamente democrática. Sus defensores no querían el dominio popular; querían gobernar por una élite bien informada que tomaría buenas decisiones. Y tal vez lo habrían hecho, pero había un gran problema. Pocas personas encontraron tan atractiva la visión general de entregar su poder político a los ingenieros.
Con Facebook, la gente parece preocuparse mucho más por las decisiones individuales que toma Facebook que por la existencia del sistema tecnocrático ultraeficiente. No están desafiando los principios o valores del sistema, sino más bien queriendo que se apliquen rápidamente para resolver su disputa particular. Y el deseo de velocidad, por supuesto, impulsa la mentalidad de eficiencia primero que hace que sea difícil lidiar con problemas matizados. Ninguna de las acusaciones formuladas contra el sistema administrativo de Facebook me parecieron críticas a su estructura central.