Forbes: ¿Facebook como la mejor herramienta de vigilancia gubernamental?

A principios de este mes, se descubrió que entre las innumerables categorías de publicidad inducidas algorítmicamente de Facebook había una entrada para los usuarios que los sistemas de minería de datos de la plataforma creían que podrían estar interesados traición en contra de su gobierno. La etiqueta se ha aplicado a más de ciudadanos rusos de 65,000, lo que los pone en grave riesgo si su gobierno descubre la etiqueta. Del mismo modo, los algoritmos de la plataforma observan en silencio las acciones y palabras de sus dos mil millones de usuarios, calculan qué usuarios cree que pueden ser homosexuales y colocan silenciosamente una etiqueta en su cuenta que registra esa estimación. ¿Qué sucede cuando los gobiernos comienzan a usar estas etiquetas para vigilar, acosar, detener e incluso ejecutar a sus ciudadanos según las etiquetas producidas por los algoritmos de caja negra de una empresa estadounidense?

Uno de los desafíos con la gran máquina automatizada que es el motor de publicidad de Facebook es que su gran escala y alcance significa que nunca podría estar completamente sujeto a la supervisión humana. En cambio, tararea en silencio, observando en silencio a los dos mil millones de usuarios de la plataforma como Gran Hermano, asignándoles silenciosamente etiquetas que indican sus estimaciones de todo, desde sus intereses comerciales de rutina hasta los elementos más sensibles e íntimos de su personalidad, creencias y afecciones médicas que podrían ser utilizados por sus gobiernos para manipularlos, arrestarlos o ejecutarlos.

Tales preocupaciones están, lamentablemente, lejos de ser hipotéticas. Personalmente puedo dar fe de que hay muchos gobiernos en todo el mundo que son muy conscientes del potencial de las herramientas de publicidad de Facebook para la vigilancia y, de hecho, las utilizan activamente para rastrear datos demográficos e intereses específicos, utilizando las herramientas integradas de informes de la compañía para identificar áreas geográficas y datos demográficos para apuntar a una mayor vigilancia.

Hoy en día, gran parte del uso gubernamental de las herramientas de orientación de anuncios de Facebook gira en torno al uso de sus herramientas de generación de informes y orientación de acceso público para comprender cosas como qué vecindarios tienen la mayor densidad de personas en un grupo demográfico particular que también tienen un interés particular de interés para el gobierno. Al ejecutar un gran número de campañas paralelas que cubren todas las permutaciones de un conjunto de datos demográficos e intereses, los gobiernos pueden incluso aprender qué datos demográficos están más asociados con intereses particulares y qué intereses están más fuertemente correlacionados con datos demográficos particulares. Las herramientas de informes geográficos permiten la identificación a nivel de vecindario de dónde coinciden esos datos demográficos e intereses, lo que permite aumentar los recursos de vigilancia en esas áreas.

La disponibilidad pública de las herramientas de focalización de Facebook significa que las agencias de inteligencia no necesitan órdenes judiciales para aprovecharlas, los servicios de inteligencia extranjeros pueden usarlas para rastrear y vigilar en suelo extranjero e incluso las agencias locales de aplicación de la ley pueden usarlas con pocas restricciones. La disponibilidad global de la plataforma de publicidad de Facebook ofrece una herramienta particularmente poderosa y atractiva para las agencias de inteligencia que intentan mapear naciones adversarias, lo que les permite comprender mejor las correlaciones demográficas y de intereses y las afinidades geográficas y guiar la asignación de sus propios recursos basados ​​en tierra.

A pesar de su increíble poder y disponibilidad pública, las herramientas publicitarias de Facebook siguen siendo un instrumento relativamente contundente en comparación con las herramientas tradicionales de vigilancia a nivel individual.

Como yo aludido a principios de esta semana, ¿qué sucede cuando los países en los que la homosexualidad es un delito que potencialmente puede imponer la pena de muerte utilizan las herramientas de Facebook para atacar a esas comunidades? Utilizando solo las herramientas de publicidad pública de Facebook, pueden estimar vecindarios y lugares de reunión populares, intereses correlacionados en esas áreas, etc., pero no pueden compilar fácilmente una lista de nombres y direcciones reales de todas las personas en su país que Facebook cree que pueden ser homosexuales.

Dado que la homosexualidad en algunos países se clasifica como un delito bajo su código legal formal, ¿podrían esos países usar una orden judicial para obligar a Facebook a proporcionar una lista de todos los nombres de personas en su país que sus algoritmos creen que pueden ser homosexuales? Las leyes de muchos países dificultarían que Facebook intente proteger a sus usuarios de una solicitud legal de una lista de personas sospechosas de cometer un delito grave en ese país.

Lea la historia completa aquí ...