La tecnocracia de China utiliza el sistema de calificación de crédito social para impulsar la dictadura científica

Principales Conclusiones

• El gobierno chino aprobó la prueba piloto de un sistema de crédito social que se basa en los datos personales de los ciudadanos para asignar puntajes de crédito no oficiales, que vienen con beneficios y sanciones que administran las empresas privadas y las oficinas gubernamentales.
• Las cinco dimensiones de los datos de puntaje de crédito son "historial de crédito de los usuarios, hábitos de comportamiento, capacidad de pagar deudas, información personal y redes sociales".
• Los algoritmos que derivan los puntajes de crédito son secretos comerciales, que prohíben formas de prueba que pueden determinar cómo funcionan.
• Las listas negras de deudores del gobierno se comparten con los servicios de calificación de crédito públicos y privados para prohibir a las personas realizar ciertas transacciones.

Esta publicación, la segunda en un serie en los sistemas de pago móvil, examina una función de la aplicación de pago móvil china cada vez más cubierta en los medios extranjeros: prueba de lo que algún día podría ser un sistema de crédito social oficial a nivel nacional para reemplazar su contraparte analógica tradicional. Los puntajes de crédito social disponibles públicamente más populares se emiten actualmente a través de Sesame Credit, una compañía establecida por la subsidiaria de Alibaba Ant Financial. Los informes de los medios occidentales sobre el sistema de crédito social describen un fenómeno similar a la ciencia ficción en el que a los ciudadanos se les asignan puntuaciones en función de su comportamiento en línea, información financiera y registros gubernamentales. Las revelaciones de los representantes de Ant Financial han sugerido que la navegación web a altas horas de la noche, las horas dedicadas a jugar videojuegos y los artículos específicos comprados pueden reducir la puntuación. Ya sea que estas afirmaciones sean ciertas o no, los mecanismos de calificación de Sesame Credit aún se encuentran en una fase experimental y, por lo tanto, están sujetos a cambios. Nuestra exploración de la seguridad potencial, la privacidad y otros problemas de un sistema de este tipo tiene como objetivo generar preguntas que puedan informar las discusiones sobre cómo evolucionará.

Ya en 2003, el Gobierno chino expresó interés al crear un medio integral para asignar puntajes de crédito a los ciudadanos que sería una mejora con respecto al sistema de calificación crediticia del país. El Consejo de Estado aprobó recientemente el "Esquema de regulaciones para construir un sistema de crédito social (2014-2020)" y en la actualidad a ocho compañías se les ha otorgado el permiso del banco central para realizar prueba piloto de sus propios sistemas de crédito social, similar a las calificaciones crediticias de consumo de Fair, Isaac and Company (FICO). Parte de lo que hace que tal esfuerzo sea único en China es la vaguedad y, en algunos casos, la ausencia total de regulaciones con respecto a la recopilación de grandes datos para fines de calificación crediticia, los posibles usos de dichos puntajes por parte de terceros y las protecciones de privacidad de los datos del usuario que tienen en cuenta la calificación crediticia cálculos los nueva ley de ciberseguridad lanzado en noviembre de 7, 2016 contiene un lenguaje sobre las protecciones de privacidad, pero no se implementará hasta junio de 2017.

Este artículo se refiere al servicio de puntaje de crédito social de Sesame Credit, que los usuarios de Alipay actualmente pueden optar por recibir dentro de la aplicación. Los puntajes de Sesame Credit son el ejemplo más popular de cómo podría funcionar algún día un sistema nacional de crédito social chino, y proporciona una idea de las consideraciones que las compañías chinas, los ciudadanos y el estado piensan que deberían entrar en dicho sistema. Es un componente de un impulso más amplio del gobierno chino para aprovechar los grandes datos como un recurso para el control social. Los puntajes de crédito se dividen en cinco dimensiones: "Historial de crédito de los usuarios, hábitos de comportamiento, capacidad para pagar deudas, información personal y redes sociales". Breves descripciones de cada una de estas categorías se incluyen dentro de la función de crédito de Sesame Credit de Alipay, pero no arrojan luz sobre qué acciones en particular alteraría el puntaje de uno.

Según El Libro, "Preferencias de comportamiento" se refieren a acciones como el pago puntual de facturas, y la "información personal" incluye edad, sexo, ocupación e historial educativo. Más preocupantes son los "conceptos de estabilidad" mal definidos que Sesame Credit presuntamente toma en consideración, a los que los representantes de la compañía han aludido sin definir claramente. Estos parecerían ser marcadores muy subjetivos de la posición financiera y social que contribuyen al mecanismo de calificación crediticia. los mismo articulo desde El Libro postula que "si su dirección cambia con frecuencia, su solvencia crediticia caerá en consecuencia". Además, los registros de crédito de sus amigos también influirán en sus Puntos Sesame ”. El margen para la tergiversación y la discriminación basada en tales factores es amplio, y los incentivos que cambian el comportamiento que subyacen en ellos también son preocupantes. El principal científico de datos crediticios de Ant Financial, Yu Wujie ha dicho que "si dona regularmente a organizaciones benéficas, su puntaje de crédito será más alto, pero no le dirá cuántos pagos debe hacer cada mes ... pero [el desarrollo] en esta dirección [se lleva a cabo con] la esperanza de que todos donarán ”. Además, Director de tecnología de Ant Financial, Li Yingyun, ha declarado que "alguien que juega videojuegos durante 10 horas al día, por ejemplo, sería considerado una persona ociosa, y alguien que compra pañales con frecuencia sería considerado probablemente un padre, que en general tiene más sentido de responsabilidad ”. Estas declaraciones han alimentado la cobertura condenatoria del crédito social en los medios occidentales hasta el momento, aunque debe tenerse en cuenta que la única forma de saber con certeza que los factores que los representantes de la compañía citan realmente pueden aumentar o disminuir los puntajes sería deconstruir los algoritmos que los determinan, que han sido etiquetados secretos comerciales.

Sin la capacidad de realizar pruebas estáticas o dinámicas de los algoritmos de crédito social, ¿qué podemos inferir acerca de cómo funcionan? Deng Yiming, director de desarrollo de negocios de Sesame Credit, ha dicho que solo 30 a 40 por ciento de los datos utilizado para generar puntajes de crédito proviene de empresas y servicios propiedad de Alibaba. Además de los datos recopilados a través de la actividad de los usuarios dentro de la aplicación Alipay, Sesame Credit calcula puntajes individuales con datos recopilados de los sitios web de comercio electrónico de Alibaba, aplicaciones de viajes compartidos y restaurantes conectados a Alipay, y de oficinas gubernamentales involucrando la ley, la educación y el comercio. Uno de los ejemplos más claros de tal intercambio de datos es Lazo de Sesame Credit con el Tribunal Popular Supremo, que según se informa ha compartido su lista negra de deudores y otros que han violado los veredictos de la corte con la compañía para evitar que estas personas realicen las llamadas compras de lujo en Taobao y Tmall. Este acuerdo plantea la cuestión de si Sesame Credit comparte datos en la dirección opuesta, posiblemente proporcionando a sus oficinas gubernamentales asociadas información transaccional de los usuarios. Estas colaboraciones tienden a verse ensombrecidas por aquellos en los que Sesame Credit trabaja con el sector privado para proporcionar beneficios a los titulares de puntajes altos.

En la actualidad, los privilegios de tener un puntaje de crédito social alto pueden incluir reservar un auto alquilado o una habitación de hotel sin hacer un depósito, obtener préstamos a tasas de interés más bajas, enviar compras en línea para probar antes de pagarlas y obtener visas a Luxemburgo y Singapur a través de un proceso acelerado. Otros países que han expresado interés en participar en este emisión acelerada de visas incluyen Japón, Corea del Sur, Sri Lanka y el Reino Unido. Se ha discutido el uso futuro de puntajes de crédito altos que se extienden al emparejamiento y la contratación de trabajo, lo que subraya el grado en que los insumos sesgados podrían crear nuevas barreras sociales.

Las representaciones del sistema de crédito social del gobierno chino lo consideran un medio para restablecer la confianza entre los ciudadanos y las empresas locales, como los restaurantes que serán monitoreados para verificar el cumplimiento de las regulaciones de salud. Otro de los argumentos que enmarcan la creación de un sistema de crédito social es que permitirá que las personas que tradicionalmente no pueden acumular crédito puedan hacerlo: estudiantes, trabajadores manuales, propietarios de pequeñas empresas y similares. Sin embargo, hasta ahora parece que las ventajas de tener un puntaje alto (de las cuales se ha especulado que de hecho pocos usuarios han alcanzado) son aquellos que favorecen a aquellos que están en una mejor posición financiera para realizar gastos abundantes y frecuentes. Una crítica ha sido que Sesame Credit aumenta los puntajes para las personas que realizan más transacciones de Alipay, lo que la compañía ha negado firmemente. Los ejemplos de puntajes más altos para compras asociadas con personas que son padres y puntajes más bajos para personas que cambian de domicilio a menudo sugieren que la falta de contexto puede conducir a tergiversaciones de las acciones de las personas que pueden tener consecuencias desproporcionadas.

Existe el peligro de explicar las iniciativas de Big Data como tomar medidas "objetivas" de los datos de los usuarios, en parte porque en los casos en que un indicador es inexacto, se hace difícil disputar este punto. Un ejemplo de un reciente Wall Street Journal artículo involucra a una mujer que usó el pase de metro de su hijo y fue multado por un acto que, según un algoritmo, parecería haber sido robado. Este incidente menor genera inquietudes sobre la forma descontexualizada en la que la calificación de crédito social puede diseñarse para operar. ¿Qué remedio legal, si es que hay alguno, está disponible para muchos más errores consecuentes bajo un sistema de crédito social?

El estado de los experimentos actuales en este campo plantea muchas preguntas sobre la protección del usuario. Con respecto a la privacidad del usuario, se ha discutido poco sobre las implicaciones de hacer que los puntajes de los individuos sean visibles para otros. Alipay ofrece un juego en el que los amigos pueden adivinar las puntuaciones de crédito de los demás y revelarse el uno al otro, por ejemplo. Más allá de otros usuarios, compañías externas que brindan servicios especiales a los titulares de puntajes de crédito altos, y las oficinas gubernamentales asociadas de la aplicación, ¿con qué terceros compartirán datos Sesame Credit? La centralización de los mecanismos de recopilación de datos para el crédito social hace dang'an-como los expedientes de las vidas en línea y fuera de línea de las personas, aún más portátiles, como han señalado varios informes de los medios. ¿Qué procedimientos de seguridad existen para proteger estos repositorios de información personal valiosa?

En una ironía que ha afectado a muchos aparatos de vigilancia, la propagación de un sistema de crédito social y sus sensores asociados, códigos QR y otras herramientas de lectura de trazas pueden crear nuevas preocupaciones de seguridad separadas de las que supuestamente pretende reducir mediante un monitoreo casi ubicuo. de comportamiento. Estas nuevas amenazas involucran las formas en que se pueden falsificar los datos de puntaje de crédito y los fines hacia los cuales se pueden usar los puntajes de crédito falsos. los control de seguridad acelerado en el aeropuerto de Beijing para los usuarios de Sesame Credit con puntajes lo suficientemente altos que viajan en vuelos nacionales proporciona un ejemplo de una situación en la que un puntaje alto falsificado podría permitir a alguien eludir controles de seguridad más rigurosos, lo que puede ser una amenaza para la seguridad nacional de un experto y determinado actor suficiente. Cuanto más se utiliza el sistema de crédito social y mayor es el rango de recompensas que puede proporcionar puntajes altos, más proliferarán los incentivos para descubrir cómo piratearlo. Artículos y hilos sobre cómo aumentar los puntajes de crédito ya están en aumento, y aún no está claro qué tan fácil puede ser piratear una cuenta específica y falsificar información.

Como se detalla en una publicación anterior, Alibaba ha experimentado fugas de datos de los empleados de la empresa y hackeos externos. Es imperativo cuestionar qué precauciones están tomando dado que la rápida creación de un sistema de crédito social probablemente hará que las empresas que son sus administradores sean objetivos de robo de datos y extorsión. Además, a medida que se vende una gran cantidad de dispositivos de Internet de las cosas (IoT) de recopilación de datos en China, las capacidades granulares para rastrear cada movimiento de los ciudadanos y aprovechar esta información como una entrada de crédito social solo se fortalecerán y requerirán trabajo por parte de los fabricantes de IoT para abordar estos problemas. Un avance que tiene el potencial de hacer más transparentes las empresas de crédito social ha sido el anuncio de la Comisión Nacional de Desarrollo y Reforma de que se abrirán servicios de evaluación crediticia para inversión extranjera, que como mínimo puede proporcionar más información sobre cómo se lleva a cabo la calificación de crédito social empresarial (para restaurantes y negocios locales).

La preocupación final relacionada con la seguridad y la censura que ofrecemos para su consideración es la posibilidad de crédito social y financiamiento móvil de la máquina ser bloqueado para penalizar a los ciudadanos por actos de protesta, como un simple ejemplo. Si ambos servicios se vuelven indispensables en la vida cotidiana de uno, la posibilidad de congelar las cuentas de los usuarios sancionadas por el gobierno podría suponer un daño importante para las libertades civiles. A medida que avanza el despliegue del sistema, es importante tener en cuenta que aunque los algoritmos que determinan los puntajes de crédito pueden cambiar rápidamente en formas que los usuarios y los investigadores no pueden percibir, el poder del estado y las empresas que configuran el desarrollo del sistema de crédito social es mucho más arraigado, y es en última instancia responsable de los resultados del mundo real que puede producir el sistema de crédito social.

Lea el artículo completo aquí ...