La IA ve a la humanidad misma como algo que debe optimizarse, eliminando toda ineficiencia. Cuando se libera como su jefe, la inteligencia artificial lo convierte efectivamente en un robot viviente para ser controlado como un títere en una cuerda. Los empleados nunca tolerarán esto indefinidamente. ⁃ Editor TN
Los críticos han acusado a las compañías de usar algoritmos para tareas gerenciales, diciendo que los sistemas automatizados pueden deshumanizar y castigar injustamente a los empleados.
Cuando Conor Sprouls, un representante de servicio al cliente en el centro de llamadas del gigante de seguros MetLife, habla por teléfono con un cliente, vigila la esquina inferior derecha de su pantalla. Allí, en una pequeña caja azul, AI le dice cómo le está yendo.
¿Hablas demasiado rápido? El programa muestra el ícono de un velocímetro, lo que indica que debe reducir la velocidad.
Suena somnoliento? El software muestra una "señal de energía", con una imagen de una taza de café.
¿No es lo suficientemente empático? Aparece un icono de corazón.
Durante décadas, la gente ha imaginado temerosamente ejércitos de robots hipereficientes que invaden oficinas y fábricas, engullendo trabajos que una vez hicieron los humanos. Pero en toda la preocupación por el potencial de la inteligencia artificial para reemplazar a los trabajadores de base, podemos haber pasado por alto la posibilidad de que también reemplace a los jefes.
Sprouls y los otros trabajadores del centro de llamadas en su oficina en Warwick, Rhode Island, todavía tienen muchos supervisores humanos. Pero el software en sus pantallas, fabricado por Cogito, una compañía de inteligencia artificial en Boston, se ha convertido en una especie de administrador adjunto, siempre observándolos. Al final de cada llamada, las notificaciones Cogito de Sprouls se cuentan y se agregan a un panel de estadísticas que su supervisor puede ver. Si oculta la ventana de Cogito minimizándola, el programa notifica a su supervisor.
Cogito es uno de varios programas de inteligencia artificial utilizados en centros de llamadas y otros lugares de trabajo. El objetivo, según Joshua Feast, director ejecutivo de Cogito, es hacer que los trabajadores sean más efectivos al darles retroalimentación en tiempo real.
"Hay una variabilidad en el rendimiento humano", dijo Feast. "Podemos inferir por la forma en que las personas hablan entre sí si las cosas van bien o no".
El objetivo de la automatización siempre ha sido la eficiencia, pero en este nuevo tipo de lugar de trabajo, la IA ve a la humanidad misma como lo que hay que optimizar. Amazon utiliza algoritmos complejos para rastrear la productividad de los trabajadores en sus centros de cumplimiento, y puede generar automáticamente el papeleo para despedir a los trabajadores que no cumplen con sus objetivos, como descubrió The Verge este año. (Amazon ha discutido que despide a los trabajadores sin intervención humana, diciendo que los gerentes pueden intervenir en el proceso). IBM ha utilizado Watson, su plataforma de inteligencia artificial, durante las revisiones de los empleados para predecir el rendimiento futuro y afirma que tiene una tasa de precisión del 96%.
Luego están las nuevas empresas. Cogito, que trabaja con grandes compañías de seguros como MetLife y Humana, así como con empresas financieras y minoristas, dice que tiene usuarios de 20,000. Percolata, una compañía de Silicon Valley que cuenta con Uniqlo y 7-Eleven entre sus clientes, utiliza sensores en la tienda para calcular un puntaje de "productividad real" para cada trabajador, y clasifica a los trabajadores de mayor a menor productividad.
La gestión por algoritmo no es un concepto nuevo. A principios del siglo 20, Frederick Winslow Taylor revolucionó el mundo de la fabricación con su teoría de la "gestión científica", que intentaba eliminar la ineficiencia de las fábricas cronometrando y midiendo cada aspecto de un trabajo. Más recientemente, Uber, Lyft y otras plataformas a pedido han ganado miles de millones de dólares al externalizar tareas convencionales de recursos humanos (programación, nómina, revisiones de rendimiento) a las computadoras.
Pero usar la inteligencia artificial para administrar a los trabajadores en trabajos convencionales de 9 a 5 ha sido más controvertido. Los críticos han acusado a las compañías de usar algoritmos para tareas gerenciales, diciendo que los sistemas automatizados pueden deshumanizar y castigar injustamente a los empleados. Y aunque está claro por qué los ejecutivos querrían una IA que pueda rastrear todo lo que hacen sus trabajadores, está menos claro por qué los trabajadores lo harían "
Es surrealista pensar que cualquier compañía podría despedir a sus propios trabajadores sin ninguna participación humana ", dijo Marc Perrone, presidente de la Unión Internacional de Trabajadores Comerciales y de Alimentos de United, que representa a los trabajadores de alimentos y minoristas, en un comunicado sobre Amazon en abril.
"... aunque está claro por qué los ejecutivos querrían una IA que pueda rastrear todo lo que hacen sus trabajadores, no está tan claro por qué los trabajadores lo harían".
Y aquí radica el problema: humanos débiles, ignorantes y asustados. Eso es con lo que cuentan los especuladores corporativos globales: la probabilidad estadística de que las masas actúen de esta manera.
"... aunque está claro por qué los ejecutivos querrían una IA que pueda rastrear todo lo que hacen sus trabajadores, no está tan claro por qué los trabajadores lo harían".
Y aquí radica el problema: humanos débiles, ignorantes y asustados. Eso es con lo que cuentan los especuladores corporativos globales: la probabilidad estadística de que las masas actúen de esta manera.