Los tecnócratas recurren a los especialistas en ética para 'salvar su alma'

Cincuenta y dos pisos debajo de la parte superior de Salesforce Tower, me encuentro con Paula Goldman en una sala de conferencias con paneles de vidrio donde las palabras OFICINA DE IGUALDAD están escritas en una pancarta de retazos, el tipo de decoración que podría comprar para la fiesta de cumpleaños de un niño.

Goldman tiene una maestría de Princeton y un Ph.D. de Harvard, donde estudió cómo las ideas controvertidas se generalizan. Llegó a Salesforce hace poco más de un año para convertirse en su primer Oficial Jefe de Uso Ético y Humano, asumiendo un título sin precedentes y decididamente ambiguo que fue creado específicamente para su trabajo sin precedentes, ambiguo, pero altamente específico: velar por que Salesforce mejore el mundo, no empeore.

"Creo que estamos en un momento de la industria en el que estamos en este punto de inflexión", me dice Goldman. “Creo que la industria de la tecnología estuvo aquí antes, con la seguridad en los años 80. De repente, aparecieron virus y gusanos, y era necesario que hubiera una forma completamente nueva de pensar y tratar con ellos. Y viste crecer una industria de la seguridad después de eso. Y ahora es solo un protocolo estándar. No enviaría un producto importante sin un equipo rojo o sin asegurarse de que incluye las garantías de seguridad adecuadas ".

"Creo que estamos en un momento similar con la ética", dice. “Requiere no solo tener un conjunto de herramientas para hacer el trabajo, sino también un conjunto de normas, que es importante. Entonces, ¿cómo escalas esas normas? "

Le pregunto cómo se deciden esas normas en primer lugar.

"En cierto sentido, es la cuestión de los mil millones de dólares", dice. “Todos estos problemas son extremadamente complicados, y hay muy pocos de ellos donde la respuesta es absolutamente clara. ¿Derecho? Mucho de esto se reduce a, ¿qué valores tiene más alto en su cálculo? "

···

A raíz del escándalo de Cambridge Analytica, las huelgas de empleados y otros incidentes políticos y de privacidad, las empresas tecnológicas se enfrentaron a una ola de llamadas a alquiler lo que los investigadores del Data & Society Research Institute llaman "Dueños de la ética", personas responsables de poner en práctica “los debates antiguos, irresolubles e irresolubles sobre los valores humanos que subyacen a la investigación ética” de manera práctica y demostrable.

Salesforce contrató a Goldman fuera de la Red Omidyar como culminación de un proceso de gestión de crisis de siete meses que se produjo después de que los empleados de Salesforce protestaron por la participación de la empresa en el trabajo de inmigración de la administración Trump. Otras empresas, respondiendo a sus respectivas crisis y preocupaciones, han contratado a un pequeño grupo de profesionales similares (filósofos, expertos en políticas, lingüistas y artistas) para asegurarse de que cuando prometen no ser malvados, tengan una idea coherente de lo que eso implica.

Entonces, ¿qué pasó?

Si bien algunas firmas de tecnología han tomado pasos concretos para insertar el pensamiento ético en sus procesos, Catherine Miller, directora ejecutiva interina de la consultora ética Doteveryone, dice que también ha habido muchas "vueltas alrededor" del tema.

Los críticos lo descartan como "Lavado de ética, ”La práctica de simplemente inclinarse en la dirección de los valores morales para evitar la regulación gubernamental y las críticas de los medios. El término pertenece al creciente léxico en torno a la ética de la tecnología, o "tethics", una abreviatura que comenzó como una sátira en el programa de televisión "Silicon Valley", pero que desde entonces se ha convertido en un uso ocasionalmente serio.

"Si no aplica esto en las prácticas reales y en sus estructuras de incentivos, si no tiene procesos de revisión, bueno, entonces, se convierte en un vaporware moral", dice Shannon Vallor, filósofa de la tecnología en el Markkula Center. de Ética Aplicada en la Universidad de Santa Clara. "Es algo que prometió y tenía la intención de cumplir, pero en realidad nunca llegó".

Google, infamemente, creó un Consejo de IA y luego, en abril del año pasado, disuelto después de empleados protestaron la inclusión de un defensor anti-LGBTQ. En la actualidad, el enfoque ético de Google incluye el uso de "Tarjetas modelo”Que pretenden explicar su IA.

“Eso no es nada que tenga dientes”, dice Michael Brent, especialista en ética de datos en Enigma y profesor de filosofía en la Universidad de Denver. "Es como, 'Aquí hay una tarjeta realmente hermosa'".

La empresa ha realizado esfuerzos más sustanciales: Vallor acaba de completar un período de servicio en Google, donde impartió seminarios de ética a ingenieros y ayudó a la empresa a implementar estructuras de gobierno para el desarrollo de productos. “Cuando hablo de ética en entornos organizacionales, la forma en que a menudo lo presento es que es el cuerpo de conocimiento moral y habilidad moral lo que ayuda a las personas y organizaciones a cumplir con sus responsabilidades para con los demás”, me dice Vallor.

Más de 100 empleados de Google tienen asistido capacitaciones de ética desarrolladas en el centro de Markkula. La compañía también desarrolló un módulo de equidad como parte de su curso intensivo de aprendizaje automático y actualizaciones su lista de "prácticas responsables de IA" trimestralmente. “La gran mayoría de las personas que componen estas empresas quieren crear productos que sean buenos para las personas”, dice Vallor. “Realmente no quieren romper la democracia, y realmente no quieren crear amenazas al bienestar humano, y realmente no quieren disminuir la alfabetización y la conciencia de la realidad en la sociedad. Quieren hacer cosas de las que estén orgullosos. Entonces, ¿voy a hacer lo que pueda para ayudarlos a lograrlo? Si."

···

El centro Markkula, donde trabaja Vallor, lleva el nombre de Mike Markkula Jr., el “desconocido"Cofundador de Apple que, en 1986, le dio al centro una subvención inicial inicial de la misma manera que le dio al joven Steve Jobs un préstamo inicial. Nunca quiso que su nombre estuviera en el edificio, eso fue una sorpresa, una muestra de gratitud, de la universidad.

Markkula se ha retirado a vivir una vida tranquila, trabajando desde su extensa finca cerrada en Woodside. En estos días, no tiene mucho contacto con la empresa que fundó, "solo cuando algo sale mal con mi computadora", me dice. Pero cuando llegó al campus de Santa Clara para una orientación con su hija a mediados de los 80, era el presidente de Apple y estaba preocupado por cómo iban las cosas en el Valle. “Para los dos, Linda [su esposa] y yo, estaba claro que había bastantes personas en puestos de toma de decisiones que simplemente no tenían la ética en su pantalla de radar”, dice. "No es que no fueran éticos, simplemente no tenían herramientas con las que trabajar".

Lea la historia completa aquí ...