Actualización: Google cancela el panel de ética de AI después de un alboroto

Wikimedia Commons
¡Por favor comparta esta historia!
image_pdfimage_print
El panel de ética de Google fue invadido por miles de no participantes (¿poco éticos?) Que atacaron a miembros individuales de su panel de ética. El resultado fue un caos total, renuncias y finalmente, cancelar todo. Big Tech y la ética se acercan al estado oxímoron. ⁃ TN Editor

Esta semana, Vox y otros puntos de venta. informó que la nueva junta de ética de IA de Google se estaba desmoronando en medio de la controversia sobre varios de los miembros de la junta.

Bueno, oficialmente se ha desmoronado: se ha cancelado. Google le dijo a Vox el jueves que está desconectando el tablero de ética.

La junta sobrevivió por poco más de una semana. Fundada para guiar el "desarrollo responsable de la IA" en Google, habría tenido ocho miembros y se reunió cuatro veces en el transcurso de 2019 para considerar las preocupaciones sobre el programa de IA de Google. Esas preocupaciones incluyen cómo la IA puede habilitar estados autoritarios, cómo los algoritmos de IA producen resultados dispares, si funcionan en aplicaciones militares de IA, y más. Pero se topó con problemas desde el principio.

Miles de empleados de Google firmaron un petición pidiendo la remoción de un miembro de la junta, la presidente de la Fundación Heritage, Kay Coles James, por sus comentarios sobre las personas trans y el escepticismo del cambio climático de su organización. Mientras tanto, la inclusión del CEO de la compañía de drones Dyan Gibbens reabrió viejas divisiones en la compañía sobre el uso de la IA de la compañía para aplicaciones militares.

Miembro de la junta Alessandro Acquisti resignado. Otra miembro, Joanna Bryson, defendiendo su decisión de no renunciar, reclamado de James, "Lo creas o no, sé peor sobre una de las otras personas". Otros miembros de la junta se encontraron abrumado con demandas de que justifiquen su decisión de permanecer en el tablero.

El jueves por la tarde, un portavoz de Google le dijo a Vox que la compañía había decidido disolver el panel, llamado Consejo Asesor Externo de Tecnología Avanzada (ATEAC), por completo. Aquí está la declaración completa de la compañía:

Está claro que en el entorno actual, ATEAC no puede funcionar como quisiéramos. Así que estamos terminando el consejo y volviendo a la mesa de dibujo. Seguiremos siendo responsables en nuestro trabajo sobre los asuntos importantes que plantea la IA, y encontraremos diferentes formas de obtener opiniones externas sobre estos temas.

Se suponía que el panel agregaría perspectivas externas al trabajo de ética de IA en curso por parte de ingenieros de Google, todo lo cual continuará. Afortunadamente, la cancelación de la junta no representa un retiro del trabajo de ética de IA de Google, sino una oportunidad de considerar cómo involucrar de manera más constructiva a las partes interesadas externas.

La junta se estaba convirtiendo en una gran responsabilidad para Google

La credibilidad de la junta se vio afectada por primera vez cuando Alessandro Acquisti, un investigador de privacidad, anunció en Twitter que estaba renunciando, argumentando: "Si bien me dedico a investigar sobre cuestiones éticas clave de equidad, derechos e inclusión en la IA, no creo que este sea el foro adecuado para participar en este importante trabajo".

Mientras tanto, el petición para eliminar a Kay Coles James Hasta el momento ha atraído más de 2,300 firmas de los empleados de Google y no mostró signos de perder fuerza.

A medida que se intensificó la ira sobre la junta, los miembros de la junta se vieron envueltos en largos debates éticos sobre por qué estaban en la junta, que no pudo haber sido lo que Google esperaba. En Facebook, el miembro de la junta Luciano Floridi, filósofo de la ética en Oxford, reflexionó:

Pedir el consejo de [Kay Coles James] fue un grave error y envía un mensaje equivocado sobre la naturaleza y los objetivos de todo el proyecto ATEAC. Desde una perspectiva ética, Google ha juzgado mal lo que significa tener opiniones representativas en un contexto más amplio. Si la señora Coles James no renuncia, como espero que sí, y si Google no la elimina (https://medium.com/…/googlers-against-transphobia-and-hate-…), como he recomendado personalmente, la pregunta es: ¿cuál es la postura moral correcta para tener en cuenta este grave error?

Terminó decidiendo permanecer en el panel, pero ese no era el tipo de debate ético que Google había esperado despertar, y se hizo difícil imaginar que ambos trabajaran juntos.

Ese no fue el único problema. yo discutió hace un día aparte de la indignación, la junta no estaba bien preparada para el éxito. Los consejos de ética de la inteligencia artificial como Google, que están de moda en Silicon Valley, en gran medida no parecen estar equipados para resolver, o incluso avanzar, en preguntas difíciles sobre el progreso ético de la inteligencia artificial.

Un papel en el tablero de inteligencia artificial de Google fue una posición no remunerada y sin dientes que no puede, en cuatro reuniones en el transcurso de un año, llegar a una comprensión clara de todo lo que Google está haciendo, y mucho menos ofrecer una guía matizada al respecto. Hay preguntas éticas urgentes sobre el trabajo de IA que está haciendo Google, y no hay una vía real por la cual la junta pueda abordarlas satisfactoriamente. Desde el principio, fue mal diseñado para el objetivo.

Ahora ha sido cancelado.

Lea la historia completa aquí ...

¡Únete a nuestra lista de correos!


Suscríbete
Notificar de
invitado
0 Comentarios
Comentarios en línea
Ver todos los comentarios