En las semanas posteriores a las elecciones presidenciales de Estados Unidos, el CEO de Facebook, Mark Zuckerberg, ha estado luchando contra incendios. No literalmente, sino figurativamente. Las acusaciones generalizadas afirman que su compañía de medios sociales contribuyó al resultado inesperado de las elecciones al propagar noticias falsas y "burbujas de filtro". Zuckerberg ha refutado con dureza estas acusaciones, pero el caso plantea una pregunta espinosa: ¿cómo nos aseguramos de que la tecnología funcione para la sociedad?
Está surgiendo una Cuarta Revolución Industrial que planteará preguntas éticas difíciles con pocas respuestas simples en blanco y negro. Sensores más pequeños, más potentes y más baratos; avances informáticos cognitivos en inteligencia artificial, robótica, análisis predictivo y aprendizaje automático; nano, neuro y biotecnología; Internet de las cosas; Impresión 3D; y mucho más, ya están exigiendo respuestas reales realmente rápido. Y esto solo se volverá más difícil y complejo cuando incorporemos estos nueva tecnologías en nuestros cuerpos y cerebros para mejorar nuestro funcionamiento físico y cognitivo.
Tome la decisión que la sociedad pronto tendrá que tomar sobre los autos autónomos como ejemplo. Si no se puede evitar un choque, ¿se debe programar un automóvil para minimizar las bajas de los espectadores, incluso si daña a los ocupantes del automóvil, o el automóvil debe proteger a sus ocupantes bajo ninguna circunstancia?
La investigación demuestra que el público está en conflicto. Los consumidores preferirían minimizar el número total de víctimas en un accidente automovilístico, pero no están dispuestos a comprar un auto sin conductor si no es autoprotector. Por supuesto, la opción ideal es que las empresas desarrollen algoritmos que eviten esta posibilidad por completo, pero esto no siempre es una opción. Sin embargo, lo que está claro es que tales dilemas éticos deben conciliarse antes de que cualquier consumidor entregue sus claves a algoritmos de agujeros oscuros.
Con tantos interesados diferentes involucrados, ¿cómo aseguramos un modelo de gobernanza que haga que la tecnología funcione para la sociedad?