Cuando la complejidad de la IA excede la capacidad del hombre para comprender cómo funciona, entonces las consecuencias de su uso tampoco se pueden entender. Los tecnócratas crean porque pueden, con poca consideración a la seguridad o las consecuencias. Llegará el momento de desconectar el enchufe, restableciendo todo el sistema a control humano. ⁃ TN Editor
La inteligencia artificial reestructurará el mundo de las finanzas durante la próxima década más o menos mediante la automatización de la inversión y otros servicios, pero también podría introducir debilidades y riesgos sistemáticos preocupantes, según un nuevo informe del Foro Económico Mundial (WEF).
Compilado a través de entrevistas con docenas de expertos financieros líderes y líderes de la industria, el informe concluye que la inteligencia artificial interrumpirá la industria al permitir que los primeros usuarios superen a los competidores. También sugiere que la tecnología creará productos más convenientes para los consumidores, como herramientas sofisticadas para administrar las finanzas e inversiones personales.
Pero lo más notable es que el informe señala el potencial de las grandes instituciones financieras para construir servicios basados en aprendizaje automático que viven en la nube y a los que otras instituciones acceden.
"La dinámica del aprendizaje automático crea un fuerte incentivo para conectar en red la oficina administrativa", dice el autor principal del informe, Jesse McWaters, quien lidera el Proyecto de IA en Servicios Financieros en el Foro Económico Mundial. "Un mundo más conectado en red es más vulnerable a los riesgos de ciberseguridad, y también crea riesgos de concentración".
En otras palabras, los sistemas financieros que incorporan el aprendizaje automático y son accedidos a través de la nube por muchas instituciones diferentes podrían presentar un objetivo jugoso para los piratas informáticos y un punto único de falla sistémica.
Wall Street ya está adoptando rápidamente el aprendizaje automático, la tecnología en el centro del auge de la inteligencia artificial. Las empresas financieras generalmente tienen muchos datos y muchos incentivos para innovar. Los fondos de cobertura y los bancos están contratando investigadores de IA tan rápido como pueden, y la industria financiera está experimentando con la automatización del back-office a lo grande. La automatización del comercio de alta frecuencia ya ha creado riesgos sistémicos, como lo destacan varios eventos comerciales desbocadoso "choques repentinos," en años recientes.
Andrew Lo, profesor de la Sloan School of Management del MIT, investiga el tema del riesgo sistémico en el sistema financiero, y él ha advertido previamente que el sistema en su conjunto puede ser vulnerable debido a su gran complejidad.
wpDiscuz
[…] Foro Económico Mundial: La inteligencia artificial podría causar el colapso del sistema financiero mundial (technocracy.news) […]