Los tecnócratas que construyen solo porque pueden, en última instancia, crean muchos más problemas de los que resuelven en primer lugar. El aumento de la complejidad da como resultado invariablemente una "sobrecarga del sistema" en la que todo se sale de control. ⁃ TN Editor
Lo que diferencia a los humanos de las máquinas es la velocidad a la que podemos aprender de nuestro entorno.
Pero los científicos han entrenado con éxito computadoras para usar la inteligencia artificial para aprender de la experiencia, y un día podrían ser más inteligentes que sus creadores.
Ahora los científicos han admitido que ya están desconcertados por los cerebros mecánicos que han construido, lo que aumenta la posibilidad de que podamos perder el control de ellos por completo.
Las computadoras ya están realizando hazañas increíbles, como conducir automóviles y predecir enfermedades, pero sus creadores dicen que no tienen el control total de sus creaciones.
Esto podría tener consecuencias catastróficas para la civilización, advirtieron expertos en tecnología.
Tome el extraño auto sin conductor que apareció en las calles de Nueva Jersey, EE. UU., El año pasado.
Se diferenciaba de los vehículos autónomos de Google, Tesla o Uber, que siguen las reglas establecidas por los desarrolladores de tecnología para reaccionar ante los escenarios mientras están en la carretera.
Este automóvil podría tomar sus propias decisiones después de ver cómo los humanos aprendían a conducir.
Y sus creadores, investigadores de la empresa de fabricación de chips Nvidia (que suministra chips de supercomputadora a algunos de los fabricantes de automóviles más importantes), dijeron que no estaban 100% seguros de cómo lo hizo. MIT Technology Review informó.
Su mente misteriosa podría ser un signo de tiempos oscuros por venir, temen los escépticos.
La tecnología subyacente del automóvil, denominada "aprendizaje profundo", es una herramienta poderosa para resolver problemas.
Nos ayuda a etiquetar a nuestros amigos en Facebook, brinda asistencia en nuestros teléfonos inteligentes usando Siri, Cortana o Google.
El aprendizaje profundo ha ayudado a que las computadoras reconozcan objetos mejor que las personas.
El ejército está invirtiendo millones en la tecnología para que pueda usarse para dirigir barcos, controlar drones y destruir objetivos.
Y hay esperanza de que pueda diagnosticar enfermedades mortales, hacer que los comerciantes sean multimillonarios al leer el mercado de valores y transformar totalmente el mundo en que vivimos.
Pero si no nos aseguramos de que los creadores tengan una comprensión completa de cómo funciona, estamos en serios problemas, afirman los científicos.
Si no pueden averiguar cómo funcionan los algoritmos (las fórmulas que mantienen a las computadoras realizando las tareas que les pedimos), no podrán predecir cuándo fallarán.
Tommi Jaakkola, profesor del MIT que trabaja en aplicaciones de aprendizaje automático, advierte: "Si tuviera una red neuronal muy pequeña [algoritmo de aprendizaje profundo], podría comprenderlo".
"Pero una vez que se vuelve muy grande, y tiene miles de unidades por capa y tal vez cientos de capas, entonces se vuelve bastante incomprensible".
Eso significa que un automóvil sin conductor, como el de Nvidia, podría volar de cabeza contra un árbol y no tendríamos idea de por qué decidió hacerlo.
