Ya se ha demostrado que los algoritmos de IA exhiben los prejuicios de sus creadores, entonces, ¿por qué no intenciones asesinas también? Los tecnócratas están tan absortos con sus inventos de Pollyanna que no pueden ver el final lógico de su existencia. ⁃ TN Editor
Un robot robot asesino llegará a ser tan avanzado que podrían desarrollar su propio código moral para desafiar violentamente las órdenes, afirma un experto en inteligencia artificial.
El ex ingeniero cibernético Dr. Ian Pearson predice que nos estamos desviando hacia un futuro de máquinas conscientes.
Pero si los poderes militares empujan a los robots a la acción, el futurólogo advierte que serán capaces de evocar su propio "punto de vista moral".
Y si lo hacen, el ex científico de cohetes afirma que pueden volverse contra las mismas personas que los envían a la batalla.
El Dr. Pearson, que bloguea para Futurizon, dijo a Daily Star Online: “A medida que la IA continúa desarrollándose y nos dirigimos hacia el camino hacia la conciencia, no será una cosa de la noche a la mañana, pero gradualmente estamos haciendo más computadoras y más sofisticado: en algún momento les estás dando acceso a la educación moral para que puedan aprender la moral ellos mismos.
“Puedes darles capacidades de razonamiento y es posible que se les ocurra un código moral diferente, lo que los coloca en un pedestal más alto que los humanos a los que se supone que sirven.
Cuando se le preguntó si esto podría resultar fatal, respondió: “Sí, por supuesto.
“Si tienen el control de las armas y deciden que son un ser moral superior a los humanos que se supone que deben proteger, podrían tomar decisiones de que ciertas personas deberían ser asesinadas para proteger a la población en general.
“¿Quién sabe qué decisiones pueden tomar?
“Si tienes a un tipo en un campo de batalla, diciéndoles a los soldados que disparen a este grupo de personas, por cualquier motivo, pero la computadora piensa lo contrario, la computadora no está convencida de eso, podría concluir que el soldado que da las órdenes es el peor infractor. que la gente que está tratando de matar, por lo que podría darse la vuelta y matarlo a él.
"Es completamente posible, depende de cómo estén escritos los sistemas".
La advertencia del Dr. Pearson se produce en medio de la creciente preocupación por el uso de robots totalmente autónomos en la guerra.
Idiota. ¿Alguno de estos idiotas de la computadora alguna vez piensa en lo que está diciendo? Me refiero a pensar más allá de la punta de sus narices.
El dicho, "profesando ser sabios, se volvieron tontos ..." tiene mucha relevancia aquí.