Debido a que el hombre es imperfecto, se deduce que todo lo que el hombre crea es imperfecto también, incluidos los programas de computadora que están destinados a ejecutar todo en nuestras vidas. Además, la ley de la entropía sugiere que cualquier cosa que el hombre cree será más imperfecta que el creador. Confiar nuestras vidas y fortunas en algoritmos secretos es una tontería y un peligro. ⁃ TN Editor
En 1603, Funcionarios ingleses arrestaron a Sir Walter Raleigh. Lo acusaron de traición. Supuestamente estuvo involucrado en un complot para derrocar y matar al nuevo Rey, James I.
En su juicio, los fiscales ingresaron solo una pieza de evidencia. Fue una carta de confesión escrita por el hombre que supuestamente planeó el complot.Señor Cobham. La carta llamada Raleigh a conspirador.
Sir Walter Raleigh dijo que la confesión por sí sola no era confiable. Si pudiera traer Cobham para testificar en la corte, al menos tendría la oportunidad de interrogar al único testigo en su contra.
Pero los tribunales ingleses en el el tiempo no estaba particularmente interesado en el debido proceso. Condenaron a Raleigh ingeniohout permitiéndole confrontar o examinar al testigo.
Fue encarcelado y finalmente ejecutado.
Avance rápido a ESTADOS UNIDOS, 2017 Un hombre enfrenta cargos de asesinato. Y el principal testigo en su contra es un algoritmo informático.
El algoritmo análisis muestras complejas de ADN. Eso decideif el ADN del acusado está presente en una muestra.
Naturalmente, una el acusado quiere saber cómo funciona exactamente el algoritmo.
Y el tiene Buena razón para preguntarse. Su la condena anterior por el mismo asesinato se había basado en un diferentes máquinas de prueba de ADN.
Pero scientistas luego decidió el algoritmo no estaba del todo bien. TLa evidencia que lo condenó cambió de positivo a inconcluso.
¡Había estado sentado en la prisión, condenado por asesinato, basado en un algoritmo defectuoso!
Entonces, en el nuevo juicio, la defensa pregunta a examinar tEl nuevo algoritmo de la máquina.Pero la empresa que diseñado elel algoritmo no le gusta esa idea.
La aEl algoritmo es un secreto comercial. Fue costoso desarrollar, uny no quieren que se revele ese secreto.
ESTAMOS alga vivain La edad de los algoritmos.
Un algoritmo elige qué música escuchar. Y Spotify hace un muy buen trabajo ... A Algoritmo defectuoso podría obligarlo a escuchar una canción gospel en lugar de rap de gángsters. No es el mayor negocio ...
Pero, ¿qué sucede cuando un algoritmo para un auto sin conductor tiene que decidir entre golpear a un grupo o peatones, o hundiéndose, y te lleve-¿de un precipicio?
El algoritmo se convierte en una cuestión de vida o muerte.
Antes de subirse a un auto sin conductor, usted'll Quiero saber un poco sobre el algoritmo.
¿Qué tipo de decisiones en una fracción de segundo ha sido programado para tomar?
¿Qué entradas de datos se consideran?
Y who exactamente escribió el algoritmo? Recuerda, algoritmos auntener un componente humanot. Y los humanos son inherentemente sesgados. Sus opiniones subjetivas inevitablemente entrarán en el algoritmo.
Cuando un algoritmo condena al acusado en un juicio por asesinato ... eso también es Vida o muerte.
Algunos servicios de protección infantil usan un algoritmo para decidir a qué niños tomar. El algoritmo asigna un puntuación de riesgobasado en aportes como cuántas llamadas ha recibido el departamento y si los padres son hostiles hacia los trabajadores sociales.
Otros los tribunales ya usan un algoritmo para resolver las reincidenciasm riesgo: si es probable que un delincuente vuelva a ofender. Cuanto mayor es el riesgo, más larga es la oración..
Si fumé un porro o me peleé en la escuela secundaria, ¿tengo 40% más probabilidades de cometera ¿crimen?
Will ser asumido culpable basado en probabilidades solo? ¿Cómo puedo estar seguro de que el algoritmo no está sesgado?
Cuándo ProPublica analizaron los reincidencia algoritmo, encontraron que fue sesgado racialmente
Consultoría de riesgos y auditoría algorítmica de O'Neil es otra organización que analiza qué tan justos son los algoritmos utilizados por el sistema de justicia. Pero admiten que incluso las auditorías son subjetivas hasta cierto punto.
Es bastante aterrador que los algoritmos controlen el sistema de justicia penal. Due proceso podría ser reemplazado por procesadores de computadora.
Pero los algoritmos no son necesariamente algo malo. Pueden analizar conjuntos de datos vastos y complejos. Se necesita mucho trabajo para construir un buen algoritmo. Tú puede entender por qué una empresa quieress proteger sus secretos.
wpDiscuz