La Corte Suprema sopesará los algoritmos secretos de inteligencia artificial del programa de software que enviaron al hombre a prisión

Youtube
¡Por favor comparta esta historia!

Cuando el presidente del Tribunal Supremo, John G. Roberts Jr., visitó el Instituto Politécnico Rensselaer el mes pasado, le hicieron una pregunta sorprendente, uno con connotaciones de ciencia ficción.

"¿Se puede prever un día", preguntó Shirley Ann Jackson, presidente de la universidad en el norte del estado de Nueva York, "cuando las máquinas inteligentes, impulsadas con inteligencias artificiales, ayudarán con la determinación de los hechos en la corte o, más controvertidamente, la toma de decisiones judiciales".

La respuesta del presidente de la justicia fue más sorprendente que la pregunta. "Es un día que está aquí", dijo, "y está poniendo una presión significativa sobre cómo el poder judicial hace las cosas".

Puede haber estado pensando en el caso de un hombre de Wisconsin, Eric L. Loomis, quien fue sentenciado a seis años de prisión basado en parte en el software propietario de una empresa privada. El Sr. Loomis dice que su derecho al debido proceso fue violado por la consideración de un juez de un informe generado por el algoritmo secreto del software, uno que el Sr. Loomis no pudo inspeccionar ni cuestionar.

En marzo, en una señal de que los jueces estaban intrigados por el caso del Sr. Loomis, le pidieron al gobierno federal presentar un escrito de amigo de la corte ofreciendo sus puntos de vista sobre si el tribunal debería escuchar su apelación.

El informe en el caso del Sr. Loomis fue producido por un producto llamado Compas, vendido por Northpointe Inc. Incluía una serie de gráficos de barras que evaluaban el riesgo de que el Sr. Loomis cometiera más delitos.

El informe de Compas, un fiscal le dijo al juez de primera instancia, mostró "un alto riesgo de violencia, alto riesgo de reincidencia, alto riesgo previo al juicio". El juez estuvo de acuerdo y le dijo al Sr. Loomis que "está identificado, a través de la evaluación de Compas, como un individuo que representa un alto riesgo para la comunidad ".

El Tribunal Supremo de Wisconsin falló contra el señor Loomis. El informe agregó información valiosa, dijo, y Loomis habría recibido la misma sentencia basándose únicamente en los factores habituales, incluido su crimen, huir de la policía en un automóvil, y su historial criminal.

Al mismo tiempo, el tribunal parecía incómodo con el uso de un algoritmo secreto para enviar a un hombre a prisión. Juez Ann Walsh Bradley, escribiendo para la corte, discutido, por ejemplo, un informe de ProPublica sobre Compas que Concluido que los acusados ​​negros en el condado de Broward, Florida, "tenían muchas más probabilidades de ser juzgados incorrectamente que los acusados ​​blancos con una tasa de reincidencia más alta".

El juez Bradley señaló que Northpointe tenía disputó el análisis. Aún así, escribió, "este estudio y otros plantean preocupaciones sobre cómo los factores de riesgo de una evaluación de Compas se correlacionan con la raza".

Al final, sin embargo, el juez Bradley permitió que los jueces sentenciadores usaran Compas. Deben tener en cuenta las limitaciones del algoritmo y el secreto que lo rodea, escribió, pero dijo que el software podría ser útil "para proporcionar al tribunal de sentencia la mayor cantidad de información posible para llegar a una sentencia individualizada".

El juez Bradley hizo que el papel de Compas en la sentencia pareciera la consideración de raza en el programa holístico de admisión de una universidad selectiva. Podría ser un factor entre muchos, escribió, pero no el determinante.

Lea la historia completa aquí ...

Suscríbete
Notificar de
invitado

1 Comentario
Más antiguo
Más Nuevos Más votados
Comentarios en línea
Ver todos los comentarios
Paul Godden

La serie de televisión 1980 de Blake de los años 7 tenía una pequeña caja que juzgaba a Blake y sus amigos y los enviaba a la colonia penal de Júpiter. Creo que es en el primer episodio de Blake's 7 donde están en la corte.