La pre-delincuencia se lleva a un nuevo extremo para eliminar las situaciones de abuso infantil, pero para lograrlo, millones de ciudadanos sufrirán abuso de privacidad y muchos falsos positivos también serán abusados injustamente. ¿Se trata de cambiar un tipo de abuso por otro? De hecho, los tecnócratas han creado una tormenta de fuego ética. ⁃ Editor TN
En una era de austeridad y un clima de miedo al abuso infantil, tal vez no sea sorprendente que los trabajadores sociales hayan recurrido a las nuevas tecnologías en busca de ayuda.
¿Podría un programa de computadora señalar a una familia problemática, identificar a una víctima potencial y evitar otro Baby P o Victoria Climbié?
Hace años, tales preguntas habrían sido materia de ciencia ficción; ahora son la materia del hecho científico.
Bristol es un lugar para experimentar con estas nuevas capacidades y lidiar con las preguntas morales y éticas que vienen con ellas.
Gary Davies, quien supervisa el sistema predictivo del consejo, puede ver las ventajas.
Argumenta que no significa sacar a los humanos del proceso de toma de decisiones; más bien significa usar datos para evitar que los humanos cometan errores.
"No está diciendo que serás explotado sexualmente, o que desaparecerás", dice Davies. “Está demostrando las características de comportamiento de ser explotado o desaparecer. Está marcando ese riesgo y vulnerabilidad ".
Dichas técnicas han funcionado en otras áreas durante años. Los sistemas de aprendizaje automático creados para extraer grandes cantidades de datos personales se han utilizado durante mucho tiempo para predecir el comportamiento del cliente en el sector privado.
Los programas de computadora evalúan la probabilidad de incumplimiento de un préstamo o el riesgo que representamos para un proveedor de seguros.
Los diseñadores de un modelo predictivo deben identificar una "variable de resultado", que indica la presencia del factor que están tratando de predecir.
Para la protección infantil, podría tratarse de un niño que ingresa al sistema de atención.
Luego intentan identificar las características que se encuentran comúnmente en los niños que ingresan al sistema de atención. Una vez que se han identificado, el modelo se puede ejecutar en grandes conjuntos de datos para encontrar otras personas que compartan las mismas características.
The Guardian obtuvo detalles de todos los indicadores predictivos considerados para su inclusión en el sistema de protección infantil del consejo de Thurrock. Incluyen antecedentes de abuso doméstico, delincuencia juvenil y absentismo escolar.
Inicialmente se consideraron indicadores más sorprendentes, como los atrasos en el alquiler y los datos de salud, pero se excluyeron del modelo final. En el caso de Thurrock, un consejo en Essex, y el distrito londinense de Hackney, las familias pueden ser señaladas a los trabajadores sociales como posibles candidatos para el programa de familias con problemas. A través de este esquema, los consejos reciben subvenciones del gobierno central para ayudar a los hogares con dificultades a largo plazo, como el desempleo.
Tales sistemas inevitablemente plantean problemas de privacidad. Wajid Shafiq, director ejecutivo de Xantura, la compañía que proporciona trabajo de análisis predictivo tanto a Thurrock como a Hackney, insiste en que hay un equilibrio entre los derechos de privacidad y el uso de la tecnología para entregar un bien público.
wpDiscuz