Se trata de un algorítmico que calcula la probabilidad de que una persona, en especial mujeres y niños, sean víctimas de violencia.

El Sistema de Seguimiento Integral de Casos de Violencia de Género (de allí la denominación VioGén) fue elogiado por propios y ajenos como el mejor en su especie, aunque un informe independiente cuestionó su fiabilidad. ¿Un sistema automatizado es capaz de entregar datos fidedignos en un ámbito tan sensible como aquel? Amén de su carente humanidad, ¿es certera la información que recoge de víctimas en estado de conmoción?

Si bien VioGén trabaja en España hace aproximadamente 15 años, hasta ahora las bases de su funcionamiento no habían sido enseñadas al público general. Pero tras el mencionado reporte elaborado por la Fundación Éticas (una organización independiente de las autoridades), medios de prensa locales fueron invitados a conocer las entrañas del algoritmo.

5 datos sobre VioGén

-Funciona en España desde 2007; desde entonces realizó más de 3 millones de evaluaciones.
-Detrás del sistema hay un equipo compuesto por 22 personas dedicadas a la gestión y monitorización del programa.
-Sus exámenes se basan en declaraciones y cuestionarios a las denunciantes, y además en información del agresor; una nueva versión de algoritmo prevé cruzar datos de ministerios, incluyendo los de Justicia y Sanidad.
-El programa fue diseñado por Antonio Andrés Pueyo, profesor de psicología en la Universitat de Barcelona, junto con otros expertos de ese mismo ámbito y en criminología.
-Si bien las valoraciones humanas influyen en el sistema, los cálculos de riesgos se realizan con una función matemática que se ejecuta sin intervención.

Luego de que una mujer presenta una denuncia de violencia de género, debe completar un cuestionario con preguntas específicas. Según explica El País de España, uno de los medios que participó de la demostración de VioGén, las respuestas son examinadas posteriormente por el sistema y en base a ellas arroja una calificación de riesgo. Cuando la misma es alta se activan medidas de protección, por ejemplo la presencia policial en la puerta del domicilio de la denunciante.

Una nueva versión del algoritmo prevé cruzar datos que ya usa, como los del Ministerio del Interior, con los de Justicia y Sanidad. El objetivo es afinar las valoraciones y, en consecuencia, las acciones de prevención.

Un sistema valorado y también criticado

Los sistemas de inteligencia artificial son empleados en múltiples áreas. Desde la recopilación de datos hasta la detección de prófugos con reconocimiento facial, en tratamientos de rehabilitación y otras aplicaciones en salud, para tareas creativas como la escritura automática de textos, en la búsqueda de nuevos empleados, y para la destreza de los bots de atención al público, entre muchas otras. Los cuestionamientos se intensifican en ámbitos sensibles, como aquel en el que se mueve VioGén.

Si bien el Gobierno español elogia los avances del software, igual que algunos especialistas independientes, la eficiencia y las mejoras del algoritmo recaen en el conocimiento humano. No podemos culpar a la máquina. En ese orden, se torna necesario que los técnicos involucrados reciban mejor formación y aplican más sensibilidad en relación a la violencia machista.