Después de años de controversia y debate, la herramienta Veripol, diseñada para detectar denuncias falsas de robo con violencia, ha llegado a su fin. La Policía Nacional anunció su desactivación en octubre de 2024, seis años después de su lanzamiento. Aunque inicialmente fue aclamada como una solución innovadora capaz de identificar con más de un 90% de precisión las denuncias fraudulentas, el Ministerio del Interior ha decidido poner término a su uso, citando su falta de validez en procedimientos judiciales como principal motivo para esta decisión.
Veripol, creada por investigadores de las universidades Complutense y Carlos III junto a expertos del cuerpo policial, comenzó como una promesa para optimizar el tratamiento de las denuncias de robo. Las cifras iniciales eran prometedoras; en una prueba piloto realizada en 2017 en varias comisarías de Málaga y Murcia, el 83,54% de las denuncias identificadas como falsas por Veripol fueron admitidas como tal por los propios denunciantes. Sin embargo, las críticas no tardaron en surgir. Un informe de la Universidad de Valencia destapó serias deficiencias en la herramienta, cuestionando la base de datos insuficiente usada para su entrenamiento y la falta de transparencia en su funcionamiento.
Las críticas arrojaron luz sobre una visión más amplia del uso de inteligencia artificial en el ámbito legal. Según este estudio, Veripol había analizado alrededor de 84,000 denuncias desde su implementación hasta 2020, pero su efectividad se volvió cuestionable a medida que se profundizaba en su metodología. La afirmación de que el 57% de las denuncias de robo con violencia eran falsas se basaba en datos discutibles y no en un muestreo representativo de la realidad española.
En un entorno donde la transparencia es crucial, la decisión de desactivar Veripol se alinea con el reciente Reglamento europeo sobre inteligencia artificial, que incluye a los sistemas de detección de fraudes dentro de las categorías de «alto riesgo». Este reglamento exige, entre otras cosas, un mayor control y rendición de cuentas sobre el uso de tecnologías de este tipo. La falta de regulación y la insuficiencia en los protocolos de formación para los agentes han sido puntos de inflexión que llevaron a las autoridades a replantearse el papel de Veripol en el sistema judicial.
A medida que la polémica se apodera del debate público, expertos en tecnología y derechos humanos han implorado por un enfoque más equilibrado en la implementación de soluciones tecnológicas en el ámbito policial. La desactivación de Veripol podría ser vista como un paso atrás, pero, por otro lado, marca un avance en el reconocimiento de la necesidad de un marco más sólido que proteja los derechos de los ciudadanos y asegure la efectividad de las herramientas empleadas por las fuerzas de seguridad. La era de la inteligencia artificial en la justicia penal puede estar en sus primeras etapas, pero la experiencia acumulada con Veripol servirá como lección crucial para el futuro.
La desactivación de Veripol no solo representa el fin de una herramienta, sino que también refleja el dilema arraigado en el uso de la inteligencia artificial en procesos judiciales. A pesar de su prometedor inicio y su capacidad para detectar con más de un 90% de precisión denuncias fraudulentas, los cuestionamientos sobre su validez y la reprochada falta de transparencia han generado un debate necesario en un campo donde cada decisión puede afectar drásticamente la vida de las personas. La crítica expuesta por un informe de la Universidad de Valencia pone de relieve lo que muchos sospechábamos: un sistema que, aunque innovador en su concepción, careció de una base sólida y representativa para funcionar adecuadamente. La búsqueda de verdad en este contexto se convierte en un desafío alarmante, ya que una mala aplicación de la tecnología podría perpetuar errores judiciales y violaciones de derechos fundamentales.
No obstante, la desactivación de Veripol debería ser entendida como una oportunidad, y no como un retroceso. La realidad es que los sistemas basados en inteligencia artificial tienen el potencial de transformar el panorama judicial, pero su integración debe ir acompañada de un marco ético y regulador robusto. La decisión del Ministerio del Interior de poner fin a este proyecto, en el marco del nuevo Reglamento europeo sobre inteligencia artificial, subraya la urgencia de implementar políticas que aseguren la rendición de cuentas y la protección de derechos. Aun cuando el camino hacia un uso ético y eficiente de la IA en el ámbito legal es complejo, este episodio nos brinda una valiosa lección: la innovación no puede ser un sustituto de la justicia, y cualquier herramienta diseñada para servir a este fin debe ser profundamente humanizada y cuidadosamente supervisada.
Compartir en...
Completa el formulario o escríbenos a [email protected] y nos pondremos en contacto contigo tan pronto como sea posible.
