La Policía Nacional ha optado por detener el empleo de Veripol, un sistema de inteligencia artificial (IA) creado para identificar denuncias falsas de robos con agresión. Esta IA fue lanzada en 2018, siendo la pionera de su clase a nivel global, con una exactitud superior al 90%. No obstante, su uso se suspendió en octubre de 2024, ya que no lograba cumplir con los estándares requeridos para su utilización en procesos legales, según informaron las fuentes del Ministerio del Interior.
La creación de Veripol fue el resultado de la colaboración entre investigadores de las universidades Complutense y Carlos III, junto con el agente de policía Miguel Camacho-Collados. El algoritmo fue capacitado utilizando 1.122 denuncias de robo presentadas en España, de las cuales 534 eran verdaderas y 588 resultaron ser falsas. Estas denuncias fueron analizadas a través de técnicas de procesamiento de lenguaje natural (NLP) para detectar patrones comunes en los relatos inventados. De esta manera, se identificó que ciertos términos y expresiones, como «abogado», «seguro» o «espalda», estaban más frecuentemente relacionados con las denuncias no verídicas.
El desarrollo de Veripol fue fruto del trabajo conjunto de investigadores de las universidades Complutense y Carlos III, en colaboración con el agente de policía Miguel Camacho-Collados. Para entrenar el algoritmo, se utilizaron 1.122 denuncias de robo en España, de las cuales 534 eran auténticas y 588 eran falsas. Los textos de estas denuncias fueron procesados mediante técnicas de procesamiento de lenguaje natural (NLP) para identificar patrones comunes en los relatos falsos. Así, se determinó que ciertos términos y expresiones, como «abogado», «seguro» o «espalda», estaban más asociados a las denuncias falsas.
Uno de los aspectos más controvertidos resaltados por los críticos es la falta de claridad sobre el funcionamiento interno de Veripol. Aunque el sistema se desplegó en múltiples comisarías, no se ha divulgado información oficial sobre la cantidad de casos analizados ni sobre el proceso de entrenamiento de la IA. Asimismo, los informes indican que los agentes que manejaban la herramienta no siempre contaban con la capacitación adecuada para su correcta utilización.
Uno de los puntos más problemáticos señalados por los críticos es la falta de transparencia en cuanto al funcionamiento interno de Veripol. Aunque el sistema se implementó en varias comisarías, no se han publicado datos oficiales sobre el número de casos procesados ni sobre cómo se entrenó la IA. Además, los informes apuntan que los agentes que utilizaban la herramienta no siempre recibían la formación adecuada para hacerlo correctamente.
El debate sobre la aplicación de inteligencia artificial en el sistema judicial se intensificó en 2024 con la implementación del Reglamento Europeo sobre Inteligencia Artificial. Este reglamento clasifica a las tecnologías de IA como de «alto riesgo» y establece demandas más rigurosas en términos de fiabilidad y transparencia. Los inconvenientes encontrados con Veripol ilustran cómo estas herramientas, en su desarrollo y uso, deben ser objeto de un riguroso escrutinio. Esto es esencial no solo para garantizar su efectividad, sino también para prevenir violaciones de derechos y errores en el ámbito judicial.
El debate sobre el uso de la inteligencia artificial en el ámbito judicial se intensificó en 2024 con la entrada en vigor del Reglamento Europeo sobre Inteligencia Artificial, que clasifica las tecnologías de IA como de «alto riesgo» y establece exigencias más estrictas en cuanto a su fiabilidad y transparencia. Los problemas de Veripol son un claro ejemplo de cómo, en su desarrollo y aplicación, estas herramientas deben ser sometidas a un escrutinio riguroso, no solo para asegurar su efectividad, sino también para evitar vulneraciones de derechos o errores judiciales.
Por lo tanto, la decisión de la Policía Nacional de dejar de utilizar Veripol refleja un reconocimiento de la necesidad de mejorar los métodos y protocolos de investigación en el ámbito de las denuncias falsas. A medida que la tecnología continúa avanzando, será esencial que las autoridades encuentren un equilibrio entre la innovación tecnológica y la protección de los derechos de los ciudadanos, garantizando que herramientas como Veripol sean utilizadas de manera ética y con una base de datos robusta y representativa.
