La necesidad de regulación de la Inteligencia Artificial (IA) en la Administración de Justicia: a propósito del Proyecto de Reglamento de la CE de abril de 2021

El pasado mes de Abril se hizo público el borrador del futuro Reglamento sobre Inteligencia Artificial, en el contexto de las iniciativas de la UE en esta materia[1]. El Reglamento, que recoge el trabajo desarrollado en el Libro Blanco de la IA de la UE de 2020, se enmarca en el impulso normativo de UE en lo relativo a la gobernanza de datos, tanto públicos como privados. Se trata de una iniciativa novedosa en cuanto trata de establecer los principios que han de regular, en definitiva, el uso y desarrollo de una Inteligencia Artificial fiable en la UE. Como siempre ocurre cuando la UE trata de regular, con mayor o menor éxito, alguna materia de naturaleza estratégica en el ecosistema digital, la relevancia de la medida es notoria por cuanto supone que una vez aprobada y publicada, se dispondrá de un marco legal europeo uniforme que deberá trasponerse y al que deberán someterse las legislaciones de los diferentes países miembros. La finalidad declarada no es otra, según la propia UE, que impulsar el liderazgo de la UE apostando por un modelo de Inteligencia Artificial centrado en el ser humano y sus derechos fundamentales, pero que sobre todo resulte confiable, y sobre todo controlable a la postre por los poderes públicos de la Unión, que entienden que la red normativa actual que regula el uso de los datos en el espacio Europeo (RPGD[2] y otras normas relevantes en la materia), no garantizan suficientemente el logro de tales fines en materia de IA.

El Reglamento obligará tanto a las empresas privadas como a los organismos públicos, que empleen la IA en su cadena de valor,  ya sean como propietarias y desarrolladoras de tecnología, como meros distribuidores o usuarias de la misma. Desde un punto de vista territorial la normativa será aplicable en Europa pero también fuera de ella si los usuarios o proveedores de IA de alto riesgo se encuentran ubicados fuera de la Unión. Como era previsible, el borrador del Reglamento establece: (i) diversas y variadas prohibiciones, especialmente en lo relativo a la posible explotación de informaciones individuales y perfilados de los Ciudadanos, (ii) listas de posibles usos de la IA calificados de Alto Riesgo, (iii) normas especificas en materia de Calidad y Gobierno de Datos, y ponderación del riesgo, (iv) obligaciones de información y transparencia para los usuarios, que han de conocer en todo momento que sus datos serán objeto de tratamiento en un sistema Inteligente, (v) obligaciones en materia de Supervisión para proveedores y usuarios de la tecnología, y por último y muy importante (vi) cuantiosas multas para quienes infrinjan las norma, que siguiendo la pauta establecida en el RGPD,  podrán llegar hasta 30 millones de EUR o un 6% de la cifra de negocios del infractor.

La IA en la administración de Justicia

La Administración de Justicia española viene desplegando desde hace tiempo una creciente actividad e interés en el desarrollo de modelos y aplicaciones basados en IA, siendo destacable por su trascendencia la relativa a los datos de las publicaciones oficiales de jurisprudencia y sentencias judiciales. En este marco se encuadran convenios ministeriales impulsados por el Consejo General del Poder Judicial (CGPJ), de la mano del CENDOJ (Centro de Documentación Judicial, que entre otras cosas gestiona la base de datos de Jurisprudencia del CGPJ), así como desarrollos de compañías privadas de la industria legal basados en estos contenidos documentales[3]. Se trata en definitiva del impulso en la gestión documental de los procesos, con la finalidad de mejorar gracias a la IA la eficiencia de los mismos; así como de los procesos de conocimiento estadístico (Iuscibernética y Jurímetría), con finalidades tanto operativas,  como predictivas de los posibles resultados de un proceso judicial. Igualmente la IA permitirá, mas adelante, integrar tales repositorios de decisiones judiciales con las bases de datos de legislación y doctrinales, dando lugar a funcionalidades prácticas muy relevantes en materia de administración de Justicia.

Todas estas aplicaciones y desarrollos, que actualmente ya deben cumplir escrupulosamente la norma europea RGPD y su trasposición española la LOPDGDD[4], deberán someterse también al futuro Reglamento Europeo de IA y cumplir con todos los requisitos antes apuntados, especialmente aquellos tratamientos y usos que en el futuro puedan ser calificados como de alto riesgo. Igualmente entiendo que deberán tenerse en cuenta otras dos directivas comunitarias en materia de datos, aun no traspuestas en el ordenamiento español*: (i) Directiva en materia de datos abiertos y reutilización de la información del sector público, incluidas sus empresas [5], y (ii) Directiva relativa a la protección de datos personales de las personas físicas en la prevención, investigación, detección o enjuiciamiento de infracciones penales o de ejecución de sanciones penales[6].

Sin perjuicio de que el proceso interno en la Unión Europea para la aprobación de este Reglamento requiera meses e incluso años, las iniciativas y desarrollos en marcha y los que se planeen en el futuro deberán tener muy en cuenta el contenido de este borrador, que abre nuevas oportunidades tanto en los procesos como en la mejora de la eficiencia de nuestra Administración de Justicia.

Rafael Tripero, Socio de Cremades & Calvo-Sotelo Abogados