Primeramente, previo a determinar los procedimientos a seguir en reclamaciones por casos de discriminación en el uso de Inteligencia Artificial, es importante definir los conceptos fundamentales, así como la regulación en la Unión Europea y en España, a los fines de determinar los mecanismos y caminos a seguir, así como también los problemas que existen actualmente.
La Inteligencia Artificial (en adelante, «IA») es definida como una «disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana». Asimismo, la Discriminación es todo trato diferente o perjudicial a otra persona por distintos motivos. Cada uno de estos conceptos cuenta con sus tipos y elementos particulares.
Sin embargo, no es fácil determinar o probar discriminación mediante el uso de IA debido al efecto de la «caja negra de la IA», en donde la inteligencia artificial o los algoritmos toman una decisión, o proporcionan un resultado, sin explicar o demostrar el procedimiento de la decisión, siendo este imposible de entender debido a su complejidad.
Esto puede ser evidenciado en el caso Amazon, en donde se usó la IA para la revisión de Curriculum Vitae en procesos de reclutamiento, catalogando a los candidatos, de acuerdo a su competencia, de 1 a 5 estrellas. Debido a que los datos proporcionados para la toma de decisiones no eran del todo neutrales, la IA determinó que los candidatos hombres eran preferibles que las mujeres, penalizando a los Curriculum Vitae que incluyeran la palabra «mujer».
A nivel regulatorio, la Unión Europea reconoce los riesgos de discriminación relacionados con la IA, aunque su normativa aún no ha sido adaptada para abordar plenamente su impacto en la sociedad. No obstante, existen normas generales vigentes que pueden aplicarse en ciertos escenarios de discriminación, como el Tratado de la Unión Europea, el Tratado de Funcionamiento de la Unión Europea y la Carta de los Derechos Fundamentales de la UE. Estos documentos se basan en los valores de no discriminación e igualdad. Además, se pueden mencionar otros reglamentos relevantes, como lo son: i) El Reglamento General de Protección de Datos, que se centra en la protección y tratamiento de datos personales, y no en la Inteligencia Artificial; ii) El Reglamento de Servicios Digitales, el cual prohíbe el contenido ilícito que afecte a los derechos fundamentales, incluido el derecho a no sufrir discriminación; y iii) El Reglamento (UE) 2018/302 sobre medidas para prevenir el bloqueo geográfico injustificado y otras formas de discriminación por razón de nacionalidad, lugar de residencia o lugar de establecimiento de los clientes en el mercado interior, el cual tiene como objetivo eliminar la discriminación basada en la nacionalidad o lugar de residencia en las transacciones transfronterizas entre comerciantes y clientes.
Más allá de la generalidad de las normas anteriores, se encuentra la Propuesta, aún pendiente de aprobación, denominada «Artificial Intelligence Act», que buscará dirigirse al posible efecto dañino de la IA y su efecto en los derechos fundamentales, complementando de esta manera la legislación vigente en materia de derechos fundamentales y no discriminación, y minimizando los riesgos asociados al uso de la IA.
A pesar de la legislación mencionada anteriormente, existen problemas en esta materia que no han sido abordados, como lo es la falta de transparencia y explicabilidad en el uso de la tecnología, el equilibrio y la protección de la propiedad intelectual en relación con el respeto a los derechos fundamentales, la dificultad de atribuir la responsabilidad de las acciones de la IA y la inexistencia de mecanismos para presentar reclamaciones.
Por otro lado, el marco regulatorio español en materia de discriminación se encuentra, en cierta forma, actualizado al uso de las nuevas tecnologías y a sus posibles riesgos y efectos a los derechos fundamentales, con la entrada en vigor de la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación, la cual reconoce los potenciales sesgos de la Inteligencia Artificial en esta materia, promueve la transparencia y la creación de mecanismos preventivos e incluye distintos tipos de discriminación.
Asimismo, contamos con normativas generales, como la Constitución española la cual reconoce la equidad como valor fundamental y limita el uso de la tecnología cuando esta pueda perjudicar el honor y la privacidad de las personas, y la Ley 34/2002 de Servicios de la Sociedad de la Información y de Comercio Electrónico que, a pesar de que no señala expresamente a la IA, si indica que si algún servicio viola los principios legales estipulados, las autoridades competentes pueden adoptar las medidas necesarias para interrumpir el servicio.
De manera no vinculante, se encuentra la Carta de Derechos Digitales y la Estrategia Nacional de IA, las cuales buscan garantizar los derechos de los ciudadanos a nivel digital y establecen ciertos objetivos y mecanismos preventivos que pueden ser aplicados.
De igual manera, se debe hacer referencia a la sentencia 2021/2011, emanada del Juzgado Central de los Procedimientos Contenciosos-Administrativos, en fecha 30 de diciembre de 2021, sobre la herramienta usada por el gobierno español denominada «BOSCO», usada para determinar cuáles individuos cumplían las condiciones para recibir beneficios sociales. En ella se solicitó el código fuente de la herramienta a los fines de verificar el procedimiento de sus decisiones. Sin embargo, el Juzgado determinó que, por protección en materia de propiedad intelectual, no era posible proporcionar el código fuente, por lo que podemos observar una falta de transparencia.
Finalmente, podemos determinar que existen mecanismos de reclamación, pudiendo dirigirse a la Autoridad Independiente para el trato igualitario y la no discriminación, al Consejo de Transparencia y Buen Gobierno o a la Agencia Española de Protección de Datos, así como a los tribunales competentes, dependiendo del área en la que fue generada la discriminación.
A pesar de la legislación vigente, siguen existiendo problemas y deficiencias en el uso y regulación de la IA, como lo son: i) Derecho de información sobre el uso de IA: Debido a la complejidad de los algoritmos, a los derechos de propiedad intelectual sobre el código fuente y al efecto de la caja negra de la IA, se dificulta la transparencia de estas tecnologías y de sus procedimientos; ii) Calidad de datos: Es necesario tener en cuenta que las IA se basan en los datos que les son proporcionados por los creadores, evitando sesgos; y iii) Atribución de responsabilidad: Debido a la complejidad del algoritmo y al gran equipo detrás de la creación de esta tecnología, la determinación de la responsabilidad es un tema complejo que debe ser determinado mediante el establecimiento de obligaciones y responsabilidades posteriores de las partes que conforman el equipo de creación.
Finalmente, es fundamental la aprobación de la Artificial Intelligence Act, a los fines de tener un Reglamento europeo que contemple limitaciones técnicas, éticas y legales para el uso de la IA en el día a día de los ciudadanos. Sin embargo, se deben tomar nuevos pasos en el desarrollo de disposiciones nacionales e internacionales que regulen directamente la aplicación de la IA en la cotidianidad de los ciudadanos, tal como lo establecen los objetivos de la Estrategia Nacional de Inteligencia Artificial, al igual que la creación de autoridades nacionales e internacionales que garanticen la protección de los derechos fundamentales en esta materia.
Andrés Poleo Miglio
Abogado Cremades & Calvo-Sotelo
