El Reglamento Europeo de Inteligencia Artificial (RIA/AI Act) se presenta como el primer marco jurídico integral para regular el desarrollo y uso de la IA en el mundo y contempla múltiples obligaciones de hacer (to do) para los sujetos obligados, entre los que se encuentra el amplio ecosistema del Sector Público. Entre sus disposiciones destacan dos deberes esenciales: la supervisión humana y la alfabetización en IA. Aunque distintos en su alcance, ambos están profundamente conectados y buscan garantizar que la inteligencia artificial esté siempre al servicio de las personas y sobre la que deberíamos preguntarnos qué estamos haciendo para cumplir con las obligaciones del RIA.
1. La Supervisión humana: el control no se delega
El RIA establece que detrás de cada sistema de IA debe existir siempre una persona con capacidad real de intervención. Supervisar significa poder validar, corregir o detener el funcionamiento de un sistema, especialmente en aquellos contextos donde se ven implicados derechos fundamentales o la seguridad de las personas.
-
En sanidad, un software puede sugerir un diagnóstico, pero la decisión final corresponde al médico.
-
En justicia, un juez puede apoyarse en un sistema predictivo, pero nunca dictar sentencia solo en base a él.
-
En la administración pública, un algoritmo puede priorizar expedientes, pero un funcionario debe validar la decisión.
Sin supervisión humana, las decisiones automatizadas pueden derivar en errores graves, pérdida de confianza y falta de responsabilidad clara, con las correspondientes consecuencias. La supervisión humana e significa que la tecnología debe estar siempre bajo control humano efectivo, evitando que los algoritmos sustituyan la capacidad crítica y la responsabilidad de las personas en decisiones que afectan derechos, libertades o seguridad
2. La Alfabetización en IA: comprender para poder supervisar
La supervisión no tendría sentido si quienes la ejercen carecen de la formación necesaria. Por ello, el RIA incorpora la alfabetización en IA como un deber transversal.
En este caso, alfabetizar significa dotar a profesionales y ciudadanía de los conocimientos mínimos para entender cómo funciona la IA, qué riesgos implica y qué derechos les asisten frente a ella. Incluye:
-
Comprender qué es un sistema de IA y cómo se entrena.
-
Identificar posibles sesgos y riesgos discriminatorios.
-
Conocer derechos como el de explicación o el de impugnar decisiones automatizadas.
No basta con tener normas y controles técnicos: si los usuarios (ciudadanos, funcionarios, jueces, médicos, empresas, etc.) no entienden cómo funciona la IA, no podrán detectar riesgos, ejercer sus derechos o supervisar adecuadamente. Sólo así tiene sentido el despliegue de los sistemas de IA, si, por ejemplo, un funcionario formado para entender alertas de riesgo en un proceso, un médico capaz de interpretar sugerencias algorítmicas o un ciudadano consciente de cómo reclamar ante un banco por una decisión automática.
3. Dos caras de la misma moneda
La supervisión humana y la alfabetización en IA están estrechamente vinculadas:
-
Sin alfabetización, no hay supervisión efectiva: nadie puede controlar lo que no entiende.
-
Sin supervisión, la alfabetización se queda en teoría: conocer los riesgos no sirve si no existe capacidad de intervenir.
El RIA las regula como un binomio inseparable para garantizar una IA confiable y centrada en lo humano.
4. Retos y oportunidades
El despliegue de estos deberes plantea retos importantes:
-
Diseñar programas de formación transversales para profesionales y ciudadanía.
-
Evitar que la brecha digital se transforme en una brecha algorítmica.
-
Asegurar que los supervisores cuenten con los recursos y el tiempo necesarios.
Pero también abre oportunidades:
-
Reforzar la confianza en el uso de la IA.
-
Consolidar a Europa como referente en ética tecnológica.
-
Garantizar que la innovación tecnológica respete derechos fundamentales.
Cada institución deberá asegurarse de que cumple con las obligaciones establecidas en el RIA a efectos de evitar infracciones y gestionar los riesgos asociados a la IA.
5. En definitiva
Supervisar y comprender son dos caras de la misma moneda. En pocas palabras:
-
La supervisión humana es el acto de control directo sobre la IA.
-
La alfabetización en IA es la condición previa que permite que ese control sea real y eficaz.
Sin alfabetización no hay supervisión efectiva; sin supervisión humana, la alfabetización se queda en mera teoría. El RIA los regula de manera complementaria porque ambos representan la esencia de una IA confiable: controlada por personas y al servicio de las personas.
