El Reglamento Europeo de Inteligencia Artificial contempla un importante conjunto de obligaciones para todos los operadores, proveedores y responsables de despliegue de los sistemas de IA de vigencia escalonada, en la que el 2 de febrero de 2025 juega un importante papel, porque se activa un nuevo paquete normativo escalonado que afecta a todos los operadores, incluidos los situados fuera de la Unión Europea, y que establece:
- Obligación de alfabetización en IA (art. 4): Tanto proveedores como responsables de despliegue deberán garantizar que sus equipos tengan un nivel suficiente de conocimientos en IA adaptado a su perfil y funciones.
- Sistemas de IA prohibidos (art. 5): Se prohíben aquellos que impliquen manipulación subliminal, explotación de vulnerabilidades, clasificación social, evaluación de riesgos basados solo en perfiles, y otros que amenacen los derechos fundamentales.
El derecho-deber de alfabetización como base para el despliegue de la Inteligencia Artificial
Por decirlo de una forma clara: todos los sujetos obligados deberán contar ya con los correspondientes planes o programas de formación o capacitación que aseguren la dotación de ese conocimiento, de ese nivel suficiente de alfabetización. Pero no cualquier programa, sino que éste deberá estar personalizado y adaptado de forma detallada a sus destinatarios, pues la norma exige que se tenga en cuenta tanto los conocimientos técnicos, como la experiencia, educación y formación, así como el contexto previsto de uso de los sistemas de IA.
Todo ello sin olvidar a las personas o los colectivos de personas en que se van a utilizar dichos sistemas, de especial impacto en el caso de personas afectadas por las diferentes brechas, como pueden ser personas mayores, personas con discapacidad, colectivos vulnerables o personas que residan en zonas rurales, que pueden tener un mayor riesgo de brecha digital.
El uso de los sistemas prohibidos de IA: la necesaria revisión que impone la activación del artículo 5 del Reglamento
Aunque la tecnología lo permita, no será posible. No en Europa. Esa es la principal conclusión que debemos extraer de la activación, dentro del paquete normativo del RIA que adquiere aplicación efectiva el 2 de febrero de 2025, de las previsiones del art. 5, que recoge los sistemas prohibidos en atención a sus características.
Porque el uso de la IA abre magníficas oportunidades y presenta potenciales usos beneficiosos, pero también abre el escenario a la aparición de considerables riesgos para la protección de los derechos de las personas, pues su uso indebido puede conducir a una realidad distópica de manipulación, explotación y control social, al más puro estilo orwelliano.
⚖️ Régimen sancionador
A partir de agosto de 2025, se activará el régimen de sanciones, con multas de hasta 35 millones de euros o el 7 % de los ingresos globales. En España, la Agencia Española de Supervisión de Inteligencia Artificial (AESIA) será la encargada de su supervisión y ejecución, por si la obligación legal no es suficiente incentivo…
📌 Tareas clave para el cumplimiento:
En estos momentos, uno de los mayores riesgos que presenta el uso de la IA, es la ausencia de directrices claras y concretas sobre dicho uso en las organizaciones, que, ante el vacío existentes sobre qué puede usarse, quién puede usarla, y cómo y en qué circunstancias, está facilitando un uso anárquico y sin control, que multiplica los riesgos.
De ahí que, entre las tareas y deberes básicos para este año 2025 en el uso de la IA se encuentre:
- Desarrollar una política interna de IA que detalle acciones específicas para garantizar el cumplimiento normativo.
- Elaborar programas de alfabetización adaptados, con especial atención a colectivos vulnerables.
- Revisar los sistemas de IA en uso para asegurar que no estén incluidos en la lista de prácticas prohibidas.
Pero también el correspondiente organigrama de gestión, ¿quién se ocupará? ¿Tenemos un Chief Artificial Intelligence Officer? ¿serán los responsables de Compliance? ¿Y en las organizaciones públicas?
🔗 Puedes leer el artículo completo en El Consultor de los Ayuntamientos aquí: Acceso al artículo