Sobre el Anteproyecto de Ley para la Gobernanza de la IA: ¿Qué se hará de la AESIA?

Sobre el Anteproyecto de Ley para la Gobernanza de la IA: ¿Qué se hará de la AESIA??

Para gestionar los efectos de los sistemas de inteligencia artificial dentro de la Unión Europea, el Reglamento (UE) 2024/1689, de Inteligencia Artificial (“RIA”) planea un modelo de gobernanza pública a dos niveles: europeo y nacional. A escala nacional, los Estados miembros están obligados por el RIA a establecer una estructura de gobernanza. Entre otros motivos, es por lo que el Consejo de Ministros aprobó en marzo de 2025 el anteproyecto de ley “para el buen uso y gobernanza de la IA”.

1. ESTRUCTURA DE LA GOBERNANZA EUROPEA Y NACIONAL SEGÚN EL RIA

El modelo de gobernanza europea de IA a nivel europeo prevé la creación de una Oficina de IA, un Consejo de IA, un foro consultivo y un grupo de expertos científicos independientes. La Oficina de IA es el órgano especializado de la Comisión para ocuparse de las cuestiones de IA dentro de la Unión Europea. El Consejo de IA servirá para facilitar la aplicación coherente y eficaz del RIA entre los Estados miembros. El foro consultivo y el grupo de expertos científicos independientes proporcionarán conocimientos técnicos y asesorarán al Consejo de IA y a la Comisión.

El RIA indica a los Estados miembros que, al construir su sistema de gobernanza nacional, deben designar, al menos, una autoridad notificante y una autoridad de vigilancia de mercado y establecer un punto de contacto único.

La autoridad notificante, según el RIA, artículo 3, apartado 19, se define como:

La autoridad de vigilancia de mercado, según el RIA, artículo 3, apartado 26, se define como:

Por su parte, el punto de contacto único serviría para incrementar la eficiencia organizativa en los Estados miembros, entre el público y otros homólogos a escala de los Estados miembros y la Unión (considerando 153 RIA).

2. ESTRUCTURA DE GOBERNANZA DE IA NACIONAL QUE PROPONE EL ANTEPROYECTO

Como autoridad notificante, el anteproyecto propone a la Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA) que, a su vez, delegaría las funciones de evaluación y supervisión de organismos notificados en la Entidad Nacional de Acreditación (ENAC), de modo que ésta asumiría, de facto, las funciones de la autoridad notificante.

Como autoridades de vigilancia del mercado, el anteproyecto propone la estructura dibujada a continuación, operando bajo un criterio de especialidad:

De esta forma, por ejemplo, la AEPD sería competente para vigilar el mercado sobre los sistemas de alto riesgo relativos al ámbito de la biometría, pero sólo cuando se usen para garantizar el cumplimiento del derecho a gestionar fronteras; el Banco de España y la CNMV serían competentes, cada una en su ámbito, para supervisar los servicios financieros destinados a evaluar la solvencia de las personas físicas o establecer su calificación crediticia.

Como punto de contacto único, el anteproyecto propone a la SEDIA, pero las funciones que debería cumplir este órgano se distribuyen de forma imprecisa entre ésta y la Agencia Española de Supervisión de Inteligencia Artificial (AESIA). Es llamativo que el anteproyecto modifique las funciones previstas para la AESIA, que no termina de encajar claramente en la propuesta ni como autoridad de vigilancia de mercado ni como punto de contacto único per se. Esto merece comentario aparte.

3. ¿EN QUÉ QUEDARÁ LA AGENCIA ESPAÑOLA DE SUPERVISIÓN DE IA?

El Estatuto de la AESIA (Real Decreto 729/2023) atribuye a la agencia tareas de supervisión, asesoramiento, concienciación (sic), formación, inspección y sanción.

Por una parte, el anteproyecto modifica la importancia de la AESIA como autoridad de supervisión, inspección y sanción, relegándola al papel de suplente cuando cualquiera de las autoridades de vigilancia de mercado designadas comunique una carencia de medios para la supervisión, inspección y sanción de sistemas de IA. De esta forma, la AESIA únicamente retendría funciones de asesoramiento, formación y concienciación, sea lo que sea.

Por otra parte, parece que el anteproyecto quiere incluir a la AESIA en ciertas funciones de coordinación, que, como apuntábamos, corresponden al punto de contacto único; sin embargo, dado que la SEDIA ya se ha colocado en este rol ¿qué sentido tiene la inclusión de la AESIA, aunque sea excepcional? En esta línea, el anteproyecto también atribuye a la AESIA la tarea de presentar a la Comisión Europea el informe del estado de recursos financieros y humanos de las autoridades nacionales competentes, que incluirá una evaluación de su idoneidad. De nuevo, parece un contrasentido que esta tarea sea asumida por la AESIA: el punto de contacto único dejaría de ser único.

Otro de los nuevos poderes que el anteproyecto propone atribuir a la AESIA para disimular esta revocación de su importancia consiste en hacerla necesaria, en adelante, para autorizar un sandbox de IA, si es que acaso se producen otros. El anteproyecto propone que los espacios controlados de pruebas para la IA (los llamados sandbox) sean producto de la iniciativa de una autoridad de vigilancia de mercado, que debe recabar previamente el informe preceptivo de la AESIA, evaluando “la asignación de recursos suficientes” y “garantizando el nivel de cooperación” ¿Cómo podría la AESIA evaluar si otro órgano, pongamos, la CNMV, cuenta con recursos suficientes, para llevarlo a cabo? ¿Y por qué habría de hacerlo?

Recapitulando: si se opera bajo criterios de especialidad, lo cual es bastante razonable, la AESIA no pinta nada como autoridad de vigilancia de mercado. Tampoco como punto de contacto único, dado que la SEDIA ya se ha arrogado esa función. Como autoridad notificante, ni siquiera se ha planteado la cuestión.

Respecto a la AESIA, sorprende el cambio de criterio político: como poco, desde el 22 de agosto de 2023 y hasta la fecha, el Ejecutivo ha atribuido poderes amplios a la organización y ha estado promocionando su importancia: la AESIA es una entidad de derecho público, adscrita a la SEDIA, pero con patrimonio propio y autonomía en su gestión. Se ha facultado a la AESIA para inspeccionar, sancionar, supervisar, asesorar y, además, concienciar y formar. También se le ha asignado el edificio de La Terraza en La Coruña, se ha designado un director y se está contratando personal.

No es que el planteamiento de gobernanza del anteproyecto sea irracional, es que la propuesta no encaja con las funciones actuales de la AESIA, que continúa contratando personal y promocionando su existencia, indiferente al hecho de que pronto podría quedarse sin razón de ser. En conclusión, si el anteproyecto sigue adelante, en lo que a la AESIA respecta, asistiremos al alumbramiento de un órgano vestigial que, sobre el papel, se limitará a realizar funciones de diálogo y cooperación que probablemente obstaculicen más que añadan ¿Qué hacemos, entonces, con la AESIA?

Inés Cano, Directora IA

act legal Spain