España ante el Algoritmo: Entrada 2 — La Administración bajo el microscopio: transparencia, poder y la batalla por la legibilidad algorítmica

España ante el Algoritmo: Poder, Derecho y Sociedad en la Era de la IA

Entrada 2 — La Administración bajo el microscopio: transparencia, poder y la batalla por la legibilidad algorítmica

Si el IA Act europeo define el perímetro ético y técnico de la inteligencia artificial, el Proyecto de Ley Orgánica español decide algo más profundo: cómo se reorganiza el poder dentro del Estado cuando los algoritmos entran en la burocracia. Esta es la dimensión menos visible del debate público, pero la más decisiva. Porque la IA no solo transforma empresas: transforma la forma en que el Estado mira, clasifica y decide sobre sus ciudadanos.

España ha optado por una estrategia ambiciosa: convertir a la Administración Pública en un espacio auditable, donde cada sistema algorítmico —sea de alto riesgo o no— quede registrado, supervisado y sometido a escrutinio. Bien ejecutado, este movimiento puede reducir la opacidad histórica de la burocracia. Mal ejecutado, puede convertirse en un ritual vacío que legitime decisiones automatizadas sin control real.

1. El inventario total: el Estado se mira al espejo

La gran novedad del proyecto español es la creación de un Inventario completo de sistemas de IA utilizados por la Administración Pública. No solo los de alto riesgo. No solo los que afectan a derechos fundamentales. Todos.

Esto implica que:

• Cada algoritmo usado en sanidad, empleo, fiscalidad, justicia o servicios sociales debe ser identificado.
• Deben documentarse sus funciones, sus datos de entrenamiento, sus criterios de decisión y sus mecanismos de supervisión humana.
• El inventario debe ser accesible, actualizable y verificable.

Es un giro radical respecto al pasado reciente, donde muchos sistemas automatizados operaban en silencio, sin que el ciudadano supiera que una decisión administrativa había sido mediada por un modelo estadístico o un algoritmo de clasificación.

El inventario, en teoría, rompe la invisibilidad del algoritmo. Pero la pregunta clave es otra: ¿será un instrumento de control ciudadano o un simple catálogo burocrático sin consecuencias?

La transparencia no es un acto administrativo: es un acto de redistribución del poder.

2. El Delegado de IA: la nueva figura de poder interno

Inspirado en el Delegado de Protección de Datos del RGPD, el proyecto crea el Delegado de IA en cada organismo público. Su misión es doble:

• Garantizar que los sistemas de IA cumplen la ley.
• Actuar como punto de contacto entre la Administración, la AESIA y los ciudadanos.

Sobre el papel, es una figura poderosa. En la práctica, su eficacia dependerá de tres factores:

1.    Independencia real: si depende jerárquicamente de quienes debe supervisar, su función se diluye.

2.    Capacidad técnica: sin formación sólida en auditoría algorítmica, será un mero gestor de formularios.

3.    Autoridad institucional: debe poder detener un sistema si detecta riesgos graves.

Pero hay un cuarto elemento, decisivo y a menudo ignorado: el Delegado de IA no solo supervisa, crea cultura institucional. Sin esa cultura, la gobernanza algorítmica se convierte en un trámite.

El Delegado puede ser el contrapeso interno que evite abusos automatizados… o un actor simbólico que legitime decisiones ya tomadas.

3. La simetría de poder: ¿puede el ciudadano entender el algoritmo que decide sobre él?

La Administración española maneja algunos de los algoritmos más sensibles:

• asignación de ayudas
• cribado de fraude fiscal
• priorización de listas de espera
• evaluación de riesgos en servicios sociales
• modelos predictivos en empleo o educación

El proyecto de ley introduce un principio fundamental: el ciudadano tiene derecho a saber cómo un algoritmo ha influido en una decisión administrativa que le afecta.

Esto implica:

• explicaciones comprensibles
• acceso a criterios relevantes
• posibilidad de impugnar decisiones automatizadas
• trazabilidad de los datos utilizados

Es un avance significativo. Pero la experiencia comparada muestra un riesgo: si las explicaciones se reducen a textos genéricos (“su solicitud ha sido denegada por criterios automatizados”), la transparencia se convierte en ficción administrativa.

La verdadera transparencia exige explicabilidad significativa, no frases estándar.

4. El riesgo de la burocratización del control

El proyecto español aspira a domesticar la IA mediante:

• inventarios
• delegados
• auditorías
• documentación
• supervisión humana

Todo ello es necesario. Pero existe un peligro: que la gobernanza algorítmica se convierta en un ejercicio de cumplimiento formal, donde lo importante no sea proteger derechos, sino demostrar que se han rellenado los formularios correctos.

Este riesgo es especialmente alto en:

• servicios sociales
• empleo
• fiscalidad
• seguridad ciudadana

Ámbitos donde los algoritmos pueden amplificar sesgos estructurales sin que nadie lo detecte, porque el proceso está “documentado”.

La pregunta de fondo es si España quiere una burocracia transparente o una burocracia que simula transparencia.

5. ¿Qué está en juego realmente?

La entrada de la IA en la Administración no es un cambio tecnológico: es un cambio constitucional en la práctica.

Afecta a:

• la igualdad ante la ley
• la presunción de inocencia
• el derecho a una decisión motivada
• la no discriminación
• la tutela judicial efectiva

Si un algoritmo decide quién recibe una ayuda, quién es investigado por fraude o quién accede a un servicio público, entonces la arquitectura algorítmica se convierte en arquitectura de poder.

El proyecto español intenta equilibrar ese poder mediante transparencia y supervisión. Pero el éxito dependerá de si estas herramientas se aplican con rigor o se diluyen en la rutina administrativa.

Avance de la Entrada 3

En la próxima entrega analizaremos el otro lado del tablero: cómo vive el tejido empresarial y tecnológico este nuevo marco, entre el miedo a la hiperregulación y la promesa de los sandboxes como refugio para innovar sin ser aplastados por el régimen sancionador.