España ante el Algoritmo: Entrada 4 — El veredicto de la calle: derechos, sesgos y la resistencia ciudadana al poder algorítmico

 

España ante el Algoritmo: Poder, Derecho y Sociedad en la Era de la IA

Entrada 4 — El veredicto de la calle: derechos, sesgos y la resistencia ciudadana al poder algorítmico 

Hasta ahora hemos analizado la arquitectura europea, la traducción institucional española y el pánico empresarial ante la hiperregulación. Pero ninguna regulación tecnológica está completa sin su contraparte social: la reacción de quienes viven en primera persona las decisiones automatizadas, los sesgos, la opacidad y la creciente dependencia del Estado y las empresas respecto a sistemas algorítmicos.

La sociedad civil española —juristas, activistas, colectivos vulnerables, plataformas de derechos digitales— ha recibido el Proyecto de Ley Orgánica con una mezcla de alivio, desconfianza y exigencia. Alivio porque por fin se reconoce el riesgo real de la automatización. Desconfianza porque la experiencia demuestra que la transparencia prometida por el Estado rara vez se materializa. Exigencia porque la IA no es un debate técnico: es un debate sobre poder, desigualdad y democracia.

1. La automatización como nueva frontera de la desigualdad

Los colectivos más vulnerables —personas migrantes, familias en situación de pobreza, mujeres, minorías étnicas— son quienes más sufren los efectos de los sistemas automatizados en:

• servicios sociales
• empleo
• vivienda
• fiscalidad
• seguridad ciudadana

La sociedad civil lo ha entendido con claridad: la IA no crea desigualdades, pero puede amplificarlas hasta volverlas invisibles.

Ejemplos recientes en Europa lo demuestran:

• algoritmos que penalizan a familias monoparentales
• modelos que asocian pobreza con fraude
• sistemas de riesgo policial que reproducen sesgos raciales
• herramientas de selección laboral que discriminan por género o edad

España no es ajena a estos riesgos. Por eso, las organizaciones sociales reclaman que el Proyecto de Ley no se limite a inventariar algoritmos, sino que garantice mecanismos reales de impugnación y reparación.

Los colectivos vulnerables suelen ser los primeros en ser automatizados y los últimos en ser protegidos. Esa asimetría es el núcleo del problema.

2. La opacidad algorítmica: el enemigo silencioso

La sociedad civil coincide en un diagnóstico: el mayor peligro no es la IA en sí, sino la opacidad.

Un algoritmo opaco:

• no explica por qué deniega una ayuda
• no justifica por qué clasifica a alguien como riesgo
• no permite detectar sesgos
• no ofrece vías claras de reclamación
• convierte al ciudadano en un sujeto pasivo ante una máquina que decide por él

La opacidad es poder. Y el Proyecto de Ley español, aunque introduce obligaciones de transparencia, deja un espacio ambiguo entre:

• explicabilidad real,
• y explicabilidad cosmética.

La sociedad civil exige lo primero: explicaciones comprensibles, auditables y útiles, no textos genéricos que oculten la lógica del sistema.

3. Auditorías externas: la demanda más insistente

Las organizaciones de derechos digitales y colectivos vulnerables coinciden en un punto clave: la supervisión no puede quedar solo en manos del Estado.

¿Por qué?

Porque la Administración:

• es usuaria de los algoritmos,
• es responsable de sus efectos,
• y es juez de su propia actuación.

La sociedad civil reclama auditorías externas, independientes y con participación de:

• expertos en derechos humanos
• organizaciones sociales
• académicos
• colectivos afectados

No se trata de desconfiar del Estado, sino de garantizar legitimidad democrática. Una gobernanza algorítmica sin contrapesos externos corre el riesgo de convertirse en un sistema de autocontrol sin consecuencias.

4. El derecho a la explicación: una conquista en disputa

El Proyecto de Ley reconoce el derecho del ciudadano a recibir una explicación cuando una decisión administrativa esté mediada por IA. Pero la sociedad civil advierte que este derecho puede diluirse si no se concreta:

• qué debe incluir la explicación
• en qué plazo debe entregarse
• qué nivel de detalle es exigible
• cómo se garantiza que sea comprensible
• qué ocurre si la explicación revela un sesgo o un error

El riesgo es que el derecho a la explicación se convierta en un derecho simbólico, sin fuerza jurídica real.

La sociedad civil quiere lo contrario: que sea un derecho operativo, capaz de detener decisiones injustas y obligar a revisar algoritmos defectuosos.

5. La batalla cultural: ¿quién controla al algoritmo?

Más allá de lo jurídico, la reacción social revela una batalla cultural profunda:

• ¿Debe el Estado poder automatizar decisiones que afectan a la vida de las personas?
• ¿Puede un algoritmo ser neutral en una sociedad desigual?
• ¿Qué significa “supervisión humana” cuando la máquina decide más rápido que el funcionario?
• ¿Cómo se garantiza que la IA no se convierta en un instrumento de vigilancia o exclusión?

La sociedad civil no quiere un Estado tecnocrático que sustituya el juicio humano por modelos estadísticos. Quiere un Estado que use la tecnología sin renunciar a la responsabilidad democrática.

6. El arco político: una polarización previsible

El debate parlamentario refleja esta tensión:

• El Gobierno defiende la ley como un escudo de derechos y un ejemplo europeo.
• La oposición teme que la hiperregulación frene la innovación y genere burocracia inútil.
• Los partidos minoritarios reclaman más garantías para colectivos vulnerables y más control sobre la automatización en servicios sociales y seguridad.

Pero la verdadera batalla no será ideológica: será técnica y cultural. Se decidirá en los detalles: auditorías, explicabilidad, supervisión, recursos, transparencia.

7. ¿Qué está en juego?

La pregunta central es clara: ¿puede la sociedad española controlar el poder algorítmico antes de que este la controle a ella?

El Proyecto de Ley Orgánica es un primer paso. Pero la sociedad civil exige que no sea un ejercicio de cosmética regulatoria, sino una garantía real de justicia algorítmica.

Porque en la era de la IA, la democracia no se defiende solo en el Parlamento: se defiende en cada decisión automatizada que afecta a una vida humana.

Avance de la Entrada 5

En la última entrega del ciclo analizaremos el tablero completo: la batalla política, el horizonte estratégico y el modelo de gobernanza algorítmica que España debe construir para no quedar atrapada entre el rigor europeo y la presión global por innovar sin límites.