Publicado en

La IA puede debilitar la democracia. ¿Podría también mejorarla?

Ante la fachada de un edificio público, una persona con un papel duda entre una ventanilla opaca que solo devuelve decisiones y otra de cristal abierta donde alguien escucha.

Un gobierno europeo dimitió por un escándalo en el que un sistema automatizado tuvo su papel. El 15 de enero de 2021, el gabinete de Mark Rutte dimitió en bloque. La causa no fue una votación perdida ni una crisis de coalición. Fue un informe parlamentario titulado «Injusticia sin precedentes», sobre cómo la administración tributaria neerlandesa había acusado de fraude en las ayudas para el cuidado de los hijos a miles de familias, exigiéndoles devolver cantidades que muchas no podían pagar. Entre las herramientas usadas para seleccionar a quién investigar había un sistema de clasificación de riesgo que tenía en cuenta la nacionalidad. La autoridad neerlandesa de protección de datos acabó multando a la administración tributaria por ello.

No fue una IA avanzada. Fue un sistema bastante corriente, metido en un procedimiento que nadie revisaba de verdad.

Cuando se habla de inteligencia artificial y democracia, aparecen casi siempre los mismos riesgos: vigilancia masiva, manipulación de la opinión pública, decisiones opacas y concentración de poder.

Son riesgos reales. Pero hay una pregunta que se discute bastante menos: ¿podría usarse la IA para que las instituciones democráticas funcionaran mejor?

Matthew Botvinick aborda parte de este dilema en AI and Political Freedom: The Risk to Democracy and How to Respond (Princeton University Press, 2026). Botvinick conoce la tecnología desde dentro. Investigador en IA y neurocientífico, fue director sénior de investigación en Google DeepMind y dirigió laboratorios de computación neuronal en Princeton y en la Universidad de Pensilvania. Hoy es investigador sénior en la Facultad de Derecho de Yale y forma parte del equipo técnico de Anthropic, donde dirige investigación sobre IA y Estado de derecho.

Por dónde puede erosionar la IA una democracia

Según la editorial, Botvinick parte de una coincidencia. La preocupación por el retroceso democrático creció justo cuando la atención pública se volcaba en la seguridad de la IA, pero las dos conversaciones rara vez se cruzaban. Él las conecta y señala varios mecanismos. El desempleo masivo provocado por la tecnología puede volver a la gente más receptiva a los mensajes autoritarios. Las crisis de seguridad pueden facilitar que los gobiernos abusen de los poderes de emergencia. Y el uso de la IA en los servicios de inteligencia abre la puerta a una vigilancia politizada.

Lo que me parece valioso de esta lista es que ninguno de los mecanismos exige una IA malvada ni un dictador con un plan. Bastan una crisis económica, un gobierno con prisa y unos servicios de inteligencia con herramientas nuevas. Son ingredientes que cualquier democracia puede reunir sin proponérselo.

Debajo hay una desigualdad de capacidades. Un Estado con sistemas avanzados de vigilancia, identificación, predicción y procesamiento de información puede adquirir sobre sus ciudadanos un poder que antes era técnica o económicamente inviable.

El escenario contrario

Conviene mirar también el otro lado.

Una administración podría usar la IA para explicar mejor sus decisiones, facilitar el acceso a la información pública, detectar irregularidades o ayudar a la gente a entender normas y procedimientos que hoy son endiabladamente complejos. El propio Botvinick, según la descripción del libro, acaba proponiendo reforzar las instituciones y repensar cómo funciona la democracia, con formas de participación ciudadana más ricas.

Hay experiencias que apuntan en esa dirección. Desde 2015, el proceso vTaiwan ha usado una herramienta de deliberación en línea llamada Polis para debatir regulaciones concretas, como la de los servicios de transporte con conductor. Polis agrupa las opiniones y destaca las propuestas que reúnen apoyo entre grupos que discrepan en casi todo lo demás. No sustituye a nadie. Ayuda a ver dónde hay acuerdo posible, que es algo que el debate público suele esconder. Sirve como indicio de que la tecnología puede ampliar la conversación democrática. No como prueba de que vaya a hacerlo por defecto.

La diferencia no la marca la tecnología. La marca quién la controla, con qué objetivos y bajo qué mecanismos de supervisión.

Un caso más cerca

En España tenemos nuestro propio ejemplo, menos dramático y muy instructivo. La fundación Civio lleva desde 2018 pidiendo acceso al código fuente de BOSCO, la aplicación que usa la administración para decidir quién tiene derecho al bono social eléctrico, después de detectar, según la propia fundación, que dejaba fuera a personas que cumplían los requisitos. Un juzgado central en 2021 y la Audiencia Nacional en 2024 dieron la razón a la administración. En septiembre de 2025, el Tribunal Supremo ordenó entregar el código y recordó que el acceso a la información pública es un derecho de rango constitucional.

Siete años para poder mirar dentro de un programa que decide sobre una ayuda pública. Ese plazo dice mucho de lo lejos que estamos de poder cuestionar estos sistemas con normalidad.

Que sea útil no basta

En The Tech Coup exploré cómo las democracias han cedido capacidad de decisión a empresas tecnológicas. Y en el artículo sobre Digitalización democrática, de Simona Levi trataba la importancia del control ciudadano sobre las infraestructuras digitales.

Las dos reflexiones apuntan al mismo sitio. Que un sistema sea útil no es suficiente. Tenemos que poder cuestionar sus decisiones.

Una herramienta pública que resuelve trámites con gran eficacia, pero que nadie puede auditar ni impugnar, puede ser a la vez una mejora administrativa y un retroceso democrático.

El marco legal europeo ya contiene algunas piezas. El artículo 22 del Reglamento General de Protección de Datos reconoce el derecho a no ser objeto de decisiones basadas únicamente en un tratamiento automatizado que produzcan efectos jurídicos. Y el Reglamento de IA clasifica como de alto riesgo los sistemas que deciden sobre el acceso a prestaciones y servicios públicos esenciales, con obligaciones de documentación y supervisión humana. Las piezas existen. El caso de BOSCO muestra lo difícil que es usarlas.

Un humano al final no siempre supervisa

Tampoco deberíamos conformarnos con poner a una persona al final del proceso si esa persona no tiene tiempo, información ni autoridad real para corregir al sistema.

Lo he visto a pequeña escala con los agentes con los que programo. Cuando te piden permiso para casi todo, acabas pulsando que sí una vez y otra. Según Anthropic, quienes usan Claude Code aceptan el 93 % de esas peticiones, como conté en La delegación invisible. Si eso pasa con una herramienta de programación, no cuesta imaginar lo que puede pasar con un funcionario que revisa cientos de propuestas de un sistema al día. Una persona que aprueba por costumbre no supervisa. Firma.

¿El problema es la IA o los gobiernos?

Se puede objetar que nada de esto es específico de la IA. El caso neerlandés fue, sobre todo, un fallo político y administrativo: una obsesión por el fraude, unos incentivos perversos y la falta de controles. Con hojas de cálculo y funcionarios presionados se habría podido producir algo parecido.

Me parece en buena parte cierto. Y precisamente por eso el argumento de Botvinick me interesa. La IA no inventa la tentación de vigilar o de castigar sin escuchar. Lo que hace es abaratarla y darle escala. Un mal diseño institucional que antes tenía un límite práctico, el número de inspectores, deja de tenerlo.

Antes de automatizar, las condiciones

La democracia no consiste solo en obtener buenos resultados. Exige procedimientos legítimos, responsabilidades claras y posibilidad de recurso.

Por eso, antes de preguntarnos cuántos servicios públicos podríamos automatizar, deberíamos decidir qué condiciones tienen que cumplir esos sistemas. Quién puede auditarlos, cómo se recurre una decisión, quién responde cuando fallan.

La IA puede hacer al Estado mucho más capaz.

Que esa capacidad sirva a los ciudadanos depende de algo tan poco tecnológico como poder recurrir una decisión y que alguien conteste.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.