Cómo la inteligencia artificial desafía la democracia, concentra poder en algoritmos opacos y obliga a repensar la regulación, la transparencia y el debate público
Las democracias modernas han sido montadas sobre un pilar simple pero poderoso: las decisiones tanto individuales como colectivas reconocen un auditor mayor que es, ni más ni menos, que el “soberano”, el conjunto de los ciudadanos. En una era en que gran parte del mundo combate el autoritarismo, la inteligencia artificial se yergue, como una amenaza de retorno a momentos históricos en que no se podía pensar nada que no fuera la cultura oficial.
Es increíble que una tecnología que es promesa de futuro, pueda introducir una novedad preocupante. No veremos las botas nazis, los uniformados exhibiendo el poder de sus armas, pero podríamos ser objeto de fuerzas invisibles que operen desde el influjo, la repetición y la opacidad.
La IA no es, por definición, enemiga de la democracia. El problema aparece cuando su desarrollo y uso avanzan más rápido que nuestra capacidad de comprenderla, regularla y discutirla públicamente.
En un evento reciente sobre Inteligencia Artificial e Industria Financiera, el CEO de N5, una empresa dedicada a generar productos de IA, reflexionó sobre algo inquietante, en respuesta de una pregunta sobre la optimización de tareas de la IA y el desempleo…
“A medida que la IA vaya sustituyendo trabajos, mucha gente irá perdiendo su fuente de ingresos.
Supongamos que el sistema remediara eso con, por ejemplo, una asignación universal, que es la solución que generalmente se sugiere. Esto no reemplazaría las otras dimensiones de la actividad laboral. El trabajo no está ligado únicamente a una compensación monetaria. Es difícil ser feliz si uno no produce, no crea, no modifica su realidad.
Y esto siempre bajo el supuesto de que los gobiernos QUIERAN resolver el problema de la trivialización humana. Porque la historia nos enseña que, por momentos, los incentivos de las autoridades tienen una conexión laxa con los de sus gobernados.
En Grecia o Roma los ciudadanos obtuvieron gran parte de sus derechos cuando el Estado necesitó hombres de a pie. Principalmente para la guerra, la producción o la expansión.
En un mundo como el actual, en donde la guerra se gana con drones, y el trabajo lo puede hacer un robot, es difícil no preveer un alejamiento de los valores de la democracia. ¿Por qué buscar un voto cuando, para obtener poder bélico o económico, no necesitan de la voluntad humana sino de la obediencia de la máquina? Por eso es indispensable reforzar las instituciones que garanticen un modelo con el hombre en el centro.»
Pero Colombo también habló del antídoto:
“Pensado en clave más contemporánea, en ningún país democrático hay margen para permitir, por ejemplo, que una IA reemplace a los conductores de transportes públicos. ¿Por qué? Porque ningún partido político aventaja a su segundo en un número mayor al de los ciudadanos que se quedarían sin trabajo. La democracia, en ese caso, funciona como reguladora. Por eso es más esencial que nunca.”
Poder concentrado, decisiones invisibles
La filósofa Hannah Arendt advertía que el poder se vuelve peligroso cuando deja de ser visible y discutible. Algo parecido ocurre hoy con muchos sistemas de IA: concentran poder en pocos actores —grandes empresas tecnológicas o Estados— y lo ejercen a través de algoritmos opacos, difíciles de auditar incluso para expertos.
Cuando una decisión importante se explica con un “lo dijo el algoritmo”, la responsabilidad política se diluye. ¿Quién responde si el sistema discrimina, se equivoca o manipula? La democracia está basada en un sistema de responsabilidades identificables; las cajas negras de la IA no transparentan, por el momento, ni sus medios ni sus fines. Mucho menos sus responsables.
El espacio público bajo presión
Uno de los riesgos más concretos aparece en el corazón de la vida democrática: el debate público.
La IA permite segmentar mensajes políticos de forma sesgada, adaptándolos a miedos, deseos y prejuicios individuales. Dos ciudadanos pueden recibir discursos completamente distintos —incluso contradictorios— del mismo candidato, sin saberlo.
Harari, el autor de Sapiens. De animales a dioses y Nexus, entre otros, ha señalado que, por primera vez, la tecnología permite influir en millones de personas de manera personalizada y automática.
Cuando el espacio público deja de ser común, la deliberación democrática se fragmenta peligrosamente.
Un ejemplo sencillo
Imaginemos una elección en la que todos los ciudadanos están en el radar de una IA potente que genera una campaña.
A un votante indeciso se le muestran mensajes emocionales diseñados para generar miedo; a otro, promesas optimistas; a un tercero, noticias falsas cuidadosamente calibradas. Ninguno ve lo que ven los demás. No hay debate, solo estímulos personalizados. Una versión hiperbólica de “Divide y reinarás”.
Malas noticias: No hay que esperar ni un segundo para verlo. Esto ya ocurre, con distintos grados de sofisticación.
Velocidad contra deliberación
La democracia es, por naturaleza, lenta. Como todo lo que requiere discusión, fricción, tiempos institucionales. Se atribuye a un líder insoslayable de la política argentina la idea de que, si se deseaba dilatar una decisión, ‘…había que mandarla a comisión”, es decir a deliberación de un colectivo. Esta es una válida contraprueba de que la rapidez suele ignorar el debate.
La IA es especialista en acelerarlo todo. Decide en milisegundos, escala sin esfuerzo y premia la eficiencia por sobre la reflexión.
El riesgo no es solo qué decisiones se automatizan, sino también la velocidad a la que corren sus acciones frente a nuestros ojos.
La pregunta incómoda
Como recordó la investigadora Timnit Gebru, la discusión sobre IA no es solo técnica, sino profundamente política: ¿quién diseña los sistemas, con qué datos y para beneficio de quién?
Ya no nos cuestionamos el uso de la IA, sino bajo qué reglas democráticas se pone en funcionamiento. Sin transparencia, sin control ciudadano y sin rendición de cuentas, la IA puede amplificar desigualdades y erosionar la confianza en las instituciones.
Pero en ello siempre hay una esperanza porque la democracia no muere cuando las máquinas aprenden a pensar. Muere cuando los ciudadanos dejan de entender, cuestionar y decidir.
La inteligencia artificial podría fortalecer nuestras sociedades, pero solo si aceptamos que su gobernanza no es un asunto de expertos aislados, sino una conversación pública urgente.
En sectores como el financiero, donde las decisiones impactan en millones de personas, la implementación de IA exige no solo eficiencia, sino también transparencia, trazabilidad y responsabilidad institucional.
Si su organización está evaluando cómo incorporar inteligencia artificial de manera ética, estratégica y alineada con principios democráticos, el equipo de N5 está disponible para acompañar esa conversación.
