En la Pnyx de la antigua Atenas, los ciudadanos decidían el destino de las polis depositando pequeñas piedras «blancas o negras» en una urna. Aquella acción era entonces el mejor mecanismo de manifestación de la voluntad que las personas encontraron para acordar consensos y medir los resultados. Hoy, más de dos milenios después, la inteligencia artificial se agrega como instrumento adicional para facilitar la deliberación democrática.

Experimentos científicos recientes, como la llamada Habermas Machine liderada por Google DeepMind en colaboración con investigadores académicos de instituciones como la Universidad de Oxford, tienen como reto solucionar uno de los problemas que la democracia no ha podido superar, partiendo de la pregunta: ¿cómo podemos deliberar entre millones de personas cuando nuestra capacidad de escucharnos, comprendernos y encontrar puntos en común se ve tan limitada?

Y aquí es en donde entra en juego la inteligencia artificial: ¿puede un LLM ayudarnos a comprendernos y entendernos mejor? De acuerdo con el estudio, el «56 % de los participantes así lo prefirieron»

La Habermas Machine recibe su nombre del filósofo alemán Jürgen Habermas, quien, desde su teoría de la acción comunicativa, plantea la idea de «la situación ideal de habla». Se trata de un escenario hipotético en el que la comunicación se encuentra libre de coacción y los participantes pueden intervenir bajo condiciones de simetría. En ese espacio ideal no existen las jerarquías de quién debe hablar primero o quién debe ser escuchado o qué argumento tiene mayor valor por la popularidad de quien lo pronuncia. Todos tienen, al menos en principio, la misma posibilidad de cuestionar, proponer y responder las cuestiones de orden político.

Ahora bien, el funcionamiento técnico de este experimento se puede resumir en dos componentes principales, explicados por Christopher Summerfield. Por un lado, un modelo generativo produce distintas declaraciones grupales a partir de las opiniones privadas de los participantes. Por otro lado, un modelo de recompensa personalizado estima qué tan probable es que cada participante respalde cada una de esas declaraciones grupales. Posteriormente, una función de elección social —el método Schulze— que permite comparar las distintas alternativas y seleccionar aquella que presenta una mejor propiedad de consenso y, finalmente, los participantes pueden criticar la declaración seleccionada y esas nuevas observaciones se incorporan a la Habermas Machine para que genere una versión revisada.

En términos simples, los participantes pueden expresar primero sus posiciones de manera privada; la IA genera posibles puntos de encuentro, luego estima el nivel de aceptación individual de cada uno y utiliza un mecanismo de elección colectiva para identificar una posible propuesta de consenso. El resultado es sometido nuevamente a la consideración de los participantes que finalmente aprueban o no el resultado brindado.

Este sistema permite realizar una deliberación estructurada sin necesidad de que las personas se reúnan físicamente, evitando los sesgos comunes al interactuar cara a cara o la presión social o el deseo de «ganar» un argumento a toda costa.

El valor del experimento, entonces, no radica únicamente en el uso de inteligencia artificial para procesar opiniones, no, su verdadero valor está en el intento de reconstruir tecnológicamente algo que las democracias modernas parecen haber perdido en medio de su propia escala: un espacio común para escucharnos.

Ese espacio, dicho sea de paso “virtual” se parece, en cierto sentido, al antiguo Ágora. Un lugar en el que las personas no solamente expresan lo que piensan, sino que se enfrentaban a las ideas de los demás, descubrían aquello que compartían y, eventualmente, cambiaban sus propias posiciones.

Aquí está, sin embargo, la principal tensión. Si la inteligencia artificial puede convertirse en una nueva infraestructura para la deliberación democrática, entonces ya no basta con preguntarnos si funciona y qué tan efectiva es, debemos también preguntar bajo qué reglas funciona, quién las define y quién puede cuestionarlas. La cuestión, por tanto, deja de ser exclusivamente tecnológica y se convierte en una cuestión de legitimidad democrática.

Porque trasladar parte de la deliberación al lenguaje de los algoritmos implica correr varios riesgos, uno de ellos es la «alineación en la IA deliberativa» el riesgo de que los sistemas sean diseñados, entrenados o ajustados para producir determinados resultados dentro del proceso deliberativo, como lo explicó Summerfield consiste en que, al establecer qué opiniones deben ser consideradas relevantes, cuáles deben destacarse y cómo deben integrarse para construir una declaración común, el algoritmo deja de ser un simple intermediario “neutral” y empieza a participar, aunque sea indirectamente, en la construcción del consenso común.

Un sistema diseñado para encontrar puntos de acuerdo puede terminar privilegiando las opiniones que resulten más fáciles de integrar y, con ello, relegar las voces minoritarias. La búsqueda de consenso podría terminar paradójicamente invisibilizando aquellas voces que en una democracia cambian nuestra forma de pensar o en este caso deliberar cierto asunto. A esto se le conoce como «cámara de eco», al personalizar el mensaje con el fin de ayudarnos a comprender mejor a los demás puede encerrarnos en versiones individualizadas del debate.

A esto se le suma otro problema más profundo: la transparencia. No es suficiente que cada uno de los ciudadanos tenga la posibilidad de expresar su opinión; también necesita tener la garantía de saber cómo funciona realmente la IA, en otras palabras, necesita poder auditar, supervisar y aprobar el código que va a definir los lineamientos de ponderación que serán evaluados. Sin embargo, esto no significa que al hacer público su funcionamiento técnico ni que se tomen las medidas necesarias para sus riesgos asociados, las decisiones sean justas, representativas o democráticamente aceptables.

Por eso, la discusión no debe reducirse en decidir entre democracia tal como la conocemos o la inteligencia artificial, como si fueran categorías incompatibles, no, consiste en establecer qué condiciones deberán cumplirse para que una tecnología diseñada específicamente para ayudarnos a deliberar mejor no termine adquiriendo, sin que nos demos cuenta y, de manera silenciosa, una autoridad o poder que nunca le otorgamos.

La antigua Ágora tenía sus limitaciones, cierto. Pero había algo que difícilmente podía ocultarse y era que quienes hablaban estaban allí, frente a frente a los demás, y sus palabras podían ser controvertidas públicamente. En una democracia virtual, asistida por los algoritmos e IA, esa interacción entre nosotros podría desaparecer, ya no siempre estaremos frente a quien piensa distinto, sino frente a un algoritmo que selecciona, ordena, resume y nos presente aquello que considera relevante.

Cuando la inteligencia artificial comienza a intervenir en la formulación del consenso, cabe hacernos una pregunta de legitimidad democrática ¿Es esta la democracia que queremos construir? Y, más importante aún, ¿Es esta la democracia para las generaciones que vienen?