Control o democracia: ética e inteligencia artificial en la política

Nadie habría previsto la realidad actual, dominada por algoritmos, modelos generativos, robots humanoides, agentes de IA y chips cerebrales. Estas herramientas poseen un alto potencial transformador para la sociedad, procesan información y toman decisiones autónomas en cada ámbito de la vida, incluida la política.

¿Podrá la IA fortalecer la democracia o se convertirá en un instrumento de control?

Su implementación en la política abre muchas posibilidades. Facilita el análisis masivo de datos para diseñar políticas públicas más eficientes y detectar potenciales manipulaciones electorales. Además, se podría combatir la desinformación en redes y mejorar la transparencia. Imaginemos plataformas interactivas donde la participación ciudadana no solo se limite a opinar, sino que también convierta las ideas populares en acciones concretas. En este debate ya existen casos emblemáticos que muestran el potencial de la IA como “candidata”:

●  En Japón, la IA “Michihito Matsuda” se postuló simbólicamente a la alcaldía de Tama, para optimizar la administración pública mediante tecnología.

●  En Rusia, el proyecto “Alisa” buscó generar discusiones sobre el rol de la IA durante las elecciones presidenciales.

●     En Dinamarca, el Partido de la IA analizó datos ciudadanos para proponer políticas, aunque no logró representación parlamentaria.

Estos ejemplos evidencian el interés en integrar la IA a la toma de decisiones, aunque persisten barreras éticas y legales. Encuestas europeas indican que 34% de los jóvenes menores de 35 años confía en que la IA pueda votar en su nombre, 31% de los europeos considera que la IA ya influyó en sus decisiones de voto y 75% apoya su aplicación en operaciones de seguridad.

 Pero las posibilidades negativas son también muy reales. Si estos sistemas cayeran en manos equivocadas, podrían utilizarse para vigilancia masiva, censura o manipulación de la opinión pública. Los algoritmos en redes sociales suelen agravar la polarización social al encerrar a los usuarios en cámaras de eco. Yuval Noah Harari advierte en Nexus que  la IA podría debilitar la capacidad de autocorrección de los sistemas democráticos. Si dejamos que las máquinas controlen el flujo informativo, ¿quién las controla? Un error en su programación o en los datos empleados podría perjudicar a grupos específicos, lo que pasa en Facebook y YouTube, cuyos algoritmos frecuentemente priorizan contenidos extremos.

La IA puede reforzar sesgos preexistentes, discriminando a sectores vulnerables o priorizando otros.

En el ámbito ético, el dilema no es menor. ¿Podemos diseñar una ética “desde la IA”? Mariano Sigman y Santiago Bilinkis, en su libro Artificial, cuestionan los límites de delegar la toma de decisiones humanas en sistemas automatizados, invitándonos a pensar si ¿estamos preparados para entregar nuestro voto a un programa que promete representarnos mejor que nosotros mismos?, o si ¿deberíamos confiar a un sistema autónomo la asignación de recursos sin supervisión humana? Estos interrogantes ponen en jaque la relación entre el progreso tecnológico y los valores democráticos. ¿Quién domina la IA política? ¿Estaríamos dispuestos a delegar nuestras elecciones en un programa?

Frente a estos riesgos, la Unión Europea avanza con una regulación que establecería un ente evaluador del impacto algorítmico, paso clave para lograr un marco ético global que oriente el desarrollo y la aplicación de la IA en el ámbito político. La regulación propone obligaciones de transparencia, protección de derechos ciudadanos y mitigación de sesgos, lo que debería replicarse a escala internacional.

¿Seremos capaces de adoptar un enfoque ético y democrático o permitiremos que la IA ahonde las desigualdades y consolide mecanismos de control? Este debate es urgente ya que cada avance sin la debida regulación puede generar un nuevo desafío ético. La IA no es una moda, como señala Mario Pergolini: “Está lloviendo… o te mojás o agarrás un paraguas”. El futuro de la política y de la sociedad depende de lo que decidamos hoy, ¿Estamos listos para el desafío de la IA política?