Lic. Andrés Berazategui
La IA se muestra como una herramienta fundamental en seguridad, control y vigilancia; en el ámbito militar mejorando los sistemas de armas, diseñando escenarios y ayudando a los procesos de toma de decisiones; en los aspectos económicos reemplazando la atención personalizada, agilizando los procesos de análisis de mercado, aumentando la productividad y condicionando las preferencias de consumo; en cuanto a los estudios de opinión, la IA tiene capacidad para encontrar regularidades a partir de datos masivos pudiendo predecir comportamientos con gran precisión (sobre los que además puede ayudar a influir).
Menos clara resulta, a primera vista, la influencia que la IA tiene en aspectos culturales y especialmente en una cuestión muy sensible: cómo influye en la manera en que las personas abordan los debates, la información y las conclusiones a las que arriban cuando consultan los modelos de lenguaje de IA. Para decirlo más simple: la IA construye sentido. Y esto, como todo hecho cultural (o de “soft power”), puede tener enormes implicancias a largo plazo. ¿Pero acaso los modelos de lenguaje de IA no son neutrales? Pues bien, este es un punto crucial que debe quedar en claro: no, la IA no es neutral. Las aplicaciones de modelos de lenguaje de IA están condicionadas por aquellos ecosistemas culturales en los que fueron creadas y por la carga normativa que los desarrolladores les imprimen. La IA no es una técnica pura que expresa lenguajes, decisiones y conocimientos universales y neutrales potencialmente aprovechables por y para todos. No. La IA está condicionada por la acción humana. Al fin y al cabo fue creada y es desarrollada por seres humanos.
Veamos. La IA trabaja con algoritmos, es verdad, pero sus labores de procesamiento, relación de datos y filtrado de temas ni es aséptico ni es totalmente neutral. Estas tareas están mediadas por los conocimientos convencionales de Occidente y en general por la literatura en inglés, y esto es así porque fue en el mundo angloparlante donde comenzaron los primeros desarrollos de esta tecnología. Y así, necesariamente se selecciona y jerarquiza de manera parcial el saber (promoviendo ciertas conclusiones y dejando otras de lado) por lo que se influye desde una cierta perspectiva en la manera de abordar el conocimiento. Pero no solo eso: la IA también sufre la influencia activa de los propios desarolladores, quienes “entrenan” el uso de algoritmos con que funcionan los modelos de lenguaje de IA, por lo que proyectan sus propios juicios (a veces también condicionados por las legislaciones occidentales). Esto puede verse en la doble tarea que llevan a cabo los desarrolladores promoviendo ciertos valores y relegando otros.
Es difícil, por no decir imposible, encontrar una respuesta de ChatGPT, por poner un ejemplo, que cuestione la democracia, los derechos humanos o la economía de mercado. Como si fuera poco, la IA reproduce y defiende valores como la hiperproductividad, la libertad de conciencia o el multiculturalismo. ¿Existe acaso una muestra más cabal que esta de la perspectiva eurocéntrica (y anglosajona) que informa la IA? En un sentido más profundo, al ser modelos de relacionamiento de algoritmos, es lógico (si cabe la expresión) que la IA haga prevalecer los conocimientos mensurables, regulares y predecibles; y desde ya que esto atenta contra la capacidad humana de reflexionar e inteligir la realidad.
Como sea, con el advenimiento de las aplicaciones chinas en materia de IA, en Occidente (y en particular en Estados Unidos) ya se han prendido las alarmas. Más aún cuando las aplicaciones chinas en poco tiempo ya están igualando y de hecho están superando a las aplicaciones de Estados Unidos en algunos segmentos. Un informe del Lexington Institute, firmado por Rebecca L. Grant, advierte sobre las amenazas que contra los Estados Unidos ejerce un “eje de Estados autoritarios” con relación a las nuevas tecnologías digitales.
El informe pone principal atención en China, al fin y al cabo la principal amenaza de Estados Unidos en términos de competencia estratégica. Y más allá de los aspectos vinculados al poder duro con relación a esa competencia, el informe también denuncia que “China está construyendo sistemáticamente su propio ecosistema de IA de código abierto como un medio para difundir valores alineados con el Partido Comunista Chino (PCCh) y moldeando el desarrollo global de la IA. Las empresas chinas están exportando agresivamente modelos de IA que integran mecanismos de censura y propaganda en aplicaciones ampliamente utilizadas en todo el mundo, lo que otorga a China la capacidad de influir en las narrativas y restringir la libertad de expresión en espacios digitales clave”.
De allí que, entre sus conclusiones, el documento afirme que “en última instancia, nuestra búsqueda de liderazgo tecnológico no se trata solo de prosperidad económica o seguridad nacional: se trata de promover valores democráticos y contrarrestar el ascenso del autoritarismo en la era digital”, por lo que “Estados Unidos y sus aliados deben promover activamente la visión de una internet abierta y accesible que favorezca la libre circulación de información e ideas, reforzando los valores occidentales de libertad y democracia a nivel global”.
Como se ve, esta es una estrategia de anulación de la objetividad y la neutralidad políticas; de proyección hacia el ámbito digital de los intereses de una potencia contra otra, y no solo en la búsqueda de mayores dividendos en materia de seguridad y economía, sino también de promoción de valores y de construcción de sentido. Nada nuevo bajo el sol. Si es verdad aquello de que “quien nomina, domina”, los modelos de lenguaje de IA serán un campo de batalla estratégico de primer orden para controlar, vigilar y producir; pero también para condicionar nuestra visión del mundo y de lo que debemos preferir.
