¿En qué dirección política nos empuja la IA? ¿Hace que el mundo sea menos democrático y más autoritario y, si es así, quiere decir que estamos indefensos?
Miguel
Toro
6 de noviembre de 2026
Estamos viendo cómo el PP ha lanzado una ofensiva en redes
sociales contra el PSOE con un vídeo en
el que suplanta con inteligencia artificial (IA) la identidad, entre otros, de
Begoña Gómez, José Luis Rodríguez Zapatero y Santos Cerdán. La jurisprudencia
española y la europea, según algunos juristas, han establecido unos enormes
márgenes para el desarrollo de la libertad de expresión, aún más amplios en el
debate político. Es la ley actual, pero ¿esta es la democracia que queremos,
usar la IA para propagar noticias falsas? Aunque en este caso se indique que
han sido generadas con IA siempre queda la duda. ¿Qué derechos tiene aquel al
que se ha suplantado su identidad y se le han atribuido ideas para intentar
manipular el voto? ¿Todo vale con tal de dejar mal al rival?
Si llegamos a un punto en el que ya no
sea posible distinguir la verdad de la falsedad la democracia está
desapareciendo: peor aún, es exactamente lo que necesita el totalitarismo. En
la medida en que la IA contribuye a crear esta situación, por ejemplo, al
aumentar la cantidad de desinformación, debilita la democracia y contribuye, en
última instancia, a crear las condiciones para el auge del totalitarismo.
No hay duda de que la IA puede conllevar
efectos positivos para la democracia. Por ejemplo, puede ayudar a los votantes
a tomar decisiones al informarlos mejor; a detectar el fraude y la corrupción;
y se puede utilizar contra el sesgo en sus diversos aspectos. Pero hoy día está
ampliamente reconocido que existen problemas serios con sus usos. Fenómenos
como la manipulación de las elecciones, la desinformación, los filtros burbuja,
los gobiernos que utilizan la IA para socavar el imperio de la ley, los sesgos
contra algunas categorías de ciudadanos, y las asimetrías de poder entre las
grandes tecnológicas y los ciudadanos ordinarios.
Eso nos lleva a la pregunta: ¿en qué
dirección política nos empuja la IA? ¿Hace que el mundo sea menos democrático y
más autoritario y, si es así, quiere decir que estamos indefensos? ¿Es
inevitable el tecnoautoritarismo? Estamos convencidos que la relación entre la
tecnología y las formas de organización social y política no es determinista.
La tecnología no conduce necesariamente al poder centralizado, a la opresión y
a la violencia, pero, aunque podamos ser conscientes de ello hay que ser
activos para que la tecnología se oriente hacia dónde queremos.
El insulto ya no es un accidente en el
discurso político. Hace tiempo que dejó de serlo. Antes había exabruptos en un
debate caliente en el debate político y pensabas que había sido un error, una
expresión no calculada, no pensada. Ahora es otra cosa: es el recurso, como
bien ha mostrado en su visita a España Javier Milei, presidente de Argentina. Y
a veces da la impresión de que es el único argumento que le queda. Las redes
sociales potenciadas por los algoritmos de la IA han ayudado mucho.
La IA
interviene también en la democracia mediante la vigilancia de los ciudadanos. Vigilancia
que ha sido muy bien descrita por Shoshana Zuboff en su libro La era del capitalismo de la vigilancia. Google
demostró que la información obtenida, que tanto había enriquecido a muchos
mediante la personalización de la publicidad, podía ayudar también a los
candidatos a ganar elecciones. Según el New
York Times, ya en el 2012 el equipo de campaña de Obama conocía «por su
nombre, su dirección, su raza, su sexo y su nivel de ingresos a todos y cada
uno de los votantes indecisos del país a quienes necesitaba convencer de que
votaran a Obama», y había averiguado cómo hacer anuncios televisivos dirigidos
a esos individuos como público diana.
La
injerencia de la IA en la democracia sigue en aumento. En las elecciones
brasileñas Lula, el presidente brasileño, ha acusado al gigante tecnológico
estadounidense Meta, empresa matriz de Facebook e Instagram, de interferir en
las elecciones presidenciales del país a favor de su rival de derecha, Flavio
Bolsonaro.
Mientras tanto los grandes oligarcas
tecnológicos discuten sobre si la IA debe acelerarse o ralentizarse. Algunos
han planteado la necesidad de ralentizar el desarrollo de los llamados modelos
de frontera, apelando a los riesgos asociados a sistemas cada vez más
potentes. Según Ramon López de Mántaras, la cuestión, sin embargo, no debería
ser simplemente frenar la IA, sino preguntarnos hacia dónde queremos que
avance.
Según Acemoglú en Desarrollando IA en favor de los
trabajadores, el enfoque central del campo de la IA es la
Inteligencia Artificial General (IAG), es decir, construir máquinas que superan
todas las capacidades humanas. Este objetivo reduce la probabilidad de que las
empresas destinen recursos al desarrollo de innovaciones de IA que beneficien a
los trabajadores. No es responsabilidad de las empresas individuales garantizar
que nuestro futuro, intensivo en IA, funcione bien para los trabajadores, pero
es de interés colectivo asegurar que esto suceda.
La tecnología de IA y las redes sociales
están en manos de muy pocas personas que son las únicas con dinero suficiente
para poder construirlas y la están usando para propagar ideologías de
ultraderecha. Si no actuamos la IA producirá una concentración aún mayor de la
propiedad y la capacidad de decisión que esto produce. Para defender la democracia
necesitamos limitar su poder y revisar la forma en que éste se distribuye
actualmente en la sociedad.
Sin embargo, los llamamientos en favor de
más democracia y cambio político suenan a menudo como si el cambio social fuera
solo cuestión de voluntad y acciones de los individuos. Consideremos el «yes we
can» de Obama o el activismo climático contemporáneo, que apela a la (buena)
voluntad de políticos individuales. Este énfasis en los individuos y en los
humanos es engañoso. La clave del cambio social no es solo el voluntarismo y el
activismo humano e individual (a pesar de que es necesario algún tipo de liderazgo),
sino fundamentalmente el cambio de las instituciones políticas y,
especialmente, la orientación de las tecnologías. Y el cambio de las
instituciones políticas se alcanza con mayorías parlamentarias que a su vez se
consiguen organizándose políticamente con objetivos a medio y largo plazo. Si
realmente queremos democracia, será mejor que creemos tecnologías más
democráticas. Necesitamos una «IA democrática» e, incluso, una «IA para la
democracia».
Como en democracia hay que obtener
consensos amplios para reformas de calado, las múltiples trampas ideológicas y
burocráticas bloquean los intentos de reforma amenazando con el caos. Y nadie
quiere caos. Porque podría llevar al fascismo. La provocación neofascista,
financiada por las élites globales en las redes y en la sociedad, puede llegar
a desvirtuar el cambio induciendo a la violencia, la madre de todas las
derrotas. Es tiempo de una política serena y valiente, y que a la vez se atreva
a conectar con los problemas de la gente.
Las fuerzas
progresistas tienen que atreverse a desafiar el poder de las grandes tecnológicas.
Es muy
relevante la propuesta de Bernie Sanders. Según
él, «La IA no puede ser solo para que tres multimillonarios sean más ricos. Si
la pagamos todos con nuestros datos y trabajo, las ganancias deben ser para
todos: menos horas, más salud, más democracia». Su programa en este tema se puede
resumir en: romper monopolios y que la IA beneficie a trabajadores, no solo a
multimillonarios.
De todas formas, algo va cambiando. Mark
Zuckerberg tiene motivos para preocuparse. El fundador y consejero delegado de
Meta lleva varios días discutiendo con su empresa si se va de California para
evitar el impuesto a los ultrarricos que se prepara en el estado. Si prospera
la iniciativa demócrata, los contribuyentes que tengan un patrimonio superior a
los mil millones de dólares, como Zuckerberg, deberán pagar el 5 % del total de
sus bienes. Además, muchos tribunales estadounidenses están llevando a cabo una
ofensiva judicial contra la empresa por causas muy diversas. La última
sentencia de un juez de Nuevo México obliga a Meta a pagar 25.000 millones de
dólares por engañar a los usuarios sobre la privacidad de sus datos, ya que
permitió que la información recopilada por Facebook fuera utilizada por la
consultora política Cambridge Analytica en la primera campaña de Trump.
Debemos pedir a los partidos progresistas
que se atrevan a desafiar a las grandes tecnológicas americanas y que pongan en
marcha un programa público para desarrollar estas tecnologías Europa.
Nota: algunas ideas se han tomado de Astrolabio uno de los newsletters
de El País.
