Miguel Toro
6 de diciembre de 2022
La pregunta podrá ser
descabellada para algunos pero los cierto es que la informática ha penetrado en
los distintos sectores de la sociedad y en sus quehaceres cotidianos de forma
imparable. La población adulta, los estudiantes y hasta los niños han adoptado nuevas
formas de vivir y comportarse como consecuencia del impacto de la cultura
digital en las diferentes profesiones, en las tareas del hogar y hasta en el
sistema educativo.
Internet es una de las
palabras más nombradas en los últimos tiempos. Internet se ha convertido en el
medio de comunicación más extendido en toda la historia de la humanidad. Constituye
una fuente de recursos de información y conocimientos compartidos a escala
mundial. Es también la vía de comunicación que permite establecer la
cooperación y colaboración entre gran número de comunidades y grupos de interés
por temas específicos, distribuidos por todo el planeta.
Las máquinas, con los
algoritmos que las hacen funcionar, comenzaron a entender frases simples en
inglés en los años sesenta. Más tarde aprendieron a traducir textos más
complejos a cientos de lenguajes, filtrar nuestros correos electrónicos y
reconocer texto escrito a mano. Y hoy ya son capaces de ganarnos a juegos de
estrategia y lógica, entender lo que decimos y actuar en consecuencia, asistir
a los médicos y vencer a los mejores jugadores de ajedrez o de Go.
Un bot es un programa informático que imita el comportamiento humano, y un chatbot es el bot que simula una conversación con una persona. Los primeros puede decirse que existen desde hace 50 años. Y los segundos, los bots conversacionales, están brotando por todas partes. En la prensa a estos algoritmos se les denomina Inteligencias Artificiales (IA). Yo prefiero llamarlos algoritmos informáticos porque tienen mucha informática además de los algoritmos específicos de Inteligencia Artificial (IA), que es una parte de la informática.
Los chatbots se disparan
porque hoy ya hay herramientas para acceder y extraer información valiosa de
las conversaciones y procesarla, porque antes los algoritmos sólo podían
analizar datos y ahora son capaces de analizar el lenguaje natural de las
personas.
La razón de esta eclosión de
bots conversacionales es el vertiginoso avance de la inteligencia artificial en
los últimos años, en especial en lo que se refiere a la inteligencia cognitiva,
aquella que apuesta por que las máquinas perciban el entorno y resuelvan los
problemas como lo hace el sistema cognitivo de una persona.
Los programas más avanzados
son capaces de entender el discurso humano y mantener una conversación lógica y
seudointeligente, y además en varios idiomas, lo que también está
permitiendo grandes avances en la traducción automática y permite vislumbrar el
traductor instantáneo en el horizonte.
Hay chatbots que además de
entender el lenguaje y conversar son capaces de “leer” las expresiones faciales
de la persona que habla mediante la cámara frontal del dispositivo, información
que complementa la que extrae del lenguaje verbal y mejora la comunicación. Y algunos
son capaces de imitar la voz de cualquier persona hasta el punto de reproducir
su tono y los matices enfáticos o emocionales al leer un texto o hablar.
Pero lograr esta comprensión
automática de la información no es fácil porque el programa informático no sólo
tiene que leer o escuchar la información sino también relacionarla e
interpretarla para entenderla y poder actuar o responder en consecuencia. Si
durante una conversación alguien dice Sevilla, el algoritmo informático debe
poder distinguir si se refiere a la ciudad o al club de fútbol, y para ello no
sólo necesita poder procesar el lenguaje sino haber sido dotado de mucha
información, de definiciones de conceptos y conocimientos básicos para poder razonar
y extraer la solución del contexto, como lo haría una persona.
Las máquinas y los
algoritmos informáticos son el futuro y en muchos casos ya el presente, y sus
avances despiertan sorpresa, temor y, habitualmente, preocupación. ¿Qué
haríamos si las máquinas fueran capaces de todo? ¿Tendrán los humanos que
competir contra ellas? La respuesta optimista es que las máquinas, y los
algoritmos que las hacen operativas, se ocuparán de las tareas repetitivas en
las que los humanos no somos muy buenos. Serán una herramienta, no la
competencia.
Sin duda, el principal
miedo, conflicto o punto de interés para con los algoritmos informáticos y sus
avances, es su hipotética capacidad de tomar decisiones que jueguen en contra
de los seres humanos. La realidad es que, a diferencia de las historias que nos
cuentan algunas películas, las máquinas, los algoritmos, no son conscientes de
su propia existencia, no tienen sus propios objetivos y sentimientos. Esto está
a siglos de nuestras capacidades tecnológicas actuales.
Una recomendación, la número
26, es taxativa: “Los sistemas de IA no deberían utilizarse con fines de
calificación social o vigilancia masiva”. Otro de los consejos, el 36, estipula
que “un sistema de IA nunca podrá reemplazar la responsabilidad final de los
seres humanos y la obligación de rendir cuentas”. “Por regla general –añade el
texto– las decisiones de vida o muerte no deberían cederse a los sistemas de
inteligencia artificial”.
La recomendación 73
establece que los Estados deben garantizar la transparencia en la captación de
datos y la posibilidad para el ciudadano de acceder a los suyos y de borrarlos,
salvo excepciones.
Pero el debate es más
profundo.
¿Podrá existir un partido
político dirigido por un algoritmo informático y cuyo líder sea un chatbot?
Quizá suene a ciencia ficción o al argumento de una serie distópica, pero es un
hecho real: ese partido ya existe, y forma parte de la campaña electoral en
Dinamarca. Se llama Synthetic Party, y está liderado por Leader Lars, un
chatbot con el que cualquier ciudadano puede hablar.
Su objetivo es captar a los
daneses que normalmente no votan, a los antipolíticos, y al mismo tiempo, poner
la tecnología en el centro del debate político y establecer los mecanismos
necesarios para que rinda cuentas.
Los impulsores del Synthetic
Party aspiran a presentarse a las próximas contiendas electorales en
Dinamarca. Para ello piden que se cambie la ley para que un algoritmo se pueda
presentar como candidato a las elecciones. Lo que piden no es presentarse un
grupo de personas asesoradas por el algoritmo. Quieren que sea el algoritmo
informático el que se presente a las elecciones y tome la decisiones políticas
pertinentes a partir de la interacción que haya tenido con los electores.
Pero, ¿cuál es su ideología?
¿Progresista? ¿Conservadora? “El partido es sintético, lo que literalmente
significa que homogeneiza lo que parece contradictorio o dispar”, explica Asker
Bryld Staunaes, miembro del grupo de artistas Computer Lars y del centro
tecnológico MindFuture y principal creador e impulsor del Synthetic Party.
He descrito lo que ya
existe. Pero la pregunta es: ¿Queremos que un algoritmo informático se presente
a las elecciones? Mi respuesta es no. No por varias razones. La primera es que
la política es un quehacer humano básico. Es la actividad que usamos para tomar
decisiones globales. La política es inherentemente conflictiva en la medida en
que hay intereses contrapuestos en la sociedad y por lo tanto nos engañan
cuando propugnan una política sintética, neutra, por encima de los intereses.
En línea con las
recomendaciones de la Unesco creo que siempre tiene que haber una persona que
sea responsable de las recomendaciones que hace un algoritmo y más en el
terreno de la política. De la misma manera creo que debemos pedir que una
persona se responsabilice de cada decisión que un algoritmo puede tomar pero no
escudarse tras él. Ya sea al pedir una hipoteca, en la priorización en un
hospital, etc.
Reivindico la importancia de
la política, de la participación política y la necesidad de los políticos.
Defender que un algoritmo informático tome las decisiones es pensar que la
neutralidad es posible y que los políticos deberían desaparecer. Es un movimiento
antipolítico que, si lo pensamos con detalle, prefiere que las cosas sigan como
están.
