"El sentido común es la gran diferencia entre la inteligencia humana y la artificial"

Invitado por el centro de investigación UOC-DIGIT de la Universitat Oberta de Catalunya (UOC), el filósofo Daniel Innerarity desmenuza su última obra, donde alerta de la "histeria digital" y analiza por qué los procesos políticos tradicionales son insustituibles por un sistema basado en las sugerencias de la inteligencia artificial. Una teoría crítica de la inteligencia artificial (2025) cuestiona la promesa de una "democracia de las recomendaciones" que, a partir de nuestras huellas digitales, pretenda gobernar mejor que las urnas y el debate público.

Innerarity es catedrático de Filosofía Política, investigador Ikerbasque en la Universidad del País Vasco, director del Instituto de Gobernanza Democrática y titular de la Cátedra de Inteligencia Artificial y Democracia en el Instituto Europeo de Florencia. Su último libro, galardonado con el Premio de Ensayo Eugenio Trías, sirve de base para una reflexión urgente sobre cómo la tecnología está redefiniendo los fundamentos de nuestra convivencia.

Esta entrevista es la adaptación de una conversación del filósofo con Ana Sofía Cardenal, catedrática de la UOC en los Estudios de Derecho y Ciencia Política y coordinadora del grupo de investigación eGovernanza: administración y democracia electrónica (GADE).

Abre su libro preguntándose qué distingue la inteligencia humana de la artificial. Si tuviera que quedarse solo con una diferencia clave, ¿cuál sería?

La diferencia fundamental es que los humanos tenemos sentido común. Bueno, algunos no mucho. El sentido común es una cualidad difícil de explicar, pero fácil de entender. Es la capacidad de hacerse cargo del contexto, de la situación, de manejarse bien con información incompleta y completarla nosotros de alguna manera. Eso las máquinas no lo tienen; se lo tenemos que dar todo explícitamente.

En su obra introduce dos ideas nuevas: la "gobernanza algorítmica" y la "democracia de las recomendaciones". ¿Cómo las definiría de forma sencilla?

La gobernanza algorítmica es el proceso de toma de decisiones políticas mediante algoritmos para manejar la complejidad que sobrepasa a los humanos. En el libro establezco una serie de condiciones y límites a esa gobernanza. La democracia de las recomendaciones propone aplicar a la política los sistemas de sugerencias de plataformas como Amazon, deduciendo a partir de nuestras huellas digitales lo que la gente "realmente" quiere, sin mediación ideológica. Le hago una crítica porque hay una confusión profunda sobre qué son las preferencias y qué tipo de individuo está presente en esos sistemas. Me parece que es inadecuado como sustituto de la democracia.

Explica que la gobernanza algorítmica todavía no forma parte plena de la política. ¿Existe el riesgo de que estos conceptos creen confusión al adelantarse a una realidad que aún está por llegar?

Va a llegar, es imparable. La presencia de algoritmos en la toma de decisiones será cada vez más intensiva y generará problemas. Ya hubo casos graves, como uno en Holanda donde un algoritmo interpretó como fraude el error de unos migrantes que no dominaban el idioma y el sistema de ayudas sociales rechazó su solicitud. Un humano lo habría entendido al momento viendo su incapacidad de comunicarse en holandés. La democracia de las recomendaciones es más utópica, pero no me extrañaría que en los círculos de poder tecnológico se esté soñando con imponer ese modelo, como ya vemos en otros ámbitos donde se sustituye el servicio público por el modelo orientado al cliente. Debemos tener argumentos conceptuales armados para algo que va a venir de manera muy impetuosa.

Recorre la historia de la automatización en política, desde Hobbes hasta la burocracia moderna. ¿Qué tiene de distinto la algoritmización actual? ¿Por qué podría volver la gobernanza más opaca o difícil de controlar?

Es otro tipo de opacidad; esta tecnología añade un grado de opacidad radical. No terminamos de entender bien por qué ha tomado una decisión. Al burócrata le podíamos pedir una explicación y podía darla o no. Pero estamos ante máquinas que ellas mismas tendrían muchas dificultades para explicarlo. Hay una opacidad general en el sistema. Mi propuesta es distinguir tipos de opacidades y exigir la transparencia correspondiente a cada una.

Critica la idea de que basten los "complementos éticos" para controlar la IA. Si la moratoria no es realista y la ética no es suficiente, ¿qué camino propone para avanzar hacia una IA realmente democrática?

Tendría que ser una inteligencia artificial en cuyo proceso de vida hubiera una intervención expresa, incluso política, de la gente. La democracia de las recomendaciones viene a sustituir la voluntad explícita de la gente por la voluntad implícita del consumidor. Lo que la gente quiere depende de lo que dice la gente que quiere y no de lo que nosotros deducimos. La democracia no es una pérdida de tiempo: es una garantía frágil, cuestionable y mejorable de que a donde llegamos es un sitio en el que vale la pena estar y que va a contar con nuestra aceptación. Ese es el modelo. La utopía democrática tiene que ver con eso.

Una de sus alertas es que los algoritmos nos resten autonomía personal. Esta preocupación ya apareció con tecnologías anteriores, como la radio o la televisión. Pero ¿no es cierto que nuestras opiniones siempre han sido influenciables, con o sin tecnología? ¿Es real la idea de un sujeto totalmente autónomo y reflexivo? ¿O es más bien una ficción útil?

Creo que estamos ante un contexto que se puede denominar "histeria digital". Nos han convertido en sujetos histéricos, con expectativas desmesuradas, pero también es un pánico que no se corresponde con la realidad. Mi libro, si se permite la analogía, es un ansiolítico para sujetos digitales. Es un tranquilizante. Necesitamos reflexionar bien sobre los conceptos: inteligencia, control, transparencia, democracia. Una reflexión sobre estos nos permitirá aquilatar nuestras expectativas y nuestros temores.

También advierte del impacto de los algoritmos en la deliberación democrática. ¿Está la democracia deliberativa más amenazada hoy que en la era de los grandes medios? ¿O es también una ficción necesaria, como la del sujeto autónomo?

Sí, es una ficción, pero es una ficción que al menos nos sirve para establecer un límite a la mera agregación de intereses. Yo no sé muy bien cómo se hace una democracia deliberativa, pero sabemos que la mera agregación de intereses produce muchas veces daños a los propios interesados o resultados subóptimos. Debemos pensar qué añadido le hace falta a la agregación y qué estrategias, qué instituciones, qué procedimientos la pueden mejorar.

Resulta interesante su idea de la democracia como sistema que corrige la falibilidad humana. Pero quizá sea una visión muy sofisticada. ¿Cree que es una forma de entender la democracia que realmente comparte una parte significativa de la ciudadanía?

En el fondo, es una idea vieja de Spinoza: es poco verosímil que los seres humanos permanezcamos siempre unánimes en el mismo error. La democracia es un invento para hacer eso todavía más inverosímil. En una democracia hay gobierno, oposición, libertad de expresión y de crítica… Sin ser un fanático de la democracia epistémica, creo que tendemos a darle un valor normativo y a veces no atendemos suficientemente sus ventajas epistémicas. Los problemas del mundo necesitan más conocimiento que buena voluntad; son en buena medida problemas más de ignorancia que de falta de liderazgo.

Plantea la coexistencia de dos legitimidades: la procedimental y la de resultados. ¿Cree que parte de la crisis actual de la democracia se debe a que mucha gente solo reconoce la legitimidad basada en los resultados?

Eso indica que tenemos mucho trabajo por delante. En estos momentos, la presión para que el resultado sea el único criterio es muy fuerte. Me he llevado sorpresas al encontrar a gente muy formada y demócrata que comienza a considerar que el modelo chino "tampoco está tan mal". Tenemos esa tentación como sociedad. La debemos compensar de dos maneras: los académicos, formulando una teoría atractiva de los otros aspectos de la democracia, como los procedimientos y otro tipo de legitimación, y el sistema político, dando mejores resultados. Me resisto a que los académicos llevemos todo el peso de la responsabilidad de arreglar esta disfunción; si el sistema político no es capaz de resolver problemas agudos y persistentes como el cambio climático y la desigualdad, va a verse cada vez más impotente frente a quienes quieren arrojarlo todo a cambio de resultados.

La UOC está inherentemente ligada al uso de la tecnología. ¿Qué principio fundamental debería guiar, desde su visión, la aplicación de la IA en la educación para que esta potencie, y no limite, la autonomía y el pensamiento crítico del estudiantado?

No creo que haya contradicción en que el medio básico de la UOC sea un entorno digital y que el tipo de formación que se dé incorpore ese tipo de valores. Con la pandemia percibimos que la digitalización era muy útil para ciertas cosas y tenía limitaciones para otras. La UOC lo sabe desde hace mucho más tiempo. Mi respuesta sería que no debemos ver una incompatibilidad. El tipo de estrategias cognitivas que fomentamos en el alumnado pueden ser completamente compatibles con que el formato sea digital o presencial.

Investigación con impacto y vocación transformadora

En la UOC entendemos la investigación como una herramienta estratégica para avanzar hacia una sociedad de futuro más crítica, responsable e inconformista. Desde esta visión, desarrollamos una investigación aplicada, interdisciplinaria y conectada con los grandes retos sociales, tecnológicos y educativos. 

Los más de 500 investigadores e investigadoras y los más de 50 grupos de investigación de la UOC trabajan alrededor de cinco unidades de investigación centradas en cinco misiones: educación a lo largo de la vida, tecnología ética y humana, transición digital y sostenibilidad, cultura para una sociedad crítica, y salud digital y bienestar planetario.

Además, la universidad impulsa la transferencia de conocimiento y el emprendimiento de la comunidad UOC con la plataforma Hubbik.

Más información: https://www.uoc.edu/es/investigacion