La V Jornada de la Cátedra UNESCO Pau Casals critica la falsa creatividad de la IA

La inteligencia artificial (IA) está transformando nuestro mundo a pasos de gigante: no hay sector económico o ámbito social que no haya sido tocado, para bien o para mal, por esta tecnología. Si en el mundo empresarial y económico la irrupción de la IA se ve como una herramienta para ganar en productividad y optimizar los procesos de trabajo, en otros ámbitos, como en el mundo del arte, se mira con recelo y desconcierto el impacto que podría tener.

La V Jornada de la Cátedra UNESCO Pau Casals, celebrada el 5 de mayo en el campus de la Universitat Oberta de Catalunya (UOC), reflexionó sobre el uso de la inteligencia artificial en la creación artística, una actividad enmarcada dentro de las actividades del 150.º cumpleaños del nacimiento de Pau Casals, músico avanzado a su tiempo que mantuvo un compromiso firme con la paz, la ética y la responsabilidad social.

Abrieron la jornada Àngels Fitó, rectora de la UOC; Jordi Pardo, director de la Fundación Pau Casals, y Joan Fuster-Sobrepere, director de la Cátedra UNESCO Pau Casals. "Casals fue un innovador y revolucionó la manera de tocar el violonchelo. También quiso que la música fuera accesible para todo el mundo y fue ejemplo de civismo y de paz. Hoy, la inteligencia artificial está redefiniendo los procesos creativos, el aprendizaje. Ante esta tecnología tan poderosa, la ética y la mirada crítica que mantuvo Casals son imprescindibles", defendió Fitó, que remarcó la importancia de renovar la alianza entre el humanismo, la cultura y la tecnología.

Creatividad humana versus automatismo

La primera parte de la jornada la protagonizó una mesa redonda con Joan Manuel del Pozo, presidente del Consejo de Educación de Cataluña; Jorge Luis Marzo, historiador del arte y profesor de la Escuela Bau, y Tatiana Afanador, investigadora en arte y tecnología, con la moderación de Tere Badia, directora de Hacte, el Hub de Arte, Ciencia y Tecnología de Barcelona. En el debate, que se centró en la creatividad humana versus la "creatividad" de la IA, los tres ponentes coincidieron en una visión crítica de la IA como tecnología con capacidad creativa.

Para Del Pozo, la creación está absolutamente conectada con la experiencia humana, hecho que hace imposible que la IA pueda crear, porque es un medio que vive de sensores y no tiene sensibilidad: "La creación viene de la compleja vida humana, está ligada a la encarnación, al coro, al hígado, a nuestro cuerpo... A la IA se le atribuye creatividad, y esto es falso", aseguró. Del Pozo, doctor en Filosofía y traductor de Cicerón al catalán, también alertó de la capacidad de las IA de imitar aquello que crean los humanos, poniendo sobre la mesa la necesidad ética y jurídica de frenar "el fenómeno de falsificación de la vida".

Afanador, investigadora, entre otros ámbitos, de las hibridaciones entre humanos y cíborgs, criticó la oscuridad de la caja negra de la IA y "el problema ético que representan los sesgos de sus impulsores, que son hombres blancos y occidentales". Para la investigadora, uno de los rasgos creativos de las personas es que podemos romper las reglas, "tal como hacemos los humanos cuando creamos", mientras que la IA no lo hace. "Nuestro cerebro es plástico y puede romper con el automatismo", dijo.

Jorge Luis Marzo fue el más crítico, advirtiendo de las limitaciones creativas de la IA y, también de las implicaciones políticas y éticas que puede tener su utilización en muchos ámbitos. "La IA es incapaz de utilizar la imaginación, que es la base del arte. Lo único que hace es convertirlo todo en datos. En el mundo de hoy, tenemos el arte secuestrado por los ingenieros", y puso como ejemplo el hecho de que, en la plataforma Flickr, el concepto langosta está definido como "plato de cocina", en lugar de como animal marino. Marzo alertó que el uso de algunos aspectos de la IA por parte de los gobiernos, como por ejemplo la identificación de ciudadanos con datos biométricos, puede conducir a discriminaciones de todo tipo. 

¿Qué sabe la IA de Pau Casals?

Uno de los momentos más creativos de la jornada fue la intervención de Xavier Serra, catedrático del Departamento de Ingeniería de la Universitat Pompeu Fabra y director del grupo de investigación Music Technology Group. Serra simuló en directo una conversación con Pau Casals, emulado por ChatGPT, con el objetivo de mostrar tanto las capacidades de la IA en la producción de conocimiento, como sus limitaciones en el aspecto artístico.

En la "conversación", Serra preguntó a la máquina sobre hechos de la biografía y del trabajo del intérprete. El investigador, que además de ingeniero informático es músico —toca el violonchelo, como Pau Casals—, enfatizó que la IA ofrecía fluidez, convicción y apariencia de conocimiento, pero que tiene importantes limitaciones que tenemos que tener en cuenta cuando la utilizamos: los sesgos en las respuestas —que, al mismo tiempo, "son los sesgos de los humanos", la tendencia a "quedar bien" y a dar una respuesta aunque no la conozca, y la dependencia del prompt, entre otros.

Pero una de las limitaciones principales, remarcó Serra, es su carencia de sensibilidad: "ChatGPT no escucha grabaciones, no puede analizar una pieza musical como lo haría un musicólogo ni entiende de interpretación: reproduce lo que los otros le han dicho porque le falta contexto cultural. La música —aseguró— no es solo un sonido, sino un fenómeno comunicativo y cultural profundo".

Según el ingeniero, hay dos retos principales en la interacción con la IA en la música: el hecho de que generará pérdidas de puestos de trabajo —por ejemplo, la música de la publicidad y de algunas bandas sonoras ya la puede hacer la IA—, y el hecho de que pone en crisis el concepto de creatividad. A pesar de todo, "la IA no sustituirá nunca los intérpretes: un músico tocando en directo es insustituible", aseguró.

Estocada a un sector que ya era precario

Lina Bautista (Linalab), música, artista y educadora; Ivan Paz, matemático, físico y fundador de colectivos de creación digital como Axolot, y Lluís Nacenta, director del Disseny Hub y músico, protagonizaron la mesa redonda de los artistas, moderada por Laia Blasco, directora del grado de Artes de la UOC. Todos estuvieron de acuerdo en el hecho de que la IA ha transformado la industria musical, pero que en el plan creativo no ha conseguido "nada que merezca la pena". Así, Paz remarcó que "hay que separar la industria de la posibilidad creativa de la tecnología. ¿Alguien recuerda alguna canción de éxito compuesta por la IA? Respecto a los músicos que utilizan la IA para crear, no les interesa la tecnología, sino la música. En último término, la decisión estética siempre la toma el artista, no la máquina".

A la crítica de que la IA está destruyendo el sector musical, Nacenta recordó que "el músico ya era precario antes, nuestra sociedad no ha tenido nunca ninguna consideración hacia el artista, como lo hace, por ejemplo, con los médicos". Tanto Nacenta como Paz, pero, no descartan que la IA pueda, en un futuro, acontecer una nueva forma de expresión artística y sea capaz de componer música: "Hoy nadie duda de que el cine sea un arte. Cuando los Lumière lo hicieron por primera vez, nadie lo reconoció. No sabemos qué tipo de música extraña e interesando podrá generar algún día este monstruo de la IA", dijo Nacenta.

Por su parte, Bautista habló del proyecto Toplap, basado en la práctica del Live Coding, un proceso en que músicos como ella interrumpen el proceso de la máquina a la hora de crear e intervienen como artistas. Se pudo ver una muestra en directo al final de la jornada, en la cual la artista protagonizó una performance en la que "hacía música" con un ordenador, manipulando en directo el código de unas secuencias musicales.