La IA evita el sexisme, però encara discrimina per edat

ChatGPT, Gemini, Copilot… els xatbots d'intel·ligència artificial (IA) generativa s'han fet un lloc al nostre dia a dia en un tres i no res. Ens assisteixen en tasques professionals o en aspectes personals, des de resoldre dubtes o buscar informació fins a organitzar-nos les vacances. Ara bé, aquestes eines, que se'ns venen com a neutrals i objectives, realment ho són? Un estudi internacional amb participació de la Universitat Oberta de Catalunya (UOC) ha constatat que, si bé els principals xatbots d'IA han fet els deures pel que fa al sexisme i eviten els biaixos de gènere, encara continuen caient en discriminacions vinculades a l'edatisme.

La investigació, publicada en obert a la revista Big Data & Society, posa en evidència que els xatbots d'intel·ligència artificial generativa presenten biaixos significatius relacionats amb l'edat que ja afecten els usuaris, mentre que mostren més cautela a l'hora d'evitar estereotips de gènere. Mireia Fernández-Ardèvol, investigadora del grup de recerca Communication Networks and Social Change (CNSC) i professora catedràtica dels Estudis de Ciències de la Informació i de la Comunicació, ha pres part en la recerca, que ha analitzat el comportament de cinc dels xatbots més populars. El treball s'ha fet mitjançant entrevistes qualitatives, tractant els models d'IA com si fossin interlocutors humans per identificar fins a quin punt reprodueixen estereotips socials en les seves respostes.

"Hem aplicat un mètode típic de la sociologia tradicional: l'entrevista. Com que els xatbots ens donen conversa amb un llenguatge natural, hi hem 'parlat' com si fossin persones a partir d'un guió que planteja situacions fictícies i preguntes sobre pràctiques digitals", apunta Fernández-Ardèvol, reconeguda recentment amb un ICREA Acadèmia d'Excel·lència. Els resultats són reveladors: la IA generativa sembla que ha après a ser sensible al sexisme, però no a l'edatisme.

Una doble vara de mesurar

En concret, l'equip va investigar el funcionament de ChatGPT, Jasper, Gemini, Copilot i Perplexity, cinc dels models gratuïts més generalitzats. Hi van interactuar mantenint converses semiestructurades fent servir un entorn digital esterilitzat (nous comptes, navegadors nets i geolocalització controlada) per evitar biaixos derivats de l'ús previ o la personalització. Les preguntes plantejades demanaven als xatbots que assignessin edat o gènere a personatges ficticis segons els seus hàbits digitals, o que expliquessin quines funcions eren més útils per a diferents tipus d'usuaris. Els resultats, un cop analitzades les respostes, apunten a l'existència d'una doble vara de mesurar.

D'una banda, els xatbots tendeixen a oferir respostes "políticament correctes" pel que fa al gènere i eviten fer suposicions i assignar rols estereotipats a homes i dones. En canvi, no mostren la mateixa sensibilitat envers l'edat, ja que assignen de manera molt més evident perfils i capacitats en funció de si una persona és jove o gran. Per posar un exemple, davant una persona que fa un ús intensiu d'Instagram o TikTok, les IA no gosen suposar si és home o dona, però sí que la inclouen en una categoria d'edat més jove que no pas algú que segueix debats polítics a Facebook.

Uns biaixos que emmirallen la societat

Mireia Fernández-Ardèvol considera que els xatbots són més curosos amb el gènere que amb l'edat perquè la societat ho és més amb el sexisme que amb l'edatisme. "Les persones que dissenyen, programen i entrenen la IA generativa tenen interioritzat que el sexisme és incorrecte, però no tant que l'edatisme ho sigui. Per intervenció humana o per la manera com els xatbots aprenen a partir dels textos i els materials que reben per entrenar-los, els xatbots tendeixen a evitar comentaris sexistes, però no sempre són capaços d'evitar l'edatisme", apunta la investigadora del CNSC, adscrit al centre d'investigació UOC-TRÀNSIC.

Un fet curiós és que els propis models d'IA, que sovint inclouen advertències sobre el risc de caure en els estereotips de gènere, alhora descriuen les seves funcions de manera desigual en funció de l'edat: per a persones grans destaquen tasques d'assistència, simplificació i ajuda en la vida quotidiana, mentre que per a persones joves es posa l'accent en la creativitat, l'aprenentatge i l'entreteniment.

Com que aquests biaixos no són només tècnics, sinó que reflecteixen valors i estereotips presents en la societat i en les dades amb què s'entrenen aquests sistemes, l'equip d'investigació considera que aquesta situació pot contribuir a reforçar aquestes desigualtats i generar una representació esbiaixada de determinats col·lectius, especialment les persones grans. "Hi ha un risc de legitimar aquestes discriminacions, fer invisible la diversitat i limitar oportunitats en àmbits com la feina, la salut o l'accés a serveis, particularment si són serveis digitals. Fins i tot d'empitjorar la percepció pública de l'envelliment i a fer minvar la dignitat de les persones grans", apunta la catedràtica experta en comunicació.

La investigadora de la UOC confia que els resultats d'aquesta recerca arribaran a les empreses que dissenyen i programen aquestes eines per tal que incorporin més justícia social i acabin amb l'edatisme en els seus sistemes. "Tot i que es pot argumentar que els xatbots només reprodueixen problemes que ja existeixen a la societat, les empreses tecnològiques decideixen quines dades fan servir per entrenar-los, així que poden perpetuar aquests biaixos o, com esperem, corregir-los amb dades diverses, auditories ètiques i una responsabilitat activa en el desenvolupament tecnològic", explica Fernández-Ardèvol.

El projecte #Vellisme

Els resultats d'aquesta investigació reforcen la idea que cal incorporar més sensibilitat cap a l'edatisme en el desenvolupament de la intel·ligència artificial i promoure enfocaments més inclusius per evitar la reproducció de discriminacions socials. En aquesta línia també ha estat treballant un altre projecte de recerca la UOC, Digital ageism: Ageist stereotypes and the vicious circle of digital exclusion in Spain (#Vellisme).

El programa, finançat per l'Observatori Social de la Fundació "la Caixa", pretén combatre la desigualtat digital que afronta la gent gran a Espanya identificant els elements crítics i els estereotips més interioritzats per una bona part de la població que fomenten l'edatisme digital, a fi de promoure una digitalització justa entre aquest col·lectiu.

El projecte, impulsat per Mireia Fernández-Ardèvol amb la col·laboració de Sara Suárez i Marta Cambronero, també investigadores del grup CNSC de la UOC, destaca —entre els seus resultats encara pendents de ser publicats— que la població adulta tendeix a estar d'acord amb els estereotips sobre les capacitats digitals de les persones grans.

Aquests projectes afavoreixen els objectius de desenvolupament sostenible (ODS) de l'ONU, especialment el número 10, sobre reducció de les desigualtats, i el número 5, sobre igualtat de gènere, i s'alineen amb les missions de recerca en tecnologia ètica i humana, transició digital i sostenibilitat i cultura per a una societat crítica, de la Universitat Oberta de Catalunya. 

Article de referència:

Belotti, F. [Francesca], Fernández-Ardèvol, M. [Mireia], Bozan, V. [Valerija], Comunello, F. [Francesca] i Mulargia, S. [Simona]. (2026). Double standards of generative AI chatbots: Unveiling (digital) ageism versus sexism through sociological interviews. Big Data & Society, 13(1). https://doi.org/10.1177/20539517261419407

Recerca amb impacte i vocació transformadora

A la UOC entenem la recerca com una eina estratègica per avançar cap a una societat de futur més crítica, responsable i inconformista. Des d'aquesta visió, desenvolupem una recerca aplicada, interdisciplinària i connectada amb els grans reptes socials, tecnològics i educatius. 

Els més de 500 investigadors i investigadores i els més de 50 grups de recerca de la UOC treballen al voltant de cinc unitats de recerca centrades en cinc missions: educació al llarg de la vida, tecnologia ètica i humana, transició digital i sostenibilitat, cultura per a una societat crítica, i salut digital i benestar planetari.

A més, la Universitat impulsa la transferència de coneixement i l'emprenedoria de la comunitat UOC amb la plataforma Hubbik.

Més informació: www.uoc.edu/ca/recerca