La UOC desenvolupa una guia per conscienciar dels biaixos de gènere i diversitat de la IA a classe

Les eines d'intel·ligència artificial generativa estan transformant l'ensenyament i l'aprenentatge. Ja és habitual que els estudiants es recolzin en xatbots d'IA com ChatGPT, Gemini o Claude per generar idees, redactar textos o buscar informació en el context del seu aprenentatge. Segons els experts, això planteja un repte, ja que limita la capacitat de desenvolupar un pensament crític i de reflexionar, a més que, en no poques ocasions, aquestes eines proporcionen informació falsa i esbiaixada quant a gènere i diversitat. 

Així i tot, la IA ofereix grans oportunitats per a l'educació i la creació d'entorns d'aprenentatge personalitzats, com reconeixen institucions internationales, entre les quals la UNESCO. El projecte EDUGENIA, liderat per les investigadores Milagros Sáinz, del grup de recerca GenTIC del centre de recerca UOC-TRÀNSIC, de la Universitat Oberta de Catalunya (UOC), i Marie-Monique Schaper, professora Serra Húnter i lectora del grup GRIHO a la Universitat de Lleida, proposa un conjunt de recursos per afrontar el desafiament que representa la incursió de les eines d'IA a l'aula, amb un enfocament especial en la perspectiva de gènere.

El producte final és una guia oberta i pionera en el context espanyol, ja que fins ara no existien materials orientatius que aprofundissin en les implicacions educatives de les eines d'IA des d'una visió ètica ni que proporcionessin, com fa EDUGENIA, exemples pràctics per treballar a classe. La iniciativa ha comptat amb el suport de l'Institut de les Dones organisme autònom adscrit al Ministeri d'Igualtat i es va desenvolupar durant dotze mesos, entre el 2023 i el 2024.

Comprendre l'impacte social de la IA

"Es corre el risc que caiguem en una excessiva dependència de les eines d'IA, i que la gent prengui decisions únicament a partir de les respostes que proporcionen. L'ús no controlat de la IA pot implicar conseqüències nefastes. Per això, és imprescindible que estudiants i professors tinguin un coneixement crític i informat sobre l'ús d'aquestes eines", explica Milagros Sáinz. La guia EDUGENIA utilitza principis de la pedagogia feminista per corregir les discriminacions que reprodueix la IA, provinents, en última instància, dels biaixos culturals presents en la nostra societat. 

Per Marie-Monique Schaper, "l'arribada de la IA ens obliga a replantejar-nos què significa ensenyar tecnologia. Tradicionalment, l'educació en informàtica s'ha centrat a aprendre eines i habilitats tècniques. No obstant això, cada vegada hi ha més consens que també ha d'ajudar l'alumnat a comprendre l'impacte social d'aquestes tecnologies i a desenvolupar-hi una mirada crítica. Amb EDUGENIA, proporcionem eines per analitzar els biaixos dels algorismes i impulsem a reflexionar sobre qui dissenya aquestes tecnologies, quines dades utilitzen i a qui poden beneficiar o perjudicar. Tot això permet debatre sobre igualtat, diversitat i justícia social des de situacions reals".

En l’arrel d’EDUGENIA hi ha el projecte #ACTFEM, creat i impulsat per l’organització d’arts escèniques i teatre comunitari Plàudite Teatre. En el projecte #ACTFEM, les investigadores van treballar amb dones joves en risc d’exclusió en activitats d’aprenentatge amb IA i altres tecnologies emergents. A partir d’aquesta experiència i en constatar l’escassetat de recursos disponibles, Plàudite Teatre va promoure l’inici de una recerca en col·laboració amb GenTIC, de la Universitat Oberta de Catalunya, i GRIHO, de la Universitat de Lleida, per crear la guia EDUGENIA.

La recerca d’EDUGENIA es va articular al voltant de tres eixos: una revisió narrativa d’articles científics sobre IA, educació i gènere; una anàlisi dels marcs normatius europeu, espanyol i català sobre IA i igualtat; i, finalment, un estudi amb la participació de 36 docents d’educació secundària de Barcelona i Lleida, juntament amb deu joves d’#ACTFEM, per conèixer les necessitats i experiències relacionades amb l’ensenyament de la IA amb perspectiva de gènere.

Entre les qüestions que es van tractar en aquestes sessions pràctiques hi ha les implicacions ètiques de l'ús d'influenciadors creats amb IA, que perpetuen estereotips de gènere, promouen la cosificació i exalten el luxe i el poder, a més de la sobreexposició de la intimitat. També es van treballar tècniques per a la formulació d'indicacions (prompts), així com la gestió del risc de biaixos i al·lucinacions. El projecte Gender Shades, per exemple, va demostrar que les eines d'IA de grans corporacions com IBM, Microsoft i Face++ són més precises a l'hora d'identificar rostres d'homes que de dones, i també identifiquen millor persones blanques que persones negres. Són només alguns exemples de les discriminacions que pot comportar un ús no crític de la IA en la societat.

Objectiu: convertir la IA en una aliada a l'aula

El conjunt d'eines (toolkit) EDUGENIA inclou recomanacions, bones pràctiques i recursos per controlar els biaixos de la IA, com els principis d'aprenentatge automàtic conscient de l'equitat (fairness-aware machine learning) (Ferrara et al., 2024), que permeten identificar discriminacions en els xatbots d'IA relacionades amb el gènere, l'ètnia o la situació socioeconòmica. A més, introdueix termes i nocions sobre intel·ligència artificial, un resum del marc normatiu-legal sobre IA per entendre com es pot fer servir aquesta tecnologia de manera ètica a l'aula, i casos pràctics i orientacions sobre la utilització d'aquesta tecnologia com a eina educativa.

La guia proposa activitats diverses per a diferents nivells educatius. Per exemple, analitzar a l'aula diversos oficis i investigar les desigualtats de gènere en diferents professions utilitzant un assistent d'IA; debatre sobre com els algorismes poden promoure biaixos de gènere en els processos de selecció de personal, etc. Una altra activitat proposa iniciar l'alumnat en l'ús d'eines d'IA rellevants per a l'educació física, analitzar dades des d'una perspectiva de gènere i reflexionar sobre els aspectes ètics i pedagògics d'aquestes aplicacions. En l'àmbit de la filosofia, s'anima l'alumnat a utilitzar ChatGPT per analitzar textos filosòfics, a debatre problemes ètics de la IA i a analitzar exemples de gènere i socials en dades d'entrenament d'aquestes tecnologies, i com afecten els resultats que proporcionen. Són només algunes de les activitats que proposa la guia EDUGENIA, que, a partir del curs que ve, està previst que es difongui àmpliament entre institucions educatives i associacions de famílies, a més d'altres entitats del món educatiu. 

Les autores esperen que la guia arribi a la màxima quantitat d'organitzacions possible per fomentar entre el professorat un ús crític i ètic de les eines d'IA a l'aula. "La clau està a ser conscients dels riscos, fomentar una mirada crítica i desenvolupar entorns educatius que garanteixin la inclusió, l'equitat i la igualtat de gènere", afirmen.

Aquesta recerca contribueix als objectius de l'Agenda 2030 per al desenvolupament sostenible de les Nacions Unides, números 4, Educació de qualitat, 5, Igualtat de gènere i 9, Indústria, innovació i infraestructura. A més, està alineada amb les missions de recerca de la UOC L'educació del futur, Cultura per a una societat crítica i Tecnologia ètica i humana.

Guia EDUGENIA:

• Text complet

• Autores: Milagros Sáinz Ibáñez, Marie-Monique Anastasia Schaper, Miruna Bivol, Rocío Segura Nebot, Beatriz Soledad López Pérez, María José Romano Serrano, Rosa María Gil Iranzo, Mercè Teixidó, Adela Rodríguez de Corti (il·l.)
• Edició: Ministeri d'Igualtat, Institut de les Dones
• Any de publicació: 2026

Recerca amb impacte i vocació transformadora

A la UOC entenem la recerca com una eina estratègica per avançar cap a una societat de futur més crítica, responsable i inconformista. Des d'aquesta visió, desenvolupem una recerca aplicada, interdisciplinària i connectada amb els grans reptes socials, tecnològics i educatius. 

Els més de 500 investigadors i investigadores i els més de 50 grups de recerca de la UOC treballen al voltant de cinc unitats de recerca centrades en cinc missions: educació al llarg de la vida, tecnologia ètica i humana, transició digital i sostenibilitat, cultura per a una societat crítica, i salut digital i benestar planetari.

A més, la Universitat impulsa la transferència de coneixement i l'emprenedoria de la comunitat UOC amb la plataforma Hubbik.

Més informació: www.uoc.edu/ca/recerca