La UOC desarrolla una guía para concienciar de los sesgos de género y diversidad de la IA en clase

Las herramientas de inteligencia artificial generativa están transformando la enseñanza y el aprendizaje. Ya es habitual que los estudiantes se apoyen en chatbots de IA como ChatGPT, Gemini o Claude para generar ideas, redactar textos o buscar información en el contexto de su aprendizaje. Según los expertos, esto plantea un reto, ya que limita la capacidad de desarrollar un pensamiento crítico y de reflexionar, además de que, en no pocas ocasiones, estas herramientas proporcionan información falsa y sesgada en cuanto a género y diversidad. 

Aun así, la IA ofrece grandes oportunidades para la educación y la creación de entornos de aprendizaje personalizados, como reconocen instituciones internacionales, entre ellas la UNESCO. El proyecto EDUGENIA, liderado por las investigadoras Milagros Sáinz, del grupo de investigación GenTIC del centro de investigación UOC-TRÀNSIC, de la Universitat Oberta de Catalunya (UOC), y Marie-Monique Schaper, profesora Serra Húnter y lectora del grupo GRIHO en la Universitat de Lleida, propone un conjunto de recursos para afrontar el desafío que representa la incursión de las herramientas de IA en el aula, con un enfoque especial en la perspectiva de género.

El producto final es una guía abierta y pionera en el contexto español, pues hasta el momento no existían materiales orientativos que profundizaran en las implicaciones educativas de las herramientas de IA desde una visión ética ni que proporcionaran, como hace EDUGENIA, ejemplos prácticos para trabajar en clase. La iniciativa ha contado con el apoyo del Instituto de las Mujeresorganismo autónomo adscrito al Ministerio de Igualdad y se desarrolló durante doce meses, entre el 2023 y el 2024.

Comprender el impacto social de la IA

"Se corre el riesgo de que caigamos en una excesiva dependencia de las herramientas de IA, y de que la gente tome decisiones únicamente a partir de las respuestas que proporcionan. El uso no controlado de la IA puede acarrear consecuencias nefastas. Por ello, es imprescindible que estudiantes y profesores tengan un conocimiento crítico e informado sobre el uso de dichas herramientas", explica Milagros Sáinz. La guía EDUGENIA utiliza principios de la pedagogía feminista para corregir las discriminaciones que reproduce la IA, provenientes, en última instancia, de los sesgos culturales presentes en nuestra sociedad. 

Para Marie-Monique Schaper, "la llegada de la IA nos obliga a replantearnos qué significa enseñar tecnología. Tradicionalmente, la educación en informática se ha centrado en aprender herramientas y habilidades técnicas. Sin embargo, cada vez existe un mayor consenso en que también debe ayudar al alumnado a comprender el impacto social de estas tecnologías y a desarrollar una mirada crítica sobre ellas. Con EDUGENIA, proporcionamos herramientas para analizar los sesgos de los algoritmos e impulsamos a reflexionar sobre quién diseña estas tecnologías, qué datos utilizan y a quién pueden beneficiar o perjudicar. Todo ello permite debatir sobre igualdad, diversidad y justicia social desde situaciones reales".

En la raíz de EDUGENIA se encuentra el proyecto #ACTFEM, creado e impulsado por la organización de artes escénicas y teatro comunitario Plàudite Teatre. En el proyecto #ACTFEM las investigadoras trabajaron con mujeres jóvenes en riesgo de exclusión en actividades de aprendizaje con IA y otras tecnologías emergentes. A partir de esta experiencia y al constatar la escasez de recursos con que se contaba, Plàudite Teatre promovió el inicio de una investigación en colaboración con GenTIC en la Universitat Oberta de Catalunya y GRIHO en la Universitat de Lleida para crear la guía EDUGENIA. La investigación de EDUGENIA se construyó a partir de tres ejes: una revisión narrativa de artículos científicos sobre IA, educación y género; un análisis de los marcos normativos europeo, español y catalán sobre IA e igualdad; y, finalmente, un estudio con la participación de 36 docentes de educación secundaria de Barcelona y Lleida, junto con diez jóvenes de #ACTFEM, para conocer las necesidades y experiencias de la enseñanza de la IA con perspectiva de género. 

Entre las cuestiones que se trataron en estas sesiones prácticas están las implicaciones éticas del uso de influenciadores creados con IA, que perpetúan estereotipos de género, promueven la cosificación y exaltan el lujo y el poder, además de la sobreexposición de la intimidad. También se trabajaron técnicas para la formulación de indicaciones (prompts), así como el manejo del riesgo de sesgos y alucinaciones. El proyecto Gender Shades, por ejemplo, demostró que las herramientas de IA de grandes corporaciones como IBM, Microsoft y Face++ tienen mayor precisión al identificar rostros de hombres que de mujeres, y también identifican mejor a personas blancas que a personas negras. Son solo algunos ejemplos de las discriminaciones que puede conllevar un uso no crítico de la IA en la sociedad.

Objetivo: convertir la IA en una aliada en el aula

El conjunto de herramientas (toolkit) EDUGENIA incluye recomendaciones, buenas prácticas y recursos para controlar los sesgos de la IA, como los principios de aprendizaje automático consciente de la equidad (fairness-aware machine learning) (Ferrara et al., 2024), que permiten identificar discriminaciones en los chatbots de IA relacionadas con el género, la etnia o la situación socioeconómica. Además, introduce términos y nociones sobre inteligencia artificial, un resumen del marco normativo-legal sobre IA para entender cómo se puede usar esta tecnología de forma ética en el aula, y casos prácticos y orientaciones sobre la utilización de esta tecnología como herramienta educativa.

La guía propone actividades diversas para distintos niveles educativos. Por ejemplo, analizar en el aula varios oficios e investigar las desigualdades de género en diferentes profesiones utilizando un asistente de IA; debatir sobre cómo los algoritmos pueden promover sesgos de género en los procesos de selección de personal, etc. Otra actividad propone iniciar al alumnado en el uso de herramientas de IA relevantes para la educación física, analizar datos desde una perspectiva de género y reflexionar sobre los aspectos éticos y pedagógicos de estas aplicaciones. En el ámbito de la filosofía, se anima al alumnado a utilizar ChatGPT para analizar textos filosóficos, a debatir problemas éticos de la IA y a analizar ejemplos de género y sociales en datos de entrenamiento de estas tecnologías, y cómo afectan a los resultados que proporcionan. Son solo algunas de las actividades que propone la guía EDUGENIA, que, a partir del próximo curso, está previsto que se difunda ampliamente entre instituciones educativas y asociaciones de familias, además de otras entidades del mundo educativo. 

Las autoras esperan que la guía llegue a la mayor cantidad de organizaciones posible para fomentar entre el profesorado un uso crítico y ético de las herramientas de IA en el aula. "La clave está en ser conscientes de los riesgos, fomentar una mirada crítica y desarrollar entornos educativos que garanticen la inclusión, la equidad y la igualdad de género", afirman.

Esta investigación contribuye a los objetivos de la Agenda 2030 para el desarrollo sostenible de las Naciones Unidas, números 4, Educación de calidad, 5, Igualdad de género y 9, Industria, innovación e infraestructura. Además, está alineada con las misiones de investigación de la UOC La educación del futuro, Cultura para una sociedad crítica y Tecnología ética y humana.

Guía EDUGENIA:

• Texto completo

• Autoras: Milagros Sáinz Ibáñez, Marie-Monique Anastasia Schaper, Miruna Bivol, Rocío Segura Nebot, Beatriz Soledad López Pérez, María José Romano Serrano, Rosa María Gil Iranzo, Mercè Teixidó, Adela Rodríguez de Corti (il.)
• Edición: Ministerio de Igualdad, Instituto de las Mujeres
• Año de publicación: 2026

Investigación con impacto y vocación transformadora

En la UOC entendemos la investigación como una herramienta estratégica para avanzar hacia una sociedad de futuro más crítica, responsable e inconformista. Desde esta visión, desarrollamos una investigación aplicada, interdisciplinaria y conectada con los grandes retos sociales, tecnológicos y educativos. 

Los más de 500 investigadores e investigadoras y los más de 50 grupos de investigación de la UOC trabajan alrededor de cinco unidades de investigación centradas en cinco misiones: educación a lo largo de la vida, tecnología ética y humana, transición digital y sostenibilidad, cultura para una sociedad crítica, y salud digital y bienestar planetario.

Además, la universidad impulsa la transferencia de conocimiento y el emprendimiento de la comunidad UOC con la plataforma Hubbik.

Más información: https://www.uoc.edu/es/investigacion