"La IA no tiene por qué sustituir el pensamiento científico, pero, bien usada, puede reforzar la investigación"

Marc Romero, profesor de los Estudios de Psicología y Ciencias de la Educación e investigador del grupo Edul@ab, adscrito al centro UOC-FuturEd, ha asumido la dirección de la revista científica International Journal of Educational Technology in Higher Education (ETHE), que durante más de veinte años ha dirigido el catedrático Josep Maria Duart. Romero, que hasta ahora ha sido el subdirector, abre una nueva etapa, en la que la investigación y las publicaciones académicas afrontan los múltiples retos que implica la irrupción de la inteligencia artificial generativa (IAG), una cuestión sobre la que Romero es experto. En esta entrevista, Romero comparte sus reflexiones alrededor de los cambios profundos que esta tecnología supone en la educación superior y, en particular, en el ámbito de la investigación.

¿De qué modo encaras el reto de dirigir la revista ETHE?

Encaro este reto con una combinación de ilusión, responsabilidad y visión de futuro. Tras más de dos años como subdirector, conozco bien el funcionamiento interno de la revista, sus procesos y, sobre todo, a las personas que la hacen posible. Esto me permite afrontar esta nueva etapa con una mirada realista, pero también con un grado de ambición.

Mi objetivo es consolidar el liderazgo internacional de ETHE como revista de referencia en tecnología educativa en la educación superior, sin perder el rigor científico que la ha situado donde está hoy. Además, quiero impulsar una etapa más abierta, diversa y sostenible, reforzando la profesionalización del equipo editorial, ampliando la dimensión global de la revista y conectando todavía más la investigación con la práctica educativa y el impacto social.

Lo hago desde el compromiso con la ciencia abierta, el trabajo colaborativo y la voluntad de que ETHE siga siendo una ventana internacional del talento y los valores de la UOC.

La revista es un referente académico en el ámbito de la educación y la tecnología: ¿cómo afectan a la educación irrupciones tecnológicas como la inteligencia artificial (IA)?

La irrupción de la inteligencia artificial está transformando de forma profunda la educación, no solo por la introducción de nuevas herramientas, sino también porque supone repensar la evaluación del aprendizaje, la autoría académica o, incluso, el desarrollo de competencias. En especial, la IA generativa obliga a repensar qué significa aprender, cómo acompañamos al estudiantado y qué papel tiene el profesorado en este nuevo escenario.

Esta transformación ya se refleja claramente en ETHE, con números especiales y artículos centrados en temas como la evaluación en tiempo de IA, el uso educativo de la IA generativa, las implicaciones éticas o el pensamiento crítico respecto a su uso. La revista entiende la IA como un fenómeno complejo que combina oportunidades y riesgos, y nuestro objetivo es aportar evidencia científica y mirada crítica para ayudar a las universidades a integrarla de un modo pedagógicamente significativo, responsable y alineado con los valores de la educación superior.

¿En qué punto crees que se encuentra el uso de la IA generativa (IAG) en el ámbito universitario?

Nos encontramos en un momento de transición y de incertidumbre. La irrupción de la IAG ha sido muy rápida y ha descolocado muchas de las prácticas habituales y tradicionales de la universidad, especialmente las vinculadas a la autoría, la originalidad y la evaluación de los aprendizajes. Las universidades se están adaptando a un escenario nuevo en el que ya no siempre es fácil distinguir qué es producción propia del estudiantado y qué está asistido por herramientas de IA.

En este contexto, conviven usos muy diferentes: desde usos acríticos o instrumentales en los que se confía ciegamente en lo que la IAG produce hasta intentos más reflexivos de integrarla como apoyo a la docencia y el aprendizaje. Está claro que el principal reto a que nos enfrentamos las universidades no es técnico, sino pedagógico e institucional: redefinir qué entendemos por aprender, cómo evaluamos y cómo garantizamos la integridad académica sin renunciar a las oportunidades que ofrece esta tecnología.

¿Cómo puede facilitarse que el estudiantado use la IAG de un modo más responsable y crítico?

Para facilitar un uso responsable y crítico de la IAG, el primer paso es reforzar la competencia digital del estudiantado, entendida no solo como habilidad técnica, sino también como una competencia con dimensión cívica y ética, entre otros aspectos. De hecho, los principales marcos de competencia digital (como el reciente DigComp 3.0 y tal como se está trabajando en el ámbito catalán) ya incluyen la IAG de forma transversal como parte de dicha competencia. Esto implica ayudarles a entender cómo funcionan estas herramientas y a ser conscientes tanto de sus potencialidades como de sus riesgos: respuestas con sesgos, alucinaciones, falta de trazabilidad de las fuentes o dependencia excesiva de la tecnología y lo que se conoce como "atrofia cognitiva".

El segundo paso tiene que ver con la pedagogía: hay que diseñar actividades que hagan inevitable la reflexión. Propuestas en que los y las estudiantes tengan que justificar decisiones, contrastar información, comparar respuestas de la IAG con fuentes fiables y propias del ámbito de estudio, y posicionarse ante dilemas a los que pueden enfrentarse en el futuro de su profesión. En lugar de centrarlo solo en su prohibición o regulación, la clave es que aprendan a utilizar la IAG con criterio, transparencia y responsabilidad, y que sea un apoyo al pensamiento propio, no un sustituto.

El pensamiento crítico es un aspecto que se vuelve fundamental en el entorno actual. ¿Cuál es la mejor manera de impulsarlo en el ámbito universitario?

Esta pregunta está estrechamente relacionada con la anterior, porque no se puede hablar de un uso responsable de la IAG ni de cualquier tecnología sin una base de pensamiento crítico. Ambas dimensiones son inseparables y deben trabajarse conjuntamente en la formación universitaria.

Impulsar el pensamiento crítico implica ayudar al estudiantado a adoptar una actitud activa ante el conocimiento. En este contexto, es clave que aprendan no solo a buscar respuestas, sino también a formular buenas preguntas y a cuestionar la información que reciban, sea de una fuente académica, tecnológica o social. Saber preguntar bien es una competencia central para aprender de un modo más rico y profundo.

En el ámbito pedagógico, esto se concreta en actividades que fomenten la reflexión, el contraste de ideas y la argumentación ante problemas relevantes de su ámbito de estudio. De este modo, el estudiantado no solo adquiere conocimientos, sino que también construye una mirada propia sobre su contexto y su disciplina, con criterio, autonomía y responsabilidad.

ETHE es una revista científica: ¿qué riesgos tiene el uso de la IA en las tareas que conlleva hacer investigación?

El uso de la IAG en la investigación conlleva riesgos importantes si no se utiliza con criterio. Uno de los principales se basa en el hecho de que la barrera de la autoría y de la responsabilidad científica se vuelve cada vez más borrosa: aunque se utilicen herramientas de este tipo, el conocimiento producido tiene que ser siempre responsabilidad de los investigadores, puesto que los errores que pueden cometer estas herramientas son también de las personas que hacen la investigación.

Además, esto conlleva riesgos relacionados con la fiabilidad del conocimiento y con la falsa idea de que la tecnología es neutral. Es ingenuo pensar que la IA es neutral, ya que estas herramientas las crean colectivos muy concretos e incorporan valores, intereses y sesgos determinados. Además, pueden generar contenidos redactados de tal modo que resultan muy creíbles, pero eso no hace que no puedan ser incorrectas, con errores o alucinaciones. Por lo tanto, pueden pasar desapercibidos si no se contrastan adecuadamente, reforzando visiones dominantes e invisibilizando otras perspectivas que pueden aportar más pluralidad y representatividad de la realidad o el fenómeno que se está investigando.

Por último, hay que tener en cuenta el riesgo de atrofia cognitiva que he mencionado antes, que también afecta a la investigación. Un uso excesivo o acrítico de la IA puede debilitar procesos fundamentales como la formulación de preguntas, el análisis profundo, la síntesis de ideas o la construcción de argumentos propios. Si la tecnología sustituye de forma sistemática el esfuerzo intelectual, el proceso investigador puede empobrecerse. La IA, tanto en el aprendizaje como en cualquier tarea que pueda llevar a cabo una persona, debe ser un apoyo al pensamiento científico, no un sustituto.

Además de los riesgos, ¿cuáles son las ventajas que la IAG aporta a la tarea de los investigadores?

La IAG puede ser una herramienta de apoyo útil en la investigación si se utiliza de forma responsable y sin sustituir el criterio científico. En general, puede ayudar a agilizar procesos mecánicos y repetitivos y a liberar tiempo para que los investigadores se centren en los procesos más reflexivos y analíticos del trabajo. Es especialmente útil en las fases iniciales de una investigación, ya que puede facilitar la identificación de conceptos clave, líneas de debate y terminología relevante, y ayudar a perfilar ideas u orientar el diseño del estudio, siempre contrastando la información con fuentes académicas fiables. También puede dar apoyo en tareas repetitivas o en el análisis de datos, así como estimular la creatividad ayudando a concretar o reformular ideas.

De hecho, ya se utiliza en muchas investigaciones, por ejemplo, como apoyo en revisiones sistemáticas de la literatura o en la mejora de la redacción de textos, aunque se desaconseja que la IAG redacte directamente los contenidos. En este sentido, es especialmente útil para investigadores no nativos en inglés. En cualquier caso, un aspecto clave es la transparencia: cada vez más artículos explicitan cómo se ha utilizado la IAG en la metodología o en la revisión del texto, pero en ninguna circunstancia esta puede ser su autora. Estos son solo algunos ejemplos de un potencial que hay que explorar, pero con cautela, para no poner en compromiso el rigor científico.

¿La IAG puede abrir una brecha generacional entre investigadores júnior y sénior?

A primera vista, puede parecer que la IAG puede abrir una brecha generacional, pero mi experiencia en investigación y en el ámbito de la tecnología educativa y las competencias digitales muestra una realidad más compleja que eso. Es cierto que los investigadores más jóvenes, igual que el estudiantado, suelen mostrar un uso más ágil y eficiente de la tecnología, desde un punto de vista instrumental. Ahora bien, eso no siempre se traduce en un uso crítico y adecuado en actividades académicas o de investigación.

En cambio, los investigadores sénior, aunque pueden estar menos familiarizados inicialmente con estas herramientas, a menudo muestran más criterio científico, bagaje metodológico y capacidad de contextualizar su uso. Por eso, más que hablar de una brecha, creo que hay que pensar en un escenario de colaboración y aprendizaje mutuo, en que la agilidad tecnológica de los perfiles júnior y la experiencia de los sénior se complementen. En este sentido, la IAG puede convertirse en una oportunidad para formarse y avanzar conjuntamente.

¿Qué debe hacer una revista científica como ETHE ante los retos tecnológicos que se le presentan delante?

Una revista científica como ETHE no puede limitarse solo a reaccionar a los cambios tecnológicos, sino que tiene que aspirar a anticiparlos. En un contexto de transformación constante, su papel es ayudar a orientar el debate académico y a identificar hacia dónde se mueve la investigación en tecnología educativa, situándose en la vanguardia del campo.

Eso implica ser un espacio de referencia para el debate crítico, en el que las innovaciones tecnológicas se analicen con rigor científico, pero también con una mirada pedagógica, ética y social. ETHE debe evitar tanto visiones acríticas como discursos alarmistas, y promover investigaciones basadas en evidencia que ayuden a entender el impacto real de la tecnología en la educación superior.

A la vez, una revista como ETHE debe tener un papel activo en la detección y el impulso de tendencias emergentes, promoviendo monográficos y artículos de síntesis que ayuden a la comunidad científica a avanzarse a los grandes debates del futuro. Todo ello tiene que ir acompañado de un compromiso firme con la calidad, definiendo estándares y buenas prácticas que orienten la investigación en momentos de incertidumbre y consoliden la revista como referente internacional.

¿Crees que la regulación del uso de la IAG en el ámbito de la investigación necesita establecer unos principios éticos o impulsar ser transparentes en el uso de las herramientas?

Sí, de forma clara. La regulación del uso de la IA generativa en la investigación necesita establecer principios éticos sólidos e impulsar, sobre todo, la transparencia en el uso de las herramientas. Este camino ya se ha iniciado: hay directrices internacionales, como las de la Unesco o la OCDE, y orientaciones europeas específicas para la investigación que remarcan la responsabilidad humana, la necesidad de declarar el uso de la IA y la preservación de la integridad científica.

Además, muchas universidades ya cuentan con políticas propias sobre el uso de la IAG en investigación, o bien están trabajando intensamente en ello, adaptándolas de forma continua a la evolución de la tecnología. Lo mismo ocurre en el ámbito de la publicación académica, en el que tanto las universidades como las editoriales científicas han definido criterios claros sobre el uso aceptable de la IA y los revisan de forma regular. Todo ello muestra que no se trata de prohibir, sino de construir marcos flexibles, transparentes y compartidos, capaces de evolucionar al mismo ritmo que una tecnología que cada vez puede hacer más cosas.

Investigación con impacto y vocación transformadora

En la UOC entendemos la investigación como una herramienta estratégica para avanzar hacia una sociedad de futuro más crítica, responsable e inconformista. Desde esta visión, desarrollamos una investigación aplicada, interdisciplinaria y conectada con los grandes retos sociales, tecnológicos y educativos. 

Los más de 500 investigadores e investigadoras y los más de 50 grupos de investigación de la UOC trabajan alrededor de cinco unidades de investigación centradas en cinco misiones: educación a lo largo de la vida, tecnología ética y humana, transición digital y sostenibilidad, cultura para una sociedad crítica, y salud digital y bienestar planetario.

Además, la universidad impulsa la transferencia de conocimiento y el emprendimiento de la comunidad UOC con la plataforma Hubbik.

Más información: https://www.uoc.edu/es/investigacion

Innovación educativaRuralidad