La UOC estableix una política per garantir un ús transparent, responsable i ètic de la intel·ligència artificial en les seves revistes

La intel·ligència artificial (IA) generativa ha irromput amb força en el món acadèmic i editorial. En pocs anys, eines capaces de generar textos, resumir informació, traduir continguts i crear imatges s'han incorporat a la feina quotidiana de molts investigadors i autors. Aquestes tecnologies ofereixen noves possibilitats, però també plantegen interrogants sobre l'autoria, la qualitat dels continguts, la transparència i la integritat científica.

Amb la voluntat de donar resposta a aquests nous reptes, la Universitat Oberta de Catalunya (UOC) ha aprovat la Política d'ús de la intel·ligència artificial en la redacció i la revisió dels articles publicats a les revistes científiques i divulgatives de la UOC, un document que estableix els criteris que han de seguir tant els autors com els revisors quan utilitzen eines d'intel·ligència artificial en el procés de publicació. La política, aprovada per la Comissió de Recerca i Transferència i el Consell de Direcció de la UOC el 2025, és aplicable tant a les revistes científiques de la Universitat —Artnodes, IDP, DIGITHUM i Dictatorships and Democracies— com a les revistes divulgatives ComeIn, Oikonomics i Mosaic.

L'objectiu és oferir un marc clar perquè els autors i revisors sàpiguen quines responsabilitats assumeixen quan utilitzen eines d'IA, i reforçar, alhora, la transparència, l'ètica i la integritat de la recerca.

Un marc regulador que no busca prohibir

La irrupció de la intel·ligència artificial generativa ha obert noves oportunitats per a la recerca i la publicació acadèmica, però també ha plantejat interrogants sobre l'autoria, la fiabilitat dels continguts i la responsabilitat de qui els signa. És en aquest context que la UOC ha optat per establir un marc que reguli l'ús d'aquestes eines, en lloc de prohibir-les.

Per a Ayllen Gil, professora dels Estudis de Dret i Ciència Política, investigadora del grup de recerca Dret, Internet i Transformació Digital (DITD) i directora de la revista IDP. Revista d'Internet, Dret i Política, "el gran repte no és només determinar l'autoria, sinó garantir la integritat del que es publica quan les eines de detecció no són fiables i la IA és capaç de fabricar des de textos fluids fins a dades experimentals plausibles, però falses". Segons Gil, la política neix precisament per "traçar una línia clara perquè l'assistència tècnica no substitueixi el rigor intel·lectual".

Aquesta és també la filosofia que inspira el document: no es tracta d'impedir l'ús de la intel·ligència artificial, sinó de garantir que es faci de manera transparent i sota la responsabilitat de les persones. En aquest sentit, Mariló Martín, directora de Publicació Acadèmica de la UOC, considera que una prohibició generalitzada només afavoriria l'opacitat, mentre que el fet d'exigir que els autors declarin quan i com han utilitzat aquestes eines contribueix a reforçar la confiança en la publicació científica. La IA pot ser una eina de suport legítima, sempre que estigui subordinada al control humà, afirma.

Transparència des del primer moment

La política s'articula al voltant de set principis: transparència, integritat i ètica, equitat i no-discriminació, supervisió i compatibilitat humanes, qualitat i legalitat. Tots aquests principis reforcen una idea central: la IA pot formar part del procés editorial, però no pot substituir mai el judici crític ni la responsabilitat de les persones.

Una de les principals novetats és que qualsevol autor que utilitzi eines d'IA ho haurà de declarar explícitament en el manuscrit i haurà d'indicar quina eina ha fet servir, amb quina finalitat i en quines tasques, ja sigui com a assistència a l'escriptura, per transformar informació entre formats o per sistematitzar arguments.

La política també estableix que les eines d'intel·ligència artificial s'han de citar seguint el format bibliogràfic de cada revista, de la mateixa manera que es referencien altres fonts utilitzades durant el procés de recerca.

La responsabilitat, encara humana

Un dels eixos centrals de la política és que la responsabilitat sobre els continguts no recau mai en la tecnologia. Les eines d'intel·ligència artificial no poden ser considerades autores ni coautores dels articles, i el fet d'utilitzar-les no eximeix els autors de respondre per la precisió, la qualitat i la integritat del que publiquen.

La política recorda que qualsevol text generat amb IA ha de ser revisat críticament abans de ser publicat, ja que aquestes eines poden produir informació incorrecta, incompleta o esbiaixada (les anomenades al·lucinacions), així com resultats discriminatoris o errors en els mètodes d'anàlisi. Per aquest motiu, la validació humana és imprescindible en totes les fases del procés editorial.

Per a Gil, remarcar aquest principi és essencial per preservar el sentit mateix de la recerca científica. Segons explica, la política vol evitar que el procés acadèmic es converteixi en "un bucle tancat de màquines que escriuen articles i màquines que els revisen", en què es perdi el sentit crític. Això implica que els autors han d'assumir la responsabilitat de totes les etapes de la recerca, la redacció i la publicació, mentre que els revisors no poden delegar el seu judici crític i han de garantir també la confidencialitat del procés editorial i el valor de l'avaluació d'experts.

Garantir la qualitat, els drets i la privadesa

La política també dedica una atenció especial a aspectes jurídics i ètics vinculats a l'ús de la IA. Els autors s'han d'assegurar que disposen dels drets necessaris per utilitzar les eines escollides i comprovar quines condicions d'ús s'apliquen als continguts que hi introdueixen i als resultats que n'obtenen. Així, es recomana evitar que els continguts introduïts serveixin per entrenar els models d'intel·ligència artificial i prioritzar l'ús de materials oberts o dels quals es tinguin els drets corresponents.

Així mateix, la política estableix que els autors han de garantir que els continguts generats no vulneren drets d'autor ni drets d'imatge de terceres persones i que la UOC en podrà fer ús en el marc de les seves publicacions.

Pel que fa a la protecció de dades, s'estableix que no s'han d'introduir en aquestes eines dades personals ni informació que pugui identificar persones, i es recomana configurar els sistemes d'IA amb les opcions que ofereixin més garanties de privacitat.

Un document pensat per evolucionar

La UOC defineix aquesta política com un document viu, destinat a adaptar-se a l'evolució constant tant de les tecnologies d'intel·ligència artificial com del marc normatiu que les regula. Per això, la Universitat preveu revisar-la periòdicament i introduir-hi les modificacions necessàries per adequar-la als canvis tecnològics, legals i socials.

Aquesta voluntat d'adaptació també és una de les característiques principals del document. Martín explica que "es concep com una política editorial clau que ha d'ajudar els autors i revisors que col·laboren amb les nostres revistes a fer un ús ètic i responsable d'eines d'IA, i la Universitat l'ha de revisar periòdicament per adaptar-la a l'evolució tecnològica, legal i social". 

Amb aquesta iniciativa, la UOC vol oferir un marc clar tant per als autors com per als revisors de les seves revistes, a fi de reforçar la transparència, la qualitat i la integritat científica en un context en què la intel·ligència artificial ja forma part de la pràctica investigadora. Més que limitar l'ús d'aquestes eines, la política aposta per establir criteris perquè es pugui incorporar de manera responsable, ètica i sempre amb la supervisió de les persones, a fi de preservar els principis que sustenten la publicació acadèmica.