Una recerca clarifica les regles de joc per a l'aplicació de la IA en la resolució de conflictes

Un estudi de dues investigadores de la Universitat Oberta de Catalunya (UOC) ha analitzat l'impacte del nou Reglament europeu d'intel·ligència artificial (AI Act) en els sistemes de resolució alternativa de conflictes (ADR, alternative dispute resolution) i de resolució de conflictes en línia (ODR, online dispute resolution). El treball conclou que la IA pot millorar significativament l'accés a la justícia i aportar nombrosos beneficis, però també planteja una sèrie de limitacions i riscos importants en cas que no s'implementi de manera correcta. Per evitar aquestes vulnerabilitats, les autores proposen una nova classificació dels sistemes alternatius de resolució de conflictes assistits per IA en funció del seu grau d'autonomia i risc. Aquest treball de categorització, que ha estat reconegut pel Col·legi Notarial de Catalunya amb el Premi Elías Campo Villegas, ajudarà a dissenyar polítiques públiques i marcs reguladors més precisos i adaptats a la realitat tecnològica, i facilitarà als proveïdors de serveis de resolució una eina útil i garantista en la seva tasca d'elecció del sistema més adient.

L'estudi, publicat en obert a la revista Computer Law & Security Review, ha estat impulsat per dues professores dels Estudis de Dret i Ciència Política: la catedràtica Aura Esther Vilalta, investigadora del grup Dret, Internet i Transformació Digital (DIDT), i Marian Gili Saldaña, investigadora del grup Fiscalitat, relacions laborals i empresa (TAXBUSINESS). "Amb l'aprovació del Reglament europeu d'intel·ligència artificial del 2024, ens vam adonar que l'impacte de la IA en els mètodes de resolució de conflictes alternatius als tribunals de justícia no quedava clar. Calia avaluar si la nova normativa protegeix realment els ciutadans quan una IA intervé en la resolució d'una disputa, perquè amb el nivell de desenvolupament i aplicació que veiem en aquestes tecnologies —particularment la IA generativa— els nous agents d'IA podrien esdevenir, de facto, jutges o àrbitres", explica Aura Esther Vilalta.

Les dues investigadores, adscrites al Centre de Recerca en Transformació Digital i Governança (UOC-DIGIT), han centrat la seva recerca en l'ADR, és a dir, maneres de resoldre conflictes fora dels tribunals mitjançant la mediació, la conciliació, l'arbitratge o l'adjudicació, entre d'altres, i l'ODR, la versió tecnològica de l'anterior, que ha guanyat molt de pes arran de la digitalització postpandèmia. Això té a veure amb eines com els bots de conversa jurídics, els sistemes d'anàlisi i generació de documents o els assistents per a la presa de decisions, que ja s'utilitzen amb èxit en diversos contextos especialitzats. Un altre exemple amb el qual moltes persones poden haver interactuat sense ser-ne conscients són els sistemes de solucions automàtiques que plataformes com Amazon o eBay usen quan hi ha algun conflicte amb els clients.

Classificació en quatre nivells

Pel que fa als resultats obtinguts, les investigadores de la UOC han vist que, si bé no tota la IA en l'àmbit de justícia és d'alt risc, sí que algunes eines que semblen inofensives, com ara les d'assistència en la negociació, poden condicionar la voluntat de les parts. Per esvair els dubtes, les autores proposen una nova categorització que distribueix els mecanismes de resolució de conflictes assistits per IA en funció del seu grau de risc i autonomia. D'acord amb aquesta classificació, en la categoria de risc mínim hi hauria la resolució de disputes mitjançant ADR o ODR amb IA aplicada exclusivament a activitats administratives auxiliars que no afecten els resultats individuals dels casos, com ara la traducció de textos o la transcripció d'àudio a text. En un segon nivell, el de risc limitat, hi hauria la IA que interactua amb les parts i genera contingut sintètic o porta a terme tasques informatives o de suport; per exemple, els sistemes de triatge i classificació de queixes o els bots de conversa, que generen contingut durant el procés de resolució de conflictes.

La categoria d'alt risc correspon als sistemes d'IA que assisteixen i produeixen resultats amb possibles efectes legals sobre les parts, com els que preparen esborranys de documents legals, revisen automàticament els acords o assessoren segons els precedents. Finalment, en la darrera categoria, la de risc inacceptable, es troben els sistemes totalment autònoms, amb una IA que genera decisions automatitzades sense supervisió humana i que produeix efectes legals sobre les parts. Aquest hauria de ser un apartat poc concorregut, atès que la Llei d'IA subratlla com a imperativa la necessitat d'una participació humana significativa en els processos de presa de decisions.

"Queda clar que la IA aporta beneficis com ara una celeritat més gran, una reducció de costos, més accessibilitat i l'eliminació d'errors humans per fatiga. Però també que hi ha amenaces com l'efecte de caixa negra (no saber com ha arribat la IA a una conclusió), la pèrdua d'empatia, el risc que el sistema tingui biaixos o que no tingui en compte factors humans", apunta Maria Àngels Gili. Segons les investigadores, hi ha un risc real que la IA pugui comprometre el dret a un judici just. "Això inclou el dret a ser escoltat i a una decisió motivada. Si una IA pren una decisió basada en dades històriques, discriminatòries o sense transparència, s'està vulnerant la tutela judicial efectiva, encara que estiguem fora d'un jutjat convencional", afegeix Vilalta.

Transparència, auditabilitat i agència humana resulten clau

Per evitar aquests possibles biaixos algorítmics en la presa de decisions, les expertes destaquen que la solució no haurà de ser només tècnica, sinó també humana. Proposen mesures com ara auditories externes que revisin contínuament els conjunts de dades d'entrenament, la qualitat de les dades subjacents i la qualitat dels resultats, així com garantir que un expert humà serà sempre l'encarregat de prendre la decisió final i que hi haurà una transparència algorítmica que permetrà a les parts saber si s'usa IA i amb quins criteris.

L'estudi ofereix una guia de compliment tant per a l'Administració de justícia com per als proveïdors de serveis de resolució que proporciona una base jurídica per evitar futurs recursos i nul·litats de processos. "Per exemple, abans d'implementar bots de conversa o sistemes de triatge de casos, cal fer una avaluació de l'impacte que tindran sobre els drets fonamentals", detalla Gili. "A més, cal formar convenientment els operadors en l'àmbit de la justícia perquè en les seves interaccions amb la IA no vulnerin drets de les persones, ja que, si no es prenen mesures, qualsevol informació que es faciliti en un bot de conversa d'IA pot resultar pública i accessible per a qualsevol persona", assenyala Vilalta.

La catedràtica de la UOC situa l'actualització contínua de la legislació i els protocols en matèria d'IA com un dels desafiaments més importants del moment actual, "atès que la indústria tecnològica va a velocitat de creuer". El treball de les dues professores dels Estudis de Dret i Ciència Política assenta les bases per avançar en aquest sentit, motiu pel qual ha captat l'atenció del Col·legi Notarial de Catalunya, que l'ha distingit, ex aequo, amb el tercer Premi Elías Campo Villegas en categoria doctrinal com un dels treballs jurídics més rellevants sobre mitjans alternatius de resolució de conflictes.

Aquest estudi s'emmarca dins la missió Tecnologia ètica i humana de la UOC i afavoreix els objectius de desenvolupament sostenible (ODS) de l'ONU, especialment el número 16, pau, justícia i institucions sòlides, i el número 9, indústria, innovació i infraestructures.

Article de referència

Vilalta, E. i Gili, M. (2025). AI-driven alternative and online dispute resolution in the European Union: An analysis of the legal framework and a proposed categorization. Computer Law & Security Review, Volum 57, 106145: https://doi.org/10.1016/j.clsr.2025.106145

Recerca amb impacte i vocació transformadora

A la UOC entenem la recerca com una eina estratègica per avançar cap a una societat de futur més crítica, responsable i inconformista. Des d'aquesta visió, desenvolupem una recerca aplicada, interdisciplinària i connectada amb els grans reptes socials, tecnològics i educatius. 

Els més de 500 investigadors i investigadores i els més de 50 grups de recerca de la UOC treballen al voltant de cinc centres de recerca centrats en cinc missions: educació al llarg de la vida, tecnologia ètica i humana, transició digital i sostenibilitat, cultura per a una societat crítica, i salut digital i benestar planetari.

A més, la Universitat impulsa la transferència de coneixement i l'emprenedoria de la comunitat UOC amb la plataforma Hubbik.

Més informació: www.uoc.edu/ca/recerca