Una investigación clarifica las reglas de juego para la aplicación de la IA en la resolución de conflictos

Un estudio de dos investigadoras de la Universitat Oberta de Catalunya (UOC) ha analizado el impacto del nuevo Reglamento europeo de inteligencia artificial (AI Act) en los sistemas de resolución alternativa de conflictos (ADR, alternative dispute resolution) y de resolución de conflictos en línea (ODR, online dispute resolution). El trabajo concluye que la IA puede mejorar significativamente el acceso a la justicia y aportar numerosos beneficios, pero también plantea una serie de limitaciones y riesgos importantes en caso de que no se implemente de forma correcta. Para evitar estas vulnerabilidades, las autoras proponen una nueva clasificación de los sistemas alternativos de resolución de conflictos asistidos por IA en función de su grado de autonomía y riesgo. Este trabajo de categorización, que ha sido reconocido por el Colegio Notarial de Cataluña con el Premio Elías Campo Villegas, ayudará a diseñar políticas públicas y marcos reguladores más precisos y adaptados a la realidad tecnológica, y facilitará a los proveedores de servicios de resolución una herramienta útil y garantista en su tarea de elección del sistema más adecuado.

El estudio, publicado en abierto en la revista Computer Law & Security Review, ha sido impulsado por dos profesoras de los Estudios de Derecho y Ciencia Política: la catedrática Aura Esther Vilalta, investigadora del grupo Derecho, Internet y Transformación Digital (DIDT), y Marian Gili Saldaña, investigadora del grupo Fiscalidad, empresa y relaciones laborales (TAXBUSINESS). "Con la aprobación del Reglamento europeo de inteligencia artificial del 2024, nos dimos cuenta de que el impacto de la IA en los métodos de resolución de conflictos alternativos a los tribunales de justicia no quedaba claro. Había que evaluar si la nueva normativa protege realmente a los ciudadanos cuando una IA interviene en la resolución de una disputa, porque con el nivel de desarrollo y aplicación que vemos en estas tecnologías —particularmente la IA generativa— los nuevos agentes de IA podrían acontecer, de facto, jueces o árbitros", explica Aura Esther Vilalta.

Las dos investigadoras, adscritas al Centro de Investigación en Transformación Digital y Gobernanza (UOC-DIGIT), han centrado su investigación en la ADR, es decir, maneras de resolver conflictos fuera de los tribunales mediante la mediación, la conciliación, el arbitraje o la adjudicación, entre otras, y en la ODR, la versión tecnológica de la primera, que ha ganado mucho peso a raíz de la digitalización pospandemia. Esto tiene a ver con herramientas como los bots conversacionales jurídicos, los sistemas de análisis y generación de documentos o los asistentes para la toma de decisiones, que ya se utilizan con éxito en varios contextos especializados. Otro ejemplo con el que muchas personas pueden haber interactuado sin ser conscientes son los sistemas de soluciones automáticas que plataformas como Amazon o eBay usan cuando hay algún conflicto con los clientes.

Clasificación en cuatro niveles

En cuanto a los resultados obtenidos, las investigadoras de la UOC han visto que, si bien no toda la IA en el ámbito de justicia es de alto riesgo, sí que algunas herramientas que parecen inofensivas, como las de asistencia en la negociación, pueden condicionar la voluntad de las partes. Para disipar las dudas, las autoras proponen una nueva categorización que distribuye los mecanismos de resolución de conflictos asistidos por IA en función de su grado de riesgo y autonomía. De acuerdo con esta clasificación, en la categoría de riesgo mínimo estaría la resolución de disputas mediante ADR u ODR con IA aplicada exclusivamente a actividades administrativas auxiliares que no afectan a los resultados individuales de los casos, como la traducción de textos o la transcripción de audio a texto. En un segundo nivel, el de riesgo limitado, estaría la IA que interactúa con las partes y genera contenido sintético o lleva a cabo tareas informativas o de apoyo; por ejemplo, los sistemas de triaje y clasificación de quejas o los bots conversacionales, que generan contenido durante el proceso de resolución de conflictos.

La categoría de alto riesgo corresponde a los sistemas de IA que asisten y producen resultados con posibles efectos legales sobre las partes, como los que preparan borradores de documentos legales, revisan automáticamente los acuerdos o asesoran según los precedentes. Finalmente, en la última categoría, la de riesgo inaceptable, están los sistemas totalmente autónomos, con una IA que genera decisiones automatizadas sin supervisión humana y que produce efectos legales sobre las partes. Este tendría que ser un apartado poco concurrido, dado que la Ley de IA subraya como imperativa la necesidad de una participación humana significativa en los procesos de toma de decisiones.

"Queda claro que la IA aporta beneficios como una celeridad más grande, una reducción de costes, más accesibilidad y la eliminación de errores humanos por fatiga. Pero también que hay amenazas como el efecto de caja negra (no saber cómo ha llegado la IA a una conclusión), la pérdida de empatía, el riesgo de que el sistema tenga sesgos o que no tenga en cuenta factores humanos", apunta Maria Àngels Gili. Según las investigadoras, hay un riesgo real de que la IA pueda comprometer el derecho a un juicio justo. "Esto incluye el derecho a ser escuchado y a una decisión motivada. Si una IA toma una decisión basada en datos históricos, discriminatorios o sin transparencia, se está vulnerando la tutela judicial efectiva, aunque estemos fuera de un juzgado convencional", añade Vilalta.

Transparencia, auditabilidad y agencia humana resultan clave

Para evitar estos posibles sesgos algorítmicos en la toma de decisiones, las expertas destacan que la solución no tendrá que ser solo técnica, sino también humana. Proponen medidas como auditorías externas que revisen continuamente los conjuntos de datos de entrenamiento, la calidad de los datos subyacentes y la calidad de los resultados, así como garantizar que un experto humano será siempre el encargado de tomar la decisión final y que habrá una transparencia algorítmica que permitirá a las partes saber si se usa IA y con qué criterios.

El estudio ofrece una guía de cumplimiento tanto para la Administración de justicia como para los proveedores de servicios de resolución que proporciona una base jurídica para evitar futuros recursos y nulidades de procesos. "Por ejemplo, antes de implementar bots conversacionales o sistemas de triaje de casos, se debe hacer una evaluación del impacto que tendrán sobre los derechos fundamentales", detalla Gili. "Además, hay que formar convenientemente a los operadores en el ámbito de la justicia para que en sus interacciones con la IA no vulneren derechos de las personas, puesto que, si no se toman medidas, cualquier información que se facilite en un bot conversacional de IA puede resultar pública y accesible para cualquier persona", señala Vilalta.

La catedrática de la UOC sitúa la actualización continua de la legislación y los protocolos en materia de IA como uno de los desafíos más importantes del momento actual, "dado que la industria tecnológica va a velocidad de crucero". El trabajo de las dos profesoras de los Estudios de Derecho y Ciencia Política asienta las bases para avanzar en este sentido, motivo por el cual ha captado la atención del Colegio Notarial de Cataluña, que lo ha distinguido, ex aequo, con el tercer Premio Elías Campo Villegas en categoría doctrinal como uno de los trabajos jurídicos más relevantes sobre medios alternativos de resolución de conflictos.

Este estudio se enmarca dentro de la misión Tecnología ética y humana de la UOC y favorece los objetivos de desarrollo sostenible (ODS) de la ONU, especialmente el número 16, paz, justicia e instituciones sólidas, y el número 9, industria, innovación e infraestructuras.

Artículo de referencia

Vilalta, E. y Gili, M. (2025). AI-driven alternative and online dispute resolution in the European Union: An analysis of the legal framework and a proposed categorization. Computer Law & Security Review, Volumen 57, 106145: https://doi.org/10.1016/j.clsr.2025.106145.

Investigación con impacto y vocación transformadora

En la UOC entendemos la investigación como una herramienta estratégica para avanzar hacia una sociedad de futuro más crítica, responsable e inconformista. Desde esta visión, desarrollamos una investigación aplicada, interdisciplinaria y conectada con los grandes retos sociales, tecnológicos y educativos. 

Los más de 500 investigadores e investigadoras y los más de 50 grupos de investigación de la UOC trabajan alrededor de cinco centros de investigación centrados en cinco misiones: educación a lo largo de la vida, tecnología ética y humana, transición digital y sostenibilidad, cultura para una sociedad crítica, y salud digital y bienestar planetario.

Además, la universidad impulsa la transferencia de conocimiento y el emprendimiento de la comunidad UOC con la plataforma Hubbik.

Más información: https://www.uoc.edu/es/investigacion