La intel·ligència artificial ens pot ajudar a construir un món tecnològic més ètic?

Un robot no pot fer mal a un ésser humà ni, per inacció, pot permetre que un ésser humà pateixi mal. Un robot ha de complir les ordres donades pels éssers humans, a excepció de les que entrin en conflicte amb el punt anterior. I un robot ha de protegir la seva pròpia existència en la mesura que aquesta protecció no entri en conflicte amb el que s'ha establert abans. Aquestes tres lleis de la robòtica van ser formulades per Isaac Asimov ara fa vuitanta anys, molt abans que la intel·ligència artificial (IA) fos una realitat. Però il·lustren perfectament com els éssers humans ens hem enfrontat als desafiaments ètics de la tecnologia: protegint els usuaris.

No obstant això, els desafiaments ètics de la humanitat, tinguin o no a veure amb la tecnologia, no són realment un problema tecnològic, sinó social. En aquest sentit, la tecnologia en general, i la intel·ligència artificial en particular, podrien servir per empoderar l'usuari i ajudar-nos a avançar cap a un món més èticament desitjable. És a dir, podem repensar la manera en què dissenyem la tecnologia i la intel·ligència artificial i recolzar-nos-hi per construir una societat més ètica.

Aquest és l'enfocament que proposa Joan Casas-Roma, investigador del grup Smartlearn, dels Estudis d'Informàtica, Multimèdia i Telecomunicació de la Universitat Oberta de Catalunya (UOC), en el manifest publicat en obert Ethical Idealism, Technology and Practice: a Manifesto. Per entendre com cal dur a terme aquest canvi de paradigma, és necessari retrocedir una mica en el temps.

La intel·ligència artificial és objectiva, o no?

Quan Asimov va formular per primer cop les seves lleis de la robòtica, el món era un lloc molt poc tecnològic comparat amb l'actualitat. Era el 1942 i Alan Turing tot just acabava de formalitzar els conceptes d'algorisme que serien clau en el desenvolupament de la computació moderna dècades més endavant. No hi havia ordinadors ni internet, ni molt menys intel·ligències artificials ni robots autònoms. Però Asimov ja anticipava la por que l'ésser humà aconseguís fabricar màquines tan intel·ligents que acabessin per rebel·lar-se contra els seus creadors.

No obstant això, més endavant, en els inicis de la computació i les tecnologies de dades als anys seixanta del segle passat, aquestes qüestions no estaven entre les preocupacions principals de la ciència. "Hi havia la creença que, com que es treballava amb dades objectives i científiques, la informació resultant seria certa i de qualitat. Es derivava d'un algorisme de la mateixa manera que es deriva d'un càlcul matemàtic. La intel·ligència artificial era objectiva i, per tant, ens ajudava a eliminar els biaixos humans", explica Joan Casas-Roma.

Però això no era així. Va arribar un moment en què ens vam adonar que les dades i els algorismes reproduïen el model o la manera de veure el món de la persona que feia servir aquestes dades o que havia dissenyat el sistema. És a dir, la tecnologia no eliminava per si mateixa els biaixos humans, sinó que els traslladava a un nou mitjà. "Amb el temps, hem anat aprenent que la intel·ligència artificial no ha de ser forçosament objectiva i, per tant, les seves decisions poden estar molt esbiaixades. Les decisions perpetuaven les desigualtats, no les solucionaven", afegeix l'investigador.

Així, acabem arribant al mateix punt que anticipaven les lleis de la robòtica. Les preguntes sobre l'ètica i la intel·ligència artificial van aparèixer sobre la taula des d'un punt de vista reactiu i protector. Com que ens vam adonar que la intel·ligència artificial no era justa ni objectiva, vam decidir començar a actuar per contenir-ne els efectes nocius. "La pregunta ètica de la intel·ligència artificial va néixer de la necessitat de construir una coberta perquè els efectes indesitjables de la tecnologia sobre els usuaris no es continuessin perpetuant. Calia fer-ho", subratlla Casas-Roma.

Tal com detalla l'investigador al manifest, el fet d'haver de reaccionar així ha fet que durant les últimes dècades no hàgim aprofundit en una altra pregunta fonamental en la relació entre tecnologia i ètica. Quines conseqüències èticament desitjables ens podrien ajudar a aconseguir un conjunt d'intel·ligències artificials amb accés a una quantitat de dades sense precedents? És a dir, com la tecnologia ens pot ajudar a avançar en la construcció d'un futur èticament desitjable?

Cap a una relació idealista entre ètica i tecnologia

Avançar cap a una societat més inclusiva, més integrada i més cooperativa en la qual la ciutadania tingui més comprensió dels desafiaments globals: aquesta és una de les grans metes que es marca la Unió Europea a mitjà termini. Per aconseguir-ho, la tecnologia i la intel·ligència artificial poden ser un gran obstacle, però també grans aliades. "En funció de la forma en què es dissenyi la interacció de les persones per mitjà de la intel·ligència artificial, es podria promoure una societat més cooperativa", assenyala Casas-Roma.

L'auge de l'educació en línia en els últims anys és innegable. Les eines d'aprenentatge digitals tenen molts avantatges, però també poden fomentar la sensació d'aïllament. "La tecnologia podria fomentar més sensació de cooperació i crear un sentiment de comunitat més gran. Per exemple, en comptes de tenir un sistema que només faci correccions automàtiques dels exercicis, també podria enviar un missatge a un altre company o companya del curs que hagi solucionat el problema per facilitar que l'estudiantat s'ajudi. És només una idea per entendre com el disseny de la tecnologia ens pot portar a interactuar de manera que es fomenti la comunitat i la cooperació", afegeix l'investigador.

Segons Casas-Roma, amb una perspectiva d'idealisme ètic pot repensar-se com la tecnologia i la forma en què els usuaris la usen poden crear noves oportunitats per aconseguir beneficis ètics per als mateixos usuaris i la societat en el seu conjunt. Aquest enfocament idealista de l'ètica de la tecnologia hauria de tenir les característiques següents:

• Expansiu. La tecnologia i els seus usos han d'estar pensats de manera que permetin als seus usuaris prosperar i empoderar-se.
• Idealista. L'objectiu final que cal tenir sempre present és com la tecnologia podria millorar les coses.
• Habilitant. Les possibilitats creades per la tecnologia han d'entendre's i modelar-se acuradament per garantir que millorin i afavoreixin el creixement ètic dels usuaris i les societats.
• Mutable. L'estat actual de les coses no s'ha de donar per fet. La configuració social, política i econòmica actual, així com la tecnologia i la seva manera de ser utilitzada podrien canviar per permetre avançar cap a un estat diferent de les coses.
• Basat en principis. La forma en què es fa servir la tecnologia ha de veure's com una oportunitat per permetre i fomentar comportaments, interaccions i pràctiques alineades amb certs principis ètics desitjats.

"No és tant un tema de dades o d'algorismes. És un tema de repensar com interactuem i com voldríem fer-ho, què és el que habilitem mitjançant una tecnologia que s'imposa com a mitjà”, conclou Joan Casas-Roma. "Aquesta idea no és tant una proposta que tingui a veure amb la potència de la tecnologia, sinó amb el pensament darrere de qui dissenya la tecnologia. És una crida a un canvi de paradigma, a un canvi de mentalitat. Els efectes ètics de la tecnologia no són un problema tecnològic, sinó social. Són un problema de com interactuem els uns amb els altres i amb l'entorn mitjançant la tecnologia".

Aquesta recerca contribueix a l'objectiu de desenvolupament sostenible (ODS) 16, promoure societats justes, pacífiques i inclusives.

Article relacionat

Casas-Roma, J. Ethical Idealism, Technology and Practice: a Manifesto. Philosophy & Technology 35, 86 (2022). https://doi.org/10.1007/s13347-022-00575-7

UOC R&I

La recerca i innovació (R+I) de la UOC contribueix a solucionar els reptes a què s'enfronten les societats globals del segle xxi, mitjançant l'estudi de la interacció entre la tecnologia i les ciències humanes i socials, amb un focus específic en la societat xarxa, l'aprenentatge en línia i la salut digital.

Els més de 500 investigadors i investigadores i els 51 grups de recerca s'articulen entorn dels set estudis de la UOC, un programa de recerca en aprenentatge en línia (e-Learning Research) i dos centres de recerca: l'Internet Interdisciplinary Institute (IN3) i l'eHealth Center (eHC).

A més, la Universitat impulsa la innovació en l'aprenentatge digital a través de l'eLearning Innovation Center (eLinC) i la transferència de coneixement i l'emprenedoria de la comunitat UOC amb la plataforma Hubbik.

Els objectius de l'Agenda 2030 de desenvolupament sostenible de les Nacions Unides i el coneixement obert són eixos estratègics de la docència, la recerca i la innovació de la UOC. Més informació: research.uoc.edu