Números i algoritmes al servei de la societat

Taxes de mortalitat, índexs de prevalença o models de predicció de morts per la COVID-19 són alguns dels indicadors numèrics que s'han integrat en el nostre dia a dia durant la pandèmia. Es tracta d'una mostra més de la importància que es dona avui als números, una tendència que veiem en àmbits com ara les finances i l'economia, els rànquings universitaris o els algoritmes que dirigeixen les cerques en línia. Un membre del grup de recerca Open Evidence de la Universitat Oberta de Catalunya (UOC) forma part d'un grup d'investigadors internacionals que demanen que s'impulsi una ètica de la quantificació perquè s'investigui sobre la producció i l'ús responsable dels números, tant els tangibles com els invisibles en els quals es basen els algoritmes. Amb aquest objectiu, els autors també proposen la creació d'un observatori que ajudi a entendre millor aquesta realitat i a controlar els riscos associats a l'ús inadequat de números, algoritmes i models matemàtics.

«Vivim en un món que està estructurat significativament pels números, en el qual aquests transmeten la veritat i construeixen la nostra realitat. Les xifres estan tan profundament arrelades en la nostra existència que ja gairebé no hi reflexionem críticament. Demanar que tornem a una societat sense números és poc realista, però és necessària, i és possible, una defensa contra el seu excés», va explicar Andrea Saltelli, primer autor d'un document de treball elaborat per un grup d'experts de les universitats de York (Regne Unit), Leiden (Països Baixos), Sussex (Regne Unit) i Essex (Regne Unit), i publicat per l'UCL Institute for Innovation and Public Purpose.

Nous patrons de «normalitat»

L'exposició a diferents formes de quantificació en el nostre dia a dia ha augmentat amb el desenvolupament de la tecnologia i l'alfabetització digital. Això implica que el potencial de generar un impacte negatiu també s'ha multiplicat: una anàlisi estadística mal dissenyada, per exemple, per avaluar tractaments mèdics pot costar vides i la pèrdua de milions d'euros; utilitzar un algoritme esbiaixat pot provocar desigualtat, com va passar amb el programa de predicció de delictes de la policia de Chicago, que afectava més els barris més pobres; un model predictiu deficient també pot portar a decisions polítiques errònies o simplement injustificades.

Aquestes són només algunes de les conseqüències d'implementar models i algoritmes erronis o èticament qüestionables. Però, segons els investigadors, les implicacions d'adoptar acríticament aquesta tecnologia poden portar fins i tot a una nova manera d'entendre què està bé i què està malament, o a nous estàndards del que és normal o acceptable: «Ara ens sembla normal que després de visitar una sabateria en línia rebem publicitat de sabates durant setmanes. De la mateixa manera, una vegada que acceptem que les universitats es mesuren per rànquings internacionals, totes les institucions començaran a estudiar com poden impulsar les variables mesurades per aquests rànquings, amb efectes desastrosos sobre el cost i la naturalesa de l'educació superior», va lamentar Andrea Saltelli.

L'accés desigual a xifres i càlculs en els quals es basen els models i algoritmes és un altre aspecte que els autors destaquen. Actualment, governs poderosos i grans empreses tenen accés a tota mena de números sobre la població en general, mentre que a aquesta se li nega l'accés als números que podrien orientar amb precisió les decisions governamentals o guiar el comportament corporatiu. «Tant l'accés als números que importen com la capacitat per fer-ne un bon ús o un mal ús reflecteixen i reforcen els desequilibris de poder en la societat i l'economia», va argumentar Saltelli.

L'«humil» exemple dels models meteorològics

L'altra cara de la moneda són els models de previsió meteorològica, a què es refereixen els investigadors com a exemples, ja que aquests fan prediccions útils, a curt termini, constantment actualitzades amb informació nova, mentre que la incertesa es comunica amb molt de compte. «Malgrat la seva enorme grandària i la gran quantitat de dades utilitzades, les prediccions d'aquests models són humils; per exemple, avisen que hi ha un 20 % de probabilitats de pluja. Malgrat tot, la gent hi confia i accepta que la informació que ofereixen pot ser que no sigui del tot precisa», ressalta l'investigador.

En aquest sentit, els autors destaquen la importància d'adoptar el que anomenen «tecnologies humils», cosa que implica tenir en compte les fonts d'ambigüitat, la indeterminació i la complexitat per ressaltar les dimensions ètiques dels problemes i identificar guanyadors i perdedors en la distribució de costos i beneficis, tenint en compte també les persones més vulnerables.

Un observatori per millorar la vida de les persones

Davant d'aquesta situació, els investigadors proposen la creació d'un observatori que actuï com a mediador entre ciència i societat en els diversos àmbits que informen el públic mitjançant números, com ara salut pública, tecnologia i economia. Segons els investigadors, «la idea seria seleccionar casos concrets en què s'hagi demostrat que els números són incorrectes o s'han utilitzat incorrectament, i mostrar-los perquè els ciutadans siguin conscients d'aquestes qüestions i així ajudar-los a ser més previnguts, però sense que perdin tota la fe en els números».

En concret, els experts subratllen que aquest observatori seria molt important per crear un vincle summament necessari entre el món de la ciència i el de la política, en primer lloc, transmetent les «limitacions inherents a les dades científiques» als qui han de prendre decisions basant-s'hi, i, en segon lloc, canalitzant les dades que siguin significatives i que es puguin utilitzar de manera segura en el debat públic.

A més d'aquesta proposta, els autors també han dut a terme altres iniciatives com un seminari sobre l'ètica de la quantificació, en el qual han participat els experts Wendy Espeland i Andy Stirling, organitzat per la Universitat de Leiden i al qual van assistir més de 160 persones.

Article relacionat

Saltelli, A.; Andreoni, A.; Drechsler W.; Ghosh, J.; Kattel, R.; Kvangraven, I. H.; Rafols, I.; Reinert, E. S.; Stirling, A.; Xu, T. (2021). Why ethics of quantification is needed now. UCL Institute for Innovation and Public Purpose, Working Paper Series (IIPP WP 2021/05). Disponible a <https://www.ucl.ac.uk/bartlett/public-purpose/wp2021-05>

UOC R&I

La recerca i innovació (R+I) de la UOC contribueix a solucionar els reptes a què s'enfronten les societats globals del segle xxi mitjançant l'estudi de la interacció de la tecnologia i les ciències humanes i socials, amb un focus específic en la societat xarxa, l'aprenentatge en línia i la salut digital.

Els més de 500 investigadors i 51 grups de recerca s'articulen entorn dels set estudis de la UOC i dos centres de recerca: l'Internet Interdisciplinary Institute (IN3) i l'eHealth Center (eHC).

Els objectius de l'Agenda 2030 de desenvolupament sostenible de les Nacions Unides i el coneixement obert són eixos estratègics de la docència, la recerca i la innovació de la UOC.

Més informació: research.uoc.edu. #25anysUOC