La intel·ligència artificial discrimina la gent gran

Investigadores de la UOC estudien com els algorismes reprodueixen estereotips i prejudicis sobre les persones grans

Els algorismes afecten la vida quotidiana de moltes persones. Aquestes instruccions que incorporen tècniques d’intel·ligència artificial (IA) per a optimitzar processos de decisió poden salvar vides, facilitar el dia a dia de les persones i combatre el caos, però també poden perpetuar biaixos i prejudicis. «Els algorismes acostumen a caure en decisions discriminatòries i a invisibilitzar col·lectius», alerten les investigadores de la Universitat Oberta de Catalunya (UOC), Andrea Rosales i Mireia Fernández-Ardèvol, expertes en gent gran i TIC.

Mentre que la discriminació per sexe, raça o orientació sexual està àmpliament documentada, la discriminació per edat (edatisme) no rep la mateixa atenció. «En diversos estudis no hi ha un control suficient de la demografia de la mostra, s’apliquen idees estereotipades sobre l’ús de les TIC en alguns col·lectius, com en el cas de la gent gran, o hi ha limitacions tècniques en els sistemes de mesura que analitzen variables», explica Fernández-Ardèvol.

En la societat xarxa actual, com indica l’Eurostat (2018), hi ha un percentatge creixent de persones grans que adopta i utilitza les tecnologies digitals. "En el grup de població europea de 65 a 74 anys el creixement ha estat del 53% a els últims 5 anys", apunta l'experta. Però els sistemes intel·ligents continuen projectant tendències basades en criteris d’ús de les persones més joves. Rosales i Fernández-Ardèvol presentaran en el XXXVI Congrés Internacional de l’Associació d’Estudis Llatinoamericans, aquest divendres, 25 de maig, a Barcelona, els resultats d’un estudi que evidencia aquesta mena d’estereotips i prejudicis presents en l’anàlisi i l’explotació de les dades massives o big data.

Entre els exemples de discriminació hi ha les plataformes digitals. En el cas de Facebook, tot i que ara ja s’ha corregit, al començament els usuaris no podien declarar una edat de més de 80 anys. «Els dissenyadors van pensar simplement que una persona tan gran mai no estaria interessada a fer-la servir», apunta Fernández-Ardèvol, també co-directora del grup de recerca Communication Networks & Social Change (CNSC) de l’Internet Interdisciplinary Institute (IN3) de la UOC.

La publicitat en línia tampoc no se sol ajustar a les necessitats d’un usuari més gran. «Quan una persona es registra en una plataforma digital i no ha declarat el sexe o l’edat prèviament, els algorismes acaben triant i mostrant un tipus de publicitat desencertada», apunten aquestes investigadores. «Moltes vegades les prediccions d’edat que fan els sistemes intel·ligents per adaptar els anuncis a l’usuari són errònies, i pot passar, per exemple, que a una persona de 50 anys li aparegui publicitat sobre proves d’embaràs adreçada a persones de 30 anys. Probablement, aquesta publicitat no és rellevant per a aquesta persona i, fins i tot, pot ser molesta», adverteix Rosales.

La invisibilització d’aquest col·lectiu també es produeix en les ‘start-ups’ y en empreses d’innovació digital, les quals basen els seus serveis en la IA. «Els sistemes d’intel·ligència artificial que s’utilitzen per a recollir dades i analitzar-les moltes vegades obvien la gent gran», apunten les investigadores. «Per exemple, quan s’investiguen els usos dels espais públics d’una ciutat, s’analitzen les dades dels mòbils que tenen el wifi encès: des del temps que les persones tarden a travessar un carrer per un semàfor fins al temps que necessiten per a pujar les escales del metro. Però en l’anàlisi d’aquests estudis no es tenen en compte minories que o bé no tenen wifi al mòbil o bé, si en tenen, el duen sempre apagat».

«Cal recordar que les persones grans que s’introdueixen en el món digital poden ser usuaris actius de les TIC. Encara que poden ser menys actius que altres grups, l’ús que fan de les TIC és rellevant i significatiu», conclouen les investigadores.

#expertsUOC

Andrea Rosales

Investigadora de l'Internet Interdisciplinary Institute (IN3)

Expert/a en: Anàlisi de registres digitals per a entendre les experiències d'usuari, en combinació amb aproximacions etnogràfiques des d'una perspectiva generacional, focalitzades especialment en la gent gran.

Àmbit de coneixement: Experiència d'usuari, gent gran i registres.

Veure fitxa
Foto de la investigadora Mireia Fernández Ardèvol

Mireia Fernández Ardèvol

Investigadora de l'Internet Interdisciplinary Institute (IN3)

Expert/a en: Comunicació mòbil, gent gran i TIC; impacte de les tecnologies en el desenvolupament social i econòmic.

Àmbit de coneixement: Sociologia, economia i tecnologia.

Veure fitxa