La IA pot ajudar a detectar casos de violència de gènere abans que es produeixin

Amb l'ajuda de la intel·ligència artificial (IA), les autoritats es podrien avançar a futurs casos de violència de gènere i evitar que es produeixin, segons les conclusions d'Arquitectura de un sistema de ayuda a la prevención de casos de violencia de género en España, un treball final del màster universitari de Ciència de Dades (Data Science) de la UOC que es basa en l'anàlisi de dades a fi de crear models d'aprenentatge automàtic (machine learning) per poder obtenir poblacions objectiu de possibles agressors i possibles víctimes.

"La IA pot detectar riscos potencials de violència de gènere a partir de situacions similars en casos passats", afirma Laia Subirats, professora col·laboradora dels Estudis d'Informàtica, Multimèdia i Telecomunicació de la UOC. "També pot tenir en compte múltiples variables de dades provinents de bases de dades diferents (jutjats, policia, dades públiques, xarxes socials, etc.) per poder prendre les decisions de manera més informada. Tots aquests aspectes i conjunts de dades són els que s'han tingut en compte", afegeix.

Com explica Javier Plo Moreno, autor del treball, la idea és recopilar dades dels casos de violència de gènere que es vagin produint. Aquestes dades són les que formen els perfils d'agressors i víctimes i, per tant, les que permeten crear els models d'aprenentatge automàtic necessaris. Es tracta d'un procediment per al qual es prenen en consideració recerques prèvies en diferents àrees.

"El concepte de perfil el defineixo com un conjunt d'atributs o característiques que, segons algunes recerques en sociologia, psicologia i psiquiatria, són determinants perquè algú es pugui convertir en agressor o en víctima en un moment donat. La informació sobre aquests atributs s'hauria de recopilar quan es produeix un cas", assenyala l'autor.

Alguns exemples d'aquests atributs són l'exposició a abusos durant la infància, un nivell cultural determinat, el fet d'estar en tractament psicològic o psiquiàtric, el fet d'estar sotmès a mesures d'allunyament o de compartir la custòdia de fills, els problemes econòmics, la publicació de continguts sexistes a les xarxes socials, les addiccions i els atestats policials, entre d'altres. "Bona part d'aquests atributs són compartits entre tots dos perfils: agressors i víctimes. I els tipus de violència que es podrien incloure en cada cas són diversos: violència econòmica, emocional, física, sexual, vicària, laboral i ciberviolència", explica Plo Moreno.

D'aquesta manera, el sistema proposat té com a objectiu detectar possibles agressors i víctimes tant per "predir" futurs casos de violència com per obtenir més informació a fi de poder definir estratègies de conscienciació i vigilància on calgui. Aquest últim punt seria possible, per exemple, "promovent la conscienciació a les zones on s'han trobat més perfils de possibles agressors, augmentant la vigilància per part dels cossos de seguretat o incrementant l'atenció psiquiàtrica i psicològica en aquestes zones", indica l'autor del treball final de màster (TFM).

Llenguatge sexista a les xarxes

Un dels aspectes que s'analitzen per relacionar dades i poder prevenir situacions de violència de gènere és el llenguatge utilitzat a les xarxes socials, que pot tenir un paper important a l'hora d'anticipar-se als casos. Com explica Laia Subirats, tutora del TFM i membre del grup Applied Data Science Lab (ADaS Lab) de la UOC, el processament del llenguatge natural ofereix la possibilitat d'identificar i classificar el sexisme i també de localitzar discursos d'odi, cosa que es pot aconseguir amb tècniques d'aprenentatge automàtic.

Així mateix, es poden extreure temes dels textos publicats a les xarxes socials per veure quins predominen. "Això es pot fer amb la tècnica Latent Dirichlet Allocation, que, de fet, ja s'ha aplicat en altres camps, com la detecció d'ansietat i depressió en un avortament espontani fent servir dades de Twitter", indica Subirats.

A més de prevenir casos de violència de gènere, el sistema proposat per l'autor del treball té altres utilitats: per exemple, contribuir a augmentar el coneixement sobre els processos que porten una persona no violenta a ser-ho en diferents àmbits. És a dir, esbrinar quins esdeveniments que afecten l'estat emocional i psicològic d'una persona tenen un paper clau perquè es converteixi en agressor o en víctima, ja que, com explica Javier Plo Moreno, "ningú neix essent agressor o víctima". "Aquests esdeveniments estarien definits pels atributs que s'han comentat abans, que finalment no són altra cosa que successos que ens poden passar a qualsevol de nosaltres. No hi ha ningú lliure de ser un possible agressor o una possible víctima", afegeix l'autor del treball.

Les xifres ho corroboren: malgrat els esforços per combatre la violència de gènere des de les institucions, el nombre de dones víctimes va augmentar un 3,2 % l'any 2021, fins a arribar als 30.141, segons les últimes dades de l'INE. Aquest mateix any, la taxa de víctimes de violència de gènere va ser d'1,4 per cada 1.000 dones més grans de 14 anys.

Ciència útil

Tot i que no és la primera vegada que s'empra la IA per ajudar a combatre la violència de gènere, Arquitectura de un sistema de ayuda a la prevención de casos de violencia de género en España és el primer treball que es basa en l'anàlisi de dades per anticipar-se als casos. Com afirmen Subirats i Plo, la majoria de les aproximacions al problema se centraven en prediccions numèriques de l'evolució dels casos en el temps, en estudis de termes relacionats amb la violència de gènere a les xarxes socials o en millores sobre algun sistema predictiu ja existent en àmbits molt concrets. No obstant això, fins avui no n'hi havia cap que plantegés la possibilitat de vincular possibles agressors i víctimes amb antelació.

Quant a les possibles dificultats de desenvolupar el sistema, en opinió de la professora col·laboradora de la UOC, la principal és evitar biaixos en les dades i en els algorismes. A més, com explica l'autor del treball, "caldria legislar d'alguna manera per poder obtenir informació personal, ja que els atributs esmentats estan compostos fonamentalment d'aquesta mena d'informació. També caldria que les xarxes socials proporcionessin dades que ajudessin els cossos i les forces de seguretat de l'Estat a identificar els possibles agressors i víctimes."