Les neurotecnologies, cada vegada més relacionades amb la IA, plantegen un desafiament normatiu europeu

La intel·ligència artificial (IA) s'ha convertit en un factor decisiu que impulsa nombrosos camps, però també en una nova frontera per al desenvolupament de les neurotecnologies. Més enllà de la seva popularització en àmbits com l'automatització, la generació de continguts o l'anàlisi de dades, la seva aplicació a l'estudi i la intervenció sobre el cervell humà planteja importants debats ètics i morals sobre el potencial d'aquestes eines i la seva relació amb els drets i les llibertats fonamentals.

Ara, un estudi recent elaborat per un investigador de la Universitat Oberta de Catalunya (UOC) analitza aquest encreuament entre innovació i ètica en el marc de la regulació europea de la IA i el seu impacte en el desenvolupament de les neurotecnologies. "Ara mateix, totes aquestes tecnologies estan avançant moltíssim, i el que està en risc és l'essència del que ens fa ser humans: la capacitat de pensar i de decidir", afirma Miguel Ángel Elizalde, coordinador del Grup d'Estudis en Relacions Internacionals i Dret Internacional (GERD) i professor dels Estudis de Dret i Ciència Política.

El treball, publicat en accés obert, analitza les preocupacions ètiques emergents i adverteix de possibles vulneracions de drets humans vinculades a la privacitat mental, la llibertat de pensament i l'autonomia individual. A més, s'examina si el marc jurídic actual és suficient o si serà necessari articular nous drets específics davant d'una tecnologia que pot arribar a influir en els processos mentals de les persones.

Innovació en les neurotecnologies

S'entén per neurotecnologies aquells instruments i aplicacions que serveixen per mesurar i registrar senyals cerebrals de diferents tipus, com ara elèctrics, magnètics, òptics, acústics o mecànics, i també les tecnologies que permeten intervenir en els processos neuronals.

Durant dècades, aquestes tecnologies han tingut un desenvolupament principalment clínic i experimental, centrat en el diagnòstic de malalties neurològiques o en la recerca científica. No obstant això, la incorporació de la IA permet explorar els límits per anar més enllà i transformar per complet aquest camp.

Fins ara, no existia cap eina capaç de gestionar la ingent informació que produeix el cervell humà en forma de senyals complexos. Aquests processos resultaven impossibles d'interpretar sense sistemes avançats de processament. Però ara el panorama ha canviat per complet. El desenvolupament de la IA i la seva aplicació a les neurotecnologies permeten detectar patrons, correlacions i significats en aquestes dades, la qual cosa converteix senyals aparentment caòtics en informació útil i accionable.

Gràcies a aquesta capacitat, les neurotecnologies han passat de ser simples eines d'observació a esdevenir sistemes capaços d'interactuar amb la ment, especialment quan les tecnologies de neuroimatge es basen en altres avenços. Es tracta d'un conjunt de tecnologies orientades a estudiar l'estructura i el funcionament del cervell. Per la seva banda, les tecnologies de neurointervenció estan dissenyades per actuar directament sobre els processos neuronals mitjançant l'estimulació o la modulació de l'activitat cerebral, com fan certs dispositius neuroestimuladors cervell-ordinador i altres aparells.

Aquests dispositius cervell-ordinador poden funcionar tant en un bucle obert com en un bucle tancat, ja que tradueixen els senyals cerebrals rebuts i, fins i tot, també els envien, la qual cosa permet modificar o ajustar les accions. "Per exemple, un avió controlat per un dispositiu cervell-ordinador informa sobre l'estat del vent, la pressió, etc., directament al cervell, i això permet ajustar la direcció", explica Elizalde, que també és investigador adscrit al Centre de Recerca en Transformació Digital i Governança (UOC-DIGIT).

Riscos de l'aplicació

Atesa la capacitat que l'aplicació de la IA té en el camp de les neurotecnologies, hi ha nombrosos riscos derivats del seu possible ús per interferir en els pensaments i els estats mentals de les persones, com ara les emocions, les intencions o les preferències, fet que desperta grans preocupacions ètiques i morals. D'una banda, hi ha la idea que, sense una regulació adequada, aquestes eines es puguin utilitzar per extreure informació confidencial del cervell o influir en la conducta de les persones sense el seu ple coneixement.

"Les neurotecnologies, combinades amb la IA, podrien arribar a fer inferències del contingut subjectiu de la ment i, al mateix temps, intervenir en els processos mentals, de manera que afectarien el comportament", adverteix Elizalde. Així, existeix el risc potencial que siguin capaces d'identificar estats emocionals, creences o preferències íntimes, cosa que tindria enormes implicacions i conseqüències en tots els contextos socials i laborals.

Tanmateix, d'altra banda, les neurotecnologies també poden aportar beneficis extraordinaris en camps com la medicina, la salut mental o la rehabilitació neurològica. Les aplicacions potencials, que van des de teràpies per a malalties degeneratives fins a tractaments per a lesions medul·lars, podrien transformar les vides de milions de persones.

Marc normatiu i reglament

En aquest context, el reglament europeu d'IA contempla alguns d'aquests escenaris, ja que prohibeix els sistemes dissenyats per manipular el comportament de manera subliminar o enganyosa. No obstant això, aquesta regulació podria dificultar la recerca i el desenvolupament a Europa, fet que desplaçaria la innovació cap a regions amb marcs legals més permissius.

Fins ara, en l'etapa de desenvolupament, les limitacions són part de les excepcions del reglament, però, atès el seu progrés, els fabricants europeus i estrangers que vulguin comercialitzar els seus productes a Europa estaran subjectes a condicions més estrictes, i això pot afectar la seva posició de competència a escala mundial en els mercats internacionals.

"Existeix el risc que sigui més difícil innovar a Europa que en altres parts del món; és una preocupació legítima. Tanmateix, no s'ha de perdre de vista quin és el risc de no regular", assenyala Elizalde, que destaca que l'ús potencial de la IA i les neurotecnologies per "escriure la ment" estaria prohibit pel reglament europeu.

"La lògica d'aquesta prohibició és protegir el dret de les persones a decidir lliurement enfront de qualsevol sistema d'IA amb capacitat d'alterar el comportament de maneres que eludeixin el control racional, la qual cosa es considera un sistema d'IA de risc inacceptable", recalca Elizalde.

Disseny de nous drets

A causa dels possibles conflictes i riscos derivats de la seva aplicació, els experts han plantejat nombrosos debats sobre l'auge d'aquestes tecnologies i la necessitat de dissenyar nous drets destinats a protegir la privacitat mental, la identitat personal i el lliure albir contra possibles abusos tecnològics. Són el que es coneix com a neurodrets.

"És evident que el reglament s'aplica a la IA i no està pensat específicament per a les neurotecnologies. No obstant això, les neurotecnologies cada vegada fan més ús de la IA i funcionen de manera molt estreta amb aquesta tecnologia", explica Elizalde.

Segons el parer de l'investigador de la UOC, els drets humans existents i el marc normatiu europeu podrien ser suficients si s'interpreten de manera adaptada en contextos tecnològics, ja que admeten interpretacions que podrien protegir contra aquesta invasió de la privacitat o en cas d'atemptats contra la lliure decisió d'una persona. "Sobretot, protegeixen el dret a la llibertat de pensament, el dret a la privacitat i el dret a la integritat en les seves diferents manifestacions. Per tant, el disseny dels neurodrets no seria indispensable", explica Elizalde.

Segons aquesta perspectiva, no seria imprescindible crear noves categories jurídiques, sinó adaptar les existents per cobrir les amenaces derivades de la IA aplicada al cervell. Aquesta interpretació evita el risc de fragmentar el sistema de drets humans i reforça la idea que les garanties fonamentals han d'evolucionar al mateix ritme que la societat.

Aquest projecte s'emmarca en la missió de recerca Tecnologia ètica i humana executada per la UOC i afavoreix els objectius de desenvolupament sostenible (ODS) de l'ONU 9, indústria, innovació i infraestructura, i 16, pau, justícia i institucions sòlides.

Article de referència

Elizalde Carranza, M. A. (2025). Neurotechnologies in the AI Act: Moving away from the Neurorights Debate. The Age of Human Rights Journal, 26, e9853. https://doi.org/10.17561/tahrj.v26.9853

Recerca amb impacte i vocació transformadora

A la UOC entenem la recerca com una eina estratègica per avançar cap a una societat de futur més crítica, responsable i inconformista. Des d'aquesta visió, desenvolupem una recerca aplicada, interdisciplinària i connectada amb els grans reptes socials, tecnològics i educatius. 

Els més de 500 investigadors i investigadores i els més de 50 grups de recerca de la UOC treballen al voltant de cinc centres de recerca centrats en cinc missions: educació al llarg de la vida, tecnologia ètica i humana, transició digital i sostenibilitat, cultura per a una societat crítica, i salut digital i benestar planetari.

A més, la Universitat impulsa la transferència de coneixement i l'emprenedoria de la comunitat UOC amb la plataforma Hubbik.

Més informació: www.uoc.edu/ca/recerca