Problemes ètics al voltant de l'ús de filtres a Internet[*]
I Congrés Internacional sobre comunicació i Realitat (18 i 20 de maig de 2000)

David Casacuberta Sevilla

Professor de Filosofia de la Ciència i la Tecnologia de la UAB i consultor dels Estudis d'Humanitats i Filologia de la UOC
dcasacuberta@campus.uoc.es

Àngel Puyol González

Professor de Filosofia Moral i Política de la UAB i consultor dels Estudis d'Humanitats i Filologia de la UOC
apuyol@campus.uoc.es


Resum: L'objectiu d'aquest article és explicar què signifiquen els filtres a Internet, com els podem utilitzar per limitar l'accés a les pàgines web amb continguts il·legals o perjudicials i quines qüestions ètiques estan relacionades amb ells. A l'article, explorem els diferents problemes ètics derivats de: a) l'absència d'eficàcia dels filtres, b) el lloc públic on es poden posar, c) la seva generalització i d) l'ús obligatori de programaris amb filtres. Argumentem que, des d'un punt de vista ètic, els programaris amb filtres no s'haurien d'utilitzar en espais públics, com ara biblioteques públiques, i que no haurien de ser obligatoris atès que entren en conflicte amb llibertats bàsiques com la llibertat d'expressió i d'informació. Per tant, els filtres han de ser utilitzats pels pares i mestres de manera discrecional, però tenint en compte en tot moment que la seva falta d'eficàcia i la generalització els pot convertir en una eina perillosa que mai no pot substituir la tutela de pares i educadors.


1. Què són els filtres de contingut

Internet és sens dubte famós com un mitjà global, però el que el fa interessant no és tant que tothom hi tingui accés com a receptor (al cap i a la fi, la televisió o la ràdio també són globals) sinó que també hi tinguem accés global com a emissors. De fet, exceptuant un petit nombre de coneixements tècnics, qualsevol persona que tingui accés a la xarxa pot ser productora de continguts.

Aquest fenomen és certament nou: fins ara poca gent gaudia de la possibilitat d'emetre des de mitjans globals com la televisió, la ràdio o la premsa escrita. No cal indicar els avantatges que això representa, però no s'ha d'oblidar que també planteja dificultats importants.

No tota la informació és adequada per a tothom. Certes informacions són il·legals, com la pornografia infantil, i d'altres malgrat ser legals per a un adult poden ser pernicioses per a un menor (com la pornografia comercial o la violència gratuïta). Fins ara, els mitjans de comunicació globals estaven en mans d'un petit nombre de persones que s'autoregulaven (ja fos per por a sancions o per garantir l'audiència) de manera que —amb alguna excepció— ningú podia contemplar material il·legal a casa seva i els menors d'edat no tenien accés a imatges o informacions que poguessin ser nocives per al seu desenvolupament mental.

Com tots sabem, Internet ha canviat això totalment: si la llibertat d'expressió s'ha fet extensiva a tots els internautes, també és cert que no tothom la utilitza amb la responsabilitat que caldria, i ara no és excessivament difícil trobar material il·legal a la xarxa i és absurdament fàcil trobar-ne de nociu per als menors.

La solució més defensada per tal d'evitar aquests problemes és l'ús de programes anomenats filtres de contingut. Un filtre de contingut és un programari que evita l'accés a certs continguts d'Internet. Aquest procés normalment té dos components:


Classificació: una organització determinada (un govern, una ONG per a la protecció dels infants, una secta...) fa una llista de llocs web i els classifica a partir de distincions, que poden anar d'un simple "permès/no permès" a elaboracions molt més desenvolupades, com la plataforma PICS.

Filtratge: Un cop es sol·licita un document d'Internet, el filtre examina si aquest document està dins d'un web a la llista de "no permesos". Si és aquest el cas, l'accés és denegat i el contingut il·legal o nociu no es mostra.


A l'hora de filtrar els continguts podem trobar dues formes bàsiques de fer-ho: la llista negra i la cerca de paraules clau. El filtratge per llistes negres consisteix, simplement, a tenir una enorme llista de llocs web no permesos introduïda per operadors humans. Aquesta llista es va actualitzant a mesura que altres webs de caràcter il·legal o nociu van apareixent per Internet.

El sistema de cerca de paraules clau dóna una pista de la mena de contingut del web. Per exemple, la continuada presència de termes com teenage fuck, sex, etc. és una bona pista que la pàgina en qüestió conté imatges pornogràfiques no recomanables per a un menor.

A diferència del sistema basat en llistes negres, el sistema de paraules clau no té cap mena d'informació de quines pàgines web en concret són recomanables i quines no: simplement es limita a analitzar la informació que està rebent i la plasma en pantalla o no segons la presència o absència de les paraules clau.

Un filtre de contingut tan sols es pot desconnectar mitjançant una contrasenya, que només els pares i/o educadors coneixen, amb la qual cosa els adults poden accedir sense problemes a pàgines violentes, pornogràfiques i de tota altra mena, mentre protegeixen els menors d'aquesta mena de continguts nocius. Un adult, si així ho prefereix i vol evitar-se sorpreses desagradables, també pot navegar amb un filtre connectat.

A l'hora d'aplicar els filtres, aquests poden ser tan bàsics com per evitar l'accés a la pornografia a menors, però poden desenvolupar-se molt més; de vegades per bé i d'altres per mal: una persona que vulgui que el seu fill creixi en un ambient de respecte a totes les races pot decidir impedir l'accés a pàgines xenòfobes; un membre fanàtic d'una secta pot decidir impedir a tota la seva família que entrin a llocs web d'altres religions...

D'altra banda, com que en aquest article ens centrarem en les qüestions al voltant de l'educació, no tocarem un altre ús dels filtres: la seva utilització dins una empresa per bloquejar l'accés a espais recreatius o no relacionats amb la feina que algú ha de portar a terme, per exemple.



2. Descripció dels problemes ètics més comuns

En un principi, els filtres no fan res més que convertir-se en l'equivalent electrònic d'un quiosquer: si és una persona raonable, tindrà les revistes pornogràfiques i les pel·lícules violentes allunyades del públic i, sens dubte, si un menor demana alguna publicació que la llei considera que no és correcta per a ell, el quiosquer es negarà a vendre-l'hi. Així mateix, segons com i a on s'apliquen, aquests programes generen problemes ètics de força complexitat. En podem parlar de tres tipus:


2.1. Falta d'eficàcia
El fet que una rentadora no funcioni correctament no genera cap problema ètic, com a molt la roba acabarà amb les mateixes taques que tenia abans de rentar-la. Però en el cas dels filtres, si no funcionen correctament generen dues menes de problemes ètics importants: 1) el menor continua accedint a pàgines que moralment no hauria de poder veure, i 2) s'impedeix al menor accedir a pàgines normals a les quals hauria de tenir accés.

Tant el sistema de llistes negres com el de paraules claus actuals generen algun d'aquests problemes: l'ús de paraules clau impedeix accedir a pàgines plenament raonables (per exemple pàgines d'astronomia que inclouen l'expressió ull nu) i no bloqueja l'accés a d'altres (pàgines pornogràfiques que només tinguin fotografies, o en les quals les paraules clau estiguin en una llengua no reconeguda pel programa). Aquest resultat es deu al fet que el sistema és molt simple i no és capaç de percebre el context en el qual les paraules es troben. Un altre exemple molt conegut és el de l'expressió pits (breasts); malgrat que aquest terme s'utilitza contínuament a les pàgines pornogràfiques, també pot tenir un ús totalment innocu en una pàgina que parli sobre càncer de pit, de forma que impedim, per exemple, que una adolescent pugui informar-se des d'Internet sobre aquesta malaltia, una situació indiscutiblement absurda.

L'ús de llistes negres, si estan ben fetes, hauria de garantir que cap pàgina "raonable" sigui a la llista (exceptuant errors comprensibles o abusos[1]), però com que Internet és un ens descentralitzat, enorme i en contínua mutació, és del tot impossible garantir llistes completes —de manera que, amb una mica de paciència, el menor acabarà accedint al material nociu que li interessi.


2.2. Problemes d'ubicació
A les biblioteques públiques hi tenen accés tant menors com adults. És raonable fer servir filtres? Quin dret preval en aquests espais, el del menor o el de l'adult? Pensem que hi ha molts argumentsa favor de no introduir filtres a les biblioteques públiques i ben pocs —o cap— per fer-ho.

En primer lloc, així com les biblioteques públiques són els únics espais perquè molta gent pugui llegir llibres, encara ara són l'únic espai d'accés públic i gratuït a Internet. Si introduïm filtres estem censurant molts adults que només tenen aquesta forma d'accés a la xarxa i que, per tant, no tenen una altra alternativa d'accedir a aquestes pàgines censurades. Algú podria dir que les biblioteques no són l'espai per accedir a la pornografia, però no tot el material nociu ha de ser necessàriament de caràcter pornogràfic. Per exemple, és raonable impedir que un menor accedeixi a una pàgina on es descrigui la violència brutal practicada pels nazis als camps de concentració, però sens dubte són pàgines que tot adult hauria de tenir l'obligació de visitar. Una persona homosexual adulta té el perfecte dret d'informar-se sobre l'estil de vida de la seva comunitat, però molts pares pensaran que aquesta mena d'informació no és bona per a un menor que encara s'està formant emocionalment i sexualment. Sembla que no podem limitar els drets dels adults a la informació quan no tenen altres alternatives a l'abast, de forma que l'ús de filtres no és gaire recomanable en aquest cas.

En segon lloc, tal com veurem en la propera secció, els filtres no són gairebé mai reprogramables o modificables per pares i educadors —en aquest cas, els bibliotecaris— de manera que no són ells els que decideixen quins textos s'ofereixen sinó que ho fan les empreses. Una actuació així sembla altra vegada poc recomanable.

En tercer lloc, els filtres, tal com hem explicat en la secció anterior sobre eficiència, cometen diversos errors i fan que no es pugui accedir a pàgines de molta importància per a adults i menors. Un pare pot decidir, en un moment donat, acceptar la dificultat i pensar que paga més la pena que el nen no accedeixi a cap lloc nociu, encara que s'impedeixi també l'accés a aquestes pàgines importants. Així mateix, un estat no pot decidir fer això amb persones adultes: estaríem davant d'un cas de censura generada tècnicament. Per fer-nos-en una idea: aquí tenim una llista de textos prohibits pels programes de més ús[2]:

Llocs web dedicats a explicar tècniques de sexe segur per evitar la SIDA, llistes de llibres prohibits per diverses dictadures, la American Association of University Women Maryland (AAUW Maryland), pàgines del columnista del San Francisco Examiner, Robert Morse, una pàgina que ofereix ajuda a adolescents amb problemes al voltant de la seva possible homosexualitat, The Ethical Spectacle, de Jonathan Wallace... sense oblidar-nos de les pàgines dedicades a astronomia, càncer de pit i moltes altres.



2.3. Problemes de generalització
Fins a quin punt es poden desenvolupar programes de filtratge capaços de recollir els valors d'una comunitat? Cada grup ètnic, cada país, fins i tot cada família té una visió diferent del que un menor pot veure o no, i això no implica només pornografia o violència, sinó també altres qüestions com la religió, la política, l'art, etc. Per exemple, els criteris sobre què resulta eròtic als Estats Units són molt més estrictes que a Europa. Allà la visió d'un pit es considera ja intolerable per a un menor, i s'han arribat a prohibir exposicions artístiques en determinats estats d'aquest país perquè hi havia quadres i escultures de nus femenins on es veien pits.

La raó última d'aquests problemes rau en el format tècnic d'aquests programes, ja que són com caixes negres per a l'usuari, el qual no pot modificar els criteris d'accés.

En el cas dels filtres que funcionen amb llistes negres, això es fa per qüestions purament comercials. La part "sucosa" del producte és la llista de llocs prohibits: com que l'empresa no vol que la competència s'apoderi d'aquesta llista i la utilitzi per als seus productes, aquesta llista normalment es troba xifrada i és inaccessible. Així mateix, això implica un problema bastant greu per als pares i educadors: aquests no saben quines pàgines estan prohibides i quines no, de forma que al final és l'empresa i no els pares qui decideix el que el seu fill pot veure o no.

En el cas dels filtres activats amb paraules clau, el problema és diferent, però el resultat és el mateix. En primer lloc, a bona part dels programes, aquesta llista de paraules clau no es pot canviar, ja que estan introduïdes dins el programa, però encara que l'usuari pugui editar la llista de paraules clau, això serveix de ben poc. Com hem dit, aquests sistemes no són capaços d'entendre contextos, així que una persona no pot fer distincions interessants més enllà del proverbial caca, cul, pet, pipí. Imaginem que un pare no vol que el seu fill vegi pornografia —hetero o homosexual— però no li importa que visiti pàgines web d'homosexualitat de caire informatiu on s'expliqui com és el seu estil de vida, amb la idea que aprengui a respectar-los. Una distinció així, que és molt raonable, està totalment fora de l'abast dels productes més moderns de filtratge que hi ha actualment al mercat.


3. PICS. El filtratge obligatori

Davant els problemes indicats en l'apartat anterior, un nombre significatiu de governs i institucions han defensat una forma de millorar la idea original de filtre de manera que els problemes descrits més amunt es puguin resoldre. La idea és desenvolupar un protocol informàtic que permeti a l'autor o a terceres persones etiquetar un web indicant el tipus de contingut que s'hi pot trobar. El sistema més conegut i emprat és el PICS, al qual ens referirem a partir d'ara.

PICS són les sigles angleses de Plataforma per a la Selecció del Contingut a Internet. El creador de PICS, Paul Resnick, el descriu així[3]:

"[PICS és] un conjunt d'estàndards tècnics [...] perquè la gent pugui distribuir electrònicament descripcions de treballs digitals d'una forma senzilla i interpretable pels ordinadors. Aquests poden processar etiquetes en un segon pla, i d'aquesta manera protegir automàticament els usuaris de material nociu o dirigir la seva atenció a llocs de particular interès. L'estímul original per desenvolupar PICS va ser permetre als pares i mestres filtrar materials que consideressin nocius per als nens quan es trobaven a la xarxa. En comptes de censurar el que es distribueix, com ha intentat la llei per la Decència en les Comunicacions [CDA són les seves sigles angleses, i actualment està retirada per anticonstitucional], PICS possibilita que els usuaris controlin el que reben."
És a dir, un individu pot configurar el programa de filtratge a partir de certs paràmetres de forma que s'impedeixi l'accés a aquells llocs webs que no s'adapten als nostres estàndards ètics. En principi, PICS és un sistema obert, amb la qual cosa diverses organitzacions, governs, grups, etc., poden elaborar les seves pròpies llistes sobre què és correcte i què no.

Els sistemes de categorització més coneguts són[4]:

RSACi. Patrocinat pel Consell Assessor de Programari Recreatiu —els mateixos que cataloguen els videojocs als Estats Units—: és segurament el més conegut actualment. Afirmen tenir més de 43.000 llocs web catalogats. Entre les seves categories inclouen "violència", "nus", "sexe" i "llenguatge obscè".

SafeSurf: desenvolupat per la companyia de programari SafeSurf. Les categories inclouen "límit d'edat", "blasfèmies", "temes heterosexuals", "temes homosexuals", "nus", "violència", "sexe, violència i blasfèmies", "intolerància", "glorificació de l'ús de les drogues", "altres temes per a adults" i "joc". Cada categoria té al seu torn nou subdivisions.


Tant SafeSurf com RSACi depenen principalment de l'autoclassificació dels autors.


NetShepherd: està basat en nivells de qualitat (de 1 a 5 estrelles). A diferència de SafeSurf i RSACi, NetShepherd encarrega la classificació a terceres persones. Afirmen tenir més de 300.000 llocs web classificats.


PICS és molt més eficaç que els sistemes mencionats abans. Al contrari del sistema de paraules clau, PICS és molt precís i permet decidir amb molta més informació si la pàgina serà acceptable o no, i, a diferència dels programes amb llista negra, que són opacs per a l'usuari, és un sistema obert on cadascú pot controlar què es censura i què no.

Tanmateix, l'altre gran problema del programari de filtratge continua: què passa quan una pàgina no està etiquetada? Si decidim només accedir a pàgines que estiguin etiquetades amb PICS els menors que utilitzin els programes no podran visitar moltes pàgines completament acceptables que no hagin estat etiquetades. Si, en canvi, deixem que l'adolescent visiti lliurement pàgines no catalogades per PICS, és més que factible que acabi en una pàgina de contingut nociu o fins i tot il·legal.

Per resoldre aquesta segona dificultat, diversos governs, com els Estats Units i la Unió Europea estudien la possibilitat de fer obligatori catalogar amb PICS o un equivalent aquelles pàgines que poguessin ser nocives. La persona que tingués una pàgina il·legal o nociva sense catalogar podria ser castigada amb multes importants, i fins i tot amb penes de presó. Aquest mecanisme faria indubtablement que el sistema fos molt més funcional; però, a quin preu?

En primer lloc, hi ha pàgines que són molt difícils de catalogar. Quan es parla de PICS s'acostuma a dir que no hi ha cap problema, que és similar al catalogament de pel·lícules i sèries televisives. El que s'oblida moltes vegades és que els sistemes de classificació per decidir si una pel·lícula és visible o no s'aplica només a obres d'entreteniment; mai a documentals o cursos audiovisuals. En canvi, el sistema PICS s'hauria d'aplicar a qualsevol contingut d'Internet —incloent-hi els de temàtica política, ideològica, moral o religiosa— i és aquí on comencen els problemes. Per exemple, una pàgina pensada perquè els adolescents coneguin tècniques de sexe segur seria inadequada pels menors en qualsevol sistema PICS, ja que contindria imatges i/o textos amb sexe explícit; però l'objectiu de l'autor són precisament els menors d'edat.

En segon lloc, la diversitat de criteris ètics a les diferents comunitats generaria problemes irresolubles a l'hora de catalogar. Una pàgina web que contingués les fotos sexualment explícites de l'artista Robert Maplethorpe, per exemple, ¿hauria de ser catalogada com a art o com a pornografia? Recordem que a certs estats dels EUA les exposicions d'aquest autor van ser prohibides.

Finalment, l'obligació d'autocatalogar un servei entraria en conflicte amb la llibertat d'expressió dels creadors de pàgines web. Al món real, com hem dit abans, l'obligació de catalogació s'aplica només a les obres d'entreteniment i no a les culturals o de contingut polític. Seria com si l'autor d'un llibre sobre trotskisme es veiés obligat a afegir una nota que digués: "Atenció: el seu fill es pot tornar un revolucionari violent si llegeix aquest llibre."

L'alternativa de fer servir sistemes de classificacions per part de terceres persones, com el cas de NetShepherd, té el problema obvi que si es fa obligatori l'ús d'un d'aquests sistemes, o fins i tot d'una col·lecció d'aquests, s'entra automàticament en un tipus de censura. Seria l'equivalent electrònic d'una llista de llibres prohibits. D'altra banda, els autors no haurien d'estar d'acord necessàriament amb la catalogació d'aquesta tercera persona, i es generarien conflictes gairebé impossibles de resoldre.


4. Solucions pràctiques al problema

Hi ha alguna forma d'introduir els sistemes de filtratge a Internet de manera que s'evitin bona part d'aquests conflictes ètics? Com s'hauria de fer?

En primer lloc desaconsellem absolutament l'obligatorietat d'aquests sistemes. Si s'obliga els autors a catalogar les seves pàgines, en primer lloc estem violant gratuïtament la seva llibertat d'expressió, i en segon lloc estem generant problemes conceptuals gairebé impossibles de solucionar quan sortim de l'espai de l'entreteniment i ens veiem obligats a catalogar pàgines amb contingut religiós, ideològic, polític, filosòfic, moral o científic.

Si, en canvi, encarreguem a terceres persones la catalogació de les llistes, en primer lloc imposaríem una visió monolítica de l'ètica, fet que està totalment en contra de la idea que els estats han de respectar la pluralitat ètica dels seus ciutadans. En segon lloc, estaríem creant un sistema que funcionaria exactament igual que una llista de llibres censors, i desenvoluparíem de fet un mètode de censura virtual.

També desaconsellem la introducció de programes de filtratge als espais públics com les biblioteques, fins i tot si hi ha menors, pel fet que es violarien diversos drets bàsics dels adults que també van a aquestes biblioteques públiques.

Tenim només l'opció del filtratge opcional. Aquells pares que per qüestió de temps, falta de coneixements, etc., no puguin vigilar els seus fills mentre naveguen per la xarxa i prefereixin treballar amb un programa de filtratge, poden fer-ho, sent sempre conscients de les limitacions d'aquest mètode.

El perill més gran d'aquest sistema és la falta de pluralitat de criteris per als pares a l'hora d'escollir. Així com els estats tenen l'obligació d'oferir als pares diverses opcions en l'educació dels seus fills —per tal d'evitar monismes ètics que generin una població monocolor a nivell moral—, pensem que els estats han de contemplar en els seus pressupostos el finançament d'organitzacions de la més diversa índole ètica, ideològica i política perquè elaborin filtres de contingut seguint els seus criteris, i així garantir el pluralisme. Tanmateix, aquests criteris haurien de ser analitzats per experts en ètica i drets humans per decidir si aquests filtres entren en conflicte amb algun dels drets bàsics garantits per la nostra Constitució.

De totes maneres, els pares i educadors han de ser molt conscients de totes les dificultats tècniques descrites en el segon apartat i, per tant, voldríem acabar observant que res pot substituir la vigilància directa de pares i educadors. Seran aquests els que hauran de decidir si el que el seu fill o pupil contempla a Internet és saludable o nociu per al seu desenvolupament moral, emotiu i sexual. Cap eina informàtica, per molt sofisticada que sigui, pot substituir la relació pare-fill. Res pot substituir el diàleg pare-fill. Si hi ha confiança entre les dues parts tard o d'hora el fill parlarà amb el pare i li consultarà si és veritat que l'Holocaust no va tenir mai lloc, si està bé que dos homes es facin petons o si és realment perillós prendre èxtasi abans de sortir a ballar. És en aquests moments quan el pare o educador conscienciats sabran quina mena de contingut està veient el seu fill o pupil a Internet i li podran recomanar la millor manera de relacionar-se amb aquest material. Si no hi ha comunicació, per moltes mesures tècniques que es desenvolupin, el menor acabarà accedint a webs nocius i il·legals (pot connectar-se en un cafè d'Internet, a casa d'un amic, o descobrir la contrasenya per desconnectar el filtre, etc.).

Moltes vegades es veu l'ètica com un sistema de prohibicions. Creiem que això està ben lluny de la realitat. L'ètica el que ha d'oferir és possibilitats, alternatives. El món, com més plural i obert sigui, més ric i lliure serà. El mateix li ha de succeir a Internet. Per això afavorim l'ús de filtres de contingut opcional, amb supervisió paterna, per garantir la diversitat a la xarxa.




Notes:
[*] Aquest text va ser presentat al I Congrés Internacional sobre Comunicació i Realitat, celebrat a Barcelona entre el 18 i el 20 de maig del 2000, i va ser publicat per la revista Trípodos en el número extraordinari del mateix any.
[1] Diverses empreses fabricants de programari de filtratge amb llistes negres han afegit a la llista de webs prohibits organitzacions de drets humans que els havien criticat i, fins i tot, la competència, emparant-se en el fet —explicat més endavant en la comunicació— que la llista de llocs prohibits no és accessible per a l'usuari.
[2] Llista proporcionada a: IFEA, Joint Statement for the Record on "Kids and the Internet: The Promise and the Perils", 14-12-1998 http://www.eff.org/pub/ Censorship/Academic_edu/ Library_filtering/HTML/ 19981214_ifea_nclis _statement.html
[3] Resnick, Paul. (1993, març). "An Introduction to PICS". Scientific American. Pàg. 50-58.
[4] La font utilitzada és el FAQ sobre filtratge, de Harry Hochheiser, secretari del CPSR (http://www.cpsr.org)


Enllaços relacionats:

Kriptópolis
http://www.kriptopolis.com
CPRS-ES
http://www.cpsr.org/chapters/spain
Equipo Nizkor
http://www.derechos.org/nizkor
Human Rights Forum
http://www.civilrightsforum.com
[Data de publicació: octubre de 2001]