Klassekampen.no
Fredag 28. september 2018
VEGG MOT VEGG: Bildet «Make America Great Again» av Donald Trump naken, laget av kunstneren Illma Gore, henger på veggen på et galleri i London. Men for Facebook er dette bildet for drøyt. FOTO: NIKLAS HALLE’N, AFP/NTB SCANPIX
FACEBOOK
Internetts vaskehjelp
VASKER MENS ANDRE KOMMENTERER: I filmen «The Cleaners» fortelles historien til Facebooks «renholdere» på Filippinene. FOTO: GEBRUEDER BEETZ FILMPRODUKTION
Livet

Vi tar for oss moderne fenomener, historie og vitenskap.

Jobben med å passe på ytringsfrihetens yttergrenser er outsourcet til et data­senter på Filippinene.

En kvinne sitter og gransker penisen til Donald Trump. Ansiktet hennes er lyst opp av en dataskjerm, som viser det tegnede kjønns­organet: midtpunktet i et maleri av den amerikanske p­residenten.

Hun er content moderator, innholdsmoderator for Facebook, en av dem som vurderer bilder og videoer som blir postet på platt­formen. Sammen med flere andre nåværende og tidligere moderatorer får hun komme til orde i filmen «The Cleaners», som denne uka vises på Bergen Internasjonale Filmfestival.

Kvinnen vurderer maleriet. Hun påpeker at det er tydelig satirisk, antyder at det er en form for maktkritikk. Maleriet påstår at Trump ikke er en sterk leder, at han ikke er mektig nok til å styre USA, forteller hun. Hun har to valg: å ignorere bildet, altså la det ligge på Facebook, eller å slette.

– Slett! utbryter hun.

Hvorfor? Fordi det krenker Donald Trumps personlighet, forklarer hun. Den type krenkelser går mot Facebooks retningslinjer.

Fakta:

• Filmen «The Cleaners» (2018) er en dokumentar som ser nærmere på hvordan Facebooks sensur av ulovlige, injurierende og skadelige innlegg fungerer i praksis.

• I filmen intervjues «renholderne» som modererer Facebook og sørger for at brukere følger retningslinjene.

• «The Cleaners» er laget av de tyske filmskaperne Hans Block og Moritz Riesewieck og vises på Bergen Internasjonale Filmfestival (Biff) søndag 30. september og tirsdag 2. oktober.

Facebook-politiet

Hun er ikke alene. På Filippinene har hun titusenvis av kollegaer. De sitter på et datasenter i hovedstaden Manila og sjekker innhold som blir postet av brukere i USA og Europa. De er godt gjemt og har ikke lov til å uttale seg om jobben de gjør.

Først og fremst viser «The Cleaners» at innholdsmoderatorene til Facebook, Youtube og Twitter er velmenende, men overarbeidede mennesker som går til grunne eller blir alvorlig traumatisert av den jobben de gjør for de amerikanske selskapene.

I et lavtlønnet land, hvor det å saumfare søppel etter verdifullt materiale og nytteobjekter er en reell dagjobb for mange, er stillingen som moderator godt betalt og et alternativ for dem som har tatt utdannelse.

Mange av moderatorene i «The Cleaners» viser et sterkt ønske om å beskytte brukerne av Facebook. De ser på seg selv som en type voktere, «som politimenn», sier en av dem til kameraet.

Arbeidsmengden er enorm, og innholdet er tidvis grusomt. Én innholdsmoderator vi møter i filmen har en kvote på 25.000 bilder han må vurdere hver dag. Det er altså 25.000 beslutninger om å «ignorere» eller «slette» en post på Facebook. Kvalitetskontrollen rekker kun å sjekke 3 prosent av beslutningene.

Moderatorene jobber med spesialiserte felt. Noen forteller at de ikke klarer å slutte å drømme om peniser. Andre har sett hundrevis av halshogginger og kan snakke i detalj om forskjellen på å bruke en skarp versus sløv kniv. Det beste er skarp kniv. Da tar det ikke så lang tid.

Andre forteller om folk som henger seg foran laptopen etter å ha sett hundrevis av videoer og live­sendinger av selvmord.

Materien er grusom. Samtidig tvinges de til å se – hvis de vil beholde jobben. Å hoppe over en film eller et bilde regnes som en feil. Man kan kun ha tre feil i måneden før man havner i trøbbel.

– En helt jævlig jobb

Bente Kalsnes er første­amanuensis ved Oslomet og har skrevet doktorgrad om sosiale medier. Hun forteller at filmen tilbyr viktig dokumentasjon av hvordan innholdsmoderatorene arbeider, noe som kun har kommet fram glimtvis tidligere. Fra før har man visst at moderatorene jobber under veldig strenge kontrakter, og at de ikke får lov til å fortelle om betingelser, lønn og hvem de egentlig jobber for. Det som gradvis har kommet fram, ifølge Kalsnes, er at påkjenningene for dem som må moderere noen av menneskehetens mørkeste sider, er enorme:

– Det å være moderator på Facebook virker som en helt jævlig jobb.

Én side av saken er menneskelig ruin. En annen er hvilke konsekvenser det har for demokrati, offentlighet og ytringsfrihet å outsource denne typen beslutninger. Brukere av Facebook er fra før underlagt retningslinjene til et amerikansk selskap. Videre skal redaksjonelle vurderinger gjøres av folk i et helt annet land og med en annen kultur.

Amming i USA og Norden

Disse redaksjonelle beslutningene blir nå tatt av trente amatører. Kalsnes poengterer at det er u­unngåelig at norsk offentlighet og debatt flyttes ut på Facebook, men det får også konsekvenser når plattformen blir utviklet og moderert av et amerikansk selskap. Da følger det også et sett med verdier og inntjeningskrav med på kjøpet:

– Facebook er et internasjonalt selskap som baserer seg på amerikansk lovgivning og er preget av amerikansk moral.

Kalsnes trekker fram Facebooks sensur av ammende mødre som et godt eksempel på kollisjon mellom amerikansk og europeisk moral. Etter mye fram og tilbake har retningslinjene per i dag landet på at det er greit å vise et ammende barn, så lenge det ikke er synlige bryst­vorter eller areola på bildet.

– Dette blir veldig rart i Norden, hvor ammende mødre er et helt vanlig syn, sier hun.

Striden om napalm-jenta

Også når det gjelder satire, er kontrasten til Norge stor. I 2005 publiserte for eksempel Dagbladet en tegning laget av Finn Graff, som viste Erna Solberg (H) som en gris. Hun var i ferd med å bli besteget av en annen politiker-som-gris: Carl I. Hagen (Frp). I bakgrunnen kan en skimte Lars Sponheim (V). Han hjelper til ved å ha et godt grep om kjønnsorganet til Hagen, som han fører mot den ventende Solberg. Underforstått: Venstre hjelper Høyre og Frp i gang med et politisk samarbeid.

Det ble naturligvis rabalder av dette. Men på Facebook ville nok ikke en slik tegning fått ligget i fred spesielt lenge.

Denne lave takhøyden for enkelte typer ytringer rammer også andre sektorer, som journalistisk dokumentasjon av krigsforbrytelser og lidelse verden over.

I en scene i filmen dukker bildet av den velkjente napalm-jenta fra Vietnamkrigen opp, fotografert av Nick Ut. Det var dette bildet som fikk Aftenposten-redaktør Espen Egil Hansen til å skrive et brev til «Dear Mark» om at Facebooks sensur hadde gått for langt. Innholds­moderatoren identifiserer bildet som ikonisk, og nevner at jo, dette var veldig viktig. Han kan tydelig noe om bildets historie og rolle. Men bildet må han slette. Det viser barn og synlige kjønnsorgan. Et helt klart brudd på Facebooks retningslinjer.

Retningslinjene er også til sterk ulempe for Airwars, en organisasjon som jobber med å dokumentere tap av sivile liv og krigshandlinger i Syria, Libya og Irak. Organisasjonen samler inn informasjon fra sosiale medier. Sivilbefolkningen i krigsområdene filmer bombenedslag og andre hendelser med mobiltelefoner og legger ut videoene på Facebook. Men Airwars må jobbe febrilsk for å få lagret disse videoene. Facebook sletter dem nemlig så raskt de kan. Det skal ikke være videoer og bilder av krig på Facebook.

Makten får det som den vil

Facebooks globale policy passer rett og slett ikke alltid inn i norsk kultur og offentlighet. Bente Kalsnes påpeker imidlertid at det kanskje ville vært like problematisk å lage lokale regler fra land til land. Riktignok kjenner liberale demokratier i Norden på at Facebooks regler er vel strenge. Men i andre land ville lokale regler resultert i et ekstremt strengt regime.

Likevel er det allerede indikasjoner på at makten får det som den vil i en del tilfeller. I Tyrkia blir Erdogan-kritiske tegninger slettet, og dermed sensurert i hopetall. Kalsnes forteller at de store teknologiselskapene er utsatt fra et sterkt press fra ulike myndigheter, som vil ha inn sine egne begrensninger og ønsker.

Moderatorene i «The Cleaners» vurderer ofte innhold fra land og kulturer de aldri selv har erfart.

– Dette er snakk om ytterkantene av hva man kan ytre. Det er ikke Oxford-utdannede redaktører som sitter og vurderer det, men lavt utdannede og lavt lønnede arbeidere, sier Kalsnes.

Hun forteller at innholdsmoderatorene også fungerer som et argument Facebook bruker for å bygge legitimitet. Selskapet skryter ofte av de store menneskemassene de har satt til å moderere plattformen:

– Det tallet er viktig for Facebook. Når de kan si at de har ti tusen mennesker på saken, signaliserer det hvor viktig de synes at dette er. Å si at de har forbedret algoritmen sin vil ikke gi den samme troverdigheten.

Maskinene kan ikke redde oss

Hvis datamaskinene kunne tatt seg av noen av disse bildene, ville en kanskje skånet psyken til noen av innholdsmoderatorene, som må tråle seg gjennom dag etter dag med vold, barneporno, overgrep, terror, selvmord og krig. Samtidig sier Kalsnes at algoritmene per i dag ikke er gode nok til dette. Det trengs menneskelig fortolkning.

Dataprogrammene kan altså ikke redde dem. Hvordan en skal takle nyansene i ytringsfrihetens rand­soner i en tid hvor de fleste har anledning til å publisere hva de vil, når de vil, er et vanskelig spørsmål.

Enn så lenge er ikke bare deler av offentligheten flyttet ut på sosiale medier, underlagt private selskapers retningslinjer. De som må ta stilling til problemene på daglig basis er også flyttet ut av syne og ut av sinn.

Facebook, Twitter og Youtube svarte ikke på intervjuforespørslene til filmskaperne bak «The Cleaners». Facebook opplyser også til Klassekampen at de ikke har noen kommentar til dokumentarfilmen.

modernetider@klassekampen.no

Artikkelen er oppdatert: 10. desember 2018 kl. 11.57