Techgiganterne er under et stigende politisk pres for at overvåge det indhold, som brugerne lægger på deres platform, og blokere ‘hadefuldt’ og ‘ekstremistisk’ indhold. I 2017 oprettede flere af de store platforme Globalt Internet Forum til Terrorbekæmpelse (GIFCT), der gennemsøger indhold for sortlistede organisationer. Udvælgelsen af de ekstreme organisationer sker på baggrund af kategoriseringer hos blandt andre FN’s Sikkerhedsråds sanktionsliste, efterretningsnetværket Five Eyes og den indflydelsesrige organisation South Powerty Law Center (SPLC).
Politisk pres på de sociale medier
Der er et stigende politisk pres på internetplatformenes udbydere for at fjerne uønsket indhold, og årsagerne er blandt andre ønsket om at forhindre hævnporno og udbredelsen af terrorrelateret indhold. I USA har årsagerne navnlig været mistanke om russisk indblanding i præsidentvalget i 2016, angrebet på Capitol Hill, højreorienteret ekstremisme og misinformation om coronavirus og vacciner.
Tysklands censurlov NetzDG fra 2018 påbyder udbyderne af sociale medier at fjerne eller blokere indhold, der bryder loven, inden for 24 timer eller højst syv dage. Overholder de ikke dette, risikerer de tårnhøje bøder på op til 50 mio. euro. Frankrig implementerede i foråret 2020 Avialoven, der giver udbydere af internetplatforme 24 timer til at fjerne “hadefuldt indhold”, men forfatningsdomstolen omstødte sidenhen loven. I Danmark vil regeringen i februar 2022 fremsætte et lovforslag, ifølge hvilket techgiganter tvinges til at fjerne eller blokere ulovligt indhold inden for 24 timer. I tvivlstilfælde bliver fristen syv dage, mens sagen undersøges.
I USA oplyser Det Hvide Hus’ pressechef Jen Psaki, at regeringen giver Facebook lister over brugere, der spreder misinformation om coronavirus. Hun mener, at folk, der spreder misinformation, ikke kun skal udelukkes fra den aktuelle platform, men fra ALLE platforme.
Globalt Internet Forum til Terrorbekæmpelse (GIFCT)
Globalt Internet Forum til Terrorbekæmpelse (GIFCT) blev dannet i 2017 af Facebook, Microsoft, Twitter og YouTube. Siden er andre aktører kommet til, såsom Snapchat, LinkedIn, Instagram, Dropbox, Reddit, og nu også Mailchimp og Airbnb.
GIFCT medtog oprindeligt organisationer, der af FN kategoriseres som terrororganisationer. De udvider nu deres liste ved at medtage indhold identificeret af blandt andre Tech Against Terrorism, efterretningsnetværket Five Eyes (USA, Canada, Storbritannien, Australien og New Zealand), men også den aktivistiske organisation Southern Powerty Law Center (SPLC).
Dette medfører, at GIFCT nu, ud over at sortliste terrorgrupper som Taliban, Al Qaeda og Islamisk Stat, også sortlister grupperinger på den yderste højrefløj og folk, der opfattes som ekstremister og racister.
Udarbejdelse af databasen
GIFCT benytter redskabet Dynamisk Matrix af Ekstremismer og Terrorisme (DMET) til at placere organisationer inden for et sprektrum af ekstremisme, der spænder over kategorierne ‘ekstremisme’, ‘voldelig ekstremisme’ og ‘terrorisme’. Inden for hver af disse kategorier udfyldes 16 felter, såsom ‘kriminel handling’, ‘voldelig handling’, ‘trussel, opildning og/eller voldstrussel’, men også ‘støtte til politiske mærkesager’, ‘støtte til ideologiske mærkesager’ og den tvetydige formulering ‘imod social sammenhængskraft’.
Indholdet inddeles i fire niveauer: (4) udbredelse af hadefulde eller dehumaniserende ideer (f.eks. “frygt for muslimer er rationel”), (3) udbredelse af terroristiske eller ekstremistiske ideer (f.eks. i form af manifester), (2) udbredelse af eller opfordringer til terroristisk eller ekstremistisk vold (herunder f.eks. bombemanualer) og (1) afbildning eller koordinering af terroristisk eller ekstremistisk vold (f.eks. videoer af halshugninger mv.).
Herudover defineres fem slags ideologisk engagement: højreorienteret, venstreorienteret, religiøs, separatistisk og enkeltsag. Der gives eksempler inden for de forskellige niveauer, som for eksempel Antifa under venstreorienteret voldelig ekstremisme og Al-Qaeda under religiøs terrorisme. Blandt eksemplerne på højreorienteret voldelig ekstremisme har de paradoksalt nok anført islamkritikeren Robert Spencers blog Jihad Watch, der oplyser om islamisk jihad og terrorisme.
GIFCT’s database deles blandt medlemmerne, der automatisk gøres opmærksomme på muligt ekstremistisk indhold på deres platform, hvorefter de kan tage stilling til eventuelle sanktioner i henhold til deres egne retningslinier.
Five Eyes
GIFCT vil indarbejde efterretningsnetværket Five Eyes’ sortliste i deres egen database. Informationsudvekslingen risikerer imidlertid også at komme til at gå den anden vej, hvor GIFCT giver efterretningsnetværket adgang til internetbrugernes data, så efterretningsnetværket kan spore personer og organisationer, som de vurderer som farlige. Den australske regering offentliggjorde i 2018 et notat på efterretningsnetværkets vegne, hvori de skrev: “Hvis regeringerne fortsat bliver hindret i at få lovlig adgang til nødvendig information for at kunne beskytte vores landes borgere, vil vi foretage teknologiske, retshåndhævende, lovgivningsmæssige og andre tiltag for at få lovlige adgangsløsninger.” Denne adgang ville gå imod den almindelige internetbrugers ønske om at beskytte sine private data ved anvendelse af krypteringsværkstøjer og gør desuden brugerens data sårbare over for hackerangreb.
Opfordringen til at give adgang til brugernes data blev i 2020 bakket op af New Zealands justitsminister Andrew Little under henvisning til stigningen i børnepornografisk indhold på nettet. Borgerrettighedsrådets formand Thomas Beagle advarer dog mod tiltaget, der vil have en afskrækkende effekt på borgernes ytringsfrihed.
Facebook går nu imod presset og gør beskedtjenesten Messenger krypteret, og snart følger billedtjenesten Instagram efter.
Southern Powerty Law Center (SPLC)
Den driftige organisation Southern Powerty Law Center har med held overbevist velhavende bidragydere om, at de kæmper mod en stadigt mere alarmerende racisme i samfundet. Oprindeligt førte de retssager mod Ku Klux Klan, men sidenhen udvidede SPLC deres kamp til at omfatte andre ‘hadefulde’ grupper. Nu bliver konservative kristne grupper, islamkritikere og modstandere af illegal indvandring slået i hartkorn med Ku Klux Klan og nynazister.
SPLC udgiver årligt en liste over hadgrupper, og der figurerer efterhånden mere end tusind grupper på listen. Listens lødighed er blevet kritiseret af blandt andre ekstremismeforskeren Laird Wilcox, redaktør på Current Affairs Nathan J. Robinson og professor Carol Swain, der forsker i etnicitet. Listen konsulteres ikke desto mindre af politikere, journalister, erhvervsledere, techfirmaer, hotelkæder med flere, der med udgangspunkt i listen boykotter folk.
Robert Spencer, hvis blog Jihad Watch som nævnt figurerer blandt GIFCT’s eksempler på højreorienteret voldelig ekstremisme, er på SPLC’s liste over hadgrupper. Det har medført, at Spencer er blevet udelukket fra indsamlingstjenesten Patreon, tilsyneladende via Mastercard. Spencer gik dernæst over til at bruge GoFundMe, men de tilbagebetalte uden nogen forklaring donorernes penge. Også kreditkortselskabet Discover Card har nægtet at håndtere donationer til Jihad Watch.
Amazon Smile uddeler ½ – 1% af Amazons salg til NGO’er – dog ikke til organisationer, der optræder på SPLC’s liste. MasterCard og Visa vil ikke håndtere donationer til David Horowitz Freedom Center. Dennis Prager og Tommy Robinson er blevet afskåret fra reklamepenge i deres videoer på YouTube. Rebel Media blev afskåret fra at afholde et booket cruise hos Norwegian Cruise Line. Act! For America har måttet aflyse arrangementer, der skulle have foregået på henholdsvis Hyatt Hotels og Mar-a-Lago. Billetterne til et foredrag med Pamela Geller blev annuleret af Eventbrite.
Som eksemplerne illustrerer, kan det have vidt rækkende konsekvenser at blive sortlistet.
Andre aktører
Det amerikanske postvæsen har i de senere år overvåget de sociale medier og videregivet information til myndighederne. Postvæsenets kontroltjenestes Internetprogram for Hemmelige Operationer har overvåget sociale medier som Parler, Telegram og Facebook i deres søgen efter “opildnende” indhold og for blandt andet at opspore demonstrationsforberedelser på højrefløjen. Kontroltjenesten har i al hemmelighed overvåget indhold på det mørke net siden 2014 eller tidligere.
PayPal har lavet deres egen udgave af GIFCT, hvor de i samarbejde med Anti-Defamation League ønsker at “afsløre og afbryde statsfjendtlige og hvide, racistiske organisationers pengestrømme”. De vil dele den indsamlede information med andre inden for finanssektoren, ordenshåndhævelse og politikere.
Trussel mod ytringsfriheden
GIFCT’s administrerende direktør, Nicholas Rasmussen, giver over for Reuters udtryk for forståelse for, at for store indgreb vil gå ud over andres ytringsfrihed på nettet.
Ifølge Emma Llansó, direktør for ytringsfrihedsprojektet ved Center for Demokrati og Technologi, vil udvidelsen af GIFCT’s database øge behovet for, at GIFCT udviser større gennemsigtighed og ansvarlighed i forhold til det blokerede indhold. “I takt med at databasen udvides, vil risikoen for fejlagtige fjernelser blot øges.”
Herhjemme er Jacob Mchangama bekymret over regeringens intention om, i lighed med Tyskland, at kræve indhold fjernet inden for en kort frist. “Efter den tyske lov har man set en kæmpe stigning i omfanget af indhold, der bliver fjernet fra eksempelvis Facebook, og langt størstedelen er lovligt. Så der er en chance for, at andelen af lovligt indhold, der bliver fjernet, bliver langt større end det ulovlige indhold, fordi det ulovlige indhold i forvejen fylder markant lidt.”
Udover en problematisk fjernelse af lovligt indhold på nettet medfører de uigennemsigtige databaser over såkaldte ekstremister, at folk forsvarsløst udsættes for boykot fra forskellige aktørers side.