Swishers otåliga efterfrågan på snabba åtgärder tycktes anta att lösningarna på sociala mediers sjukdomar var uppenbara. Jag twittrade som svar, frågar vad ” fix ” hon ville genomföra så snabbt. Det fanns inget svar.
här är diagnosen jag skulle erbjuda. Vad som är” trasigt ” om sociala medier är exakt samma sak som gör det användbart, attraktiv, och kommersiellt framgångsrik: det är oerhört effektivt för att underlätta upptäckter och informationsutbyte mellan berörda parter i oöverträffad skala. Som ett direkt resultat av det finns det mer informativa interaktioner än någonsin tidigare och mer ömsesidigt utbyte mellan människor. Denna mänskliga aktivitet, i all sin härlighet, gore och squalor, genererar lagringsbara, sökbara poster, och dess användare lämnar hänförliga spår överallt. Som nämnts tidigare präglas den nya nya världen av sociala medier av hypertransparens.
ur yttrandefrihetens och de fria marknadernas synvinkel finns det inget i sig brutet om detta; tvärtom, de flesta kritiker är olyckliga just för att modellen fungerar: den släpper loss alla slags uttryck och utbyten och tjänar massor av pengar på det för att starta. Men två distinkta sociopolitiska patologier genereras av detta. Den första är att, genom att exponera alla typer av beklagliga användningsområden och användare, det tenderar att tratt upprördhet över dessa manifestationer av social avvikelse mot plattformsleverantörer. En man upptäcker pedofiler som kommenterar YouTube-videor av barn och sputterar med raseri på … YouTube.28 den andra patologin är tanken att det anstötliga beteendet kan konstrueras ur existens eller att samhället som helhet kan konstrueras till ett dygdstillstånd genom att uppmuntra mellanhänder att anta strängare övervakning och reglering. Istället för att försöka stoppa eller kontrollera det stötande beteendet strävar vi efter att kontrollera den kommunikationsförmedlare som användes av den dåliga skådespelaren. I stället för att eliminera brottet föreslår vi att deputera förmedlaren för att känna igen symboler för brottet och radera dem ur sikte. Det är som om vi antar att livet är en skärm, och om vi tar bort oönskade saker från våra skärmar genom att kontrollera internetförmedlare, har vi löst livets problem. (Och även när vi gör detta klagar vi hycklande över Kina och dess påstådda utveckling av ett allomfattande Socialt kreditsystem baserat på online‐interaktioner.)
reaktionen mot sociala medier bygger således på en falsk premiss och ett falskt löfte. Den falska förutsättningen är att skaparna av verktyg som möjliggör Offentlig interaktion i stor skala är främst ansvariga för förekomsten av beteenden och meddelanden som avslöjas. Det falska löftet är att genom att driva plattformsleverantörerna för att blockera innehåll, eliminera konton eller på annat sätt attackera manifestationer av sociala problem på sina plattformar, löser eller minskar vi dessa problem. Kombinera dessa missuppfattningar, vi har försökt att begränsa” nya ” problem genom att dölja dem från allmänheten.
de stora plattformarna har bidragit till denna patologi genom att ta på sig allt mer omfattande uppgifter om innehållsmoderering. På grund av det intensiva politiska trycket de är under accepterar de dominerande plattformarna snabbt tanken att de har övergripande sociala ansvar för att forma användarnas moral och forma den offentliga diskursen på politiskt acceptabla sätt. Oundvikligen, på grund av omfattningen av sociala medier interaktioner, detta innebär alltmer automatiserade eller algoritmiska former av reglering, med alla dess stelheter, dumheter, och fel. Men det innebär också massiva investeringar i arbetsintensiva manuella former av måttlighet.29
den politiska debatten om detta ämne kompliceras av det faktum att internetförmedlare verkligen inte kan undvika att ta på sig några valfria innehållsregleringsansvar utöver att följa olika lagar. Deras status som multisided marknader som matchar leverantörer och sökande av information kräver det.30 rekommendationer baserade på maskininlärning guidar användare genom den stora, annars otänkbara mängden tillgängligt material. Dessa filter förbättrar avsevärt värdet av en plattform för en användare, men de formar också indirekt vad människor ser, läser och hör. De kan också, som en del av sina försök att locka användare och förbättra plattformarnas värde för annonsörer, avskräcka eller undertrycka meddelanden och former av beteende som gör deras plattformar obehagliga eller skadliga platser. Denna form av innehållsmoderering ligger utanför ramen för First amendments rättsliga skydd eftersom den utförs av en privat aktör och faller inom ramen för redaktionell diskretion.
Vad är Fix?
avsnitt 230 I Communications Decency Act kvadrerade denna cirkel genom att immunisera leverantörer av informationstjänster som inte gjorde något för att begränsa eller censurera parternas kommunikation med hjälp av deras plattformar (den klassiska ”neutrala ledningen” eller common‐carrier-konceptet), samtidigt som de immuniserade leverantörer av informationstjänster som antog vissa redaktionella ansvarsområden (t.ex. för att begränsa pornografi och andra former av oönskat innehåll). Mellanhänder som inte gjorde någonting immuniserades (skulle vara) på sätt som främjade yttrandefrihet och mångfald online; mellanhänder som var mer aktiva i hanteringen av användargenererat innehåll immuniserades för att förbättra deras förmåga att ta bort eller på annat sätt övervaka ”dåligt” innehåll utan att klassificeras som utgivare och därmed ta ansvar för innehållet de inte begränsade.31
det är uppenbart att denna rättsliga balansakt, som fungerade så bra för att göra den moderna sociala medieplattformen framgångsrik, bryter ner. Avsnitt 230 är ett offer för sin egen framgång. Plattformar har blivit stora och framgångsrika delvis på grund av deras avsnitt 230 friheter, men som ett resultat är de föremål för politiska och normativa påtryckningar som ger dem de facto ansvar för vad deras användare läser, ser och gör. Hotet om statligt ingripande lurar antingen i bakgrunden eller realiseras i vissa jurisdiktioner. Drivs av hypertransparens, politiska och normativa tryck gör den rena, neutrala, icke-diskriminerande plattformen en sak av det förflutna.
de vanligaste förslagen för att fixa sociala medieplattformar verkar alla be plattformarna att engagera sig i mer innehållsmoderering och att frita ut oacceptabla uttrycksformer eller beteenden. Den politiska efterfrågan på mer aggressiv innehållsmoderering kommer främst från en mängd olika grupper som försöker undertrycka specifika typer av innehåll som är stötande för dem. De som vill ha mindre kontroll eller mer tolerans lider av det diffusa kostnader / koncentrerade förmånsproblemet som vi känner till från den ekonomiska analysen av särskilda intressegrupper: det vill säga tolerans gynnar alla lite och dess närvaro märks knappt förrän den går förlorad; undertryckande, å andra sidan, erbjuder kraftfull och omedelbar tillfredsställelse för några mycket motiverade aktörer.32
i bästa fall föreslår reformatorer att rationalisera innehållsmoderering på sätt som är utformade för att göra dess standarder tydligare, göra deras tillämpning mer konsekvent och göra en överklagandeprocess möjlig.33 ändå är det osannolikt att det fungerar om inte plattformar får ryggraden att starkt hävda sina rättigheter att ställa in kriterierna, hålla sig till dem och sluta ständigt anpassa dem baserat på det dagliga politiska trycket. I värsta fall motiveras förespråkare för mer innehållsmoderering av en tro på att större innehållskontroll kommer att återspegla sina egna personliga värderingar och prioriteringar. Men eftersom krav på hårdare eller mer omfattande innehållsmoderering kommer från alla ideologiska och kulturella riktningar är denna förväntan orealistisk. Det kommer bara att leda till en distribuerad form av hecklers veto och en fullständig frånvaro av förutsägbara, relativt objektiva standarder. Det är inte ovanligt att upprördhet på sociala medier leder i motstridiga riktningar. En reporter för The Guardian är till exempel upprörd över att Facebook har en annonsinriktningskategori för ”vaccin kontroverser” och flogs företaget för att tillåta Anti‐vaccinationsförespråkare att bilda slutna grupper som kan förstärka medlemmarnas motstånd mot vanlig medicinsk vård.34 Det finns emellertid inget sätt för Facebook att ingripa utan att profilera sina användare som en del av en specifik politisk rörelse som anses vara fel och sedan undertrycka deras kommunikation och deras förmåga att associera baserat på dessa uppgifter. Så samtidigt är Facebook allmänt attackerat för integritetsbrott, det uppmanas också att utnyttja sina privata användardata för att flagga politiska och sociala övertygelser som anses avvikande och för att undertrycka användarnas förmåga att associera, ansluta till annonsörer eller kommunicera med varandra. I denna kombination av övervakning och undertryckande, vad kan eventuellt gå fel?
vilken inställning bör förespråkare för både yttrandefrihet och fria marknader ta med avseende på sociala medier?
för det första måste det finnas en tydligare artikulering av det enorma värdet av plattformar baserat på deras förmåga att matcha sökande och leverantörer av information. Det måste också vara uttryckligt förespråkande för större tolerans för den krossande mångfalden som avslöjas av dessa processer. Sanna liberaler måste göra det klart att sociala medieplattformar inte kan förväntas bära huvudansvaret för att skydda oss från ideer, människor, meddelanden och kulturer som vi anser vara felaktiga eller som förolämpar oss. Det mesta av ansvaret för vad vi ser och vad vi undviker bör ligga hos oss. Om vi är upprörda över att se saker som vi inte gillar i onlinemiljöer som består av miljarder människor, måste vi sluta misdirecting att upprördhet mot de plattformar som råkar utsätta oss för det. På samma sätt, om det exponerade beteendet är olagligt, måste vi fokusera på att identifiera förövarna och hålla dem ansvariga. Som en följd av denna attitydförändring måste vi också visa att hypertransparensen som främjas av sociala medier kan ha stort socialt värde. Som ett enkelt exempel på detta har forskning visat att den mycket skadade ökningen av plattformar som matchar kvinnliga sexarbetare med kunder är statistiskt korrelerad med en minskning av våld mot kvinnor — just för att det tog sexarbete från gatan och gjorde transaktioner mer synliga och kontrollerbara.35
för det andra måste supportrar med fritt uttryck aktivt utmana dem som vill att moderering av innehåll ska gå längre. Vi måste avslöja det faktum att de använder sociala medier som ett sätt att reformera och omforma samhället, svingar det som en hammare mot normer och värderingar de vill utrotas från världen. Dessa synpunkter leder oss ner en auktoritär återvändsgränd. De kan mycket väl lyckas undertrycka och förlamande friheten för digitala medier, men de kommer inte, och kan inte, lyckas förbättra samhället. Istället kommer de att göra sociala medieplattformar slagfält för en evig intensifierande konflikt om vem som får tysta vem. Detta är redan helt klart från skrik av diskriminering och partiskhet när plattformarna spärrar upp innehållsmoderering: ropen kommer från både vänster och höger som svar på måttlighet som ofta upplevs som godtycklig.
Slutligen måste vi montera ett förnyat och återupplivat försvar av avsnitt 230. Fallet för avsnitt 230 är enkelt: inget alternativ lovar att vara i sig bättre än vad vi har nu, och de flesta alternativ kommer sannolikt att bli sämre. Överdrifterna som genereras av den moraliska paniken har dolt det enkla faktum att moderering av innehåll på en global plattform med miljarder användare är en utomordentligt svår och krävande uppgift. Användare, inte plattformar, är källan till meddelanden, videor och bilder som människor tycker är stötande, så kräver reglering ignorera det faktum att regler inte styr en enda leverantör, men måste styra miljoner, och kanske miljarder, användare. Uppgiften att flagga användargenererat innehåll, överväga det och bestämma vad man ska göra åt det är svårt och dyrt. Och är bäst kvar till plattformarna.
regleringen verkar dock komma. Facebook-vd Mark Zuckerberg har publicerat ett blogginlägg som kräver reglering av internet, och den brittiska regeringen har släppt en vitbok, ”Online Harms”, som föreslår införande av systematiskt ansvar för användargenererat innehåll på alla internetförmedlare (inklusive värdföretag och Internetleverantörer).36
i bästa fall kommer ett system med innehållsreglering som påverkas av regeringen att se väldigt mycket ut som det som händer nu. Regeringsmandatstandarder för innehållsmoderering skulle oundvikligen lägga det mesta av ansvaret för censur på plattformarna själva. Även i Kina, med sin censurhär, är operationaliseringen av censur starkt beroende av plattformsoperatörerna. I tsunamin av innehåll som släpps ut av sociala medier, tidigare återhållsamhet av staten är egentligen inte ett alternativ. Tyskland svarade på liknande sätt med 2017 Netzwerkdurchsetzungsgesetz, eller Network Enforcement Act (populärt känd som NetzDG eller Facebook Act), en lag som syftar till att bekämpa agitation, hattal och falska nyheter i sociala nätverk.
NetzDG-lagen resulterade omedelbart i undertryckande av olika former av politiskt kontroversiellt online-tal. Joachim Steinh Jacobfel, en tysk advokat som berörs av Facebook: s väsentligen rättsvetenskapliga roll under NetzDG, skapade en ”mur av skam” som innehåller lagligt innehåll som undertryckts av NetzDG.37 ironiskt nog gjorde tyska högernationalister som drabbades av nedtagningar enligt den nya lagen lagen till sin fördel genom att använda den för att undertrycka kritiska eller förnedrande kommentarer om sig själva. ”Tysklands försök att reglera tal online har till synes förstärkt de röster som det försökte minska”, hävdar en artikel i Atlanten.38 som ett resultat av en högerpolitikers framställning måste Facebook se till att individer i Tyskland inte kan använda en VPN för att få tillgång till olagligt innehåll. Ändå hävdar en rapport från en anti‐hat‐talgrupp som stöder lagen att den har varit ineffektiv. ”Det har inte förekommit några böter på företag och liten förändring i de totala takedown priser.”39
att överge mellanliggande immuniteter skulle göra plattformarna ännu mer konservativa och mer benägna att inaktivera konton eller ta ner innehåll än de är nu. När det gäller kostnader och juridiska risker kommer det att vara meningsfullt för dem att fela på den säkra sidan. När mellanhänder ges juridiskt ansvar, konflikter om godtycklighet och falska positiva försvinner inte, de intensifieras. I auktoritära länder kommer plattformar bara att vara indirekta implementerare av nationella censurstandarder och lagar.
å andra sidan står amerikanska politiker inför ett unikt och intressant dilemma. Om de tror att de kan dra nytta av sociala mediers travails med krav på reglering, måste de förstå att statligt engagemang i innehållsreglering måste överensstämma med det första ändringsförslaget. Detta skulle innebära att alla typer av innehåll som många användare inte vill se, allt från hatprat till olika nivåer av nakenhet, inte längre kunde begränsas eftersom de inte är strikt olagliga. Alla statliga ingripanden som tog ner inlägg eller raderade konton kan tvistas baserat på en första Ändringsstandard. Ironiskt nog måste en statlig övertagande av ansvar för innehållsreglering i USA vara mycket mer liberal än status quo. Att undvika detta resultat var just varför avsnitt 230 antogs i första hand.
ur ett rent yttrandefrihetssynpunkt skulle ett första ändringsförfarande vara bra. Men från en fri association och fri marknadssynpunkt skulle det inte. En sådan politik skulle bokstavligen tvinga alla användare av sociala medier att utsättas för saker de inte ville utsättas för. Det skulle undergräva plattformens ekonomiska värde genom att halshugga deras förmåga att hantera sina matchningsalgoritmer, forma sin miljö och optimera avvägningarna på en multisiderad marknad. Med tanke på den nuvarande nyansen och gråt om alla de dåliga saker som människor ser och gör på sociala medier, verkar en lagligt driven, permissiv första Ändringsstandard inte som att det skulle göra någon lycklig.
förespråkare för uttrycksfrihet måste därför bekräfta vikten av avsnitt 230. Plattformar, inte staten, bör vara ansvariga för att hitta den optimala balansen mellan innehållsmoderering, yttrandefrihet och plattformarnas ekonomiska värde. Alternativet med större statlig reglering skulle befria plattformarna för marknadsansvar för sina beslut. Det skulle eliminera konkurrensen mellan plattformar för lämpliga modereringsstandarder och praxis och skulle förmodligen leda dem att utesluta och undertrycka ännu mer juridiskt tal än de gör nu.
slutsats
innehållsreglering är bara den mest framträdande av de frågor som sociala medieplattformar står inför idag; de är också inblandade i Integritets‐och konkurrenspolitiska kontroverser. Men reglering av sociala medier har varit det exklusiva fokuset på denna analys. Hypertransparency och den efterföljande efterfrågan på innehållskontroll det skapar är de viktigaste drivkrafterna för den nya medias moraliska panik. Paniken matar på sig själv och skapar förutsättningar för politiska reaktioner som förbiser eller öppet utmanar värderingar om yttrandefrihet och fritt företagande. Medan det finns mycket att ogillar om Facebook och andra sociala medieplattformar, är det dags att vi insåg att en hel del av den negativa reaktionen härrör från ett informationssamhälle som överväger manifestationer av sig själv. Det är inte en överdrift att säga att vi skyller spegeln för vad vi ser i den. Avsnitt 230 är fortfarande förvånansvärt relevant för detta dilemma. Som en politik var avsnitt 230 inte en form av skydd för spädbarnsindustrin som vi kan avstå från nu, och det var inte heller en produkt av en utopisk berusning med internetets potential. Det var ett mycket smart sätt att distribuera ansvaret för innehållsstyrning i sociala medier. Om vi håller fast vid detta arrangemang, lär oss mer tolerans och tar mer ansvar för vad vi ser och gör på sociala medier, kan vi svara på problemen samtidigt som vi behåller fördelarna.
Anmärkningar
1 Milton L. Mueller, ”Hypertransparens och Social kontroll: sociala medier som magneter för reglering,” telekommunikationspolitik 39, nr 9 (2015): 804-10.
2 Erich Goode och Nachman Ben-Yehuda, ”jordning och försvar av Moralpanikens sociologi”, Kap. 2 i moralisk panik och ångestens politik, Red. Sean Patrick Hier (Abingdon: Routledge, 2011).
3 Stanley Cohen, folk djävlar och moraliska panik (Abingdon: Routledge, 2011).
4 Ronald J. Deibert,” vägen till Digital frihet: tre smärtsamma sanningar om sociala medier, ” Journal of Democracy 30, no. 1 (2019): 25-39.
5 Zeynep Tufekci,” YouTube, den stora Radikaliseraren”, New York Times, 10 mars 2018.
6 Tufekci, ” YouTube, den stora Radikaliseraren.”
7 Roger McNamee, ” Jag Mentorerade Mark Zuckerberg. Jag Älskade Facebook. Men jag kan inte vara tyst om vad som händer,” Time Magazine, 17 januari 2019.
8 Jonathan Albright, ”osant‐Tube: tjäna pengar på elände och desinformation,” Medium, 25 februari 2018.
9 Courtney Seiter,” psykologin i sociala medier: varför vi gillar, kommenterar och delar Online, ” buffert, 20 augusti 2017.
10 Paul Mozur, ”ett folkmord på Facebook, med inlägg från Myanmars militär,” New York Times, 15 oktober 2018.
11 Ingrid Burrington, ” kan Facebook prövas för brott mot mänskliga rättigheter?, ”Atlanten, 20 December 2017.
12 Burrington, ” kan Facebook prövas för brott mot mänskliga rättigheter?”
13 för en diskussion om Michael Flynns lobbykampanj för den turkiska regeringen och Paul Manaforts verksamhet i Ukraina och Ryssland, se Rebecca Kheel, ”Turkiet och Michael Flynn: fem saker att veta,” the Hill, December 17, 2018; och Franklin Foer,” Paul Manafort, American Hustler, ” Atlanten, mars 2018.
14 Se till exempel” minoritetsåsikter till den Majoritetsproducerade ”rapporten om ryska aktiva åtgärder, 22 mars 2018 ”” av de demokratiska företrädarna från USA: s hus permanenta Select Committee on Intelligence (USHPSCI), 26 mars 2018.
15 åtal vid 11, U. S. V. Viktor Borisovich Netyksho et al., Fall 1: 18-cr-00032-DLF (D. D. C. inlämnad Feb. 16, 2018).
16 Matt Taibbi, ” kan vi räddas från Facebook?, ”Rullande Sten, 3 April 2018.
17 Peter W. Sångare och Emerson T. Brooking, LikeWar: Vapeniseringen av sociala medier (New York: Houghton Mifflin Harcourt, 2018).
18 Thomas Rid,” varför Twitter är den bästa sociala medieplattformen för desinformation, ” moderkort, November 1, 2017.
19 McNamee, ” Jag Mentorerade Mark Zuckerberg. Jag Älskade Facebook. Men jag kan inte vara tyst om vad som händer.”
20 Hunt Allcott och Matthew Gentzkow,” sociala medier och falska nyheter i 2016-valet, ” Journal of Economic Perspectives 31, no. 2 (2017): 211-36.
21 Sarah McKune, ”en analys av den internationella uppförandekoden för informationssäkerhet,” CitizenLab, 28 September 2015.
22 Kirsten Drotner, ” Farliga Medier? Panikdiskurser och dilemman om modernitet,” Paedagogica Historica 35, nr 3 (1999): 593-619.
23 Thomas W. Hazlett,” rationaliteten i USA: s reglering av Sändningsspektrumet, ” Journal of Law and Economics 33, nr 1 (1990): 133-75.
24 Robert McChesney, telekommunikation, massmedia och demokrati: striden om kontroll av amerikanska sändningar, 1928-1935 (New York: Oxford, 1995).
25 Fredric Wertham, Seduction of The Innocent (New York: Rinehart, 1954); och David Hajdu, Tiocentpesten: den stora Serietidningsskrämmen och hur den förändrade Amerika (New York: Picador, 2009), https://us.macmillan.com/books/9780312428235.
26 ”som droghandlare på hörnet, kontrollera livet i grannskapet, hemmet och i allt högre grad barnens liv i deras vårdnad”, hävdade en tidigare FCC-kommissionär. Minow & LeMay, 1995. http://www.washingtonpost.com/wp-srv/style/longterm/books/chap1/abandonedinthewasteland.htm. Newton N. Minow & Craig L. LaMay, övergiven i ödemarken (New York: Hill och Wang, 1996)
27 Kara Swisher (@karaswisher), ” övergripande här är mitt humör och jag tror att många människor när det gäller att fixa vad som är trasigt om sociala medier och teknik: Varför går du inte snabbare? Varför går du inte snabbare? Varför går du inte snabbare?”Twitter-inlägg, 12 februari 2019, 2:03 e.m., https://twitter.com/karaswisher/status/1095443416148787202.
28 Matt Watson, ” Youtube underlättar sexuellt utnyttjande av barn, och det tjänar pengar,” YouTube-video, 20:47, ”MattsWhatItIs,” Februari 27, 2019, https://www.youtube.com/watch?v=O13G5A5w5P0.
29 Casey Newton, ” Traumagolvet: Facebook-Moderatorernas hemliga liv i Amerika, ” The Verge, 25 februari 2019.
30 Geoff Parker, Marshall van Alstyne och Sangeet Choudhary, Plattformsrevolution (New York: WW Norton, 2016).
31 domstolen i målet Zeran mot America Online, Inc., 129 F. 3d 327 (4: e Cir. 1997), sade SEC.230 antogs för att ”ta bort de hinder för självreglering som skapats av Stratton Oakmont‐beslutet.”I Stratton Oakmont, Inc. v. Prodigy Services Co., (N. Y. Sup. Ct. 1995), en anslagstavla leverantör hölls ansvarig för ärekränkande kommentarer från en av sina kunder eftersom det gjorde ansträngningar för att redigera en del av det upplagda innehållet.
32 Robert D Tollison,” hyra söker: en undersökning, ” Kyklos 35, nr 4 (1982): 575-602.
33 Se till exempel” Santa Clara Principles on Transparency and Accountability in content Moderation”, 8 maj 2018, https://santaclaraprinciples.org/.
34 Julia Carrie Wong, ”avslöjade: Facebook gör det möjligt för annonser att rikta in sig på användare som är intresserade av” Vaccine controverses”, ” The Guardian (London), 15 februari 2019.
35 Se Scott Cunningham, Gregory DeAngelo och John Tripp,” Craigslist: s effekt på våld mot kvinnor”, http://scunning.com/craigslist110.pdf (2017). Se även Emily Witt,” efter stängningen av Backpage kräver alltmer utsatta sexarbetare sina rättigheter”, New Yorker, 8 juni 2018.
36 Mark Zuckerberg, ”Four Ideas to Regulate the Internet”, 30 mars 2019; och Storbritanniens hemmakontor, avdelningen för Digital, kultur, Media & Sport, online Harms White Paper, Rt Hon.Sajid Javid MP, Rt Hon. Jeremy Wright MP, 8 April 2019.
37 Joachim Nikolaus Steinh Bisexfel, ” Blocks & hatpropaganda-Galen Censur & godtycklighet från FB,” Facebook Block — Wall of Shame, https://facebook-sperre.steinhoefel.de/.
38 Linda Kinstler,” Tysklands försök att fixa Facebook är Backfiring, ” Atlanten, maj 18, 2018.
39 William Echikson och Olivia Knodt, ”Tysklands NetzDG: ett Nyckeltest för att bekämpa hat på nätet”, CEPS forskningsrapport nr 2018/09, November 2018.
