De controverse over de opmerkingen van Mark Zuckerberg over de ontkenning van de Holocaust, uitgelegd:

Асуудлыг Арилгахын Тулд Манай Хэрэгслийг Туршиж Үзээрэй

Het moeilijke probleem van hoe en wanneer Facebook spraak moet reguleren.

Mark Zuckerberg spreekt F8 Facebook Developer Conference toe Justin Sullivan/Getty Images

Met meer dan 2 miljard gebruikers verspreid over elk continent en elk land, ondersteunt Facebook een grotere gemeenschap dan welke natiestaat op aarde dan ook, maar het is niet gebouwd op een van de politieke principes die natiestaten laten werken. Het is 's werelds dominante mediaorganisatie geworden, maar het weigert zichzelf een mediabedrijf te noemen of de verantwoordelijkheden van een traditionele uitgever op zich te nemen; het kadert zich rond een sociale missie, maar het is een organisatie met winstoogmerk die onophoudelijk streeft naar groei.

De ambiguïteit over wat Facebook is, en dus hoe het moet worden bestuurd, vormt de kern van de laatste Facebook-controverse. Op woensdag, CEO Mark Zuckerberg gaf een interview naar Kara Swisher van Recode. Daarin gaf hij het voorbeeld van Holocaust-ontkenning als een idee dat misschien verkeerd is, maar op Facebook zou moeten mogen bestaan:

Ik ben joods en er is een groep mensen die ontkennen dat de Holocaust heeft plaatsgevonden. Ik vind dat diep beledigend. Maar uiteindelijk geloof ik niet dat ons platform dat moet verwijderen, omdat ik denk dat er dingen zijn die verschillende mensen fout hebben.

De verontwaardiging was snel en overweldigend. Zuckerberg verontschuldigde zich snel en enigszins belachelijk. Persoonlijk vind ik Holocaust-ontkenning zeer aanstootgevend, en ik was absoluut niet van plan om de bedoelingen te verdedigen van mensen die dat ontkennen, zei hij.

Maar Zuckerberg was altijd duidelijk over zijn afkeer van Holocaust-ontkenning. Het probleem is niet wat Zuckerberg denkt; het is wat Facebook doet - of niet doet.

Wat is onwaar, wat is gevaarlijk en wat is het verschil?

Het citaat van Zuckerberg is uit zijn verband getrokken en de wereld rondgestuurd, maar hoe hij de ontkenning van de Holocaust begon te bespreken, is belangrijk, dus laten we het argument herhalen.

Swisher vroeg Zuckerberg naar de toegeeflijke houding van Facebook tegenover Infowars, de op samenzwering gerichte publicatie van Alex Jones. Maak er een pleidooi voor om ze te houden, en pleit ervoor om ze niet door jou te laten verspreiden, daagde ze uit.

Zuckerberg reageerde door te proberen onderscheid te maken tussen twee van de vele, vele, vele prioriteiten van Facebook. Je geeft mensen een stem en je houdt de gemeenschap veilig. Facebook, zei Zuckerberg, neemt een harde lijn om zijn gemeenschap veilig te houden. De principes die we hebben over wat we van de service verwijderen, zijn: als het gaat leiden tot echte schade, echte fysieke schade, of als je individuen aanvalt, dan mag die inhoud niet op het platform staan.

Maar als het erom gaat mensen een stem te geven, wil Facebook tolerant zijn. De benadering die we hebben gekozen voor vals nieuws is niet om te zeggen: je kunt niets verkeerds zeggen op internet, vervolgde Zuckerberg. Ik denk dat dat te extreem zou zijn. Iedereen heeft dingen verkeerd, en als we de rekeningen van mensen zouden verwijderen terwijl ze een paar dingen verkeerd hadden, dan zou het een harde wereld zijn om mensen een stem te geven en te zeggen dat je daar om geeft.

Het onderscheid dat Zuckerberg hier maakt, is niet zo zuiver als hij suggereert. Het kan inderdaad zijn dat het helemaal niet bestaat. Hij definieert bedreigingen voor de veiligheid als directe aansporing tot geweld of paniek - het bestellen van een hit, het organiseren van een rel, het schreeuwen van vuur in een overvol theater. Daarentegen definieert hij valse of hatelijke retoriek als louter zelfexpressie - verontrustend, aanstootgevend, maar niet gevaarlijk.

De antisemitische tekst publiceren De protocollen van de Wijzen van Zion zou, in deze constructie, vallen onder de categorie van ongelijk hebben op internet, maar populariseren De protocollen van de Wijzen van Zion heeft steeds weer tot geweld geleid. De Pizzagate De theorie dat beweerde dat een kinderseksring door democratische politici uit een pizzawinkel in DC werd gerund, was een absurde samenzwering, maar het leidde ertoe dat iemand met een geweer naar de pizzawinkel kwam.

Geweld vereist context, en ideeën en informatie creëren die context. Nepnieuws en hatelijke retoriek stoppen misschien net niet bij directe aansporing tot geweld, maar ze zijn de droge tondel die ervoor zorgt dat de oproep van iemand anders tot geweld vlam vat.

Een van de vele samenzweringen die Infowars heeft gepromoot, is het idee dat de Sandy Hook schieten is niet gebeurd – en dat idee heeft geleid tot de intimidatie van de nabestaanden van vermoorde kinderen, terwijl de kijkers van Infowars hen proberen te ontmaskeren als acteurs. En Swisher gebruikte dat in haar follow-up.

'Sandy Hook gebeurde niet' is geen debat, zei Swisher. Het is fout. Dat haal je toch niet zomaar weg?

Dit is het punt waarop Zuckerberg de specifieke kwestie van Infowars en zijn zonden in de schijnwerpers probeerde te zetten en de discussie op een sterkere grond probeerde te brengen door het hypothetische, maar meer persoonlijke voorbeeld van de Holocaust te geven. Het is een moment dat zijn PR-team jarenlang nachtmerries zal bezorgen. Maar het onthult nogal wat over hoe Zuckerberg denkt over de organisatie die hij controleert.

Is Facebook een platform, een uitgever, een overheid?

Wat is Facebook als het Infowars, of Holocaust-ontkenners, hun samenzweringen op de site laat ventileren? Er zijn hier veel opties, maar laten we er drie bekijken:

1) Facebook is een open platform: Dit is de oudste en meest voorkomende theorie van sociale netwerken - dat het neutrale ruimtes zijn waar iedereen kan praten. Tot op zekere hoogte is dat zelfs waar: bijna iedereen kan zich aanmelden voor een Facebook-account en hun berichten naar vrienden over de hele wereld sturen. In deze theorie kan Facebook niet beginnen met het nemen van beslissingen over welke inhoud wordt toegestaan, omdat het dan impliciet alle toegestane inhoud onderschrijft.

Maar op dit punt in de evolutie van Facebook heeft het excuus van het open platform al lang zijn kracht verloren. Facebook maakt voortdurend cruciale keuzes. De zichtbaarheid van berichten wordt bepaald door de newsfeed-algoritmen van Facebook, de inhoud wordt bepaald door de gedragscode van Facebook en een uitgever als Infowars gebruikt een heel ander soort Facebook-pagina.

2) Facebook is een uitgever: Als Facebook een uitgever is, zoals Vox Media of MTV of Condé Nast is, dan draagt ​​het de verantwoordelijkheid voor wat het publiceert. En soms is Facebook duidelijk een uitgever: in zijn nieuwe Facebook Watch-programma betaalt Facebook bijvoorbeeld andere bedrijven om video-inhoud te produceren die Facebook op zijn nieuwe videoplatform zal publiceren. Ik verwacht niet dat Facebook Infowars of andere Holocaust-ontkenners betaalt om een ​​show voor Watch te maken.

Wat lastiger is, is of Facebook optreedt als uitgever wanneer het bedrijfsentiteiten toegang geeft tot speciale pagina's en tools die zijn ontworpen om Facebook hun werk te laten hosten, promoten en adverteren. In dat geval denk ik Facebook is optreden als uitgever en heeft de verantwoordelijkheid om ervoor te zorgen dat deze instrumenten beperkt blijven tot verantwoordelijke actoren, hoewel het definiëren van een verantwoordelijke actor moeilijk en gevaarlijk terrein is. Niemand zei dat uitgever zijn gemakkelijk is! Maar tot nu toe heeft Facebook deze verantwoordelijkheid niet op zich genomen, althans niet in ernstige mate.

3) Facebook is een overheid: Met meer dan 2 miljard mensen die zijn dienst gebruiken, is er een argument dat Facebook het meest lijkt op een overheid. En regeringen maken routinematig compromissen, zoals het prijzen van vrijheid van meningsuiting, wetende dat veel van die meningsuiting weerzinwekkend en zelfs gevaarlijk zal zijn, in het besef dat de voordelen van openlijke meningsuiting uiteindelijk de moeite waard zijn. Een regering - althans de Amerikaanse regering - zou de beslissing nemen waar Zuckerberg scherp mee worstelt: zowel Infowars als ontkenning van de Holocaust zijn toegestaan ​​omdat de gevolgen van hun verbod gevaarlijker zijn dan hun aanwezigheid.

Dit komt, denk ik, het dichtst in de buurt van het model waaronder Zuckerberg mentaal opereert - hij zei in het verleden dat Facebook nu net een regering is, en in het april-interview dat hij met mij deed , sprak Zuckerberg in detail over de regeringsachtige structuren die hij binnen Facebook wilde bouwen:

Met een gemeenschap van meer dan 2 miljard mensen over de hele wereld, in elk ander land, waar er enorm verschillende sociale en culturele normen zijn, is het me gewoon niet duidelijk dat wij, zittend in een kantoor hier in Californië, het best geplaatst zijn om altijd te bepalen wat het beleid zou moeten zijn voor mensen over de hele wereld. En ik heb gewerkt aan en nagedacht over: hoe kun je een meer democratisch of gemeenschapsgericht proces opzetten dat de waarden van mensen over de hele wereld weerspiegelt?

Maar het probleem met het behandelen van Facebook als een regering is dat het geen regering is, en zeker geen democratische regering.

Het probleem met het besturen van Facebook

Overheden financieren zichzelf niet door te adverteren tegen de aandacht en informatie van gebruikers. En democratische regeringen ontlenen op zijn minst legitimiteit en verantwoordelijkheid door middel van regelmatige verkiezingen die beslissen over de hoogste rangen van besluitvormers.

Facebook heeft geen soortgelijk mechanisme, dus het kan niet beweren dat de beslissingen die het neemt en de afwegingen die het toestaat, daadwerkelijk degene zijn die de gemeenschap heeft gekozen. De ongebruikelijke eigendomsstructuur van Zuckerberg betekent inderdaad dat als Facebook moet worden gezien als een overheid, het het best kan worden begrepen als een monarchie.

Maar zelfs als Facebook een democratie was, welke democratie zou het dan zijn? In een bijzonder interessante riff merkt Zuckerberg op dat Amerika's nadruk op vrijheid van meningsuiting zelfs niet wordt gedeeld door andere vrije, democratische landen:

De VS hebben een zeer rijke traditie van vrijheid van meningsuiting; het staat in de Grondwet, vrijheid van meningsuiting, dus hier hebben we een zeer sterke allergische reactie als we dat proberen te reguleren. Maar in bijna elk ander land ter wereld, terwijl mensen over het algemeen zoveel mogelijk expressie willen, bestaat het idee dat iets anders misschien belangrijker is dan spraak; dus het voorkomen van haat of terrorisme of gewoon andere dingen.

Dus je begint dit al te zien; Ik bedoel, er was de wet op haatzaaien in Duitsland. Ik denk dat er aanvullende wetten zullen komen die verantwoordelijkheid creëren voor sociale netwerken, en sociale bedrijven, en internetbedrijven in het algemeen om meer proactief te zijn in het controleren van terrorisme, of pesten, of haatzaaien, of verschillende soorten inhoud. En over het algemeen denk ik dat er goede en slechte manieren zijn om dat te doen, maar mijn algemene mening is dat veel van die dingen redelijk redelijk kunnen zijn.

Dus zelfs als we het idee geloven dat Facebook vergelijkbaar is met de overheid, gezien zijn wereldwijde reikwijdte, en Zuckerbergs sympathie voor verschillende afwegingen rond spraak, is het niet duidelijk dat deze problemen gemakkelijker op te lossen zijn. Het besturen van een staatsbestel is moeilijk. Het besturen van een internationaal staatsbestel, en daarbij geld verdienen aan de resultaten, stelt unieke problemen met zowel legitimiteit als werking.

In een uitwisseling die veel minder aandacht kreeg, vroeg Swisher aan Zuckerberg hoe hij zich voelde over de rol van Facebook in de Rohingya-bloedbaden. Zuckerbergs reactie is, denk ik, de sleutel tot zijn denken over veel van deze kwesties:

Het is niet zo dat alles wat er op Facebook gebeurt, goed zal zijn. Dit is de mensheid. Mensen gebruiken hulpmiddelen ten goede en ten kwade, maar ik denk dat we een duidelijke verantwoordelijkheid hebben om ervoor te zorgen dat het goede wordt versterkt en om er alles aan te doen om het slechte te verzachten.

Dit is de mensheid. Zuckerberg is van mening dat elk platform dat de interacties van 2 miljard mensen ondersteunt, op elk moment een klein percentage van die mensen zal hebben die er vreselijke dingen op doen. Dat is geen technisch probleem; het is, zoals hij zegt, een menselijk probleem. Je kunt de schaal en centraliteit die Facebook wil niet bereiken zonder een platform te worden voor enkele van de duistere impulsen van de mensheid.

De spanning is dat terwijl Zuckerberg zeker weet dat hij wil dat Facebook dat soort schaal, bereik en openheid heeft, de rest van de wereld dat echt niet is. Dat wil niet zeggen dat ze weten waar de grens moet worden getrokken, of wie de bevoegdheid moet krijgen om die te trekken, maar Facebook is te groot geworden om te blijven bestaan ​​in een staat van conceptuele ambiguïteit, waar niemand, zelfs niet de oprichter, weet heel goed wat het is of hoe het geregeerd moet worden.