Waarom Facebook de Nieuw-Zeelandse schutter er niet van kon weerhouden zijn aanval te streamen

Асуудлыг Арилгахын Тулд Манай Хэрэгслийг Туршиж Үзээрэй

Het internet - inclusief Facebook - is gebouwd om te delen.

Politieauto

De politie onderzoekt een pand aan Somerville Street op 15 maart 2019 in Dunedin, Nieuw-Zeeland, na twee dodelijke schietpartijen.

Dianne Manson/Getty Images

Dit verhaal maakt deel uit van een groep verhalen genaamd hercoderen

Ontdekken en uitleggen hoe onze digitale wereld verandert - en ons verandert.

We controleren niet wat mensen zeggen voordat ze het zeggen, en eerlijk gezegd denk ik niet dat de samenleving dat zou moeten willen. Vrijheid betekent dat je niet eerst om toestemming hoeft te vragen en dat je standaard kunt zeggen wat je wilt.

dat is Mark Zuckerberg, circa september 2017 . Destijds was de Facebook-CEO waarin de reactie van zijn bedrijf wordt beschreven aan de poging van Rusland om de laatste presidentsverkiezingen te manipuleren.

Ik neem aan dat hij vandaag nog steeds bij die opmerkingen staat, nadat een schutter Facebook gebruikte om zijn slachting van tientallen mensen in Nieuw-Zeeland live te streamen. Hoewel ik Facebook PR heb gevraagd om ervoor te zorgen.

Maar ongeacht hoe Facebook - en Twitter en YouTube en Reddit en de andere platforms die hielpen bij het verspreiden van afbeeldingen en video's van gisteren massale schietpartij in Christchurch , die de autoriteiten als een terroristische aanslag beschouwen - reageren op kritiek op hun huidige rol, het belangrijkste om te onthouden over de platforms is dat ze precies deden waarvoor ze zijn ontworpen: mensen toestaan ​​te delen wat ze willen, wanneer ze maar willen, voor zoveel mensen als ze willen.

Ik wil hier niet gemakkelijk over zijn: natuurlijk wil Facebook niet dat moordenaars hun misdaden wereldwijd livestreamen. Maar het bedrijf heeft een tool gebouwd waarmee ze precies dat kunnen doen. En het staat op een platform dat fundamenteel is gebouwd om mensen te laten zeggen wat ze willen, zonder eerst om toestemming te vragen.

Zoals ik in 2017 schreef, is deze platformstructuur de sleutel tot het enorme succes van Facebook als bedrijf - gebruikers leveren de inhoud en de software van Facebook verspreidt deze onmiddellijk over de hele wereld, met zo min mogelijk wrijving:

Facebook werkt alleen als een gigantisch bedrijf met meer dan een miljard mensen, omdat het gebruikers en adverteerders in staat stelt om wat ze maar willen naar zijn platform te uploaden, zonder menselijke tussenkomst. En het feit dat Facebook de opmerkingen, advertenties of (bijna) iets anders niet doorzoekt voordat het omhoog gaat, geeft het ook veel juridische bescherming, vooral in de VS: als er iets onaangenaams of illegaals op Facebook staat, het is niet omdat Facebook het daar heeft geplaatst - iemand heeft het op Facebook gezet.

Deze opzet is niet uniek voor Facebook. Alle gigantische consumentenplatforms die de afgelopen tien jaar uit Silicon Valley zijn voortgekomen, werken op dezelfde manier: YouTube en Twitter ondertekenen je opmerkingen of video's niet voordat je ze uploadt, en Airbnb controleert je niet eerder je huurt ruimte in je huis.

Zoals Zuckerberg in 2017 opmerkte, wil het aanstootgevende inhoud verwijderen nadat deze is gestegen, en het bedrijf zegt dat het het account van de schutter kort na de livestream heeft verwijderd. Het bedrijf zegt ook dat het in de toekomst miljarden zal besteden aan een combinatie van software en mensen om misbruik tegen te gaan.

Vorige week, Zuckerberg kondigde plannen aan om de focus van Facebook te verschuiven van een openbare nieuwsfeed naar meer persoonlijke, versleutelde communicatie. Maar aan het einde van de geplande spil van Facebook, zou het de Nieuw-Zeelandse schutter nog steeds in staat stellen precies te doen wat hij gisteren deed.

Het is mogelijk dat de verschuiving van Facebook de viraliteit van het opnemen van beelden of andere gruwelijke dingen zou verminderen, maar het zou niet voorkomen dat die dingen op het platform zouden verschijnen. Het is ook mogelijk dat Facebook het veel moeilijker zou hebben om toezicht te houden, aangezien het bedrijf van plan is om volledige codering te bieden voor de berichten die mensen heen en weer doorgeven.

Maar volgens Zuckerberg - en nogmaals, omdat Facebook op deze manier is gebouwd - zal Facebook toezicht houden op misbruik op zijn platform zodra het is gebeurd, op dezelfde manier waarop de politie reageert op een misdaad zodra ze ervan op de hoogte zijn.

Hier is een grotere passage uit het Zuckerberg-essay dat ik aan het begin van dit verhaal citeerde:

Nu ga ik hier niet zitten en je vertellen dat we alle slechte inhoud in ons systeem gaan vangen. We controleren niet wat mensen zeggen voordat ze het zeggen, en eerlijk gezegd denk ik niet dat onze samenleving dat zou moeten willen. Vrijheid betekent dat je niet eerst toestemming hoeft te vragen en dat je standaard kunt zeggen wat je wilt. Als je onze gemeenschapsnormen of de wet overtreedt, zul je achteraf met consequenties te maken krijgen.

Het is moeilijk voor te stellen welke gevolgen Facebook kan hebben voor een persoon die vrijdag tientallen mensen heeft vermoord. En het is moeilijk voor te stellen dat dit niet meer zal gebeuren.

Dit artikel verscheen oorspronkelijk op Recode.net.