San Francisco's verbod op gezichtsherkenningstechnologie, uitgelegd
Het verbod van de stad op de technologie zou een landelijk precedent kunnen scheppen.
Dit verhaal maakt deel uit van een groep verhalen genaamd 
Ontdekken en uitleggen hoe onze digitale wereld verandert - en ons verandert.
San Francisco is de eerste grote stad die het gebruik van gezichtsherkenning door lokale overheidsinstanties verbiedt, en een leider wordt in het reguleren van technologie die wordt bekritiseerd vanwege zijn potentieel om wijdverbreid overheidstoezicht uit te breiden en de vooringenomenheid van de politie te versterken.
De Stop geheime bewakingsverordening dinsdag met 8-1 aangenomen in een stemming door de raad van toezichthouders van de stad. De verordening zal een algeheel verbod invoeren op het gebruik van gezichtsbewaking door stadsagentschappen in San Francisco, wat technologiebedrijven zoals Amazon en Microsoft momenteel verkopen aan verschillende VS overheidsinstanties, waaronder in het geval van Amazon, Amerikaanse politiediensten en in De zaak van Microsoft, een Amerikaanse gevangenis . Deze technologieën kunnen gezichten detecteren in afbeeldingen of live videostreams en die gezichtskenmerken koppelen aan iemands identiteit in een database.
Tegenwoordig is gezichtsherkenningstechnologie veel gebruikt door de Chinese overheid voor Orwelliaanse massasurveillance van gewone burgers in het openbare leven – het meest verontrustend om de Oeigoerse islamitische etnische minderheid te targeten in wat wordt genoemd geautomatiseerd racisme.
In de VS zijn de tools veel minder alomtegenwoordig, maar steeds populairder bij wetshandhavingsinstanties . Tientallen lokale politiediensten in de VS gebruiken de technologie om foto's van rijbewijzen en politiefoto's te koppelen aan criminele databases. Het wordt ook gebruikt (in sommige gevallen door particulieren, niet door de politie) om menigten in de gaten te houden bij evenementen zoals: protesten , winkelcentra , en concerten om potentiële verdachten in realtime te identificeren, wat alarm heeft geslagen bij voorstanders van burgerlijke vrijheden, die zeggen dat dit gebruik een huiveringwekkend effect kan hebben op de vrijheid van meningsuiting.
Het verbod is slechts een onderdeel van de toezichtsverordening van San Francisco, die ook vereist dat stadsdiensten goedkeuring van de stad krijgen voordat ze andere soorten bewakingstechnologieën kopen, zoals automatische kentekenplaatlezers en camera-enabled drones. Het weerhoudt particulieren of bedrijven er echter niet van om deze gezichtsherkenningssystemen te gebruiken. (Dus, Taylor Swift, als je dit leest - je bent nog steeds vrij om concertgangers in San Francisco te verwelkomen met een gezichtsscan.) En natuurlijk kunnen gewone San Franciscanen, net als de rest van ons, graag blijven deelnemen aan de alomtegenwoordige gezichtsherkenningstechnologie wanneer we onze iPhones ontgrendelen of een voorgestelde vriend taggen in een Facebook-foto, bijvoorbeeld .
Voorstanders van gezichtsherkenningstechnologie zeggen dat het de politie kan helpen om criminele verdachten efficiënter te identificeren en te arresteren, maar critici wijzen op voorbeelden van misbruik waarvan ze zeggen dat het meer kwaad dan goed kan doen.
In een bijzonder flagrant voorbeeld, de American Civil Liberties Union (ACLU) voerde een test uit van Amazon's gezichtsherkenningssoftware en vond het ten onrechte 28 zwarte congresleden ten onrechte als criminelen aangemerkt . Onderzoekers van het MIT ontdekten dat: , over het algemeen leverde de software slechtere resultaten op voor vrouwen en personen met een donkere huidskleur (in beide gevallen heeft Amazon de bevindingen betwist). En in plaatsen als Maryland zijn politiebureaus ervan beschuldigd gezichtsherkenningstechnologie in het algemeen zwaarder te gebruiken in zwarte gemeenschappen en om activisten aan te vallen - bijvoorbeeld de politie in Baltimore gebruikt om demonstranten te identificeren en te arresteren van Freddie Gray's dood door toedoen van wetshandhavers.
De neiging van gezichtsherkenningstechnologie om burgerrechten en burgerlijke vrijheden in gevaar te brengen, weegt aanzienlijk zwaarder dan de beweerde voordelen, leest de San Francisco ordonnantie , die is geschreven door stadstoezichthouder Aaron Peskin en vijf andere toezichthouders in het 11-koppige bestuur, en de technologie zal raciale onrechtvaardigheid verergeren en ons vermogen om te leven zonder voortdurende overheidstoezicht bedreigen.
Andere steden volgen het voorbeeld van San Francisco. In het nabijgelegen Oakland — en door het hele land in Somerville, Massachusetts — de gemeenteraad zal stemmen over een wetsvoorstel dat een soortgelijk verbod zou invoeren.
Deze verordeningen verschuiven de macht van wetshandhaving naar het volk en zorgen voor democratisch debat en toezicht, zei Mana Azarmi, beleidsraad voor het Centrum voor Democratie en Technologie. Azarmi prees San Francisco en Oakland als voorhoede bij het ontwikkelen van wetgeving die een uniek verantwoordingsinstrument is om een einde te maken aan geheime surveillance.
De San Francisco Bay Area herbergt een robuust netwerk van burgerlijke vrijheden en raciale rechtvaardigheidsgroepen, dus het is geen verrassing dat stadsbesturen leidende regelgeving op het gebied van technologie hebben die privacy zou kunnen ontnemen en maatschappelijke ongelijkheden zou kunnen versterken.
Maar met technische giganten als Amazon, Microsoft, Google en Facebook in een race om alziende AI te bouwen, is het verbod een teken van iets dat we niet vaak zien: regeringen die een potentiële technologische Frankenstein proberen voor te blijven.
De verordening is niet zonder zijn critici , en het probeert toezicht te houden op een complex netwerk van publiek-private partnerschappen op het gebied van bewakingstechnologie die waarschijnlijk in de loop van de tijd zal veranderen. Hier is wat context over wat het eigenlijk doet en het precedent dat het zou kunnen scheppen.
Wat het verbod wel en niet zal doen?
Het verbod op gezichtsherkenning zal de politie van San Francisco het meest direct beperken, die momenteel geen gezichtsherkenningstechnologie gebruikt, maar deze in het verleden heeft getest. Als de verordening wordt aangenomen, kan SFPD het testen van dergelijke tools niet opnieuw starten. Dat betekent dat ze bijvoorbeeld geen beveiligingscamera's die op openbare straten zijn geïnstalleerd, kunnen verbinden met beeldverwerkingstechnologie en databases met criminele mugshots.
In andere steden waren politiediensten grote voorstanders van gezichtsherkenningstechnologie, met het argument dat het hen helpt bij strafrechtelijk onderzoek. In Washington County, Oregon, zei het Sheriff's Office dat Amazon's Rekognition-product het vermogen van onze wetshandhavers om snel en resoluut op te treden aanzienlijk heeft vergroot door de tijd die nodig is om criminele verdachten te identificeren terug te brengen van twee tot drie dagen tot minuten, volgens een getuigenis over Amazon's klantenwebsite voor de software .
Het is gemakkelijk om de aantrekkingskracht van deze tools te zien. Hoewel de SFPD zich heeft teruggetrokken voor het publiekelijk ondersteunen van gezichtsherkenning (of het afwijzen ervan), heeft de afdeling opgeroepen tot wijzigingen in de wetgeving die de privacykwesties van technologie aanpakken en tegelijkertijd de bezorgdheid over de openbare veiligheid van onze groeiende, internationale stad in evenwicht brengen.
Volgens Matt Cagle, een advocaat technologie en burgerlijke vrijheden voor de ACLU, zal de verordening ook de lokale politie beperken in het delen van bepaalde informatie met federale instanties zoals immigratie en douanehandhaving. Cagle zei in een openbare hoorzitting over de verordening dat de immigratiedienst die verantwoordelijk is voor het deporteren van immigranten zonder papieren eerder informatie heeft gevraagd aan de politie van San Francisco. San Francisco is een heiligdomstad , wat betekent dat het in de meeste gevallen niet samenwerkt met federale instanties zoals ICE om niet-geautoriseerde immigranten uit te zetten.
Beperkingen op bewakingstechnologie zijn echter niet van toepassing op de internationale luchthaven van San Francisco, waar federale agentschappen zoals de Transportation Security Administration en Customs and Border Patrol bevoegd zijn - en zijn gratis gezichtsherkenningssystemen gebruiken en biometrische scanners zoals ze willen. (Uiteraard is het publiek ook vrij om duw hier ook op terug, en heeft .)
Verschillende inwoners van San Francisco waren tijdens een recente openbare hoorzitting bezorgd dat de maatregel het voor lokale bedrijven moeilijker zou maken om winkeldieven te pakken en af te schrikken. De nieuwe verordening stelt particuliere bedrijven en burgers in staat om beelden van beveiligingscamera's, inclusief van tools die gezichtsherkenningstechnologie gebruiken, te delen met de politie om onderzoek te helpen. Het schetst echter procedures voor hoe burgers die beelden kunnen delen.
Een ander punt van kritiek op de wetgeving is dat het de lokale wetshandhavers verhindert gezichtsbewakingstechnologie te gebruiken om vermoedelijke terroristen te identificeren bij massa-evenementen, zoals concerten en parades.
Willen we echt tegen elke blanke supremacist zeggen: 'Hé, San Francisco houdt een Lunar Parade, maar ze beperken beveiligingscamera's', zei Frank Noto, voorzitter van STOP Crime SF, een basisgroep voor strafrechtelijke verantwoording, op een recente openbare hoorzitting over de verordening.
De verspreiding naar andere steden
In veel opzichten zetten San Francisco en Californië in het algemeen een trend voor stedelijke gebieden in het hele land die steeds meer toezicht op bewakingstechnologie eisen.
In 2016 startte de ACLU met de Gemeenschapscontrole over politietoezicht inspanningen om lokale overheden een kader te bieden voor het aannemen van wetgeving om het politietoezicht te verbeteren. Regionale autoriteiten in de Bay Area en steden zoals Santa Clara County, Oakland en Berkeley waren enkele van de eerste plaatsen waar dergelijke wetgeving werd aangenomen.
Symbolisch gezien is het belangrijk dat we het grootste deel van deze technologie in de Bay Area creëren, en nu stellen we er regels omheen, zei Brian Hofer, voorzitter van de City of Oakland Privacy Advisory Commission, die heeft geholpen bij het leiden van inspanningen om daar een gezichtsherkenningsverbod te plaatsen.
Iets minder dan een dozijn Amerikaanse steden – waaronder Seattle, Nashville en Cambridge, Massachusetts – hebben wetten aangenomen die dat kader gebruiken om hun lokale functionarissen meer macht te geven om het gebruik van bewakingsinstrumenten te reguleren. En zo'n 20 andere steden werken actief aan soortgelijke wetgeving. Ondertussen hebben velen opgeroepen tot federale wetgeving, waaronder Microsoft, een belangrijke leverancier van gezichtsherkenningstechnologie. Maar in ieder geval op korte termijn lijkt een lappendeken van lokale regelgeving waarschijnlijker en haalbaarder, aldus privacyonderzoekers en pleitbezorgers in het veld.
Amerikaanse consumenten hebben misschien gewillig de verwachting van digitale privacy opgegeven, naarmate onze honger naar altijd-luisterende slimme apparaten, altijd-locatie-tracking mobiele technologie en altijd-hackbare sociale-media-apps groeit. En tot nu toe zijn regelgevers grotendeels traag en ineffectief geweest in het beteugelen van die verslaving of het reguleren van inbreuken op de privacy.
Maar de verwachting dat je de straat kunt oversteken zonder dat Big Brother weet waar je bent, is een burgerlijke vrijheid die diep geworteld is in de Amerikaanse cultuur, en een vrijheid die de overheid gebruik maakt van gezichtsherkenningstechnologie die rijp is voor regulering, voordat het te laat is, zei Hofer.
Dit soort technologieën verspreiden zich zo snel in de particuliere sector, maar we hebben nog steeds de kans om de geest in de fles te houden door het gebruik ervan door de overheid te beperken, zei hij.
Recode en Vox hebben hun krachten gebundeld om te ontdekken en uit te leggen hoe onze digitale wereld verandert - en ons verandert. Abboneer op Podcasts hercoderen om Kara Swisher en Peter Kafka de moeilijke gesprekken te horen leiden die de technologische industrie tegenwoordig nodig heeft.
