Hoe technische medewerkers Silicon Valley ertoe aanzetten om ethiek boven winst te stellen

Асуудлыг Арилгахын Тулд Манай Хэрэгслийг Туршиж Үзээрэй

Werknemers bij Google, Amazon en Microsoft eisen input over de impact van de technologie die ze bouwen.

Bewakingscamera met silhouet mensen in de buurt.

Voorbijgangers lopen onder een bewakingscamera, onderdeel van een technologie voor gezichtsherkenning, in Berlijn, Duitsland.

Steffi Loos/Getty Images

Dit verhaal maakt deel uit van een groep verhalen genaamd Technologie

Hoe nieuwe technologie steden en samenlevingen transformeert, van de nieuwste apps tot vooruitgang op het gebied van hernieuwbare energie, computers, transport en meer.

Het koor van technische werkers die eisen dat Amerikaanse technologiebedrijven ethiek boven winst stellen, wordt steeds luider.

In de afgelopen dagen, medewerkers bij Google en Microsoft hebben bedrijfsleiders onder druk gezet om biedingen voor een contract van $ 10 miljard om cloud computing-services aan het ministerie van Defensie te leveren, in te trekken.

Als onderdeel van het contract, bekend als JEDI, zouden ingenieurs cloudopslag bouwen voor militaire gegevens; er zijn weinig openbare details over wat het nog meer zou inhouden. Maar één ding is duidelijk: het project omvat het gebruik van kunstmatige intelligentie om het Amerikaanse leger een stuk dodelijker te maken .

Dit programma gaat echt over het vergroten van de dodelijkheid van onze afdeling en het verstrekken van de beste middelen aan onze mannen en vrouwen in uniform, zei John Gibson, chief management officer bij het ministerie van Defensie, op een branche-evenement in maart over JEDI .

Duizenden Google-medewerkers naar verluidt zette het bedrijf onder druk om zijn bod op het project te laten vallen, en velen hadden gezegd dat ze zou weigeren eraan te werken. Ze wezen erop dat dergelijk werk in strijd kan zijn met de regels van het bedrijf nieuw ethisch beleid over het gebruik van kunstmatige intelligentie. Google heeft beloofd geen AI te gebruiken om wapens of andere technologieën te maken waarvan het hoofddoel of de implementatie is om mensen letsel toe te brengen of rechtstreeks te vergemakkelijken, een beleidsbedrijf medewerkers hadden aangedrongen op .

Op 8 oktober maakte Google bekend dat het zich terugtrekt uit de race voor het JEDI-contract. Nu dringen Microsoft-medewerkers leidinggevenden aan om hetzelfde te doen.

Zonder transparantie in deze onderhandelingen en een ondoorzichtige ethische instantie die morele beslissingen arbitreert, zou het accepteren van dit contract het voor de gemiddelde Microsoft-werknemer onmogelijk maken om te weten of ze code schrijven die bedoeld is om te schaden en te controleren, schreef een anonieme groep van Microsoft-medewerkers in een brief gepubliceerd op vrijdag (en geverifieerd) door Medium.

Het is onduidelijk hoeveel werknemers deel uitmaken van de groep, maar het maakt misschien niet uit, zoals Microsoft heeft aangegeven het zal niet vallen zijn bod op het cloud computing-contract voor het Pentagon.

Interne protesten bij enkele van Amerika's machtigste technologiebedrijven weerspiegelen de toenemende bezorgdheid van werknemers over de ethische implicaties van de technologie die ze ontwikkelen. Sommige van hun protesten hebben impact gehad; anderen niet. Maar hun oproepen om ethiek en waarden boven winst te stellen, dwingen Silicon Valley om na te denken over de morele gevolgen van wat ze creëren, en of het de mensheid en bevordering van fundamentele mensenrechten - of het tegenovergestelde doen.

Werknemers maken zich zorgen over overheidscontracten

Medewerkers van verschillende technologiebedrijven maken zich zorgen over verschillende soorten projecten, maar ze hebben één ding gemeen: een gedeelde zorg over overheidscontracten en het risico dat overheidsfunctionarissen hun technologie kunnen gebruiken om fundamentele mensenrechten te schenden. Als worstcasescenario ze noemen vaak het voorbeeld van IBM's contract met nazi-Duitsland, waarin het Amerikaanse technologiebedrijf een systeem ontwikkeld die nazi's hielpen bij het classificeren, organiseren en vermoorden van Joden.

Een technologie waar werknemers zich zorgen over maken, is gezichtsherkenningssoftware. Een groep van 450 Amazon-medewerkers naar verluidt een brief ondertekend CEO Jeff Bezos vragen om te stoppen met de verkoop van zijn gezichtsherkenningssoftware, Rekognition, aan wetshandhavingsinstanties, volgens een medewerker van Amazon die dinsdag een anoniem opiniestuk publiceerde op Medium (het publicatieplatform verifieerde het dienstverband van de auteur bij Amazon).

We kunnen onze ogen niet afwenden van de menselijke kosten van ons bedrijf, schreef de medewerker, terwijl hij de software een gebrekkige technologie noemde die de bestaande vooringenomenheid versterkt.

Volgens de Amazon-medewerker blijkt uit onderzoeken dat gezichtsherkenningssoftware mensen met een donkere huid vaak verkeerd identificeert. De werknemer citeerde een recente toets van Amazon's Rekognition-software door de American Civil Liberties Union, die foto's van elk lid van het Congres vergeleek met een verzameling mugshots. Er waren 28 valse overeenkomsten en de onjuiste resultaten waren onevenredig hoger voor mensen van kleur. Maar politie in Orlando testen het programma van Amazon op stadsbewakingscamera's, en afgevaardigden van de sheriff in Oregon gebruiken het naar verluidt in het veld.

De potentiële risico's zijn te groot, schreef de Amazon-medewerker, die ervoor koos anoniem te blijven uit angst voor professionele vergelding.

We weten uit de geschiedenis dat nieuwe en krachtige bewakingsinstrumenten die ongecontroleerd in handen van de staat zijn gelaten, zijn gebruikt om mensen aan te vallen die niets verkeerd hebben gedaan; in de Verenigde Staten resulteert een gebrek aan publieke verantwoording al in buitensporige effecten en overmatige controle van gekleurde gemeenschappen, immigranten en mensen die hun First Amendment-rechten uitoefenen. Het negeren van deze urgente zorgen bij het inzetten van krachtige technologieën bij de overheid en wetshandhavingsinstanties is gevaarlijk en onverantwoord.

De anonieme Amazon-medewerker en een groep collega's schetsten deze zorgen in de brief ze stuurden naar Bezos in de zomer , die inmiddels door 450 medewerkers is ondertekend. In de brief eisten ze ook dat Amazon Web Services zou stoppen met het hosten van de softwarebedrijf Palantir , die immigratie-autoriteiten helpt bij het opsporen en deporteren van immigranten. Ze vroegen de CEO ook om werknemers inspraak te geven over bedrijfsbeslissingen die ethische vragen oproepen.

Dinsdag had Bezos nog niet op de brief geantwoord, maar sindsdien heeft hij dat wel gedaan verdedigde het bedrijf' s beslissing om zaken te doen met de overheid (Amazon biedt ook op het JEDI-contract). Op het moment van schrijven had Amazon nog niet gereageerd op vragen van Vox over de eisen van de werknemers.

Google-medewerkers hebben de meeste invloed gehad op de besluitvorming van bedrijven

Duizenden tech-medewerkers bij Google hebben zich afgevraagd of het bedrijf zijn morele kompas heeft verloren in het streven van bedrijven om aandeelhouders te verrijken.

In april protesteerden meer dan 3.000 Google-medewerkers tegen het militaire contract van het bedrijf met het Pentagon. bekend als project Maven — waarbij technologie betrokken was om videobeelden van drones te analyseren die mogelijk kunnen worden geïdentificeerd en gedood menselijke doelen.

Ongeveer een dozijn ingenieurs namen ontslag vanwege wat zij beschouwden als een onethisch gebruik van kunstmatige intelligentie, wat Google ertoe bracht het contract in juni te laten aflopen en leidinggevenden ertoe bracht te beloven dat ze nooit AI-technologie zouden gebruiken om anderen schade toe te brengen of menselijk leed te veroorzaken.

Een paar maanden later bleek uit een onderzoek van Intercept dat Google in het geheim aan een ander dubieus project werkt: een groep ingenieurs ontwikkelt in Peking een gecensureerde zoekmachine voor Chinese functionarissen.

De zoekmachine in ontwikkeling, bekend als project Dragonfly, is ontworpen om zoekresultaten te verbergen die de autoritaire regering van China wil onderdrukken, zoals informatie over democratie, vrijheid van meningsuiting, vreedzaam protest en mensenrechten, volgens een onderzoek gepubliceerd in augustus door de Intercept .

Na het nieuws van Dragonfly gelekt in augustus , ondertekenden meer dan 1.400 Google-medewerkers een brief waarin ze meer transparantie en verantwoording eisten over de mogelijke impact van het project op de mensenrechten. De controverse heeft naar verluidt geleid tot ten minste vijf Google-medewerkers stoppen in protest.

Meer dan een dozijn mensenrechtenorganisaties hebben er bij het bedrijf op aangedrongen het project stop te zetten. Zoals het er nu voorstaat, loopt Google het risico medeplichtig te worden aan de onderdrukking door de Chinese regering van de vrijheid van meningsuiting en de mensenrechten in China, Zij schreven .

Nu is Google naar verluidt kraken op werknemers die zeggen dat de tool een Chinese partner ook in staat zal stellen gebruikers nauwlettend te volgen en te volgen.

Naast het verbergen van zoekresultaten die de Chinese overheid wil onderdrukken, zou de nieuwe zoekmachine van Google ook de locatie van een gebruiker volgen en de zoekgeschiedenis van een persoon delen met een Chinese partner, die eenzijdige toegang tot de gegevens zou hebben. Dit omvat toegang tot het telefoonnummer van een gebruiker, volgens een werknemersmemo verkregen in september door de Intercept .

Google-leidinggevenden hebben weinig over het project onthuld, maar een Google-woordvoerder vertelde me in een verklaring eerder deze maand dat het werk aan zoeken verkennend is geweest en dat we niet dicht bij de lancering van een zoekproduct in China zijn.

Een bruine kleur evenement deze week , herhaalde CEO Sundar Pichai dat standpunt en verdedigde het project door te zeggen dat werken in China een goede zaak is en dat Google de meeste Chinese zoekresultaten niet zou censureren .

Als Google doorgaat met het project, is dat een opvallende omkering van de sterke houding het bedrijf nam terug in 2010, toen het besloot China te verlaten uit protest tegen het hacken van Gmail door de Chinese overheid en zijn harde optreden tegen de vrijheid van meningsuiting. Het besluit botst met de principes die het bedrijf heeft aangenomen in juni na de controverse over het contract met het Pentagon, waarin Pichai beloofde dat het bedrijf geen kunstmatige intelligentie zou gebruiken om technologie te ontwikkelen waarvan het doel in strijd is met algemeen aanvaarde principes van internationaal recht en mensenrechten.

Google-medewerkers zeggen dat dit soort beloften niet langer voldoende zijn, in het licht van het nieuws over de censuurtool, en ze eisen een meer formele rol bij beslissingen over de ethische implicaties van hun werk.

Zelfs als Google ondanks zorgen van medewerkers doorzet met Dragonfly, lijken hun eisen met betrekking tot het gebruik van kunstmatige intelligentie een impact te hebben op de besluitvorming van bedrijven.

Google zei dat het zijn bod zou laten vallen op de Pentagon-contracten, gedeeltelijk omdat we er niet zeker van konden zijn dat het in overeenstemming zou zijn met onze AI-principes.

De Tech Workers Coalition, een groep professionals uit Silicon Valley die pleiten voor meer inbreng in bedrijfsethiek, zei dat de beslissing volledig het gevolg was van druk van de werknemers.