Hoe algoritmen je leven beheersen

Асуудлыг Арилгахын Тулд Манай Хэрэгслийг Туршиж Үзээрэй

En waarom je waarschijnlijk beter moet opletten.

Dit verhaal maakt deel uit van een groep verhalen genaamd Technologie

Hoe nieuwe technologie steden en samenlevingen transformeert, van de nieuwste apps tot vooruitgang op het gebied van hernieuwbare energie, computers, transport en meer.

Algoritmen zijn een zwarte doos.

We kunnen ze aan het werk zien in de wereld. We weten dat ze overal om ons heen resultaten bepalen. Maar de meesten van ons hebben geen idee wat ze zijn - of hoe we er door worden beïnvloed.

Algoritmen zijn onzichtbare stukjes code die een computer vertellen hoe een specifieke taak moet worden uitgevoerd. Zie het als een recept voor een computer: een algoritme vertelt de computer wat hij moet doen om tot een bepaald resultaat te komen. Elke keer dat u een Google-zoekopdracht uitvoert of naar uw Facebook-feed kijkt of GPS-navigatie in uw auto gebruikt, werkt u met een algoritme.

TOT nieuw boek van Hannah Fry , een wiskundige aan het University College London, stelt dat we algoritmen zelf niet als goed of slecht moeten zien, maar dat we zou moeten veel meer aandacht besteden aan de mensen die ze programmeren.

Algoritmen nemen enorm consequente beslissingen in onze samenleving over alles, van medicijnen tot transport tot sociale uitkeringen tot strafrecht en nog veel meer. Toch weet het grote publiek bijna niets over hen, en nog minder over de ingenieurs en programmeurs die ze achter de schermen maken.

Ik nam contact op met Fry om te praten over hoe algoritmen stilletjes de regels van het menselijk leven veranderen en of de voordelen van algoritmen uiteindelijk opwegen tegen de kosten.

Een licht bewerkte transcriptie van ons gesprek volgt.

Sean Illing

Hoe veranderen algoritmen het menselijk leven?

Hannah Fry

Op allerlei manieren eigenlijk. Van wat we kiezen om te lezen en te bekijken tot wie we tot nu toe kiezen, algoritmen spelen een steeds grotere rol. En het zijn niet alleen de voor de hand liggende gevallen, zoals Google-zoekalgoritmen of Amazon-aanbevelingsalgoritmen.

We hebben deze algoritmen uitgenodigd in onze rechtszalen en onze ziekenhuizen en onze scholen, en ze nemen namens ons deze kleine beslissingen die de manier waarop onze samenleving functioneert op subtiele wijze veranderen.

Sean Illing

Vindt u ons vertrouwen in algoritmen misplaatst? Maken we een fout door zoveel beslissingsbevoegdheid aan deze programma's over te dragen?

Hannah Fry

Dat is een moeilijke vraag. We hebben een heel gecompliceerde relatie met machines. Aan de ene kant stellen we soms ons vertrouwen in hen mis. We verwachten dat ze bijna goddelijk zijn, zo perfect dat we ze blindelings zullen volgen waar ze ons ook leiden.

Maar tegelijkertijd hebben we de gewoonte om een ​​algoritme af te wijzen zodra blijkt dat het enigszins gebrekkig is. Dus als Siri iets fout doet, of als onze GPS-app het verkeer verkeerd berekent, denken we dat de hele machine gewoon onzin is. Maar dat slaat nergens op.

Algoritmen zijn niet perfect en bevatten vaak de vooroordelen van de mensen die ze hebben gemaakt, maar ze zijn nog steeds ongelooflijk effectief en ze hebben ons hele leven een stuk gemakkelijker gemaakt. Dus ik denk dat de juiste houding ergens in het midden ligt: ​​we moeten algoritmen niet blindelings vertrouwen, maar we moeten ze ook niet helemaal afwijzen.

Sean Illing

Welke voordelen behalen we door zo sterk te vertrouwen op algoritmen?

Hannah Fry

Mensen zijn behoorlijk slecht in veel dingen. We zijn slecht in consistent zijn. We zijn slecht in niet bevooroordeeld zijn. We worden moe en slordig.

Algoritmen hebben geen van die gebreken. Ze zijn ongelooflijk consistent. Ze worden nooit moe en ze zijn absoluut precies. Het probleem is dat algoritmen de context of nuance niet begrijpen. Ze begrijpen emotie en empathie niet op de manier waarop mensen dat doen.

We hoeven geen wereld te creëren waarin machines ons vertellen wat we moeten doen of hoe we moeten denken, hoewel we heel goed in zo'n wereld kunnen belanden

Sean Illing

Kun je me een voorbeeld geven van een algoritme dat desastreus fout gaat?

Hannah Fry

Ik schrijf in het boek over Christopher Drew Brooks, een 19-jarige man uit Virginia die werd veroordeeld voor de verkrachting van een 14-jarig meisje. Ze hadden een consensuele relatie gehad, maar ze was minderjarig en dat is illegaal.

Tijdens de veroordeling vertrouwde de rechter in de zaak op een algoritme dat is ontworpen om een ​​voorspelling te doen over hoe waarschijnlijk het is dat een persoon een misdrijf zal plegen als hij uit de gevangenis wordt vrijgelaten. Het algoritme beoordeelde zijn score van recidive, en het stelde vast dat, omdat hij zo'n jonge man was en hij al seksuele delicten pleegde, er een vrij grote kans was dat hij in dit criminele leven zou blijven. Dus het adviseerde hem 18 maanden gevangenisstraf te geven.

En misschien is dat eerlijk. Maar het laat ook zien hoe onlogisch deze algoritmen soms kunnen zijn. Omdat het bleek dat dit specifieke algoritme veel gewicht hecht aan de leeftijd van de dader - dus als hij 36 was in plaats van 19, zou hij hem als een veel lagere bedreiging hebben beschouwd. Maar in dat geval zou hij 22 jaar ouder zijn geweest dan het slachtoffer, en ik denk dat elk redelijk persoon dat erger zou vinden.

Dit is een voorbeeld van hoe deze perfect logische algoritmen tot bizarre resultaten kunnen komen. En in dit geval zou je denken dat de rechter zijn discretie zou hebben uitgeoefend en het algoritme zou hebben verworpen, maar hij verhoogde eigenlijk de straf van Brooks, deels vanwege het algoritme.

Sean Illing

Denk je dat de mensen die deze algoritmen maken, de technici van Google of Facebook of waar dan ook, volledig begrijpen wat ze maken?

Hannah Fry

Ze beginnen zich veel te bekommeren om de implicaties van dit spul. Facebook had vroeger het motto snel bewegen en dingen breken, en dat was de houding van een groot deel van de technische wereld. Maar de laatste jaren is het tij gekeerd. Veel van deze mensen zijn wakker geschud omdat de onbedoelde gevolgen van deze creaties veel duidelijker zijn geworden.

Elk socialemediaplatform, elk algoritme dat deel gaat uitmaken van ons leven, maakt deel uit van dit enorme sociale experiment dat zich ontvouwt. Miljarden mensen over de hele wereld hebben interactie met deze technologieën, en daarom kunnen de kleinste veranderingen zo'n gigantische impact hebben op de hele mensheid. En deze bedrijven beginnen dit te herkennen en serieus te nemen.

Sean Illing

U zegt dat algoritmen zelf niet goed of slecht zijn, maar ik wil u hier een beetje op aandringen. Algoritmen kunnen onverwachte resultaten opleveren, met name algoritmen voor machine learning die zichzelf kunnen programmeren. Aangezien het voor ons onmogelijk is om op al deze scenario's te anticiperen, kunnen we dan niet zeggen dat sommige algoritmen slecht zijn, zelfs als ze daar niet voor ontworpen zijn?

Hannah Fry

Dat is een goede vraag. We moeten deze technologieën, met name machine learning en kunstmatige intelligentie, meer zien als de uitvinding van elektriciteit dan als de uitvinding van de gloeilamp. Daarmee bedoel ik dat we niet weten hoe deze dingen zullen worden gebruikt en in welke situaties of in welke context.

Maar elektriciteit op zich is niet goed of slecht - het is slechts een hulpmiddel dat op oneindig veel manieren kan worden gebruikt. Algoritmen zijn ook zo. Ik ben nog geen algoritme tegengekomen dat 100 procent slecht of goed was. Ik denk dat de context en alles eromheen het verschil maakt.

Mensen kunnen elke bewering doen die ze willen over wat hun algoritme wel of niet kan doen, zelfs als het absolute onzin is, en niemand kan hen er echt van weerhouden het te doen

Sean Illing

Maakt u zich zorgen dat de wildgroei aan algoritmen ons vermogen om voor onszelf te denken en te beslissen aantast?

Hannah Fry

Er zijn plaatsen waar dat duidelijk gebeurt, waar de rol van de mens aan de kant is geschoven. En dat is echt gevaarlijk om te laten gebeuren. Maar ik denk ook niet dat het zo hoeft te zijn. Mens en machine hoeven niet tegenover elkaar te staan. We moeten met machines werken en erkennen dat ze gebrekkig zijn, net als wij. En dat ze fouten zullen maken, net als wij.

We hoeven geen wereld te creëren waarin machines ons vertellen wat we moeten doen of hoe we moeten denken, hoewel we heel goed in zo'n wereld kunnen belanden. Ik zou veel liever een wereld hebben waarin mens en machine, mens en algoritme, partners zijn.

Sean Illing

Gelooft u dat mensen en kunstmatige algoritmen uiteindelijk zullen combineren op een manier die het onderscheid tussen de twee doet vervagen?

Hannah Fry

Het is heel goed mogelijk, maar we zijn daar echt, heel, heel ver van verwijderd.

Er is bijvoorbeeld een project dat probeert de hersenen van de C. elegans-worm te repliceren, een microscopisch kleine worm met ongeveer 200 neuronen in zijn hersenen - en we kunnen het niet doen. Zelfs met de meest geavanceerde geavanceerde kunstmatige intelligentie zijn we lang niet in staat om het brein van een piepklein microscopisch wormpje te simuleren. We zijn dus melkwegstelsels verwijderd van het simuleren van complexere dieren, en nog verder weg van het repliceren van mensen.

Deze gesprekken zijn dus interessant, maar ze kunnen ook dienen als afleiding van wat er op dit moment aan de hand is. De regels en systemen die ons leven beheersen, veranderen overal om ons heen, en algoritmen maken daar een groot deel van uit.

Sean Illing

Hebben we een sterker regelgevend kader nodig voor algoritmen?

Hannah Fry

Absoluut. We hebben in het technologische Wilde Westen geleefd, waar je zonder hun toestemming privégegevens over mensen kunt verzamelen en aan adverteerders kunt verkopen. We veranderen mensen in producten, en ze beseffen het niet eens. En mensen kunnen elke bewering doen die ze willen over wat hun algoritme wel of niet kan doen, zelfs als het absolute onzin is, en niemand kan hen echt stoppen om het te doen.

En zelfs als een bepaald algoritme werkt, is er niemand die beoordeelt of het een netto voordeel of kosten voor de samenleving oplevert. Er is niemand die een van die controles doet. We hebben een equivalent van de FDA nodig, een instantie die het intellectuele eigendom kan beschermen van een bedrijf dat een algoritme bedenkt, maar er ook voor zorgt dat het publiek er op geen enkele manier door wordt geschaad of geschonden.

Sean Illing

Lossen algoritmen uiteindelijk meer problemen voor mensen op dan ze creëren?

Hannah Fry

Ja, ik denk dat ze meer problemen oplossen dan creëren. Ik ben nog steeds overwegend positief over dit spul. Ik werk al meer dan tien jaar op dit gebied en deze technologieën hebben enorme voordelen. Algoritmen worden gebruikt om misdaden te voorkomen en artsen te helpen nauwkeurigere kankerdiagnoses te krijgen, en op talloze andere manieren.

Al deze dingen zijn echt, hele positieve stappen voorwaarts voor de mensheid. We moeten alleen voorzichtig zijn met de manier waarop we ze inzetten. We kunnen het niet roekeloos doen. We kunnen niet zomaar snel handelen en we kunnen dingen niet kapot maken.