Google wijst me de weg, maar niet altijd de kortste
De routes van Google Maps zijn het resultaat van menselijke keuzes. We worden daarmee direct beinvloed in ons gedrag. Voor veel mensen is dit soort invloed onvoldoende zichtbaar. Om niet overgeleverd te zijn aan het beperkte voorstellingsvermorgen van programmeurs moeten we ons daar wel
bewuster van worden.
Ik woon al jaren in Amsterdam. En net als iedereen ga ik overal naartoe met de fiets. Vaak gebruik ik dan Google Maps om te bepalen welke route het handigst is. Een paar maanden geleden viel mij ineens iets op: als ik van de ene kan van de stad naar de andere kant van de stad moet fietsen, dan
kiest Google nooit een route die door of over de grachtengordel gaat. Zelfs niet als ik zeker weet dat het de snelste route is om ergens te komen. In plaats daarvan moet ik er altijd omheen.
Een paar van mijn meer paranoide -- of noem ze sceptische -- vrienden, waren ervan overtuigd dat de rijke eigenaren van de grachtenpanden, Google betaald zouden hebben om het verkeer om te leiden. Zelf geloof ik dat niet zo. Ik denk eerder dat er een soort softwarematige `glitch' in het
systeem zit. Het algoritme achter Google Maps is waarschijnlijk gemaakt voor het stratenplan van San Francisco en niet voor de layout van ons werelderfgoed uit de 17e eeuw.
Toen las ik het verhaal over een klein groepje inwoners uit Los Angeles dat probeert om via de gemeente, en bij kaartenmakers, ervoor te zorgen dat het iconische `Hollywood Sign' -- je weet wel die grote letters op de berg -- volledig van de virtuele kaart verdwijnt. Veel toeristen proberen zo
dicht mogelijk bij het Hollywood Sign te komen en parkeren dan in de dure buurt die er direct onder ligt. Dat creeert volgens de bewoners van die buurt verkeersproblemen.
Ik ben even in dat verhaal gedoken. Of beter gezegd: het internet heeft mij erin gezogen. En het is echt een NIMBY verhaal van epische proporties: rechtszaken, dreigementen, eigenrecht, borden met passief agressieve teksten, etc. En dat al jaren. Heerlijk.
Maar wat blijkt nu... Google heeft geluisterd naar de bewoners. Als je vlak onder het sign Google Maps om een wandelroute vraagt naar het sign, dan krijg je niet het directe pad -- dat wel degelijk bestaat -- te zien, maar leidt Google je via een wandelroute van ruim anderhalf uur naar een
uitkijkplatform dat ongeveer zeven kilometer verderop ligt.
Dit is een voorbeeld van de manier waarop Google een heel directe, maar vaak ook impliciete, invloed op het leven van mensen heeft. En die invloed is alomtegenwoordig. Het is nu Google die bepaalt hoe ik van mijn werk naar het theater fiets. Door dat toe te staan, besluit ik eigenlijk om de
onuitgesproken aannames van Google's Geo-team over wat ik belangrijk vindt, te vertrouwen.
De ongelooflijke hoeveelheid menselijke aandacht die er in Google Maps is gestopt -- bijna elke straat wordt handmatig getweakt -- en alle ontwerpbeslissingen worden compleet verhuld achter een gelikte en strakke interface. Een interface waarvan we denken dat hij neutraal is. En als deze
internetdiensten niet helemaal doen wat we van ze verwachten dan geven we onszelf of 'de computer' de schuld. Zelden houden we de mensen die de software gemaakt hebben verantwoordelijk.
De design-psycholoog Donald Norman verwees een aantal jaar geleden naar een nieuwsbericht over een automobilist die bijna veertien uur rondjes had gereden op een drukke rotonde. Zijn `lane keeping' software zag steeds auto's naast hem rijden en liet hem daarom niet van baan wisselen. Hij zat
uren in de binnenbaan en kwam er niet meer uit. De politie heeft hem uiteindelijk totaal oververmoeid uit zijn auto geplukt.
Dit is gelukkig geen echt gebeurd verhaal. Maar het had waar kunnen zijn. Norman gebruikt het om te laten zien hoe weinig aandacht er in het ontwerpproces wordt besteed aan onze menselijke cognitieve capaciteiten en beperkingen. Zijn verhaal was ook vooruitziend: onze auto's luisteren steeds
minder vaak naar onze instructies en laten zich leiden door de ontwerpbeslisssingen van een programmeur aan de andere kant van de wereld.
In de Verenigde Staten zijn er bijvoorbeeld ongeveer twee miljoen auto's met een zogenaamde `starter interrupt device'. Kredietverstrekkers kunnen daarmee -- op afstand -- de auto's van wanbetalers kalt stellen. Ze kunnen trouwens ook zien waar de autobezitters rijden en op locatie gebaseerde
beperkingen instellen. Soms heeft dit desastreuze gevolgen. Denk bijvoorbeeld aan het echt gebeurde verhaal van een moeder die probeerde haar astmatische kind met spoed naar het ziekenhuis te brengen, maar van wie de auto niet wilde starten. Ik vind dit symptomatisch voor hoe technologie de
afstand vergroot tussen de eigenaren van de technologie en de mensen die de gevolgen van de technologie moeten ondergaan.
De manier waarop software ons gedrag reguleert is vaak erg absoluut. Je kunt een algoritme niet even vriendelijk -- of wanhopig -- aankijken om een uitzondering op de regel te worden. Naar mate het netwerk in alles om ons heen gaat zitten en ons leven meer en meer gemedieerd wordt door
technologie die niet door ons ontworpen is en waar we geen zeggenschap over hebben, zullen we steeds vaker geconfronteerd worden met software die -- letterlijk -- onmenselijke beslissingen neemt. Dit is de voornaamste reden voor mij om bij Bits of Freedom te werken. Als we de zaken niet snel
anders gaan aanpakken, dan worden we compleet afhankelijk van het -- noodzakelijkerwijs -- beperkte voorstellingsvermogen van de programmeurs die onze levens vormgeven.
Tot slot nog even terug naar Google Maps. Het kan namelijk anders. Een onderzoeker bij Yahoo heeft bijvoorbeeld plekken in Londen gecrowdsourced die stil zijn, mooi zijn of waar mensen gelukkig van worden. Je kunt er dus voor kiezen om een `happy route' te nemen van Piccadilly Circus naar de
Tate Modern. Natuurlijk is het fijn om een alternatief te hebben voor de meedogenloze effenciency logica van andere navigatiediensten, maar wat ik er vooral zo mooi vind aan deze alternatieve routes is dat ze mij een expliciete keuze geven over wat ik belangrijk vind als ik door de stad reis.
Hans de Zwart sprak deze lezing op donderdagavond 13 augustus 2015 uit binnen het `Come Closer' programma op het dak van de Oude Kerk in Amsterdam. De tekst werd op 14 augustus gepubliceerd in NRC Handelsblad en op 15 augustus in nrc.next.