Het nummerplaatherkenningssysteem dat de politie in de West Midlands (GB) ‘aan boord’ heeft
We leven in een glazen en we zijn ons er nauwelijks van bewust. De Amerikaanse veiligheidsdienst NSA ligt als mega-verzamelaar van elektronische gegevens op het moment zwaar onder vuur, met dank aan Edward Snowden, maar buiten het wereldwijde web en de, mobiele, telefoon wordt ook steeds vaker gespioneerd, vaak zonder dat wij dat weten. Veel van dat gespioneer wordt overgelaten aan ‘automaten’ die handelen volgens instructies, de algoritmen. Een artikel in het Franse blad Le Monde geeft een aardig inkijkje in de spionerende wereld van de algoritmen; van flappentapper tot nummerplaatherkenning, Grote Broer Algoritme houdt ons in de gaten.
Steeds vaker algoritmen ons gedrag, maar dat niet alleen. Algoritmen bepalen ook of we geld uit de flappentapper krijgen of dat de nummerplaat van mijn auto wordt gekiekt. Je kunt uit je vel springen als er geen geld uit de automaat komt of dat je om de haverklap wordt aangehouden in je auto (ooit in de buurt van een ‘foute’ demonstratie gesignaleerd, misschien). Hubert Guillaud hinkt in zijn artikel in Le Monde een beetje op twee rode lijnen (voor zover je daar op kunt hinken): hoe zitten die algoritmen in elkaar en de functieuitbreiding van systemen (al of niet wettelijk toegestaan). De algoritmen hebben zich in ons leven genesteld zonder onze toestemming en zonder dat we weten wat die ‘dingen’ ons aandoen, stelt Guillaud. Te vaak regeert het algoritme!
Elke keer als je geld uit een flappentapper had, moet die machine ‘beslissen’ of je dat wel mag. De automaat is de loketbediende die de gewenste transactie moet goedkeuren. Die kaart en die pincode is niet eens zo belangrijk voor die nieuwe loketbediende. Hij (m/v) raadpleegt een databank met allerlei gegevens over mijn ‘geldtrekgedrag’ en beslist dan of ik echt ben wie ik voorgeef te zijn en of ik mijn geld krijg. Als je geen geld krijgt vertelt de machine meestal niet waarom niet. We zijn constant in een soort dans met het algoritme, waarbij je alleen je zin (=geld) krijgt als je danst op de voetstappen van je partner (=algoritme), citeert Guillaud de Britse wetenschaspjournalist Frank Swain. Als er iets fout gaat is dat onze fout, natuurlijk, maar we leren heus wel.
We worden steeds vaker geregeerd door dergelijke systemen, maar ook door systemen die ons, om wat voor een reden dan ook in de gaten houden van verzekeringsmaatschappijen tot nummerplaatherkenning. Al die systemen werken met algoritmen en hoe die in elkaar steken hangen banken, verzakeringsmaatschappijen of politiediensten niet aan de grote klok, bang als ze zijn dat dat misleiding van die ‘eigenmachtige opzichters’ makkelijker maakt.
Als je met een zwarte doos (=onbekende algoritme) te maken hebt en niemand je wil/kan vertellen hoe dat in elkaar zit, dan kun je dan de omgekeerde weg bewandelen: voer het systeem met iets en kijk wat de zwarte doos er mee doet. Omgekeerd ontwerpen (ook wel reverse engineering genoemd). Dat is hier en daar wel gedaan. Guillaud verwijst naar een eigen artikel vanLe Monde: Van welke behandeling zijn wij het slachtoffer? In de Daily Beast onderzoekt Michael Keller de speller van de iPhone op niet opgenomen woorden zoals ‘suicide’. Voor Slate heeft de Amerikaanse journalist Nicholas Diakopoulos de autoinvulfunctie van zoekmachines bekeken en de foutenmarges van filters. Zo geeft die zwarte doos zich enigszins bloot, maar je leert niet wat het waarom is. Je kent ook de grenzen van het systeem niet. Dat weet alleen de maker en de opdrachtgever.
De Britse journalist James Bridle heeft het Engelse videosysteem voor nummerplaatherkenning aan een nader onderzoek onderworpen. Engeland is waarschijnlijk het dichtst becamerade land ter wereld. Het Londense stadtolsysteem maakt gebruik van 700 camera’s. Over die systemen bestaat weinig (openbare) documentatie. De politie weigerde Bridle te vertellen hoe het netwerk is uitgelegd. Het systeem is bedoeld om gestolen auto’s op te sporen en het innen van boetes makkelijker te maken, maar je kunt er natuurlijk van alles mee bespioneren. In Engeland wordt nummerplaatherkenning niet gezien als het verzamelen van persoonsgegevens. Iedereen die in de databank kan, kan 90 dagen lang bij die gegevens.
Tot nu toe heeft nog niemand de doelmatigheid van het systeem bekeken en er wordt veel meer mee gedaan dan is bedoeld. Zo kun je uit het systeem halen of een auto dezelfde route als jij heeft genomen. Of het kan ‘probleemveroorzakers’ lokaliseren en alarm slaan. Auto’s opsporen of ingrijpen als een automobilist over de schreef dreigt te gaan. In Londen genereert het systeem al meer alarms dan de politie aan kan. Je verzamelt met dat systeem een paar gegevens, maar die paar gegevens openen een wereld van ‘inzicht’.
In Amerika is vrij recent een dienst gestart die voor een paar dollar de gegevens boven water haalt over de keren dat je nummerplaat is gekiekt). Adviseur Mike Katz-Lacabe in Californië vroeg die op. De buit: 112 foto’s waarop de inzittenden zeer goed zichtbaar zijn. Volgens Bridle is het probleem dat dat soort systemen dingen registreren zonder dat het terrein vooraf goed is afgebakend. Ook in het algoritme. Het algoritme maakt al die dingen mogelijk die niet in de taakomschrijving stonden. Daar kun je dus (veel) meer mee dan waar het systeem voor bedoeld is.
Maar U bent toch ook voor het in de kraag vatten van boeven? Nou dan? Nou, een beetje boef weet wel hoe je die systemen kunt neppen, bijvoorbeeld door hun nummerplaten onleesbaar te maken voor de infraroodsensors. De domme, simpele burger is de lul. En de democratie, vindt Bridle en ik geef hem daar gelijk in. Steeds grotere delen van de maatschappij lijken te ‘verglazen’ en wij hebben geen flauw benul en hoegenaamd geen vat op die ontwikkeling.
Bron: Le Monde