21 AUGUSTUS 2019 59BELGIË
zegt hij, is de drempel lager om ze ook in
voetbalstadions, op stations en in stads-
centra te gebruiken. ‘En dan krijg je echt
een Big Brother-staat. Dan kun je altijd
en overal gevolgd worden. Door de over-
heid, maar ook door bedrijven.’ Mensen
onderschatten de kracht van automatise-
ring, vindt Preneel. ‘Een smartphone
kun je thuislaten, je gezicht niet.’
Een voorbeeld van zo’n compleet surveillancenet vinden
we in Moskou. Tijdens het WK voetbal van 2018 zijn daar
camera’s met gezichtsherkenning geïnstalleerd in de metro. Dit
voorjaar kondigde de stad aan gezichtsherkenning toe te voe-
gen aan alle ruim 160.000 camera’s die de 12miljoen inwoners
van de hoofdstad in de gaten houden. De Russische politie is er
vol lof over. Ze zou er al diefstallen mee blootgelegd en andere
misdaden mee voorkomen hebben.
Maar zoals gezegd is de nauwkeurigheid van de technologie
niet gegarandeerd. De door de Londense politie gebruikte
gezichtsherkenningssoftware had het in 4 op de 5 gevallen bij
het verkeerde eind, zo bleek uit recent onderzoek van de Uni-
versiteit van Essex. Dat is zorgelijk, zeker wanneer er veel
onverdachte mensen in databanken staan. In de Verenigde Sta-
ten gebruiken de inlichtingendienst FBI en de immigratie-
dienst ICE ook rijbewijsfoto’s om matches te zoeken. De FBI
beschikt over een databank van meer dan dertig miljoen foto’s.
Daarvan is 80 procent er één van een non-criminal entity – een
onschuldige burger, dus. De Belgische politie wil alleen een
databank van bekende misdadigers gebruiken, zei federaalpolitiewoordvoerder Sarah Frederickx op 11 juli in De Morgen.
In de VS ondervonden onderzoekers van de Georgetown
Universiteit bovendien dat agenten soms creatief omsprongen
met gezichtsherkenning. Om betere resultaten te krijgen, voer-
den ze de computer gefotoshopte beelden – ze veranderden
bijvoorbeeld gesloten ogen of een uitstekende tong. Agenten
gebruikten ook tekeningen van verdachten en een foto van
een bekende acteur, omdat hij op de verdachte leek. Alles om
een match te krijgen. Verdachten worden natuurlijk nooit
alleen op basis van zo’n computermatch veroordeeld, maar het
kan op z’n minst vervelende misverstanden veroorzaken.Gezocht: rood petje
De mens is feilbaar, en hetzelfde geldt voor de technologie die
hij maakt en gebruikt. Zo blijken algoritmes die gezichtsher-
kenning mogelijk maken te discrimineren. Mensen met een
donkere huidskleur en vrouwen herkennen ze doorgaans
slechter, waardoor de kans op ‘valse positieven’ bij die groe-
pen toeneemt. Dat komt omdat de algoritmes getraind zijn met
fotodatabanken waarin meer witte mannen opgenomen zijn.
Vanwege de kans op fouten heeft San Francisco de techno-de MS Celeb-databank van Microsoft meer dan tien miljoen
afbeeldingen bevatte, veelal van mensen die daar geen speci-
fieke toestemming voor hadden gegeven. MS Celeb werd ook
gebruikt door bedrijven die gezichtsherkenningssoftware
leveren aan de Chinese staat, die de technologie onder meer
inzette om Oeigoeren te onderdrukken. Na de kritiek haalde
Microsoft zijn databank offline.
Ook Amazon biedt met Rekognition gezichtsherkenning aan,
onder andere aan politiekorpsen. De webwinkelgigant plukte
foto’s van het sociale medium Flickr om zijn algoritmes te trainen.
Onschuldige burgers
Professor Bart Preneel vreest voor een hellend vlak. Als je op
de luchthaven eenmaal camera’s met gezichtsherkenning hebt, ➽
De door de Londense politie
gebruikte gezichtsherkenningssoftware
had het in 4 op de 5 gevallen
bij het verkeerde eind.
© Getty images