Nissewaard

Data science bureau Totta Data Lab heeft in opdracht van de gemeente Nissewaard gezocht welke bijstandsgerechtigden mogelijk fraude pleegden. Het maakte hierbij gebruik van algoritmen. 

Volgens de definitie op Wikipedia is een algoritme een eindige reeks instructies die vanuit een gegeven begintoestand naar een beoogd doel leidt.

Het is juist dit beoogde doel dat het opsporen van mogelijke fraude met algoritmen problematisch of zelfs onwenselijk maakt: het risico op vooringenomenheid is groot, waardoor mensen als fraudeur worden aangemerkt, omdat "het systeem dit zegt."

Ambtenaren van Sociale Zaken van de gemeente Nissewaard stelden een onderzoek in, waarbij verdachten aangemerkt door het algoritme hun administratie moesten overleggen. Dit systeem werd stopgezet nadat het FNV dreigde met een rechtszaak tegen de gemeente Nissewaard.

Opmerkelijk genoeg stelde wethouder Igor Bal volgens een artikel in het AD dat het systeem zoals blijkt uit de bevindingen van onderzoeksinstituut TNO ‘technische mankementen’ bevatte. In dit artikel staat dat als tweemaal achter elkaar dezelfde zoektermen worden ingevoerd, niet dezelfde namen van mogelijke fraudeurs tevoorschijn kwamen.

Wethouder Bal stelt dat gestopt wordt met het systeem, omdat het naar zijn zeggen niet betrouwbaar genoeg is.

Kennelijk ontgaat het de wethouder dat mogelijke fraudeurs opsporen met algoritmes sowieso al een hellend vlak is op moreel en juridisch gebied, aangezien hier het onschuldig-tot-het-tegendeel-is-bewezen principe wordt losgelaten. Data-analyses zijn niet transparant. Je kunt je er als burger niet tegen verdedigen.

Ook de gemeente Rotterdam maakte van een dergelijk systeem gebruik (SyRI) dat onder andere door toedoen van auteur Tommy Wieringa en columnist Maxime Februari in opspraak kwam.

SP-Kamerlid Bart van Kent vindt het onacceptabel hoe de gemeente Nissewaard met persoonsgegevens van uitkeringsgerechtigden is omgesprongen bij het opsporen van bijstandsfraude. Hij heeft minister Wouter Koolmees (D66) om opheldering gevraagd.

Wordt ongetwijfeld vervolgd