De gemeente Rotterdam heeft in 2017 een algoritme gebouwd dat Rotterdammers in de bijstand een frauderisicoscore geeft. Met die score bepaalde de gemeente of er moet worden gecontroleerd of iemand nog recht heeft op bijstand. Wetenschappers waarschuwden voor dit systeem, maar het bleef jaren in gebruik.
Dat blijkt uit onderzoek van OPEN Rotterdam en Vers Beton. ‘Stel eerst vast of het algoritme eerlijk en accuraat is voordat je het gaat gebruiken’, adviseren onderzoekers van de Hogeschool Rotterdam in 2018 aan de gemeente. De wetenschappers wijzen daarbij naar wetten over privacy en het voorkomen van discriminatie.
Maar met de kritische opmerkingen wordt door de gemeente niets gedaan, zegt Sunil Choenni van de hogeschool tegen OPEN Rotterdam: “Ze denken ‘fouten repareren we later wel’.” De gemeente werkt liever samen met de minder kritische IT-tak van bureau Accenture, melden OPEN Rotterdam en Vers Beton. Dat bureau heeft in Ierland in drie jaar tijd 50 miljoen euro aan uitkeringen teruggevorderd.
Opzet of niet?
Accenture ontwikkelt een algoritme voor fraude-opsporing dat Rotterdamse ambtenaren vanaf 2018 verder ontwikkelen. En tot augustus 2021 zullen gebruiken. Al snel komt de gemeente erachter dat fraude-opsporing lastig is. Een computer kan niet bepalen of er sprake is van opzet. En als je op zoek bent naar fraude, is opzet nou juist precies waar je naar zoekt.
Wel kan het algoritme voorspellen hoe groot de kans is dat er iets niet klopt aan de bijstandsuitkering. Een ambtenaar van de gemeente moet vervolgens controleren of er echt iets niet klopt in een zogenoemd heronderzoek.
Stressvol onderzoek
Een heronderzoek staat onder Rotterdammers met een uitkering bekend als zeer stressvol, omdat je dan je hele financiële administratie moet laten zien. Uit eerder onderzoek van Vers Beton en OPEN Rotterdam bleek dat de kleinste bijschrijving aanleiding kan zijn voor discussie en dreigementen dat de uitkering kan worden stopgezet of teruggevorderd. In totaal worden tussen 2018 en 2021 3.365 Rotterdammers door het algoritme uitgekozen voor een heronderzoek.
In april 2021 tikt de Rotterdamse Rekenkamer de gemeente op de vingers en wordt een rapport over het algoritme gepresenteerd. De Rekenkamer zegt dat het college van burgemeester en wethouders te weinig aandacht heeft besteed aan eerlijkheid en transparantie. Ook heeft de gemeente niet genoeg gedaan om te voorkomen dat het algoritme vooringenomen is en bepaalde groepen benadeelt, zo zegt het rapport.
Vier maanden na het Rekenkamerrapport, in augustus 2021, pauzeert verantwoordelijk wethouder Richard Moti (PvdA) het algoritme. Hij haalt alle onderdelen eruit die indirect zouden kunnen leiden tot discriminatie. In september van datzelfde jaar eist de gemeenteraad in zeven moties dat een volgend bijstandsalgoritme ‘eerlijk en transparant’ is. Dat blijkt niet mogelijk te zijn. In juni 2023 meldt de nieuwe wethouder Tim Versnel (VVD) dat de ontwikkeling van dit ‘eerlijke’ algoritme wordt gestaakt.
Via: mediapartner OPEN Rotterdam
Meld u aan voor De Ster nieuwsbrief (U ontvangt een bevestigingsmail)
recent commentaar