In het vizier van het algoritme

De overheid gebruikt algoritmes om te voorspellen of iemand misschien fraudeert. Dat dit mis kan gaan weten we inmiddels van de Toeslagenaffaire: er bleek sprake van discriminatie van mensen met een tweede nationaliteit en vooral mensen met lage inkomens werden op de korrel genomen.<br /> <br /> Maar ondanks dit schandaal is er niet veel bekend<br /> over dit soort systemen. De overheid wil burgers meestal niet wijzer maken,<br /> omdat ze anders controles zouden kunnen ontlopen door hun gedrag aan te passen.<br /> <br /> Maar in Rotterdam is de gemeente er wél open over.<br /> Er is inmiddels flinke, democratische discussie over een algoritme om<br /> bijstandsfraude op te sporen. <br /> <br /> Argos neemt in deze uitzending dit Rotterdamse<br /> systeem ook onder de loep, en diende met onderzoekscollectief Lighthouse<br /> Reports een Wob-verzoek in. Kenmerken als leeftijd, geslacht, woonwijk, taal en<br /> zelfs aanwijzingen voor psychische, medische en financiële problemen blijken<br /> een voorspellende waarde te hebben.