'Algoritmes Rotterdam kunnen leiden tot vooringenomen uitkomsten'

Het gebruik van algoritmes bij de gemeente Rotterdam kan leiden tot bevooroordeelde uitkomsten, zoals bij een algoritme gericht op de bestrijding van uitkeringsfraude. Dat meldt de Rekenkamer Rotterdam op basis van het rapport Gekleurde technologie.

Een algoritme is een reeks van regels en instructies die een computer geautomatiseerd volgt om tot een oplossing of een besluit te komen. De gemeente Rotterdam maakt daar ter ondersteuning van haar besluitvorming gebruik van. Hoewel er binnen de gemeente aandacht is voor het ethisch gebruik van algoritmes, is het besef van de noodzaak hiervan nog niet heel wijdverbreid, stelt de rekenkamer.

Een voorbeeld van een algoritme dat de gemeente gebruikt, is een algoritme dat mogelijke onrechtmatige uitkeringen in kaart brengt. Op basis daarvan kunnen uitkeringsgerechtigden voor een heronderzoek worden uitgenodigd.

Volgens de rekenkamer is de verantwoordelijkheid voor dat algoritme niet goed georganiseerd. Zo is "niet navolgbaar welke keuzes rondom ethische vraagstukken zijn gemaakt en is het voor de betrokken burger onmogelijk goed zicht te krijgen hoe het algoritme een rol speelt bij de uitnodiging voor een heronderzoek". Daarnaast is er een kans dat het algoritme, bijvoorbeeld door het meewegen van laaggeletterdheid, tot vooringenomen uitkomsten leidt. Hiertegen zijn onvoldoende maatregelen genomen.

Verder is er nog geen volledig overzicht van het gebruik en de aard van algoritmes, waardoor ook niet duidelijk is welke maatregelen genomen zouden moeten worden om de ethische risico's te beheersen. Ten slotte zijn er geen richtlijnen voor de evaluatie van algoritmes. Zo wordt niet geëvalueerd of een algoritme daadwerkelijk beter presteert dan "oudere en meer traditionele werkwijzen".

De rekenkamer heeft aan het college van burgemeester en wethouders zes aanbevelingen gedaan om de verantwoordelijkheid, transparantie en eerlijkheid van bestaande en toekomstige algoritmes te waarborgen. Het college heeft al deze aanbevelingen overgenomen.

Net binnen