Achtergrond Bias-analyse uitgangspunten en keuzes bij algoritmes

Gemeenteraad 9 juli 2025

De gemeente staat voor eerlijke en transparante inzet van algoritmes en AI-systemen (verder: “algoritmes”). Vanuit diverse wetten en beleid wordt er al zorgvuldig gekeken naar algoritmes, zoals vanuit de AVG, BIO, Archiefwet, Wet open overheid, etc. Daarnaast wordt vaak de term ‘bias’ genoemd, wat is gedefinieerd als ‘een structureel verschil in behandeling van mensen of groepen in vergelijking met anderen’.1 Dit roept de vraag op wanneer dit systematische verschil oneerlijk is. Wat wordt bedoeld met (on)wenselijk en wat daarmee (on)eerlijk is? Dit is geen exacte wetenschap en kan alleen worden vastgesteld door menselijk (af)wegen. Wat eerlijk is, is daarmee situationeel en kan verschillen (“case-by-case”), of veranderen over tijd (bij dezelfde casus).