Bias in machine learning

De gemeente Amsterdam zet zich in om de voordelen van data te benutten, maar vanwege de verantwoordelijkheden van de organisatie bevatten gemeentelijke dataproducten vaak gevoelige data en kunnen ze serieuze gevolgen hebben voor burgers. Het is daarom van het grootste belang dat gegevens worden gebruikt op een manier die ethisch en eerlijk is voor alle burgers.

Dit is vooral belangrijk bij het gebruik van machine learning. Machine learning maakt gebruik van gegevens door te leren door voorbeelden te generaliseren, regels te definiëren die van toepassing zijn op gevallen uit het verleden, maar ook door toekomstige gevallen te voorspellen. Deze techniek kan erg handig zijn om datagestuurde beslissingen te nemen, waarbij relevante factoren worden blootgelegd die mensen mogelijk over het hoofd zien, maar het zorgt niet altijd voor eerlijke beslissingen.