Artikel

Modelbepalingen voor gemeenten voor verantwoord gebruik van Algoritmische toepassingen

De gemeente Amsterdam gebruikt steeds vaker AI en algoritmische systemen voor bijvoorbeeld parkeercontroles of het prioriteren van meldingen van burgers. Om deze algoritmen op een veilige en verantwoorde wijze te gebruiken, hebben we inzicht nodig in het proces dat tijdens het ontwikkelen en toepassen van het algoritme gevolgd is. Want alleen met dat inzicht kunnen we ook transparant zijn naar onze burgers. Voor algoritmen die we bij leveranciers inkopen, gelden contractvoorwaarden waarin staat welke informatie wij van hen nodig hebben. Benieuwd hoe wij dat doen of wil je de contractvoorwaarden in jouw organisatie gebruiken? We delen graag onze kennis.

Transparantie vanuit de leverancier essentieel

Om aan burgers goed uit te leggen hoe een algoritme werkt en welke gegevens deze gebruikt, is het essentieel om zelf ook alles te weten. Daarom stellen we via de contractvoorwaarden voor algoritmen kaders voor de informatie die leveranciers moeten aanleveren. Op die manier kan de gemeente de kwaliteit en risico’s van algoritmen beoordelen zonder dat de leverancier bedrijfsvertrouwelijke informatie hoeft te overhandigen. Er zijn drie soorten informatie waarover met de leverancier afspraken worden gemaakt in de contractvoorwaarden:

  • Technische transparantie: dit geeft inzicht in de technische werking van het algoritme; bijvoorbeeld de code waarop het algoritme draait. Technische transparantie is meestal niet nodig; alleen in geval van een audit, of wanneer het nodig is voor ‘uitlegbaarheid’ (zie hieronder) te kunnen toelichten
  • Procedurele transparantie: dit maakt inzichtelijk wat het doel van het algoritme is en via welke stappen deze gemaakt is. Bijvoorbeeld een beschrijving van de gemaakte keuzes en aannames, welk type data is gebruikt en hoe bias wordt tegengegaan. Zo kunnen we nagaan of de juiste maatregelen zijn genomen om de kwaliteit te waarborgen en risico’s te beperken.
  • Uitlegbaarheid: als een uitkomst van een algoritme iemand persoonlijk treft, gelden strengere regels. De leverancier moet meewerken om op individueel niveau de besluitvorming van het algoritme inzichtelijk te maken. Zo krijgen burgers de kans om juridisch bezwaar te maken tegen een beslissing of uitkomst. Dat heet de ‘uitlegbaarheid’ van een algoritme.

Download de contractvoorwaarden

Houd je je bezig met de implementatie van algoritmen binnen jouw organisatie? Doe je voordeel met de contractvoorwaarden (zie bijgevoegde PDF) en bijbehorende toelichting. De voorwaarden zijn zo geformuleerd dat ze makkelijk door andere organisaties te gebruiken zijn.

De voorwaarden zijn opgesteld in overleg met verschillende inkopers, juristen, leveranciers, auditors, programmeurs, informatiemanagers en andere experts van binnen en buiten de gemeente.

Vrij te gebruiken

De contractvoorwaarden zijn vrij te gebruiken door gemeenten en andere organisaties die maatregelen willen nemen om verantwoord gebruik van algoritmen te stimuleren.

Doorontwikkeling gestandaardiseerde Europese AI inkoopvoorwaarden

Amsterdam werkt samen met de Europese Commissie aan AI Inkoopvoorwaarden via een “Community of Practice” van inkoopexperts. Aanleiding voor de eerste conceptversie van Europese AI Inkoopvoorwaarden zijn de AI inkoopvoorwaarden die in opdracht van gemeente Amsterdam en verschillende samenwerkingspartners in Nederland zijn ontwikkeld met subsidie van het Ministerie van BZK. De meest recente ontwikkelingen rondom de Europese AI Act zijn in dit eerste concept van deze Europese AI inkoopvoorwaarden verwerkt.

De volgende stap van de Community of Practice, in samenspraak met de Europese Commissie, is het ophalen van feedback bij verschillende Europese stakeholders, zoals aanbestedende diensten en AI-leveranciers in Europa.

Wil je onderdeel uitmaken van dit proces? Ga naar de website van Living in EU en meld je aan om op de hoogte gehouden te worden van de vervolgstappen.

Meer informatie

Meer informatie over algoritmen en de instrumenten die wij ontwikkelen vind je op deze pagina over Algoritmen.

 

Bron: Modelbepaling voor gemeenten voor verantwoord gebruik van Algoritmische toepassingen - Gemeente Amsterdam

Afbeelding credits

Icon afbeelding: Gemeente Amsterdam

Media

Documenten