Waarom?
Overheden gebruiken steeds meer algoritmes en AI om hun processen te optimaliseren. Maar als overheid heb je natuurlijk de verantwoordelijkheid uit te leggen welke keuzes je maakt, waarop die gebaseerd zijn en of dat rechtmatig en rechtvaardig is. Dat betekent dat ook de algoritmes die de overheid gebruikt eerlijk en transparant moeten zijn. Tegelijk kan een bedrijf dat een algoritme levert niet zomaar al zijn bedrijfsgeheimen prijsgeven. Er zijn de afgelopen tijd verschillende richtlijnen en handreikingen opgesteld die hierbij moeten helpen. Maar echt concreet zijn die nog niet. Een goede manier om concrete afspraken te maken is door die vast te leggen in contracten en inkoopvoorwaarden.
Hoe?
De gemeente Amsterdam het daarom het initiatief genomen om samen met experts nieuwe contractvoorwaarden en inkoopvoorwaarden voor eerlijke en transparante algoritmes te ontwikkelen. Wat precies een eerlijk en transparant algoritme is, aan welke voorwaarden die moet voldoen, en hoe we er voor zorgen dat deze contractvoorwaarden in de praktijk kunnen worden gebruikt, bepalen we graag samen met inkopers, leveranciers, auditors en andere belanghebbenden. We nemen in dit traject Amsterdamse contractvoorwaarden als uitgangspunt, maar willen deze voorwaarden zo schrijven dat ze overal kunnen gaan gelden. De voorwaarden staan dan ook open voor iedereen (hier te vinden), alle feedback is welkom en het staat iedereen vrij de principes uit de voorwaarden her te gebruiken voor andere doeleinden. We werken in dit traject samen met de VNG en het Ministerie van Binnenlandse Zaken en andere Nederlandse en Europese overheden en zijn nog op zoek naar nieuwe partners.
Stand van zaken en vervolgstappen
Op dit moment is er een toepasbare versie van de contractvoorwaarden (modelbepalingen). Deze voorwaarden zijn opgesteld door onder meer Pels Rijcken en in deze versie is de feedback van +/-25 experts uit overheid (inkopers, privacyjuristen, etc.) en leveranciers (softwareontwikkelaars en bedrijfsjuristen) verwerkt.
De volgende stap is om de voorwaarden in verschillende contexten, en dus binnen verschillende overheden, te testen. Omdat algoritmische toepassingen niet elke dag worden ingekocht, vragen we overheden die de voorwaarden met hun leverancier zouden willen testen, zich te melden. Inmiddels hebben Rijkswaterstaat, Gemeente Rotterdam en Gemeente Haarlemmermeer zich al gemeld met concrete cases. Binnen Amsterdam zijn we nog op zoek naar goede cases.
Binnenkort volgt ook een zogeheten Memorie van Toelichting op de modelbepalingen, een document met een uitgebreide uitleg per artikel.
Uiteindelijk hopen we dat alle overheden een vorm van deze voorwaarden gaan gebruiken in hun inkoopproces; omdat we geloven dat het noodzakelijk is om heldere voorwaarden te stellen aan gebruik van algoritmes, maar ook omdat het voor leveranciers onmogelijk is om zich aan voorwaarden te houden als alle gemeenten en andere overheden eigen voorwaarden gaan stellen. Een belangrijke ambitie is daarom dat de voorwaarden onderdeel worden van de inkoopvoorwaarden van VNG en Rijk.
Op https://www.amsterdam.nl/wonen-leefomgeving/innovatie/digitale-stad/grip-op-algoritmes vind je de laatste stand van zaken.