AI en beleid

De Nederlandse overheid overweegt het gebruik van generatieve AI, zoals ChatGPT, te onderzoeken om de krapte op de arbeidsmarkt te verlichten. Uit een snelle evaluatie blijkt dat ambtenaren al experimenteren met deze technologie, maar er zijn ook zorgen over privacy, auteursrecht en andere risico's. Het voorlopige standpunt benadrukt verantwoord gebruik en juridische naleving. Er wordt een overheidsbrede visie ontwikkeld en concrete stappen, zoals pilots en trainingen, worden voorgesteld. Het definitieve standpunt wordt verwacht na verdere ervaring en ethische overwegingen.

Bron: Kamerbrief over voorlopig standpunt voor Rijksorganisaties bij het gebruik van generatieve AI | Kamerstuk | Rijksoverheid.nl

Auteur: Mona de Boer.

Bron: UvA.

Bron: MRA netwerk AI & Publieke Diensten. 2021. 

De huidige onderhandelingen over het adviesrapport biedt Amsterdam een mooie kans om haar positie te verkondigen. Indien de gemeente en de AI-coalitie haar positie wil verkondigen of invloed wil uitoefenen op de compromis amendementen op het rapport, wordt dit het beste gedaan bij de rapporteur van het adviesrapport, Deirde Clune (EVP, IR) of bij de Nederlandse leden van de IMCO commissie, i.e. Kim van Sparrentak (Greens/EFA) of Liesje Schreinemacher (Renew Europe).

Bron: Dr2 consultants

Werken, winkelen, relaties; het leven speelt zich steeds meer digitaal af. Veel van wat we online doen wordt opgeslagen als data. Ook thuis en in de openbare ruimte wordt je gedrag in data omgezet: je slimme energiemeter en tv, camera’s op straat en natuurlijk je smartphone houden elke stap die je zet bij. In het Stedelijk kader verwerking van persoonsgegevens staat hoe de gemeente omgaat met persoonsgegevens. Uitgangspunt is dat Amsterdammers en onbespied en anoniem kunnen bewegen in de openbare ruimte. Maar er worden meer data verwerkt in de stad dan alleen persoonsgegevens. En door meer partijen dan de gemeente. 

Behandeld in Commissie Kunst Diversiteit en Democratisering 17 maart 2021 en februari 2021

Behandelend ambtenaar: CIO Office: Maarten van Haasteren (m.van.haasteren@amsterdam.nl ) CTO: Ger Baron  (g.baron@amsterdam.nl )

Voor meer informatie Commissie KDD 17/4 klik hier

Voor meer informatie Gemeenteraad 21/4 klik hier

Behandeld in Gemeenteraad 4/5 november 2020, Commissie Kunst Diversiteit en Democratisering 26 augustus 2020

Behandelend ambtenaar: CTO Innovatieteam, Aik van Eemeren, a.eemeren@amsterdam.nl

Economische Zaken, Femke Blokhuis, f.blokhuis@amsterdam.nl

Voor meer informatie klik hier

Voor meer informatie Raad  klik hier

AI is een begrip met veel ladingen en uitingen. Waar hebben we het eigenlijk over? Wat zijn de positieve en negatieve gevolgen van deze technologie voor onze (digitale) stad?

Het magazine ‘AI: Amsterdamse Intelligentie’ schetst een beeld van de rol van AI in Amsterdam en is het resultaat van een reeks bijeenkomsten met wetenschap, bedrijfsleven, experts en Amsterdammers. Het magazine dient als startpunt voor verdere discussie met partijen die actief zijn op het gebied van AI om het actieplan voor AI in Amsterdam verder vorm te geven.

Actieplan AI

De gemeente Amsterdam werkt aan het actieplan AI: Amsterdamse Intelligentie. Dit actieplan geeft invulling aan het vormen van een stedelijk AI-team en is gericht op:

• het gebruik van AI voor opgaven in de stad
• het vaststellen van ethische kaders, om bijvoorbeeld uitsluiting (van groepen) en misbruik te voorkomen
• het positioneren en stimuleren van AI en van Amsterdam, voor het benutten van het economisch potentieel

Download het magazine

• AI: Amsterdamse Intelligentie (PDF, 8,8 MB)
• Engelse versie: Amsterdam Intelligence (PDF, 8,7 MB)

Meer informatie

Meepraten of suggesties voor het actieplan n.a.v. het magazine? Of wilt u meer informatie? Neem dan contact op met Aik van Eemeren, a.eemeren@amsterdam.nl

Behandeld in Commissie Kunst Diversiteit en Democratisering 16 september en 17 juni 2020

Behandelend ambtenaar:

CTO Innovatieteam, Aik van Eemeren, a.eemeren@amsterdam.nl

Economische Zaken, Femke Blokhuis, f.blokhuis@amsterdam.nl

Voor meer informatie klik hier

Wat is AI?

We gebruiken de termen AI voor zelflerende modellen zonder beslisregels. En de term algoritmes

voor modellen die met geavanceerde beslisregels werken.

De nationale AI-strategie gebruikt de algemenere omschrijving van de Europese Commissie voor

AI: “AI verwijst naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en

- met een zekere mate van zelfstandigheid - actie ondernemen om specifieke doelen te bereiken.”

Executive Summary

Scandals in which governmental ADM tools played a role, have recently brought about political and societal debate about the potential harms to citizens that such automated systems potentially bring. In the Toeslagenaffaire, the Dutch Tax and Customs Administration used an algorithmic risk classification system for fraud detection with childcare benefit applications (Parlementaire Ondervragingscommissie Kinderopvangtoeslag, 2020). Until 2018, nationality of the parents was one of the indicators to check for fraud. The Dutch Data Protection Authority (DPA) concludes in its 2020 investigation report that using nationality as a fraud indicator was unnecessary, discriminatory, and unlawful with respect to the EU General Data Protection Regulation (Autoriteit Persoonsgegevens, 2020). In Amsterdam, law firm SOLV raises questions about the lawfulness and effectiveness of a municipal ADM for detection of Airbnb fraud (van Dorp, 2020).

This thesis focuses on ADM systems which contain an AI component. For AI, algorithms are the means to create a system of computational codes with human-related competencies like perception, understanding, and action (Mnih et al., 2015; Wirtz, Weyerer, & Geyer, 2019). However, the AI in this thesis, as in most applications, concerns so-called Narrow AI (NAI). Narrow refers to the goal-focused and specialised characteristics of the solutions. Such AI technologies show no general intelligence, but intelligence in a specific area (Pennachin & Goertzel, 2007). AI is explored in the context of process governance according to Pierre & Peters (2020): governance as steering and coordinating during the process of AI development. Governments seeking to design governance which safeguards citizens from potential harms, encounter challenges inherent to AI, for example lacking understanding with policymakers due to technological complexity (Wirtz et al., 2019). It is also well-known that designing governance strategies for public sector AISs leads to value trade-offs, for example when decision-makers have to find a balance between privacy protection and accuracy of the system (Dobbe & Raji, 2019).

Despite the societal urgency of the subject and the large amounts of scientific articles on public sector AI governance, some knowledge gaps still have to be addressed. Zuiderwijk et al. (2021, p.16) call for multidisciplinary studies which develop and test theories about AI governance specifically for the public sector. The preliminary literature review also reveals a lacking understanding of how potential citizens harms due to AI result in governance requirements for governments, as the link between vulnerabilities of AISs and governance requirements is rarely made. Lastly, keeping up with practical development of AI in governments worldwide is necessary for public sector AI governance scholarship. Currently there is a lack of empirical research on governmental AISs (Zuiderwijk et al., 2021). Based on the knowledge gaps perceived, the main research question for this study is:

In public sector AI systems, what are emerging vulnerabilities for citizens and how do these translate into governance requirements for decision-makers?

The approach to answer this question is an adjusted form of Theory Building from Case Study as proposed by Eisenhardt (1989). The adjustment is to do create theory upfront, to be tested during the case study, where it is common not to do so. The theoretical model based on an integrative literature review is validated and improved with empirical insights from semi-structured interviews, with case study actors from three cases: Reporting issues in public space, Illegal holiday rental housing risk, and Automated parking control. After having assessed the theoretical model, case study insights also serve to find governance requirements from the CoA practice which can be linked to the model. But first, the integrative literature review helps to better understand what the implications of AI use in the public sector are.

Three main types of reasons to use AI for governmental operations are: improving efficiency of decision-making, improving effectiveness of decision-making and inherent advantages it brings to citizens. But AISs bring disadvantages too, for example in the form of biased decision-making or potential corruption of automated systems. The introductory literature review also revealed several types of mitigation measures for inconveniences of AISs: technological measures, data measures, monitoring and evaluation measures, legal measures, organisational measures, and user engagement and citizen agency. The overview of disadvantages point to directions for the theoretical framework of AIS vulnerabilities.

A layered ’onion model’ presents four relevant contexts to consider for AIS vulnerabilities specifically in the public sector: AI model, Model deployment, Political administrative, and Societal. If a government decides to buy or develop some AIS, the first source of potential vulnerabilities is the model itself. There is a department which deploys the model for its daily operations, where other problems may occur. Then there are the political-administrative overarching policy objectives which are involved with everything the specific government does. Lastly, the societal context represents the actors who are ultimately affected by the AIS, namely citizens, where other vulnerabilities appear. The contextual layers together constitute a unity which covers the scope of every governmental AIS. Vulnerabilities differ from "Overfitting and underfitting" in the AI model context to "Negative impact on workforce" in the model deployment context to "Reward hacking" in the societal context. These examples illustrate the different nature of vulnerabilities: e.g. technological, socioeconomic and behavioural. Vulnerabilities emerge in different stages of the model development, but this research distinguishes two main phases: either before or after implementation.

The expert interviews for the three case studies in total yields 52 case-specific vulnerabilities of the AISs. 6 of them did not fall within one of the vulnerabilities in the model contexts. This is an acceptably low share and the model is considered to be valid for further use. The vulnerabilities that were not interpretable using the model, point towards three complements: model being adopted without enough capacity to control it, inadequacies in the requisite security of the AI model and unwanted strategic behaviour with the AI model. From the vulnerabilities that were found, several lessons are learned.
One: the AIS of Reporting issues in public space creates new forms of biases in favour of certain subgroups of citizens who are e.g. more outspoken or have higher trust in government. The involved actors did not acknowledge that it then becomes a political choice to what extent the AIS must influence the municipal strategy regarding public space management.
Two: as seen in the Automated parking control case, shifting discretionary power becomes a striking vulnerability when an important share of the AIS is outsourced to an external party. Questions were raised here e.g. about whether the current KPIs in the contract between Egis Parking Services and the CoA lead to fair routing of automated scanning cars for Amsterdam’s citizens.
Three: based on the Illegal holiday rental housing risk vulnerabilities: for fraud detection systems based on large amounts of data from different sources, it is questionable whether governments can find legal foundations or domain-knowledge arguments for all relationships the AI model creates to come up with risk profiles.

The case study results demonstrate that dealing with vulnerabilities in one of the four model contexts often complicates dealing with vulnerabilities in the other contexts. Hence, four governance requirements dilemmas found in the CoA practice which relate to the vulnerabilities model are:

• I-a Increase the impact of the AI model on the decision-making process to ensure its added value and create balance with the downsides of the AI system. vs
• I-b Decrease the impact of the AI model on the decision-making process until the effects of model errors are acceptable or errors are still possible to mitigate.
• II-a Leave model developers with enough time and professional freedom to create high-end technological products. vs
• II-b Ensure that developers create models which are explainable and functional for governmental employees to be used in their daily practice.
• III-a Be transparent about the AI systems you use. Communicate actively and provide opportunities for citizens’ idea contribution and participation. vs
• III-b Foster objective representations of reality by your AI systems and prevent new forms of bias caused by citizen participation.
• IV-a Stimulate innovation with regards to AI development within your organisation and do not restrict every innovative project upfront. vs
• IV-b Ensure that AI development projects have a clear and proportional contribution to an agreed policy objective.

Reflecting on all results, it is not the existence of AIS vulnerabilities, but merely the absence of a thorough process to settle considerations about the vulnerabilities which is the current challenge for governments. If governments use reports like this to understand the context-specific and interdependent vulnerabilities, this forms a first step towards this process and creating room for politically responsible decision-makers to make the relevant trade-offs. The next step is to document such considerations and create overviews of best practices, so that learning between development teams and their managers within or outside the CoA and other governmental bodies is allowed. Several policies would contribute to establishing this maturity in AI governance:

1. Goals for the AIS may develop over time, but to at least have a shared belief in what the system is ought to do and keep discussing this over the lifecycle of the system, helps to find out about the relevant consideration of vulnerabilities as just described. Besides having an agreed purpose for the AIS, the distinction between efficiency goals, effectiveness goals, citizen well-being goals and innovative goals should always be made clearly as well.
2. Resolving challenges in one context, often seems to lead to emergence of vulnerabilities in others. Understanding such tensions and trade-offs should be the primary focus when assessing the risks of using ADM within governments. Using the vulnerabilities model can be of help to do so: multidisciplinary teams with actors from all contexts can use the model for directions to think about the vulnerabilities they encounter.
3. Although only being transparent is not enough to deal with AIS vulnerabilities, it is essential and thus highly recommendable to provide societal actors with more opportunities to get involved with governmental use of AI. Media, interpreted as societal actors, are then enabled to take up their role as well.
4. Decision-makers must analyse the bias that occurs by using the AI rather than the bias of the AI itself. This is oftentimes not so much the problem, as in the cases Reporting issues in public space and Automated parking control, or it is the exact reason for the algorithmic system to be used in the first place, as in the Illegal housing rental case. Only focusing on mitigation of the algorithmic bias itself would therefore miss the point.

Het college van Amsterdam heeft haar ambitie om aan een vrije, creatieve, en inclusieve stad te werken gevat in de agenda Digitale Stad. Amsterdam geeft daarmee prioriteit aan investeringen in en beleid op (digitale) ontwikkeling. Met als doel het zorgen voor interventies die het leven van Amsterdammers verbeteren; door de negatieve effecten van digitalisering te beperken en de positieve effecten te versterken. Ofwel het stimuleren van het delen van data op een eerlijke manier, zodat we met behulp van AI het leven van de mensen beter kunnen maken, met Amsterdamse Intelligentie. Deze opgaven zijn groter dan Amsterdam en daarom is Amsterdam een van de initiatiefnemers van de coalitie van ‘steden voor digitale rechten’. Deze coalitie is een van de belangrijkste speerpunten van de agenda Digitale Stad.

Bron: Gemeente Amsterdam - Agenda AI: Amsterdamse Intelligentie

Wat is het algoritmeregister? Wat voor informatie kan ik vinden op deze pagina?

Het algoritmeregister is een overzicht van de algoritmes die de gemeente Amsterdam gebruikt bij gemeentelijke dienstverlening. Per algoritme vindt u eerst algemene informatie over de bedoeling en werking van het algoritme. Daarna vindt u meer gedetailleerde technische informatie. Ook kunt u door feedback te geven helpen om de algoritmes die gemeente gebruikt beter, eerlijker en verantwoorder te maken. Het register is nog in ontwikkeling en bevat daarom nog niet alle algoritmes die de gemeente gebruikt. We werken er hard aan om alle algoritmes van de gemeente in het register op te nemen.

Meer achtergrond over het algoritmeregister vindt u in het document (Engelstalig). 

Hoe beïnvloeden Amsterdamse algoritmes mijn dagelijkse leven?

Algoritmes zijn een onlosmakelijk onderdeel geworden van ons dagelijks leven. De gemeente gebruikt algoritmes om haar taken efficiënt en goed uit te voeren. Bijvoorbeeld om te weten waar in de stad het druk is, waar het gevaarlijk is of waar overlast is, zodat we snel kunnen ingrijpen. Algoritmes helpen om informatie sneller bij de juiste afdeling te krijgen of om voorspellingen te doen over mogelijke gevaarlijke situaties.

Wat is een algoritme? Waar worden algoritmes voor gebruikt?

Je kunt een algoritme vergelijken met een recept: het is een vooraf bepaalde set regels of stappen die door de computer gevolgd worden. De ingrediënten van het algoritme zijn gegevens (data). Sommige algoritmes kunnen zelfstandig nieuwe stappen bijleren, bijvoorbeeld als ze nieuwe data te verwerken krijgen. Een algoritme dat zwerfafval moet herkennen wordt bijvoorbeeld eerst getraind met verschillende afbeeldingen (data) van vuilniszakken. Daarna herkent het zelfstandig vuilniszakken die lijken op de afbeeldingen uit de training. Met behulp van algoritmes kunnen sommige dingen die voorheen door mensen gedaan werden geautomatiseerd worden, of kan snel uit een grote hoeveelheid gegevens de juiste informatie gevonden worden. Er zijn mensen nodig om het algoritme te maken, te trainen en te beheren. Mensen zijn ook altijd verantwoordelijk voor de werking van algoritmes.

Welke ethische principes worden gevolgd bij het gebruik van algoritmes in Amsterdam?

Dienstverlening of gegevensverwerking die met behulp van algoritmes is geautomatiseerd, moet dezelfde principes respecteren als alle andere dienstverlening door de gemeente. Ze moeten mensen gelijk behandelen, de vrijheid en zeggenschap niet inperken, open en controleerbaar zijn en in dienst staan van de Amsterdammer; niet andersom. Bovendien mogen algoritmes niet het laatste woord hebben en niet uitsluitend werken op basis van toevallige verbanden (correlaties). We vinden dat alle Amsterdammers toegang moeten hebben tot begrijpelijke en actuele informatie over hoe algoritmes hun leven beïnvloeden. Daarom hebben we het Amsterdamse algoritmeregister ontwikkeld.

Bekijk hier welke diensten van de gemeente Amsterdam algoritmes gebruiken.

Bron: Algoritmeregister Gemeente Amsterdam - Meer informatie

Geschreven door Michelle Wassenaar, stagiair CTO

Voor vragen of contact: LinkedIn

Bron: ten Cate, A. 2019. Facial recognition technology in public spaces: The technical, legal and ethical aspects concerning the implementation of facial recognition technology in public spaces and the potential trade-off between public security and the privacy of individual citizens. Vrije Universiteit, Gemeente Amsterdam. 

De druk op de stad blijft de laatste jaren toenemen en daarmee ook de druk op de mobiliteit. Technologische innovaties volgen elkaar razendsnel op. De grote uitdaging: hoe blijft Amsterdam een bereikbare en veilige, maar ook leefbare stad met schone lucht en voldoende aantrekkelijke openbare ruimtes?

Political microtargeting (PMT) is a relatively new technique that uses citizens' personal data to create tailored messages. For example, a nurse will be shown an advertisement in which a political party promises to ensure good healthcare, whereas a teacher will receive messages on matters relating to education.

Microtargeting makes messages more relevant to the recipient and thus increases the likelihood of winning them over. UvA communication scientist Tom Dobber investigated PMT in the Netherlands. He concludes that political parties in the Netherlands also use PMT and that it can be effective, but whether it forms a potential threat to democracy depends primarily on the players who are using it.

Brexit and Donald Trump

Two well-known examples of microtargeting being presented in a particularly negative light in the news were the surprisingly successful Leave campaign in the UK, leading to Brexit, and the unexpected election of Donald Trump as president of the United States. In both cases, political microtargeting was quickly identified as the cause.

These two events led UvA communication scientist Tom Dobber to examine the role and effects of PMT in the Netherlands. ‘We barely knew anything about PMT and mainly regarded it as a very American phenomenon. However, does PMT also play a role in the Netherlands where political parties have much smaller campaign budgets, there are different privacy laws and the electoral and party systems are also very different?’ Dobber wondered.

How does political microtargeting work?

Political microtargeting deploys sophisticated techniques to use citizens' personal data to draw up personal profiles and tailor messages accordingly. This is the kind of data that you might add to an online profile yourself, but could be also location data (the type of places you visit) and payment data (the type of products you purchase), and naturally also includes your online surfing behaviour.

‘At an individual level this data might not say all that much, but on a large scale it enables you to identify behavioural patterns and determine which profiles will be sensitive to which messages. Anyone can buy this data. You can already do a lot with just a few hundred euros,’ says Dobber.

Political microtargeting in the Netherlands

Dobber examined the extent to which Dutch political parties use PMT, what Dutch people know about PMT and how they feel about it, the possible effects of PMT and the influence of PMT on the effects of deep fakes (fake videos in which someone says or does something they have never actually said or done in real life). He held interviews with political parties, conducted a panel study among the Dutch population, carried out a field experiment during municipal elections in Utrecht and finally conducted an online deep-fake experiment.

Dobber concludes that:

• Political parties in the Netherlands also use microtargeting. However, he identified a modified form that stems from the different context (campaign budgets, legislation and political system).
• The Dutch population regard PMT in quite a negative light and have numerous concerns about privacy. ‘And the more people worry about privacy, the more negatively they regard PMT,’ Dobber discovered. This downward spiral is worrying if it causes people to lose confidence in democracy and turn away from it.
• Although participants in the field experiments did appear to think more positively about the political party in question after receiving PMT messages, they were no more likely to vote for this party as a result. ‘So it does seem to work, but doesn’t have a huge effect,’ concludes Dobber, ‘although this was of course a relatively small-scale experiment.’
• Microtargeting techniques may further enhance the negative effects of deep fakes.

Link to whole article

Source: Dobber, T. 2020. Is political micro targeting a threat to democracy? Faculty of Social and Behavioral Sciences. 

Aan de totstandkoming van dit adviesrapport hebben verschillende mensen bijgedragen. Allereerst de
circa 40 opgavenexperts die deelgenomen hebben aan de werksessies. Daarnaast de AIklankbordleden (mevr. Noor Bouwens, dhr. Marcel Sukel, dhr. Aik van Emmeren en mevr. Marcia
Spijkerman – Agatz) die feedback en suggesties deden tijdens de klankbordsessies. En tot slot de AIervaringsdeskundigen: dhr. Chris de Veer, dhr. Frans Feldberg, dhr. Jasja Dekker en mevr. Pallas
Agterberg die hun kennis en ervaring deelden in separate interviews. In het bijzonder willen we ook
de opdrachtgevers Paul Strijp en Kasper de Rooij bedanken voor de inhoudelijke en procesmatige
bijdragen.

Bron: website AI Now

Bron en meer informatie: website WRR

Bron: Rijksoverheid - Nederlandse Digitaliseringsstrategie 2021

Bron: Rijksoverheid - Nederlandse Digitaliseringsstrategie 2020

Met het oog hierop heeft het kabinet een toekomstverkenning uit laten voeren naar de belangrijkste trends en ontwikkelingen richting 2030. De Toekomstverkenning Digitalisering 2030 schetst aan de hand van elf trends een beeld onze digitale toekomst. Hiermee beoogt dit onderzoek de grootste kansen en risico’s van digitalisering in kaart te brengen, maar ook kritieke onzekerheden en vragen onder de aandacht te brengen. In de bijlage is het volledige rapport opgenomen, hieronder volgt een beknopte samenvatting van de belangrijkste bevindingen.

Bron: Rijksoverheid - Toekomstverkenning Digitalisering 2030

Nog geen honderd jaar geleden hadden maar weinig mensen directe toegang tot informatie. De klas van toen was ingericht op een efciënte verspreiding van informatie: één persoon voor een groep, het niveau ingericht op de leefijd van de leerlingen. Tegenwoordig is in diezelfde klas een hele wereld aan informatie binnen handbereik. Met één muisklik, swipe of stemcommando krijgen kinderen van nu antwoorden waar vroeger hele zoektochten voor nodig waren. Digitalisering heef de toegang tot informatie radicaal getransformeerd.

Bron: Rijksoverheid - digitaliseringsagenda primair en voortgezet onderwijs

Om de kansen van digitalisering te benutten en antwoorden te geven op deze vragen moet Nederland voorop lopen met digitalisering. Met onderzoek, met experimenten en met het toepassen van nieuwe technologie. Op die manier versterken we het Nederlands verdienvermogen, kunnen we beter richting geven aan technologische ontwikkelingen en zetten we vol in op de economische en maatschappelijke kansen van digitalisering.

Om voorop te kunnen lopen moeten we ook het vertrouwen van burgers en bedrijven vergroten. Daarom versterken we het fundament – o.a. privacybescherming, cybersecurity, digitale vaardigheden en eerlijke concurrentie - voor digitalisering. De uitdaging bij deze transformatie is om iedereen binnen boord te krijgen én te houden. Op de arbeidsmarkt, maar ook in de samenleving als geheel.

Bron: Rijksoverheid - Nederlandse Digitaliseringsstrategie

Auteur: Bennie Mols

Voor meer informatie en bron, zie website WRR

Bron: Rijksoverheid - Algoritme: de mens in de machine 

(Zelflerende) algoritmen worden ingezet om meerwaarde te leveren aan bedrijven, consumenten en de samenleving als geheel. Bij de toepassing van (zelflerende) algoritmen kunnen onvoorziene effecten optreden. De impact van deze onvoorziene effecten is, afhankelijk van de context en de aard van de toepassingen, potentieel groot. Dit onderzoek richt zich daarom op de vraag:

• Wat zijn mogelijke onvoorziene effecten van de inzet van (zelflerende) algoritmen door bedrijven en consumenten waarvan niet duidelijk is hoe zij tot een besluit komen en hoe kunnen deze effecten geïdentificeerd, gewogen en indien ongewenst gemitigeerd worden?

Bron: Rijksoverheid - Onvoorziene effecten van zelflerende algoritmen

De WRR analyseert in dit rapport hoe de Nederlandse overheid Big Data op een
verantwoorde wijze kan gebruiken. Het rapport richt zich specifiek op (Big) Dataanalyses door politie en justitie, de inlichtingen- en veiligheidsdiensten en verschillende organisaties en samenwerkingsverbanden op het gebied van fraudebestrijding. Big Data biedt zeker kansen voor opsporing en surveillance, maar vraagt tevens om sterkere waarborgen voor de vrijheidsrechten van burgers. Het zwaartepunt in de huidige juridische regelgeving ligt op de regulering van het verzamelen van data. De WRR pleit ervoor dat die bestaande wetgeving wordt aangevuld met de regulering van en het toezicht op de fases van de analyse en het gebruik van Big Data.

Bron: WRR-rapport nr. 95: Big Data in een vrije en veilige samenleving

Overige bestanden: Kamerbrief over waarborgen tegen risico's van data-analyses door de overheid. 2019. Rijksoverheid. 

Binnenlandsbestuur.nl

Bron: Rathenau Instituut (2020). Digitale dreigingen voor de democratie – Over nieuwe technologie en desinformatie. Den Haag (auteurs: Boheemen, P. van, G. Munnichs & E. Dujso)

In het kort

• Hoe wordt AI verantwoord voor onze gezondheid ingezet? Daarover gaat deze blogserie.
• Het ministerie van VWS streeft ernaar de kansen te benutten om met AI de gezondheidszorg te verbeteren, zodanig dat publieke waarden, zoals zelfbeschikking, solidariteit, privacy en non-discriminatie worden gewaarborgd.
• Het ministerie stimuleert het gesprek over de gevolgen van kunstmatige intelligentie in de zorg.

Nieuwe vragen

Bron: Kool, L., R. de Jong en R. van Est (2019). Data doorzien – Ethiek van de digitale transitie in de provincies. Den Haag: Rathenau Instituut

Bron: Van Est, R. & J.B.A. Gerritsen, with the assistance of L. Kool, Human rights in the robot age: Challenges arising from the use of robotics, artificial intelligence, and virtual and augmented reality – Expert report written for the Committee on Culture, Science, Education and Media of the Parliamentary Assembly of the Council of Europe (PACE), The Hague: Rathenau Instituut 2017

Overige bestanden: Bericht aan het Parlement en Nederlandse Samenvatting. 

Bron: rathenau.nl

Est, R. van, E. de Bakker, J. van den Broek, J. Deuten, P. Diederen, I. van Keulen, I. Korthagen & H. Voncken (2018). Waardevol digitaliseren – Hoe lokale bestuurders vanuit publiek perspectief mee kunnen doen aan het ‘technologiespel’. Den Haag: Rathenau Instituut

Motie Gerkens: onderzoek wenselijkheid commissie

Internetbots manipuleren het politieke debat voor de presidentiële verkiezingen in de Verenigde Staten, bankmedewerkers verliezen in groten getale hun baan nu computers hun taken overnemen en softwareprogramma’s helpen rechters de kans te berekenen dat een verdachte weer de fout in gaat, maar blijken ongemerkt te discrimineren. Digitale technologie reikt tot in de haarvaten van de samenleving en roept overal fundamentele maatschappelijke en ethische vragen op. Hoe kunnen we met deze vragen omgaan en de mogelijkheden die digitalisering de maatschappij biedt optimaal benutten? Het Rathenau Instituut deed op verzoek van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties en de Eerste Kamer onderzoek naar deze vraag. Dit naar aanleiding van een motie ingediend in de Eerste Kamer van het lid Gerkens (motie Gerkens 23 september 2014). De motie verzoekt de regering het Rathenau Instituut te vragen ‘de wenselijkheid van een commissie die kan adviseren over de ethische kant van de digitalisering van de samenleving’ te onderzoeken. De motie verwijst daarbij naar de opkomst van het Internet of Things dat zowel voor kansen als bedreigingen zorgt. Uit de motie blijkt dat bij de Kamer het gevoel leeft dat bij digitalisering belangrijke waarden in het geding zijn, aangezien zij niet alleen spreekt van technologische effecten van digitalisering, maar ook van ‘maatschappelijke, sociaal juridische en sociaal psychologische‘ effecten. Voorliggend onderzoek van het Rathenau Instituut ondersteunt die observatie van de Kamer.

Onderzoeksvragen

Het Rathenau Instituut onderzocht welke technologieën de komende jaren naar verwachting de digitale samenleving verder vormgeven, welke maatschappelijke en ethische uitdagingen die ontwikkelingen oproepen en in hoeverre de omgang van die uitdagingen ook institutioneel verankerd is (oftewel, de governance van ethische en maatschappelijke uitdagingen rond digitalisering). Het gaat daarbij om vragen als: welke kwesties pakken bestaande Nederlandse instituties wel of niet op, en op welke manier? Zijn er blinde vlekken ten aanzien van de omgang met (nieuwe) ethische en maatschappelijke kwesties? Welke rol kan een commissie daarin spelen?

Bron: Kool, L., J. Timmer, L. Royakkers en R. van Est, Opwaarderen - Borgen van publieke waarden in de digitale samenleving. Den Haag, Rathenau Instituut 2017. 

Overige bestanden:

Rathenau Instituut - Acties voor een verantwoorde digitale samenleving: Bericht aan het Parlement 

Beleidsbrief AI, publieke waarden en mensenrechten. 2019. Digitale Overheid.

Bron: Strategisch Actieplan voor Artificiële Intelligentie. 2019. Rijksoverheid. 

Behandeld in Commissie Kunst Diversiteit en Democratisering 2 december 2020

Voor meer informatie klik hier

Bron: Rathenau Instituut 2020

Auteurs: Das D., P. Faasse, B. Karstens en P. Diederen - Hoe de gemeenteraad kan sturen op de maatschappelijke impact van digitale technollogie

Waarom is dit project interessant?

Deze definitie van AI is een bevredigende beschrijving die iedereen kan begrijpen. Opvallend is hoe AI wordt opgevat als een middel om een doel te bereiken, zoals het hoort, niet als een gekke robot met een eigen mening. Vandaar ook de verwijzing naar een menselijke toezichthoudende rol en menselijke verantwoordelijkheid, wat met gezond verstand te maken heeft. Het project laat zien dat AI geen huwelijk is tussen gemanipuleerde artefacten en een soort mensachtige of zelfs bovenmenselijke intelligentie, maar een scheiding tussen het vermogen om een probleem met succes op te lossen met het oog op een doel en de noodzaak om hierin intelligent te zijn.

DOI: https://doi.org/10.1007/s13347-020-00434-3

Vertaald door de openresearch redactie

Bron: European Union Agency for Fundamental Rights