When ‘doing ethics’ meets public procurement of smart city technology
City governments are increasingly involving citizens in the acquisition of smart city tech to uphold human values. A recent case study in Amsterdam sheds light on a unique approach to procuring a privacy-friendly camera car service is unfolding in this city.
The published paper, featuring one of Responsible Sensing Lab's affiliated researchers Mike de Kreek, among others outlines a model that assesses the complexity of city experiments based on factors such as participation, continuity, and institutional integration. Also, a team of design experts collaborated to identify tender-relevant requirements. The researchers find that Amsterdam paves the way in responsible smart city technology procurement.
Curious how Amsterdam successfully blends ‘doing ethics’ with procurement, providing valuable insights for similar initiatives and future research?
Steeds vaker gebruikt de stad Amsterdam digitale technologieën om haar werk efficiënter en beter te kunnen doen. In de openbare ruimte worden steeds vaker camera’s gebruikt. Tegelijkertijd hebben kritische burgers, maatschappelijke organisaties en de coalitie ook zorgen over de toenemende inzet van camera’s in de stad.
Doel van het shuttercam project is een camera te ontwerpen die helder en controleerbaar communiceert aan derden wanneer hij aanstaat. Dit verslag gaat over de 4e fase van het shuttercam project, waarin de shutteroplossing werd getest op locatie bij de Johan Cruijf ArenA.
DCODE is een internationaal netwerk van onderzoekspromovendi (prototeams) met een verschillende achtergrond die in praktijkcontext samenwerken en wetenschappelijke kennis ontwikkelen om tot prototypes te komen van toekomstige ontwerpcompetenties en beroepspraktijk.
Beschrijving
Er zijn in totaal drieprototeams. Het Responsible Sensing Lab is betrokken bij twee van de teams.
Eén prototeam werkt aan een kritische lens die de ervaringen en verwachtingen onderzoekt op het gebied van privacy en vertrouwen inmachine visionop publiek en privaat gebied in het Verenigd Koninkrijk en Nederland. Er wordt hierbij specifiek gekeken naar de verschillen tussen de ervaringen van ouderen en hun zorgnetwerk op het gebied van vertrouwen, agentschappen en privacy.
Het andere team zoomt in op spanningen die ontstaan bij het gebruik van voorspellende crowdmanagement sensorsystemen. Hierbij wordt het initiatief AMS CityFlows als context gebruikt om sensornetwerken en hun impact op de publieke sfeer in Amsterdam beter te begrijpen.
Het DCODE-project wordt gefinancierd door het onderzoeks- en innovatieprogramma van het Horizon 2020-programma van de Europese Unie.
Doelstelling
Een inclusieve en duurzame digitale toekomst vraagt om fundamenteel nieuwe ontwerpcompetenties en -praktijken. DCODE combineert vooruitgang in technologie, sociale wetenschappen en geesteswetenschappen om de cruciale verbinding te bieden tussen menselijke ervaring (één-op-één-relaties) en het maatschappelijke systeem (end-to-end-relaties). Daardoor positioneren we het creëren van bureaus als fundamenteel voor digitaal ontwerp vandaag, net zoals functie cruciaal was voor industrieel ontwerp.
Looptijd
jan 2021 - jan 2025
Opdrachtgevers
Hogeschool van Amsterdam
TU Delft
AMS Institute
The Advanced Care Research Centre (VK)
Umeå University
University of Edinburgh
RISE. Research Institutes of Sweden
University of Copenhagen
Aarhus University
Transport and Telecommunication Institute (Latvia)
Het gebruik van scanauto's door gemeenten neemt toe, bijvoorbeeld voor het lokaliseren van afval, groenonderhoud, uitvoering van het parkeerbeleid of voor reclameheffing. Samen met een groot aantal partners onderzoekt Het Responsible Sensing Lab hoe scanauto's op een ethische manier ingezet kunnen worden. Aan de hand van dit onderzoek ontwikkelen we een algemene ontwerpbenadering voor het op een ethische manier inzetten van technologie voor de smart city.
Beschrijving
Verschillende steden hebben manifesten en verklaringen gelanceerd, zoals het Tada-manifest en The Cities Coalition for Digital Rights. Hiermee benadrukt men het belang van het ontwikkelen van technologie voor de slimme stad vanuit maatschappelijk en menselijk perspectief. Deze pamfletten roepen om technologie die is gebaseerd op maatschappelijke waarden zoals transparantie, aansprakelijkheid en inclusiviteit.
In de praktijk vinden professionals het echter een uitdaging om deze principes te operationaliseren wanneer zij publieke waarden implementeren in technologie voor de slimme stad. Voorbeelden van technologieën waarvoor dit geldt zijn kunstmatige intelligentie en computervisie.
Doelstelling
Samen met onderzoekspartners, gemeenten en andere partners werken we aan een onderzoek-middels-ontwerp-traject met als doel een prototype van een ethische scanauto te ontwikkelen. Dit prototype dient als concreet en urgent voorbeeld van het inzetten van computervisie en algoritmisch bestuur in de openbare ruimte.
Met een focus op publieke scanauto's, is het uiteindelijke doel van dit project om een geïntegreerde, waardegedreven ontwerpbenadering te ontwikkelen voor het ethisch inzetten van smart city-technologie waarbij meerdere stakeholders betrokken zijn en hiervan de voordelen te laten inzien voor gemeenten, de industrie én inwoners.
De komende jaren zal het RAAK-PRO-consortium, zoals de groep partners binnen dit project wordt genoemd, een op-ontwerp-gebaseerde methode ontwikkelen om waarden uit manifesten voor ethische technologie te vertalen in concrete eisen in de context van aanbestedingsprocedures voor de slimme stad.
Het Responsible Sensing Lab heeft in de verschillende fasen de rol van expert, neemt deel in sessies en werkt samen met het team Computervisie van de gemeente en wetenschappers om wetenschappelijke inzichten te verbinden aan use cases uit de praktijk.
Looptijd
Q2 2022 - Q2 2027
Opdrachtgevers
Hogeschool van Amsterdam
Amsterdam Institute for Advanced Metropolitan Solutions (AMS)
Er worden steeds meer slimme systemen ingezet in de openbare ruimte. Het Responsible Sensing Lab werkt met nationale partners aan één vorm van communicatie om bewustzijn over het gebruik van sensoren en daarmee ook de inspraak van burgers te vergroten.
Beschrijving
Het gebruik van ‘smart city’ toepassingen om stedelijke processen te monitoren, analyseren en aan te sturen neemt toe. Deze slimme toepassingen maken de stad in veel gevallen leefbaarder voor haar bewoners, maar hebben ook gevolgen voor sociale normen en waarden. Burgers zijn zich vaak niet bewust van deze systemen en de impact die ze hebben op hun leven.
Op dit moment is er geen standaardaanpak wat betreft de communicatie over sensoren en het creëren van interactie met inwoners van slimme steden. Bovendien zorgen de verschillende vormen van communicatie die momenteel gebruikt worden voor verwarring.
Doelstelling
Omdat we ervan overtuigd zijn dat bewustzijn en begrip voorwaarden zijn voor democratie, werken we samen met een groep landelijke partners aan een effectieve en inclusieve vorm van communicatie over sensoren in de openbare ruimte en de systemen die hieraan gekoppeld zijn. Zo worden democratische waarden als privacy, transparantie en controleerbaarheid gewaarborgd en interactie, inspraak en participatie bevorderd.
In het project ‘Communicatie over en interactie met sensoren’ werken we met een groot aantal partners aan een effectieve en inclusieve vorm van communicatie (fysiek en/of online) over sensoren in de stad die bijdraagt aan interactiemogelijkheden met burgers. Op lange termijn is het doel een standaardaanpak te formuleren op het gebied van communicatie over sensoren.
Looptijd
januari 2021 - ongoing
Opdrachtgevers
Gemeente Amsterdam
Amsterdam Institute for Advanced Metropolitan Solutions (AMS)
Als vervolg op het mmWave-project zijn er drie sensoren geïnstalleerd op het Marineterrein waarmee het Responsible Sensing Lab de mmWave-sensor wil ontwikkelen tot een volwaardig, privacyvriendelijk alternatief voor het monitoren van drukte en beweging.
Beschrijving
MmWave-technologie (mmWave is een afkorting voor millimetergolven) is een bijzonder type radartechnologie die elektromagnetische golven met een korte golflengte uitstraalt. Objecten binnen het bereik van de sensor kaatsen deze golven terug. MmWave-sensoren zijn onschadelijk en worden op grote schaal gebruikt voor obstakeldetectie in zelfrijdende auto's.
In plaats van het waarnemen van personen, detecteert de mmWave-sensor bewegende objecten (zoals personen) als een puntenwolk in de ruimte die in kaart wordt gebracht. De regulering zit verankerd in de hardware van de sensor en kan dus niet ongedaan worden gemaakt door een software-update. Afgezet tegen technologie die data verzamelt en deze achteraf anonimiseert, is de mmWave-sensor dus een inherent verantwoorde en veilige methode om drukte te meten.
In de huidige herlancering van het project zijn er drie sensoren geïnstalleerd aan de zijkant van het AMS-gebouw op het Marineterrein:
Onze verbeterde, open platform-oplossing van de mmWave-sensor waarop we verschillende instellingen en nieuwe algoritmes testen.
Een standaardtype commerciële mmWave-sensor die op de markt verkrijgbaar is.
Een standaardcamera die wordt gebruikt voor cameratoezicht.
De drie typen sensoren. Van links naar rechts: een standaard beveiligingscamera, onze mmWave-sensor en een commerciële mmWave-sensor.
Doelstelling
Het doel is enerzijds om met onze mmWave-sensor samenhangende data te verzamelen en deze te vergelijken met de data van de commerciële mmWave-sensor en de beveiligingscamera. De tweede doelstelling is om algoritmes te ontwikkelen die de nauwkeurigheid van de mmWave-sensor verbeteren. Het uiteindelijke doel is om de mmWave-sensor te gebruiken als 100%-privacyvriendelijke methode voor het in de gaten houden van drukte en beweging in de openbare ruimte.
Locatie van het mmWave-experiment op het Marineterrein
De sensoren binnen dit experiment vallen onder de verantwoordelijkheid van de gemeente Amsterdam. Voor vragen over het verwerken van persoonsgegevens kun je dePrivacyverklaringlezen of contact opnemen met de gemeente Amsterdam. Het mmWave-experiment is geregistreerd in hetSensorenregistervan de gemeente Amsterdam.
Op 16 februari 2023 werd in Pakhuis de Zwijger het tweejarige jubileum van het Responsible Sensing Lab gevierd. Tijdens deze gelegenheid werd gesproken over het opbouwen en democratiseren van smart cities, de prestaties binnen het Responsible Sensing Lab van de afgelopen twee jaar en de perceptie van cameras.
Onder de video kunt u het programma van het seminar bekijken.
Introductie
Hoe bouw je een verantwoorde slimme stad
Ger Baron | Chief Technology Officer | Directeur Digitalisering en Innovatie bij de gemeente Amsterdam
Keynote Democratisering van de ethiek van slimme steden
Prof.dr.ir. Peter-Paul Verbeek | Schrijver, onderzoeker en rector magnificus aan de Universiteit van Amsterdam
Talkshow
Responsible Sensing Lab – prestaties en blik vooruit
Thijs Turel | AMS Institute, programmamanager Responsible Digitalization & mede-initiatiefnemer van het Responsible Sensing Lab
Sam Smits | Gemeente Amsterdam, Lab Lead & Project Manager Responsible Sensing Lab
Onderzoeks- en ontwerpsessie
Visie ontwikkelen op camera's: van speculatie tot toepassing
Marcel Schouwenaar | Creatief directeur bij The Incredible Machine
Sofie-Amelie Torp-Dideriksen | Promovendus aan de TU Delft
We gebruiken steeds meer technologieën om de stad onder andere veiliger, duurzamer en schoner te maken. Er zijn sensoren die allerlei data verzamelen. Bijvoorbeeld over parkeergedrag en drukte op populaire plekken. En technologieën om processen te sturen. Onder andere bij kruispunten waar andere regels gelden wanneer het regent, zodat fietsers voorrang krijgen en de verkeerssituatie veiliger wordt.
Het gebruik van slimme technologieën kan vragen oproepen op het gebied van privacy, veiligheid, inclusie en autonomie. Daarom zijn we met het AMS-Institute (Amsterdam Institute for Advanced Metropolitan Solutions) het Responsible Sensing Lab gestart.
Ontwikkeling en onderzoek
Binnen het Responsible Sensing Lab zoeken wetenschappers en ontwerpers naar creatieve en vernieuwende oplossingen. Het onderzoekt hoe we zogenoemde ‘slimme technologie’ in de stad op een verantwoorde manier kunnen ontwerpen. Met de zorgen over vrijheid, controle en privacy van de Amsterdammer als startpunt. Het lab werkt samen met partijen als de politie en ElaadNL.
Het Responsible Sensing Lab werkt onder andere aan:
De transparante laadpaal
Er zijn steeds meer elektrische voertuigen maar het huidige stroomnetwerk is beperkt. We werken aan een laadpaal die bepaalt welke auto’s voorrang krijgen. Maar wie of wat bepaalt dit en wat is eerlijk? De transparante laadpaal laat zien wat de afwegingen zijn in het verdelen van de stroom.
Scanauto's
Scanauto’s meten niet alleen parkeergedrag maar bijvoorbeeld ook vuil op straat. Daarmee kan de route van vuilniswagens bepaald worden. Maar het kan de Amsterdammer ook het gevoel geven bespied te worden. Een nieuw soort scanauto laat zien wat deze registreert. Bijvoorbeeld door een beeldscherm of QR-code op de zijkant van de auto.
Shuttercam-project (camerabedekker)
Er hangen veel camera’s in de stad maar wanneer staan ze eigenlijk aan of uit? We experimenteren met camera’s die dat duidelijk laten zien. En aan de mogelijkheid camera’s te bedekken, zoals bij de lens van een webcam. Lees meer over hetShuttercam-project
mmWave-sensor
Een privacyvriendelijk alternatief voor cameratoezicht in de stad. De coronacrisis maakt het bijvoorbeeld dringender om drukte op populaire plekken te meten. De mmWave-sensor ziet bewegende objecten (zoals mensen) als een verzameling punten in de ruimte. Zo houden we met behoud van privacy van de Amsterdammer de drukte in de gaten. De mmWave-sensor is in ontwikkeling. Meer over het sensorontwerp voor de toepassing van deze techniek vindt u bijSimple Sensors.
Zintuigen van Amsterdam (Senses of Amsterdam)
We werken met NEMO aan een interactieve installatie over sensoren die de ‘slimme stad’ gebruikt om informatie te verzamelen. Welke gegevens meten ze en wat zijn de voordelen? Hoe werken bestaande sensoren en hoe ontwerpen we verantwoord nieuwe sensoren? De installatie neemt bezoekers mee in de vraagstukken waar het Responsible Sensing Lab zich over buigt. Lees meer over deze installatie op de website vanNEMO.
Simple Sensors
Simple Sensorsis een ontwerpsysteem voor sensoren van The Incredible Machine, in opdracht van het Responsible Sensing Lab. De Simple Sensors maken het voor de Amsterdammer inzichtelijk wat er gemeten wordt in de openbare ruimte, wie deze data gebruikt en met welk doel. Meer informatie over het prototype en haar functies vindt u bijmmWave-sensor.
Responsible Sensing Toolkit
Er worden steeds meer slimme sensoren toegepast in de stad om data te verzamelen, maar hoe zorgen we ervoor dat onze digitale rechten beschermd blijven? In samenwerking met de gemeente Amsterdam heeft CITIXL de Responsible Sensing Toolkit ontworpen waarmee partijen in 6 stappen geadviseerd worden hoe zij op een verantwoorde manier sensoren kunnen gebruiken in de openbare ruimte.
De toolkit is ontworpen voor gemeenten, organisaties en buurten die technologie op een verantwoorde manier in willen zetten. Wij zijn altijd op zoek naar partijen om de toolkit mee te testen. Voor meer informatie bezoek de websiteof neem contact op met Thijs Turèl en Coen Bergman viarsl@ams-institute.org.
Met de Agenda Digitale Stad streven we een vrije, creatieve en inclusieve digitale stad na. Zonder dat Amsterdammers zich buitengesloten of bespioneerd voelen door technieken die de stad gebruikt om informatie te verzamelen.
Meer informatie over het Responsible Sensing Lab vindt u opAMS-institute(in het Engels). U kunt onderaan hun pagina uw e-mailadres achterlaten als u op de hoogte wilt blijven van de ontwikkelingen rondom het Lab.
Zouden inwoners van een stad het op prijs stellen als alle camera's in de openbare ruimte duidelijk laten zien of ze wel of niet in gebruik zijn? Wat als je door zulke shutters duidelijk kunt zien of een camera aan of uit staat, vergelijkbaar met de manier waarop veel mensen hun webcam afschermen? Het Shuttercam-project van het Responsible Sensing Lab onderzoekt deze vragen.
Beschrijving
Het Shuttercam-project onderzoekt het effect van shutters, zogenaamde afschermkappen die over camera’s geplaatst zijn. Wat als je als voorbijganger duidelijk kunt zien of en wanneer een camera aan of uit staat? En wat als je zo’n camera zelf kunt uitzetten, net zoals bij een webcam?
Het project begon met een time-lapse-camera bij het kantoor van AMS Institute die werd uitgerust met een shutter. De effecten van deze minipilot werden onderzocht door personeel en bezoekers te interviewen.
De Shuttercams in de omgeving van de Johan Cruijf ArenA hielden de drukte rondom het stadion in de openbare ruimte in de gaten tijdens evenementen en hielpen opstoppingen en onveilige situaties te voorkomen. Ze waren een aanvulling op het Public Eye-project van de gemeente Amsterdam en de ArenA: een privacy-vriendelijke open-source oplossing voor het meten van drukte.
De pilot met de Shuttercams in de omgeving van de ArenA liep tot januari 2023. Tijdens de pilot werden voorbijgangers om hun mening gevraagd, maar ook de ervaringen van de mensen die achter de schermen met de telcamera’s werken en de camera's onderhouden werden meegenomen in het onderzoek.
Doelstelling
De gemeente wil graag zaken meten om de stad beter in te richten. Tegelijkertijd is het belangrijk dat niemand zich bespied voelt. Met het Shuttercam-project onderzoekt het Responsible Sensing Lab hoe we camera’s in de openbare ruimte zo kunnen ontwerpen dat ze rekening houden met waarden als privacy, autonomie en transparantie.
De experimenten testten ook het principe van ‘dataminimalisatie’. Dat wil zeggen dat de gemeente ernaar streeft niet onnodig te monitoren in de openbare ruimte.
Looptijd
Pilot de Johan Cruijff ArenA: juli 2022 - januari 2023
Smart doorbells are like a security camera's, but available for everyone. Always on, and owned by private parties, the smart doorbell is destined to have an impact on our privacy. As of now, there could be thousands of smart doorbells in Amsterdam, filming public space. We don t have a clear view on the numbers, and we do not know what the owners do with the collected data.
Smart doorbell owners are often not aware of the privacy issues. A major smart doorbell company states that its mission is to reduce crime in neighborhoods and claim that owners of their doorbell often experience a feeling of safety.
But owners of a smart doorbells are not the ones affected: the recording of public space is everyone's problem. Placing a Shutterring over a smart doorbell makes it just a smart doorbell again.
Comparable to a webcam cover, doorcallers slide up the Shutterring to ring the door, making themselves shortly visible. The diffuse filter shuts off all that the smart doorbell should not see, like the videocalling filter that blurs the background of the person behind the camera. Thus, only the person in front of the camera is visible.
Shutterring has been designed by the Incredible Machine.
Click here to read more on how to make your own Shuttering in 4 steps.
Ethische vragen beantwoorden en moeilijke beslissingen nemen bij het gebruik van sensoren bij crowd monitoring? De Responsible Sensing Toolkit helpt u stapsgewijs op weg
Het inzetten van sensoren in publieke ruimte kan vele voordelen bieden op het gebied van stedelijke innovatie. Maar, hoe kun je hierbij maatschappelijke normen en waarden als uitgangspunt nemen? Samen met het Responsible Sensing Lab en de gemeente Amsterdam ontwikkelde CITIXL de Responsible Sensing Toolkit op basis van de gezamenlijke ervaring en expertise op dit gebied.
In zes stappen neemt de Toolkit je mee langs de belangrijkste afwegingen en dilemma’s die je tegenkomt bij het verantwoord inzetten van sensoren in de openbare ruimte en helpt je vervolgens een concreet plan op te stellen voor jouw project. De Toolkit biedt een handig overzicht van alle tools die er zijn en laat experts aan het woord in informatieve video’s.
De Toolkit is zowel in het Nederlands als in het Engels beschikbaar.
Amsterdam krijgt 's wereld eerste vloot van autonome boten. Terwijl de eerste prototypes van zelfrijzende auto's de weg op gaan, luidt Amsterdam een nieuw hoofdstuk in voor autonome voertuigen. Roboat is 's werelds eerste grootschalige onderzoek dat de reeks mogelijkheden van autonome systemen op het water verkent en test.
In een samenwerking met de onderzoekers van het Massachusetts Institute of Technology (MIT), is het Amsterdam Institute for Advanced Metropolitan Solutions (AMS Institute) 's werelds eerste grote onderzoeksprogramma gestart naar autonome drijvende schepen in grootstedelijke gebieden. Roboat is een gezamenlijk vijfjarig project, uitgevoerd door onderzoekers van het MIT, de Technische Universiteit Delft (TU Delft) en Wageningen University and Research (WUR). Het vijfjarenprogramma heeft een budget van € 25 miljoen en vindt plaats in Amsterdam.