In zijn presentatie gaat Alessandro Bozzon in op de integratie van AI in publieke besluitvorming, waarbij hij de mogelijkheden en uitdagingen verkent. Hij begint met een introductie van zichzelf als computerwetenschapper werkzaam binnen de Faculteit Industrieel Ontwerpen. Bozzon benadrukt het belang van interdisciplinaire benaderingen bij de ontwikkeling van AI-systemen, waarbij inzichten uit de sociologie, psychologie en stedelijke wetenschappen worden geïntegreerd. Zijn primaire focus ligt op publieke AI, waarbij gebruik wordt gemaakt van voorspellende en beschrijvende modellen ter ondersteuning van besluitvorming en beleidsimplementatie in de publieke sector.
Bozzon legt uit dat publieke AI algoritmen omvat die interageren met real-world data, menselijke levens beïnvloeden en een ecologie van diverse agenten en actoren creëren, inclusief mensen en AI-systemen. Hij illustreert dit met voorbeelden zoals verkeerssystemen, waar slimme verkeerslichten en autonome auto's het verkeer regelen en menselijk gedrag en stedelijke ritmes beïnvloeden. Hij benadrukt de subtiele manieren waarop autonome systemen, zoals AI-gestuurde vuilnisophaaldiensten of Airbnb-monitoring, maatschappelijke routines en beleidsvorming beïnvloeden.
Een kernpunt in Bozzons presentatie is de noodzaak om AI-systemen te ontwerpen die vanaf het begin geschikt zijn voor hun doel, in plaats van eerst technologie te creëren en later de gevolgen aan te pakken. Hij pleit voor een methodologie waarbij het ontwerpproces begint met een duidelijk begrip van de gewenste resultaten en de contextuele realiteiten van de omgeving waarin de AI zal opereren. Deze benadering erkent de beperkingen van data en benadrukt dat data altijd een benadering van de werkelijkheid is, geen perfecte representatie.
Bozzon introduceert het concept van "betwistbare AI", dat wil zeggen AI die openstaat voor geschillen en feedback gedurende de gehele levenscyclus. Dit houdt in dat systemen transparant en responsief zijn voor publieke input, waardoor de systemen in lijn zijn met maatschappelijke waarden en als legitiem worden ervaren door degenen die erdoor worden beïnvloed. Hij bespreekt het belang van het betrekken van burgers, beleidsmakers en ontwikkelaars bij het ontwerp en de monitoring van AI-systemen, waardoor de traditionele interactielussen worden uitgebreid en het proces democratischer en inclusiever wordt.
Hij geeft een praktisch voorbeeld met de camera-auto die wordt gebruikt voor het monitoren van verkeer en openbare ruimtes. Bozzon legt uit hoe dergelijke systemen, wanneer ontworpen met betwistbaarheid in gedachten, responsiever en eerlijker kunnen zijn, omdat ze publieke participatie in hun ontwikkeling en werking mogelijk maken. Deze participatieve aanpak helpt de kloof tussen de digitale en fysieke wereld te overbruggen, zodat AI-systemen niet verstoren maar juist maatschappelijke functies verbeteren.
Bozzon gaat ook in op de ethische en technische complexiteit van het implementeren van publieke AI. Hij benadrukt de noodzaak van rijke methodologische portfolio's die etnografisch en data-gedreven onderzoek combineren om menselijk gedrag nauwkeurig te begrijpen en te voorspellen. Deze interdisciplinaire benadering helpt bij het creëren van AI-systemen die de waarden, ritmes en eigenschappen van de gemeenschappen die ze dienen respecteren en integreren.
Tot slot benadrukt Bozzon het belang van betwistbaarheid als een kernkenmerk van publieke AI-systemen. Hij stelt dat het openstellen van AI-systemen voor geschillen en responsief maken voor publieke input niet alleen hun waargenomen legitimiteit vergroot, maar ook zorgt dat ze beter aansluiten bij maatschappelijke behoeften en waarden. Hij pleit voor een verschuiving van het louter bouwen van geavanceerde modellen naar het focussen op probleemformulering, systeemontwerp en de integratie van diverse perspectieven in het AI-ontwikkelingsproces. Bozzons visie voor publieke AI is er een waarin technologie het publieke goed dient, transparant en democratisch opereert, met continue feedback en verbetering op basis van publieke participatie.