Retrieval Augmented Generation (RAG)
Het combineren van Information Retrieval en Generatieve AI voor nauwkeurige en contextueel relevante antwoorden
Het AI Lab van Urban Innovation en R&D van de Gemeente Amsterdam onderzoekt de mogelijkheden van Retrieval-Augmented Generation (RAG), een innovatief AI-framework dat de kracht van Information Retrieval en Generatieve AI, zoals LLMs, combineert om nauwkeurige en contextueel relevante antwoorden te genereren.
Dit rapport introduceert RAG en legt uit hoe het mechanisme werkt waarbij gebruikersvragen worden gecombineerd met relevante informatie uit een externe kennisbank om nauwkeurige en relevante antwoorden te geven. In tegenstelling tot traditionele LLMs, integreert RAG een opzoekcomponent en een externe database met informatie, wat resulteert in verbeterde antwoordkwaliteit.
Het rapport behandelt hoe RAG werkt en de soorten gegevens die het kan verwerken, waaronder tekst, afbeeldingen, audio en video's. Het rapport belicht ook de voordelen van RAG, zoals het leveren van actuele informatie, het vergroten van het gebruikersvertrouwen, het verminderen van AI-hallucinaties en het verlagen van trainingskosten. Het bespreekt praktische toepassingen van RAG binnen de gemeente, zoals het verbeteren van klantenservice-chatbots, het bieden van inzichten uit documenten en het bieden van gepersonaliseerde ondersteuning aan burgers.
Het rapport behandelt ook de uitdagingen en risico's die gepaard gaan met RAG, waaronder potentiële problemen met de dekking van de database, de nauwkeurigheid van gegevens en de complexiteit van het integreren van diverse informatiebronnen. Ethische overwegingen zoals vooringenomenheid, privacy en milieu-impact worden ook besproken.
Dit rapport is bedoeld om toekomstige initiatieven te begeleiden in de ontwikkeling en verantwoord gebruik van RAG binnen de gemeente, om zo de voordelen van AI te maximaliseren en potentiële risico's te minimaliseren.