Naar de inhoud

Start hierLerenGratis e-mailcursusAI voor je beroepPlaygroundAI-WerkplaatsAI-geletterdheid voor organisaties
PromptsWorkflowsToolsVeiligheidBegrippenBlog
Mijn dashboard
↑↓ kiezenEnter openenCtrlK overal openenEsc sluiten

Begrip, bouwen

RAG

retrieval-augmented generation

RAG (retrieval-augmented generation) is een techniek waarbij een AI-systeem eerst relevante stukken uit je eigen documenten opzoekt en die meegeeft aan het taalmodel, zodat het antwoord gebaseerd is op jouw informatie, met bronverwijzing.

Een taalmodel kent jouw handboek, contracten of kennisbank niet. Je kunt die ook niet allemaal in het contextvenster plakken. Met RAG zoekt het systeem bij elke vraag eerst de passende stukken op en zet die in de prompt, samen met de opdracht om alleen op basis daarvan te antwoorden.

Het werkt in drie stappen. Vooraf worden je documenten in stukken geknipt en krijgt elk stuk een embedding, die in een vectordatabase wordt opgeslagen. Bij een vraag zoekt het systeem de stukken die qua betekenis het best passen (retrieval). Het taalmodel schrijft daarna een antwoord met die stukken als bron (generation), bij voorkeur met een verwijzing naar het document.

Een gemeente zet haar interne regelingen, werkinstructies en veelgestelde vragen in een RAG-systeem. Een medewerker vraagt hoe het zit met de vergoeding voor een cursus. Het systeem vindt het juiste artikel uit de regeling, geeft een kort antwoord en een link naar de bron. Zo kan een chatbot ook eerlijk zeggen wanneer het antwoord niet in de documenten staat.

RAG is zo goed als de documenten en de zoekstap. Staan er verouderde versies in de bron, dan krijg je verouderde antwoorden. Vindt de zoekstap het juiste stuk niet, dan antwoordt het model op basis van het verkeerde stuk. RAG vermindert hallucinaties, maar sluit ze niet uit. Let ook op rechten: een medewerker mag via de chatbot niet bij documenten kunnen die hij normaal niet mag zien.