Naar de inhoud

Start hierLerenGratis e-mailcursusAI voor je beroepPlaygroundAI-WerkplaatsAI-geletterdheid voor organisaties
PromptsWorkflowsToolsVeiligheidBegrippenBlog
Mijn dashboard
↑↓ kiezenEnter openenCtrlK overal openenEsc sluiten

Les

Vragen stellen aan je eigen documenten (RAG uitgelegd)

Hoe een AI-assistent antwoorden haalt uit jullie eigen handboeken, beleid en dossiers. Wat RAG is, waarom bronvermelding nodig is, wanneer het misgaat en wat je regelt voor toegang en privacy.

Gemiddeld15 minutenData & AI

Een taalmodel weet veel, maar niets over jullie eigen handboek, de afspraken in een contract of het verlofbeleid van jouw organisatie. Wil je daar vragen over stellen, dan moet de AI die documenten erbij krijgen. De techniek die dat regelt heet RAGRAGRAG (retrieval-augmented generation) is een techniek waarbij een AI-systeem eerst relevante stukken uit je eigen documenten opzoekt en die meegeeft aan het taalmodel, zodat het antwoord gebaseerd is op jouw informatie, met bronverwijzing.. Je hoeft hem niet zelf te bouwen om hem goed te gebruiken, maar je moet wel weten hoe hij werkt en waar hij tekortschiet.

Wat RAG is, in gewone taal

RAG staat voor retrieval-augmented generation: eerst zoeken, dan antwoorden. Stel je een collega voor die bij elke vraag eerst in het archief de relevante pagina's opzoekt, ze op tafel legt en pas dan antwoord geeft, met verwijzing naar die pagina's. Zo werkt een RAG-systeem ook.

  1. Je stelt een vraag, bijvoorbeeld: 'Hoeveel dagen van tevoren moet ik verlof aanvragen?'
  2. Het systeem zoekt in jullie documenten naar de stukken tekst die het best bij de vraag passen.
  3. Die stukken gaan samen met je vraag naar het taalmodel.
  4. Het model schrijft een antwoord op basis van die stukken, met een verwijzing naar de bron.

Documenten in stukken: chunking

Een heel handboek past vaak niet in één keer in het model, en het zou ook veel ruis geven. Daarom worden documenten vooraf in kleinere stukken geknipt, bijvoorbeeld per alinea of per paragraaf. Dat heet chunking. Bij een vraag haalt het systeem alleen de best passende stukken op.

Dat heeft gevolgen voor de antwoorden. Staat een regel in de ene alinea en de uitzondering daarop drie pagina's verder, dan kan het systeem de regel vinden en de uitzondering missen. Documenten met duidelijke kopjes en paragrafen die op zichzelf te begrijpen zijn, geven daarom betere antwoorden.

Kijk altijd naar de bron

Een goed ingericht systeem laat bij elk antwoord zien uit welk document en welke passage het komt. Open die bron en lees mee, zeker als je het antwoord gebruikt voor een beslissing of een klant. Geeft het systeem geen bron, of staat het antwoord niet in de bron, dan heeft het model mogelijk zelf iets aangevuld.

Wanneer RAG tekortschiet

  • Verouderde documenten: staan de oude en de nieuwe versie van een regeling allebei in de verzameling, dan kan het antwoord uit de oude komen.
  • Tegenstrijdige documenten: zeggen twee stukken iets anders, dan kiest het systeem er soms één zonder dat te melden.
  • Vragen die rekenwerk vragen: 'Hoeveel hebben we vorig jaar in totaal aan reiskosten uitgegeven?' vraagt om alle bedragen bij elkaar opgeteld, niet om een paar passende stukken tekst.
  • Vragen over het geheel: 'Wat zijn de grootste risico's in al onze contracten?' gaat over meer documenten dan het systeem in één keer ophaalt.
  • Informatie die er niet in staat: wat niet is opgeschreven, kan het systeem ook niet vinden.

Toegang en privacy

Een RAG-systeem mag niemand iets laten zien wat hij in de oorspronkelijke map ook niet mag zien. Zit er een salarisoverzicht of een personeelsdossier in de verzameling, dan kan dat anders in een antwoord aan een collega opduiken. Controleer daarom welke documenten erin gaan en of het systeem de bestaande toegangsrechten volgt.

Onthoud

  • RAG betekent: eerst de passende stukken uit je documenten zoeken, dan antwoorden.
  • Documenten worden in stukken geknipt; duidelijke paragrafen geven betere antwoorden.
  • Open de bron bij elk antwoord dat je echt gebruikt.
  • Verouderde of tegenstrijdige documenten en rekenvragen zijn zwakke plekken.
  • Het systeem moet dezelfde toegangsrechten volgen als de oorspronkelijke documenten.

Test jezelf

0/3 beantwoord

Kies een antwoord. Je ziet meteen of het klopt, en waarom.

  1. 1.Wat doet een RAG-systeem voordat het model antwoord geeft?

  2. 2.Er staan twee versies van het verlofbeleid in de verzameling. Wat is het risico?

  3. 3.Welke vraag is lastig voor een RAG-systeem?

Volgende lesPrivacy en AI: de AVG in gewone taalWat de AVG betekent als je AI gebruikt op je werk, en wanneer je extra stappen moet zetten. Zonder juristentaal.