Naar de inhoud

Start hierLerenGratis e-mailcursusAI voor je beroepPlaygroundAI-WerkplaatsAI-geletterdheid voor organisaties
PromptsWorkflowsToolsVeiligheidBegrippenBlog
Mijn dashboard
↑↓ kiezenEnter openenCtrlK overal openenEsc sluiten

Les

Hoe een taalmodel werkt: tokens, context en hallucinaties

Net iets dieper: waarom lange gesprekken ontsporen, wat een contextvenster is en hoe je hallucinaties beperkt.

Beginner10 minutenAI Basics

Met een paar begrippen snap je waarom AI soms verrassend goed en soms verrassend slecht presteert. Dat maakt je direct een betere gebruiker.

Tokens: hoe een model tekst ziet

Een model leest geen woorden maar tokensTokenEen token is een stukje tekst, vaak een deel van een woord, waarin een taalmodel tekst opdeelt om het te kunnen verwerken. Prijs, snelheid en limieten van AI-diensten worden meestal in tokens gemeten.: stukjes tekst van gemiddeld een paar letters. 'Automatisering' is voor een model meerdere tokens. Prijzen, limieten en snelheid van AI-diensten worden vaak in tokens uitgedrukt.

Het contextvenster: het werkgeheugen

Alles wat het model op één moment kan 'zien', jouw vraag, het gesprek tot nu toe en de documenten die je uploadt, moet in het contextvensterContextvensterHet contextvenster is de hoeveelheid tekst, gemeten in tokens, die een taalmodel in één keer kan meenemen: je vraag, het gesprek tot nu toe en de documenten die je toevoegt. passen. Moderne modellen hebben grote contextvensters, maar ook daar geldt: hoe meer ruis erin zit, hoe slechter het model de belangrijke details vindt.

Waarom een model hallucineert

Een model genereert steeds het meest passende volgende stukje tekst. Als het iets niet weet, is een plausibel klinkend antwoord vaak 'passender' dan 'ik weet het niet'. Daarom verzint het soms bronnen, citaten of details.

  1. Geef zelf de bron mee (document, tekst, data) en vraag het model alleen die te gebruiken.
  2. Vraag om citaten of paginanummers bij elke bewering.
  3. Geef expliciet toestemming om 'dat weet ik niet' of 'staat niet in de bron' te zeggen.
  4. Laat berekeningen met code uitvoeren in plaats van uit het hoofd.

Kennis heeft een einddatum

Een model is getraind op data tot een bepaald moment. Wat daarna gebeurde, weet het niet, tenzij de tool kan zoeken op het web. Voor actuele informatie zoals regelgeving, prijzen en nieuws: laat zoeken of geef zelf de actuele bron.

Onthoud

  • Het contextvenster is het werkgeheugen: geef relevante informatie, geen ruis.
  • Hallucinaties beperk je door bronnen mee te geven en om citaten te vragen.
  • Voor actuele informatie heb je een tool nodig die zoekt, of je eigen bron.

Test jezelf

0/3 beantwoord

Kies een antwoord. Je ziet meteen of het klopt, en waarom.

  1. 1.Wat is het contextvenster van een model?

  2. 2.Een lang gesprek gaat steeds meer de verkeerde kant op. Wat werkt vaak het beste?

  3. 3.Welke aanpak beperkt hallucinaties?

Volgende in AI veilig in je organisatie2/7Welke data mag je in een AI-tool zetten?Een praktisch beslismodel voor iedereen: wat kan veilig, wat alleen in een zakelijke omgeving, en wat nooit.