Naar de inhoud

Start hierLerenGratis e-mailcursusAI voor je beroepPlaygroundAI-WerkplaatsAI-geletterdheid voor organisaties
PromptsWorkflowsToolsVeiligheidBegrippenBlog
Mijn dashboard
↑↓ kiezenEnter openenCtrlK overal openenEsc sluiten

Begrip, techniek

Inferentie

inference

Inferentie is het gebruiken van een al getraind AI-model om op een vraag of invoer een antwoord te geven, anders dan de training waarin het model leert.

Een model doorloopt twee fasen. Eerst de training: eenmalig, duur en traag, waarin het model van enorme hoeveelheden data leert. Daarna de inferentie: elke keer dat jij een vraag stelt, rekent het model een antwoord uit op basis van wat het geleerd heeft. Die tweede fase betaal je per gebruik.

De kosten en snelheid van een AI-toepassing zitten vooral in de inferentie: hoeveel aanroepen, hoe lang de teksten, welk model. Daarom tellen tools het verbruik in tokens en rekenen aanbieders per aanroep af.