Naar de inhoud

Start hierLerenGratis e-mailcursusAI voor je beroepPlaygroundAI-WerkplaatsAI-geletterdheid voor organisaties
PromptsWorkflowsToolsVeiligheidBegrippenBlog
Mijn dashboard
↑↓ kiezenEnter openenCtrlK overal openenEsc sluiten

Begrip, prompten

Temperatuur

temperature

Temperatuur is een instelling van een taalmodel die bepaalt hoeveel willekeur er in de antwoorden zit: laag geeft voorspelbare, consistente antwoorden, hoog geeft gevarieerdere en creatievere antwoorden.

Een taalmodel berekent bij elk volgend token welke opties waarschijnlijk zijn. De temperatuur bepaalt hoe het daaruit kiest. Bij een lage temperatuur kiest het bijna altijd de meest waarschijnlijke optie, waardoor antwoorden voorspelbaar en vergelijkbaar zijn. Bij een hoge temperatuur krijgen minder waarschijnlijke opties meer kans, waardoor de tekst gevarieerder en verrassender wordt.

In de meeste chat-apps kun je de temperatuur niet zelf instellen; de aanbieder kiest een middenweg. Via een API, in sommige automatiseringstools of in tools die je zelf bouwt, kan dat wel. Bij sommige modellen, zoals redeneermodellen, ligt de temperatuur vast of heeft de instelling minder effect. In een chat-app kun je hetzelfde effect deels bereiken met je prompt, door bijvoorbeeld om tien heel verschillende ideeën te vragen of juist om één nauwkeurig antwoord.

Een team bouwt een automatisering die gegevens uit inkomende facturen haalt: leverancier, bedrag en factuurdatum. Met een standaardinstelling komen de velden soms net anders geformuleerd terug. Met een lage temperatuur en een vaste output-structuur zijn de resultaten voorspelbaar. Voor de brainstorm over een nieuwe campagnenaam gebruikt hetzelfde team juist een hogere temperatuur.

Een veelgehoord misverstand is dat een lage temperatuur hallucinaties voorkomt. Dat is niet zo: het model geeft dan wel consequent hetzelfde antwoord, maar dat kan consequent fout zijn. Ook betekent een hoge temperatuur niet slimmer of beter. Bij een te hoge waarde wordt de tekst zelfs onsamenhangend.