Naar de inhoud

Start hierLerenGratis e-mailcursusAI voor je beroepPlaygroundAI-WerkplaatsAI-geletterdheid voor organisaties
PromptsWorkflowsToolsVeiligheidBegrippenBlog
Mijn dashboard
↑↓ kiezenEnter openenCtrlK overal openenEsc sluiten

Begrip, veiligheid

Human in the loop

HITLmens in de lusmenselijk toezichthuman oversight

Human in the loop betekent dat een mens een vaste rol heeft in een proces met AI: de mens controleert, keurt goed of corrigeert de uitkomst voordat die gevolgen heeft, in plaats van dat het systeem volledig zelfstandig beslist.

Bij een volledig automatisch proces gaat de uitkomst van een AI-stap meteen door naar de volgende stap: een mail wordt verstuurd, een factuur geboekt, een aanvraag afgewezen. Met een human in the loop zit er een moment in het proces waarop een mens kijkt en beslist. Dat kan bij elke uitkomst zijn, alleen bij twijfelgevallen of alleen bij acties met grote gevolgen.

Er zijn varianten. Bij human in the loop keurt een mens elke uitkomst goed voordat er iets gebeurt. Bij human on the loop werkt het systeem zelfstandig en houdt een mens toezicht, met de mogelijkheid om in te grijpen. Welke vorm past, hangt af van het risico: een conceptantwoord op een standaardvraag vraagt minder controle dan een besluit over een uitkering of een betaling. De AI Act eist bij hoog-risicosystemen passend menselijk toezicht.

Een administratiekantoor laat facturen automatisch uitlezen en boeken. Facturen van bekende leveranciers onder een vastgesteld bedrag worden direct verwerkt. Facturen van nieuwe leveranciers, met een gewijzigd rekeningnummer of boven dat bedrag, komen in een lijst waar een medewerker ze controleert en goedkeurt. Zo blijft het werk snel, en zit de controle waar het risico het grootst is.

Een misverstand is dat een mens die op akkoord klikt automatisch een goede controle is. Als iemand honderd voorstellen per uur moet goedkeuren, of als het systeem bijna altijd gelijk heeft, gaat diegene blind vertrouwen. Dat heet automation bias. Een goede controle vraagt tijd, de juiste informatie om te kunnen oordelen, zoals de bron en de reden van een voorstel, en de ruimte om af te wijken zonder dat dat wordt afgestraft.