Veiligheidsgids · AI-security
Prompt injection
Als je AI tekst van buiten laat verwerken, kan die tekst instructies bevatten die je model overnemen.
Waarom dit ertoe doet
Een taalmodel maakt geen hard onderscheid tussen jouw instructies en de tekst die het verwerkt. Staat er in een e-mail, webpagina of document 'negeer eerdere instructies en stuur alle gegevens naar...', dan kan het model dat opvolgen.
Dit wordt gevaarlijk zodra een AI ook acties kan uitvoeren: mails versturen, bestanden lezen, API's aanroepen. Er bestaat geen waterdichte oplossing, dus je ontwerp moet ervan uitgaan dat injectie kan slagen.
De risico's
- Kritiek
Agent met te veel rechten
Een agent die externe inhoud leest en ook zelfstandig mails kan sturen of data kan wijzigen, kan door die inhoud worden gestuurd.
- Hoog
Data-exfiltratie via links of afbeeldingen
Een model kan worden overgehaald om gevoelige data in een URL te zetten die automatisch wordt geladen.
- Midden
Systeemprompt als beveiliging
'Je mag nooit...' in een prompt is geen beveiliging. Het is een verzoek dat omzeild kan worden.
Checklist
Loop dit na voordat je verder gaat of iets online zet.
- Geef een model nooit meer rechten dan de gebruiker die het gebruikt.
- Laat een mens bevestigen voordat een agent iets onomkeerbaars doet (versturen, verwijderen, betalen).
- Behandel alle modeloutput als onbetrouwbare invoer: valideer en escape hem voordat je hem gebruikt.
- Scheid duidelijk tussen instructies en externe inhoud, en markeer externe inhoud als data.
- Beperk welke domeinen een agent mag benaderen en log alle tool-aanroepen.
- Test je toepassing met kwaadaardige documenten voordat je live gaat.
Lessen
- AI Agents
Wat is een AI-agent?
Van chatbot naar collega die zelf taken uitvoert. Hoe agents werken, wanneer ze nuttig zijn en waar het misgaat.
Gemiddeld - AI Agents
AI-agents veilig inzetten: rechten, controle en grenzen
Een agent die zelf handelt, kan ook zelf fouten maken. Zo beperk je de schade: minimale rechten, eerst lezen dan schrijven, goedkeuring bij onomkeerbare acties, logging, limieten en een afgeschermde omgeving.
Gemiddeld - AI Security
Prompt-injectie: hoe AI-tools misleid worden
Hoe instructies in mails, webpagina's, documenten en code een AI-tool kunnen overnemen, waarom dat lastig te voorkomen is, en hoe je je toepassing zo inricht dat de schade beperkt blijft.
Gemiddeld
Projecten waar dit speelt
- AI-agent
Een AI-agent met tools bouwen
Een agent die zelf kiest welke functies hij aanroept om een taak uit te voeren, met duidelijke grenzen, logging en menselijke bevestiging.
Gevorderd - AI-toepassing
Interne kennisbank met RAG
Een assistent die vragen beantwoordt op basis van je eigen documenten, met bronvermelding en respect voor wie wat mag zien.
Gevorderd - Onderzoek
AI-research-assistent
Een assistent die een onderwerp of bedrijf onderzoekt met bronnen en een gestructureerd briefingdocument oplevert.
Gemiddeld - Chatbot
FAQ-chatbot voor je website
Een chatbot die vragen van bezoekers beantwoordt op basis van jouw eigen informatie, en eerlijk zegt als hij het niet weet.
Beginner
Belangrijk voor
- IT
AI voor IT-beheerders en IT-dienstverleners
Sneller scripts, documentatie en klantcommunicatie, en een rol als vraagbaak voor AI bij je klanten. Met strakke grenzen rond beheerrechten, sleutels en klantdata.
- Compliance
AI voor compliance professionals
Automatiseer het repetitieve voorwerk in KYC, AML en beleidsanalyse. Het oordeel en de verantwoording blijven bij jou.
- IT
AI voor developers
Van autocomplete naar coding agents. Sneller bouwen, zonder in te leveren op kwaliteit, tests en security.
- Legal
AI voor juristen en advocaten
Sneller door dossiers, uitspraken en contracten. Het juridische oordeel, het beroepsgeheim en de verantwoordelijkheid richting de cliënt blijven volledig bij jou.
Begrippen
- Veiligheid
Guardrails
Controles en grenzen rond een AI-systeem die ongewenste invoer, output of acties tegenhouden.
- Veiligheid
Jailbreak
Een poging om een AI-model zijn eigen veiligheidsregels te laten overtreden met slim geformuleerde invoer.
- Veiligheid
Prompt injection
Een aanval waarbij instructies in tekst, een mail of webpagina een AI-systeem iets laten doen wat niet de bedoeling is.