Een jailbreak is een poging om een AI-model met slim geformuleerde invoer zijn eigen veiligheidsregels te laten negeren, zodat het iets doet of zegt wat het eigenlijk zou weigeren.
AI-aanbieders bouwen grenzen in: een model weigert bijvoorbeeld hulp bij iets gevaarlijks of onwettigs. Een jailbreak probeert die grenzen te omzeilen, bijvoorbeeld door het model een rol te laten spelen, een hypothetische situatie te schetsen of de vraag te verpakken in andere tekst.
Jailbreaks lijken op prompt injection, maar het doel verschilt. Bij een jailbreak wil de gebruiker zelf de regels omzeilen; bij prompt injection smokkelt iemand anders instructies binnen via data die het model verwerkt. Beide laten zien dat de grenzen van een model niet waterdicht zijn.