.svg)
Kronehoefstraat 85
5612 HL Eindhoven
BTW NL863902509B01
Wat is het?
Een hallucinatie is het verschijnsel waarbij een AI-model output produceert die vloeiend en plausibel klinkt, maar aantoonbaar onjuist is. Het model verzint een feit, noemt een bron die niet bestaat of geeft een getal dat nergens op slaat, zonder enige twijfel in de formulering.
Hallucinaties zijn geen bugs in klassieke zin. Ze zijn een eigenschap van hoe taalmodellen werken: het model voorspelt waarschijnlijke tekst op basis van patronen, niet op basis van verificatie. Dat maakt gerichte beheersmaatregelen noodzakelijk, met name voor werk waar feitelijke juistheid telt.
Waarom het ertoe doet voor het MKB
Voor het MKB is hallucinatie het meest directe betrouwbaarheidsrisico bij AI-gebruik. In sectoren als accountancy, juridische dienstverlening en vastgoed kan onjuiste informatie leiden tot fouten in rapportages, adviezen of contracten.
- Onjuiste output die overtuigend klinkt, kan onopgemerkt doorstromen naar een klant of beslissing, waarbij de schade pas later zichtbaar wordt.
- Het bepaalt waar je menselijke controle inbouwt: taken waarbij precieze feiten, cijfers of wetteksten vereist zijn, vragen altijd een verificatiestap.
- Technieken als RAG en document grounding verminderen hallucinaties sterk door het model te beperken tot aantoonbare bronnen, maar elimineren ze niet volledig.
Begrijpen wanneer een model hallucineert, is de basis voor verantwoord AI-gebruik. Niet elke taak heeft dezelfde foutmarge, en het ontwerp van je workflow bepaalt hoeveel risico je neemt.
Hoe het werkt
Een taalmodel genereert tekst door steeds het meest waarschijnlijke volgende token te voorspellen op basis van de context en zijn trainingdata. Het model heeft geen toegang tot feiten in de zin van een database; het heeft patronen geleerd. Wanneer een patroon plausibel is maar de feitelijke informatie ontbreekt, vult het model dat gat in met iets dat waarschijnlijk klinkt.
- Onvoldoende informatie: de vraag ligt buiten wat het model betrouwbaar heeft geleerd.
- Patroonvulling: het model genereert de meest plausibele tekst, ook als die feitelijk onjuist is.
- Geen twijfelteken: het model signaleert zelf niet wanneer het onzeker is, tenzij daar specifiek op gestuurd wordt.
- Beperking via grounding: door het model te koppelen aan geverifieerde bronnen via RAG of document grounding verminder je hallucinaties sterk.
- Menselijke controle: voor taken met hoge feitelijkheidseisen blijft een verificatiestap door een mens noodzakelijk.
De praktische les is niet om AI te vermijden, maar om te ontwerpen voor foutmarge: welk deel van de output verifieer je altijd, en welk deel is laagrisico genoeg om door te laten?
Voorbeeld uit de praktijk
Stel, een medewerker bij een administratiekantoor gebruikt een AI-assistent om een samenvatting te maken van relevante belastingregels voor een klant. De assistent noemt een specifiek artikel en een drempelbedrag dat plausibel klinkt maar niet in de actuele wetgeving staat. Zonder verificatie gaat die samenvatting mee in het klantadvies. Met een RAG-systeem dat is gekoppeld aan de actuele belastingwetgeving, of met een vaste controleslag door een medewerker, had die fout onderschept kunnen worden.
Vergelijking en misvattingen
Een bug in klassieke software is een programmafout die te reproduceren en te repareren is. Een hallucinatie is geen bug: het is een gevolg van hoe het model werkt. Daarom is het niet op te lossen met een update alleen; het vraagt om architectuurkeuzes zoals grounding en toezicht.
.svg){kind=icon}