Hallucinatie

Definitie

In AI verwijst hallucinatie naar situaties waarin een model vloeiende, maar feitelijk onjuiste of onzinnige uitkomsten genereert. Dit komt vooral veel voor in grote taalmodellen en generatieve AI.

Doel

Het bestuderen van hallucinaties verbetert de betrouwbaarheid en veiligheid van modellen. Het stelt ontwikkelaars in staat om beveiligingen te ontwerpen om onnauwkeurige uitkomsten te detecteren en te verminderen.

Belang

• Vermindert het vertrouwen in AI als het niet wordt aangepakt.
• Kan schadelijk zijn in gevoelige toepassingen, zoals de gezondheidszorg of de rechtspraak.
• Benadrukt de beperkingen van huidige generatieve modellen.
• Voert onderzoek uit naar feitelijke grondslagen en ophaalmethoden.

Hoe het werkt

1. Het model ontvangt een prompt of query.
2. Genereert output op basis van geleerde patronen, niet op basis van feitenverificatie.
3. Kan aannemelijk klinkende, maar onjuiste resultaten opleveren.
4. Er worden detectie- en correctietechnieken toegepast (bijv. RAG).

Voorbeelden (echte wereld)

• ChatGPT produceert soms onjuiste gegevens wanneer daarom wordt gevraagd.
• De eerste demo van Google Bard bevatte feitelijke onjuistheden.
• Medisch advies dat door AI wordt gegenereerd, bevat soms onnauwkeurigheden.

Referenties / Verder lezen

• “Het verminderen van hallucinaties in grote taalmodellen” — arXiv preprint.
• NIST AI-risicomanagementkader.
• Mitchell et al. “Modelkaarten voor modelrapportage.” ACM FAccT.
• Oorzaken van AI-hallucinaties