Hallucinatie
Een hallucinatie is een antwoord van een AI-systeem dat overtuigend klinkt maar niet klopt, doordat het model een plausibele tekst vormt in plaats van een feit opzoekt.
Laatst bijgewerkt:
Waarom het gebeurt
Een taalmodel voorspelt welke tekst logisch volgt. Als het de juiste informatie niet heeft, houdt het niet op: het maakt iets dat eruitziet als een goed antwoord. De toon blijft even stellig als bij een antwoord dat wél klopt.
Dat is geen storing maar de manier waarop de techniek werkt. Je lost het dus niet op door beter te vragen, maar door te zorgen dat de juiste informatie er is.
Wat eraan te doen is
Twee dingen helpen. Zorg dat het systeem put uit een bron die klopt, zodat het niets hoeft te verzinnen. En laat bij elk antwoord zien waar het vandaan komt, zodat een mens het kan controleren zonder alles opnieuw op te zoeken.
In een Company Brain heeft elk gegeven daarom een herkomst en komt elk antwoord met een bronvermelding.
Veelgestelde vragen
Kun je hallucinaties helemaal uitsluiten?
Nee, en iedereen die dat belooft overdrijft. Wat je wel kunt: de kans sterk verkleinen door het systeem uit een gecontroleerde bron te laten putten, en de schade beperken door elk antwoord van een bronvermelding te voorzien zodat een fout opvalt.
Hangt hiermee samen
RAG (retrieval-augmented generation)
RAG, voluit retrieval-augmented generation, is een techniek waarbij een AI-systeem eerst relevante stukken uit een kennisbron ophaalt en die aan het taalmodel meegeeft, zodat het antwoord op die bron gebaseerd is in plaats van op wat het model uit zichzelf denkt te weten.
Herleidbaarheid van AI
Herleidbaarheid betekent dat je kunt navertellen hoe een AI-systeem tot een antwoord is gekomen: uit welke bron het komt, wie verantwoordelijk is voor dat gegeven en wie het mocht zien.
AI-agent
Een AI-agent is een AI-systeem dat een doel krijgt en zelf bepaalt welke stappen nodig zijn om dat doel te halen, inclusief het gebruiken van software en gegevensbronnen onderweg.
Wil je zien wat hiervan bij jou zou werken? De AI-scan laat zien welk werk in jouw bedrijf zich leent voor AI, op volgorde.