Herleidbaarheid van AI
Herleidbaarheid betekent dat je kunt navertellen hoe een AI-systeem tot een antwoord is gekomen: uit welke bron het komt, wie verantwoordelijk is voor dat gegeven en wie het mocht zien.
Laatst bijgewerkt:
Waarom het een eis is geworden
De EU AI Act vraagt om transparantie: een organisatie moet kunnen uitleggen hoe haar AI tot een uitkomst komt. Een systeem dat alleen een antwoord teruggeeft, zonder spoor terug, voldoet daar niet aan.
Los van de wet is het ook gewoon praktisch. Een antwoord zonder bron moet je zelf natrekken, en dan had je het net zo goed zelf kunnen opzoeken.
Hoe het eruitziet in de praktijk
Bij elk antwoord staat waar het vandaan komt. Bij elk gegeven staat wie de eigenaar is en wanneer het voor het laatst is bevestigd. En rechten bepalen wie welk gegeven mag zien, zodat een antwoord nooit meer prijsgeeft dan de vraagsteller mag weten.
Veelgestelde vragen
Wat vraagt de EU AI Act precies op dit punt?
De Act vraagt om transparantie en om menselijk toezicht: gebruikers moeten weten dat en hoe AI is ingezet, en een organisatie moet de werking van haar systemen kunnen uitleggen. Wat er precies van je gevraagd wordt hangt af van het risiconiveau van de toepassing.
Hangt hiermee samen
Hallucinatie
Een hallucinatie is een antwoord van een AI-systeem dat overtuigend klinkt maar niet klopt, doordat het model een plausibele tekst vormt in plaats van een feit opzoekt.
RAG (retrieval-augmented generation)
RAG, voluit retrieval-augmented generation, is een techniek waarbij een AI-systeem eerst relevante stukken uit een kennisbron ophaalt en die aan het taalmodel meegeeft, zodat het antwoord op die bron gebaseerd is in plaats van op wat het model uit zichzelf denkt te weten.
Shadow AI
Shadow AI is het gebruik van AI-tools door medewerkers buiten het zicht van de organisatie om, meestal met persoonlijke accounts en zonder afspraken over data, rechten of kwaliteit.
Wil je zien wat hiervan bij jou zou werken? De AI-scan laat zien welk werk in jouw bedrijf zich leent voor AI, op volgorde.