.svg)
Kronehoefstraat 85
5612 HL Eindhoven
BTW NL863902509B01
Wat is het?
Explainability, ook wel verklaarbaarheid of interpretability, is de eigenschap van een AI-systeem waarbij de redenering achter een uitkomst inzichtelijk gemaakt kan worden. Dat kan op verschillende niveaus: het model kan aangeven welke invoerkenmerken het meest meewogen in een beslissing, welke bronnen het gebruikte bij een antwoord, of welke stap in een redenering tot de conclusie leidde.
Er is een belangrijk onderscheid tussen explainability en transparantie. Transparantie gaat over openheid over hoe een systeem werkt in het algemeen; explainability gaat over de concrete verklaring voor een specifieke uitkomst. Beide zijn relevant onder de EU AI Act, maar explainability is het meest direct voelbaar bij geautomatiseerde beslissingen die mensen raken.
Waarom het ertoe doet voor het MKB
Naarmate AI-systemen meer beslissingen nemen die impact hebben op klanten, kandidaten of medewerkers, wordt de vraag 'waarom dit besluit?' steeds belangrijker. Zonder explainability is een AI een zwarte doos: je kunt de uitkomst niet beoordelen, niet uitleggen aan de betrokkene en niet verantwoorden tegenover een toezichthouder.
- Fouten zijn corrigeerbaar. Als je begrijpt waarom een systeem tot een fout besluit is gekomen, kun je het model, de data of de regels aanpassen. Zonder uitleg weet je niet waar je moet beginnen.
- Vertrouwen bij medewerkers en klanten groeit. Een systeem dat zijn redenering toont, roept minder weerstand op dan een dat alleen uitkomsten presenteert, omdat mensen het kunnen controleren en in twijfel trekken.
- Compliance wordt aantoonbaar. De EU AI Act vereist voor hoog-risicosystemen dat uitkomsten uitlegbaar zijn en betwistbaar door de betrokkene. Explainability is geen optie maar een juridische vereiste voor die categorie.
Voor het MKB is explainability het meest urgent bij systemen die klant- of medewerkersbeslissingen nemen: kredietbeoordeling, kandidaatranking, fraudesignalering of prijsbepaling.
Hoe het werkt
Explainability kan op twee manieren worden bereikt: door transparante modellen te kiezen die inherent interpreteerbaar zijn, of door verklaringstechnieken toe te voegen aan een complex model. In de praktijk is een combinatie van beide het meest bruikbaar voor het MKB.
- Modelkeuze: eenvoudige modellen zoals beslisbomen of regressie zijn van nature transparant. Complexe modellen zoals neurale netwerken vereisen extra verklaringslagen.
- Feature importance: tools zoals SHAP of LIME berekenen welke invoerkenmerken het meest bijdroegen aan een specifieke uitkomst en presenteren dat als een ranglijst of visualisatie.
- Bronverwijzing bij RAG: bij documentgebaseerde systemen toont het model de specifieke passage die de basis vormde voor het antwoord, wat de betrouwbaarste vorm van explainability is voor kennistoepassingen.
- Audittrails: systemen leggen per uitkomst vast welke data werd gebruikt, welke regels werden toegepast en welke stap werd genomen.
- Menselijke controle als vangnet: voor hoge-impactbeslissingen blijft een medewerker in de loop om de uitkomst te beoordelen vóór actie wordt ondernomen.
Een praktische leidraad: hoe hoger de impact van de beslissing op een persoon, hoe concreter de verklaring moet zijn. Een interne planningssuggestie vraagt minder uitleg dan een beslissing over een huurder of sollicitant.
Voorbeeld uit de praktijk
Stel, een accountantskantoor gebruikt een AI-tool die signaleert welke klanten risico lopen op een belastingboete. Het systeem markeert een klant als hoog-risico. Dankzij explainability kan de medewerker zien op welke basis die markering is gemaakt: de tool laat zien dat de klant twee jaar op rij een late aangifte had en dat de omzetgroei niet in lijn is met de aangegeven winst. De medewerker kan de redenering beoordelen, de klant gerichter begeleiden en indien nodig de classificatie aanpassen.
Vergelijking en misvattingen
Explainability gaat over de verklaring van een specifieke uitkomst; auditability gaat over de mogelijkheid om achteraf te reconstrueren wat het systeem deed en wanneer. Beide zijn nodig voor verantwoorde AI: explainability voor de gebruiker en de betrokkene, auditability voor de toezichthouder en de interne controle.
.svg){kind=icon}