Digitale fitheid
Uitlegbare AI (XAI)
Ook bekend als: XAI, Uitlegbare en verantwoorde AI
AI waarvan de beslissingen uit te leggen zijn aan gebruikers, juristen en het publiek, niet alleen aan de bouwer.
Uit Dancing with Change & Fluidity: bij de ethische en juridische gereedheid van nieuwe technologie beschrijft het boek explainable AI (XAI) als kunstmatige intelligentie waarvan de werking en de beslissingen te verklaren zijn, niet alleen aan de bouwer, maar ook aan gebruikers, juristen, rechters, media en burgers. Veel machine-learningmodellen zijn ondoorzichtig: ze werken goed, maar niemand kan precies uitleggen waarom een bepaalde uitkomst tot stand kwam.
Voor de auteur is dat geen technisch detail maar een voorwaarde voor vertrouwen, zeker bij de overheid, die betrouwbaar en toetsbaar moet handelen. Hij illustreert dit met een echt Nederlands politieonderzoek, waarin een speciaal ontwikkeld lesprogramma alle betrokken partijen gelijk inzicht gaf in hoe AI-ondersteund bewijsmateriaal tot stand was gekomen. Naast uitlegbaarheid bepleit het boek ook een ethische afweging door een breed samengestelde ethische commissie, en het meewegen van juridische kaders voordat een AI-toepassing echt wordt uitgerold.
Samen met digitale fitheid en cobots laat explainable AI zien dat het boek digitale fitheid nooit los ziet van verantwoordelijkheid: een organisatie die sneller met AI werkt, moet tegelijk kunnen uitleggen hoe die AI tot haar uitkomsten komt.
Discussies hierover
Heb je een vraag over dit onderwerp, of een ervaring om te delen? Start een discussie; die blijft aan deze pagina gekoppeld.
Reacties op dit begrip
Nog geen reacties
Wees de eerste die reageert.
Wil je reageren? Log in of meld je gratis aan.