View in EDS

Checklist voor het evalueren van de betekenisvolheid van uitleg door AI-systemen voor interne gebruikers

Saved in:
Bibliographic Details
Title: Checklist voor het evalueren van de betekenisvolheid van uitleg door AI-systemen voor interne gebruikers
Authors: Maathuis, Henry, Onderzoeker, Kim, Jenia, Onderzoeker, Montfort,van, Kees, Overig, Zwaal, Raymond, Overig, Sent, Danielle, Onderzoeker, Otterloo,van, Sieuwert, Onderzoeker
Contributors: Artificial Intelligence, Hogeschool Utrecht@@@Kenniscentrum Digital Business & Media
Publisher Information: Utrecht: Hogeschool Utrecht, 2025.
Hogeschool Utrecht.
Publication Year: 2025
Subject Terms: financiële sector, use cases, literatuurstudie, checklist, AI (artificial intelligence)
Description: Het is inmiddels breed geaccepteerd dat beslissingen die door AI-systemen worden genomen, uitlegbaar moeten zijn aan hun gebruikers. Toch blijft het in de praktijk vaak onduidelijk hoe die uitlegbaarheid concreet vorm moet krijgen. Vooral voor niet-technische gebruikers, zoals scha-debeoordelaars bij verzekeringsmaatschappijen, is het essentieel dat zij de beslissingen van een AI-systeem goed kunnen begrijpen én kunnen uitleggen aan klanten. Denk bijvoorbeeld aan het toelichten van een afgewezen schadeclaim of leningaanvraag. Hoewel het belang van verklaarbare AI algemeen wordt erkend, ontbreekt het vaak aan praktische handvatten om dit te realiseren. Daarom hebben we in deze handreiking inzichten samengebracht uit twee use cases binnen de financiële sector én uit een uitgebreide literatuurstudie. Hieruit zijn 30 aspecten van betekenisvolle uitleg van AI voortgekomen. Op basis van deze aspecten is een checklist ontwikkeld die AI-ontwikkelaars helpt om hun systemen beter uitlegbaar te maken. De checklist biedt niet alleen inzicht in hoeverre een AI-toe-passing op dit moment begrijpelijk is voor eindgebruikers, maar maakt ook duidelijk waar nog verbeterpunten liggen.
Document Type: report
Language: Dutch; Flemish
Access URL: https://surfsharekit.nl/public/f74c5f61-eaf6-4e17-85ce-82f4bbd44ce1
https://surfsharekit.nl/objectstore/7ad1c71f-4a94-4612-bf8d-398dd7a1e727
Availability: http://www.hbo-kennisbank.nl/en/page/hborecord.view/?uploadId=sharekit_hu:oai:surfsharekit.nl:f74c5f61-eaf6-4e17-85ce-82f4bbd44ce1
Accession Number: edshbo.sharekit.hu.oai.surfsharekit.nl.f74c5f61.eaf6.4e17.85ce.82f4bbd44ce1
Database: HBO Kennisbank
Description
Abstract:Het is inmiddels breed geaccepteerd dat beslissingen die door AI-systemen worden genomen, uitlegbaar moeten zijn aan hun gebruikers. Toch blijft het in de praktijk vaak onduidelijk hoe die uitlegbaarheid concreet vorm moet krijgen. Vooral voor niet-technische gebruikers, zoals scha-debeoordelaars bij verzekeringsmaatschappijen, is het essentieel dat zij de beslissingen van een AI-systeem goed kunnen begrijpen én kunnen uitleggen aan klanten. Denk bijvoorbeeld aan het toelichten van een afgewezen schadeclaim of leningaanvraag. Hoewel het belang van verklaarbare AI algemeen wordt erkend, ontbreekt het vaak aan praktische handvatten om dit te realiseren. Daarom hebben we in deze handreiking inzichten samengebracht uit twee use cases binnen de financiële sector én uit een uitgebreide literatuurstudie. Hieruit zijn 30 aspecten van betekenisvolle uitleg van AI voortgekomen. Op basis van deze aspecten is een checklist ontwikkeld die AI-ontwikkelaars helpt om hun systemen beter uitlegbaar te maken. De checklist biedt niet alleen inzicht in hoeverre een AI-toe-passing op dit moment begrijpelijk is voor eindgebruikers, maar maakt ook duidelijk waar nog verbeterpunten liggen.