Black Box AI

Wat betekent Black Box AI?

Black box AI is elk type van kunstmatige intelligentie (AI) dat zo complex is dat het besluitvormingsproces niet kan worden uitgelegd op een manier die gemakkelijk kan worden begrepen door mensen. Black box AI is het tegenovergestelde van verklaarbare AI (XAI).

Oorzaken van black box AI zijn onder andere:

Proprietary IT – de innerlijke werking van een AI-model wordt geheim gehouden om intellectueel eigendom te beschermen.

Diep leren – Diepe neurale netwerken (DNN’s) en diep lerende algoritmen cre?ren duizenden (en soms miljoenen) niet-lineaire relaties tussen invoer en uitvoer. De complexiteit van de relaties maakt het voor een mens moeilijk om uit te leggen welke kenmerken of interacties tot een specifieke output hebben geleid.

Black box AI is om een aantal redenen ongewenst. Als de interne werking van een AI-systeem niet wordt begrepen, wordt het steeds moeilijker om vast te stellen waarom een AI-model bevooroordeelde outputs produceert en waar fouten in de logica optreden. Het maakt het ook moeilijk om te bepalen wie verantwoordelijk moet worden gehouden als de output fouten bevat of ronduit gevaarlijk is.

Techopedia legt uit wat Black Box AI is

Als een AI-systeem transparant en interpreteerbaar is, wordt het makkelijker om vertrouwen te hebben in de integriteit van het systeem en de nauwkeurigheid van de output. Transparantie en interpreteerbaarheid kunnen op verschillende manieren worden bereikt, bijvoorbeeld door algoritmen te ontwerpen en te gebruiken die gemakkelijk door mensen te begrijpen zijn, door ervoor te zorgen dat menselijke feedback altijd een rol speelt in het besluitvormingsproces en door tools te ontwikkelen die visuele uitleg kunnen geven over hoe een AI-toepassing tot een beslissing komt.

Populaire tools die worden ontwikkeld om black box AI te voorkomen en te zorgen voor verantwoorde AI zijn onder andere:

• LIME (Local Interpretable Model-Agnostic Explanations)
• SHAP (SHapley Additieve exPlanaties)
• ELI5 (Leg uit alsof ik 5 ben)
• DALEX (Beschrijvende mAchine Leeruitleg)

Noot van de redactie: Volgens de Apple Stijlgids moeten schrijvers de term black box vermijden en in plaats daarvan de termen closed box of opaque box gebruiken. De schrijver van deze definitie wil “mystery box” voorstellen als vervangend label.