‘If you don’t invest in risk management, it doesn’t matter what business you’re in, it’s a risky business.’(Gary Cohn)

Onzekerheid

risicomanagementOns leven is vol onzekerheid en toeval. Daarbij is er een verschil tussen risico (je kunt de kansen inschatten) en onzekerheid (je weet de kansen niet). AI kan beter omgaan met risico, slecht met echte onzekerheid. Echter ook bij de risico-inschatting is voorzichtigheid geboden. AI voorspelt patronen, maar niet buiten-patroon-situaties. Is de inzet van AI dan wel zinvol bij risicomanagement? AI faalt bij situaties die lijken op onbekende omstandigheden, gebeurtenissen buiten het patroon, zeldzame incidenten, een context die niet in data bestaat en ethische of menselijke afwegingen. Dit is dit precies de situaties zijn waar onzekerheid het grootst is.

Geen enkel systeem, biologisch, economisch of technologisch, werkt zonder onzekerheid.

AI lijkt soms “zeker” omdat het numerieke voorspellingen geeft, maar die voorspellingen zijn dus altijd probabilistisch. Bij ons begrip van risico geldt: slechte of beperkte data leiden tot slechte beslissingen. Voor AI geldt precies hetzelfde: AI kan alleen leren van wat het gezien heeft.
AI heeft voldoende voorbeelden nodig om een patroon te herkennen. Wanneer een situatie zeldzaam is, zijn twee problemen onvermijdelijk: te weinig voorbeelden (het model leert geen stabiel patroon) en te hoge onzekerheid ( voorspellingen worden onbetrouwbaar, maar vaak zonder waarschuwing).

Risico

De risicotheorie draait om één basisvraag: wat kan er misgaan, hoe waarschijnlijk is dat, en hoe erg is het? De theorie combineert dus kansen met gevolgen. Beide elementen zijn essentieel, een gebeurtenis met kleine kans maar grote impact kan riskanter zijn dan een gebeurtenis met grote kans maar kleine impact. In formulevorm: "risico"="kans"×"impact". AI-systemen produceren probabilistische uitkomsten. Elke voorspelling, hoe zeker hij ook klinkt, is een kansinschatting.

Daarom zijn AI-uitkomsten nooit volledig voorspelbaar of gegarandeerd correct. Onvolledige, vertekende of verouderde data vergroten direct het risico op verkeerde beslissingen.
Daarom is datakwaliteit een eerstelijns risicobeheersmaatregel. De risicotheorie geeft organisaties de concepten en instrumenten om AI-toepassingen niet te beoordelen op hoe goed ze meestal werken, maar op hoe veilig ze zijn wanneer het ertoe doet.

Voorspellen

AI is sterk bij situaties met veel herhaalbare patronen, veel data, weinig onverwachte variatie en duidelijke statistische relaties. Voorbeelden zijn beeldherkenning, taalpatronen en voorspelbaar consumentengedrag. AI kan schatten wat waarschijnlijk komt, maar begrijpt niet waarom. Dit speelt bijvoorbeeld bij taalmodellen: ze voorspellen het volgende woord, maar begrijpen de inhoud niet.

In risicomanagement gaat het vaak niet om de gemiddelde uitkomst, maar om de spreiding van mogelijke uitkomsten. AI-modellen hebben exact hetzelfde probleem: ze kunnen gemiddeld goed presteren en toch vijf keer per dag catastrofaal falen. Kansen op zeldzame, extreme gebeurtenissen zijn vaak groter dan we denken. AI-systemen falen vaak juist in dit soort situaties, omdat ze getraind worden op “typische” data.

Modelleren

De principes waarmee we risico, kans en toeval begrijpen — zoals variabiliteit, spreiding, zeldzame gebeurtenissen, datakwaliteit en modelonzekerheid — zijn dezelfde principes die bepalen hoe AI werkt en waar het faalt. AI is in essentie een systeem dat probeert onzekerheid te modelleren.

AI-systemen zijn waarschijnlijkheidsmodellen. Een AI-model (zoals een taalmodel) zet invoer om in een kansverdeling over mogelijke uitkomsten. Daarbij spelen drie bronnen van onzekerheid: dataonzekerheid (de wereld is variabel en de input is nooit volledig), modelonzekerheid (een model is altijd een benadering van de werkelijkheid) en contextonzekerheid (omstandigheden tijdens gebruik verschillen van de trainingssituatie).

Omdat AI fundamenteel probabilistisch is, kan verantwoord gebruik slechts worden gegarandeerd via een risicotheoretische benadering. Dit maakt het mogelijk om kans, impact en context in samenhang te beoordelen. Daarmee vormt risicotheorie de sleutel tot het begrijpen, reguleren en veilig inzetten van AI in publieke en private domeinen.

Literatuur

Maggiori, E. (2023). Smart Until It's Dumb: Why artificial intelligence keeps making epic mistakes (and why the AI bubble will burst). Applied Maths Ltd
Pishro-Nik, H. (2023). PRACTICAL UNCERTAINTY: Useful Ideas in Decision-Making, Risk, Randomness & AI
Woldendorp, H., A. Jeninga en A. Eliens. (2025). Kun je me doorverbinden met …mezelf? Een reisgids voor kinderen en volwassenen. Uitgever Virtuoos