DNB over kunstmatige intelligentie

Uitgave: Pensioen Bestuur & Management (PBM) nummer 4 2019

JOOST VAN DER BURGT, SENIOR BELEIDSADVISEUR ARTIFICIAL INTELLIGENCE DNB Rubriek: Nieuwe ontwikkelingen
Geplaatst op 15-10-2019
DNB over kunstmatige intelligentie Deze zomer heeft DNB een discussiedocument gepubliceerd met richtlijnen voor het gebruik van kunstmatige intelligentie (artificial intelligence – AI). Financiële ondernemingen, waaronder pensioenfondsen en pensioenuitvoerders, maken in toenemende mate gebruik van AI om hun bedrijfsprocessen, producten en diensten te verbeteren. Een verantwoorde inzet van AI bij financiële dienstverlening betekent volgens DNB dat pensioenfondsen bij het ontwikkelen van toepassingen rekening moeten houden met aspecten als soliditeit, verantwoordelijkheid, eerlijkheid, ethiek, deskundigheid en transparantie.

Hoewel AI pas recent zijn intrede lijkt te hebben gedaan in onze maatschappij bestaat het onderzoeksveld al sinds begin jaren ’50 van de vorige eeuw. In de eerste decennia bleef AI hoofdzakelijk een academische bezigheid, maar door de exponentieel toenemende rekenkracht van computers en eveneens exponentieel toenemende data, heeft AI in de laatste tien jaar een flinke vlucht genomen. Met al die rekenkracht en data is AI vandaag de dag tot verbluffende prestaties in staat. Computers verslaan de slimste mensen bij ‘Jeopardy’, schaken, ‘Go’, Texas Hold’em poker en complexe strategische computerspellen als ‘StarCraft II’. Tesla’s autopilot kan tegenwoordig beter autorijden dan de gemiddelde Nederlander en Netflix weet beter welke series ik leuk vind dan ikzelf. We gaan in een steeds hoger tempo van science fiction naar science fact. Het aantal commerciële toepassingen neemt dan ook in hoog tempo toe. AI wordt inmiddels beschouwd als de basis voor de Vierde Industriële Revolutie, en heeft daarmee eveneens grote gevolgen voor de financiële sector – inclusief de pensioensector.

Kansen voor de pensioensector
Een snelle online-zoekopdracht levert de nodige voorbeelden op van pensioenfondsen die AI reeds inzetten in hun bedrijfsvoering. Zo geeft Centraal Beheer APF aan dat het AI inzet voor een betere communicatie en dienstverlening voor zijn deelnemers en APG meldt dat het AI gebruikt om te anticiperen op de informatiebehoefte van zijn deelnemers. En het grootste pensioenfonds van de wereld (het Japanse GPIF) kondigde onlangs aan AI in te gaan zetten in hun portfoliomanagement en vermogensbeheer. Met behulp van AI kunnen pensioenfondsen en pensioenuitvoerders hun bestaande bedrijfsprocessen verbeteren en nieuwe toegevoegde waarde aan hun deelnemers leveren. Tegelijkertijd is er kans op incidenten met AI. Zeker wanneer deze technologie niet op een verantwoorde manier wordt ingezet kan het een pensioenfonds en zijn deelnemers schaden – met mogelijk ernstige gevolgen voor de reputatie van de pensioensector als geheel.

Risico’s van AI
De toepassing van AI is niet zonder risico’s. De afgelopen jaren hebben zich de nodige incidenten met betrekking tot AI voorgedaan. Zo duidde Google’s Photo-app zwarte mensen als gorilla’s aan. En zijn veel online-vertalingsprogramma’s verre van gender-neutraal. En er is een aantal dodelijke ongevallen voorgevallen met zelfrijdende auto’s van Tesla en Uber. Hoewel deze voorbeelden wellicht niet direct relevant zijn voor de pensioensector, gelden voor pensioenfondsen die AI willen toepassen in hun bedrijfsprocessen evengoed risico’s. Onderstaand geef ik twee voorbeelden ter illustratie.
1. Het trainen van complexe AI-toepassingen vergt niet alleen ontzettend veel data, maar ook goede datakwaliteit. Vrijwel iedereen kent het adagium ‘garbage in, garbage out’. Bij het gebruik van AI is datakwaliteit echter nog veel belangrijker dan bij traditionele modellen het geval is. Immers, wanneer het AI-model op slechte kwaliteit data is getraind dan zullen zelfs wanneer je het model daarna goede kwaliteit data voert, de uitkomsten nog steeds onbetrouwbaar zijn. Wanneer dergelijke fouten in een systeem sluipen dat wordt gebruikt voor het vermogensbeheer van een pensioenfonds kunnen de gevolgen al snel desastreus zijn.
2. De inzet van AI behelst ook het risico op een (onbedoelde) oneerlijke behandeling van deelnemers. Een bekend voorbeeld hiervan is het systeem dat Amazon tot vorig jaar gebruikte om sollicitanten te beoordelen. Door de mannelijke dominantie in de tech-wereld was dit systeem gekant tegen vrouwelijke sollicitanten. Een soortgelijk probleem zou zich voor kunnen doen wanneer AI bijvoorbeeld wordt ingezet bij het opsporen van pensioenfraude. Door de aanwezigheid van bias in de trainingsdata zouden bepaalde bevolkingsgroepen in dit geval systematisch benadeeld kunnen worden.

Richtlijnen voor een verantwoord gebruik van AI
Vanwege bovengenoemde (en andere) risico’s is het belangrijk dat pensioenfondsen en pensioenuitvoerders AI op een verantwoorde manier inzetten, dat wil zeggen op basis van een beheerste en integere bedrijfsvoering.
- AI-toepassingen moeten eerst en vooral solide zijn, dat wil zeggen dat ze betrouwbaar en accuraat moeten zijn. Ze moeten ook op voorspelbare wijze functioneren binnen de grenzen van de geldende wet- en regelgeving.
- Pensioenfondsen moeten bereid zijn om hun verantwoordelijkheid te nemen. Als AI-toepassingen onverwachts niet naar behoren functioneren, kan dit het fonds, zijn klanten en andere belangrijke stakeholders schaden.
- Voor het maatschappelijk vertrouwen in de financiële sector is eerlijkheid belangrijk. AI-toepassingen mogen bepaalde groepen deelnemers niet onbedoeld benadelen.
- En omdat AI-toepassingen taken overnemen waar voorheen menselijke intelligentie voor nodig was, speelt ook ethiek een rol. Pensioenfondsen moeten ervoor zorgen dat hun deelnemers en andere stakeholders op de juiste manier behandeld worden en geen schade lijden door het gebruik van AI.
- Binnen pensioenfondsen moet iedereen – van de werkvloer tot de bestuurskamer – over de juiste mate van deskundigheid beschikken en de voordelen en beperkingen kennen van de AI-systemen waarmee ze werken.
- Transparantie ten slotte houdt in dat pensioenfondsen moeten kunnen uitleggen hoe en waarom ze AI in hun bedrijfsprocessen toepassen, en hoe deze toepassingen precies functioneren.

In het door DNB gepubliceerde discussiedocument worden deze principes verder uiteengezet. DNB wil graag een brede discussie over het verantwoord gebruik van AI in de financiële sector. De stem van de pensioensector mag hierbij uiteraard niet ontbreken.
Reageren op het discussiedocument?
Dat kan tot 18 oktober, via ai@dnb.nl

De link naar het DNBulletin met het discussiedocument over AI: https://www.dnb.nl/nieuws/ nieuwsoverzicht-en-archief/DNBulletin2019/ dnb385020.jsp