Er is een radicale verschuiving zichtbaar in de rollen verantwoordelijk voor het leiden en handhaven van AI-ethiek in organisaties. Hierop duidt een nieuwe, wereldwijde studie van het IBM Institute for Business Value (IBV). Op de vraag welke functie primair verantwoordelijk is voor AI-ethiek, wezen acht van de tien respondenten op een niet-technische beslisser, zoals de CEO, als hoofdverantwoordelijke. Dit is een sterke stijging ten opzichte van 2018, toen slechts 15 procent van de belangrijkste beslissers op het gebied van AI en ethiek géén technische achtergrond had.

Volgens de ondervraagden zijn de meest verantwoordelijken voor AI en ethiek achtereenvolgens CEO’s (28%), bestuursleden (10%), general counsels (10%), privacy officers (8%) en risk & compliance officers (6%). Daarbij noemt tweederde van de respondenten de CEO of een andere beslisser op C-niveau als degene met een sterke invloed op de ethische strategie. Meer dan de helft noemt echter (ook) de richtlijnen van het bestuur (58%) en de aandeelhouders (53%).

De wereldwijde studie geeft ook aan dat er, ondanks dat een sterke noodzaak wordt gevoeld voor bevordering van betrouwbare AI, tussen de intentie van leiders en zinvolle actie een kloof blijft bestaan. Zo zijn bijna acht op de tien ondervraagde CEO’s bereid ethische praktijken inzake AI te implementeren, maar uiteindelijk heeft minder dan een kwart van de organisaties er naar gehandeld.

Het werken aan betrouwbare AI, inclusief betere prestaties in vergelijking met peers op het gebied van duurzaamheid, sociale verantwoordelijkheid, diversiteit en inclusie, wordt door driekwart van de ondervraagden echter wel gezien als een strategische onderscheidende factor en organisaties beginnen ethische mechanismen voor AI te implementeren.

Meer dan driekwart van de beslissers die dit jaar werden ondervraagd, is het ermee eens dat AI-ethiek belangrijk is voor hun organisaties, ten opzichte van ongeveer de helft vier jaar geleden. Bijna de helft (45%) van de respondenten zegt dat hun organisaties AI-specifieke ethische mechanismen hebben gecreëerd, zoals een beoordelingskader voor AI-projectrisico’s en een audit-/beoordelingsproces.

Bijna zeven op de tien ondervraagden erkent dat het hebben van een diverse en inclusieve werkplek belangrijk is om vooroordelen in AI te verminderen, maar bevindingen geven aan dat AI-teams nog steeds aanzienlijk minder divers zijn dan het personeelsbestand van de organisatie: 5,5 keer minder open richting vrouwen, 4 keer minder inclusief LGBT+ individuen en 1,7 keer minder etnisch inclusief.

“Aangezien veel bedrijven tegenwoordig AI-algoritmen in hun hele bedrijf gebruiken, worden ze mogelijk geconfronteerd met toenemende interne en externe eisen om deze algoritmen eerlijk, beveiligd en betrouwbaar te ontwerpen; toch is er in de sectoren weinig vooruitgang geboekt bij het inbedden van AI-ethiek in hun praktijken”, zegt Jesus Mantas, Global Managing Partner bij IBM Consulting. “Onze bevindingen van het IBV-onderzoek tonen aan dat het bouwen van betrouwbare AI een zakelijke noodzaak en een maatschappelijke verwachting is, niet alleen een kwestie van naleving. Als zodanig kunnen bedrijven een bestuursmodel implementeren en ethische principes verankeren in de volledige AI-levenscyclus.”

Over het onderzoek

Het onderzoek is in 2021 uitgevoerd door het IBM Institute for Business Value in samenwerking met Oxford Economics onder 1.200 beslissers uit 22 landen en 22 sectoren.