Studie: verantwoord gebruik AI op keerpunt

Redactie

19 april 2022

Er is een radicale verschuiving zichtbaar in de rollen verantwoordelijk voor het leiden en handhaven van AI-ethiek in organisaties. Hierop duidt een nieuwe, wereldwijde studie van het IBM Institute for Business Value (IBV). Op de vraag welke functie primair verantwoordelijk is voor AI-ethiek, wezen acht van de tien respondenten op een niet-technische beslisser, zoals de CEO, als hoofdverantwoordelijke. Dit is een sterke stijging ten opzichte van 2018, toen slechts 15 procent van de belangrijkste beslissers op het gebied van AI en ethiek géén technische achtergrond had.

Volgens de ondervraagden zijn de meest verantwoordelijken voor AI en ethiek achtereenvolgens CEO’s (28%), bestuursleden (10%), general counsels (10%), privacy officers (8%) en risk & compliance officers (6%). Daarbij noemt tweederde van de respondenten de CEO of een andere beslisser op C-niveau als degene met een sterke invloed op de ethische strategie. Meer dan de helft noemt echter (ook) de richtlijnen van het bestuur (58%) en de aandeelhouders (53%).

De wereldwijde studie geeft ook aan dat er, ondanks dat een sterke noodzaak wordt gevoeld voor bevordering van betrouwbare AI, tussen de intentie van leiders en zinvolle actie een kloof blijft bestaan. Zo zijn bijna acht op de tien ondervraagde CEO’s bereid ethische praktijken inzake AI te implementeren, maar uiteindelijk heeft minder dan een kwart van de organisaties er naar gehandeld.

Het werken aan betrouwbare AI, inclusief betere prestaties in vergelijking met peers op het gebied van duurzaamheid, sociale verantwoordelijkheid, diversiteit en inclusie, wordt door driekwart van de ondervraagden echter wel gezien als een strategische onderscheidende factor en organisaties beginnen ethische mechanismen voor AI te implementeren.

Meer dan driekwart van de beslissers die dit jaar werden ondervraagd, is het ermee eens dat AI-ethiek belangrijk is voor hun organisaties, ten opzichte van ongeveer de helft vier jaar geleden. Bijna de helft (45%) van de respondenten zegt dat hun organisaties AI-specifieke ethische mechanismen hebben gecreëerd, zoals een beoordelingskader voor AI-projectrisico’s en een audit-/beoordelingsproces.

Bijna zeven op de tien ondervraagden erkent dat het hebben van een diverse en inclusieve werkplek belangrijk is om vooroordelen in AI te verminderen, maar bevindingen geven aan dat AI-teams nog steeds aanzienlijk minder divers zijn dan het personeelsbestand van de organisatie: 5,5 keer minder open richting vrouwen, 4 keer minder inclusief LGBT+ individuen en 1,7 keer minder etnisch inclusief.

“Aangezien veel bedrijven tegenwoordig AI-algoritmen in hun hele bedrijf gebruiken, worden ze mogelijk geconfronteerd met toenemende interne en externe eisen om deze algoritmen eerlijk, beveiligd en betrouwbaar te ontwerpen; toch is er in de sectoren weinig vooruitgang geboekt bij het inbedden van AI-ethiek in hun praktijken”, zegt Jesus Mantas, Global Managing Partner bij IBM Consulting. “Onze bevindingen van het IBV-onderzoek tonen aan dat het bouwen van betrouwbare AI een zakelijke noodzaak en een maatschappelijke verwachting is, niet alleen een kwestie van naleving. Als zodanig kunnen bedrijven een bestuursmodel implementeren en ethische principes verankeren in de volledige AI-levenscyclus.”

Over het onderzoek

Het onderzoek is in 2021 uitgevoerd door het IBM Institute for Business Value in samenwerking met Oxford Economics onder 1.200 beslissers uit 22 landen en 22 sectoren.

Gerelateerde artikelen

Generatieve AI zorgt voor samensmelting fysieke en digitale wereld

Generatieve AI zorgt voor samensmelting fysieke en digitale wereld

Het groeiende gebruik van generatieve AI en andere technologieën legt de basis voor een nieuwe realiteit, waarin de fysieke en digitale werelden naadloos in elkaar overgaan. Dit is de belangrijkste uitkomst van een onderzoek in opdracht van Accenture, dat wijst op vier trends die deze geïntegreerde wereld mogelijk maken en de toekomst van zakendoen veranderen.

Naar verantwoorde AI met juiste governance

Naar verantwoorde AI met juiste governance

De groei van kunstmatige intelligentie die binnen organisaties steeds meer bepaald wordt door samenwerking met externe partijen, zet door. Vanwege de maatschappelijke risico’s die dit met zich mee kan brengen, is aandacht voor de governancestructuur rondom de ontwikkeling van kunstmatige intelligentie noodzakelijk.

‘Mens moet werken aan betere relatie met machine’

‘Mens moet werken aan betere relatie met machine’

In hoeverre zijn we nog de vormgevers van onze eigen toekomst? En wat kunnen we er zo nodig aan doen om ons te herpakken? Volgens Jochem Pasman, senior manager binnen het CIO Advisory Team van KPMG, draait het allemaal om de fenomenen ‘connected, powered, trusted’. Hij en de drie andere vooraanstaande domeinspecialisten hameren op een intensieve wisselwerking tussen mens en machine.