Zakelijk leiders zetten stappen om artificiële intelligentie (AI) op een verantwoordelijke manier in te zetten. Een grote meerderheid van organisaties die AI gebruiken – 72 procent van de organisaties wereldwijd – bieden hun technologiespecialisten ethiektrainingen en hebben ethische commissies ingesteld om het gebruik van AI te evalueren. Daarop duidt onderzoek van SAS, Accenture, Intel en Forbes Insights.

Dat bedrijven stappen ondernemen in de richting van ethische AI en zorgen voor toezicht op de toepassing van de technologie ligt voor de hand: verkeerde AI-output is niet zonder gevolgen. Van de organisaties die al AI hebben toegepast of van plan zijn dit te doen, verklaarde zestig procent dat ze zich zorgen maken over de impact van AI-gedreven beslissingen op klantbetrokkenheid – bijvoorbeeld dat hun acties onvoldoende empathie tonen of klanten minder vertrouwen in hen zullen hebben.

Leidende bedrijven

Organisaties die leidend zijn met de toepassing van AI – die de inzet van AI ‘succesvol’ of ‘zeer succesvol’ noemen – lopen voorop met verantwoord gebruik van AI. Bijna alle organisaties (92 procent) trainen medewerkers in ethiek, in vergelijking met 48 procent van andere organisaties die AI toepassen.

AI-leiders erkennen ook de sterke relatie tussen analytics en hun succes met AI. Acht op de tien binnen deze groep zegt dat analytics een belangrijke of centrale rol speelt in de AI-activiteiten van hun organisatie, tegen slechts veertien procent van de respondenten die nog niet hebben geprofiteerd van de inzet van AI.

Toezicht op AI niet optioneel

Ondanks de populaire notie dat AI zonder menselijke tussenkomst werkt, laat de studie zien dat AI-leiders van mening zijn dat voor deze technologieën toezicht niet optioneel is. Bijna driekwart van de AI-leiders zegt zorgvuldig toezicht te houden met ten minste een keer per week een evaluatie van uitkomsten (bij minder succesvolle AI adopters is dit 33%). Daarnaast zegt 43 procent van de AI-leiders dat hun organisatie een proces heeft voor het uitbreiden of afkeuren van resultaten als ze tijdens een controle als discutabel zijn beoordeeld (bij minder succesvolle AI adopters gaat het om 28%).

Desondanks blijkt uit het onderzoek dat het toezicht op AI nog een lange weg te gaan heeft voordat dit op hetzelfde niveau ligt als de snelheid van de ontwikkelingen in AI-technologie.

Concrete onderzoeksresultaten

In totaal maakt bijna driekwart van de organisaties wereldwijd gebruik van AI in een of meer bedrijfsdomeinen. Ongeveer de helft van de AI-adopters geeft aan dat hun AI-inzet een succes is geweest. Zij noemen nauwkeuriger forecasting en besluitvorming, succesvollere klantenwerving en hogere productiviteit als belangrijkste voordelen van AI.

Bijna de helft van de AI-adopters zegt over het algemeen dat hun organisatie AI volledig heeft geïmplementeerd. Andere adopters bevinden zich nog in de experimenteer- en prototypefase.

Respondenten onder C-level zijn eerder geneigd de impact van AI als iets positiefs te zien: meer dan de helft (55%) van hen zegt dat hun AI-inspanningen ‘succesvol’ of ‘zeer succesvol’ zijn geweest. Van de respondenten uit de C-suite meldt nog geen 40 procent dit.

Veel organisaties zien daarnaast in AI een voordeel voor hun personeel, omdat rollen strategischer van inhoud worden. 64 procent is het er sterk of helemaal mee eens dat ze de effecten al zien, omdat werknemers zich dankzij AI concentreren op meer strategische taken in plaats van operationele. Bijna een vijfde van de respondenten echter ziet “weerstand van werknemers als gevolg van zorgen over werkzekerheid” als uitdaging. Daarnaast onderschrijft 57 de stelling “We maken ons zorgen over de impact van AI op werknemersrelaties (werknemers kunnen zich bijvoorbeeld bedreigd of overbelast voelen).”

“Organisaties zijn zich meer gaan bezighouden met de zorgen die leven rondom AI, zoals een vooringenomen of oneerlijke behandeling van mensen”, zegt Rumman Chowdhury, responsible AI lead bij Accenture Applied Intelligence. “Toch moeten organisaties meer doen dan het instellen van ethische richtlijnen voor AI, die in lijn zijn met de hippocratische eed om geen kwaad te doen. Specifieke en technische richtlijnen zijn nodig om AI-systemen te ontwikkelen, die veilig, transparant en duidelijk zijn. Zo worden onbedoelde gevolgen en compliance-uitdagingen die negatief kunnen zijn voor individuen, bedrijven en de samenleving, voorkomen. Data-scientists kijken uit naar deze richtlijnen.”

Over het onderzoek

Forbes Insights heeft in juli 305 zakelijk leiders in Noord- en Zuid-Amerika, Europa en Azië/het Pacifisch gebied geënqueteerd. Meer dan de helft van de respondenten is CIO, CTO of CAO (chief analytics officer). De studie ‘AI Momentum, Maturity and Models for Success’, vond plaats in opdracht van SAS, Accenture en Intel.

Redacteur van IT Executive, met een interesse die de techniek voorbij gaat, altijd op zoek naar de menselijke factor. Een kwart eeuw ervaring in alles waaraan geschreven taal te pas komt. Van huis uit historicus met een sterke oriëntatie op politiek en maatschappij. Bereikbaar via felix[at]ictmedia.nl.

LAAT EEN REACTIE ACHTER

Laat alsjeblieft een reactie achter!
Laat hier je naam achter