Vorig jaar versloeg de AlphaGo-computer van Google een Chinese grootmeester in het razend ingewikkelde bordspel Go. Een doorbraak voor artificiële intelligentie. Volgens Ronald Jeurissen, hoogleraar bedrijfsethiek, en Jan Veldsink, kerndocent AI en Cyber bij Nyenrode Business Universiteit, neemt AI een steeds grotere rol in.

Zo stippelt onze mobiele telefoon een filevrije route voor ons uit. Het onderliggend mechanisme is dataverzameling, oftewel big data. Wie we zijn en wat we doen is steeds meer publiek bezit. Daardoor ontstaan nieuwe, morele vragen. Welke rol kan ethiek spelen?

De impact van artificiële intelligentie (AI) zal niemand onberoerd laten. AI brengt een maatschappelijke aardverschuiving teweeg: macht, inkomen en kennis komen in handen van degenen die de baas zijn over de data. Dat zijn de ‘Zuckerbergs’ van deze wereld, maar ook de overheid. Het individu lijkt aan het kortste eind te gaan trekken. Het concept van de vrije samenleving is in het geding.

Anderzijds groeit de bewustwording: Bits of Freedom en de Piratenpartij heffen de waarschuwende vinger. Omdat alertheid geboden is, moet het onderwerp ethiek het bedrijf ingetrokken worden. Bij Rabobank is er bijvoorbeeld een commissie ethiek die technologische beslissingen langs de ethische meetlat legt. Vakkennis is noodzakelijk voor een gedetailleerd moreel kompas. Elk bedrijf zou een chief ethics officer moeten aanstellen om de juiste zoekvragen te formuleren.

Privacy

In de ethische discussie staat privacy met stip bovenaan. De bescherming tegen inbreuk in de private levenssfeer krijgt een extra dimensie nu technologie via big data ons overal kan volgen. Voor bedrijven biedt dat een kans om verder te gaan in gepersonaliseerde aanbevelingen.

Maar wie is eigenaar van die berg gegevens? Het systeem is in disbalans, met de corporates in het voordeel. De consument tast in het duister (‘wie heeft mijn gegevens, en belangrijker, wat gebeurt ermee?’) ook omdat er veel gebeurt op geaggregeerd, onzichtbaar niveau. Daarom moet het eigendomsrecht op de schop; het moet bij het individu komen te liggen.

Gedragskeuzes

Dataprivacy leidt tot nieuwe kwesties. Gedragskeuze bijvoorbeeld. Laat je een bezoek aan die datingsite achterwege omdat je (potentiële) werkgever meekijkt? Mensen zijn geneigd hun gedrag aan te passen in de richting van het veilige midden; en dat is een inperking in vrijheid. Big data werkt ook de zogenaamde hyperidentiteit in de hand, omdat het patronen in digitaal klikgedrag herkent.

Zoekt een vegetariër bijvoorbeeld bepaalde informatie of producten op, dan krijgt hij een terugkoppeling die in het eigen straatje past. Zo kijk je steeds meer in je eigen spiegel, lees je ‘The Daily Me’. Dat is een verschraling, terwijl een technologische samenleving juist behoefte heeft aan een diversiteit aan opinies.

Databeleid

De hamvraag is: hoe verhoud ik mij als mens tot de technologie? Voor big data geldt dat de menselijke maat is zoekgeraakt. Bedrijven varen op het gouden principe van klantvertrouwen, maar dat lijntje wordt dunner. De consument slikt dataverzameling voor zoete koek, maar heeft ook de vrijheid om zoekmachine Google in te ruilen voor DuckDuckGo. Wie glashelder is over het databeleid, heeft als bedrijf in toenemende mate een streepje voor.

“Big data werkt ook de zogenaamde hyperidentiteit in de hand, omdat het patronen in digitaal klikgedrag herkent”

Bedrijven maken al brancheafspraken over databeleid. Een volgende stap zou zijn om een algemeen keurmerk op te zetten. En om consumenten te raadplegen in een panel. Zo kan je boven de ontwikkelingen hangen en kijken naar de impact van AI op de samenleving. Die toekomstige technologische samenleving hoeft niet slechter te zijn; dat doet geen recht aan schitterende AI-toepassingen zoals medische diagnostiek en behandeling en smart farming.

Loont het, mag het, hoort het?

Het werkt verhelderend om te doorzien dat we in een krachtenveld zitten van drie vragen: loont het, mag het en hoort het? De zogenaamde driehoek van markt, wet en ethiek. De wetgeving voor databeleid van organisaties is stevig. Zo wordt deze maand (mei 2018) de Algemene verordening gegevensbescherming (AVG) van toepassing. Dat betekent dat er vanaf die datum één privacywetgeving is voor de hele Europese Unie. Deze verordening regelt onder andere dat data niet mag worden verwerkt zonder expliciete toestemming. Wetgeving is echter per definitie een volgend instrument en kan niet alles vastleggen.

Stel vragen

Het is daarom essentieel dat de partijen van het krachtenveld met elkaar in gesprek gaan. Technologie wordt slimmer; apparaten kunnen antwoorden geven die passend zijn in de context. Denk bijvoorbeeld aan de praatpaal Alexa. Handig voor allerlei weetjes, maar ondertussen luistert deze mee in huis. Stel vragen daarover. Hetzelfde geldt voor superieur intelligente computers die het menselijk vernuft overstijgen. Moet de computer de mens dienen en gehoorzamen?

Er zal nog veel misgaan in AI, maar ook dat heeft een signaalfunctie die aanzet tot nadenken. Zou technologie meer als een collega moeten zijn? Iemand die gelijk heeft, maar die je ook kan uitzetten, klusjes kan geven en meer? Dat zijn legitieme vragen. Want op de werkvloer is de robot in opmars. AI zit al in directiekamers aan tafel om te helpen bij strategische beslissingen.

Blijf kritisch op AI

Ook een samenleving met verregaande technologie kunnen wij samen inrichten. De bal ligt bij de nieuwe machthebbers, voornamelijk bedrijven. Zelfonderzoek is geen luxe. Daarnaast is het belangrijk dat de consument vaker kritisch nadenkt, en het niet allemaal laat gebeuren.

Een organisatie als Bits of Freedom zet aan tot kritisch nadenken, maar als het gaat om technologie en consumentenorganisaties is er nog winst te boeken. De ethiek heeft geen pasklare antwoorden. Dat is niet erg. Het is zaak dat de markt, overheid en de consument actief denkbeelden vormen over hoe wij verstandig met AI willen omgaan.


AI rules the world

Nyenrode Business Universiteit organiseert op 30 mei het seminar AI and Ethics. Tijdens het seminar wordt vanuit verschillende invalshoeken gekeken naar de wijze waarop AI de digitaliserende wereld beïnvloedt. Hoe kan AI worden ingezet zodat niet alleen de grote corporates maar ook individuen daar baat bij hebben? En in hoeverre heeft AI een effect op de vrijheden van de mens?

Door Ronald Jeurissen, hoogleraar bedrijfsethiek bij Nyenrode Business Universiteit, en Jan Veldsink, adviseur bij Rabobank en kerndocent AI en Cyber bij Nyenrode Business Universiteit. Beiden zijn gekoppeld aan de Modulair Executive MBA in Business & IT.