De EU kondigde onlangs in een whitepaper aan dat er regelgeving komt voor kunstmatige intelligentie, om af te dwingen dat bedrijven en overheid verantwoordelijker met technologie omgaan. Dat is hard nodig, want er is een brede maatschappelijke roep naar regelgeving.

De discussie laaide onlangs weer op nadat bekend werd dat er een startup was die drie miljard foto’s van mensen van het internet geschraapt had en politiediensten een dienst aanbood om foto’s van verdachte personen te matchen voor hun identiteit.

Lokale overheden, zoals San Francisco, waren al begonnen met het aan banden leggen van gezichts-herkenningssoftware in camera’s, en andere overheden volgden het voorbeeld snel. Zelfs de digitale reuzen vragen inmiddels om regelgeving zodat duidelijk wordt wat nu wel en niet acceptabel gebruik van technologie is.

Maar goed, terug naar de whitepaper van de EU. Die lijkt een ommezwaai te behelzen, want in 2019 was het standpunt nog dat het beter was voor organisaties om een set van principes te hanteren. Een en ander heeft te maken met de wisseling van de wacht; nieuwe politieke leiders hebben nieuwe prioriteiten.

Wat is eigenlijk beter? Heldere regelgeving of een beroep doen op de ethiek van bedrijven? Het grote voordeel van regelgeving is dat het onderwerp niet meer vrijblijvend is. Iedere organisatie zal er wat mee moeten, anders zijn er duidelijke consequenties.

Hetzelfde hebben we onlangs gezien met de AVG-privacywetgeving. Het nadeel is dat het onderwerp ethiek naar beneden wordt getrokken: regelgeving waar je aan moet voldoen. Punt. Dit terwijl ethiek meer verbonden hoort te zijn met waarden en principes. Regelgeving vertelt je wat je verplicht moet doen, ethiek houdt je de spiegel voor over wat je eigen motivatie is om het juiste te doen.

Maar dat betekent niet dat regelgeving niet nodig is. Het is een noodzakelijke stap die past in de natuurlijke groei van technologieën met maatschappelijke impact (en technologie heeft eigenlijk altijd maatschappelijke impact).

Het begint altijd met innovatie en het op de markt brengen van nieuwe ideeën. En sommige ideeën werken nu eenmaal beter dan andere. We leren door het maken van fouten. De startup met drie miljard foto’s van mensen is zo’n geval. Tenminste, dat hoop ik dan maar.

Daarna komt er een fase van regulering waarin we gaan vastleggen wat we acceptabel en niet acceptabel vinden. Zelden is dit waterdicht en de leercurve verschuift naar de conflicten die ontstaan tussen de controlerende instanties en het bedrijfsleven (of overheid). We leren door het creëren van jurisprudentie, hoe de regelgeving geïnterpreteerd moet worden.

En zo ontstaat er, als het goed is, een patroon van verantwoordelijk gebruik en komen we in de fase aan waar technologie gewoon een onderdeel is van onze sociale infrastructuur. We leren over verantwoordelijk gebruik middels de ontstane best practices.

Kijk bijvoorbeeld naar de laatste versies van de besturingssystemen van smartphones. Die hebben functionaliteit ingebouwd om je te helpen bij het beperken van het gebruik.

Met kunstmatige intelligentie gaat het ook die kant op. Regelgeving kan tot hogere complexiteit leiden, en vaak zijn we bang dat het ten koste gaat van de vooruitgang. Ik denk echter dat het een noodzakelijk onderdeel is van vooruitgang.

Frank Buytendijk is futurist en Research Fellow bij Gartner Research & Advisory en pioniert op het gebied van digitale filosofie en ethiek, en digitalisering van de maatschappij

REAGEREN

Plaats je reactie
Je naam