Regelgeving voor generatieve AI – wat dit voor jouw bedrijf kan betekenen

Salesforce

14 november 2023

Leer alles over generatieve AI-regelgeving en ontdek hoe het je bedrijf beïnvloedt: verken GAI-producten op de markt en wees je bewust van risico’s.

Als je je afvraagt of je tools voor generatieve AI (GAI) moet implementeren om je bedrijf te ondersteunen, ben je niet de enige. Deze technologie kan de productiviteit van werknemers een boost geven, maar is het ook veilig? Hoewel deze tools kunnen helpen bij zaken als marketing, klantenservice en data-inzichten, hebben businessleaders hun zorgen geuit over de potentiële impact van AI en de gevaren voor de samenleving. En sommigen zouden graag regelgeving zien voor generatieve AI.

Wat je moet weten

  • In onder andere de Europese Unie en de VS begint zich een antwoord op de roep om regelgeving te vormen.
  • Regels zouden snel vorm kunnen krijgen en verschillende overheden kunnen verschillende manieren van toezicht implementeren.
  • Als zakelijke beslisser moet je weten wat GAI is en hoe het je werk met andere bedrijven en consumenten beïnvloedt.

“De meeste landen proberen er gewoon voor te zorgen dat generatieve AI onderworpen wordt aan bestaande maatregelen op het gebied van privacy, transparantie, auteursrecht en accountability”, zegt Danielle Gilliam-Moore, Director Global Public Policy bij Salesforce.

Wat je bedrijf nu kan doen

  • Bekijk de generatieve AI-producten op de markt en kijk wat bruikbaar en zinvol is voor jouw bedrijf.
  • Stel de vraag: moet ik het intern bouwen of samenwerken met een externe leverancier zoals Salesforce, om de producten van die leverancier toe te voegen aan onze tech-stack.
  • Wees je bewust van eventuele risico’s.

“Het is belangrijk dat je weet hoe je generatieve AI gaat inzetten en dat je bewust bent van de nadelen”, aldus Gilliam-Moore.

Samenvatting voor executives

De ontwikkelingen rond GAI gaan razendsnel en regelgevers proberen te begrijpen hoe de technologie bedrijven en het publiek kan beïnvloeden. Onderstaande krantenkoppen over dit onderwerp geven aan dat het een belangrijk topic is vandaag de dag:

  • Industrieleiders die zich bezighouden met AI waarschuwen voor de potentiële existentiële bedreiging voor de toekomst van de mensheid als de technologie niet in toom wordt gehouden.
  • Google werkt samen met de EU aan het opstellen van een ‘AI-pact’ om vrijwillige regels op te stellen als noodoplossing terwijl wetgevers formele regelgeving voorbereiden.
  • De EU kijkt of ze oudere wetten nieuw leven kan inblazen om privacy- en veiligheidsproblemen rond generatieve AI aan te pakken.
  • Het Witte Huis zei dat het wetgeving rond AI zou steunen na een ontmoeting met CEO’s van techbedrijven.

Er wordt momenteel veel aandacht besteed aan GAI, en terecht. Het is belangrijk om op de hoogte te blijven van ontwikkelingen, ondersteunende platforms en de risico’s die het gebruik van AI of GAI met zich meebrengt.

Het achtergrondverhaal van generatieve AI-regelgeving

Bezorgdheid over kunstmatige intelligentie (AI) dateert al van jaren geleden toen discussies gingen over mogelijk banenverlies, ongelijkheid, vooroordelen, veiligheidskwesties en meer. Met de snelle groei van generatieve AI na de lancering van ChatGPT in november 2022, zijn de volgende redenen voor bezorgdheid hieraan toegevoegd:

  • Privacykwesties en datamining: bedrijven moeten transparant zijn over waar ze data verzamelen en hoe ze deze gebruiken.
  • Zorgen over auteursrechten: omdat GAI-tools putten uit enorm grote databronnen, neemt de kans op plagiaat toe.
  • Misinformatie: valse informatie zou zich sneller kunnen verspreiden met AI-chatbots, die ook volledig onjuiste verhalen hebben gecreëerd die hallucinaties worden genoemd.
  • Identiteitsverificatie: is wat je leest gemaakt door een mens of een chatbot? De behoefte bestaat om artikelen, posts op social media, kunst en nog veel meer te verifiëren.
  • Bescherming van kinderen: er is opgeroepen om ervoor te zorgen dat kinderen en tieners worden beschermd tegen alarmerende, door AI gegenereerde content op social media.

Dit alles heeft ertoe geleid dat regelgevers wereldwijd onderzoeken hoe GAI-tools data verzamelen en output produceren en hoe bedrijven de AI trainen die ze ontwikkelen. In Europa hebben landen snel de General Data Protection Regulation (GDPR of AVG) toegepast, die gevolgen heeft voor elk bedrijf dat binnen de EU werkt. Het is een van ’s werelds krachtigste wettelijke kaders voor privacy. De VS heeft geen vergelijkbare overkoepelende privacywetgeving. Dat kan veranderen, nu er vraag is naar meer regelgeving voor generatieve AI.

“Dit zijn veel van dezelfde zorgen die we al eerder hebben zien aanspoelen op de oevers van de technologiesector”, zei Gilliam-Moore.

“Op dit moment lijken de inspanningen rond regelgeving, inclusief onderzoeken, zich te richten op privacy, contentmoderatie en auteursrechten. Veel hiervan wordt al geregeld in de wet, dus regelgevers proberen ervoor te zorgen dat de wet ook geschikt is voor generatieve AI.”

Welke afwegingen moeten bedrijven maken?

Bedrijven vragen zich voortdurend af hoe deze tools hun bedrijf zullen beïnvloeden. Het gaat er niet alleen om waar de technologie toe in staat is, maar ook hoe de regelgeving een rol speelt bij de manier waarop bedrijven er gebruik van maken. Waar komen de data vandaan? Hoe worden ze gebruikt? Zijn klanten beschermd? Is er transparantie?

Ongeacht waar je bedrijf zaken doet of met wie, of je nu de technologie ontwikkelt voor andere bedrijven of rechtstreeks met consumenten communiceert, zorg ervoor dat je advocaten spreekt die de regelgeving voor generatieve AI volgen en die je kunnen helpen bij je proces.

“Praten met je vertrouwde adviseurs is altijd een goede eerste stap”, aldus Gilliam-Moore. “Innovatie gaat razendsnel. Dus de gesprekken die we nu voeren, kunnen in de komende zes maanden alweer verouderd zijn.”

Toezichthouders zijn bezorgd over de manier waarop bedrijven data verzamelen en hoe die informatie aan gebruikers wordt geleverd. Een beleid voor aanvaardbaar gebruik, dat wil zeggen een overeenkomst tussen twee of meer partijen (zoals een bedrijf en zijn werknemers of een universiteit en studenten) waarin het juiste gebruik bij toegang tot een bedrijfsnetwerk of internet wordt beschreven, kan helpen om naleving te waarborgen. Daarnaast is het belangrijk om de herkomst van data aan te tonen, een gedocumenteerd spoor dat kan aantonen waar data vandaan komen en waar ze zich op dat moment bevinden.

“Zonder data werkt dit alles niet”, aldus Gilliam-Moore.

Hoe kunnen kleine bedrijven compliant blijven?

Grotere bedrijven kunnen vaak investeren in R&D rond de technologie, vooral om compliant te blijven. Kleinere bedrijven hebben misschien niet de resources om hun due diligence uit te voeren, dus wordt het belangrijk om leveranciers en technologiepartners in hun ecosysteem de juiste vragen te stellen.

Hoewel Salesforce stappen onderneemt om vertrouwde generatieve AI te ontwikkelen voor zijn klanten, werken die klanten ook met andere verkopers en verwerkers. Ze moeten zich bewust blijven van mogelijke schade en er niet blindelings op vertrouwen dat alles wel oké is. Gilliam-Moore zegt dat kleinere bedrijven vragen moeten stellen als:

  • Voldoen jullie aan de GDPR (AVG)?
  • Voldoen jullie aan HIPAA, of welke wet dan ook die voor jullie sector geldt?
  • Hebben jullie een beleid voor aanvaardbaar gebruik?
  • Welke certificeringen hebben jullie?
  • Wat zijn jullie procedures op het gebied van data?
  • Hebben jullie beleidsregels waarmee jullie toezicht houden op de implementatie van deze technologie?

“Als je een kleiner bedrijf bent, bestaat de kans dat je erop moet vertrouwen dat je externe dienstverleners due diligence uitvoeren”, aldus Gilliam-Moore. “Kijk naar de privacyprotocollen, de beveiligingsprocedures, naar wat ze als schade en waarborgen beschouwen. Let daar goed op.”

Gerelateerde artikelen

Artificial intelligence en klantervaring

Artificial intelligence en klantervaring

Artificial Intelligence (AI) opent nieuwe en vergaande mogelijkheden voor organisaties om de klantervaring als nooit tevoren te personaliseren. KPMG onderzocht wat AI zal betekenen voor de klantervaring.

Van AI-implementatie naar ticketless bedrijf: een case study

Van AI-implementatie naar ticketless bedrijf: een case study

Met het implementeren van AIOps ontstaat ook de mogelijkheid van een ticketless bedrijf. Oftewel, het inzetten van AI om alle activiteiten, tickets en alerts uit te voeren, zonder hulp van menselijke vaardigheden. Dit lijkt een ambitieuze visie, maar bij Digitate geloven we dat dit mogelijk is. En om dat te bewijzen, beginnen we bij onszelf.

De grote uitdaging van duurzaamheidsdata oplossen

De grote uitdaging van duurzaamheidsdata oplossen

Een goed besluit is gebaseerd op goede data. Bedrijven moeten zich dan ook afvragen: hebben we deze data? Hoe krijgen we er toegang toe? Wie is er verantwoordelijk voor? In deze paper delen we hoe CIO’s en datamanagers de uitdaging van duurzaamheidsdata kunnen tackelen.