Eerste AI-ethieklab voor de zorg geopend

Redactie

15 juli 2023

Personeelstekort en hoogwaardige medische zorg blijven bieden zijn de belangrijkste redenen waarom de toepassing van AI in de zorgsector een hoge vlucht zal nemen. Het net geopende AI-ethieklab van het Erasmus MC, de TU Delft en softwarebedrijf SAS gaat zich bezighouden met ethisch verantwoorde en klinisch relevante AI.

Daarbij komen vragen aan de orde als: Durven artsen in de toekomst een behandeling te stoppen op basis van informatie die een computermodel geeft? Kan een patiënt eerder dan protocollair vastgesteld naar huis na een operatie? Of kan een IC-verpleegkundige met behulp van AI aan meer patiënten goede zorg verlenen?

Bij al deze vragen is het belangrijk dat de onderliggende AI-modellen die artsen ondersteunen bij het maken van zulke beslissingen, ethisch verantwoorde aanbevelingen doen. “De WHO heeft daar zes kernprincipes voor opgesteld, zoals duidelijkheid over de verantwoordelijkheid en het waarborgen van eerlijkheid en toepasbaarheid voor elke individuele patiënt,” zegt Stefan Buijsman, universitair docent ethiek aan de TU Delft. “De grote uitdaging is dat het vaak helemaal niet vanzelfsprekend is wat het precies betekent dat zo’n model eerlijk is en hoe je dat dan in de prakrijk garandeert”, aldus Jeroen van den Hoven, directeur van het TU Delft Digital Ethics Centre, die heeft bijgedragen aan de WHO-principes.

Het Responsible and Ethical AI in Healthcare Lab (REAiHL) wil hierop antwoord geven. “De klinische expertise van Erasmus MC is hierbij leidend – zij komen met de vraagstelling en gaan uiteindelijk met de modellen werken” zegt Buijsman. “Als TU Delft zijn wij al twee decennia lang toonaangevend op het gebied van digitale ethiek – hoe vertalen we ethische waarden naar ontwerpeisen voor ingenieurs?” Naast verantwoord ontwerp zal de TU Delft ook een belangrijke rol spelen bij het aantonen van de klinische meerwaarde van ontwikkelde AI-modellen.

“Aan de ene kant betreft dat het aantonen van de positieve impact op de patiëntenzorg,” zegt Jacobien Oosterhoff, universitair docent Artificial Intelligence for Healthcare Systems aan de TU Delft. “Voor raketten naar Mars is meer bekend hoe je die veilig in een afgelegen gebied kunt testen, maar bij AI voor patiëntenzorg hebben we nog veel open vragen hoe we deze veilig kunnen testen. Aan de andere kant gaat het om het effectief integreren van de AI-modellen in de klinische workflow, zodat het artsen en verpleegkundigen ook daadwerkelijk gaat ondersteunen. Deze open vragen hopen we in het lab uit te zoeken. Met artsen, ingenieurs, verpleegkundigen, datawetenschappers en ethici tezamen, een unieke synergie.”

Het nieuwe lab is ontstaan op initiatief van internist-intensivist Michel van Genderen van het Erasmus MC. Ook Diederik Gommers, hoogleraar Intensive Care Medicine bij het Erasmus MC, is nauw betrokken. “De initiële focus van het nieuwe AI-ethieklab is dan ook dat het best practices voor de Intensive Care moet opleveren,” zegt Buijsman. “Maar het uiteindelijke doel is dat we een generalistisch framework ontwikkelen voor hoe AI ziekenhuisbreed veilig en ethisch toegepast kan worden. We verwachten dan ook al snel met use cases van andere klinische afdelingen aan de slag te gaan.”

De samenwerking in het AI-ethieklab sluit perfect aan bij de onderzoeksvisie van de TU Delft: Impact for a better society. Op dit moment vindt nog geen twee procent van alle AI-studies de weg naar de kliniek. Door het opstellen van richtlijnen voor AI-modellen die technisch correct, ethisch verantwoord, klinisch relevant en praktisch in gebruik zijn, verwachten de onderzoekers de impact van AI in de zorg flink te vergroten.

Gerelateerde artikelen

AI stuwt smart manufacturing naar duurzame toekomst

AI stuwt smart manufacturing naar duurzame toekomst

De industriële sector ondergaat een metamorfose – automatisering alleen is niet langer genoeg. Fabrikanten kampen met voortdurende druk: strenge regelgeving, kortere productlevenscycli en consumenteneisen aan duurzaamheid, verstoringen in de toeleveringsketen en altijd aanwezige druk op de kosten.

De AI Act ontcijferd

De AI Act ontcijferd

In dit document worden de mogelijke gevolgen van de AI-wet voor organisaties onderzocht, waarbij wordt ingegaan op de structuur, verplichtingen en tijdschema’s voor naleving. Daarnaast wordt er een actieplan voorgesteld waarmee organisaties rekening kunnen houden.

Artificial intelligence en klantervaring

Artificial intelligence en klantervaring

Artificial Intelligence (AI) opent nieuwe en vergaande mogelijkheden voor organisaties om de klantervaring als nooit tevoren te personaliseren. KPMG onderzocht wat AI zal betekenen voor de klantervaring.

Van AI-implementatie naar ticketless bedrijf: een case study

Van AI-implementatie naar ticketless bedrijf: een case study

Met het implementeren van AIOps ontstaat ook de mogelijkheid van een ticketless bedrijf. Oftewel, het inzetten van AI om alle activiteiten, tickets en alerts uit te voeren, zonder hulp van menselijke vaardigheden. Dit lijkt een ambitieuze visie, maar bij Digitate geloven we dat dit mogelijk is. En om dat te bewijzen, beginnen we bij onszelf.