Eerste AI-ethieklab voor de zorg geopend

Redactie

15 juli 2023

Personeelstekort en hoogwaardige medische zorg blijven bieden zijn de belangrijkste redenen waarom de toepassing van AI in de zorgsector een hoge vlucht zal nemen. Het net geopende AI-ethieklab van het Erasmus MC, de TU Delft en softwarebedrijf SAS gaat zich bezighouden met ethisch verantwoorde en klinisch relevante AI.

Daarbij komen vragen aan de orde als: Durven artsen in de toekomst een behandeling te stoppen op basis van informatie die een computermodel geeft? Kan een patiënt eerder dan protocollair vastgesteld naar huis na een operatie? Of kan een IC-verpleegkundige met behulp van AI aan meer patiënten goede zorg verlenen?

Bij al deze vragen is het belangrijk dat de onderliggende AI-modellen die artsen ondersteunen bij het maken van zulke beslissingen, ethisch verantwoorde aanbevelingen doen. “De WHO heeft daar zes kernprincipes voor opgesteld, zoals duidelijkheid over de verantwoordelijkheid en het waarborgen van eerlijkheid en toepasbaarheid voor elke individuele patiënt,” zegt Stefan Buijsman, universitair docent ethiek aan de TU Delft. “De grote uitdaging is dat het vaak helemaal niet vanzelfsprekend is wat het precies betekent dat zo’n model eerlijk is en hoe je dat dan in de prakrijk garandeert”, aldus Jeroen van den Hoven, directeur van het TU Delft Digital Ethics Centre, die heeft bijgedragen aan de WHO-principes.

Het Responsible and Ethical AI in Healthcare Lab (REAiHL) wil hierop antwoord geven. “De klinische expertise van Erasmus MC is hierbij leidend – zij komen met de vraagstelling en gaan uiteindelijk met de modellen werken” zegt Buijsman. “Als TU Delft zijn wij al twee decennia lang toonaangevend op het gebied van digitale ethiek – hoe vertalen we ethische waarden naar ontwerpeisen voor ingenieurs?” Naast verantwoord ontwerp zal de TU Delft ook een belangrijke rol spelen bij het aantonen van de klinische meerwaarde van ontwikkelde AI-modellen.

“Aan de ene kant betreft dat het aantonen van de positieve impact op de patiëntenzorg,” zegt Jacobien Oosterhoff, universitair docent Artificial Intelligence for Healthcare Systems aan de TU Delft. “Voor raketten naar Mars is meer bekend hoe je die veilig in een afgelegen gebied kunt testen, maar bij AI voor patiëntenzorg hebben we nog veel open vragen hoe we deze veilig kunnen testen. Aan de andere kant gaat het om het effectief integreren van de AI-modellen in de klinische workflow, zodat het artsen en verpleegkundigen ook daadwerkelijk gaat ondersteunen. Deze open vragen hopen we in het lab uit te zoeken. Met artsen, ingenieurs, verpleegkundigen, datawetenschappers en ethici tezamen, een unieke synergie.”

Het nieuwe lab is ontstaan op initiatief van internist-intensivist Michel van Genderen van het Erasmus MC. Ook Diederik Gommers, hoogleraar Intensive Care Medicine bij het Erasmus MC, is nauw betrokken. “De initiële focus van het nieuwe AI-ethieklab is dan ook dat het best practices voor de Intensive Care moet opleveren,” zegt Buijsman. “Maar het uiteindelijke doel is dat we een generalistisch framework ontwikkelen voor hoe AI ziekenhuisbreed veilig en ethisch toegepast kan worden. We verwachten dan ook al snel met use cases van andere klinische afdelingen aan de slag te gaan.”

De samenwerking in het AI-ethieklab sluit perfect aan bij de onderzoeksvisie van de TU Delft: Impact for a better society. Op dit moment vindt nog geen twee procent van alle AI-studies de weg naar de kliniek. Door het opstellen van richtlijnen voor AI-modellen die technisch correct, ethisch verantwoord, klinisch relevant en praktisch in gebruik zijn, verwachten de onderzoekers de impact van AI in de zorg flink te vergroten.

Gerelateerde artikelen

Bedrijfsbeleid noodzakelijk om AI te laten werken

Bedrijfsbeleid noodzakelijk om AI te laten werken

Wanneer het gaat om generatieve AI zijn er grofweg twee soorten bedrijven: zij die all-in gaan en voor ieder bedrijfsproces kijken of er een geschikte AI-tool is, en zij die terughoudender zijn. Bij beide soorten organisaties is duidelijk AI-beleid noodzakelijk zodat werknemers weten waar ze aan toe zijn.

Privacy in de nieuwe wereld van AI

Privacy in de nieuwe wereld van AI

Wat zijn de gevolgen voor de privacy van de wijdverspreide toepassing van AI? Wat betekent dit voor bedrijven en wat zijn de belangrijkste stappen voor organisaties om te nemen om AI op een verantwoorde manier te gebruiken?