Bij het Erasmus MC werkt men hard aan ethische kaders voor AI in de gezondheidszorg. Het initiatief ‘Responsible and Ethical AI in Healthcare Lab’ (REAHL) pakt de ethische uitdagingen aan die ontstaan bij artificial intelligence in zorgomgevingen. We spraken over het initiatief met Internist-Intensivist Michel van Genderen.
In mei 2023 maakte techpartner SAS bekend zich bij het lab met Erasmus MC en TU Delft aan te sluiten. De TU Delt is betrokken vanwege de kennis rond de technische implementatie. Van Van Genderen begrijpen we dat Erasmus MC voor 2023 al aan de weg timmerde met verantwoorde inzet van AI in de zorg. Twee jaar later zijn er belangrijke stappen gezet in het onderzoek naar AI-adoptie en de uitdagingen die spelen bij vooraanstaande Europese ziekenhuizen en zorgsystemen.
Kort voor ons gesprek geeft Van Genderen tijdens een gevulde keynotezaal op SAS Innovate 2025 precies aan waar het bij het REAHL om te doen is. “Als IC-arts is er niets bevredigender dan het leven van een kritieke patiënt redden en zien hoe diegene terugkeert in de maatschappij. Een grote uitdaging in mijn werk is echter dat ik beslissingen met grote impact moet nemen in een omgeving onder hoge druk”, aldus Van Genderen.
Toenemende druk op de zorg
De afgelopen jaren is de druk op zorgverleners alleen maar toegenomen door personeelstekorten enerzijds en een stijgende zorgvraag anderzijds. Van Genderen benadrukt dat het investeren in datagedreven technologie en AI-gebaseerde oplossingen kan helpen bij het aanpakken van deze uitdagingen. “Maar laat me duidelijk zijn: ik zal AI alleen gebruiken wanneer ik er vertrouwen in heb dat het veilig, uitlegbaar en betrouwbaar is. In mijn werk kan een beslissing het verschil betekenen tussen leven en dood.”
Het Nederlandse lab heeft zich daarom verbonden aan de ethische principes opgesteld door de Wereldgezondheidsorganisatie. Samen met de WHO, de TU Delft en SAS werkt REAHL nu aan het vertalen van abstracte ethische waarden naar concrete, praktisch toepasbare richtlijnen.
De rol van TU Delft moet hier met de technische kennis zeker uitgelicht worden. Die partij wist begin dit jaar nog accreditatie te krijgen van de WHO voor zijn Digital Ethics Centre. De universiteit fungeert als ‘WHO Collaboration Centre in the field of Ethics and Governance of AI in Healthcare’. Het adviseert de Wereldgezondheidsorganisatie op ethische aspecten en reguleringen die met AI in de gezondheidszorg te maken hebben.
Van theorie naar praktijk
Binnen REAHL is iets als ModelOps een bepalende techdiscipline. Het stelt het lab in staat modellen te monitoren en te beoordelen, waardoor basiszaken als functioneren in beeld komen. Daarnaast zorgt het ervoor dat modellen uitlegbaar, transparant en betrouwbaar zijn.
De vraag wanneer een organisatie klaar is voor AI, is cruciaal. REAHL heeft daarom een initiatief opgezet voor transatlantische samenwerking tussen ziekenhuizen in de VS en Europa. “Er zijn duidelijk regionale verschillen, maar we moeten begrijpen dat de mondiale uitdagingen om verantwoorde AI aan het bed van de patiënt te ontwikkelen en implementeren gelijk zijn”, stelt Van Genderen.
Bij het Erasmus MC komen vanwege de hoge expertise vaak de ziekste patiënten binnen. Daar komen uitdagingen bij kijken, bijvoorbeeld bij het bepalen van de behandeling. Van Genderen stelt dat hier kansen lagen om de manier van werken te veranderen. Het personeel moest vertrouwd raken met AI-gebaseerde oplossingen. “Samen met Microsoft, SAS en Notilyze hebben we een real-time dashboard voor mechanische beademingsprestaties ontwikkeld dat ons continu inzicht geeft”, aldus de arts. “Het aantal patiënten dat optimale mechanische beademingsinstellingen kreeg, verdubbelde toen zowel verpleegkundigen als artsen hun behandeling afstemden op basis van de input van de data.”
Vijf sleutelaanbevelingen voor AI-implementatie
Er zijn inmiddels vijf belangrijke aanbevelingen opgesteld om het volwassenheidsniveau van een AI-ziekenhuis te beoordelen. Ze hebben betrekking op Model Inventory, Real-world Data Testing, Governance, Bias Assessment en Adoption & Scalability. Van Genderen licht de AI Model Inventory toe. “Elke organisatie, dus ook elk ziekenhuis, moet altijd weten welke modellen momenteel in productie zijn, maar misschien nog belangrijker: wat is het beoogde gebruik?”
Samen met SAS en de WHO heeft REAHL gepubliceerd over de urgentie van het opzetten van zo’n register. “Dit is van groot belang omdat een dergelijk register ons helpt bij het volgen van modelimplementatie, het valideren van transparantie en het delen van best practices. In ons vakgebied is dit vanzelfsprekend, en het is essentieel voor vertrouwen en verantwoording. Zonder vertrouwen en begrip zullen clinici het nooit aan het bed gebruiken bij het nemen van klinische beslissingen.”
Daarnaast wijkt Van Genderen uit over Bias Assessment. “Elke arts wil altijd weten welke modellen draaien en of het huidige model in deze specifieke situatie werkt voor deze specifieke patiënt op dit moment”, vertelt Van Genderen.
De sleutel tot succes
Eerder ontwikkelde het Erasmus MC een model dat zou helpen bepalen of het veilig was om een patiënt te ontslaan na een grote oncologische operatie. “Gelukkig voor ons gebeurde dit in een zeer beveiligde onderzoeksomgeving”, begint Van Genderen. “Tijdens deze fase verschoof een achtergrond-datatabel door een ziekenhuisupdate en daalde de modelprestatie. Het bleef zelfverzekerd aanbevelingen geven.”
Het ziekenhuis wist het in de onderzoeksomgeving op te merken. Wanneer het daadwerkelijk breed in de praktijk zou zijn uitgerold zonder modelbeheer, zou het waarschijnlijk onopgemerkt zijn gebleven. In de gezondheidszorg kun je zulke ernstige gevolgen je je niet permitteren. “Het gaat niet om AI doen, het gaat om het verantwoord doen”, besluit Van Genderen. “Maar om de verantwoorde inzet van AI te faciliteren, moet je evaluatie en monitoring op orde hebben.”
De boodschap van REAHL is wat dat betreft helder. Verantwoorde AI in de zorg begint bij verantwoorde ontwikkelaars, en succes wordt bepaald door multidisciplinaire samenwerking die ethiek, technologie en klinische expertise samenbrengt. AI kan dan hopelijk ook ver buiten de Nederlandse grenzen de gezondheidszorg verder brengen.
Tip: SAS wacht met beursgang: Marktvolatiliteit vraagt om geduld