Het nieuwe AI-ethieklab moet ervoor zorgen dat kunstmatige intelligentie veilig ingezet kan worden in de zorg voor patiënten. ‘Door corona zijn we geconfronteerd met tekorten aan verpleegkundigen in de ziekenhuizen en de hele zorgketen’, legt Michel van Genderen internist-intensivist van het Erasmus MC uit. ‘Als IC-afdeling concluderen we dat wij ons anders moeten voorbereiden op de toekomst. Daarom zijn we begin vorig jaar gestart met de DataHub om AI-modellen te ontwikkelen.’
REAiHL
Het ethieklab heet Responsible and Ethical AI in Healthcare Lab (REAiHL) en is ontstaan op initiatief van Michel van Genderen, internist-intensivist van het Erasmus MC. Vanuit de convergence van het Erasmus MC, TU Delft en de Erasmus Universiteit zijn experts aangehaakt. Softwarebedrijf SAS maakt het initiatief mede mogelijk door het sponseren van PhD’ers, waardoor in totaal vijf promovendi aan de slag kunnen in REAiHL. SAS focust zich in de samenwerking met ziekenhuizen op het ontwikkelen en voornamelijk implementeren van AI. Daarbij vinden ze het belangrijk ethiek zo veel mogelijk te verankeren in de technologie. De standplaats van het ethieklab is de DataHub van het Erasmus MC.
Meer tijd
AI kan aan de hand van data en computermodellen uitkomsten van patiënten voorspellen en het zorgsysteem zo efficiënter inrichten. Eén van de mogelijke oplossingen op de steeds grotere zorgvraag en het tekort aan personeel, vindt Van Genderen. ‘De zorgmedewerker krijgt zo meer tijd om aan de patiënt te besteden en dat zorgt er uiteindelijk voor dat mensen niet uit de zorg vertrekken, maar juist in de zorg blijven: minder werkdruk, betere kwaliteit.’
‘Momenteel haalt minder dan twee procent van alle AI-studies de klinische praktijk’
Het Erasmus MC wil de ontwikkelingen van AI omarmen, maar wil ook dat het uitlegbaar is en voldoet aan alle ethiekprincipes, vertelt Van Genderen. ‘De komende drie tot vijf jaar hopen we dat de computer ons kan helpen of verder behandelen op de IC zinvol is of niet bij een bepaalde patiënt. Dat gebeurt nu in patiëntenoverleggen met medisch specialisten. Soms hebben wij het gevoel dat de laatste inzichten ontbreken, dus willen we weten of data en AI ons hierbij kunnen helpen.’
Hamvraag
Durven artsen de behandeling te staken omdat de computer dat adviseert? Dat is de hamvraag volgens Van Genderen. ‘Het model adviseert, maar de zorgmedewerker blijft in charge.’
‘Wij hopen dat het ethieklab rust gaat brengen’
Mede-initiatiefnemer Diederik Gommers merkt dat er in de praktijk veel behoefte is naar de ethische AI principes. ‘Momenteel haalt minder dan twee procent van alle AI-studies de klinische praktijk, mede omdat het ontbreekt aan ethiek.’ Uit studies blijkt dat 77 procent van de IC-verpleegkundigen klaar is voor AI, maar dat er ook veel vragen zijn en er onzekerheid is. ‘Dat komt bijvoorbeeld omdat er onduidelijkheid over de verantwoordelijkheid is’, weet Gommers. ‘Wij hopen dat het ethieklab daarin rust zal brengen.
Ethiekprincipes
De World Health Organisation (WHO) heeft zes ethiekprincipes opgesteld voor AI in de zorg. Een van de belangrijkste is volgens Van Genderen dat gelijkheid wordt nagestreefd. ‘Een model wordt ontwikkeld op basis van data en daarin zit vaak ongelijkheid, bijvoorbeeld in huidskleur. Het is belangrijk om hiervan bewust te zijn en ernaar toe te werken dat AI modellen op iedereen even goed van toepassing is. Daarom zijn we vereerd dat experts van de TU Delft, zoals Jeroen van den Hoven, Stefan Buijsman en Jacobien Oosterhoff, deel uitmaken van het AI-ethieklab.’
Jeroen van den Hoven, die de WHO hielp bij het opstellen van de principes, zegt: ‘De toepassingen van AI in de zorg zullen in de komende jaren een grote vlucht nemen. Wij zijn zeer verheugd dat wij samen met de collega’s van het Erasmus MC en met steun van SAS met een groep PhD studenten nu echt werk kunnen gaan maken van de ethiekprincipes van de WHO voor Responsible AI in de kliniek.’
In het ethieklab werken straks verpleegkundigen, artsen, datascientists, dataengineers en ethici straks samen. ‘Maar de komende tijd willen we nog meer partijen benaderen of zij ook willen aansluiten’, vertelt Van Genderen. ‘We beginnen bij de patiëntenraad.’
Erkenning
Het National Innovation Center for Artificial Intelligence (ICAI) heeft de REAiHL erkend als officieel lab. Een ICAI-lab is een onderzoekssamenwerking tussen industriële, overheids- of non-profit-partners en kennisinstituten. ICAI-labs moeten voldoen aan eisen voor data, expertise en capaciteit. Er wordt van ze verwacht dat de uitkomsten geoperationaliseerd worden voor de echte wereld.
Lees ook: Artificial intelligence helpt opname patiënt te verkorten
Op de foto staan (v.l.n.r.) Phaedra Kortekaas (SAS), Diederik Gommers (Erasmus MC), Antonie Berkel (SAS), Reggie Townsend (SAS), Jacobien Oosterhoff (TU Delft), Michel van Genderen (Erasmus MC), Stefan Buijsman (TU Delft), Jeroen van de Hoven (TU Delft).
