Artificiële intelligentie (AI) is inmiddels doorgedrongen tot veel aspecten van het dagelijks leven. De zorg blijft verhoudingsgewijs achter in deze snelle ontwikkelingen, ondanks de potentie van AI voor het verbeteren van zorg en het verlagen van zorgkosten. AI kent dan ook zorgspecifieke uitdagingen, waaronder adoptie in bestaande zorgprocessen, het spanningsveld tussen bewijzen en (betaald) toepassen, en een grote verscheidenheid aan ‘narrow’ AI-producten met een onduidelijke meerwaarde. Het merendeel van AI die voor de zorg wordt ontwikkeld, haalt het dan ook niet tot de kliniek.
Vanuit de zorg wordt de taak om ontwikkeling en implementatie blijvend bij te sturen daarom gezien als urgenter dan ooit. In het Erasmus MC wordt deze urgentie ook gevoeld: er zijn veel initiatieven rondom AI-ontwikkeling en -toepassing, maar deze hebben nog een specifieke focus waardoor ze nog niet geschikt zijn om de ervaring breder te gebruiken. Ook ontbreekt het aan inzicht in de kwaliteit van ontwikkeling, waardoor onderwerpen soms enerzijds onderbelicht blijven en anderzijds opnieuw uitgevonden. Dit ontwerp heeft daarom als primair doel deze situatie te verbeteren middels een proces voor ontwikkeling, validatie, en gebruik van AI dat voldoet aan wet- en regelgeving en veilig gebruik. Ten tweede moet het proces implementatie niet vertragen – idealiter zelfs versnellen.
Op basis van bestaande kaders en met aanvulling uit literatuur en kennis in huis is een proces voor AI ontworpen, eerst op hoofdlijnen (fases) en vervolgens uitgediept in aandachtspunten per fase. Er is binnen het proces specifiek aandacht voor uitbreiding van de levenscyclus van AI met de fases ‘Gebruik en monitoring’ en ‘Buitengebruikstelling’, omdat deze nog geen onderdeel waren van de huidige bestaande kaders, terwijl ze nodig zijn voor verantwoord en veilig gebruik van AI. Het proces is geëvalueerd met en door experts in het Erasmus MC om te zorgen dat het voldoet aan de eisen t.a.v. wet- en regelgeving en dat het veilig en verantwoord in gebruik is, en aansluit op bestaande procedures en werkwijzen. Ook is het getoetst aan de architectuurkaders van het Erasmus MC. Vervolgens zijn een aantal use cases geïdentificeerd die representatief zijn voor verschillende scenario’s (in verschillende stadia van de AI-levenscyclus, zowel in de zorg als in de bedrijfsvoering, en zowel zelfontwikkelde als extern aangekochte AI-toepassingen). Het ontworpen proces is aan de hand van deze use cases samen met eindgebruikers geëvalueerd en gevalideerd.
Het uiteindelijke ontwerp draagt bij aan compliance en kwaliteit van ontwikkelde en gebruikte AI-toepassingen, al is het daarvoor wel noodzakelijk dat gebruikers zich bewust zijn van het bestaan van het proces zodat ze naar de juiste kennis en inzichten worden geleid, en dat ze daarin begeleid worden. De snelheid van het proces is afhankelijk van hoe veel kennis, kunde, en middelen aanwezig zijn in de afzonderlijke fases. Het Erasmus MC AI-expertisecentrum in oprichting heeft als doel de zichtbaarheid en actualiteit van het proces en ondersteuning van gebruikers te verbeteren. Het ontworpen proces voor AI zorgt voor afspraken op beleidsniveau. In een volgende fase zal daarom stroomlijning plaatsvinden op het niveau van (zorg)proces, informatie, applicatie, en infrastructuur om kwalitatieve, compliant, en efficiënte AI-ontwikkeling en toepassing in het Erasmus MC te realiseren.