AI in actie: AI binnen de gezondheidszorg (8/12)

Er lijkt geen maat te staan op de opkomst van Artificial Intelligence (‘AI’). Door de opkomst van ChatGPT is AI in een korte tijd bekend geworden bij een breed publiek, maar AI omvat veel meer dan chatbots. Denk aan toepassingen op het gebied van gezondheid (zoals het detecteren van kanker), werkgelegenheid, videogames en jouw YouTube feed. AI komt terug in bijna alle facetten van het dagelijkse leven. Reden genoeg dus om stil te staan bij het juridisch kader van AI. In deze blogreeks behandelt het Holla AI-team verschillende juridische vraagstukken op het gebied van AI. Onderstaande blog is deel 8 van de reeks en gaat in op de toepasselijkheid van de Wet op de geneeskundige behandelingsovereenkomst (‘WGBO’) en de Verordening medische hulpmiddelen (‘Medical Device Regulation’, ofwel ‘MDR’) bij de inzet van AI.

De opkomst van AI-systemen in de zorg

In de zorg is de ontwikkeling en inzet van AI-systemen, zowel op internationaal als nationaal niveau, aan een opmars bezig. Denk aan AI-systemen voor het herkennen van ziektes, ‘chatbots’ voor patiënten zoals ChatGPT en robotgeassisteerde operaties. De mogelijkheden lijken oneindig. Door enkele ziekenhuizen, zoals het ETZ, UMCG en het Amsterdam UMC, worden als proef bijvoorbeeld al ChatGPT-modellen ingezet om patiëntvragen te beantwoorden. Dergelijke ‘chatbots’ worden niet alleen in Nederland ingezet. Als eerste ziekenhuis ter wereld gebruikt een ziekenhuis in Tel Aviv een chatbot voor de triage (ook wel: beoordeling) van patiënten. Bij aankomst ontvangen ze een link op hun telefoon, waarmee de triage meteen van start gaat. Het mechanisme neemt het klinische denkproces op zich, terwijl ChatGPT de communicatie met de patiënten uitvoert. Hoewel de Europese AI-verordening nog niet van kracht is, gelden er op dit moment al juridische kaders bij de ontwikkeling en inzet van een AI-systeem in de zorg. In deze blog gaan we kort in op de MDR en de WGBO.

Wanneer is de MDR van toepassing?

De MDR is van toepassingen op ‘medische hulpmiddelen’. Een medisch hulpmiddel is – kort gezegd – een instrument of apparaat dat door de fabrikant is bestemd om alleen of in combinatie te worden gebruikt bij de mens voor een of meer medische doeleinden. Een medisch doeleinde is een diagnose, monitoring, behandeling, verlichting of compensatie van enig letsel of een beperking. De kwalificatie van een hulpmiddel als ‘medisch hulpmiddel’ is dus afhankelijk van de intentie van de fabrikant. Doel van de MDR is het beschermen van patiënten en gebruikers met betrekking tot de veiligheid van medische hulpmiddelen.

MDR en AI

Een AI-systeem kan een hulpmiddel zijn en kan ook kwalificeren als een ‘medisch hulpmiddel’ in de zin van de MDR. Dit is het geval indien het AI-systeem door de fabrikant bestemd is om alleen of in combinatie te worden gebruikt bij de mens voor een of meer medische doeleinden. De MDR stelt een groot aantal eisen aan medische hulpmiddelen, met name aan de fabrikant. Een ‘fabrikant’ is: “de natuurlijke persoon of rechtspersoon die een medisch hulpmiddel vervaardigt of volledig reviseert of een hulpmiddel laat ontwerpen, laat vervaardigen of volledig laat reviseren en het onder zijn naam of merk verhandelt.” Net als een medisch hulpmiddel, zoals pacemakers of protheses, moeten AI-systemen deugdelijk en betrouwbaar zijn. De fabrikant moet erop toezien dat het hulpmiddel overeenkomstig de vereisten van de MDR zijn ontworpen en vervaardigd. Deze vereisten omvatten – kortgezegd – onder meer dat de fabrikant een risicomanagementsysteem moet opzetten en documenteren, een EU-conformiteitsverklaring moet opstellen en een CE-markering moet aanbrengen, technische documentatie moet bijhouden en een kwaliteitsmanagementsysteem moet invoeren. Deze vereisten stemmen grotendeels overeen met de vereisten zoals deze gaan gelden onder de AI-verordening voor AI-systemen met een hoog risico (zie ook onze eerste blog). Voor zorgaanbieders die gebruik willen maken van een AI-systeem die kwalificeert als een ‘medisch hulpmiddel’ gelden ook vereisten. Iedere zorgaanbieder dient zorgvuldig te zijn bij het gebruik, de aanschaf, het onderhoud en de bewaring van een medisch hulpmiddel. Doet de zorgaanbieder dat niet, kan dat reden zijn voor aansprakelijkheid. Daarnaast moeten zorgaanbieders voldoen aan de Wet kwaliteit, klachten en geschillen zorg (‘Wkkgz’). Op grond van de Wkkgz moet een zorgaanbieder ‘goede zorg’ leveren. Daaronder wordt in ieder geval verstaan zorg van goede kwaliteit en goed niveau, die onder meer veilig is. De zorgaanbieder moet zorgdragen voor veilige toepassing van medische technologie bij de zorgverlening in overeenstemming met de op zorgverleners rustende verantwoordelijkheid, voortvloeiende uit de professionele standaard. De zorgaanbieder dient voor de toepassing van medische technologie – dus ook technologie gebaseerd op AI – zorg te dragen voor schriftelijke vastlegging van taken, bevoegdheden, verantwoordelijkheden en bekwaamheidseisen voor degenen die daarbij betrokken zijn en de gegevens waaruit blijkt dat aan de bekwaamheidseisen wordt voldaan. Daarnaast is de zorgaanbieder verplicht om ‘calamiteiten’ te melden bij de Inspectie Gezondheidszorg & Jeugd (‘IGJ’), waaronder ook calamiteiten met AI-gestuurde medische hulpmiddelen.

Wanneer is de WGBO van toepassing?

Naast de regels van de MDR, kan ook de WGBO van belang zijn wanneer AI door zorgaanbieders wordt toegepast. De ‘overeenkomst inzake geneeskundige behandeling’ is geregeld in een aparte afdeling in het Burgerlijk Wetboek (‘Wet op de geneeskundige behandelingsovereenkomst’, ofwel ‘WGBO’). De behandelingsovereenkomst is een bijzondere vorm van de overeenkomst van opdracht. De overeenkomst strekt – kortgezegd – tot het verrichten van geneeskundige handelin­gen door een hulpverlener tegenover de patiënt. De WGBO kent bijzondere bepaling die, onder andere, betrekking hebben op informed consent, de geheimhoudingsplicht van de zorgverlener en de zorgplicht van de zorgverlener. Deze thema’s zijn óók van belang bij het toepassen van een AI-systeem in de zorg.

WGBO en AI

Voor het inzetten van AI-systemen in de zorg en de gegevensverwerking met en door het betreffende AI-systeem (zie ook onze tweede blog), geldt dat bovengenoemde thema’s uit de WGBO nagegaan moeten worden. In beginsel is toestemming van de patiënt nodig voor het inzetten van een AI-systeem. De patiënt moet daarover worden geïnformeerd en ook toestemming geven in vorm van informed consent. Uit de WGBO volgt verder dat een zorgverlener een geheimhoudingsplicht heeft over álle informatie die de zorgverlener op grond van de behandelrelatie met de patiënt bekend is geworden. Aan anderen dan de patiënt mag de zorgverlener in beginsel géén inlichtingen verstrekken (artikel 7:457 lid 1 BW), ook wel de ‘geheimhoudingsplicht’ genoemd. Op de geheimhoudingsplicht bestaat een aantal uitzonderingen. Van belang is onder andere om na te gaan of de toestemming van de patiënt voor het doorbreken van die geheimhoudingsplicht verondersteld mag worden. Dit zal per geval en per AI-systeem verschillen.

Want kunt u nu doen?

Maakt uw zorgorganisatie dus op dit moment gebruik van AI-systemen, dan adviseren wij u te controleren of dit momenteel al in overeenstemming is met de MDR en de WGBO. Mocht u hierover vragen hebben of heeft u hierbij hulp nodig? Neem dan contact op met ons AI-team. Zij helpen u graag verder.

Eerder verscheen in deze blogreeks:

• AI in auteursrechtelijk perspectief (5/12)
• AI en (on)eerlijke concurrentie (6/12)
• AI-chatbots op de werkvloer (7/12)