Aansprakelijkheid voor AI-gerelateerde schade in de zorg

Dient de patiënt altijd vooraf expliciet geïnformeerd te worden door de arts over het gebruik van AI als beslissingsondersteuning in de behandelingsovereenkomst? Kan de patiënt AI-gebruik dus ook weigeren?

De heersende opvatting op dit moment is dat de patiënt moet worden geïnformeerd over het feit dat de hulpverlener gebruikmaakt van een AI-systeem in het kader van de diagnosestelling, als onderdeel van de informatieplicht, art. 7:448 BW. Wij hebben nog geen wettelijke regels over het weigeren van AI, maar op dit moment is te redeneren dat een patiënt het gebruik van AI zou kunnen weigeren, althans dat hij mag aangeven dat hij graag wil dat alleen een ‘echt’ mens beoordeelt.

Het juridisch kader over het gebruik van een AI-systeem bij een diagnose is gelijk aan dat van het gebruik van een AI-systeem bij een behandeling.

Ter beantwoording van deze vraag verwijzen wij naar de informatie van de Europese Commissie. Specifiek is de definitie van ‘AI literacy’ ter beantwoording van deze vraag relevant: “skills, knowledge and understanding that allow providers, deployers and affected persons, taking into account their respective rights and obligations in the context of this Regulation, to make an informed deployment of AI systems, as well as to gain awareness about the opportunities and risks of AI and possible harm it can cause”.

AI-systemen kunnen geschikt zijn als ze ‘op grote schaal’ (en met goed gevolg) worden gebruikt. Op dit moment is dat nog niet zo, in verband met de snelle en constante ontwikkelingen. Is dat dan geen probleem?

De geschiktheid van het AI-systeem wordt bepaald aan de hand van de medisch wetenschappelijke inzichten en wetgeving. Het op grote schaal gebruiken is nu nog niet aan de orde, maar in de toekomst kan het een rol spelen bij de vraag naar de heersende inzichten. Als er dan geen waarschuwingen zijn uitgegaan over een bepaald apparaat en dat nog op grote schaal wordt gebruikt, dan zal het eerder geschikt dan ongeschikt worden bevonden.

De ongeschiktheid van AI-systemen is moeilijk aan te tonen vanwege ‘the black box’. Als patiënt ter bewijslevering vraagt naar kennis/kunde van de arts, moet het ziekenhuis die informatie dan vrijgeven? Waar staat de verzwaarde motiveringsplicht gecodificeerd?

Het is aan de patiënt om de ongeschiktheid aan te tonen. Het nieuwe bewijsrecht kan de patiënt behulpzaam zijn; er zijn wettelijk mogelijkheden om aan relevante stukken (ook vanuit de zorgaanbieder) te komen, desnoods met inschakeling van de rechter. Hieromtrent geldt verzwaarde motiveringsplicht: niet kan worden gevergd dat eiser (in dit geval: patiënt) een stelling onderbouwt voor zover de voor die onderbouwing benodigde gegevens zich bevinden in het domein van verweerder (in dit geval: zorgaanbieder) en eiser daartoe geen toegang heeft. Deze motiveringsplicht volgt uit de jurisprudentie van de Hoge Raad op dit terrein en is nog steeds de vaste regel sinds zo’n 40 jaar.