(Deep)fake it till you make it?

deepfake

Een ‘deepfake’ is een foto, video, geluidsfragment of tekst die door middel van artificiële intelligentie (‘AI’) zodanig is bewerkt dat deze vaak niet van echt te onderscheiden is. Door de deepfaketechnologie lijkt het bijvoorbeeld alsof iemand iets heeft gezegd of gedaan, terwijl dat moment nooit heeft plaatsgevonden. Ook presentatrice Welmoed Sijtsma werd het slachtoffer van een ‘deepfake’ video; haar gezicht werd met behulp van AI verwisseld met het gezicht van een vrouwelijke pornoactrice in een pornovideo. Welmoed Sijtsma heeft hiertegen aangifte gedaan bij de politie, waarna de Nederlandse rechter voor het eerst heeft geoordeeld over (de kwalificatie van) een deepfake. Hoewel de rechtbank in deze uitspraak met name ingaat op het strafrecht, bespreken wij in deze blog ook nog kort de Algemene Vordering Gegevensbescherming (‘AVG’), het portretrecht en de AI-verordening.

Is een deepfake een afbeelding van iemand?

In deze recente uitspraak lag de vraag voor of het (openbaar) maken van een deepfake pornovideo kan worden gezien als een strafbaar feit. Strafbaar is namelijk het (zonder toestemming) maken van een afbeelding van seksuele aard. Nu was het de vraag of een deepfake ook kan worden gezien als een afbeelding van seksuele aard. Om deze vraag te kunnen beantwoorden heeft de rechter gekeken naar de grammaticale uitleg van ‘een afbeelding’ en naar de bedoeling van de wetgever ten tijde van de invoering van de strafbaarstelling.

Het begrip ‘afbeelding’

De rechtbank heeft overwogen dat het begrip ‘afbeelding’ een zeer ruim begrip is en dat daar – zeker in onze huidige maatschappij – ook een digitaal gemanipuleerde video onder hoort te vallen. Voor wat betreft de bedoeling van de wetgever overweegt de rechtbank dat de strafbaarstelling is ingevoerd om de privacy van personen te beschermen, in dit geval de seksuele privacy. De rechtbank is van oordeel dat ook seksueel beeldmateriaal in de vorm van een deepfake onder dit te beschermen belang kan vallen. De mate van de schending van de privacy is namelijk niet anders bij een niet of nauwelijks van echt te onderscheiden deepfake. De voorwaarde is aldus wel dat het beeldmateriaal in kwestie zodanig echt lijkt, dat op het eerste gezicht niet duidelijk is dat het gaat om beelden die gemanipuleerd zijn.

De rechtbank oordeelt dan ook dat een deepfake kwalificeert als een afbeelding, mits het beeldmateriaal zodanig echt lijkt dat het op het eerste gezicht door een redelijk denkend mens niet van echt te onderscheiden is. De persoon op het beeldmateriaal kan namelijk wel weten dat de beelden niet echt zijn, maar voor de buitenwereld kan dit vaak (zeer) moeilijk te onderscheiden zijn.

Voor wat betreft de deepfake pornovideo van Welmoed Sijtsma geldt dat de rechtbank heeft geoordeeld dat de video de realistische indruk wekt dat de presentatrice degene is die de seksuele handelingen verricht en ondergaat. De door verdachte (openbaar) gemaakte deepfake levert dan ook een strafbaar feit op. Dat de verdachte op de video een tekst heeft geplaatst dat het gaat om een deepfake, maakt dit oordeel volgens de rechtbank niet anders.

Hoe zit het met de persoonsgegevens?

Wanneer een gezicht – zoals het gezicht van Welmoed Sijtsma – wordt gebruikt in een deepfake, dan is óók sprake van het gebruik van persoonsgegevens. Hetzelfde kan gelden wanneer bijvoorbeeld het hele lichaam of de stem wordt gebruikt in een deepfake. Dat sprake is van het gebruik van persoonsgegevens brengt met zich mee dat moet worden voldaan aan de vereisten uit de AVG.

Zo moet de maker van de deepfake beschikken over een geldige reden voor het gebruik van de persoonsgegevens; een zogenoemde grondslag. Deze grondslag zal doorgaans zijn gelegen in toestemming van de persoon waarvan de persoonsgegevens worden gebruikt. Daarnaast moet deze persoon bijvoorbeeld ook altijd zijn of haar toestemming weer kunnen intrekken of een verzoek kunnen indienen om de persoonsgegevens en daarmee de deepfake te (laten) verwijderen. Aan dit verzoek zal in de meeste gevallen gehoor moeten worden gegeven nu het belang van deze persoon doorgaans zwaarder zal wegen dan die van de maker van de deepfake. Indien een bekend persoon wordt getoond op de deepfake kan mogelijk het belang van de maker zwaarder wegen, bijvoorbeeld in het kader van de vrijheid van meningsuiting, maar ook dit zal vaak lastig aan te tonen zijn.

De AVG is overigens niet van toepassing wanneer de deepfake wordt gedeeld binnen een beperkte kring van personen, zoals vrienden of familie. Dit persoonlijk gebruik is echter aan strikte voorwaarden gebonden. Op het moment dat de deepfake bijvoorbeeld openbaar wordt gedeeld via Facebook, dan is de AVG wel direct van toepassing. Bovendien mag de deepfake – ook voor persoonlijk gebruik – de afgebeelde persoon nooit schaden; in dat geval kunnen andere regels gelden zoals het strafrecht of het aansprakelijkheidsrecht.

Hoe zit het met het portretrecht?

Niet alleen het strafrecht en de AVG kunnen een rol spelen, ook de auteurswet komt kijken bij het verspreiden van deepfakes. Indien een persoon herkenbaar in beeld wordt gebracht, is al snel sprake van een portret in de zin van de Auteurswet. Of sprake is van een portret legt de Hoge Raad[1] als volgt uit: “een portret als bedoeld in art. 21 Aw is een afbeelding, op welke wijze ook vervaardigd, van een persoon die in deze afbeelding kan worden herkend.” Bij een deepfake zal vaak een persoon te herkennen zijn, waardoor al snel sprake is van een portret. In de hiervoor besproken strafzaak was de deepfaketechnologie óók doelbewust ingezet om een herkenbare afbeelding van Welmoed Sijtsma te genereren. Deze video valt aldus ook te kwalificeren als een portret van de presentatrice. Dat het de presentatrice niet zelf was, maakt niet uit om te kunnen kwalificeren als een portret. Zo heeft de Hoge Raad ook geoordeeld dat de look-a-like van Max Verstappen in een reclame te kwalificeren was als een portret van Max Verstappen. Max verstappen werd immers herkend in de reclame en dus het portret.

Ten aanzien van het portretrecht (wanneer deze niet in opdracht is gemaakt) is het uitgangspunt dat zelfs wanneer de geportretteerde geen toestemming heeft gegeven voor de openbaarmaking van het portret, het portret in beginsel gewoon mag worden gebruikt. Alleen wanneer de geportretteerde een redelijk belang heeft dat zich verzet tegen openbaarmaking, mag geen gebruik gemaakt worden van het portret.

Redelijk belang

Een redelijk belang kan bestaan uit zowel een commercieel als moreel belang. Een moreel belang is bijvoorbeeld het recht op privacy van de geportretteerde. Wanneer met de publicatie van een afbeelding inbreuk wordt gemaakt op de persoonlijke levenssfeer van de geportretteerde, dan betreft dit een redelijk belang om de afbeelding niet te laten publiceren. Of van zodanige inbreuk sprake is, dient te worden beoordeeld aan de hand van de feitelijke omstandigheden; met name de aard en mate van intimiteit waarin de geportretteerde is afgebeeld, het karakter van de foto en de context van de publicatie zijn van belang. Wanneer het bijvoorbeeld gaat om een deepfake pornovideo, is het goed voorstelbaar dat dit er een redelijk belang bestaat voor verzet tegen openbaarmaking. Naast het moreel belang dat meeweegt, hoeven geportretteerden bovendien in beginsel niet te accepteren dat hun portret voor commerciële doeleinden wordt gebruikt.

Op dit redelijk belang bestaan ook weer uitzonderingen, bijvoorbeeld in het geval van een evidente parodie of wanneer de vrijheid van meningsuiting prevaleert boven het recht op privacy. Zoals hiervoor onder de AVG ook al werd aangegeven, hebben bekende mensen meer te dulden. Hun portretten mogen bijvoorbeeld sneller worden gebruikt als dit het publiek debat dient. Bij een deepfake pornovideo zal echter evident geen sprake zijn van het gebruik van portret voor het publiek debat en zal de geportretteerde een redelijk belang hebben om zich tegen de deepfake te verzetten.

Deepfakes en de AI-verordening

Ook in de aankomende Europese AI-verordening (lees meer hier) wordt aandacht besteed aan deepfakes. De AI-verordening legt een transparantieverplichting op aan de gebruikers van deepfakes: tijdig, duidelijk en zichtbaar moet worden medegedeeld dat de inhoud kunstmatig is gegenereerd of gemanipuleerd, evenals de naam van degene die het heeft gegenereerd of gemanipuleerd. Op deze transparantieverplichting kunnen uitzonderingen gelden. Zo is in het kader van het opsporen, vervolgen of onderzoeken van strafbare feiten het gebruik van deepfakes mogelijk wel toegestaan. De definitieve tekst van de AI-verordening is echter op dit moment nog niet bekend, maar dát deepfakes aan (nog meer) regels onderworpen zijn staat vast.

Mocht u vragen hebben over het juridisch kader bij deepfakes of wilt u meer weten over dit onderwerp? Neem dan contact op met ons AI-team. Zij helpen u graag verder.

[1] Hoge Raad 22 april 2022, ECLI:NL:HR:2022:621.

Heeft u vragen of wilt u een afspraak maken?