AI in actie: CE-markering en conformiteitsbeoordeling (11/12)

Er lijkt geen maat te staan op de opkomst van Artificial Intelligence (‘AI’). Door de opkomst van ChatGPT is AI in een korte tijd bekend geworden bij een breed publiek, maar AI omvat veel meer dan chatbots. Denk aan toepassingen op het gebied van gezondheid (zoals het detecteren van kanker), werkgelegenheid, videogames en jouw YouTube feed. AI komt terug in bijna alle facetten van het dagelijkse leven. Reden genoeg dus om stil te staan bij het juridisch kader van AI. In deze blogreeks behandelt het Holla AI-team verschillende juridische vraagstukken op het gebied van AI. Onderstaande blog is deel 11 van de reeks en gaat in op de CE-markering en de conformiteitsbeoordeling in het certificeringsproces voor AI-systemen.

Productveiligheidsverordening?

De AI-verordening heeft onder meer als doel AI-systemen te reguleren en de inzet van AI in goede banen te leiden, waarbij meer productveiligheid moet worden bevorderd. De AI-verordening is in de basis dan ook een productveiligheidsverordening en is gericht op het voorkomen en beperken van risico’s bij de ontwikkeling en inzet van AI-systemen. Een belangrijk aspect van de AI-verordening is daarmee dan ook de introductie van de CE-markering voor AI-systemen met een hoog risico (zie ook onze eerste blog). Een CE-markering is een certificering die aangeeft dat een product voldoet aan Europese regelgeving op het gebied van gezondheid, veiligheid en milieubescherming. Oorspronkelijk werd deze markering vooral geassocieerd met fysieke (consumenten)producten, zoals mobiele telefoons en speelgoed. Dit soort producten moeten aan een hoog aantal wettelijke eisen voldoen – bijvoorbeeld op het gebied van brandveiligheid – nog voordat deze producten op de markt mogen worden gebracht. De CE-markering is een manier om te laten zien dat het product voldoet aan deze wettelijke eisen. In het voorstel voor de AI-verordening wordt de verplichting voor de CE-markering aldus ook opgelegd voor AI-systemen met een hoog risico.

CE-markering zichtbaar, leesbaar en onuitwisbaar

In het voorstel staat beschreven dat de fysieke CE-markering zichtbaar, leesbaar en onuitwisbaar op AI-systemen met een hoog risico moet worden aangebracht vóór het systeem op de markt verschijnt.[1] Wanneer dit niet mogelijk of niet gerechtvaardigd is gezien de aard van het AI-systeem, wordt de markering aangebracht op de verpakking of in de begeleidende documenten. Nu AI-systemen over het algemeen uitsluitend digitaal te raadplegen zijn, is in het voorstel ook opgenomen dat een digitale CE-markering kan worden gebruikt als deze makkelijk toegankelijk is, bijvoorbeeld via de interface van waaruit toegang wordt verkregen tot het AI-systeem. De plicht tot het aanbrengen van de CE-markering ligt bij de aanbieders van AI-systemen met een hoog risico. Een aanbieder is een partij die een AI-systeem ontwikkelt of laat ontwikkelen met het oog op het – al dan niet tegen betaling – op de markt brengen van dit systeem onder eigen naam of merk.

Conformiteitsbeoordeling

Het verkrijgen van een CE-markering voor het AI-systeem vereist een zorgvuldige conformiteitsbeoordeling. Deze beoordeling omvat: een risicoanalyse, volledige documentatie van het ontwikkelingsproces en het aantonen van naleving van wettelijke voorschriften. De invulling van deze stappen is afhankelijk van het kwalificatie en classificering van het AI-systeem. Op hoofdlijnen bestaan de te nemen stappen uit:

1. Risicoanalyse: aanbieders moeten een gedetailleerde analyse uitvoeren om de potentiële risico's van hun AI-systemen te identificeren. Dit omvat het evalueren van data-integriteit, de impact van fouten en de gevolgen op het gebied van privacy en gegevensbescherming.
2. Documentatie: alle aspecten van het ontwikkelingsproces – inclusief ontwerp, testen en kwaliteitscontrole – moeten zorgvuldig worden gedocumenteerd, alsmede de gehele conformiteitsbeoordeling.
3. Naleving van normen: de AI-systemen moeten voldoen aan wettelijke vereisten, zoals de Algemene Verordening Gegevensbescherming (‘AVG’) (zie ook onze tweede blog) en relevante productveiligheidsrichtlijnen.
4. Onafhankelijke beoordeling: het certificeringsproces omvat vaak een onafhankelijke beoordeling (intern of extern) van het AI-systeem om ervoor te zorgen dat het voldoet aan de gestelde eisen. Of de conformiteitsbeoordeling kan worden uitgevoerd op basis van een interne controle of moet worden uitgevoerd door een aangewezen externe instantie, is wederom afhankelijk van de kwalificatie en classificering van het AI-systeem.[2]

Wanneer aan de hand van de conformiteitsbeoordeling is aangetoond dat het AI-systeem overeenstemt met de gestelde eisen, stellen de aanbieders een EU-conformiteitsverklaring op en brengen zij de CE-markering aan. Naast de regels in de AI-verordening is deze CE-markering ook nog onderworpen aan de algemene beginselen die staan vermeld in de verordening inzake accreditatie en markttoezicht.[3] Naar verwachting zal dit certificeringsproces nog nader worden ingekleed wanneer de AI-verordening definitief is. Op dit moment is bijvoorbeeld nog onvoldoende duidelijk welke externe (nationale) instanties worden aangewezen als conformiteitsbeoordelingsinstanties en ook is voor veel organisaties de kwalificatie en classificering van het AI-systeem nog lastig, tijdrovend en belemmerend voor de innovatie.

Wat kunt u nu doen?

Begin dan ook tijdig met het vaststellen van de kwalificatie en classificering van uw AI-systemen. Laat u hierbij eventueel assisteren. Aanbieders van AI-systemen met een hoog risico zullen onder de AI-verordening in beginsel verplicht worden tot het aanbrengen van een CE-markering. Hoe deze CE-markering kan worden verkregen, is afhankelijk van de kwalificatie en classificering van uw AI-systeem. Voor organisaties die AI-systemen met een hoog risico gebruiken, is het straks onder de AI-verordening van belang kritisch te toetsen op de aanwezigheid van een CE-markering. Heeft u vragen over de conformiteitsbeoordeling en de CE-markering bij AI-systemen? Neem dan contact op met ons AI-team. Zij helpen u graag verder.

Mogelijk interessante artikelen voor u:

• AI in actie: Spanningsveld AI en mensenrechten (10/12)
• AI in actie: Impact op klimaat, duurzaamheid en milieu (9/12)
• AI in actie: AI binnen de gezondheidszorg (8/12)

[1] Artikel 49 AI-verordening [2] Artikel 43 AI-verordening [3] Artikel 30 van de Verordening 2008/765 - Eisen inzake accreditatie en markttoezicht betreffende het verhandelen van producten