Nieuws

AI in actie: AI en (on)eerlijke concurrentie (6/12)

Gepubliceerd op 12 sep. 2023

Onze mensen

Er lijkt geen maat te staan op de opkomst van Artificial Intelligence (‘AI’). Door de opkomst van ChatGPT is AI in een korte tijd bekend geworden bij een breed publiek, maar AI omvat veel meer dan chatbots. Denk aan toepassingen op het gebied van gezondheid (zoals het detecteren van kanker), werkgelegenheid, videogames en jouw YouTube feed. AI komt terug in bijna alle facetten van het dagelijkse leven. Reden genoeg dus om stil te staan bij het juridisch kader van AI. In deze blogreeks behandelt het Holla AI-team verschillende juridische vraagstukken op het gebied van AI. Onderstaande blog is deel 6 van de reeks en gaat in op de mededingingsrechtelijke aspecten die spelen bij de inzet van AI.

Afstemmen van verkoopprijzen door Samsung

“Op 21 januari 2016 appt Samsung: “Goedemorgen! Advies verkoopprijzen: LT32E310 299 euro, 32J5200 319 euro, 40J5200 419 euro, 55H6200 899 euro, 40JU6400 749 euro, 48JU6400 999 euro, 55JU6400 1249 euro, 48JU7000 1499 euro, 55JS8500 2499 euro”. Wanneer de detailhandelaar niet binnen anderhalf uur reageert, appt Samsung nog: “Hoi [Vertrouwelijk], zou je mij een seintje willen geven wanneer je eventueel geschakeld bent? Gr. [Accountmanager 5]”. De detailhandelaar reageert vervolgens met “ze zijn aangepast”.[1] Deze en andere gesprekken waren in 2021 aanleiding voor de Autoriteit Consument & Markt (‘ACM’) om aan te nemen dat de “prijsadviezen” die Samsung aan haar detailhandelaars gaf, feitelijk voorgeschreven prijzen waren. Dat leidde tot een boete van bijna € 40 miljoen voor Samsung. Wij schreven over deze boete al eerder een blog. De boete werd opgelegd nu Samsung een actief beleid hanteerde ten aanzien van het stelstelmatig verzamelen van verkoopprijzen van detailhandelaren, het vervolgens actief contact opnemen met de detailhandelaren die onder de gegeven prijsadviezen van Samsung verkochten, en het actief aansporen van die detailhandelaren om hun verkoopprijzen te verhogen. Maar wat nu als AI-systemen dit uit zichzelf doen, en organisaties daarmee zonder het te beseffen de Nederlandse Mededingingswet overtreden?

Eerlijke concurrentie

Mededinging is een ander woord voor concurrentie. De Nederlandse Mededingingswet en het mededingingsrecht zien aldus toe op concurrentieregels, zoals prijsafspraken, marktverdeling, machtsposities en nog veel meer. Het mededingingsrecht kent drie pijlers:

Kartelverbod
Verbod misbruik economische machtspositie
Concentratietoezicht

Alle drie de pijlers hebben uiteindelijk als doel ervoor te zorgen dat de marktwerking goed functioneert, dat sprake is van eerlijke concurrentie, en dat consumenten niet meer betalen dan nodig is.

Prijsalgoritmen en AI

De inzet van AI kan ervoor zorgen dat deze marktwerking, bedoeld of onbedoeld, wordt verminderd. In 2020 waarschuwden Italiaanse en Amerikaanse wetenschappers in het bekende tijdschrift Science al over computers die onderling prijzen vaststellen.[2] De consument kan daar de dupe van worden. Algoritmes worden uiteraard al wel langer gebruikt: luchtvaartmaatschappijen staan bij consumenten bekend om hun onnavolgbare prijsschommelingen. Het verschil is echter dat de prijsstellingsalgoritmen tot nu toe gebaseerd zijn op regels die door programmeurs zijn bedacht. AI-systemen daarentegen leren autonoom door actief te experimenteren. Nadat de programmeur een doel heeft gesteld, zoals winstmaximalisatie, is het AI-systeem in staat om autonoom gedragsregels te leren die het doel bereiken, doorgaans zonder nog menselijke tussenkomst.

Interesse van de toezichthouders

Laten de kartelwaakhonden dit dan zomaar gebeuren? Nee. De ACM, die in Nederland toeziet op het mededingingsrecht, heeft in 2020 al een position paper ‘Toezicht op algoritmes’ gepubliceerd. Dit position paper is een vertrekpunt van waaruit de ACM het toezicht op algoritmische toepassingen (en mogelijk op AI) nog verder wenst te ontwikkelen. Ook hebben verschillende toezichthouders in Europa en Nederland al aangekondigd te gaan samenwerken voor toezicht op AI en algoritmes. Zo houdt de Autoriteit Persoonsgegevens (‘AP’) toezicht op de naleving van wetgeving op het gebied van gegevensbescherming, maar binnen de AP is begin 2023 ook een apart organisatieonderdeel opgericht ‘Directie Coördinatie Algoritmes’ voor het toezicht op algoritmes. Samenwerking in het kader van toezicht is echter van belang. Naast gevolgen voor privacy en gegevensbescherming (lees blog twee van onze reeks), kan de ontwikkeling en inzet van AI en algoritmes namelijk ook gevolgen hebben voor onder meer consumentenrechten en het mededingingsrecht.^[3] Daar is ook de ACM zich bewust van. Kortom, AI en algoritmische toepassingen hebben de aandacht van toezichthouders. Het is dan ook van belang hier bewust van te zijn bij de ontwikkeling en inzet van AI-systemen.

AI-verordening en mededinging

Hoewel de Europese Unie druk bezig is met het wetgevingstraject rondom de AI-verordening (lees de eerste blog uit onze reeks), heeft de Europese Commissie – die over de Europese mededingingsregels gaat – op het gebied van concurrentie al het nodige gereedschap om mee te werken. Zo is in 2022 ook de Digital Markets Act aangenomen, met onder meer als doel grote techbedrijven beter in de gaten te kunnen houden. Het is echter de vraag of deze wetgeving voldoende is om bij de ontwikkeling en inzet van AI het toezicht te waarborgen en de concurrentie te bevorderen. Het is niet voor niets dat spelers als Google en Microsoft wereldleiders zijn op het gebied van AI, want AI ontwikkelen is nu eenmaal duur en het zijn juist ook deze grote spelers die waarschijnlijk vrij eenvoudig kunnen voldoen aan de verplichtingen uit de AI-verordening. Dit zal voor kleinere spelers lastiger zijn. Daarmee bestaat een risico op (misbruik van) macht bij de grote techbedrijven die al vooroplopen met de ontwikkeling en inzet van AI.

Wat kunt u nu doen?

In het kader van het mededingingsrecht, signaleren wij dan ook alvast de volgende situaties om rekening mee te houden bij de ontwikkeling en inzet van AI:

Als uw organisatie dynamisch prijzen en algoritmische prijsbepaling gebruikt. AI kan worden ingezet om prijzen dynamisch aan te passen op basis van verschillende variabelen, zoals vraag, aanbod, concurrentieprijzen en klantgedrag. Let er hierbij op dat deze prijzen niet leiden tot kartelvorming, prijsafspraken of andere overtredingen van het mededingingsrecht.
Als uw organisatie een machtspositie heeft. Een machtspositie hebben is toegestaan, er misbruik van maken niet. AI kan door organisaties met een machtspositie worden gebruikt om klanten te binden aan hun diensten of producten, waardoor het moeilijker wordt voor concurrenten om te concurreren. Ook kan een bedrijf met een machtspositie de toegang tot bepaalde belangrijke gegevens of technologie weigeren.
Als uw organisatie gebruik maakt van geautomatiseerde besluitvorming in toeleveringsketens. AI kan worden gebruikt om beslissingen te nemen met betrekking tot voorraadbeheer, productieplanning en logistiek. Let erop dat deze besluitvorming geen marktverstoring veroorzaakt die de mededinging beperkt.
Als uw organisatie nu al veel met de concurrent doet. Wij zien in de praktijk dat veel organisaties werken met vendor-managed inventory (‘VMI’), een voorraadbeheermethode waarbij de producent of leverancier de voorraadniveaus beheert en optimaliseert. Het is belangrijk om ervoor te zorgen dat dit niet leidt tot oneerlijke voorkeuren voor bepaalde aanbieders, zeker als de ‘manager’ een concurrent is.

Welke maatregelen kunnen worden genomen om overtredingen van de Mededingingswet zoveel mogelijk te voorkomen?

Transparantie en verantwoording. Zorg ervoor dat het gebruik van AI transparant en uitlegbaar is, vooral ook bij besluitvormingsprocessen die de marktpositie kunnen beïnvloeden.
Houd de markt en de plaats van uw organisatie daarop in de gaten. Veel organisaties zijn altijd op de hoogte van de markt. Als u weet wat het marktaandeel van uw organisatie is voor verschillende producten en in verschillende regio’s, weet u of uw organisatie een machtspositie heeft en of uw organisatie met een concurrent te maken heeft. In dat geval mag uw organisatie minder.
Compliance-programma's. Ontwikkel en implementeer compliance-programma's die gericht zijn op het voorkomen van mededingingsovertredingen. Belangrijk voor het slagen hiervan is dat medewerkers ook op de hoogte zijn van de redenen dat een dergelijk programma bestaat.
Geheimhoudings- of ‘antitrust’-clausules in contracten. Neem geheimhoudingsclausules op in contracten met leveranciers, klanten en partners om extra te benadrukken dat mededingingswetten moeten worden nageleefd. Dit is op zichzelf niet genoeg om overtredingen te voorkomen, maar kan bijdragen aan bewustwording.

Maar het allermooist zou natuurlijk zijn als organisaties het AI-systeem zo kunnen trainen dat het systeem winstmaximalisatie binnen de kaders van de Mededingingswet nastreeft. Mocht u hierover vragen hebben of heeft u hierbij hulp nodig? Neem dan contact op met ons AI-team. Zij helpen u graag verder.