Papp MónikaA brit fogyasztóvédelmi és versenyhatóság jelentésében sokféle, az algoritmusok által okozott, közvetlen fogyasztói kárt azonosított. Többfajta hátrány eredhet például azon algoritmusok használatából, amelyek a fogyasztók és vállalkozások közötti interfészek optimalizálását célozzák. A választási lehetőségek felépítésének rendszerén keresztül a vállalkozások kihasználhatják az inherens fogyasztói gyengeségeket (például a korlátozott figyelem kihasználásával, a veszteségelkerülési hajlandóságát vagy tehetetlenségét kihasználva, a beállítási opciókra fogékonyságukat kihasználva). Ezen túl a termékek/szolgáltatások egyediesítése tisztességtelen elosztási hatásokhoz vezethet, valamint alkalmas lehet a versenytársak kizárására, például a saját szolgáltatások előnyben részesítése által (self-preferencing).
A jelentés szerint a gépi tanulást használó vállalkozások 9%-a mikrovállalkozás (1-9 főt foglalkoztat), ezért is sürgető a fogyasztói hátrányok megelőzését szolgáló ex ante szabályozási rezsim felállítását. A hatóság a fogyasztói kár potenciálisan nagy hatása miatt prioritásként kívánja kezelni a széles körben használt iparági standardot jelentő algoritmusok vizsgálatát, amennyiben azokat jelentős piaci erővel rendelkező vállalkozások alkalmazzák.
1. A károk vizsgálatának technikái
A hatóságok versenyhatósági vizsgálatainak jellege különböző attól függően, hogy ahhoz szükséges-e a vállalkozás adataihoz és algoritmusaihoz való közvetlen hozzáférés.
Amennyiben nincs közvetlen hozzáférése, bonyolult lehet az algoritmus vizsgálata a széles értelemben vett termék vagy automatizált rendszer vizsgálata nélkül. Ehelyett a legvalószínűbb a rendszer inputjainak és outputjainak elemzése. Az algoritmusos szolgáltatás által kiváltott versenykárokat a legjobban a szolgáltatás vagy automatizált rendszer tervezésének, fejlesztésének és tréningjének teljes és megfelelő elemzésével, az input adatok ismeretében, valamint a fogyasztói reakciók és az output fogyasztói felhasználás ismeretében érthetők meg. Az algoritmusok közötti összejátszás több automatizált rendszer vagy algoritmus közötti interakció együttes vizsgálatának segítségével érthető meg. Ebből adódóan az együttes versenykár azonosítható, de sokkal nagyobb kihívást jelent, hogy az egyes algoritmusok egyedi szerepét megértsük az aggregált hatásban. A tudomány már olyan módszereket is kidolgozott, amelyek ellensúlyozhatják az algoritmusokhoz és adatokhoz való közvetlen hozzáférés hiányából eredő problémákat. Amennyiben az algoritmusok transzparens outputokkal járnak, akkor a tesztvásárlás hagyományos módszertanával is vizsgálhatók. A brit versenyhatóság ilyen módszert már használt a weboldalakon és az alkalmazásokban történő vásárlások vizsgálata során és a fogyasztók által használt digitális összehasonlító eszközök megértésére törekedett. Az Európai Bizottság és a brit versenyhatóság is alkalmazta már ezt a módszert a személyre szabott árazáson segítségével megvalósuló online piaci szegmentálására vonatkozó fogyasztói piacelemzésében.[1] Ezekben az elemzésekben valós vásárlók online profiljainak, kattintásainak és vásárlásainak történetét, készülék és szoftver használatának segítségével azonosíthatók a lehetséges versenykárok. Továbbá az outputokat ún. „scraping audit” segítségével is meg lehet figyelni, amely az adatok weboldalakról való kinyerésével valósul meg. Ennél komplexebb technikai megoldás például az alkalmazásprogramozási felületek (API-k) használata.
A releváns input adatok összegyűjtésének és vizsgálatra előkészítésének folyamatában számos etikai és gyakorlati megfontolást kell figyelembe venni (adatgyűjtés jogi és etikai korlátai, az auditált vállalkozásoknak túlzott teher okozásának mellőzése).
Amennyiben az output összegyűlt, megfelelő elemzést kell alkalmazni a vélt versenykár tényleges fennállásának tesztelésére. Az erkölcsi és jogi szempontoknak való megfelelésre a gépi tanulás egyre gyarapodó irodalma is figyelmeztet. A tisztességesség ugyanis mindig kontextus-függő és ezért összetett vizsgálatot igényel.
Amennyiben az adatokhoz és algoritmusokhoz közvetlen hozzáférés biztosított, más módszerek alkalmazhatók a vizsgálat során. Az adatokhoz és/vagy kódhoz való hozzáféréssel lehetővé válik a döntéshozatali rendszer auditálása egy összetett vizsgálat révén. Nem szükséges az adatok összegyűjtése és feldolgozása, az algoritmus kódja tesztadatokon futtatható és az algoritmus outputja, valamint korlátai közvetlenül elemezhetők. Ehhez hasonlóan, nem mindig szükséges a kódhoz való hozzáférés, az algoritmus birtokosától származó releváns adatok önmagukban elegendőek lehetnek számos auditálási cél megvalósításához. A kódhoz való hozzáféréssel három vizsgálati lehetőség nyílik meg: dinamikus elemzés, amikor automatikus tesztelés valósul meg, statikus elemzés, amikor a kódot csak a környezetétől leválasztva lehet elemezni és kézi kód felülvizsgálat, amely bonyolult algoritmikus szoftverek esetén rendkívül nehéz lehet. Az utóbbi két elemzési módszer hiányossága, hogy nem érthető meg, hogy a kód külső tényezőktől való függősége hogyan befolyásolja a viselkedését. Az adatok és a kód vizsgálata előtt be kell gyűjteni a szervezet dokumentációját, pszeudo kódját és az általános magyarázatokat. Ezt követően az input és output adatok elemzése is értékes információkat hozhat felszínre, mint például az Európai Bizottság Google Shoppinggal kapcsolatos eljárásában. Amennyiben a kódhoz való hozzáférés lehetséges, de a teljeskörű hozzáférés a teljes döntési rendszerhez/infrastruktúrához nem, akkor az algoritmus kódjának vizsgálatában egy teljeskörű auditálás is segítségünkre lehet. Ezt alkalmazta az ausztrál verseny- és fogyasztóvédelmi bizottság is a Trivago-val szemben indított eljárásában, ahol szakértőket kértek fel mind a kód, mind az input és output adatok elemzésére. Ez a módszer azonban csak a relatíve egyszerű algoritmusok vizsgálatára alkalmas (a fekete dobozok vizsgálatára például nem).
2. A szabályozók szerepe a versenykárok elhárításában
A piacok fejlődésével szükség lesz új képességek kifejlesztésére és szélesebb versenyhatósági hatáskör biztosítására a fogyasztói és versenykárok megelőzése céljából.
A beavatkozás mellett erőteljes érvek szólnak elsősorban azért, mert az algoritmusos rendszerek átláthatatlansága és működési transzparenciájának hiánya megnehezíti a fogyasztók és üzletfelek számára a vállalkozások hatékony fegyelmezését. Másodsorban néhány fenti gyakorlat az Egyesült Királyság gazdaságában fontos stratégiai pozíciót betöltő cégek algoritmikus rendszereit érinti.
A fentiek azt sugallják, hogy a piaci nyomás valószínűleg nem tudja hatékonyan meggátolni a jelentős versenykárok kifejtésére alkalmas gyakorlatokat. Ezért az adatvédelmi, valamint egyenlő bánásmódot biztosító hatóságokkal való együttműködés szükséges.
A szabályozói beavatkozások alábbi formáit javasolja a brit versenyhatóság.
- Iránymutatások és világos standardok felállítása
A vállalkozások kockázat-értékeléssel és hatásvizsgálattal segíthetik elő a számonkérhető, etikus és felelős algoritmikus rendszerek tervezését és működését. Néhány cég már maga is alkalmaz olyan nyílt forrású eszközöket, amelyekkel kiküszöbölhetők a torzítások és a tisztességtelenség. Mivel az iránymutatások és elvek alkalmazása nem kötelező, ezért ezeket meg kell haladni. Az adatvédelmi szabályozás alapján személyes adatok kezelése esetén kötelező hatásvizsgálatot végezni. Ezen kívül az adatvédelmi hatóság egy olyan, a mesterséges intelligencia (MI) auditálására szóló keretrendszert is kidolgozott, amely azt szolgálja, hogy az MI adatvédelmi szempontból milyen kockázatot jelenthet az alapvető jogokra és szabadságokra és ezek a kockázatok hogyan mérsékelhetők.
Egy másik gyakran felmerülő téma az algoritmusok átláthatóságának növelése. Az átláthatóság azonban önmagában sokszor nem elégséges a felmerülő problémák teljeskörű felszámolására. Egy potenciális szabályozói beavatkozásra felkészülve a vállalkozások felelőssége az MI megmagyázhatóságával kapcsolatos dokumentumok megőrzése. A brit adatvédelmi hatóság az Alan Turing Intézettel együtt tájékoztatót adott ki azokat a gyakorlatokról, eljárásokról és dokumentumokról, amelyeket a vállalkozások a hatóságok számára szolgáltathatnak az MI megmagyarázhatósága érdekében. Az Európai Bizottság Mesterséges Intelligenciával foglalkozó Magas Szintű Szakértői Csoportja is etikai iránymutatást dolgozott ki a megbízható mesterséges intelligenciával kapcsolatban, amely együttes szabályozási megközelítéseket (co-regulation approaches) is javasol, mint például akkreditációs rendszereket, illetve szakmai etikai szabályokat.Azonosítani és orvosolni kell a fennálló versenykárokat
Az információgyűjtés fázisában a brit versenyhatóság Adat, Technológiai és Analitikai Munkacsoportja a média, a panaszok és a szakirodalom figyelésével azonosít potenciális versenykárhoz vezető gyakorlatokat. Formális eljárás megnyitása esetén a Digitális Piaci Munkacsoport formális információkérést intéz az érintettekhez. A formális eljárást akkor indítja meg a hatóság, ha ésszerűen gyanítható a jogsértés. A formális eljárás helyett a hatóság piacvizsgálatot vagy piaci elemzést rendelhet el, amennyiben a gyakorlat a fogyasztói érdekekre negatív hatást fejthet ki. A atóság vizsgálati jogkörei: bekérhet adatot, kódot és dokumentációt és olyan kötelezettséget is előírhat a vállalkozások felé, hogy segítsék az algoritmusos rendszer megértését és tesztelését. Az eljárás alá vont az eljárás jellegétől függően, a hatóság aggályait kiküszöbölő jogorvoslati intézkedéseket (remedies) ajánlhat fel, illetve a hatóság maga is előírhat ilyet. Ezek hatékonysága és arányossága tesztelésre kerül, az annak való megfelelést pedig a hatóság ellenőrzi és hatékonyságukat értékeli.
- Folyamatos ellenőrzés
A vállalkozások az algoritmikus rendszereket rendszeresen felülvizsgálják és új adatokkal, dinamikus modellekkel egészítik ki, ezért az egyszeri auditok hamar meghaladottá válnak. A regulatory sandbox-ok hasznosak lehetnek a szabályozók számára, hogy biztonságos környezetben technikailag teszteljék az algoritmust a saját környezetében anélkül, hogy a vállalkozások jogkövetkezményeknek lennének kitéve. Az ilyen jellegű tesztelés megvalósítása azonban sok kihívással járhat.
- A digitális képességek fejlesztése és az együttműködések ösztönzése
Az adat és technológia képességekbe történő beruházás eredményeképpen az Adat, Technológia és Analitikai Munkacsoportban több szakma képviselői, így adattudósok, mérnökök, viselkedéstudományok képviselői együtt dolgoznak, hogy új analitikai és vizsgálati technikákat fejlesszenek ki és alkalmazzanak. Az adatvédelmi és telekommunikációs hatóságokkal a Digitális Szabályozási Együttműködési Platform keretei között működik együtt a versenyhatóság. A hazai szabályozókkal való együttműködésen túl a nemzetközi együttműködés fejlesztésére is nagy hangsúlyt helyez a hatóság.
Kitekintés
A fentiek jól mutatják, hogy milyen kihívásokkal szembesülnek a fogyasztóvédelmi és versenyhatóságok az algoritmusok vizsgálata során. Az előző a jelen blogposztban megismert jelentések azt vetítik előre, hogy az algoritmusokkal megvalósított jogsértések bizonyítása számos bonyolult jogi és technikai problémát hordoz magában.
__________________________________________________________
[1] European Commission (2018), ‘Consumer market study on online market segmentation through personalised pricing/offers in the European Union’. 19 July. Annex 1 of CMA (2018), “Pricing algorithms - Economic working paper on the use of algorithms to facilitate collusion and personalised pricing’.
__________________________________________________________
Készült a Mesterséges Intelligencia Nemzeti Laboratórium és a 138965. számú NKFIH pályázat keretében, valamint az Európai Unió RRF-2.3.1-21-2022-00004 projekt, az Innovációs és Technológiai Minisztérium, a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.
__________________________________________________________
Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.