jtiblog

A Jogtudományi Intézet blogoldala

A brit versenyhatóság jelentése az algoritmusokról

2022. december 11. 1:54
Papp Mónika
tudományos munkatárs, TK JTI; adjunktus, ELTE ÁJK

A brit fogyasztóvédelmi és versenyhatóság jelentésében sokféle, az algoritmusok által okozott, közvetlen fogyasztói kárt azonosított. Többfajta hátrány eredhet például azon algoritmusok használatából, amelyek a fogyasztók és vállalkozások közötti interfészek optimalizálását célozzák. A választási lehetőségek felépítésének rendszerén keresztül a vállalkozások kihasználhatják az inherens fogyasztói gyengeségeket (például a korlátozott figyelem kihasználásával, a veszteségelkerülési hajlandóságát vagy tehetetlenségét kihasználva, a beállítási opciókra fogékonyságukat kihasználva). Ezen túl a termékek/szolgáltatások egyediesítése tisztességtelen elosztási hatásokhoz vezethet, valamint alkalmas lehet a versenytársak kizárására, például a saját szolgáltatások előnyben részesítése által (self-preferencing).

A jelentés szerint a gépi tanulást használó vállalkozások 9%-a mikrovállalkozás (1-9 főt foglalkoztat), ezért is sürgető a fogyasztói hátrányok megelőzését szolgáló ex ante szabályozási rezsim felállítását. A hatóság a fogyasztói kár potenciálisan nagy hatása miatt prioritásként kívánja kezelni a széles körben használt iparági standardot jelentő algoritmusok vizsgálatát, amennyiben azokat jelentős piaci erővel rendelkező vállalkozások alkalmazzák.

1. A károk vizsgálatának technikái

A hatóságok versenyhatósági vizsgálatainak jellege különböző attól függően, hogy ahhoz szükséges-e a vállalkozás adataihoz és algoritmusaihoz való közvetlen hozzáférés.

Amennyiben nincs közvetlen hozzáférése, bonyolult lehet az algoritmus vizsgálata a széles értelemben vett termék vagy automatizált rendszer vizsgálata nélkül. Ehelyett a legvalószínűbb a rendszer inputjainak és outputjainak elemzése. Az algoritmusos szolgáltatás által kiváltott versenykárokat a legjobban a szolgáltatás vagy automatizált rendszer tervezésének, fejlesztésének és tréningjének teljes és megfelelő elemzésével, az input adatok ismeretében, valamint a fogyasztói reakciók és az output fogyasztói felhasználás ismeretében érthetők meg. Az algoritmusok közötti összejátszás több automatizált rendszer vagy algoritmus közötti interakció együttes vizsgálatának segítségével érthető meg. Ebből adódóan az együttes versenykár azonosítható, de sokkal nagyobb kihívást jelent, hogy az egyes algoritmusok egyedi szerepét megértsük az aggregált hatásban. A tudomány már olyan módszereket is kidolgozott, amelyek ellensúlyozhatják az algoritmusokhoz és adatokhoz való közvetlen hozzáférés hiányából eredő problémákat. Amennyiben az algoritmusok transzparens outputokkal járnak, akkor a tesztvásárlás hagyományos módszertanával is vizsgálhatók. A brit versenyhatóság ilyen módszert már használt a weboldalakon és az alkalmazásokban történő vásárlások vizsgálata során és a fogyasztók által használt digitális összehasonlító eszközök megértésére törekedett. Az Európai Bizottság és a brit versenyhatóság is alkalmazta már ezt a módszert a személyre szabott árazáson segítségével megvalósuló online piaci szegmentálására vonatkozó fogyasztói piacelemzésében.[1] Ezekben az elemzésekben valós vásárlók online profiljainak, kattintásainak és vásárlásainak történetét, készülék és szoftver használatának segítségével azonosíthatók a lehetséges versenykárok. Továbbá az outputokat ún. „scraping audit” segítségével is meg lehet figyelni, amely az adatok weboldalakról való kinyerésével valósul meg. Ennél komplexebb technikai megoldás például az alkalmazásprogramozási felületek (API-k) használata.

A releváns input adatok összegyűjtésének és vizsgálatra előkészítésének folyamatában számos etikai és gyakorlati megfontolást kell figyelembe venni (adatgyűjtés jogi és etikai korlátai, az auditált vállalkozásoknak túlzott teher okozásának mellőzése).

Amennyiben az output összegyűlt, megfelelő elemzést kell alkalmazni a vélt versenykár tényleges fennállásának tesztelésére. Az erkölcsi és jogi szempontoknak való megfelelésre a gépi tanulás egyre gyarapodó irodalma is figyelmeztet. A tisztességesség ugyanis mindig kontextus-függő és ezért összetett vizsgálatot igényel.

Amennyiben az adatokhoz és algoritmusokhoz közvetlen hozzáférés biztosított, más módszerek alkalmazhatók a vizsgálat során. Az adatokhoz és/vagy kódhoz való hozzáféréssel lehetővé válik a döntéshozatali rendszer auditálása egy összetett vizsgálat révén. Nem szükséges az adatok összegyűjtése és feldolgozása, az algoritmus kódja tesztadatokon futtatható és az algoritmus outputja, valamint korlátai közvetlenül elemezhetők. Ehhez hasonlóan, nem mindig szükséges a kódhoz való hozzáférés, az algoritmus birtokosától származó releváns adatok önmagukban elegendőek lehetnek számos auditálási cél megvalósításához. A kódhoz való hozzáféréssel három vizsgálati lehetőség nyílik meg: dinamikus elemzés, amikor automatikus tesztelés valósul meg, statikus elemzés, amikor a kódot csak a környezetétől leválasztva lehet elemezni és kézi kód felülvizsgálat, amely bonyolult algoritmikus szoftverek esetén rendkívül nehéz lehet. Az utóbbi két elemzési módszer hiányossága, hogy nem érthető meg, hogy a kód külső tényezőktől való függősége hogyan befolyásolja a viselkedését. Az adatok és a kód vizsgálata előtt be kell gyűjteni a szervezet dokumentációját, pszeudo kódját és az általános magyarázatokat. Ezt követően az input és output adatok elemzése is értékes információkat hozhat felszínre, mint például az Európai Bizottság Google Shoppinggal kapcsolatos eljárásában. Amennyiben a kódhoz való hozzáférés lehetséges, de a teljeskörű hozzáférés a teljes döntési rendszerhez/infrastruktúrához nem, akkor az algoritmus kódjának vizsgálatában egy teljeskörű auditálás is segítségünkre lehet. Ezt alkalmazta az ausztrál verseny- és fogyasztóvédelmi bizottság is a Trivago-val szemben indított eljárásában, ahol szakértőket kértek fel mind a kód, mind az input és output adatok elemzésére. Ez a módszer azonban csak a relatíve egyszerű algoritmusok vizsgálatára alkalmas (a fekete dobozok vizsgálatára például nem).

2. A szabályozók szerepe a versenykárok elhárításában

A piacok fejlődésével szükség lesz új képességek kifejlesztésére és szélesebb versenyhatósági hatáskör biztosítására a fogyasztói és versenykárok megelőzése céljából.

A beavatkozás mellett erőteljes érvek szólnak elsősorban azért, mert az algoritmusos rendszerek átláthatatlansága és működési transzparenciájának hiánya megnehezíti a fogyasztók és üzletfelek számára a vállalkozások hatékony fegyelmezését. Másodsorban néhány fenti gyakorlat az Egyesült Királyság gazdaságában fontos stratégiai pozíciót betöltő cégek algoritmikus rendszereit érinti.

A fentiek azt sugallják, hogy a piaci nyomás valószínűleg nem tudja hatékonyan meggátolni a jelentős versenykárok kifejtésére alkalmas gyakorlatokat. Ezért az adatvédelmi, valamint egyenlő bánásmódot biztosító hatóságokkal való együttműködés szükséges.

A szabályozói beavatkozások alábbi formáit javasolja a brit versenyhatóság.

  • Iránymutatások és világos standardok felállítása

A vállalkozások kockázat-értékeléssel és hatásvizsgálattal segíthetik elő a számonkérhető, etikus és felelős algoritmikus rendszerek tervezését és működését. Néhány cég már maga is alkalmaz olyan nyílt forrású eszközöket, amelyekkel kiküszöbölhetők a torzítások és a tisztességtelenség. Mivel az iránymutatások és elvek alkalmazása nem kötelező, ezért ezeket meg kell haladni. Az adatvédelmi szabályozás alapján személyes adatok kezelése esetén kötelező hatásvizsgálatot végezni. Ezen kívül az adatvédelmi hatóság egy olyan, a mesterséges intelligencia (MI) auditálására szóló keretrendszert is kidolgozott, amely azt szolgálja, hogy az MI adatvédelmi szempontból milyen kockázatot jelenthet az alapvető jogokra és szabadságokra és ezek a kockázatok hogyan mérsékelhetők.

Egy másik gyakran felmerülő téma az algoritmusok átláthatóságának növelése. Az átláthatóság azonban önmagában sokszor nem elégséges a felmerülő problémák teljeskörű felszámolására. Egy potenciális szabályozói beavatkozásra felkészülve a vállalkozások felelőssége az MI megmagyázhatóságával kapcsolatos dokumentumok megőrzése. A brit adatvédelmi hatóság az Alan Turing Intézettel együtt tájékoztatót adott ki azokat a gyakorlatokról, eljárásokról és dokumentumokról, amelyeket a vállalkozások a hatóságok számára szolgáltathatnak az MI megmagyarázhatósága érdekében. Az Európai Bizottság Mesterséges Intelligenciával foglalkozó Magas Szintű Szakértői Csoportja is etikai iránymutatást dolgozott ki a megbízható mesterséges intelligenciával kapcsolatban, amely együttes szabályozási megközelítéseket (co-regulation approaches) is javasol, mint például akkreditációs rendszereket, illetve szakmai etikai szabályokat.Azonosítani és orvosolni kell a fennálló versenykárokat

Az információgyűjtés fázisában a brit versenyhatóság Adat, Technológiai és Analitikai Munkacsoportja a média, a panaszok és a szakirodalom figyelésével azonosít potenciális versenykárhoz vezető gyakorlatokat. Formális eljárás megnyitása esetén a Digitális Piaci Munkacsoport formális információkérést intéz az érintettekhez. A formális eljárást akkor indítja meg a hatóság, ha ésszerűen gyanítható a jogsértés. A formális eljárás helyett a hatóság piacvizsgálatot vagy piaci elemzést rendelhet el, amennyiben a gyakorlat a fogyasztói érdekekre negatív hatást fejthet ki. A atóság vizsgálati jogkörei: bekérhet adatot, kódot és dokumentációt és olyan kötelezettséget is előírhat a vállalkozások felé, hogy segítsék az algoritmusos rendszer megértését és tesztelését. Az eljárás alá vont az eljárás jellegétől függően, a hatóság aggályait kiküszöbölő jogorvoslati intézkedéseket (remedies) ajánlhat fel, illetve a hatóság maga is előírhat ilyet. Ezek hatékonysága és arányossága tesztelésre kerül, az annak való megfelelést pedig a hatóság ellenőrzi és hatékonyságukat értékeli.

  • Folyamatos ellenőrzés

A vállalkozások az algoritmikus rendszereket rendszeresen felülvizsgálják és új adatokkal, dinamikus modellekkel egészítik ki, ezért az egyszeri auditok hamar meghaladottá válnak. A regulatory sandbox-ok hasznosak lehetnek a szabályozók számára, hogy biztonságos környezetben technikailag teszteljék az algoritmust a saját környezetében anélkül, hogy a vállalkozások jogkövetkezményeknek lennének kitéve. Az ilyen jellegű tesztelés megvalósítása azonban sok kihívással járhat.

  • A digitális képességek fejlesztése és az együttműködések ösztönzése

Az adat és technológia képességekbe történő beruházás eredményeképpen az Adat, Technológia és Analitikai Munkacsoportban több szakma képviselői, így adattudósok, mérnökök, viselkedéstudományok képviselői együtt dolgoznak, hogy új analitikai és vizsgálati technikákat fejlesszenek ki és alkalmazzanak. Az adatvédelmi és telekommunikációs hatóságokkal a Digitális Szabályozási Együttműködési Platform keretei között működik együtt a versenyhatóság. A hazai szabályozókkal való együttműködésen túl a nemzetközi együttműködés fejlesztésére is nagy hangsúlyt helyez a hatóság.

Kitekintés

A fentiek jól mutatják, hogy milyen kihívásokkal szembesülnek a fogyasztóvédelmi és versenyhatóságok az algoritmusok vizsgálata során. Az előző a jelen blogposztban megismert jelentések azt vetítik előre, hogy az algoritmusokkal megvalósított jogsértések bizonyítása számos bonyolult jogi és technikai problémát hordoz magában. 

__________________________________________________________

[1] European Commission (2018), ‘Consumer market study on online market segmentation through personalised pricing/offers in the European Union’. 19 July. Annex 1 of CMA (2018), “Pricing algorithms - Economic working paper on the use of algorithms to facilitate collusion and personalised pricing’.

__________________________________________________________

Készült a Mesterséges Intelligencia Nemzeti Laboratórium és a 138965. számú NKFIH pályázat keretében, valamint az Európai Unió RRF-2.3.1-21-2022-00004 projekt, az Innovációs és Technológiai Minisztérium, a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

__________________________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip európai parlament belső piac fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság diszkrimináció alkotmánybíróság európai központi bank gazdasági és monetáris unió versenyjog kúria állami támogatás uniós értékek demokrácia jogegységi határozat előzetes döntéshozatali eljárás nemzeti érdek közös kereskedelempolitika euró eu alapjogi charta brexit arányosság elve szociális jog irányelvek átültetése european convention of human rights kásler-ítélet fizetésképtelenségi rendelet választás oroszország eusz 7. cikke human trafficking egységes piac európai bizottság elnöke human rights környezetvédelem adatvédelem fenntartható fejlődés ultra vires aktus bevándorlás közös kül- és biztonságpolitika ceta német alkotmánybíróság btk trump nafta közigazgatás wto tpp migráció nemzeti bíróságok russia menekültkérdés fundamental rights strasbourgi bíróság panpsychism szolidaritás ukraine crisis bankunió personhood polgári kezdeményezés magyarország szankció syngamy kötelezettségszegési eljárás environment eu sanctions energiapolitika ecthr európai integráció civil törvény compliance devizakölcsön alkotmányjog prison conditions ukrán válság fővárosi közgyűlés surrogacy európai parlamenti választások fogyatékosok jogai ebh államcsőd közbeszerzés felsőoktatás normakontroll kiotói jegyzőkönyv national courts internet verseny szabadsága magyar helsinki bizottság szülő nők helyzete likviditás külkapcsolatok állampolgárság lex ceu eljárási alkotmányosság versenyképesség adójog consumer protection platformtársadalom halálbüntetés vesztegetés peschka menekült hatáskörmegosztás european court of human rights nemzetközi magánjog közjogtudomány adózás európai politikai pártok; single market adókövetelés hálapénz jogelmélet fal dajkaterhesség környezetvédelmi politika családi jog zaklatás gmo-szabályozás pártfinanszírozás retaliation adatmegőrzési irányelv fizetésképtelenségi eljárás schuman-nyilatkozat dublin iii egyesült királyság áruk szabad áramlása öröklési jog szegregáció beruházásvédelem gmo-mentesség központi bankok európai rendszere európai politikai közösség hungary közerkölcs sokszínű európa alapító atyák vallásszabadság első alkotmánykiegészítés 1951-es genfi egyezmény egészségvédelem uniós polgárság irányelvek szabályozáshoz való jog european neighbourhood policy hatáskör-átruházás politikai pártok european court of justice kisebbségek juncker bizottság obamacare strasbourgi esetjog tényleges életfogytiglan közigazgatási perrendtartás ártatlanság vélelme jog és irodalom elsőbbség elve kohéziós politika sokféleség energiahatékonysági irányelv születésszabályozás parlament európai bíróság elnöke új btk. általános közigazgatási rendtartás alapjogi charta legitimáció erdély ukraine régió fizetésképtelenség; energiaunió eurasian economic union hobby lobby véleménynyilvánítás szabadsága lenaerts törökország kikényszerítés konferencia székelyföld autonomy of eu legal order jogharmonizáció; dcfta büntetőjog média hatékony jogvédelem szabadságvesztés történelmi konfliktusok személyek szabad mozgása law in literature uk report inviolability of eu legal order csődjog; jogos védelem országgyűlés franciaország uniós válságkezelés európai jog szociális deficit law as literature európai szomszédságpolitika mulhaupt european values többségi demokrácia; european central bank áldozatvédelem sajtószabadság németország lojális együttműködés európai tanács európai emberi jogi egyezmény letelepedés szabadsága lengyel alkotmánybíróság brit jelentés olaszország népszavazás german constitutional court végrehajtás válság lengyelország ingatlanadó-követelés article 7 teu common commercial policy omt értékközösség egyesülési jog szíria uniós jog sérthetetlensége kiskereskedelmi különadó jogállamiság-védelmi mechanizmus excessive deficit nyilvános meghallgatás rule of law egyenlő bánásmód görögország muršić érdekközösség velencei bizottság lengyel alkotmánybíróság uniós jog autonómiája eu klímapolitika exclusionarism kommunikáció democracy európai unió alapjogi ügynoksége emberi méltóság pénzügyi válság ügynökprobléma gazdasági szankciók civil jogállamiság infrastruktúrához való hozzáférés kvótakereskedelem protectionism datafication reklámadó

Archívum