Papp MónikaAz algoritmusok használata számos összetett társadalmi és gazdasági kérdést vet fel, amelyből most néhány versenyjogi és fogyasztóvédelmi vonatkozást emelünk ki. Az algoritmusok ugyanis mind kartelljogi jogsértések, mind gazdasági erőfölénnyel való visszaélések eszközei lehetnek és ezért a versenyhatóságok vizsgálatainak tárgyát képezhetik az algoritmusokkal elkövetett vállalati magatartások. Ehhez hasonlóan, a fogyasztóvédelmi eljárásokban is szembesülhet a hatóság azzal, hogy az algoritmus a fogyasztók megtévesztését idézi elő. A két részben publikált blog fókuszában két meghatározó európai versenyhatóság, a holland és a brit versenyhatóság jelentésének fontosabb megállapításai állnak.
Az algoritmusok felügyeletéről szóló, holland fogyasztói és piaci hatósági jelentés az algoritmusok funkciók alapján történő megkülönböztetése után vizsgálati és eljárási kérdéseket tárgyal.[1]
1. Vizsgálati és eljárási kérdések
A holland fogyasztóvédelmi- és versenyhatóság az algoritmusok vizsgálatát a törvényi felhatalmazás alapján a helyszíni vizsgálata során, az információkérési jog gyakorlásával, valamint az üzleti adatokhoz és dokumentációhoz való hozzáférés segítségével végzi el. A vizsgálat első fázisa adminisztratív jellegű, a műveleti folyamatok feltárását szolgálja a dokumentumok, interjúk alapján, amely magába foglalja az algoritmusalapú applikációk, megalkotási folyamatuk és a kapcsolódó felelősségi körök vizsgálatatát. A szimulációs és forráskód vizsgálat során arról győződnek meg, hogy az egy cégen belüli vagy több cég közötti rendszerek hogyan kommunikálnak egymással, és hogy milyen adatokat cserélnek ki egymással. A szimulációban a Hatóság az algoritmikus applikációk viselkedését elemzi egy elszigetelt és biztonságos környezetben. Amennyiben a szimuláció nem lehetséges, a forráskód vizsgálatát végzi el a Hatóság.
Az algoritmikus applikációk vizsgálata során három kutatási kérdés válaszolandó meg:
(1) Eljárási transzparencia, azaz mi az algoritmus szerepe az adott tevékenységben és milyen eljárásokat követtek ezzel összefüggésben?
(2) Megmagyarázhatóság, azaz hogyan viselkedik az algoritmus?
(3) Technikai transzparencia, azaz mi az algoritmus funkciója?
Az eljárási transzparencia keretében vizsgálják az algoritmus funkcióját, hogy milyen előfeltételezésekre épül és milyen módosításoknak vetették alá. Ezen kívül elemzésre kerül, hogy milyen műveleti eljárásoknak vetették alá, azonosítják a kockázatokat, és hogy magalkotói alkalmaztak-e a kockázatokat csökkentő eljárásokat. Az is fontos, hogy az egyes közreműködőknek (döntéshozóknak, fejlesztőknek, felhasználóknak, vizsgálóknak, harmadik személyeknek) milyen szerepük és felelősségük van a fenti folyamatokban.
A második és harmadik kutatási kérdés az algoritmus technikai transzparenciájára (működésére), valamint a megmagyarázhatóságára (magatartására) vonatkozik. Az egyszerűbb algoritmusoknál az algoritmus viselkedése a működésével magyarázható, más esetekben azonban szükséges a forráskód elemzése is. A forráskód elemzés sikerességének előfeltétele a megfelelő minőségű dokumentáció. A forráskód elemzése időigényes és költséges művelet, a bonyolultabb működésű algoritmusok forráskód elemzése kevésbé bírhat hozzáadott értékkel, mivel az algoritmus viselkedésébe kevés bepillantást enged a forráskódelemzés.
2. Kihívások
Az algoritmusok vizsgálata során a Hatóság számos kihívással szembesül. Az első ezek közül az öntanuló algoritmusok és/vagy a tréningjükre használat adatok átmeneti jellege. Az adatok mennyisége olyan hatalmas, hogy azok tárolása nagyon költséges vagy bonyolult. Az adatok között lehetnek személyes adatok is. Egy másik kihívás a külső partnerek jelenléte és a láncproblémák. Az algoritmusok nem légüres térben léteznek, hanem egy IT környezet részei, amelynek más részei a szervezet eltérő részlegeihez vagy külső partnereihez tartozhatnak vagy az ő felelősségi körükbe tartozik. A Hatóságnak jogában áll a vizsgálatot a harmadik felekre is kiterjeszteni, információkérési jogát gyakorolhatja, illetve az üzleti adatokhoz és dokumentációhoz hozzáférési joggal rendelkezik. A fenti hatásköröket azonban az arányosság elvének korlátai között gyakorolhatja. A kihívások közül kiemelendőek a határon átnyúló vizsgálatok, amikor az adatot a tagállam területén kívül tárolják vagy harmadik, tagállamon kívüli partner szolgáltatásait veszi igénybe. A Hatóság álláspontja szerint az ilyen adat is másolható, ha az alábbi feltételek közül egy vagy több fennáll: a vizsgált vállalkozás az adat tulajdonosa, kezeli az adatot vagy használja az adatot. A Hatóság gyakorlati tapasztalata azt mutatja, hogy ez a megközelítés a valóságban is jól működik és az algoritmus alapú applikációk vizsgálatára is lehet alkalmazni. Amennyiben az algoritmus alapú applikációk teljes egészében fájlként vagy rendszerként (akár virtuális rendszerként) lemásolhatók, akkor ez összehasonlítható az adatgyűjtemények lemásolásával. Amennyiben a Hatóság a személyes adatokra épülő applikációkat vizsgál, akkor a személyes adatok védelme is többletfeladatok elé állítja a Hivatalt, mivel a GDPR rendelkezései alapján adatkezelőnek minősül és megfelelő garanciákat kell adnia Hatóságnak is a személyes adatok kezelése során. A Hatóság IT vizsgálati infrastruktúrája az utolsó olyan elem, amellyel számot kell vetni. Az egyszerű infrastruktúrákon tárolt applikációk elszigetelt és biztonságos vizsgálata nem okoz nehézséget. Ezzel ellentétben a harmadik felek felhő alapú szolgáltatásait a Hatóság kizárólag akkor vizsgálhatja, ha a Hatóság is használja ugyanazt a felhő alapú szolgáltatást. Ebben az esetben a Hatóságnak el kell térnie attól a standard szabálytól, hogy a digitális vizsgálatokat elszigetelt környezetben kell lefolytatni.
__________________________________________________________
[1] Keresési, aggregációs, obszervációs vagy megfigyelési, előrejelző, szűrő, ajánló, rangsoroló, információs gyártási, kommunikációs, allokációs. A klasszifikáció az alábbi munka alapján készült: Latzer, M. & Festic, N. (2019). A guideline for understanding and measuring algorithmic governance in everyday life. Internet Policy Review, 8(2)
__________________________________________________________
Készült a Mesterséges Intelligencia Nemzeti Laboratórium és a 138965. számú NKFIH pályázat keretében, valamint az Európai Unió RRF-2.3.1-21-2022-00004 projekt, az Innovációs és Technológiai Minisztérium, a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.
__________________________________________________________
Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.