jtiblog

A Jogtudományi Intézet blogoldala

A mesterséges intelligencia és az emberi jogok: három napos online képzés a legkiválóbb európai szakértőktől

2021. augusztus 25. 15:36
Szentgáli-Tóth Boldizsár
tudományos munkatárs, TK JTI

A TK Jogtudományi Intézetének kutatójaként pályáztam az Academy of European Law (ERA) mesterséges intelligencia emberi jogokra gyakorolt hatásait bemutató képzésén való részvételre, és mivel elnyertem az ösztöndíjat, 2021. március 29–31. között részt vehettem az online rendezvényen.

Maga a képzés mindhárom nap délelőttjén 900–1300 óra között zajlott, az előadások sorozatát egy félórás szünet választotta ketté. Az előadók rendszerint PPT-vel is alátámasztották mondanivalójukat, amelyet megosztva a mintegy 70 résztvevővel. Az előadásokat követően kérdésekre, hozzászólásokra is nyílt mód, a szünetekben chat szobákban ismerkedhettek egymással a képzésen résztvevő szakértők.

Az eseményt Sanja Jovicic, az ERA képzés szervezéséért felelős munkatársa nyitotta meg, ezt követően kezdődtek az érdemi szakmai előadások. Elsőként Raja Chatila, a Sorbonne Egyetem professzora osztotta meg gondolatait, aki részletesen értekezett a mesterséges intelligencia működésének legfontosabb elveiről. Arra igyekezett rámutatni, hogy az MI működésének az ember számára átláthatatlan és értelmezhetetlen aspektusai milyen bizonytalansági tényezőket hordoznak magukban a társadalom szempontjából és hogyan váltanak ki bizalmatlanságot az MI-vel kapcsolatba kerülő emberek jelentős részében. Úgy vélte, mindaddig, ameddig ezek a tényezők változatlan formában fennállnak, csak nagyon óvatosan engedhetünk teret az MI önálló tevékenységének, ezért törekszik a formálódó uniós szabályozási megközelítés is a valószínűsíthető kockázatok alapján történő csoportosításra. Chatila kitért a képzés időpontjában még az előkészítés utolsó fázisában lévő, a mesterséges intelligenciáról szóló uniós rendelettervezetre és hét fontos alapelvet nevesített ezzel kapcsolatban: technológiai megbízhatóság, biztonság, a magánszféra védelme, adatvédelem, átláthatóság, a környezeti szempontok érvényesítése és az elszámoltathatóság. Ezen felül fontosnak tartotta az MI-vel kapcsolatba kerülő személyek képzését is.

Leo Kärkkäinen, a Huawey vezető MI szakértője az MI-nek az alapvetően a belé táplált adatokhoz kötött és statisztikai módszereken alapuló döntéshozatalát mutatta be. Külön felhívta a figyelmet arra, hogy e körülmény hozzájárul ahhoz, hogy az MI döntései könnyen manipulálhatóak és az emberi jogokra nézve is számos kockázatot rejtenek. Ráadásul kibertámadások is hozzájárulhatnak az MI működésének befolyásolásához, ami fokozza a várható eredmények kiszámíthatatlanságát. A manipulálás történhet tudatosan, vagy akár erre irányuló kifejezett szándék nélkül is, amennyiben a betáplált adatok túlságosan egyoldalúak, vagy olyan természetűek, hogy azokból az MI félrevezető következtetéseket vonhat le.

A két előadást egy kerekasztal-beszélgetés követte három további szakértővel, akik az MI technológiai sajátosságainak emberi jogokra gyakorolt hatásait elemezték. Gregory Lewkowich, a Brüsszeli Free Egyetem professzora, Susie Allegre elismert londoni MI szakértő, valamint David Reichel, az Európai Alapjogi Ügynökség projektmenedzsere csatlakozott a két délelőtti előadóhoz. Mindannyian egyetértettek abban, hogy az MI alapú rendszerek diszkriminációtól mentes kialakítására és tesztelésére van szükség az egyenlő bánásmódra nézve hátrányos következmények megelőzése érdekében. Emellett megfelelő jogorvoslati lehetőségeket kell biztosítani azoknak, akik úgy vélik, hogy az MI által okozott diszkrimináció áldozataivá váltak. A vitapartnerek rámutattak arra is, ha az MI számára betáplált adatok nem képezik le a vizsgált csoport tényleges sokszínűségét, a kapott eredmények is torzak lesznek. Ezért az MI döntéshozatalához működésének gondos megtervezésére, valamint a tudomására hozott információk körültekintő lehatárolására van szükség, megelőzve, hogy fontos szempontok maradjanak ki ezekből a folyamatokból. További nehézséget jelent, hogy az MI képes számára már ismert helyzetek kezelésére és az ilyen szituációk eldöntésére, nem tud azonban mit kezdeni a váratlan helyzetekkel, amelyek értékelésére algoritmusa nincs megfelelően felkészülve. Ez szintén ahhoz vezethet a kerekasztal-beszélgetés résztvevői szerint, hogy az MI döntései nem lesznek az emberi fogalmak szerint kellően megalapozottak.

A szakértők felhívták a figyelmet arra is, hogy a jogalkotás nem képes lekövetni a technológia rendkívül gyors fejlődését, ezért a MI esetében pillanatnyilag csak rugalmas keretszabályok kialakítására törekedhetünk. Ilyenekre azonban mihamarabb szükség lenne, mivel a kiszámítható és tervezhető jogi környezet nagyban hozzájárulna az MI iránti társadalmi bizalom erősítéséhez. A jogi szabályozás feladata kettős: egyrészt meg kell akadályoznia bizonyos emberi jogok MI által okozott megsértését (úgy mint a magánszféra és a személyes adatok védelméhez való jog), másrészt pedig kifejezetten elő kell segítenie bizonyos emberi jogok érvényesülését (például a gyermekek vagy az idősek jogainak biztosítását). Az emberi jogokat érintő MI alapú fenyegetések egyaránt érkezhetnek a közhatalmat gyakorló szervektől, valamint a magánszféra szereplőitől. A szakértők fontosnak tartották leszögezni, hogy a jogi szabályozásnak mindkét irányban védelmet kell nyújtania a magánszemélyek számára. A legnagyobb biztonságot azonban a felhasználók tudatossága jelentené: amennyiben az emberek tisztában lennének az MI lehetőségeivel és kockázataival és ennek megfelelően közelítenének ezekhez az entitásokhoz, illetve alkalmaznák azokat.

A második nap programját Peggy Valcke, a Leuveni Egyetem professzora indította, aki egy az MI emberi jogokra gyakorolt hatását szabályozó európai szintű nemzetközi egyezmény lehetőségeit taglalta. Rámutatott arra, hogy a szektor specifikus jogi megközelítés modelljét a témával foglalkozó szakemberek elvetették, jelenleg a szabályozási kihívások horizontális, szakterületektől független megközelítése az irányadó. Az Európa Tanács távlati tervei között szerepel egy nemzetközi egyezmény tető alá hozatala, akár Európán túlmutató területi hatállyal is, ennek azonban jelenleg még nem tartunk a közvetlen előkészítési fázisában: pillanatnyilag a már létező soft law eszközök és ajánlások számbavétele zajlik, ez alapján lehet majd megkezdeni az egyezmény elfogadásához kötődő konkrét előzetes tárgyalásokat. Több szakértői vélemény és megvalósíthatósági tanulmány készült már a nemzetközi egyezmény elfogadásáról, Walcke azt feltételezte, hogy a következő években a folyamat újabb szakaszába lép, illetve felgyorsul majd, ami kötelező erejű és soft law jellegű elemek kombinációjából álló jogi környezet kialakulásához fog vezetni.

Paul Nemitz, az Európai Bizottság fogyasztóvédelemért felelős igazgatóságának főtanácsadója a jelenleg már nyilvános vitára bocsájtott digitális szolgáltatásokról szóló uniós rendelettervezettel összefüggésben osztotta meg gondolatait. Nemitz úgy érvelt, hogy a jogi értelemben vett alulszabályozottság a demokrácia ellen hat, a technológiai fejlődés előnyeit csak akkor aknázhatjuk ki megfelelően, ha a jogi környezet képes a kívánatos sebességgel és módon reflektálni a felmerülő kihívásokra. Ráadásul Nemitz a jogban látja az embereknek azt az eszközét, amellyel hosszú távon is kontroll alatt tarthatják a kódok által vezérelt algoritmusok tevékenységét. Az MI jogi szabályozása lassan életünk valamennyi területére kihatással lesz: az MI által is befolyásolt internetes platformokon bonyolítjuk távkommunikációnkat, üzleti ügyeink jelentős részét, de egyre inkább ezekre a felületekre terelődik a vélemények demokratikus ütköztetése is. A Digital Services Act célja az, hogy a platformok olyan szabályozását honosítsa meg, amely a gyorsan változó technológiai környezetben is szavatolja a társadalom demokratikus működését. Meg kell előzni azt, hogy a platformokat működtető magánszereplők jelöljék ki a közbeszéd határait, mint ahogyan azt is, hogy a jogellenes tartalmak teret nyerhessenek és gyorsan eljuthassanak a felhasználók széles köréhez a platformokon keresztül. Nemitz szerint ezek a legfontosabb kihívások a jogi szabályozás folyamatában.

A második napot záró kerekasztal-beszélgetésre a két előadóhoz Stephanie Laulhe Shaelou, a Central Lancashire Egyetem professzora, Catherine Garcia-van Hoogstraten, a booking.com szakértője, illetve Elena Dodonova, az Európa Tanács munkatársa csatlakoztak. A vitapartnerek arról folytattak érdekes diskurzust, meddig kell terjednie az MI autonómiájának, jogalanyiságának és milyen körben lehet önmaga felelős cselekedeteiért. Amennyiben pedig közvetlen jogi felelőssége nem állapítható meg, kinek, mely természetes személynek kell vállalnia helyette ezt a felelősséget? Ez a kérdés már büntető- és polgári jogi vonatkozásban is évek óta napirenden van, polgári jogi területen az Európai Parlament az MI felelőssége szabályozását ösztönző határozatot fogadott el 2020 októberében. A szakértők egyetértettek abban is, hogy az AI jogi személyisége önmagában egyetlen égető problémára sem jelentene valós megoldást. Arra is felhívták a figyelmet, hogy a kár fogalmán nemcsak a kézzelfogható anyagi hátrányokat kell érteni, hanem ki kellene terjeszteni a csupán a digitális térben érzékelhető anyagi veszteségekre is.

Roland Klages, az Európai Számvevőszék munkatársa az Emberi Jogok Európai Bíróságának (EJEB) és az Európai Unió Bíróságának (EUB) rendelkezésre álló gyakorlatával foglalkozott a harmadik nap első előadásában. Szavaiból kiderült, az EUB eddig 7 alkalommal említette meg ítéleteiben az MI fogalmát, ebből két eset a Google működésével, a harmadik pedig a cookiek használata kapcsán a felhasználói konszenzus követelményével foglalkozott. Amennyiben valakiről a kifejezett hozzájárulása nélkül a platform szolgáltatója szenzitív adatot tesz közzé, az érintett kérésére köteles ezt az adatot eltávolítani, az adott tartalmat az egész EU területén elérhetetlenné tenni. Az egyes tagállamok ennél messzebb is mehetnek és globális eltávolítási kötelezettséget is előírhatnak.

A nap további részében valamennyi korábbi előadó és kerekasztal-résztvevő bekapcsolódott a beszélgetésbe, a hallgatóságnak pedig lehetősége volt kérdéseket feltenni, észrevételeket fűzni az elhangzottakhoz. Talán ez volt az egész képzés legizgalmasabb szakasza, amikor számos különböző álláspontot ismerhettek meg az érdeklődők és a korábbiakban felvetett kérdések jóval mélyebb tárgyalására is lehetőség nyílt.

Rendkívül hasznosnak és informatívnak éreztem az eseményt, amelynek során a leginkább illetékes elméleti és gyakorlati szakemberektől értesülhettünk az aktuális európai jogalkotási megközelítésről az MI vonatkozásában. Természetesen mivel rendkívül gyorsan változó területről van szó, az elhangzottak a 2021 tavaszán aktuális állapotokat tükrözték, már a képzés lezárása óta is jelentős fejleményeket tapasztalhattunk és a továbbiakban ez alighanem még inkább így lesz. Éppen ezért folyamatos erőfeszítést igényel az MI jogi környezete fejlődésének nyomon követése, számítani lehet arra többek között, hogy az ERA újabb hasonló profilú képzéseket is meghirdet majd. Minden a terület, vagy akárcsak egyes részkérdései iránt érdeklődő kollégámnak jó szívvel ajánlom, hogy jelentkezzen az ERA ösztöndíjára és vegyen részt a témába illeszkedő képzésen.

_____________________________________________

Készült a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

_____________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip európai parlament belső piac fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság diszkrimináció alkotmánybíróság európai központi bank gazdasági és monetáris unió versenyjog kúria állami támogatás uniós értékek demokrácia jogegységi határozat előzetes döntéshozatali eljárás nemzeti érdek közös kereskedelempolitika euró eu alapjogi charta brexit arányosság elve szociális jog irányelvek átültetése european convention of human rights kásler-ítélet fizetésképtelenségi rendelet választás oroszország eusz 7. cikke human trafficking egységes piac európai bizottság elnöke human rights környezetvédelem adatvédelem fenntartható fejlődés ultra vires aktus bevándorlás közös kül- és biztonságpolitika ceta német alkotmánybíróság btk trump nafta közigazgatás wto tpp migráció nemzeti bíróságok russia menekültkérdés fundamental rights strasbourgi bíróság panpsychism szolidaritás ukraine crisis bankunió personhood polgári kezdeményezés magyarország szankció syngamy kötelezettségszegési eljárás environment eu sanctions energiapolitika ecthr európai integráció civil törvény compliance devizakölcsön alkotmányjog prison conditions ukrán válság fővárosi közgyűlés surrogacy európai parlamenti választások fogyatékosok jogai ebh államcsőd közbeszerzés felsőoktatás normakontroll kiotói jegyzőkönyv national courts internet verseny szabadsága magyar helsinki bizottság szülő nők helyzete likviditás külkapcsolatok állampolgárság lex ceu eljárási alkotmányosság versenyképesség adójog consumer protection platformtársadalom halálbüntetés vesztegetés peschka menekült hatáskörmegosztás european court of human rights nemzetközi magánjog közjogtudomány adózás európai politikai pártok; single market adókövetelés hálapénz jogelmélet fal dajkaterhesség környezetvédelmi politika családi jog zaklatás gmo-szabályozás pártfinanszírozás retaliation adatmegőrzési irányelv fizetésképtelenségi eljárás schuman-nyilatkozat dublin iii egyesült királyság áruk szabad áramlása öröklési jog szegregáció beruházásvédelem gmo-mentesség központi bankok európai rendszere európai politikai közösség hungary közerkölcs sokszínű európa alapító atyák vallásszabadság első alkotmánykiegészítés 1951-es genfi egyezmény egészségvédelem uniós polgárság irányelvek szabályozáshoz való jog european neighbourhood policy hatáskör-átruházás politikai pártok european court of justice kisebbségek juncker bizottság obamacare strasbourgi esetjog tényleges életfogytiglan közigazgatási perrendtartás ártatlanság vélelme jog és irodalom elsőbbség elve kohéziós politika sokféleség energiahatékonysági irányelv születésszabályozás parlament európai bíróság elnöke új btk. általános közigazgatási rendtartás alapjogi charta legitimáció erdély ukraine régió fizetésképtelenség; energiaunió eurasian economic union hobby lobby véleménynyilvánítás szabadsága lenaerts törökország kikényszerítés konferencia székelyföld autonomy of eu legal order jogharmonizáció; dcfta büntetőjog média hatékony jogvédelem szabadságvesztés történelmi konfliktusok személyek szabad mozgása law in literature uk report inviolability of eu legal order csődjog; jogos védelem országgyűlés franciaország uniós válságkezelés európai jog szociális deficit law as literature európai szomszédságpolitika mulhaupt european values többségi demokrácia; european central bank áldozatvédelem sajtószabadság németország lojális együttműködés európai tanács európai emberi jogi egyezmény letelepedés szabadsága lengyel alkotmánybíróság brit jelentés olaszország népszavazás german constitutional court végrehajtás válság lengyelország ingatlanadó-követelés article 7 teu common commercial policy omt értékközösség egyesülési jog szíria uniós jog sérthetetlensége kiskereskedelmi különadó jogállamiság-védelmi mechanizmus excessive deficit nyilvános meghallgatás rule of law egyenlő bánásmód görögország muršić érdekközösség velencei bizottság lengyel alkotmánybíróság uniós jog autonómiája eu klímapolitika exclusionarism kommunikáció democracy európai unió alapjogi ügynoksége emberi méltóság pénzügyi válság ügynökprobléma gazdasági szankciók civil jogállamiság infrastruktúrához való hozzáférés kvótakereskedelem protectionism datafication reklámadó