jtiblog

A Jogtudományi Intézet blogoldala

A mesterséges intelligencia és az emberi jogok: három napos online képzés a legkiválóbb európai szakértőktől

2021. augusztus 25. 15:36
Szentgáli-Tóth Boldizsár
tudományos munkatárs, TK JTI

A TK Jogtudományi Intézetének kutatójaként pályáztam az Academy of European Law (ERA) mesterséges intelligencia emberi jogokra gyakorolt hatásait bemutató képzésén való részvételre, és mivel elnyertem az ösztöndíjat, 2021. március 29–31. között részt vehettem az online rendezvényen.

Maga a képzés mindhárom nap délelőttjén 900–1300 óra között zajlott, az előadások sorozatát egy félórás szünet választotta ketté. Az előadók rendszerint PPT-vel is alátámasztották mondanivalójukat, amelyet megosztva a mintegy 70 résztvevővel. Az előadásokat követően kérdésekre, hozzászólásokra is nyílt mód, a szünetekben chat szobákban ismerkedhettek egymással a képzésen résztvevő szakértők.

Az eseményt Sanja Jovicic, az ERA képzés szervezéséért felelős munkatársa nyitotta meg, ezt követően kezdődtek az érdemi szakmai előadások. Elsőként Raja Chatila, a Sorbonne Egyetem professzora osztotta meg gondolatait, aki részletesen értekezett a mesterséges intelligencia működésének legfontosabb elveiről. Arra igyekezett rámutatni, hogy az MI működésének az ember számára átláthatatlan és értelmezhetetlen aspektusai milyen bizonytalansági tényezőket hordoznak magukban a társadalom szempontjából és hogyan váltanak ki bizalmatlanságot az MI-vel kapcsolatba kerülő emberek jelentős részében. Úgy vélte, mindaddig, ameddig ezek a tényezők változatlan formában fennállnak, csak nagyon óvatosan engedhetünk teret az MI önálló tevékenységének, ezért törekszik a formálódó uniós szabályozási megközelítés is a valószínűsíthető kockázatok alapján történő csoportosításra. Chatila kitért a képzés időpontjában még az előkészítés utolsó fázisában lévő, a mesterséges intelligenciáról szóló uniós rendelettervezetre és hét fontos alapelvet nevesített ezzel kapcsolatban: technológiai megbízhatóság, biztonság, a magánszféra védelme, adatvédelem, átláthatóság, a környezeti szempontok érvényesítése és az elszámoltathatóság. Ezen felül fontosnak tartotta az MI-vel kapcsolatba kerülő személyek képzését is.

Leo Kärkkäinen, a Huawey vezető MI szakértője az MI-nek az alapvetően a belé táplált adatokhoz kötött és statisztikai módszereken alapuló döntéshozatalát mutatta be. Külön felhívta a figyelmet arra, hogy e körülmény hozzájárul ahhoz, hogy az MI döntései könnyen manipulálhatóak és az emberi jogokra nézve is számos kockázatot rejtenek. Ráadásul kibertámadások is hozzájárulhatnak az MI működésének befolyásolásához, ami fokozza a várható eredmények kiszámíthatatlanságát. A manipulálás történhet tudatosan, vagy akár erre irányuló kifejezett szándék nélkül is, amennyiben a betáplált adatok túlságosan egyoldalúak, vagy olyan természetűek, hogy azokból az MI félrevezető következtetéseket vonhat le.

A két előadást egy kerekasztal-beszélgetés követte három további szakértővel, akik az MI technológiai sajátosságainak emberi jogokra gyakorolt hatásait elemezték. Gregory Lewkowich, a Brüsszeli Free Egyetem professzora, Susie Allegre elismert londoni MI szakértő, valamint David Reichel, az Európai Alapjogi Ügynökség projektmenedzsere csatlakozott a két délelőtti előadóhoz. Mindannyian egyetértettek abban, hogy az MI alapú rendszerek diszkriminációtól mentes kialakítására és tesztelésére van szükség az egyenlő bánásmódra nézve hátrányos következmények megelőzése érdekében. Emellett megfelelő jogorvoslati lehetőségeket kell biztosítani azoknak, akik úgy vélik, hogy az MI által okozott diszkrimináció áldozataivá váltak. A vitapartnerek rámutattak arra is, ha az MI számára betáplált adatok nem képezik le a vizsgált csoport tényleges sokszínűségét, a kapott eredmények is torzak lesznek. Ezért az MI döntéshozatalához működésének gondos megtervezésére, valamint a tudomására hozott információk körültekintő lehatárolására van szükség, megelőzve, hogy fontos szempontok maradjanak ki ezekből a folyamatokból. További nehézséget jelent, hogy az MI képes számára már ismert helyzetek kezelésére és az ilyen szituációk eldöntésére, nem tud azonban mit kezdeni a váratlan helyzetekkel, amelyek értékelésére algoritmusa nincs megfelelően felkészülve. Ez szintén ahhoz vezethet a kerekasztal-beszélgetés résztvevői szerint, hogy az MI döntései nem lesznek az emberi fogalmak szerint kellően megalapozottak.

A szakértők felhívták a figyelmet arra is, hogy a jogalkotás nem képes lekövetni a technológia rendkívül gyors fejlődését, ezért a MI esetében pillanatnyilag csak rugalmas keretszabályok kialakítására törekedhetünk. Ilyenekre azonban mihamarabb szükség lenne, mivel a kiszámítható és tervezhető jogi környezet nagyban hozzájárulna az MI iránti társadalmi bizalom erősítéséhez. A jogi szabályozás feladata kettős: egyrészt meg kell akadályoznia bizonyos emberi jogok MI által okozott megsértését (úgy mint a magánszféra és a személyes adatok védelméhez való jog), másrészt pedig kifejezetten elő kell segítenie bizonyos emberi jogok érvényesülését (például a gyermekek vagy az idősek jogainak biztosítását). Az emberi jogokat érintő MI alapú fenyegetések egyaránt érkezhetnek a közhatalmat gyakorló szervektől, valamint a magánszféra szereplőitől. A szakértők fontosnak tartották leszögezni, hogy a jogi szabályozásnak mindkét irányban védelmet kell nyújtania a magánszemélyek számára. A legnagyobb biztonságot azonban a felhasználók tudatossága jelentené: amennyiben az emberek tisztában lennének az MI lehetőségeivel és kockázataival és ennek megfelelően közelítenének ezekhez az entitásokhoz, illetve alkalmaznák azokat.

A második nap programját Peggy Valcke, a Leuveni Egyetem professzora indította, aki egy az MI emberi jogokra gyakorolt hatását szabályozó európai szintű nemzetközi egyezmény lehetőségeit taglalta. Rámutatott arra, hogy a szektor specifikus jogi megközelítés modelljét a témával foglalkozó szakemberek elvetették, jelenleg a szabályozási kihívások horizontális, szakterületektől független megközelítése az irányadó. Az Európa Tanács távlati tervei között szerepel egy nemzetközi egyezmény tető alá hozatala, akár Európán túlmutató területi hatállyal is, ennek azonban jelenleg még nem tartunk a közvetlen előkészítési fázisában: pillanatnyilag a már létező soft law eszközök és ajánlások számbavétele zajlik, ez alapján lehet majd megkezdeni az egyezmény elfogadásához kötődő konkrét előzetes tárgyalásokat. Több szakértői vélemény és megvalósíthatósági tanulmány készült már a nemzetközi egyezmény elfogadásáról, Walcke azt feltételezte, hogy a következő években a folyamat újabb szakaszába lép, illetve felgyorsul majd, ami kötelező erejű és soft law jellegű elemek kombinációjából álló jogi környezet kialakulásához fog vezetni.

Paul Nemitz, az Európai Bizottság fogyasztóvédelemért felelős igazgatóságának főtanácsadója a jelenleg már nyilvános vitára bocsájtott digitális szolgáltatásokról szóló uniós rendelettervezettel összefüggésben osztotta meg gondolatait. Nemitz úgy érvelt, hogy a jogi értelemben vett alulszabályozottság a demokrácia ellen hat, a technológiai fejlődés előnyeit csak akkor aknázhatjuk ki megfelelően, ha a jogi környezet képes a kívánatos sebességgel és módon reflektálni a felmerülő kihívásokra. Ráadásul Nemitz a jogban látja az embereknek azt az eszközét, amellyel hosszú távon is kontroll alatt tarthatják a kódok által vezérelt algoritmusok tevékenységét. Az MI jogi szabályozása lassan életünk valamennyi területére kihatással lesz: az MI által is befolyásolt internetes platformokon bonyolítjuk távkommunikációnkat, üzleti ügyeink jelentős részét, de egyre inkább ezekre a felületekre terelődik a vélemények demokratikus ütköztetése is. A Digital Services Act célja az, hogy a platformok olyan szabályozását honosítsa meg, amely a gyorsan változó technológiai környezetben is szavatolja a társadalom demokratikus működését. Meg kell előzni azt, hogy a platformokat működtető magánszereplők jelöljék ki a közbeszéd határait, mint ahogyan azt is, hogy a jogellenes tartalmak teret nyerhessenek és gyorsan eljuthassanak a felhasználók széles köréhez a platformokon keresztül. Nemitz szerint ezek a legfontosabb kihívások a jogi szabályozás folyamatában.

A második napot záró kerekasztal-beszélgetésre a két előadóhoz Stephanie Laulhe Shaelou, a Central Lancashire Egyetem professzora, Catherine Garcia-van Hoogstraten, a booking.com szakértője, illetve Elena Dodonova, az Európa Tanács munkatársa csatlakoztak. A vitapartnerek arról folytattak érdekes diskurzust, meddig kell terjednie az MI autonómiájának, jogalanyiságának és milyen körben lehet önmaga felelős cselekedeteiért. Amennyiben pedig közvetlen jogi felelőssége nem állapítható meg, kinek, mely természetes személynek kell vállalnia helyette ezt a felelősséget? Ez a kérdés már büntető- és polgári jogi vonatkozásban is évek óta napirenden van, polgári jogi területen az Európai Parlament az MI felelőssége szabályozását ösztönző határozatot fogadott el 2020 októberében. A szakértők egyetértettek abban is, hogy az AI jogi személyisége önmagában egyetlen égető problémára sem jelentene valós megoldást. Arra is felhívták a figyelmet, hogy a kár fogalmán nemcsak a kézzelfogható anyagi hátrányokat kell érteni, hanem ki kellene terjeszteni a csupán a digitális térben érzékelhető anyagi veszteségekre is.

Roland Klages, az Európai Számvevőszék munkatársa az Emberi Jogok Európai Bíróságának (EJEB) és az Európai Unió Bíróságának (EUB) rendelkezésre álló gyakorlatával foglalkozott a harmadik nap első előadásában. Szavaiból kiderült, az EUB eddig 7 alkalommal említette meg ítéleteiben az MI fogalmát, ebből két eset a Google működésével, a harmadik pedig a cookiek használata kapcsán a felhasználói konszenzus követelményével foglalkozott. Amennyiben valakiről a kifejezett hozzájárulása nélkül a platform szolgáltatója szenzitív adatot tesz közzé, az érintett kérésére köteles ezt az adatot eltávolítani, az adott tartalmat az egész EU területén elérhetetlenné tenni. Az egyes tagállamok ennél messzebb is mehetnek és globális eltávolítási kötelezettséget is előírhatnak.

A nap további részében valamennyi korábbi előadó és kerekasztal-résztvevő bekapcsolódott a beszélgetésbe, a hallgatóságnak pedig lehetősége volt kérdéseket feltenni, észrevételeket fűzni az elhangzottakhoz. Talán ez volt az egész képzés legizgalmasabb szakasza, amikor számos különböző álláspontot ismerhettek meg az érdeklődők és a korábbiakban felvetett kérdések jóval mélyebb tárgyalására is lehetőség nyílt.

Rendkívül hasznosnak és informatívnak éreztem az eseményt, amelynek során a leginkább illetékes elméleti és gyakorlati szakemberektől értesülhettünk az aktuális európai jogalkotási megközelítésről az MI vonatkozásában. Természetesen mivel rendkívül gyorsan változó területről van szó, az elhangzottak a 2021 tavaszán aktuális állapotokat tükrözték, már a képzés lezárása óta is jelentős fejleményeket tapasztalhattunk és a továbbiakban ez alighanem még inkább így lesz. Éppen ezért folyamatos erőfeszítést igényel az MI jogi környezete fejlődésének nyomon követése, számítani lehet arra többek között, hogy az ERA újabb hasonló profilú képzéseket is meghirdet majd. Minden a terület, vagy akárcsak egyes részkérdései iránt érdeklődő kollégámnak jó szívvel ajánlom, hogy jelentkezzen az ERA ösztöndíjára és vegyen részt a témába illeszkedő képzésen.

_____________________________________________

Készült a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

_____________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip diszkrimináció európai központi bank fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság belső piac alkotmánybíróság európai parlament előzetes döntéshozatali eljárás gazdasági és monetáris unió demokrácia kúria állami támogatás jogegységi határozat versenyjog uniós értékek eu alapjogi charta szociális jog irányelvek átültetése euró kásler-ítélet eusz 7. cikke arányosság elve választás nemzeti érdek oroszország közös kereskedelempolitika european convention of human rights brexit fizetésképtelenségi rendelet nemzeti bíróságok ultra vires aktus német alkotmánybíróság kötelezettségszegési eljárás európai parlamenti választások európai bizottság elnöke adatvédelem wto bankunió magyarország energiapolitika devizakölcsön fogyatékosok jogai btk alkotmányjog fővárosi közgyűlés közös kül- és biztonságpolitika strasbourgi bíróság szankció ukrán válság migráció szolidaritás egységes piac russia ukraine crisis compliance fundamental rights eu sanctions bevándorlás európai integráció környezetvédelem fenntartható fejlődés menekültkérdés ceta polgári kezdeményezés trump nafta tpp ecthr prison conditions surrogacy human trafficking human rights közigazgatás panpsychism personhood syngamy environment civil törvény irányelvek legitimáció kikényszerítés szociális deficit letelepedés szabadsága kiskereskedelmi különadó központi bankok európai rendszere hatáskör-átruházás elsőbbség elve adatmegőrzési irányelv közerkölcs európai unió alapjogi ügynoksége magyar helsinki bizottság vesztegetés hálapénz vallásszabadság első alkotmánykiegészítés obamacare születésszabályozás hobby lobby büntetőjog jogos védelem áldozatvédelem külkapcsolatok hatáskörmegosztás tényleges életfogytiglan új btk. szabadságvesztés lojális együttműködés végrehajtás gazdasági szankciók állampolgárság nemzetközi magánjog családi jog öröklési jog uniós polgárság alapjogi charta személyek szabad mozgása európai jog európai emberi jogi egyezmény uniós jog sérthetetlensége uniós jog autonómiája infrastruktúrához való hozzáférés versenyképesség adózás gmo-szabályozás gmo-mentesség european neighbourhood policy ukraine uk report európai szomszédságpolitika brit jelentés excessive deficit exclusionarism protectionism national courts consumer protection single market retaliation hungary european court of justice autonomy of eu legal order inviolability of eu legal order european values article 7 teu rule of law democracy reklámadó verseny szabadsága halálbüntetés schuman-nyilatkozat alapító atyák juncker bizottság energiahatékonysági irányelv energiaunió eurasian economic union dcfta european central bank german constitutional court omt görögország pénzügyi válság államcsőd likviditás menekült fal dublin iii 1951-es genfi egyezmény strasbourgi esetjog európai bíróság elnöke lenaerts hatékony jogvédelem franciaország németország értékközösség érdekközösség ügynökprobléma közbeszerzés környezetvédelmi politika áruk szabad áramlása egészségvédelem ártatlanság vélelme törökország történelmi konfliktusok uniós válságkezelés európai tanács válság szíria lengyel alkotmánybíróság jogállamiság normakontroll eljárási alkotmányosság beruházásvédelem szabályozáshoz való jog jog és irodalom erdély konferencia law in literature law as literature lengyel alkotmánybíróság lengyelország jogállamiság-védelmi mechanizmus eu klímapolitika kvótakereskedelem kiotói jegyzőkönyv adójog európai politikai pártok; pártfinanszírozás európai politikai közösség politikai pártok kohéziós politika régió székelyföld mulhaupt ingatlanadó-követelés nyilvános meghallgatás kommunikáció datafication internet platformtársadalom adókövetelés fizetésképtelenségi eljárás sokszínű európa kisebbségek sokféleség fizetésképtelenség; jogharmonizáció; csődjog; többségi demokrácia; olaszország népszavazás common commercial policy egyenlő bánásmód emberi méltóság ebh szülő nők helyzete peschka jogelmélet parlament véleménynyilvánítás szabadsága média országgyűlés sajtószabadság muršić european court of human rights dajkaterhesség egyesült királyság közigazgatási perrendtartás általános közigazgatási rendtartás egyesülési jog velencei bizottság civil felsőoktatás lex ceu közjogtudomány zaklatás szegregáció

Archívum