jtiblog

A Jogtudományi Intézet blogoldala

Molnár Tamás előadása a mesterséges intelligencia emberi jogokra gyakorolt hatásairól

2021. április 02. 23:19
Kálmán Kinga
gyakornok, TK JTI; joghallgató ELTE ÁJK

A Mesterséges Intelligencia Nemzeti Laboratóriumnak (MILAB) a TK Jogtudományi Intézetben zajló részprojektje keretében 2021. március 25-én került sor az első nemzetközi műhelyvitára. Ennek témája a mesterséges intelligencia emberi jogokra gyakorolt hatása volt. Az előadó, Molnár Tamás 2016 óta az Európai Unió Alapjogi Ügynökségének (FRA) vezető kutató jogásza, ahol többek között a menekültek, illetve az illegális bevándorlók alapvető jogaival foglalkozik. Ezt megelőzően több hazai minisztérium nemzetközi és EU jogi osztályán szerzett tapasztalatot a bevándorlás gyakorlati, közigazgatási kérdéseiről, valamint a Budapesti Corvinus Egyetemen nemzetközi és európai bevándorlási jogot oktatott.

Molnár Tamás 2020-ban kapcsolódott be az FRA mesterséges intelligencia és emberi jogok kapcsolatát vizsgáló kutatásába, melynek eredményeit foglalta össze a 2020 decemberében közzétett, „Getting the future right – Artificial intelligence and fundamental rights” című jelentés. A kutatásra alapozott előadásban Molnár Tamás nem adott pontos meghatározást a mesterséges intelligencia fogalmára, hanem példákkal mutatta be annak alkalmazási formáit. Ennek körében említette többek között a célzott hirdetési rendszereket, a kereskedelmi és a pénzügyi pontozó programokat és az arcfelismerő technológiákat. Mindezek jogi vizsgálatát és értékelését az EU (elsősorban az Alapjogi Charta), valamint az Európa Tanács (Emberi Jogok Európai Egyezménye) alapjogi keretei között végezték el. A FRA kutatói több mint 1000 interjút készítettek Európa-szerte a verseny- és a közigazgatási szektor képviselőivel, valamint a mesterséges intelligenciához kapcsolódó főbb tudományterületek elismert művelőivel.

A kutatás empirikus részét képező interjúk célja elsősorban a mesterséges intelligencia emberi jogokra gyakorolt hatásainak körvonalazása, legfőbb kockázatainak beazonosítása volt. A versenyszférából kérdezettek a mesterséges intelligencia működésének pontatlanságából eredő veszélyekre helyezték a hangsúlyt. Emellett – meglepő módon – jelentős kockázatként nevezték meg az európai fogyasztók tudatosságának korlátozottságát és ismereteik hiányosságait, ami többek között a nem megfelelő tájékoztatásra vezethető vissza. Számos szakértő úgy vélte, hogy adott esetben az ügyfelek elvesztéséhez is vezethet a mesterséges intelligencia alkalmazása, amennyiben a fogyasztók információt nyernek ezen rendszerek aggodalmat keltő tulajdonságairól. Márpedig, emelte ki Molnár Tamás, a fogyasztók tájékoztatáshoz való joga ezekben az esetekben sem korlátozható, főleg nem üzleti jellegű indokok mentén.

Az állami területről érkezett válaszok szintén kiemelték a mesterséges intelligencia pontatlanságában rejlő veszélyeket, valamint kockázatosnak találták a rendszerükbe kerülő adatokban megjelenő hibákat. Ezen belül a rendvédelmi szervek képviselői különösen problémásnak ítélték meg a mesterséges intelligencián alapuló döntések indokainak megismerhetetlenségét, illetve a következtetésekhez elvezető logikai folyamat visszakövethetetlenségét.

Molnár Tamás hozzátette, hogy a kockázatok mellett a mesterséges intelligencia alkalmazása előtti egyik legnagyobb (nem alapjogi relevanciájú) akadály a megfelelően képzett szakemberek hiánya. Az arcfelismerő rendszerek alkalmazásával kapcsolatban a jelentés speciális eredményeket állapított meg: a megkérdezettek között tízből kettőnél kevesebb ember járulna hozzá ahhoz, hogy a róla készült arcképeket a technológia továbbítsa a rendvédelmi szerveknek. Privát szervezetek részére csupán minden tizedik ember adna az arcképe megismeréséhez felhatalmazást.

A kutatás általános megállapításai alapján a megkérdezettek döntő többsége elismerte, hogy a mesterséges intelligencián alapuló technológiák számottevő befolyást gyakorolnak az egyén alapvető emberi jogaira. Az eloszlás mégis váratlanul hathat: a magánszektorban alacsonyabb arányban aggódnak emberi jogi szempontokból (például a célzott hirdetési ágazatban senki nem nyilatkozott úgy, hogy a mesterséges intelligenciának lehet negatív hatása az alapjogokra), míg a közigazgatásban már hangsúlyosabb az alapjogközpontú hozzáállás. Ez a különbség visszavezethető az emberi jogok eltérő felfogására a válaszadók között. A megkérdezettek a legtöbb esetben a magánélet és a személyes adatok védelme, valamint a diszkrimináció tilalma körében azonosítottak kockázatokat.

Az empirikus kutatást összefoglaló jelentés foglalkozik a legfőbb kockázatok meghatározásával, melyek közül az előadó négy főbb témát emelt ki.

Az első az emberi méltóság, ehhez szorosan kapcsolódóan a magánélet és személyes adatok védelme. Az emberi méltóságtól elválaszthatatlan a mesterséges intelligencia alkalmazásában a résztvevőktől igényelt hozzájárulás, és az opt-out lehetőség biztosítása. A magánélet és személyes adatok védelmét veszélyeztetik a célzott hirdetési gyakorlatok, az automatikus döntéshozatal és a megfigyelő rendszerek.

A következő téma a diszkriminációmentesség. Ennek garantálása körében különös jelentőséggel bír az adatkészlet minősége, hibáktól mentes és elfogulatlan összetétele.

A harmadik téma a tisztességes eljáráshoz és jogorvoslathoz való jog. A tisztességes eljáráshoz való jogot negatívan érinti a mesterséges intelligencia döntésének átláthatatlansága, az ún. black-box jelenség és a technológiákhoz kötődő üzleti titkok védelme.

A negyedik téma a szólás- és a gyülekezési szabadság. A szólás- és a gyülekezési szabadság arcfelismerő-rendszerek általi korlátozása aggályos emberi jogi szempontból, mivel telepítésük esetén például nem lehetséges a gyülekezéseken való anonim részvétel.

Az empirikus kutatások, valamint a problémák és potenciális alapjog korlátozások beazonosítását követően az FRA jelentés legfőbb megoldási javaslatainak felvázolása és értékelése következett. Molnár Tamás a mesterséges intelligencia alapjogkonform alkalmazása érdekében a FRA által kidolgozott ajánlásokat ismertette.

  • Legelső lépésként a jelentés kiemeli, hogy minden jövőbeli, mesterséges intelligenciát szabályozó jog vagy policy alkotása során kitüntetett figyelmet kell fordítani a szabályozás alapjogi garanciáira. A garanciáknak erős bizonyítékokon kell alapulniuk, amelyek képesek megindokolni a megfelelő biztosítékok alkalmazását. Ugyanakkor a szabályozási környezet kialakítása során a technológia szinte követhetetlen változása miatt az emberi jogi definíciók folyamatos felülvizsgálata szükséges.
  • Másodsorban, az élet bármely területén is alkalmazzuk a mesterséges intelligenciát, minden esetben hatékony hatásvizsgálatot kell végezni a széleskörű használatot megelőzően. A jelenlegi, technikai szempontú hatásvizsgálatokat alapjogi mércékkel rendelkező vizsgálatokkal szükséges kiegészíteni, bizonyos esetekben felcserélni. Továbbá minden hatásvizsgálatból fakadó eredményt nyilvánosságra kell hozni, megismerhetővé téve a köz számára.
  • A következő biztosíték az ember általi hatékony felülvizsgálat garantálása. A felelősség telepítésére természetesen megfelelően képzett, speciális szakértelemmel rendelkező munkatársakra van szükség.
  • A negyedik ajánlás a diszkriminációmentesség biztosítása érdekében szorgalmaz speciális feltételeket a mesterséges intelligencia alkalmazásakor. A FRA jelentésében felhívta a figyelmet a nemzeti kutatások fontosságára, amelyek a diszkriminatív hatású alkalmazási területeket azonosítják be, továbbá ehhez sürgeti a megfelelő források biztosítását.
  • Emellett az Ügynökség megkereste az Európai Adatvédelmi Testületet és az Európai Adatvédelmi Biztost, hogy nyújtsanak részletes információt az automatizált döntéshozatal menetéről, illetve a GDPR-ban biztosított emberi felülvizsgálat tartalmáról. Ezen felül általános igény fogalmazható meg a gépi tanulás eredményeinek megindokolhatósága iránt.
  • Végül, de nem utolsósorban, a jelentés javaslatot tesz a mesterséges intelligencia alapú döntésekkel szembeni hatékony és érdemi jogorvoslat biztosítására. Az ajánlás szintén kitér az általános tájékoztatási kötelezettségre: mikor, hogyan és milyen hatásokkal alkalmaznak mesterséges intelligenciát az egyénre vonatkozóan.

Az előadást vita követte. Szóba került többek között a mesterséges intelligenciára specializálódott bíróságok felállításának ötlete. Molnár Tamás úgy vélte, hogy ez nem szükséges, ehelyett minden bírót széles körben ki kell képezni a technológia megértésére és értékelésére csakúgy, mint például a környezetvédelem, a globális adózás vagy a menekültjog területén. Ezenkívül felmerült a választottbíráskodás szerepe abban a kontextusban, hogy körükben feltételezhetően magasabb szintű lehet a technológiák megértése iránti fogékonyság. Az ajánlások tényleges súlyára irányuló kérdésre az előadó hangsúlyozta, hogy a jogtudomány tevékenysége iránymutató hatással bírhat a jogalkalmazó szervek tekintetében, így a téma kutatása önmagán túlnyúló jelentőséggel bír. A hallgatóságból felhívták a figyelmet arra a tényre is, hogy az algoritmusokkal foglalkozó szakértők jelentős többségükben fehér férfiak és támogatandó célkitűzés lehetne ezen arányok kiegyenlítése. Zárásként a nyilvánosság követelménye került részletesebb tárgyalásra. Molnár Tamás véleménye szerint nem képzelhető el olyan szigorú transzparencia követelmények alkalmazása, amelyek visszatartanák a multinacionális technológiai vállalatokat a mesterséges intelligenciába történő további befektetésektől.

A műhelyvita sokoldalúan körbejárta a mesterséges intelligencia emberi jogokra gyakorolt hatásait, a társadalom e tekintetben mérhető reakcióit. Az előadás és az azt követő diskurzus során világossá vált, hogy a mesterséges intelligencia alkalmazása kizárólag alapjogkonform módon támogatható. A kiindulópontok világosan meghatározásra kerültek, a következő lépés a megfelelés eszközeit kell kutatni. A FRA jelentésében megfogalmazott ajánlások és felvetések kétségkívül továbbgondolásra sarkallják a tudományos közvéleményt és a gyakorlatban dolgozó szakembereket egyaránt: a mesterséges intelligencia alkalmazása és az emberi jogi megfontolások összeegyeztethetőségével kapcsolatban számos további kutatás várható a közeljövőben.

_____________________________________________

Készült a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

_____________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip diszkrimináció európai központi bank fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság belső piac alkotmánybíróság európai parlament előzetes döntéshozatali eljárás gazdasági és monetáris unió demokrácia kúria állami támogatás jogegységi határozat versenyjog uniós értékek eu alapjogi charta szociális jog irányelvek átültetése euró kásler-ítélet eusz 7. cikke arányosság elve választás nemzeti érdek oroszország közös kereskedelempolitika european convention of human rights brexit fizetésképtelenségi rendelet nemzeti bíróságok ultra vires aktus német alkotmánybíróság kötelezettségszegési eljárás európai parlamenti választások európai bizottság elnöke adatvédelem wto bankunió magyarország energiapolitika devizakölcsön fogyatékosok jogai btk alkotmányjog fővárosi közgyűlés közös kül- és biztonságpolitika strasbourgi bíróság szankció ukrán válság migráció szolidaritás egységes piac russia ukraine crisis compliance fundamental rights eu sanctions bevándorlás európai integráció környezetvédelem fenntartható fejlődés menekültkérdés ceta polgári kezdeményezés trump nafta tpp ecthr prison conditions surrogacy human trafficking human rights közigazgatás panpsychism personhood syngamy environment civil törvény irányelvek legitimáció kikényszerítés szociális deficit letelepedés szabadsága kiskereskedelmi különadó központi bankok európai rendszere hatáskör-átruházás elsőbbség elve adatmegőrzési irányelv közerkölcs európai unió alapjogi ügynoksége magyar helsinki bizottság vesztegetés hálapénz vallásszabadság első alkotmánykiegészítés obamacare születésszabályozás hobby lobby büntetőjog jogos védelem áldozatvédelem külkapcsolatok hatáskörmegosztás tényleges életfogytiglan új btk. szabadságvesztés lojális együttműködés végrehajtás gazdasági szankciók állampolgárság nemzetközi magánjog családi jog öröklési jog uniós polgárság alapjogi charta személyek szabad mozgása európai jog európai emberi jogi egyezmény uniós jog sérthetetlensége uniós jog autonómiája infrastruktúrához való hozzáférés versenyképesség adózás gmo-szabályozás gmo-mentesség european neighbourhood policy ukraine uk report európai szomszédságpolitika brit jelentés excessive deficit exclusionarism protectionism national courts consumer protection single market retaliation hungary european court of justice autonomy of eu legal order inviolability of eu legal order european values article 7 teu rule of law democracy reklámadó verseny szabadsága halálbüntetés schuman-nyilatkozat alapító atyák juncker bizottság energiahatékonysági irányelv energiaunió eurasian economic union dcfta european central bank german constitutional court omt görögország pénzügyi válság államcsőd likviditás menekült fal dublin iii 1951-es genfi egyezmény strasbourgi esetjog európai bíróság elnöke lenaerts hatékony jogvédelem franciaország németország értékközösség érdekközösség ügynökprobléma közbeszerzés környezetvédelmi politika áruk szabad áramlása egészségvédelem ártatlanság vélelme törökország történelmi konfliktusok uniós válságkezelés európai tanács válság szíria lengyel alkotmánybíróság jogállamiság normakontroll eljárási alkotmányosság beruházásvédelem szabályozáshoz való jog jog és irodalom erdély konferencia law in literature law as literature lengyel alkotmánybíróság lengyelország jogállamiság-védelmi mechanizmus eu klímapolitika kvótakereskedelem kiotói jegyzőkönyv adójog európai politikai pártok; pártfinanszírozás európai politikai közösség politikai pártok kohéziós politika régió székelyföld mulhaupt ingatlanadó-követelés nyilvános meghallgatás kommunikáció datafication internet platformtársadalom adókövetelés fizetésképtelenségi eljárás sokszínű európa kisebbségek sokféleség fizetésképtelenség; jogharmonizáció; csődjog; többségi demokrácia; olaszország népszavazás common commercial policy egyenlő bánásmód emberi méltóság ebh szülő nők helyzete peschka jogelmélet parlament véleménynyilvánítás szabadsága média országgyűlés sajtószabadság muršić european court of human rights dajkaterhesség egyesült királyság közigazgatási perrendtartás általános közigazgatási rendtartás egyesülési jog velencei bizottság civil felsőoktatás lex ceu közjogtudomány zaklatás szegregáció

Archívum