jtiblog

A Jogtudományi Intézet blogoldala

Molnár Tamás előadása a mesterséges intelligencia emberi jogokra gyakorolt hatásairól

2021. április 02. 23:19
Kálmán Kinga
gyakornok, TK JTI; joghallgató ELTE ÁJK

A Mesterséges Intelligencia Nemzeti Laboratóriumnak (MILAB) a TK Jogtudományi Intézetben zajló részprojektje keretében 2021. március 25-én került sor az első nemzetközi műhelyvitára. Ennek témája a mesterséges intelligencia emberi jogokra gyakorolt hatása volt. Az előadó, Molnár Tamás 2016 óta az Európai Unió Alapjogi Ügynökségének (FRA) vezető kutató jogásza, ahol többek között a menekültek, illetve az illegális bevándorlók alapvető jogaival foglalkozik. Ezt megelőzően több hazai minisztérium nemzetközi és EU jogi osztályán szerzett tapasztalatot a bevándorlás gyakorlati, közigazgatási kérdéseiről, valamint a Budapesti Corvinus Egyetemen nemzetközi és európai bevándorlási jogot oktatott.

Molnár Tamás 2020-ban kapcsolódott be az FRA mesterséges intelligencia és emberi jogok kapcsolatát vizsgáló kutatásába, melynek eredményeit foglalta össze a 2020 decemberében közzétett, „Getting the future right – Artificial intelligence and fundamental rights” című jelentés. A kutatásra alapozott előadásban Molnár Tamás nem adott pontos meghatározást a mesterséges intelligencia fogalmára, hanem példákkal mutatta be annak alkalmazási formáit. Ennek körében említette többek között a célzott hirdetési rendszereket, a kereskedelmi és a pénzügyi pontozó programokat és az arcfelismerő technológiákat. Mindezek jogi vizsgálatát és értékelését az EU (elsősorban az Alapjogi Charta), valamint az Európa Tanács (Emberi Jogok Európai Egyezménye) alapjogi keretei között végezték el. A FRA kutatói több mint 1000 interjút készítettek Európa-szerte a verseny- és a közigazgatási szektor képviselőivel, valamint a mesterséges intelligenciához kapcsolódó főbb tudományterületek elismert művelőivel.

A kutatás empirikus részét képező interjúk célja elsősorban a mesterséges intelligencia emberi jogokra gyakorolt hatásainak körvonalazása, legfőbb kockázatainak beazonosítása volt. A versenyszférából kérdezettek a mesterséges intelligencia működésének pontatlanságából eredő veszélyekre helyezték a hangsúlyt. Emellett – meglepő módon – jelentős kockázatként nevezték meg az európai fogyasztók tudatosságának korlátozottságát és ismereteik hiányosságait, ami többek között a nem megfelelő tájékoztatásra vezethető vissza. Számos szakértő úgy vélte, hogy adott esetben az ügyfelek elvesztéséhez is vezethet a mesterséges intelligencia alkalmazása, amennyiben a fogyasztók információt nyernek ezen rendszerek aggodalmat keltő tulajdonságairól. Márpedig, emelte ki Molnár Tamás, a fogyasztók tájékoztatáshoz való joga ezekben az esetekben sem korlátozható, főleg nem üzleti jellegű indokok mentén.

Az állami területről érkezett válaszok szintén kiemelték a mesterséges intelligencia pontatlanságában rejlő veszélyeket, valamint kockázatosnak találták a rendszerükbe kerülő adatokban megjelenő hibákat. Ezen belül a rendvédelmi szervek képviselői különösen problémásnak ítélték meg a mesterséges intelligencián alapuló döntések indokainak megismerhetetlenségét, illetve a következtetésekhez elvezető logikai folyamat visszakövethetetlenségét.

Molnár Tamás hozzátette, hogy a kockázatok mellett a mesterséges intelligencia alkalmazása előtti egyik legnagyobb (nem alapjogi relevanciájú) akadály a megfelelően képzett szakemberek hiánya. Az arcfelismerő rendszerek alkalmazásával kapcsolatban a jelentés speciális eredményeket állapított meg: a megkérdezettek között tízből kettőnél kevesebb ember járulna hozzá ahhoz, hogy a róla készült arcképeket a technológia továbbítsa a rendvédelmi szerveknek. Privát szervezetek részére csupán minden tizedik ember adna az arcképe megismeréséhez felhatalmazást.

A kutatás általános megállapításai alapján a megkérdezettek döntő többsége elismerte, hogy a mesterséges intelligencián alapuló technológiák számottevő befolyást gyakorolnak az egyén alapvető emberi jogaira. Az eloszlás mégis váratlanul hathat: a magánszektorban alacsonyabb arányban aggódnak emberi jogi szempontokból (például a célzott hirdetési ágazatban senki nem nyilatkozott úgy, hogy a mesterséges intelligenciának lehet negatív hatása az alapjogokra), míg a közigazgatásban már hangsúlyosabb az alapjogközpontú hozzáállás. Ez a különbség visszavezethető az emberi jogok eltérő felfogására a válaszadók között. A megkérdezettek a legtöbb esetben a magánélet és a személyes adatok védelme, valamint a diszkrimináció tilalma körében azonosítottak kockázatokat.

Az empirikus kutatást összefoglaló jelentés foglalkozik a legfőbb kockázatok meghatározásával, melyek közül az előadó négy főbb témát emelt ki.

Az első az emberi méltóság, ehhez szorosan kapcsolódóan a magánélet és személyes adatok védelme. Az emberi méltóságtól elválaszthatatlan a mesterséges intelligencia alkalmazásában a résztvevőktől igényelt hozzájárulás, és az opt-out lehetőség biztosítása. A magánélet és személyes adatok védelmét veszélyeztetik a célzott hirdetési gyakorlatok, az automatikus döntéshozatal és a megfigyelő rendszerek.

A következő téma a diszkriminációmentesség. Ennek garantálása körében különös jelentőséggel bír az adatkészlet minősége, hibáktól mentes és elfogulatlan összetétele.

A harmadik téma a tisztességes eljáráshoz és jogorvoslathoz való jog. A tisztességes eljáráshoz való jogot negatívan érinti a mesterséges intelligencia döntésének átláthatatlansága, az ún. black-box jelenség és a technológiákhoz kötődő üzleti titkok védelme.

A negyedik téma a szólás- és a gyülekezési szabadság. A szólás- és a gyülekezési szabadság arcfelismerő-rendszerek általi korlátozása aggályos emberi jogi szempontból, mivel telepítésük esetén például nem lehetséges a gyülekezéseken való anonim részvétel.

Az empirikus kutatások, valamint a problémák és potenciális alapjog korlátozások beazonosítását követően az FRA jelentés legfőbb megoldási javaslatainak felvázolása és értékelése következett. Molnár Tamás a mesterséges intelligencia alapjogkonform alkalmazása érdekében a FRA által kidolgozott ajánlásokat ismertette.

  • Legelső lépésként a jelentés kiemeli, hogy minden jövőbeli, mesterséges intelligenciát szabályozó jog vagy policy alkotása során kitüntetett figyelmet kell fordítani a szabályozás alapjogi garanciáira. A garanciáknak erős bizonyítékokon kell alapulniuk, amelyek képesek megindokolni a megfelelő biztosítékok alkalmazását. Ugyanakkor a szabályozási környezet kialakítása során a technológia szinte követhetetlen változása miatt az emberi jogi definíciók folyamatos felülvizsgálata szükséges.
  • Másodsorban, az élet bármely területén is alkalmazzuk a mesterséges intelligenciát, minden esetben hatékony hatásvizsgálatot kell végezni a széleskörű használatot megelőzően. A jelenlegi, technikai szempontú hatásvizsgálatokat alapjogi mércékkel rendelkező vizsgálatokkal szükséges kiegészíteni, bizonyos esetekben felcserélni. Továbbá minden hatásvizsgálatból fakadó eredményt nyilvánosságra kell hozni, megismerhetővé téve a köz számára.
  • A következő biztosíték az ember általi hatékony felülvizsgálat garantálása. A felelősség telepítésére természetesen megfelelően képzett, speciális szakértelemmel rendelkező munkatársakra van szükség.
  • A negyedik ajánlás a diszkriminációmentesség biztosítása érdekében szorgalmaz speciális feltételeket a mesterséges intelligencia alkalmazásakor. A FRA jelentésében felhívta a figyelmet a nemzeti kutatások fontosságára, amelyek a diszkriminatív hatású alkalmazási területeket azonosítják be, továbbá ehhez sürgeti a megfelelő források biztosítását.
  • Emellett az Ügynökség megkereste az Európai Adatvédelmi Testületet és az Európai Adatvédelmi Biztost, hogy nyújtsanak részletes információt az automatizált döntéshozatal menetéről, illetve a GDPR-ban biztosított emberi felülvizsgálat tartalmáról. Ezen felül általános igény fogalmazható meg a gépi tanulás eredményeinek megindokolhatósága iránt.
  • Végül, de nem utolsósorban, a jelentés javaslatot tesz a mesterséges intelligencia alapú döntésekkel szembeni hatékony és érdemi jogorvoslat biztosítására. Az ajánlás szintén kitér az általános tájékoztatási kötelezettségre: mikor, hogyan és milyen hatásokkal alkalmaznak mesterséges intelligenciát az egyénre vonatkozóan.

Az előadást vita követte. Szóba került többek között a mesterséges intelligenciára specializálódott bíróságok felállításának ötlete. Molnár Tamás úgy vélte, hogy ez nem szükséges, ehelyett minden bírót széles körben ki kell képezni a technológia megértésére és értékelésére csakúgy, mint például a környezetvédelem, a globális adózás vagy a menekültjog területén. Ezenkívül felmerült a választottbíráskodás szerepe abban a kontextusban, hogy körükben feltételezhetően magasabb szintű lehet a technológiák megértése iránti fogékonyság. Az ajánlások tényleges súlyára irányuló kérdésre az előadó hangsúlyozta, hogy a jogtudomány tevékenysége iránymutató hatással bírhat a jogalkalmazó szervek tekintetében, így a téma kutatása önmagán túlnyúló jelentőséggel bír. A hallgatóságból felhívták a figyelmet arra a tényre is, hogy az algoritmusokkal foglalkozó szakértők jelentős többségükben fehér férfiak és támogatandó célkitűzés lehetne ezen arányok kiegyenlítése. Zárásként a nyilvánosság követelménye került részletesebb tárgyalásra. Molnár Tamás véleménye szerint nem képzelhető el olyan szigorú transzparencia követelmények alkalmazása, amelyek visszatartanák a multinacionális technológiai vállalatokat a mesterséges intelligenciába történő további befektetésektől.

A műhelyvita sokoldalúan körbejárta a mesterséges intelligencia emberi jogokra gyakorolt hatásait, a társadalom e tekintetben mérhető reakcióit. Az előadás és az azt követő diskurzus során világossá vált, hogy a mesterséges intelligencia alkalmazása kizárólag alapjogkonform módon támogatható. A kiindulópontok világosan meghatározásra kerültek, a következő lépés a megfelelés eszközeit kell kutatni. A FRA jelentésében megfogalmazott ajánlások és felvetések kétségkívül továbbgondolásra sarkallják a tudományos közvéleményt és a gyakorlatban dolgozó szakembereket egyaránt: a mesterséges intelligencia alkalmazása és az emberi jogi megfontolások összeegyeztethetőségével kapcsolatban számos további kutatás várható a közeljövőben.

_____________________________________________

Készült a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

_____________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip európai parlament belső piac fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság diszkrimináció alkotmánybíróság európai központi bank gazdasági és monetáris unió versenyjog kúria állami támogatás uniós értékek demokrácia jogegységi határozat előzetes döntéshozatali eljárás nemzeti érdek közös kereskedelempolitika euró eu alapjogi charta brexit arányosság elve szociális jog irányelvek átültetése european convention of human rights kásler-ítélet fizetésképtelenségi rendelet választás oroszország eusz 7. cikke human trafficking egységes piac európai bizottság elnöke human rights környezetvédelem adatvédelem fenntartható fejlődés ultra vires aktus bevándorlás közös kül- és biztonságpolitika ceta német alkotmánybíróság btk trump nafta közigazgatás wto tpp migráció nemzeti bíróságok russia menekültkérdés fundamental rights strasbourgi bíróság panpsychism szolidaritás ukraine crisis bankunió personhood polgári kezdeményezés magyarország szankció syngamy kötelezettségszegési eljárás environment eu sanctions energiapolitika ecthr európai integráció civil törvény compliance devizakölcsön alkotmányjog prison conditions ukrán válság fővárosi közgyűlés surrogacy európai parlamenti választások fogyatékosok jogai államcsőd közbeszerzés felsőoktatás normakontroll kiotói jegyzőkönyv national courts internet verseny szabadsága magyar helsinki bizottság ebh szülő nők helyzete likviditás külkapcsolatok állampolgárság lex ceu eljárási alkotmányosság versenyképesség adójog consumer protection platformtársadalom halálbüntetés vesztegetés peschka menekült hatáskörmegosztás european court of human rights nemzetközi magánjog közjogtudomány adózás európai politikai pártok; single market adókövetelés hálapénz jogelmélet fal dajkaterhesség környezetvédelmi politika családi jog zaklatás gmo-szabályozás pártfinanszírozás retaliation adatmegőrzési irányelv fizetésképtelenségi eljárás schuman-nyilatkozat dublin iii egyesült királyság áruk szabad áramlása öröklési jog szegregáció beruházásvédelem gmo-mentesség központi bankok európai rendszere európai politikai közösség hungary közerkölcs sokszínű európa alapító atyák vallásszabadság 1951-es genfi egyezmény egészségvédelem uniós polgárság irányelvek szabályozáshoz való jog european neighbourhood policy hatáskör-átruházás politikai pártok european court of justice kisebbségek juncker bizottság első alkotmánykiegészítés strasbourgi esetjog tényleges életfogytiglan közigazgatási perrendtartás ártatlanság vélelme jog és irodalom elsőbbség elve kohéziós politika sokféleség energiahatékonysági irányelv obamacare parlament európai bíróság elnöke új btk. általános közigazgatási rendtartás alapjogi charta legitimáció erdély ukraine régió fizetésképtelenség; energiaunió születésszabályozás véleménynyilvánítás szabadsága lenaerts törökország kikényszerítés konferencia székelyföld autonomy of eu legal order jogharmonizáció; eurasian economic union hobby lobby média hatékony jogvédelem szabadságvesztés történelmi konfliktusok személyek szabad mozgása law in literature uk report inviolability of eu legal order csődjog; dcfta büntetőjog jogos védelem országgyűlés franciaország uniós válságkezelés európai jog szociális deficit law as literature európai szomszédságpolitika mulhaupt european values többségi demokrácia; áldozatvédelem sajtószabadság németország lojális együttműködés európai tanács európai emberi jogi egyezmény letelepedés szabadsága lengyel alkotmánybíróság brit jelentés olaszország european central bank végrehajtás válság lengyelország ingatlanadó-követelés article 7 teu népszavazás german constitutional court értékközösség egyesülési jog szíria uniós jog sérthetetlensége kiskereskedelmi különadó jogállamiság-védelmi mechanizmus excessive deficit nyilvános meghallgatás rule of law common commercial policy omt görögország muršić érdekközösség velencei bizottság lengyel alkotmánybíróság uniós jog autonómiája eu klímapolitika exclusionarism kommunikáció democracy európai unió alapjogi ügynoksége egyenlő bánásmód pénzügyi válság ügynökprobléma gazdasági szankciók civil jogállamiság infrastruktúrához való hozzáférés kvótakereskedelem protectionism datafication reklámadó emberi méltóság