Kálmán KingaA Mesterséges Intelligencia Nemzeti Laboratóriumnak (MILAB) a TK Jogtudományi Intézetben zajló részprojektje keretében 2021. március 25-én került sor az első nemzetközi műhelyvitára. Ennek témája a mesterséges intelligencia emberi jogokra gyakorolt hatása volt. Az előadó, Molnár Tamás 2016 óta az Európai Unió Alapjogi Ügynökségének (FRA) vezető kutató jogásza, ahol többek között a menekültek, illetve az illegális bevándorlók alapvető jogaival foglalkozik. Ezt megelőzően több hazai minisztérium nemzetközi és EU jogi osztályán szerzett tapasztalatot a bevándorlás gyakorlati, közigazgatási kérdéseiről, valamint a Budapesti Corvinus Egyetemen nemzetközi és európai bevándorlási jogot oktatott.
Molnár Tamás 2020-ban kapcsolódott be az FRA mesterséges intelligencia és emberi jogok kapcsolatát vizsgáló kutatásába, melynek eredményeit foglalta össze a 2020 decemberében közzétett, „Getting the future right – Artificial intelligence and fundamental rights” című jelentés. A kutatásra alapozott előadásban Molnár Tamás nem adott pontos meghatározást a mesterséges intelligencia fogalmára, hanem példákkal mutatta be annak alkalmazási formáit. Ennek körében említette többek között a célzott hirdetési rendszereket, a kereskedelmi és a pénzügyi pontozó programokat és az arcfelismerő technológiákat. Mindezek jogi vizsgálatát és értékelését az EU (elsősorban az Alapjogi Charta), valamint az Európa Tanács (Emberi Jogok Európai Egyezménye) alapjogi keretei között végezték el. A FRA kutatói több mint 1000 interjút készítettek Európa-szerte a verseny- és a közigazgatási szektor képviselőivel, valamint a mesterséges intelligenciához kapcsolódó főbb tudományterületek elismert művelőivel.
A kutatás empirikus részét képező interjúk célja elsősorban a mesterséges intelligencia emberi jogokra gyakorolt hatásainak körvonalazása, legfőbb kockázatainak beazonosítása volt. A versenyszférából kérdezettek a mesterséges intelligencia működésének pontatlanságából eredő veszélyekre helyezték a hangsúlyt. Emellett – meglepő módon – jelentős kockázatként nevezték meg az európai fogyasztók tudatosságának korlátozottságát és ismereteik hiányosságait, ami többek között a nem megfelelő tájékoztatásra vezethető vissza. Számos szakértő úgy vélte, hogy adott esetben az ügyfelek elvesztéséhez is vezethet a mesterséges intelligencia alkalmazása, amennyiben a fogyasztók információt nyernek ezen rendszerek aggodalmat keltő tulajdonságairól. Márpedig, emelte ki Molnár Tamás, a fogyasztók tájékoztatáshoz való joga ezekben az esetekben sem korlátozható, főleg nem üzleti jellegű indokok mentén.
Az állami területről érkezett válaszok szintén kiemelték a mesterséges intelligencia pontatlanságában rejlő veszélyeket, valamint kockázatosnak találták a rendszerükbe kerülő adatokban megjelenő hibákat. Ezen belül a rendvédelmi szervek képviselői különösen problémásnak ítélték meg a mesterséges intelligencián alapuló döntések indokainak megismerhetetlenségét, illetve a következtetésekhez elvezető logikai folyamat visszakövethetetlenségét.
Molnár Tamás hozzátette, hogy a kockázatok mellett a mesterséges intelligencia alkalmazása előtti egyik legnagyobb (nem alapjogi relevanciájú) akadály a megfelelően képzett szakemberek hiánya. Az arcfelismerő rendszerek alkalmazásával kapcsolatban a jelentés speciális eredményeket állapított meg: a megkérdezettek között tízből kettőnél kevesebb ember járulna hozzá ahhoz, hogy a róla készült arcképeket a technológia továbbítsa a rendvédelmi szerveknek. Privát szervezetek részére csupán minden tizedik ember adna az arcképe megismeréséhez felhatalmazást.
A kutatás általános megállapításai alapján a megkérdezettek döntő többsége elismerte, hogy a mesterséges intelligencián alapuló technológiák számottevő befolyást gyakorolnak az egyén alapvető emberi jogaira. Az eloszlás mégis váratlanul hathat: a magánszektorban alacsonyabb arányban aggódnak emberi jogi szempontokból (például a célzott hirdetési ágazatban senki nem nyilatkozott úgy, hogy a mesterséges intelligenciának lehet negatív hatása az alapjogokra), míg a közigazgatásban már hangsúlyosabb az alapjogközpontú hozzáállás. Ez a különbség visszavezethető az emberi jogok eltérő felfogására a válaszadók között. A megkérdezettek a legtöbb esetben a magánélet és a személyes adatok védelme, valamint a diszkrimináció tilalma körében azonosítottak kockázatokat.
Az empirikus kutatást összefoglaló jelentés foglalkozik a legfőbb kockázatok meghatározásával, melyek közül az előadó négy főbb témát emelt ki.
Az első az emberi méltóság, ehhez szorosan kapcsolódóan a magánélet és személyes adatok védelme. Az emberi méltóságtól elválaszthatatlan a mesterséges intelligencia alkalmazásában a résztvevőktől igényelt hozzájárulás, és az opt-out lehetőség biztosítása. A magánélet és személyes adatok védelmét veszélyeztetik a célzott hirdetési gyakorlatok, az automatikus döntéshozatal és a megfigyelő rendszerek.
A következő téma a diszkriminációmentesség. Ennek garantálása körében különös jelentőséggel bír az adatkészlet minősége, hibáktól mentes és elfogulatlan összetétele.
A harmadik téma a tisztességes eljáráshoz és jogorvoslathoz való jog. A tisztességes eljáráshoz való jogot negatívan érinti a mesterséges intelligencia döntésének átláthatatlansága, az ún. black-box jelenség és a technológiákhoz kötődő üzleti titkok védelme.
A negyedik téma a szólás- és a gyülekezési szabadság. A szólás- és a gyülekezési szabadság arcfelismerő-rendszerek általi korlátozása aggályos emberi jogi szempontból, mivel telepítésük esetén például nem lehetséges a gyülekezéseken való anonim részvétel.
Az empirikus kutatások, valamint a problémák és potenciális alapjog korlátozások beazonosítását követően az FRA jelentés legfőbb megoldási javaslatainak felvázolása és értékelése következett. Molnár Tamás a mesterséges intelligencia alapjogkonform alkalmazása érdekében a FRA által kidolgozott ajánlásokat ismertette.
- Legelső lépésként a jelentés kiemeli, hogy minden jövőbeli, mesterséges intelligenciát szabályozó jog vagy policy alkotása során kitüntetett figyelmet kell fordítani a szabályozás alapjogi garanciáira. A garanciáknak erős bizonyítékokon kell alapulniuk, amelyek képesek megindokolni a megfelelő biztosítékok alkalmazását. Ugyanakkor a szabályozási környezet kialakítása során a technológia szinte követhetetlen változása miatt az emberi jogi definíciók folyamatos felülvizsgálata szükséges.
- Másodsorban, az élet bármely területén is alkalmazzuk a mesterséges intelligenciát, minden esetben hatékony hatásvizsgálatot kell végezni a széleskörű használatot megelőzően. A jelenlegi, technikai szempontú hatásvizsgálatokat alapjogi mércékkel rendelkező vizsgálatokkal szükséges kiegészíteni, bizonyos esetekben felcserélni. Továbbá minden hatásvizsgálatból fakadó eredményt nyilvánosságra kell hozni, megismerhetővé téve a köz számára.
- A következő biztosíték az ember általi hatékony felülvizsgálat garantálása. A felelősség telepítésére természetesen megfelelően képzett, speciális szakértelemmel rendelkező munkatársakra van szükség.
- A negyedik ajánlás a diszkriminációmentesség biztosítása érdekében szorgalmaz speciális feltételeket a mesterséges intelligencia alkalmazásakor. A FRA jelentésében felhívta a figyelmet a nemzeti kutatások fontosságára, amelyek a diszkriminatív hatású alkalmazási területeket azonosítják be, továbbá ehhez sürgeti a megfelelő források biztosítását.
- Emellett az Ügynökség megkereste az Európai Adatvédelmi Testületet és az Európai Adatvédelmi Biztost, hogy nyújtsanak részletes információt az automatizált döntéshozatal menetéről, illetve a GDPR-ban biztosított emberi felülvizsgálat tartalmáról. Ezen felül általános igény fogalmazható meg a gépi tanulás eredményeinek megindokolhatósága iránt.
- Végül, de nem utolsósorban, a jelentés javaslatot tesz a mesterséges intelligencia alapú döntésekkel szembeni hatékony és érdemi jogorvoslat biztosítására. Az ajánlás szintén kitér az általános tájékoztatási kötelezettségre: mikor, hogyan és milyen hatásokkal alkalmaznak mesterséges intelligenciát az egyénre vonatkozóan.
Az előadást vita követte. Szóba került többek között a mesterséges intelligenciára specializálódott bíróságok felállításának ötlete. Molnár Tamás úgy vélte, hogy ez nem szükséges, ehelyett minden bírót széles körben ki kell képezni a technológia megértésére és értékelésére csakúgy, mint például a környezetvédelem, a globális adózás vagy a menekültjog területén. Ezenkívül felmerült a választottbíráskodás szerepe abban a kontextusban, hogy körükben feltételezhetően magasabb szintű lehet a technológiák megértése iránti fogékonyság. Az ajánlások tényleges súlyára irányuló kérdésre az előadó hangsúlyozta, hogy a jogtudomány tevékenysége iránymutató hatással bírhat a jogalkalmazó szervek tekintetében, így a téma kutatása önmagán túlnyúló jelentőséggel bír. A hallgatóságból felhívták a figyelmet arra a tényre is, hogy az algoritmusokkal foglalkozó szakértők jelentős többségükben fehér férfiak és támogatandó célkitűzés lehetne ezen arányok kiegyenlítése. Zárásként a nyilvánosság követelménye került részletesebb tárgyalásra. Molnár Tamás véleménye szerint nem képzelhető el olyan szigorú transzparencia követelmények alkalmazása, amelyek visszatartanák a multinacionális technológiai vállalatokat a mesterséges intelligenciába történő további befektetésektől.
A műhelyvita sokoldalúan körbejárta a mesterséges intelligencia emberi jogokra gyakorolt hatásait, a társadalom e tekintetben mérhető reakcióit. Az előadás és az azt követő diskurzus során világossá vált, hogy a mesterséges intelligencia alkalmazása kizárólag alapjogkonform módon támogatható. A kiindulópontok világosan meghatározásra kerültek, a következő lépés a megfelelés eszközeit kell kutatni. A FRA jelentésében megfogalmazott ajánlások és felvetések kétségkívül továbbgondolásra sarkallják a tudományos közvéleményt és a gyakorlatban dolgozó szakembereket egyaránt: a mesterséges intelligencia alkalmazása és az emberi jogi megfontolások összeegyeztethetőségével kapcsolatban számos további kutatás várható a közeljövőben.
_____________________________________________
Készült a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.
_____________________________________________
Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.