jtiblog

A Jogtudományi Intézet blogoldala

Tervek és kihívások európai perspektívában – Béatrice Schütte előadása a mesterséges intelligencia polgári jogi felelősségének szabályozásáról

2021. szeptember 30. 13:02
Kálmán Kinga
kutatási asszisztens, TK JTI; joghallgató, ELTE ÁJK

A Társadalomtudományi Kutatóközpont Jogtudományi Intézete „A mesterséges intelligencia jogi környezetének kihívásai” (MILAB) részprojekt keretében rendezett programsorozatának keretében került sor 2021. május 6-án Béatrice Schütte Liability plans for AI-related harm in the EU – regulatory plans and challenges” című angol nyelvű online előadására.

Béatrice Schütte a Helsinki Egyetem posztdoktori kutatójaként jelenleg vesz részt az egyetem „Kártérítési felelősség a mesterséges intelligenciával kapcsolatos károkért, európai perspektívában” című projektjében. Béatrice PhD fokozatát a dániai Aarhusi Egyetemen szerezte „Munkaadói felelősség – quo vadis? A nemzeti törvények összehasonlító elemzése és egy javaslat a normatív európai szabályozásra” c. dolgozatával. Kutatási érdeklődési köre mindenekelőtt a polgári felelősség és annak összehasonlító jogi megközelítése, de szerzett tapasztalatokat a nemzetközi magánjog, az uniós jog, a környezetvédelmi és a tengerjog terén is. Jelenlegi kutatása során az MI és a polgári jogi felelősség vonatkozásában eddig elfogadott szabályozási lépések hátterével foglalkozik, valamint vizsgálja a meglévő felelősségi szabályok alkalmazhatóságát az innovatív technológiák tekintetében.

Schütte előadását annak hangsúlyozásával kezdte, hogy a technológia jelen állása szerint a mesterséges intelligenciának nincs egységes definíciója. Mindazonáltal az Európai Parlament (EP) meghatározását elfogadhatónak tartja, amely az intelligencia utánzására, azon belül is az adatgyűjtésre és -feldolgozásra, a környezet elemzésére és az elérni kívánt célok érdekében kifejtett részleges autonóm tevékenységre helyezi a hangsúlyt. Részben már a meghatározás is rávilágít arra, hogy az MI alkalmazása esetében mindenképpen rendezni szükséges működésének polgári jogi felelősségi hátterét. Amennyire hasznos lehet számunkra, emberek számára, ezzel egyidejűleg az MI szerepvállalása jelentős emberi, jogi és gazdasági kockázatokat is hordoz magában, amelyekre a jelenlegi jogi felelősségi keretrendszer nem alkalmazható plasztikusan.

Ezt a problémát világszerte már sok évvel ezelőtt felismerték, így minden jelentősebb nemzetközi jogalkotói színtéren megjelentek szabályozási törekvések, ami alól az Európai Unió sem kivétel. Az EP 2017-ben fogalmazta meg először a mesterséges intelligencia jogalkotási vetületei rendezésének szükségességét, valamint ekkor szögezte le először azt is, hogy szükség lenne az ezen entitások polgári jogi felelősségét körvonalazó keretrendszer megalkotására. Ezt számos további ajánlás, határozat és policy paper követte egészen 2021 áprilisáig, amikor megjelent az Európai Bizottság rendelettervezete egységes mesterséges intelligencia kódex megalkotásáról, ami Schütte előadásának egyik fő témáját is képezte.

A rendelettervezet az Európai Unió Működéséről szóló Szerződés (EUMSZ) 114. cikkéből eredő belső piaci klauzulára vezeti vissza a szabályozás jogalapját. Emellett kiemelt jogalkotói célként fogalmazza meg az alapvető jogok érvényesülését, amelynek érdekében az MI alkalmazása körében egy kockázatalapú szabályozást kíván bevezetni. Ugyanakkor a tervezet számos alapjoggal összefüggésben enged meg korlátozó intézkedéseket, mint például a vállalkozás, a művészet és a tudomány szabadsága. Azonban Schütte szerint ez szükséges és arányos megközelítés az egészség, a biztonság, a fogyasztóvédelem és egyéb emberi jogok garantálása érdekében. A szabályok kiterjednének mind a köz-, mind a magánszférában használt MI alapú programokra, függetlenül attól, hogy az EU-n belül vagy kívül használják őket.

A kockázat-alapú megközelítés alapján a rendelettervezet meghatároz olyan MI rendszereket, amelyek alkalmazása a jövőben tiltottnak minősülne. Ebbe a csoportba tartoznak többek között:

  • az emberi viselkedést tudat alatti módon befolyásoló eszközök, amelyek az embereknek fizikai vagy pszichológiai sérülést okozhatnak;
  • az olyan profilozó rendszerek, amelyek az ember tulajdonságairól, társadalmi viselkedéséről folyamatos jelentéseket készítenek, és ezek alapján osztályoznak, értékelnek;
  • olyan rendszerek, amelyek kifejezetten egy sérülékeny csoportot, vagy életkort céloznak meg, és a kiszemelt csoport viselkedésének sérelmes módon történő alakítását célozzák meg;
  • valós idejű biometrikus azonosítási rendszerek nyilvános helyeken, amelyeket a hatóságok nem igazolható módon használnak például nyomozás, terrorelhárítás vagy katasztrófavédelem érdekében.

A semmilyen körülmények között nem alkalmazható rendszereken túl az Európai Bizottság azonosított magas kockázatúnak minősített megjelenési formákat is, amelyeknél az emberekre gyakorolt várható kedvezőtlen hatás csekélyebb. Ezek esetében számos többletkövetelményt kell teljesítenie az üzembe helyezőnek a jogszerű működés érdekében, úgy mint:

  • kockázatkezelési rendszer kidolgozása,
  • műszaki dokumentáció és naplózás,
  • adatok tisztasága, megfelelő adatmenedzsment,
  • transzparencia a használók irányába,
  • emberi felügyelet beépítése,
  • pontosság, robosztusság és a kiberbiztonság garantálása,
  • kötelező megfelelőségi értékelések elvégzése,
  • kötelező regisztráció a megfelelő EU adatbázisban.

Az előzetes többletkövetelményeken túl utólagos jellegű vizsgálati, valamint jelentési kötelezettségeket is támasztanak a tervezet szabályai. Így például bármilyen MI által okozott üzemzavar vagy káreset kapcsán a felelős személy köteles azt a meghatározott szerveknek jelenteni, lefedve a teljes működést. Azon a rendszerek szabályozására, amelyek nem minősülnek magas kockázatúnak, az Európai Bizottság külön kódexek felállítását javasolja, amelyekben csupán a magas kockázatú rendszerekre kidolgozott követelményeknek csak egy meghatározott része érvényesülne.

Az MI általános szabályozására irányuló kezdeményezéseket követően Schütte áttért a kifejezetten a polgári jogi felelősséggel foglalkozó EP állásfoglalás bemutatására és elemzésére. A polgári jogi felelősség tekintetében az EP-nek a témával foglalkozó, 2020. októberében megjelent határozata az üzemeltetőt helyezi a középpontba. Üzemeltetőnek minősülhet bárki, aki ellenőrzéssel bír a mesterséges intelligencia működésével járó kockázatok felett, valamint a használatból előnye származik. A határozat terminológiájában a magas és az alacsony kockázatú mesterséges intelligencia alapú rendszerek az üzemeltető objektív vagy szubjektív felelősségét alapozzák meg. Az az alkalmazás minősül magas kockázatúnak, amelynek működése során jelentős esélye van észszerűen nem előrelátható károkozásnak.

Az üzemeltető felelős minden olyan kárért, amelyet mesterséges intelligencia alapú tevékenység, eszköz vagy folyamat okozott. A magas kockázatú rendszerek üzemeltetője ezenkívül 1 millió euró összegig köteles helytállni az MI által okozott jelentős gazdasági veszteséggel járó nem vagyoni kárért. Schütte felhívta a figyelmet arra is, hogy e körben némi ellentmondást lehet felfedezni a nem vagyoni kár és a gazdasági veszteség összekapcsolása okán. A bizonyítások terén a szabályozás nem nyújt kielégítő megoldást: a határozat úgy fogalmaz, hogy az üzemeltető mentesül a felelősség alól, ha bizonyítja, hogy a rendszer tudomásuk és megfelelő gondosságuk ellenére működött károkozó módon. Schütte itt is rámutatott a disszonanciára, amennyiben ez a szabály értelmezhető a bizonyítási teher megfordulásaként, és tartalma várhatóan tovább fog alakulni a bírósági jogalkalmazás során.

Az előadás utolsó harmadában az olyan fontos aspektusok kerültek megvilágításra, amelyeket az EU jogalkotása mostanáig még a tervezetek szintjén sem kezelt. Ilyen elem például az okozatosság problematikája, amely az MI átláthatatlanságának köszönhetően nagyon nehezen bizonyítható, épp ezért lenne szükséges megfelelően rendezni kérdését, amelyet az EP eddig elmulasztott. Emellett az emberi mögöttes felelősség mértéke is mélyebb kifejtésre szorult volna, mivel az indeterminisztikus következtetési mechanizmusnak köszönhetően a mesterséges intelligencia működése egyre kevésbé betudható bármely természetes személynek. A szubjektív, vétkességi alapú felelősség megállapítása során szintén hiányoznak azok a jogalkotói mankók, amelyek a vétkességi elemek megállapításához támpontot nyújthatnának.

Az általános kárfelelősséget követően Schütte kitért a termékfelelősségi irányelv mesterséges intelligenciára történő alkalmazhatóságának nehézségeire is. Az irányelv terminológiájában kérdéses, hogy az MI alapú program vagy az alapjául szolgáló adatok számítanak-e terméknek. További nehézségekbe ütközik a programok egyéb termékektől elkülönülő jogi megítélése. Ezen túlmenően a termékfelelősség azon kitétele sem értelmezhető az MI esetében, hogy a terméknek már a forgalomba helyezés pillanatában hibásnak kell lennie. Számos olyan hibalehetőség jelentkezhet, amely nem látható hosszú ideig, vagy ember által teljesen láthatatlan marad, illetve maga az a kérdés sem tisztázott, hogy a betáplált adatok hibássága megalapozza-e a termék hibáját. Ehhez annak tisztázása is szükséges, hogy az adat vagyonnak minősül-e, amelynek meghatározása jelenleg tagállami hatáskörbe tartozik. Kiemelendő továbbá, hogy az eddigi dokumentumok nem rendezik az adatvédelmi és a kiberbiztonsági aspektusokat sem.

Az előadást a jövő kihívásainak felvázolása zárta. Schütte ezek közül kiemelte a szabályozás koherenciájának szükségességét mind a terminológia, mind a kockázati besorolások tekintetében. Emellett az olyan fogalmak pontos tartalmának körülhatárolása is elengedhetetlen, mint például a termék vagy a kár terjedelme. Végezetül hangsúlyozta, hogy az emberi felülvizsgálat terjedelme véges lehet, ahogyan az MI alapú rendszerek egyre önállóbbá és kifinomultabbá válnak. Ennek a kérdésnek a rendezése jelentheti az egyik legfőbb előttünk álló szabályozási kihívást.

Az előadás során a közönség mélyebb ismereteket szerezhetett az MI legújabb polgári jogi felelősségi szabályozási hátterével kapcsolatban. Talán a legfontosabb konklúzió a terület komplexitása, amelynek kezelése során különösen fontos a konzisztencia. Az Európai Unió szintjén érzékelhető fokozott figyelem most már konkrét jogalkotási aktusokban is tetten érhető, ami mindenképpen pozitívumként értékelhető. Mindazonáltal a jelenleg elérhető szabályozások további pontosításokra szorulnak, különösen a magas kockázatú és a tilalmazott besorolások esetében. Béatrice Schütte előadása hozzájárult ahhoz, hogy az MI iránt érdeklődők a polgári jogi vetületekről is naprakész látleletet kapjanak, illetve felvillantotta azokat a kérdéseket, amelyekkel nem csupán a jogalkotás, hanem a jogtudomány szintjén is érdemes foglalkozni.

_____________________________________________

Készült 138965. számú NKFIH pályázat és a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

_____________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip diszkrimináció európai központi bank fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság belső piac alkotmánybíróság európai parlament előzetes döntéshozatali eljárás gazdasági és monetáris unió demokrácia kúria állami támogatás jogegységi határozat versenyjog uniós értékek eu alapjogi charta szociális jog irányelvek átültetése euró kásler-ítélet eusz 7. cikke arányosság elve választás nemzeti érdek oroszország közös kereskedelempolitika european convention of human rights brexit fizetésképtelenségi rendelet nemzeti bíróságok ultra vires aktus német alkotmánybíróság kötelezettségszegési eljárás európai parlamenti választások európai bizottság elnöke adatvédelem wto bankunió magyarország energiapolitika devizakölcsön fogyatékosok jogai btk alkotmányjog fővárosi közgyűlés közös kül- és biztonságpolitika strasbourgi bíróság szankció ukrán válság migráció szolidaritás egységes piac russia ukraine crisis compliance fundamental rights eu sanctions bevándorlás európai integráció környezetvédelem fenntartható fejlődés menekültkérdés ceta polgári kezdeményezés trump nafta tpp ecthr prison conditions surrogacy human trafficking human rights közigazgatás panpsychism personhood syngamy environment civil törvény irányelvek legitimáció kikényszerítés szociális deficit letelepedés szabadsága kiskereskedelmi különadó központi bankok európai rendszere hatáskör-átruházás elsőbbség elve adatmegőrzési irányelv közerkölcs európai unió alapjogi ügynoksége magyar helsinki bizottság vesztegetés hálapénz vallásszabadság első alkotmánykiegészítés obamacare születésszabályozás hobby lobby büntetőjog jogos védelem áldozatvédelem külkapcsolatok hatáskörmegosztás tényleges életfogytiglan új btk. szabadságvesztés lojális együttműködés végrehajtás gazdasági szankciók állampolgárság nemzetközi magánjog családi jog öröklési jog uniós polgárság alapjogi charta személyek szabad mozgása európai jog európai emberi jogi egyezmény uniós jog sérthetetlensége uniós jog autonómiája infrastruktúrához való hozzáférés versenyképesség adózás gmo-szabályozás gmo-mentesség european neighbourhood policy ukraine uk report európai szomszédságpolitika brit jelentés excessive deficit exclusionarism protectionism national courts consumer protection single market retaliation hungary european court of justice autonomy of eu legal order inviolability of eu legal order european values article 7 teu rule of law democracy reklámadó verseny szabadsága halálbüntetés schuman-nyilatkozat alapító atyák juncker bizottság energiahatékonysági irányelv energiaunió eurasian economic union dcfta european central bank german constitutional court omt görögország pénzügyi válság államcsőd likviditás menekült fal dublin iii 1951-es genfi egyezmény strasbourgi esetjog európai bíróság elnöke lenaerts hatékony jogvédelem franciaország németország értékközösség érdekközösség ügynökprobléma közbeszerzés környezetvédelmi politika áruk szabad áramlása egészségvédelem ártatlanság vélelme törökország történelmi konfliktusok uniós válságkezelés európai tanács válság szíria lengyel alkotmánybíróság jogállamiság normakontroll eljárási alkotmányosság beruházásvédelem szabályozáshoz való jog jog és irodalom erdély konferencia law in literature law as literature lengyel alkotmánybíróság lengyelország jogállamiság-védelmi mechanizmus eu klímapolitika kvótakereskedelem kiotói jegyzőkönyv adójog európai politikai pártok; pártfinanszírozás európai politikai közösség politikai pártok kohéziós politika régió székelyföld mulhaupt ingatlanadó-követelés nyilvános meghallgatás kommunikáció datafication internet platformtársadalom adókövetelés fizetésképtelenségi eljárás sokszínű európa kisebbségek sokféleség fizetésképtelenség; jogharmonizáció; csődjog; többségi demokrácia; olaszország népszavazás common commercial policy egyenlő bánásmód emberi méltóság ebh szülő nők helyzete peschka jogelmélet parlament véleménynyilvánítás szabadsága média országgyűlés sajtószabadság muršić european court of human rights dajkaterhesség egyesült királyság közigazgatási perrendtartás általános közigazgatási rendtartás egyesülési jog velencei bizottság civil felsőoktatás lex ceu közjogtudomány zaklatás szegregáció

Archívum