jtiblog

A Jogtudományi Intézet blogoldala

Tervek és kihívások európai perspektívában – Béatrice Schütte előadása a mesterséges intelligencia polgári jogi felelősségének szabályozásáról

2021. szeptember 30. 13:02
Kálmán Kinga
kutatási asszisztens, TK JTI; joghallgató, ELTE ÁJK

A Társadalomtudományi Kutatóközpont Jogtudományi Intézete „A mesterséges intelligencia jogi környezetének kihívásai” (MILAB) részprojekt keretében rendezett programsorozatának keretében került sor 2021. május 6-án Béatrice Schütte Liability plans for AI-related harm in the EU – regulatory plans and challenges” című angol nyelvű online előadására.

Béatrice Schütte a Helsinki Egyetem posztdoktori kutatójaként jelenleg vesz részt az egyetem „Kártérítési felelősség a mesterséges intelligenciával kapcsolatos károkért, európai perspektívában” című projektjében. Béatrice PhD fokozatát a dániai Aarhusi Egyetemen szerezte „Munkaadói felelősség – quo vadis? A nemzeti törvények összehasonlító elemzése és egy javaslat a normatív európai szabályozásra” c. dolgozatával. Kutatási érdeklődési köre mindenekelőtt a polgári felelősség és annak összehasonlító jogi megközelítése, de szerzett tapasztalatokat a nemzetközi magánjog, az uniós jog, a környezetvédelmi és a tengerjog terén is. Jelenlegi kutatása során az MI és a polgári jogi felelősség vonatkozásában eddig elfogadott szabályozási lépések hátterével foglalkozik, valamint vizsgálja a meglévő felelősségi szabályok alkalmazhatóságát az innovatív technológiák tekintetében.

Schütte előadását annak hangsúlyozásával kezdte, hogy a technológia jelen állása szerint a mesterséges intelligenciának nincs egységes definíciója. Mindazonáltal az Európai Parlament (EP) meghatározását elfogadhatónak tartja, amely az intelligencia utánzására, azon belül is az adatgyűjtésre és -feldolgozásra, a környezet elemzésére és az elérni kívánt célok érdekében kifejtett részleges autonóm tevékenységre helyezi a hangsúlyt. Részben már a meghatározás is rávilágít arra, hogy az MI alkalmazása esetében mindenképpen rendezni szükséges működésének polgári jogi felelősségi hátterét. Amennyire hasznos lehet számunkra, emberek számára, ezzel egyidejűleg az MI szerepvállalása jelentős emberi, jogi és gazdasági kockázatokat is hordoz magában, amelyekre a jelenlegi jogi felelősségi keretrendszer nem alkalmazható plasztikusan.

Ezt a problémát világszerte már sok évvel ezelőtt felismerték, így minden jelentősebb nemzetközi jogalkotói színtéren megjelentek szabályozási törekvések, ami alól az Európai Unió sem kivétel. Az EP 2017-ben fogalmazta meg először a mesterséges intelligencia jogalkotási vetületei rendezésének szükségességét, valamint ekkor szögezte le először azt is, hogy szükség lenne az ezen entitások polgári jogi felelősségét körvonalazó keretrendszer megalkotására. Ezt számos további ajánlás, határozat és policy paper követte egészen 2021 áprilisáig, amikor megjelent az Európai Bizottság rendelettervezete egységes mesterséges intelligencia kódex megalkotásáról, ami Schütte előadásának egyik fő témáját is képezte.

A rendelettervezet az Európai Unió Működéséről szóló Szerződés (EUMSZ) 114. cikkéből eredő belső piaci klauzulára vezeti vissza a szabályozás jogalapját. Emellett kiemelt jogalkotói célként fogalmazza meg az alapvető jogok érvényesülését, amelynek érdekében az MI alkalmazása körében egy kockázatalapú szabályozást kíván bevezetni. Ugyanakkor a tervezet számos alapjoggal összefüggésben enged meg korlátozó intézkedéseket, mint például a vállalkozás, a művészet és a tudomány szabadsága. Azonban Schütte szerint ez szükséges és arányos megközelítés az egészség, a biztonság, a fogyasztóvédelem és egyéb emberi jogok garantálása érdekében. A szabályok kiterjednének mind a köz-, mind a magánszférában használt MI alapú programokra, függetlenül attól, hogy az EU-n belül vagy kívül használják őket.

A kockázat-alapú megközelítés alapján a rendelettervezet meghatároz olyan MI rendszereket, amelyek alkalmazása a jövőben tiltottnak minősülne. Ebbe a csoportba tartoznak többek között:

  • az emberi viselkedést tudat alatti módon befolyásoló eszközök, amelyek az embereknek fizikai vagy pszichológiai sérülést okozhatnak;
  • az olyan profilozó rendszerek, amelyek az ember tulajdonságairól, társadalmi viselkedéséről folyamatos jelentéseket készítenek, és ezek alapján osztályoznak, értékelnek;
  • olyan rendszerek, amelyek kifejezetten egy sérülékeny csoportot, vagy életkort céloznak meg, és a kiszemelt csoport viselkedésének sérelmes módon történő alakítását célozzák meg;
  • valós idejű biometrikus azonosítási rendszerek nyilvános helyeken, amelyeket a hatóságok nem igazolható módon használnak például nyomozás, terrorelhárítás vagy katasztrófavédelem érdekében.

A semmilyen körülmények között nem alkalmazható rendszereken túl az Európai Bizottság azonosított magas kockázatúnak minősített megjelenési formákat is, amelyeknél az emberekre gyakorolt várható kedvezőtlen hatás csekélyebb. Ezek esetében számos többletkövetelményt kell teljesítenie az üzembe helyezőnek a jogszerű működés érdekében, úgy mint:

  • kockázatkezelési rendszer kidolgozása,
  • műszaki dokumentáció és naplózás,
  • adatok tisztasága, megfelelő adatmenedzsment,
  • transzparencia a használók irányába,
  • emberi felügyelet beépítése,
  • pontosság, robosztusság és a kiberbiztonság garantálása,
  • kötelező megfelelőségi értékelések elvégzése,
  • kötelező regisztráció a megfelelő EU adatbázisban.

Az előzetes többletkövetelményeken túl utólagos jellegű vizsgálati, valamint jelentési kötelezettségeket is támasztanak a tervezet szabályai. Így például bármilyen MI által okozott üzemzavar vagy káreset kapcsán a felelős személy köteles azt a meghatározott szerveknek jelenteni, lefedve a teljes működést. Azon a rendszerek szabályozására, amelyek nem minősülnek magas kockázatúnak, az Európai Bizottság külön kódexek felállítását javasolja, amelyekben csupán a magas kockázatú rendszerekre kidolgozott követelményeknek csak egy meghatározott része érvényesülne.

Az MI általános szabályozására irányuló kezdeményezéseket követően Schütte áttért a kifejezetten a polgári jogi felelősséggel foglalkozó EP állásfoglalás bemutatására és elemzésére. A polgári jogi felelősség tekintetében az EP-nek a témával foglalkozó, 2020. októberében megjelent határozata az üzemeltetőt helyezi a középpontba. Üzemeltetőnek minősülhet bárki, aki ellenőrzéssel bír a mesterséges intelligencia működésével járó kockázatok felett, valamint a használatból előnye származik. A határozat terminológiájában a magas és az alacsony kockázatú mesterséges intelligencia alapú rendszerek az üzemeltető objektív vagy szubjektív felelősségét alapozzák meg. Az az alkalmazás minősül magas kockázatúnak, amelynek működése során jelentős esélye van észszerűen nem előrelátható károkozásnak.

Az üzemeltető felelős minden olyan kárért, amelyet mesterséges intelligencia alapú tevékenység, eszköz vagy folyamat okozott. A magas kockázatú rendszerek üzemeltetője ezenkívül 1 millió euró összegig köteles helytállni az MI által okozott jelentős gazdasági veszteséggel járó nem vagyoni kárért. Schütte felhívta a figyelmet arra is, hogy e körben némi ellentmondást lehet felfedezni a nem vagyoni kár és a gazdasági veszteség összekapcsolása okán. A bizonyítások terén a szabályozás nem nyújt kielégítő megoldást: a határozat úgy fogalmaz, hogy az üzemeltető mentesül a felelősség alól, ha bizonyítja, hogy a rendszer tudomásuk és megfelelő gondosságuk ellenére működött károkozó módon. Schütte itt is rámutatott a disszonanciára, amennyiben ez a szabály értelmezhető a bizonyítási teher megfordulásaként, és tartalma várhatóan tovább fog alakulni a bírósági jogalkalmazás során.

Az előadás utolsó harmadában az olyan fontos aspektusok kerültek megvilágításra, amelyeket az EU jogalkotása mostanáig még a tervezetek szintjén sem kezelt. Ilyen elem például az okozatosság problematikája, amely az MI átláthatatlanságának köszönhetően nagyon nehezen bizonyítható, épp ezért lenne szükséges megfelelően rendezni kérdését, amelyet az EP eddig elmulasztott. Emellett az emberi mögöttes felelősség mértéke is mélyebb kifejtésre szorult volna, mivel az indeterminisztikus következtetési mechanizmusnak köszönhetően a mesterséges intelligencia működése egyre kevésbé betudható bármely természetes személynek. A szubjektív, vétkességi alapú felelősség megállapítása során szintén hiányoznak azok a jogalkotói mankók, amelyek a vétkességi elemek megállapításához támpontot nyújthatnának.

Az általános kárfelelősséget követően Schütte kitért a termékfelelősségi irányelv mesterséges intelligenciára történő alkalmazhatóságának nehézségeire is. Az irányelv terminológiájában kérdéses, hogy az MI alapú program vagy az alapjául szolgáló adatok számítanak-e terméknek. További nehézségekbe ütközik a programok egyéb termékektől elkülönülő jogi megítélése. Ezen túlmenően a termékfelelősség azon kitétele sem értelmezhető az MI esetében, hogy a terméknek már a forgalomba helyezés pillanatában hibásnak kell lennie. Számos olyan hibalehetőség jelentkezhet, amely nem látható hosszú ideig, vagy ember által teljesen láthatatlan marad, illetve maga az a kérdés sem tisztázott, hogy a betáplált adatok hibássága megalapozza-e a termék hibáját. Ehhez annak tisztázása is szükséges, hogy az adat vagyonnak minősül-e, amelynek meghatározása jelenleg tagállami hatáskörbe tartozik. Kiemelendő továbbá, hogy az eddigi dokumentumok nem rendezik az adatvédelmi és a kiberbiztonsági aspektusokat sem.

Az előadást a jövő kihívásainak felvázolása zárta. Schütte ezek közül kiemelte a szabályozás koherenciájának szükségességét mind a terminológia, mind a kockázati besorolások tekintetében. Emellett az olyan fogalmak pontos tartalmának körülhatárolása is elengedhetetlen, mint például a termék vagy a kár terjedelme. Végezetül hangsúlyozta, hogy az emberi felülvizsgálat terjedelme véges lehet, ahogyan az MI alapú rendszerek egyre önállóbbá és kifinomultabbá válnak. Ennek a kérdésnek a rendezése jelentheti az egyik legfőbb előttünk álló szabályozási kihívást.

Az előadás során a közönség mélyebb ismereteket szerezhetett az MI legújabb polgári jogi felelősségi szabályozási hátterével kapcsolatban. Talán a legfontosabb konklúzió a terület komplexitása, amelynek kezelése során különösen fontos a konzisztencia. Az Európai Unió szintjén érzékelhető fokozott figyelem most már konkrét jogalkotási aktusokban is tetten érhető, ami mindenképpen pozitívumként értékelhető. Mindazonáltal a jelenleg elérhető szabályozások további pontosításokra szorulnak, különösen a magas kockázatú és a tilalmazott besorolások esetében. Béatrice Schütte előadása hozzájárult ahhoz, hogy az MI iránt érdeklődők a polgári jogi vetületekről is naprakész látleletet kapjanak, illetve felvillantotta azokat a kérdéseket, amelyekkel nem csupán a jogalkotás, hanem a jogtudomány szintjén is érdemes foglalkozni.

_____________________________________________

Készült 138965. számú NKFIH pályázat és a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

_____________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip európai parlament belső piac fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság diszkrimináció alkotmánybíróság európai központi bank gazdasági és monetáris unió versenyjog kúria állami támogatás uniós értékek demokrácia jogegységi határozat előzetes döntéshozatali eljárás nemzeti érdek közös kereskedelempolitika euró eu alapjogi charta brexit arányosság elve szociális jog irányelvek átültetése european convention of human rights kásler-ítélet fizetésképtelenségi rendelet választás oroszország eusz 7. cikke human trafficking egységes piac európai bizottság elnöke human rights környezetvédelem adatvédelem bevándorlás fenntartható fejlődés ultra vires aktus btk közös kül- és biztonságpolitika ceta német alkotmánybíróság trump nafta közigazgatás wto tpp migráció nemzeti bíróságok russia menekültkérdés fundamental rights strasbourgi bíróság panpsychism szolidaritás ukraine crisis bankunió personhood polgári kezdeményezés magyarország szankció syngamy kötelezettségszegési eljárás energiapolitika environment eu sanctions devizakölcsön ecthr európai integráció civil törvény compliance alkotmányjog prison conditions ukrán válság fővárosi közgyűlés fogyatékosok jogai surrogacy európai parlamenti választások verseny szabadsága magyar helsinki bizottság ebh államcsőd közbeszerzés felsőoktatás normakontroll kiotói jegyzőkönyv national courts internet platformtársadalom halálbüntetés vesztegetés szülő nők helyzete likviditás külkapcsolatok állampolgárság lex ceu eljárási alkotmányosság versenyképesség adójog consumer protection adókövetelés hálapénz peschka menekült hatáskörmegosztás european court of human rights nemzetközi magánjog közjogtudomány adózás európai politikai pártok; single market fizetésképtelenségi eljárás schuman-nyilatkozat jogelmélet fal dajkaterhesség környezetvédelmi politika családi jog zaklatás gmo-szabályozás pártfinanszírozás retaliation adatmegőrzési irányelv sokszínű európa alapító atyák vallásszabadság dublin iii egyesült királyság áruk szabad áramlása öröklési jog szegregáció beruházásvédelem gmo-mentesség központi bankok európai rendszere európai politikai közösség hungary közerkölcs kisebbségek juncker bizottság első alkotmánykiegészítés 1951-es genfi egyezmény egészségvédelem uniós polgárság irányelvek szabályozáshoz való jog european neighbourhood policy hatáskör-átruházás politikai pártok european court of justice sokféleség energiahatékonysági irányelv obamacare strasbourgi esetjog tényleges életfogytiglan közigazgatási perrendtartás ártatlanság vélelme jog és irodalom elsőbbség elve kohéziós politika fizetésképtelenség; energiaunió születésszabályozás parlament európai bíróság elnöke új btk. általános közigazgatási rendtartás alapjogi charta legitimáció erdély ukraine régió jogharmonizáció; eurasian economic union hobby lobby véleménynyilvánítás szabadsága lenaerts törökország kikényszerítés konferencia székelyföld autonomy of eu legal order csődjog; dcfta büntetőjog média hatékony jogvédelem szabadságvesztés történelmi konfliktusok személyek szabad mozgása law in literature uk report inviolability of eu legal order többségi demokrácia; jogos védelem országgyűlés franciaország uniós válságkezelés európai jog szociális deficit law as literature európai szomszédságpolitika mulhaupt european values olaszország european central bank áldozatvédelem sajtószabadság németország lojális együttműködés európai tanács európai emberi jogi egyezmény letelepedés szabadsága lengyel alkotmánybíróság brit jelentés népszavazás german constitutional court végrehajtás válság lengyelország ingatlanadó-követelés article 7 teu common commercial policy omt értékközösség egyesülési jog szíria uniós jog sérthetetlensége kiskereskedelmi különadó jogállamiság-védelmi mechanizmus excessive deficit nyilvános meghallgatás rule of law democracy európai unió alapjogi ügynoksége egyenlő bánásmód görögország muršić érdekközösség velencei bizottság lengyel alkotmánybíróság uniós jog autonómiája eu klímapolitika exclusionarism kommunikáció reklámadó emberi méltóság pénzügyi válság ügynökprobléma gazdasági szankciók civil jogállamiság infrastruktúrához való hozzáférés kvótakereskedelem protectionism datafication