jtiblog

A Jogtudományi Intézet blogoldala

A polgári jogi felelősségi rendszer(ek) mesterséges intelligenciára való alkalmazhatóságának egyes kérdéseiről (az Európai Parlament 2020. október 20-i állásfoglalása nyomán) – 1. rész

2021. április 20. 20:55
Rácz Lilla
tudományos segédmunkatárs, TK JTI

„Ami volt, az lesz újra, és ami történt, az történik megint: semmi sem új a nap alatt.”        (Préd 1.9)

„Juris praecepta sunt haec: honeste vivere, alterum non laedere, suum cuique tribuere.” (D. 1.1.10)

A mesterséges intelligencia (MI) egyre szélesebb körben történő elterjedése immáron nemcsak a technológiai újítások iránt érdeklődő szélesebb közönség, de az új technológiák biztonságos működési feltételeinek előírásáért és a közönség jogainak védelméért felelősséggel tartozó intézmények figyelmét is egyre jobban magára vonja. Az MI-alapú rendszerek megjelenése és a mindennapi élet egyre több területén való felhasználása az egyes államoknak az évszázadok alatt sok próbát kiállt és saját kereteiken belül sok változtatást „átélt” jogrendszereit, jogi fogalmait és hagyományos jogi eszközeit a változás nagysága, lassan az élet szinte minden szférájára való kiterjedtsége és sebessége vonatkozásában korábban sosem tapasztalt kihívás elé állítja.

Ezzel a kihívással és az ebből adódó szabályozási nehézségekkel az Európai Parlament[1] is tisztában volt: „mivel az MI-rendszerek sokfélesége és a technológia által jelentett kockázatok sokfélesége megnehezíti az arra irányuló erőfeszítéseket, hogy a kockázatok teljes spektrumának megfelelő egységes megoldást találjanak”, ezért „olyan megközelítést kell elfogadni, amelyben kísérleteket, kísérleti projekteket és szabályozási tesztkörnyezeteket alkalmaznak olyan arányos és tényeken alapuló megoldások kidolgozására, amelyek szükség esetén konkrét helyzetekre és ágazatokra irányulnak”.[2] Az Európai Parlament 2020. október 20-i állásfoglalása egy olyan felelősségi rendszer kialakítására tesz kísérletet, amely a már fennálló általános és különös polgári jogi felelősségi rendszerek egyes jellemzőinek felhasználásával az MI-alapú rendszerek működése során a személyek alapvető jogait érő sérelem, kár bekövetkezése esetén egyrészt a károsult megfelelő kompenzálását szem előtt tartva az általános szabályokhoz képest a károsult igényeit nagyobb hangsúllyal veszi tekintetbe, másrészt a mesterséges intelligencián alapuló technológia dinamikus fejlődésében és innovációjában kulcsfontosságú szereppel bíró, induló vállalkozások, mikro-, kis- és középvállalkozások működését és fejlődését sem lehetetleníti el.[3]

A „felelősség” a polgári jog azon alapfogalmai közé tartozik, amelyek a civiljog rendszerében a jogszabályok teljes komplexumán belül komplett, jórészt önálló normarendszerek origójaként funkcionálnak. A felelősség kérdése jellemzően kétpólusú, ún. relatív szerkezetű jogviszonyokkal kapcsolatban merül fel. Ezek a jogi kontaktusok lehetnek szerződéses jogviszonyokban álló felek közötti vagy szerződésen kívüli, leggyakrabban károkozó magatartás következményeként létrejövő jogviszonyok jogalanyai között fennálló jogviszonyok. Ezeknek a jogviszonyoknak a lényege, egyéb jogi kontaktusoktól megkülönböztető ismérve, hogy a jogviszony egyik alanyát olyan sérelem érte vagy olyan kár(osodás)t szenvedett el, amely kár, illetve sérelem okozása és bekövetkezése miatt a jogviszony másik alanya, a polgári jog szabályai alapján felelősséggel tartozva az adott kárért illetve sérelemért, amennyiben felelősségének fennállása bizonyítást nyer, kártérítés megfizetésére kötelezhető. A felelősség fennállásához különböző feltételek fennállása, illetve azok bizonyítása szükséges.  

A kár vagy sérelem bekövetkezése, illetve a károkozó magatartás önmagában nem elégséges a kártérítési kötelezettség megállapításához; a károkozó magatartás és a bekövetkezett kár vagy sérelem közötti okozati összefüggés bizonyítása mellett, a károkozó fél felróható, illetve vétkes magatartása is szükséges feltétel. A kártérítési felelősség általános szabályára épülő,[4] kimentési, exkulpációs alapú kimentési rendszer lényege az, hogy a bekövetkezett kár, a károkozó magatartás és a kettő közötti ok-okozati kapcsolat károsult általi bizonyítása mellett a károkozó személy abban az esetben mentesülhet a felelősség alól, ha bizonyítja, hogy magatartása nem volt felróható (vagyis úgy járt el, ahogy az az adott helyzetben általában elvárható).[5]

Ez a felróhatóság, illetve vétkesség alapú, szubjektív vagy deliktuális általános polgári jogi felelősségi rendszer a korábbi korok technológiai változásai miatt – például a tömegközlekedés, tömegtermelés elterjedése következtében – a károsulti érdekek megfelelő védelmére már a múltban is több alkalommal (a technológiai újításokhoz kapcsolódó új tevékenységekhez kötődő és tömegessé váló károkozó magatartások és az azokhoz köthető súlyos és nagymértékű károk bekövetkezésének veszélye miatt) elégtelennek bizonyult. Az általános felróhatóság alapú felelősségi rezsim a károkozót aránytalan hátrányba hozta a kárt okozó személlyel szemben mind a bizonyítás túlzott megnehezülése, illetve ellehetetlenülése, mind a lehetséges károkozó magatartások eredményeként bekövetkező károk korábban sosem tapasztalt mértéke okán. Az általános felróhatóság alapú felelősségi rezsim alól így születtek meg meghatározott károkozási magatartásokra és kártípusokra vonatkozó különleges szabályok, úgy mint az üzembentartó felelősségére épülő veszélyes üzemi felelősségi szabályok, valamint a fogyasztóvédelmi jog térnyerése eredményeként is napvilágot látott termékfelelősség rendszere. Minden speciális kártérítési rezsim közös tulajdonsága, hogy a károsult javára enyhít és ennek megfelelően a károkozó szempontjából szigorít az általános felelősségi rendszer szabályain, olykor pusztán vélelmezve a károkozó felróhatóságát (ami alól meghatározott szigorú feltételek fennállása esetén enged még mentesülést), olykor pedig, az ún. objektív felelősség előírása esetében, a károkozót a kimentés lehetőségétől teljes mértékben megfosztva (természetesen a kár, a károkozó magatartás és a kettő közötti összefüggés bizonyítása mint a kártérítési felelősség fennállásának feltétele továbbra is alkalmazandó, vagyoni károk esetében minden esetben), így biztosítva a károsult számára az általa elszenvedett kár megfelelő kompenzációjának lehetőségét. A jellemzően kompenzációs célú kártérítési kötelezettség másik, származékos funkciójának tekinthető, az Állásfoglalásban is megjelenő, prevenciós célzat, miszerint a felelősség fogalma „gazdasági ösztönzőket nyújt a természetes és jogi személyek számára, hogy eleve elkerüljék a sérelem- vagy károkozást, vagy számolniuk kelljen azzal, hogy magatartásuk miatt kompenzációt kell fizetniük”.[6]

Az Állásfoglalás témáját a 21. század technológiai forradalma szolgáltatta: a mesterséges intelligencia térhódítása és egyre szélesebb körű elterjedése „a személyes szférától kezdve (pl. közlekedési ágazat, személyre szabott oktatás, kiszolgáltatott helyzetben lévő személyeknek nyújtott támogatás, fitnesz-programok, hitelnyújtás) a munkahelyi környezeten (pl. megterhelő és repetitív feladatok megkönnyítése) át egészen a globális kihívásokig (pl. éghajlatváltozás, egészségügyi ellátás, táplálkozás és logisztika)”.[7] Az Állásfoglalás szerint ez az általános felelősségi szabályok alóli kivételként egy újabb speciális polgári jogi felelősségi rendszer, egy „jövőorientált polgári felelősségi jogi keret”[8] kidolgozásának szükségességét veti fel. Az MI-rendszerek nemcsak a tevékenységi körök, de a felhasznált technológiák tekintetében is rendkívül változatos formát mutatnak. Közösnek tekinthető minden MI-rendszer működése során, és éppen ez állítja a legnagyobb kihívás elé a jelenleg létező felelősségi rendszereket, hogy az MI-rendszerek működése során, tulajdonképpen bármilyen tevékenységi körben kerüljön is az MI felhasználásra, felmerülhetnek olyan helyzetek, amelyekben károkozás, illetve kár, sérelem elszenvedése esetén a rendszerek működésének átláthatatlansága „rendkívül költségessé teheti vagy akár el is lehetetlenítheti annak megállapítását, hogy ki kontrollálta az MI-rendszerrel kapcsolatos kockázatot, illetve hogy végeredményben mely kód, bevitel vagy adat okozta a kárt okozó üzemeltetést”. Ez a körülmény pedig „megnehezítheti a sérelem vagy a kár és az azt okozó magatartás közötti kapcsolat azonosítását”.[9] Amennyiben ezt az ok-okozati kapcsolatot nem sikerül bizonyítani, a károkozó felelősségét nem lehet megállapítani, vagy nem a tényleges károkozó felelősségét lehet megállapítani. A diszkrimináció tilalma ugyanakkor megköveteli, hogy „aki MI-rendszerek által okozott kárt szenved el, vagy akinek tulajdonában MI-rendszerek által okozott kár keletkezik, azonos mértékű védelemben [legyen része], mint más, MI-rendszerek részvétele nélkül bekövetkező esetek károsultjainak”.[10] A mesterséges intelligencián alapuló eszközök és szolgáltatások vonatkozásában kialakítandó új felelősségi rezsim közösségi és tagállami szinten is az egyik legfontosabb kihívás napjainkban és a (digitális) közös piacnak az újabb technológiai-működési környezethez igazodó megfelelő szabályozásához is nélkülözhetetlen.

Az Állásfoglalás másik részről kitér arra is, hogy az új rendszer kidolgozása során nemcsak a lehetséges károsulti kör, de a potenciális jövőbeni károkozók meghatározott érdekeit is megfelelő súllyal kell figyelembe venni. A megfelelő egyensúly kialakítása „a sérelem vagy kár potenciális áldozatainak hatékony és tisztességes védelme, illetve aközött, hogy a vállalkozások, és különösen a kis- és középvállalkozások elegendő mozgástérrel rendelkezzenek új technológiák, termékek vagy szolgáltatások kifejlesztéséhez”,[11] egy olyan polgári jogi felelősségi rendszer kiépítésének szükségét veti fel, amelynek ugyanakkor a jogbiztonság elvének is meg kell felelnie, vagyis a felelősségi rendszerben érintett minden szereplő, „a gyártó”, „az üzemeltető”, „az érintett személy” vagy „bármely más harmadik fél” már a tevékenység megkezdése előtt tisztában van a bizonyos szereplőkhöz „igazított”, illetve bizonyos tevékenységek vonatkozásában „szigorított”[12] felelősségi szabályokkal.

Azonban az új szabályozás kialakítása mellett sem tűnik elengedhetetlenül szükségesnek a már fennálló felelősségi rendszerek radikális megváltoztatása. Mivel a már ismert speciális felelősségi rendszerek keretén belül is van lehetőség arra, hogy „egy fél felróhatóság hiányában is felelősnek [legyen] tartható”, hogy egy károkozót „objektív felelősség” terhelje, „ha olyan, a társadalmat érintő kockázat merül fel, amelyet ezen alperes okozott (például gépjárművek, illetve veszélyes tevékenységek formájában) vagy amelyek fölött nem képes ellenőrzést gyakorolni (mint például állatok), és az sérelem- vagy károkozást eredményez”.[13] Ugyanakkor azt is figyelembe kell venni, hogy „az MI-rendszerek összetettsége, konnektivitása, átláthatatlansága, sebezhetősége, azon képessége, hogy frissítések révén módosítható, önálló tanulási képessége és potenciális autonómiája, valamint az érintett szereplők nagy száma”[14] miatt a speciális felelősségi rezsimek egyes szabályai bizonyos kérdések vonatkozásában kiegészítésre, módosításra szorul(hat)nak.

Az első eldöntendő kérdés, amire egy az MI-rendszerekhez igazított felelősségi rendszer kiépítésekor választ kell adni, az az, hogy az MI-rendszerek működése során közvetve vagy közvetlenül okozott károsodások esetén honnan kerüljön ki a lehetséges károkozó személyek köre. Amennyiben kizárjuk az MI-rendszereknek jogi személyiséggel való felruházását,[15] úgy feltétlenül egy olyan már létező konkrét természetes vagy jogi személyt kell kijelölni, aki jogképességgel rendelkezik, vagyis jogai és kötelezettségei lehetnek, így végső soron kártérítés-fizetési kötelezettség is terhelheti. A személyi kör, akik közül a már létező felelősségi rezsimek keretei között a károkozó személye kijelölhetővé válhat, magában foglalja többek között az előállítókat, a fejlesztőket, a programozókat, a szolgáltatókat és az üzemeltetőket (frontend-, illetve backend-üzemeltetőket).[16] Ez meglehetősen széles jogalanyi, potenciális károkozói kört foglal magában. Ugyanakkor azt is figyelembe kell venni, hogy habár „az MI-rendszerek által vezérelt valamennyi fizikai vagy virtuális tevékenységet, eszközt vagy folyamatot”, amely technikai értelemben a sérelem vagy kár közvetlen vagy közvetett okának tekinthető, „majdnem mindig olyasvalaki hozza létre, aki a rendszereket kiépíti, alkalmazza vagy azokba beavatkozik”, azonban „az MI-rendszerek átláthatatlansága, konnektivitása és autonómiája a gyakorlatban nagyon nehézzé teszi vagy akár el is lehetetlenítheti, hogy az MI-rendszerek bizonyos káros cselekedetei konkrét emberi behatásra vagy tervezési döntésre visszavezethetők legyenek”.[17]

_____________________________________________

[1] A mesterséges intelligencia polgári jogi felelősségi rendszere. Az Európai Parlament 2020. október 20-i állásfoglalása a Bizottságnak szóló ajánlásokkal a mesterséges intelligenciára vonatkozó polgári jogi felelősségi rendszerrel kapcsolatban (2020/2014(INL)) (P9_TA(2020)0276). (A továbbiakban: Állásfoglalás.)

[2] Állásfoglalás L. pont.

[3] Állásfoglalás K. pont.

[4] A szerződésszegéssel okozott károkért való felelősség szabályaira külön most nem térünk ki.

[5] A magyar polgári jogi felelősségi rendszer általános szabálya szerint, aki másnak jogellenesen kárt okoz, köteles azt megtéríteni. Mentesül a felelősség alól a károkozó, ha bizonyítja, hogy magatartása nem volt felróható. A Polgári Törvénykönyvről szóló 2013. évi V. törvény (Ptk.) 6:519. §. Ha e törvény eltérő követelményt nem támaszt, a polgári jogi viszonyokban úgy kell eljárni, ahogy az az adott helyzetben általában elvárható. Ptk. 1:4. § (1) bekezdés.

[6] Állásfoglalás A. pont.

[7] Állásfoglalás 1. pont.

[8] Állásfoglalás B. pont.

[9] Állásfoglalás H. pont.

[10] Állásfoglalás J. pont.

[11] Állásfoglalás B. pont.

[12] Állásfoglalás C. pont.

[13] Állásfoglalás C. pont.

[14] Állásfoglalás 6. pont.

[15] Állásfoglalás 7. pont.

[16] Állásfoglalás 8. pont.

[17]Állásfoglalás 7. pont.

_____________________________________________

Készült a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

_____________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip diszkrimináció európai központi bank fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság belső piac alkotmánybíróság európai parlament előzetes döntéshozatali eljárás gazdasági és monetáris unió demokrácia kúria állami támogatás jogegységi határozat versenyjog uniós értékek eu alapjogi charta szociális jog irányelvek átültetése euró kásler-ítélet eusz 7. cikke arányosság elve választás nemzeti érdek oroszország közös kereskedelempolitika european convention of human rights brexit fizetésképtelenségi rendelet nemzeti bíróságok ultra vires aktus német alkotmánybíróság kötelezettségszegési eljárás európai parlamenti választások európai bizottság elnöke adatvédelem wto bankunió magyarország energiapolitika devizakölcsön fogyatékosok jogai btk alkotmányjog fővárosi közgyűlés közös kül- és biztonságpolitika strasbourgi bíróság szankció ukrán válság migráció szolidaritás egységes piac russia ukraine crisis compliance fundamental rights eu sanctions bevándorlás európai integráció környezetvédelem fenntartható fejlődés menekültkérdés ceta polgári kezdeményezés trump nafta tpp ecthr prison conditions surrogacy human trafficking human rights közigazgatás panpsychism personhood syngamy environment civil törvény irányelvek legitimáció kikényszerítés szociális deficit letelepedés szabadsága kiskereskedelmi különadó központi bankok európai rendszere hatáskör-átruházás elsőbbség elve adatmegőrzési irányelv közerkölcs európai unió alapjogi ügynoksége magyar helsinki bizottság vesztegetés hálapénz vallásszabadság első alkotmánykiegészítés obamacare születésszabályozás hobby lobby büntetőjog jogos védelem áldozatvédelem külkapcsolatok hatáskörmegosztás tényleges életfogytiglan új btk. szabadságvesztés lojális együttműködés végrehajtás gazdasági szankciók állampolgárság nemzetközi magánjog családi jog öröklési jog uniós polgárság alapjogi charta személyek szabad mozgása európai jog európai emberi jogi egyezmény uniós jog sérthetetlensége uniós jog autonómiája infrastruktúrához való hozzáférés versenyképesség adózás gmo-szabályozás gmo-mentesség european neighbourhood policy ukraine uk report európai szomszédságpolitika brit jelentés excessive deficit exclusionarism protectionism national courts consumer protection single market retaliation hungary european court of justice autonomy of eu legal order inviolability of eu legal order european values article 7 teu rule of law democracy reklámadó verseny szabadsága halálbüntetés schuman-nyilatkozat alapító atyák juncker bizottság energiahatékonysági irányelv energiaunió eurasian economic union dcfta european central bank german constitutional court omt görögország pénzügyi válság államcsőd likviditás menekült fal dublin iii 1951-es genfi egyezmény strasbourgi esetjog európai bíróság elnöke lenaerts hatékony jogvédelem franciaország németország értékközösség érdekközösség ügynökprobléma közbeszerzés környezetvédelmi politika áruk szabad áramlása egészségvédelem ártatlanság vélelme törökország történelmi konfliktusok uniós válságkezelés európai tanács válság szíria lengyel alkotmánybíróság jogállamiság normakontroll eljárási alkotmányosság beruházásvédelem szabályozáshoz való jog jog és irodalom erdély konferencia law in literature law as literature lengyel alkotmánybíróság lengyelország jogállamiság-védelmi mechanizmus eu klímapolitika kvótakereskedelem kiotói jegyzőkönyv adójog európai politikai pártok; pártfinanszírozás európai politikai közösség politikai pártok kohéziós politika régió székelyföld mulhaupt ingatlanadó-követelés nyilvános meghallgatás kommunikáció datafication internet platformtársadalom adókövetelés fizetésképtelenségi eljárás sokszínű európa kisebbségek sokféleség fizetésképtelenség; jogharmonizáció; csődjog; többségi demokrácia; olaszország népszavazás common commercial policy egyenlő bánásmód emberi méltóság ebh szülő nők helyzete peschka jogelmélet parlament véleménynyilvánítás szabadsága média országgyűlés sajtószabadság muršić european court of human rights dajkaterhesség egyesült királyság közigazgatási perrendtartás általános közigazgatási rendtartás egyesülési jog velencei bizottság civil felsőoktatás lex ceu közjogtudomány zaklatás szegregáció

Archívum