jtiblog

A Jogtudományi Intézet blogoldala

A polgári jogi felelősségi rendszer(ek) mesterséges intelligenciára való alkalmazhatóságának egyes kérdéseiről (az Európai Parlament 2020. október 20-i állásfoglalása nyomán) – 1. rész

2021. április 20. 20:55
Rácz Lilla
tudományos segédmunkatárs, TK JTI

„Ami volt, az lesz újra, és ami történt, az történik megint: semmi sem új a nap alatt.”        (Préd 1.9)

„Juris praecepta sunt haec: honeste vivere, alterum non laedere, suum cuique tribuere.” (D. 1.1.10)

A mesterséges intelligencia (MI) egyre szélesebb körben történő elterjedése immáron nemcsak a technológiai újítások iránt érdeklődő szélesebb közönség, de az új technológiák biztonságos működési feltételeinek előírásáért és a közönség jogainak védelméért felelősséggel tartozó intézmények figyelmét is egyre jobban magára vonja. Az MI-alapú rendszerek megjelenése és a mindennapi élet egyre több területén való felhasználása az egyes államoknak az évszázadok alatt sok próbát kiállt és saját kereteiken belül sok változtatást „átélt” jogrendszereit, jogi fogalmait és hagyományos jogi eszközeit a változás nagysága, lassan az élet szinte minden szférájára való kiterjedtsége és sebessége vonatkozásában korábban sosem tapasztalt kihívás elé állítja.

Ezzel a kihívással és az ebből adódó szabályozási nehézségekkel az Európai Parlament[1] is tisztában volt: „mivel az MI-rendszerek sokfélesége és a technológia által jelentett kockázatok sokfélesége megnehezíti az arra irányuló erőfeszítéseket, hogy a kockázatok teljes spektrumának megfelelő egységes megoldást találjanak”, ezért „olyan megközelítést kell elfogadni, amelyben kísérleteket, kísérleti projekteket és szabályozási tesztkörnyezeteket alkalmaznak olyan arányos és tényeken alapuló megoldások kidolgozására, amelyek szükség esetén konkrét helyzetekre és ágazatokra irányulnak”.[2] Az Európai Parlament 2020. október 20-i állásfoglalása egy olyan felelősségi rendszer kialakítására tesz kísérletet, amely a már fennálló általános és különös polgári jogi felelősségi rendszerek egyes jellemzőinek felhasználásával az MI-alapú rendszerek működése során a személyek alapvető jogait érő sérelem, kár bekövetkezése esetén egyrészt a károsult megfelelő kompenzálását szem előtt tartva az általános szabályokhoz képest a károsult igényeit nagyobb hangsúllyal veszi tekintetbe, másrészt a mesterséges intelligencián alapuló technológia dinamikus fejlődésében és innovációjában kulcsfontosságú szereppel bíró, induló vállalkozások, mikro-, kis- és középvállalkozások működését és fejlődését sem lehetetleníti el.[3]

A „felelősség” a polgári jog azon alapfogalmai közé tartozik, amelyek a civiljog rendszerében a jogszabályok teljes komplexumán belül komplett, jórészt önálló normarendszerek origójaként funkcionálnak. A felelősség kérdése jellemzően kétpólusú, ún. relatív szerkezetű jogviszonyokkal kapcsolatban merül fel. Ezek a jogi kontaktusok lehetnek szerződéses jogviszonyokban álló felek közötti vagy szerződésen kívüli, leggyakrabban károkozó magatartás következményeként létrejövő jogviszonyok jogalanyai között fennálló jogviszonyok. Ezeknek a jogviszonyoknak a lényege, egyéb jogi kontaktusoktól megkülönböztető ismérve, hogy a jogviszony egyik alanyát olyan sérelem érte vagy olyan kár(osodás)t szenvedett el, amely kár, illetve sérelem okozása és bekövetkezése miatt a jogviszony másik alanya, a polgári jog szabályai alapján felelősséggel tartozva az adott kárért illetve sérelemért, amennyiben felelősségének fennállása bizonyítást nyer, kártérítés megfizetésére kötelezhető. A felelősség fennállásához különböző feltételek fennállása, illetve azok bizonyítása szükséges.  

A kár vagy sérelem bekövetkezése, illetve a károkozó magatartás önmagában nem elégséges a kártérítési kötelezettség megállapításához; a károkozó magatartás és a bekövetkezett kár vagy sérelem közötti okozati összefüggés bizonyítása mellett, a károkozó fél felróható, illetve vétkes magatartása is szükséges feltétel. A kártérítési felelősség általános szabályára épülő,[4] kimentési, exkulpációs alapú kimentési rendszer lényege az, hogy a bekövetkezett kár, a károkozó magatartás és a kettő közötti ok-okozati kapcsolat károsult általi bizonyítása mellett a károkozó személy abban az esetben mentesülhet a felelősség alól, ha bizonyítja, hogy magatartása nem volt felróható (vagyis úgy járt el, ahogy az az adott helyzetben általában elvárható).[5]

Ez a felróhatóság, illetve vétkesség alapú, szubjektív vagy deliktuális általános polgári jogi felelősségi rendszer a korábbi korok technológiai változásai miatt – például a tömegközlekedés, tömegtermelés elterjedése következtében – a károsulti érdekek megfelelő védelmére már a múltban is több alkalommal (a technológiai újításokhoz kapcsolódó új tevékenységekhez kötődő és tömegessé váló károkozó magatartások és az azokhoz köthető súlyos és nagymértékű károk bekövetkezésének veszélye miatt) elégtelennek bizonyult. Az általános felróhatóság alapú felelősségi rezsim a károkozót aránytalan hátrányba hozta a kárt okozó személlyel szemben mind a bizonyítás túlzott megnehezülése, illetve ellehetetlenülése, mind a lehetséges károkozó magatartások eredményeként bekövetkező károk korábban sosem tapasztalt mértéke okán. Az általános felróhatóság alapú felelősségi rezsim alól így születtek meg meghatározott károkozási magatartásokra és kártípusokra vonatkozó különleges szabályok, úgy mint az üzembentartó felelősségére épülő veszélyes üzemi felelősségi szabályok, valamint a fogyasztóvédelmi jog térnyerése eredményeként is napvilágot látott termékfelelősség rendszere. Minden speciális kártérítési rezsim közös tulajdonsága, hogy a károsult javára enyhít és ennek megfelelően a károkozó szempontjából szigorít az általános felelősségi rendszer szabályain, olykor pusztán vélelmezve a károkozó felróhatóságát (ami alól meghatározott szigorú feltételek fennállása esetén enged még mentesülést), olykor pedig, az ún. objektív felelősség előírása esetében, a károkozót a kimentés lehetőségétől teljes mértékben megfosztva (természetesen a kár, a károkozó magatartás és a kettő közötti összefüggés bizonyítása mint a kártérítési felelősség fennállásának feltétele továbbra is alkalmazandó, vagyoni károk esetében minden esetben), így biztosítva a károsult számára az általa elszenvedett kár megfelelő kompenzációjának lehetőségét. A jellemzően kompenzációs célú kártérítési kötelezettség másik, származékos funkciójának tekinthető, az Állásfoglalásban is megjelenő, prevenciós célzat, miszerint a felelősség fogalma „gazdasági ösztönzőket nyújt a természetes és jogi személyek számára, hogy eleve elkerüljék a sérelem- vagy károkozást, vagy számolniuk kelljen azzal, hogy magatartásuk miatt kompenzációt kell fizetniük”.[6]

Az Állásfoglalás témáját a 21. század technológiai forradalma szolgáltatta: a mesterséges intelligencia térhódítása és egyre szélesebb körű elterjedése „a személyes szférától kezdve (pl. közlekedési ágazat, személyre szabott oktatás, kiszolgáltatott helyzetben lévő személyeknek nyújtott támogatás, fitnesz-programok, hitelnyújtás) a munkahelyi környezeten (pl. megterhelő és repetitív feladatok megkönnyítése) át egészen a globális kihívásokig (pl. éghajlatváltozás, egészségügyi ellátás, táplálkozás és logisztika)”.[7] Az Állásfoglalás szerint ez az általános felelősségi szabályok alóli kivételként egy újabb speciális polgári jogi felelősségi rendszer, egy „jövőorientált polgári felelősségi jogi keret”[8] kidolgozásának szükségességét veti fel. Az MI-rendszerek nemcsak a tevékenységi körök, de a felhasznált technológiák tekintetében is rendkívül változatos formát mutatnak. Közösnek tekinthető minden MI-rendszer működése során, és éppen ez állítja a legnagyobb kihívás elé a jelenleg létező felelősségi rendszereket, hogy az MI-rendszerek működése során, tulajdonképpen bármilyen tevékenységi körben kerüljön is az MI felhasználásra, felmerülhetnek olyan helyzetek, amelyekben károkozás, illetve kár, sérelem elszenvedése esetén a rendszerek működésének átláthatatlansága „rendkívül költségessé teheti vagy akár el is lehetetlenítheti annak megállapítását, hogy ki kontrollálta az MI-rendszerrel kapcsolatos kockázatot, illetve hogy végeredményben mely kód, bevitel vagy adat okozta a kárt okozó üzemeltetést”. Ez a körülmény pedig „megnehezítheti a sérelem vagy a kár és az azt okozó magatartás közötti kapcsolat azonosítását”.[9] Amennyiben ezt az ok-okozati kapcsolatot nem sikerül bizonyítani, a károkozó felelősségét nem lehet megállapítani, vagy nem a tényleges károkozó felelősségét lehet megállapítani. A diszkrimináció tilalma ugyanakkor megköveteli, hogy „aki MI-rendszerek által okozott kárt szenved el, vagy akinek tulajdonában MI-rendszerek által okozott kár keletkezik, azonos mértékű védelemben [legyen része], mint más, MI-rendszerek részvétele nélkül bekövetkező esetek károsultjainak”.[10] A mesterséges intelligencián alapuló eszközök és szolgáltatások vonatkozásában kialakítandó új felelősségi rezsim közösségi és tagállami szinten is az egyik legfontosabb kihívás napjainkban és a (digitális) közös piacnak az újabb technológiai-működési környezethez igazodó megfelelő szabályozásához is nélkülözhetetlen.

Az Állásfoglalás másik részről kitér arra is, hogy az új rendszer kidolgozása során nemcsak a lehetséges károsulti kör, de a potenciális jövőbeni károkozók meghatározott érdekeit is megfelelő súllyal kell figyelembe venni. A megfelelő egyensúly kialakítása „a sérelem vagy kár potenciális áldozatainak hatékony és tisztességes védelme, illetve aközött, hogy a vállalkozások, és különösen a kis- és középvállalkozások elegendő mozgástérrel rendelkezzenek új technológiák, termékek vagy szolgáltatások kifejlesztéséhez”,[11] egy olyan polgári jogi felelősségi rendszer kiépítésének szükségét veti fel, amelynek ugyanakkor a jogbiztonság elvének is meg kell felelnie, vagyis a felelősségi rendszerben érintett minden szereplő, „a gyártó”, „az üzemeltető”, „az érintett személy” vagy „bármely más harmadik fél” már a tevékenység megkezdése előtt tisztában van a bizonyos szereplőkhöz „igazított”, illetve bizonyos tevékenységek vonatkozásában „szigorított”[12] felelősségi szabályokkal.

Azonban az új szabályozás kialakítása mellett sem tűnik elengedhetetlenül szükségesnek a már fennálló felelősségi rendszerek radikális megváltoztatása. Mivel a már ismert speciális felelősségi rendszerek keretén belül is van lehetőség arra, hogy „egy fél felróhatóság hiányában is felelősnek [legyen] tartható”, hogy egy károkozót „objektív felelősség” terhelje, „ha olyan, a társadalmat érintő kockázat merül fel, amelyet ezen alperes okozott (például gépjárművek, illetve veszélyes tevékenységek formájában) vagy amelyek fölött nem képes ellenőrzést gyakorolni (mint például állatok), és az sérelem- vagy károkozást eredményez”.[13] Ugyanakkor azt is figyelembe kell venni, hogy „az MI-rendszerek összetettsége, konnektivitása, átláthatatlansága, sebezhetősége, azon képessége, hogy frissítések révén módosítható, önálló tanulási képessége és potenciális autonómiája, valamint az érintett szereplők nagy száma”[14] miatt a speciális felelősségi rezsimek egyes szabályai bizonyos kérdések vonatkozásában kiegészítésre, módosításra szorul(hat)nak.

Az első eldöntendő kérdés, amire egy az MI-rendszerekhez igazított felelősségi rendszer kiépítésekor választ kell adni, az az, hogy az MI-rendszerek működése során közvetve vagy közvetlenül okozott károsodások esetén honnan kerüljön ki a lehetséges károkozó személyek köre. Amennyiben kizárjuk az MI-rendszereknek jogi személyiséggel való felruházását,[15] úgy feltétlenül egy olyan már létező konkrét természetes vagy jogi személyt kell kijelölni, aki jogképességgel rendelkezik, vagyis jogai és kötelezettségei lehetnek, így végső soron kártérítés-fizetési kötelezettség is terhelheti. A személyi kör, akik közül a már létező felelősségi rezsimek keretei között a károkozó személye kijelölhetővé válhat, magában foglalja többek között az előállítókat, a fejlesztőket, a programozókat, a szolgáltatókat és az üzemeltetőket (frontend-, illetve backend-üzemeltetőket).[16] Ez meglehetősen széles jogalanyi, potenciális károkozói kört foglal magában. Ugyanakkor azt is figyelembe kell venni, hogy habár „az MI-rendszerek által vezérelt valamennyi fizikai vagy virtuális tevékenységet, eszközt vagy folyamatot”, amely technikai értelemben a sérelem vagy kár közvetlen vagy közvetett okának tekinthető, „majdnem mindig olyasvalaki hozza létre, aki a rendszereket kiépíti, alkalmazza vagy azokba beavatkozik”, azonban „az MI-rendszerek átláthatatlansága, konnektivitása és autonómiája a gyakorlatban nagyon nehézzé teszi vagy akár el is lehetetlenítheti, hogy az MI-rendszerek bizonyos káros cselekedetei konkrét emberi behatásra vagy tervezési döntésre visszavezethetők legyenek”.[17]

_____________________________________________

[1] A mesterséges intelligencia polgári jogi felelősségi rendszere. Az Európai Parlament 2020. október 20-i állásfoglalása a Bizottságnak szóló ajánlásokkal a mesterséges intelligenciára vonatkozó polgári jogi felelősségi rendszerrel kapcsolatban (2020/2014(INL)) (P9_TA(2020)0276). (A továbbiakban: Állásfoglalás.)

[2] Állásfoglalás L. pont.

[3] Állásfoglalás K. pont.

[4] A szerződésszegéssel okozott károkért való felelősség szabályaira külön most nem térünk ki.

[5] A magyar polgári jogi felelősségi rendszer általános szabálya szerint, aki másnak jogellenesen kárt okoz, köteles azt megtéríteni. Mentesül a felelősség alól a károkozó, ha bizonyítja, hogy magatartása nem volt felróható. A Polgári Törvénykönyvről szóló 2013. évi V. törvény (Ptk.) 6:519. §. Ha e törvény eltérő követelményt nem támaszt, a polgári jogi viszonyokban úgy kell eljárni, ahogy az az adott helyzetben általában elvárható. Ptk. 1:4. § (1) bekezdés.

[6] Állásfoglalás A. pont.

[7] Állásfoglalás 1. pont.

[8] Állásfoglalás B. pont.

[9] Állásfoglalás H. pont.

[10] Állásfoglalás J. pont.

[11] Állásfoglalás B. pont.

[12] Állásfoglalás C. pont.

[13] Állásfoglalás C. pont.

[14] Állásfoglalás 6. pont.

[15] Állásfoglalás 7. pont.

[16] Állásfoglalás 8. pont.

[17]Állásfoglalás 7. pont.

_____________________________________________

Készült a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

_____________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip európai parlament belső piac fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság diszkrimináció alkotmánybíróság európai központi bank gazdasági és monetáris unió versenyjog kúria állami támogatás uniós értékek demokrácia jogegységi határozat előzetes döntéshozatali eljárás nemzeti érdek közös kereskedelempolitika euró eu alapjogi charta brexit arányosság elve szociális jog irányelvek átültetése european convention of human rights kásler-ítélet fizetésképtelenségi rendelet választás oroszország eusz 7. cikke human trafficking egységes piac európai bizottság elnöke human rights környezetvédelem adatvédelem bevándorlás fenntartható fejlődés ultra vires aktus btk közös kül- és biztonságpolitika ceta német alkotmánybíróság trump nafta közigazgatás wto tpp migráció nemzeti bíróságok russia menekültkérdés fundamental rights strasbourgi bíróság panpsychism szolidaritás ukraine crisis bankunió personhood polgári kezdeményezés magyarország szankció syngamy kötelezettségszegési eljárás energiapolitika environment eu sanctions devizakölcsön ecthr európai integráció civil törvény compliance alkotmányjog prison conditions ukrán válság fővárosi közgyűlés fogyatékosok jogai surrogacy európai parlamenti választások verseny szabadsága magyar helsinki bizottság ebh államcsőd közbeszerzés felsőoktatás normakontroll kiotói jegyzőkönyv national courts internet platformtársadalom halálbüntetés vesztegetés szülő nők helyzete likviditás külkapcsolatok állampolgárság lex ceu eljárási alkotmányosság versenyképesség adójog consumer protection adókövetelés hálapénz peschka menekült hatáskörmegosztás european court of human rights nemzetközi magánjog közjogtudomány adózás európai politikai pártok; single market fizetésképtelenségi eljárás schuman-nyilatkozat jogelmélet fal dajkaterhesség környezetvédelmi politika családi jog zaklatás gmo-szabályozás pártfinanszírozás retaliation adatmegőrzési irányelv sokszínű európa alapító atyák vallásszabadság dublin iii egyesült királyság áruk szabad áramlása öröklési jog szegregáció beruházásvédelem gmo-mentesség központi bankok európai rendszere európai politikai közösség hungary közerkölcs kisebbségek juncker bizottság első alkotmánykiegészítés 1951-es genfi egyezmény egészségvédelem uniós polgárság irányelvek szabályozáshoz való jog european neighbourhood policy hatáskör-átruházás politikai pártok european court of justice sokféleség energiahatékonysági irányelv obamacare strasbourgi esetjog tényleges életfogytiglan közigazgatási perrendtartás ártatlanság vélelme jog és irodalom elsőbbség elve kohéziós politika fizetésképtelenség; energiaunió születésszabályozás parlament európai bíróság elnöke új btk. általános közigazgatási rendtartás alapjogi charta legitimáció erdély ukraine régió jogharmonizáció; eurasian economic union hobby lobby véleménynyilvánítás szabadsága lenaerts törökország kikényszerítés konferencia székelyföld autonomy of eu legal order csődjog; dcfta büntetőjog média hatékony jogvédelem szabadságvesztés történelmi konfliktusok személyek szabad mozgása law in literature uk report inviolability of eu legal order többségi demokrácia; jogos védelem országgyűlés franciaország uniós válságkezelés európai jog szociális deficit law as literature európai szomszédságpolitika mulhaupt european values olaszország european central bank áldozatvédelem sajtószabadság németország lojális együttműködés európai tanács európai emberi jogi egyezmény letelepedés szabadsága lengyel alkotmánybíróság brit jelentés népszavazás german constitutional court végrehajtás válság lengyelország ingatlanadó-követelés article 7 teu common commercial policy omt értékközösség egyesülési jog szíria uniós jog sérthetetlensége kiskereskedelmi különadó jogállamiság-védelmi mechanizmus excessive deficit nyilvános meghallgatás rule of law democracy európai unió alapjogi ügynoksége egyenlő bánásmód görögország muršić érdekközösség velencei bizottság lengyel alkotmánybíróság uniós jog autonómiája eu klímapolitika exclusionarism kommunikáció reklámadó emberi méltóság pénzügyi válság ügynökprobléma gazdasági szankciók civil jogállamiság infrastruktúrához való hozzáférés kvótakereskedelem protectionism datafication