Kálmán KingaA Társadalomtudományi Kutatóközpont Jogtudományi Intézete „A mesterséges intelligencia jogi környezetének kihívásai” (MILAB) részprojekt keretében rendezett programsorozatának keretében került sor 2021. május 6-án Béatrice Schütte „Liability plans for AI-related harm in the EU – regulatory plans and challenges” című angol nyelvű online előadására.
Béatrice Schütte a Helsinki Egyetem posztdoktori kutatójaként jelenleg vesz részt az egyetem „Kártérítési felelősség a mesterséges intelligenciával kapcsolatos károkért, európai perspektívában” című projektjében. Béatrice PhD fokozatát a dániai Aarhusi Egyetemen szerezte „Munkaadói felelősség – quo vadis? A nemzeti törvények összehasonlító elemzése és egy javaslat a normatív európai szabályozásra” c. dolgozatával. Kutatási érdeklődési köre mindenekelőtt a polgári felelősség és annak összehasonlító jogi megközelítése, de szerzett tapasztalatokat a nemzetközi magánjog, az uniós jog, a környezetvédelmi és a tengerjog terén is. Jelenlegi kutatása során az MI és a polgári jogi felelősség vonatkozásában eddig elfogadott szabályozási lépések hátterével foglalkozik, valamint vizsgálja a meglévő felelősségi szabályok alkalmazhatóságát az innovatív technológiák tekintetében.
Schütte előadását annak hangsúlyozásával kezdte, hogy a technológia jelen állása szerint a mesterséges intelligenciának nincs egységes definíciója. Mindazonáltal az Európai Parlament (EP) meghatározását elfogadhatónak tartja, amely az intelligencia utánzására, azon belül is az adatgyűjtésre és -feldolgozásra, a környezet elemzésére és az elérni kívánt célok érdekében kifejtett részleges autonóm tevékenységre helyezi a hangsúlyt. Részben már a meghatározás is rávilágít arra, hogy az MI alkalmazása esetében mindenképpen rendezni szükséges működésének polgári jogi felelősségi hátterét. Amennyire hasznos lehet számunkra, emberek számára, ezzel egyidejűleg az MI szerepvállalása jelentős emberi, jogi és gazdasági kockázatokat is hordoz magában, amelyekre a jelenlegi jogi felelősségi keretrendszer nem alkalmazható plasztikusan.
Ezt a problémát világszerte már sok évvel ezelőtt felismerték, így minden jelentősebb nemzetközi jogalkotói színtéren megjelentek szabályozási törekvések, ami alól az Európai Unió sem kivétel. Az EP 2017-ben fogalmazta meg először a mesterséges intelligencia jogalkotási vetületei rendezésének szükségességét, valamint ekkor szögezte le először azt is, hogy szükség lenne az ezen entitások polgári jogi felelősségét körvonalazó keretrendszer megalkotására. Ezt számos további ajánlás, határozat és policy paper követte egészen 2021 áprilisáig, amikor megjelent az Európai Bizottság rendelettervezete egységes mesterséges intelligencia kódex megalkotásáról, ami Schütte előadásának egyik fő témáját is képezte.
A rendelettervezet az Európai Unió Működéséről szóló Szerződés (EUMSZ) 114. cikkéből eredő belső piaci klauzulára vezeti vissza a szabályozás jogalapját. Emellett kiemelt jogalkotói célként fogalmazza meg az alapvető jogok érvényesülését, amelynek érdekében az MI alkalmazása körében egy kockázatalapú szabályozást kíván bevezetni. Ugyanakkor a tervezet számos alapjoggal összefüggésben enged meg korlátozó intézkedéseket, mint például a vállalkozás, a művészet és a tudomány szabadsága. Azonban Schütte szerint ez szükséges és arányos megközelítés az egészség, a biztonság, a fogyasztóvédelem és egyéb emberi jogok garantálása érdekében. A szabályok kiterjednének mind a köz-, mind a magánszférában használt MI alapú programokra, függetlenül attól, hogy az EU-n belül vagy kívül használják őket.
A kockázat-alapú megközelítés alapján a rendelettervezet meghatároz olyan MI rendszereket, amelyek alkalmazása a jövőben tiltottnak minősülne. Ebbe a csoportba tartoznak többek között:
- az emberi viselkedést tudat alatti módon befolyásoló eszközök, amelyek az embereknek fizikai vagy pszichológiai sérülést okozhatnak;
- az olyan profilozó rendszerek, amelyek az ember tulajdonságairól, társadalmi viselkedéséről folyamatos jelentéseket készítenek, és ezek alapján osztályoznak, értékelnek;
- olyan rendszerek, amelyek kifejezetten egy sérülékeny csoportot, vagy életkort céloznak meg, és a kiszemelt csoport viselkedésének sérelmes módon történő alakítását célozzák meg;
- valós idejű biometrikus azonosítási rendszerek nyilvános helyeken, amelyeket a hatóságok nem igazolható módon használnak például nyomozás, terrorelhárítás vagy katasztrófavédelem érdekében.
A semmilyen körülmények között nem alkalmazható rendszereken túl az Európai Bizottság azonosított magas kockázatúnak minősített megjelenési formákat is, amelyeknél az emberekre gyakorolt várható kedvezőtlen hatás csekélyebb. Ezek esetében számos többletkövetelményt kell teljesítenie az üzembe helyezőnek a jogszerű működés érdekében, úgy mint:
- kockázatkezelési rendszer kidolgozása,
- műszaki dokumentáció és naplózás,
- adatok tisztasága, megfelelő adatmenedzsment,
- transzparencia a használók irányába,
- emberi felügyelet beépítése,
- pontosság, robosztusság és a kiberbiztonság garantálása,
- kötelező megfelelőségi értékelések elvégzése,
- kötelező regisztráció a megfelelő EU adatbázisban.
Az előzetes többletkövetelményeken túl utólagos jellegű vizsgálati, valamint jelentési kötelezettségeket is támasztanak a tervezet szabályai. Így például bármilyen MI által okozott üzemzavar vagy káreset kapcsán a felelős személy köteles azt a meghatározott szerveknek jelenteni, lefedve a teljes működést. Azon a rendszerek szabályozására, amelyek nem minősülnek magas kockázatúnak, az Európai Bizottság külön kódexek felállítását javasolja, amelyekben csupán a magas kockázatú rendszerekre kidolgozott követelményeknek csak egy meghatározott része érvényesülne.
Az MI általános szabályozására irányuló kezdeményezéseket követően Schütte áttért a kifejezetten a polgári jogi felelősséggel foglalkozó EP állásfoglalás bemutatására és elemzésére. A polgári jogi felelősség tekintetében az EP-nek a témával foglalkozó, 2020. októberében megjelent határozata az üzemeltetőt helyezi a középpontba. Üzemeltetőnek minősülhet bárki, aki ellenőrzéssel bír a mesterséges intelligencia működésével járó kockázatok felett, valamint a használatból előnye származik. A határozat terminológiájában a magas és az alacsony kockázatú mesterséges intelligencia alapú rendszerek az üzemeltető objektív vagy szubjektív felelősségét alapozzák meg. Az az alkalmazás minősül magas kockázatúnak, amelynek működése során jelentős esélye van észszerűen nem előrelátható károkozásnak.
Az üzemeltető felelős minden olyan kárért, amelyet mesterséges intelligencia alapú tevékenység, eszköz vagy folyamat okozott. A magas kockázatú rendszerek üzemeltetője ezenkívül 1 millió euró összegig köteles helytállni az MI által okozott jelentős gazdasági veszteséggel járó nem vagyoni kárért. Schütte felhívta a figyelmet arra is, hogy e körben némi ellentmondást lehet felfedezni a nem vagyoni kár és a gazdasági veszteség összekapcsolása okán. A bizonyítások terén a szabályozás nem nyújt kielégítő megoldást: a határozat úgy fogalmaz, hogy az üzemeltető mentesül a felelősség alól, ha bizonyítja, hogy a rendszer tudomásuk és megfelelő gondosságuk ellenére működött károkozó módon. Schütte itt is rámutatott a disszonanciára, amennyiben ez a szabály értelmezhető a bizonyítási teher megfordulásaként, és tartalma várhatóan tovább fog alakulni a bírósági jogalkalmazás során.
Az előadás utolsó harmadában az olyan fontos aspektusok kerültek megvilágításra, amelyeket az EU jogalkotása mostanáig még a tervezetek szintjén sem kezelt. Ilyen elem például az okozatosság problematikája, amely az MI átláthatatlanságának köszönhetően nagyon nehezen bizonyítható, épp ezért lenne szükséges megfelelően rendezni kérdését, amelyet az EP eddig elmulasztott. Emellett az emberi mögöttes felelősség mértéke is mélyebb kifejtésre szorult volna, mivel az indeterminisztikus következtetési mechanizmusnak köszönhetően a mesterséges intelligencia működése egyre kevésbé betudható bármely természetes személynek. A szubjektív, vétkességi alapú felelősség megállapítása során szintén hiányoznak azok a jogalkotói mankók, amelyek a vétkességi elemek megállapításához támpontot nyújthatnának.
Az általános kárfelelősséget követően Schütte kitért a termékfelelősségi irányelv mesterséges intelligenciára történő alkalmazhatóságának nehézségeire is. Az irányelv terminológiájában kérdéses, hogy az MI alapú program vagy az alapjául szolgáló adatok számítanak-e terméknek. További nehézségekbe ütközik a programok egyéb termékektől elkülönülő jogi megítélése. Ezen túlmenően a termékfelelősség azon kitétele sem értelmezhető az MI esetében, hogy a terméknek már a forgalomba helyezés pillanatában hibásnak kell lennie. Számos olyan hibalehetőség jelentkezhet, amely nem látható hosszú ideig, vagy ember által teljesen láthatatlan marad, illetve maga az a kérdés sem tisztázott, hogy a betáplált adatok hibássága megalapozza-e a termék hibáját. Ehhez annak tisztázása is szükséges, hogy az adat vagyonnak minősül-e, amelynek meghatározása jelenleg tagállami hatáskörbe tartozik. Kiemelendő továbbá, hogy az eddigi dokumentumok nem rendezik az adatvédelmi és a kiberbiztonsági aspektusokat sem.
Az előadást a jövő kihívásainak felvázolása zárta. Schütte ezek közül kiemelte a szabályozás koherenciájának szükségességét mind a terminológia, mind a kockázati besorolások tekintetében. Emellett az olyan fogalmak pontos tartalmának körülhatárolása is elengedhetetlen, mint például a termék vagy a kár terjedelme. Végezetül hangsúlyozta, hogy az emberi felülvizsgálat terjedelme véges lehet, ahogyan az MI alapú rendszerek egyre önállóbbá és kifinomultabbá válnak. Ennek a kérdésnek a rendezése jelentheti az egyik legfőbb előttünk álló szabályozási kihívást.
Az előadás során a közönség mélyebb ismereteket szerezhetett az MI legújabb polgári jogi felelősségi szabályozási hátterével kapcsolatban. Talán a legfontosabb konklúzió a terület komplexitása, amelynek kezelése során különösen fontos a konzisztencia. Az Európai Unió szintjén érzékelhető fokozott figyelem most már konkrét jogalkotási aktusokban is tetten érhető, ami mindenképpen pozitívumként értékelhető. Mindazonáltal a jelenleg elérhető szabályozások további pontosításokra szorulnak, különösen a magas kockázatú és a tilalmazott besorolások esetében. Béatrice Schütte előadása hozzájárult ahhoz, hogy az MI iránt érdeklődők a polgári jogi vetületekről is naprakész látleletet kapjanak, illetve felvillantotta azokat a kérdéseket, amelyekkel nem csupán a jogalkotás, hanem a jogtudomány szintjén is érdemes foglalkozni.
_____________________________________________
Készült a 138965. számú NKFIH pályázat és a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.
_____________________________________________
Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.