jtiblog

A Jogtudományi Intézet blogoldala

Kiválóság és bizalom a vétkesség tükrében – a mesterséges intelligenciával kapcsolatos felelősségről szóló irányelvjavaslat alapján I.

2022. december 19. 9:01
Rácz Lilla
tudományos segédmunkatárs, TK JTI

I. Bevezetés

Az Európai Bizottság (a továbbiakban: Bizottság) 2022. szeptember 28-án hozta nyilvánosságra a mesterséges intelligenciával (a továbbiakban: MI) kapcsolatos felelősségről szóló irányelvjavaslatát[1]. Az irányelv célja, „hogy elősegítse a belső piac megfelelő működését azáltal, hogy harmonizálja a szerződésen kívüli vétkességi felelősségre vonatkozó egyes nemzeti szabályokat annak érdekében, hogy az MI-rendszerek által nekik okozott károkért kártérítést igénylő személyek ugyanolyan szintű védelemben részesüljenek, mint azok, akik ilyen rendszerek közrehatása nélkül okozott károkért igényelnek kártérítést.”[2]

Az MI, azaz az „olyan alaptechnológiák sora, amelyek a gazdaság és a társadalom teljes spektrumában előnyök széles skálájához járulhatnak hozzá”[3] 2019 óta részesül kiemelkedő figyelemben az Európai Unió intézményei részéről. Miután Ursula von der Leyen, az Európai Bizottság elnöke politikai iránymutatásában az MI-re vonatkozóan felvázolta egy összehangolt, közös európai álláspont körvonalait, a Bizottság „vállal[v]a, hogy támogatja a mesterséges intelligencia elterjedését, és a kiválóság és a bizalom előmozdítása révén kezeli az MI egyes alkalmazásaihoz kapcsolódó kockázatokat”[4], 2020. február 19-iki jelentésében „azonosította azokat a sajátos kihívásokat, amelyeket a mesterséges intelligencia a meglévő felelősségi szabályok elé állít.” Miután 2020. június 9-én az Európai Tanács, 2020. október 20-án pedig az Európai Parlament konkrét javaslatok előterjesztésére kérte fel[5], a Bizottság egy olyan intézkedéscsomag kialakításába kezdett, „amelynek célja, hogy a kiválóság és a bizalom erősítése révén támogassa a mesterséges intelligencia elterjedését Európában”[6]. A szerződésen kívüli polgári jogi felelősségre vonatkozó szabályoknak a mesterséges intelligenciához való hozzáigazításáról szóló irányelv ennek az intézkedéscsomagnak a részét képezi.

Az intézkedéscsomag keretében három, egymást kiegészítő munkafolyamat zajlik jelenleg egyidőben az Európai Unió intézményein belül: a mesterségesintelligencia-rendszerekre vonatkozó horizontális szabályokat megállapító jogalkotási javaslat (a mesterséges intelligenciáról szóló jogszabály) elfogadását, az ágazati és horizontális termékbiztonsági szabályok felülvizsgálatát és az MI-rendszerekkel kapcsolatos felelősségi kérdések kezelésére vonatkozó uniós szabályok kidolgozását célzó eljárás.[7]

II. A nemzeti felelősségi rendszerek alkalmazhatósága az MI-rendszerek fejlődése tükrében

1. Azonosított problémák

A felelősség mint az egyik legnagyobb és legfontosabb külső akadály, egy 2020-as reprezentatív felmérés szerint[8], komoly visszatartó erővel bír az MI alkalmazását tervező európai vállalatok, különösen a kis- és középvállalkozásokat (kkv-k) számára.

Jelenleg a felelősségi szabályokról és a felelősségi rendszerekről tagállami, nemzeti szinten adott, rendszerint vétkességen alapuló szabályrendszerek rendelkeznek. A vétkességen alapuló szabályrendszerek közös jellemzője, hogy ahhoz, hogy kártérítési igényét a jogosult sikeresen érvényesíthesse, bizonyítania kell a kárát, a kárt okozó cselekményt, vagy mulasztást, illetve a kettő közötti ok-okozati összefüggést. Kárt okozó cselekménynek, vagy mulasztásnak a kárt okozó személy jogellenes cselekménye, vagy mulasztása minősülhet. Azonban, ha a kárt okozó cselekmény vagy mulasztás és a bekövetkező kár közé beékelődik egy MI-n alapuló rendszer, akkor„[a] mesterséges intelligencia sajátos jellemzői, többek között az összetettség, az autonómia és az átláthatatlanság [az úgynevezett ’feketedoboz-hatás’] megnehezíthetik vagy megfizethetetlenül költségessé tehetik a károsultak számára a felelős személy azonosítását és a sikeres kártérítési igény követelményei teljesülésének bizonyítását”, ami „a mesterséges intelligenciával nem érintett ügyekhez képest nagyon magas kezdeti költségekkel, és lényegesen hosszabb bírósági eljárásokkal” járhat. Ezért „a jelenlegi – különösen a vétkességen alapuló – nemzeti felelősségi szabályok nem alkalmasak a mesterséges intelligencián alapuló termékek és szolgáltatások által okozott károkkal kapcsolatos kártérítési igények kezelésére”[9].

Ennek megfelelően, másik oldalról, „az irányelv csak azokra a kártérítési igényekre terjedhet ki, amelyeket egy adott MI-rendszernek valamely személy – például a [a mesterséges intelligenciáról szóló jogszabály] szerinti szolgáltató vagy felhasználó – felróható magatartásával előidézett kimenete vagy kimenete előállításának elmulasztása révén okozott kár tekintetében támasztanak. Nincs szükség a kártérítési igények lefedésére, ha a kárt emberi értékelést követő emberi cselekmény vagy mulasztás okozta, az MI-rendszer pedig csak olyan információt vagy tanácsot adott, amelyet az érintett emberi szereplő figyelembe vett. Ez utóbbi esetben a kár visszavezethető valamely emberi cselekményre vagy mulasztásra, mivel az MI-rendszer kimenete nem illeszkedik az emberi cselekmény vagy mulasztás és a kár közé, és így az ok-okozati összefüggés megállapítása nem nehezebb, mint olyan helyzetekben, amikor nem kerül sor MI-rendszer közrehatására.”[10]

2. Lehetséges megoldások

i. Nemzeti (tagállami) szinten

Az eddig ismertetett problémákat maguk a nemzeti bíróságok is megkísérelhetik ugyan kezelni, eseti alapon, egyedi ügyekben hozzáigazítani az MI jellemzőihez az adott tagállamok felelősségi szabályait, azonban míg ez méltányos megoldásokat hozhat a károsult szempontjából, a jogbizonytalanságot csak tovább fokozná, különösen, a különböző joghatóságokra tekintettel, a határokon átnyúló kereskedelmet folytató vállalkozásoknál. Ennek eredményeképpen „[a] vállalkozások nehezen fogják tudni megjósolni, hogyan alkalmazzák majd a meglévő felelősségi szabályokat, és így értékelni és biztosítani a felelősségüknek való kitettségüket.”[11]

A problémák másik lehetséges tagállami szintű megoldását azok nemzeti jogalkotási szinten történő kezelése jelenthetné. Ezt már az egyes tagállamok is érzékelték és egyes nemzeti mesterségesintelligencia-stratégiák szerint konkrét jogalkotási intézkedéseket is terveznek az egyes felelősségi rendszereknek az MI-hez kötődő eltérésekhez történő hozzáigazítására[12], ami ugyancsak „további széttagoltságot és az EU-szerte működő vállalkozások költségeinek növekedését fogja eredményezni”[13].

ii. Európai Uniós szinten

A tagállami jogalkotók önálló jogalkotási lépéseit megelőzendő a jogbiztonság biztosítása és az MI-rendszereket érintő ügyekben fennálló kártérítési joghézagok megakadályozása uniós szintű fellépést igényel az EUSZ 5. cikkében foglalt szubszidiaritás elvére tekintettel. Az arányosság elvének figyelembevétele ugyanakkor „a vétkességen alapuló felelősségi szabályok egyes szempontjainak uniós szintű célzott harmonizációjá[t]”[14] követeli meg. A javaslat a célzott harmonizáció érdekében a szakaszos megközelítést követi: „Az első szakaszban a célkitűzéseket minimálisan invazív megközelítéssel érik el; a második szakaszban újraértékelik a szigorúbb vagy szélesebb körű intézkedések szükségességét.”[15]

iii. Az alapvető jogok magánjogi védelme

A javaslat indokolása szerint „a mesterséges intelligenciáról szóló jogszabályra irányuló javaslatban a Bizottság olyan szabályokat javasolt, amelyek célja a biztonsági kockázatok csökkentése és az alapvető jogok védelme.” Azonban biztonságot és az alapvető jogok védelmét biztosító szabályok csak csökkenteni fogják a kockázatokat, de azokat teljes mértékben nem fogják tudni megszüntetni. Ahol pedig a kockázat felmerül, ott kár is bekövetkezhet. „A biztonság és a felelősség ugyanazon érme két oldala: ezek különböző időpontokban merülnek fel, és egymást erősítik.” A kár bekövetkezése esetén a mesterséges intelligenciával kapcsolatos felelősségről szóló irányelv felelősségi szabályai lesznek alkalmazandók.[16]

Az alapvető jogok vonatkozásában az irányelvben kiépített védelmi mechanizmus és eszközök kapcsán szükséges röviden kitérni a magánjogi alapjogvédelem kérdéskörére, illetve annak a polgári jogi kárfelelősség kérdéskörére vonatkozó részére. Míg a kontinentális jogrendszerekben a közjogi alapjogvédelem és a magánjogi (alanyi jogi alapú) jogvédelem tradicionálisan eltérő perspektíváit szem előtt tartva épültek ki az egyes közjogi, illetve polgári jogi jogvédelmi rendszerek, úgy napjainkra, ahogyan a két nagy jogterület, úgy az azokhoz kötődő jogvédelmi struktúrák közötti határvonal is egyre inkább elmosódottá válik. Az alapvető jogok védelmének a polgári jog terrénumára történő kiterjesztését célzó álláspont szerint, a károsult lehető legteljesesebb körű jogvédelmét úgy lehet a leginkább biztosítani, ha abban az esetben is lehetővé teszik a számára, hogy polgári jogi úton kártérítést követelhessen a károkozótól a károkozó magatartás eredményeként vagy akár következményeként bekövezett kárának megtérítése érdekében, amennyiben a károkozás nem magánjogi alanyi jog, hanem egy konkrét alapjog megsértésében merült ki. Az egyes nemzeti magánjogi kártérítési rendszerek alapvető szabályait azonban ebben az esetben is tiszteletben kell tartani. Az alapvető jogok a magánjogi felelősségi szabályok útján való védelmére a javaslat indokolása több helyen is kitér. Az indokolás szerint „[a] polgári jogi felelősségre vonatkozó szabályok egyik legfontosabb feladata annak biztosítása, hogy a károsultak kártérítést követelhessenek. A hatékony kártérítés biztosításával ezek a szabályok hozzájárulnak a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jog védelméhez (az Európai Unió Alapjogi Chartájának [a továbbiakban: Charta] 47. cikke)”. A Bizottság várakozásai szerint „[a] javaslat lehetővé [fogja tenni] az alapvető jogok hatékony magánjogi érvényesítését, és [meg fogja őrizni] a hatékony jogorvoslathoz való jogot azokban az esetekben, amikor a mesterséges intelligenciával kapcsolatos kockázatok bekövetkeztek.” A Bizottság értékelése alapján a javaslat olyan alapvető jogok védelméhez fog hozzájárulni, mint az élethez való jog (a Charta 2. cikke), a testi és szellemi sérthetetlenséghez való jog (3. cikk) és a tulajdonhoz való jog (17. cikk). „Emellett az egyes tagállamok polgári jogi rendszerétől és hagyományaitól függően a károsultak kártérítést igényelhetnek az egyéb jogi érdekeket ért károkért, mint például a személyes méltóság (a Charta 1. és 4. cikke), a magán- és családi élet tiszteletben tartása (7. cikk), az egyenlőséghez való jog (20. cikk) és a megkülönböztetés tilalma (21. cikk) megsértéséért.”[17]

III. Az irányelv tárgya és hatálya

1. Általános szabályok

Az irányelv tárgya alapjánközös szabályokat állapít meg részint a nagy kockázatú mesterségesintelligencia-rendszerekre (MI) vonatkozó bizonyítékok bemutatására (annak érdekében, hogy a felperes alá tudja támasztani a szerződésen kívüli, vétkességen alapuló polgári jogi kártérítési igényét), valamint az MI-rendszer által okozott károk miatt a nemzeti bíróságok előtt érvényesített, szerződésen kívüli, vétkességen alapuló polgári jogi kártérítési igények esetében a bizonyítási teherre vonatkozóan. (1. cikk (1) bek. a)–b) pont) Az irányelv indokolása szerint ezek az „intézkedések súrlódás nélkül illeszkedhetnek a meglévő polgári jogi felelősségi rendszerekbe, mivel olyan megközelítést tükröznek, amely nem érinti” sem az alapvető kártérítési jogi fogalmak („vétkesség”), („kár”) meghatározását, sem „azokat az uniós vagy nemzeti szabályokat [az általa megállapított vélelmeken túl], amelyek például meghatározzák, hogy melyik félre hárul a bizonyítási teher, milyen fokú bizonyosság szükséges a bizonyítási küszöböt illetően, vagy hogyan határozzák meg a vétkesség fogalmát”[18]. Az irányelv nem alkalmazandó visszamenőleges hatállyal, és nem alkalmazandó a büntetőjogi felelősségre. (1. cikk (2) bek.)

2. Az irányelv tárgya és hatálya alóli további kivételek

i. 85/374/EGK tanácsi irányelv

A Tanács 85/374/EGK irányelve (1985. július 25.) a hibás termékekért való felelősségre vonatkozó tagállami törvényi, rendeleti és közigazgatási rendelkezések közelítéséről uniós szinten „harmonizálja a hibás termékek gyártóinak az azok által okozott károkért való felelősségére vonatkozó tagállami jogszabályokat”[19]. A Bizottság a javaslat indokolása szerint „a mesterséges intelligenciára vonatkozó szakpolitikájában holisztikus megközelítést alkalmaz a felelősség tekintetében […] A termékfelelősségről szóló irányelvben a gyártó hibás termékekért való felelősségének kiigazítására vonatkozó szakpolitikai kezdeményezést valamint a célzott harmonizációra vonatkozó javaslat „szorosan kapcsolódik egymáshoz és egy csomagot alkot, mivel a hatályuk alá tartozó követelések esetén különböző típusú felelősségi szabályok irányadók. […] Kiegészítik egymást annak érdekében, hogy átfogó, hatékony polgári jogi felelősségi rendszert alkossanak.”[20] „A 85/374/EGK tanácsi irányelv felülvizsgálata […] annak tisztázására és biztosítására irányul, hogy a károsultak kártérítést követelhessenek a mesterséges intelligencián alapuló hibás termékek által okozott károkért”[21], „más, a termék hibájától eltérő alapokon, például jótálláson, vétkességen vagy objektív felelősségen nyugvó szerződéses vagy szerződésen kívüli felelősségre vonatkozó”[22] szabályait a tagállamoknak azonban a 85/374/EGK tanácsi irányelv által harmonizált tagállami jogszabályok továbbra sem fogják érinteni. Ennek megfelelően „ezen [a mesterséges intelligenciával kapcsolatos felelősségről szóló] irányelv rendelkezései [s]em érintik azokat a jogokat, amelyek a 85/374/EGK irányelvet átültető nemzeti rendelkezések alapján megillethetik a károsultat.”[23] Azzal, hogy „[a] bármely személy vétkességén alapuló, nemzeti kártérítési igényekre vonatkoz[ó]”[24] irányelvre irányuló javaslatot „a gyártó hibás termékekért való objektív felelősségére [kiterjedő], bizonyos típusú, főként magánszemélyek által elszenvedett károk megtérítéséhez [vezető]”[25] 85/374/EGK irányelv felülvizsgálatára irányuló javaslattal együtt fogadták el egy csomagban, a Bizottság célja az volt, hogy „a felelősségi szabályokat hozzáigazítsa a digitális korhoz és a mesterséges intelligenciához, biztosítva e két egymást kiegészítő jogi eszköz szükséges összehangolását”[26].

ii. Egyéb nevesített kivételek

Az irányelv nem érinti „a közlekedés területén […] a fuvarozók felelősségét szabályozó uniós jogot”[27], „a [digitális szolgáltatásokról szóló jogszabály] azon rendelkezéseit, amelyek átfogó és teljes mértékben harmonizált keretet biztosítanak a tárhelyszolgáltatók algoritmikus döntéshozatala során elvárható gondosságra vonatkozó kötelezettségekhez, beleértve a szolgáltatásaik igénybe vevői által feltöltött jogellenes tartalom terjesztésével kapcsolatos felelősség alóli mentességet is az említett rendeletben foglalt feltételek teljesülése esetén”[28]. Emellett a minimális harmonizáción alapuló megközelítés következtében a felpereseknek lehetőségük van arra, „hogy az MI-rendszerek által okozott károk esetén a nemzeti jog kedvezőbb szabályaira hivatkozzanak”, „például a nemzeti jogszabályok fenntarthatják a bizonyítási teher megfordítását a vétkességen alapuló nemzeti rendszerek vagy a nem vétkességi alapú (ún. objektív) nemzeti felelősségi rendszerek keretében”[29].

IV. [A mesterséges intelligenciáról szóló jogszabállyal] való összhang - Fogalommeghatározások

A következetesség biztosítása az irányelv azt a megoldást követi, hogy a 2. cikkben szereplő fogalommeghatározások kapcsán a mesterséges intelligenciáról szóló jogszabály fogalommeghatározásait hívja fel az MI-rendszerek, -szolgáltatók és -felhasználók tekintetében.

A fogalommeghatározásokra vonatkozó rendelkezések közül kiemelkedik a 2. cikk (6) bekezdésének b) pontja és c) pont, amelyek úgy rendelkeznek, hogy felperes lehet az a személy is (azon személyen kívül, akit kár ért egy MI-rendszer kimenete, vagy – ha ezt a kimenetet elő kellett volna állítani – a kimenet előállításának e rendszer általi elmulasztása miatt [2. cikk (6) bek. a) pont]), aki kártérítési igényt terjeszt elő amiatt, hogy törvény vagy szerződés alapján a károsult jogutódjává vált vagy a károsult jogai átszálltak rá, az uniós vagy a nemzeti joggal összhangban egy vagy több károsult nevében jár el. Emellett a 2. cikk 7. bekezdése meghatározza a potenciális felperes fogalmát, aki az a természetes vagy jogi személy lehet, aki kártérítési igény előterjesztését mérlegeli, de azt még nem tette meg. A gondossági kötelezettség fogalma ugyancsak kiemelést érdemel, amelynek értelmében a gondossái kötelezettség a nemzeti vagy az uniós jogban meghatározott, annak érdekében elvárt magatartási norma, hogy elkerülhető legyen a nemzeti vagy uniós szinten elismert jogi érdekek – ideértve az élet, a testi sérthetetlenség, a tulajdon és az alapvető jogok védelmét – sérelme.

__________________________________________________________

[1] Az irányelvjavaslat teljes címe: Javaslat – Az Európai Parlament és a Tanács irányelve a szerződésen kívüli polgári jogi felelősségre vonatkozó szabályoknak a mesterséges intelligenciához való hozzáigazításáról (a mesterséges intelligenciával kapcsolatos felelősségről szóló irányelv) (COM(2022) 496 final) (a továbbiakban: Javaslat).

[2] Javaslat, Preambulum (7) bek.

[3] Javaslat, Preambulum (1) bek.

[4] Javaslat, Indokolás 1. o.

[5] Az Európai Parlament 2020. október 20-i állásfoglalásáról a Bizottságnak szóló ajánlásokkal a mesterséges intelligenciára vonatkozó polgári jogi felelősségi rendszerrel kapcsolatban (2020/2014(INL)) részletesebben lásd: Rácz Lilla: „A polgári jogi felelősségi rendszer(ek) mesterséges intelligenciára való alkalmazhatóságának egyes kérdéseiről (az Európai Parlament 2020. október 20-i állásfoglalása nyomán) – 1. rész” jtiblog A jogtudományi Intézet blogoldala 2021. április 20. Rácz Lilla: „A polgári jogi felelősségi rendszer(ek) mesterséges intelligenciára való alkalmazhatóságának egyes kérdéseiről (az Európai Parlament 2020. október 20-i állásfoglalása nyomán) – 2. rész” jtiblog A jogtudományi Intézet blogoldala 2021. június 02.

[6] Javaslat, Indokolás 3. o.

[7] Javaslat, Indokolás 3. o.

[8] Európai vállalati felmérés a mesterséges intelligencián alapuló technológiák használatáról, Ipsos 2020, zárójelentés, 58. o. Javaslat Indokolás 1. 1. lábjegyzet.

[9] Javaslat, Indokolás 2. o.

[10] Javaslat, Preambulum (15) bek.

[11] Javaslat, Indokolás 2. o.

[12] Javaslat, Indokolás 6. o.

[13] Javaslat, Indokolás 2. o.

[14] Javaslat, Preambulum (9) bek.

[15] Javaslat, Indokolás 7. o.

[16] Javaslat, Indokolás 3. o.

[17] Javaslat, Indokolás 11. o.

[18] Javaslat, Indokolás 13. o.

[19] Javaslat, Preambulum (11) bek.

[20] Javaslat, Indokolás 3-4. o.

[21] Javaslat, Preambulum (11) bek.

[22] Javaslat, Preambulum (11) bek.

[23] Javaslat, Preambulum (11) bek.

[24] Javaslat, Indokolás 3. o.

[25] Javaslat, Indokolás 3. o.

[26] Javaslat, Indokolás 13. o.

[27] Javaslat, Preambulum (11) bek.

[28] Javaslat, Preambulum (12) bek.

[29] Javaslat, Preambulum (14) bek.

__________________________________________________________

Készült a Mesterséges Intelligencia Nemzeti Laboratórium és a 138965. számú NKFIH pályázat keretében, valamint az Európai Unió RRF-2.3.1-21-2022-00004 projekt, az Innovációs és Technológiai Minisztérium, a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

__________________________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip európai parlament belső piac fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság diszkrimináció alkotmánybíróság európai központi bank gazdasági és monetáris unió versenyjog kúria állami támogatás demokrácia uniós értékek jogegységi határozat előzetes döntéshozatali eljárás euró nemzeti érdek közös kereskedelempolitika eu alapjogi charta arányosság elve brexit szociális jog irányelvek átültetése european convention of human rights kásler-ítélet fizetésképtelenségi rendelet választás eusz 7. cikke oroszország európai bizottság elnöke human trafficking egységes piac adatvédelem human rights környezetvédelem ultra vires aktus bevándorlás fenntartható fejlődés német alkotmánybíróság btk közös kül- és biztonságpolitika ceta trump wto nafta közigazgatás russia tpp migráció nemzeti bíróságok fundamental rights menekültkérdés ukraine crisis bankunió strasbourgi bíróság panpsychism szolidaritás polgári kezdeményezés magyarország personhood kötelezettségszegési eljárás szankció syngamy eu sanctions energiapolitika environment compliance devizakölcsön ecthr európai integráció civil törvény alkotmányjog prison conditions ukrán válság fővárosi közgyűlés európai parlamenti választások fogyatékosok jogai surrogacy kiotói jegyzőkönyv national courts internet verseny szabadsága magyar helsinki bizottság ebh államcsőd közbeszerzés felsőoktatás normakontroll adójog consumer protection platformtársadalom halálbüntetés vesztegetés szülő nők helyzete likviditás külkapcsolatok állampolgárság lex ceu eljárási alkotmányosság versenyképesség európai politikai pártok; single market adókövetelés hálapénz peschka menekült hatáskörmegosztás european court of human rights nemzetközi magánjog közjogtudomány adózás pártfinanszírozás retaliation adatmegőrzési irányelv fizetésképtelenségi eljárás schuman-nyilatkozat jogelmélet fal dajkaterhesség környezetvédelmi politika családi jog zaklatás gmo-szabályozás gmo-mentesség központi bankok európai rendszere európai politikai közösség hungary közerkölcs sokszínű európa alapító atyák vallásszabadság dublin iii egyesült királyság áruk szabad áramlása öröklési jog szegregáció beruházásvédelem european neighbourhood policy hatáskör-átruházás politikai pártok european court of justice kisebbségek juncker bizottság első alkotmánykiegészítés 1951-es genfi egyezmény egészségvédelem uniós polgárság irányelvek szabályozáshoz való jog elsőbbség elve kohéziós politika sokféleség energiahatékonysági irányelv obamacare strasbourgi esetjog tényleges életfogytiglan közigazgatási perrendtartás ártatlanság vélelme jog és irodalom erdély ukraine régió fizetésképtelenség; energiaunió születésszabályozás parlament európai bíróság elnöke új btk. általános közigazgatási rendtartás alapjogi charta legitimáció konferencia székelyföld autonomy of eu legal order jogharmonizáció; eurasian economic union hobby lobby véleménynyilvánítás szabadsága lenaerts törökország kikényszerítés law in literature uk report inviolability of eu legal order csődjog; dcfta büntetőjog média hatékony jogvédelem szabadságvesztés történelmi konfliktusok személyek szabad mozgása law as literature európai szomszédságpolitika mulhaupt european values többségi demokrácia; jogos védelem országgyűlés franciaország uniós válságkezelés európai jog szociális deficit lengyel alkotmánybíróság brit jelentés olaszország european central bank áldozatvédelem sajtószabadság németország lojális együttműködés európai tanács európai emberi jogi egyezmény letelepedés szabadsága lengyelország ingatlanadó-követelés article 7 teu népszavazás german constitutional court végrehajtás válság jogállamiság-védelmi mechanizmus excessive deficit nyilvános meghallgatás rule of law common commercial policy omt értékközösség egyesülési jog szíria uniós jog sérthetetlensége kiskereskedelmi különadó eu klímapolitika exclusionarism kommunikáció democracy európai unió alapjogi ügynoksége egyenlő bánásmód görögország muršić érdekközösség velencei bizottság lengyel alkotmánybíróság uniós jog autonómiája kvótakereskedelem protectionism datafication reklámadó emberi méltóság pénzügyi válság ügynökprobléma gazdasági szankciók civil jogállamiság infrastruktúrához való hozzáférés

Archívum