jtiblog

A Jogtudományi Intézet blogoldala

Hogyan vonható felelősségre egy algoritmus? Joris Hulstijn előadása a számítógépes rendszerek elszámoltathatóságáról

2021. június 01. 14:10
Kálmán Kinga
gyakornok, TK JTI; joghallgató, ELTE ÁJK

A Társadalomtudományi Kutatóközpont „A mesterséges intelligencia jogi környezetének kihívásai” MILAB-részprojektje programsorozatának keretében került sor 2021. április 1-jén Joris Hulstijn Computational Accountability című online előadására.

Joris Hulstijn a holland Tilburgi Egyetem Közgazdasági és Menedzsment Karának kutatója. PhD fokozatot számítástudományból szerzett a Twentei Egyetemen, ahol a Tranzakciós párbeszédmodellek című disszertációjáért külön elismerésben is részesült. Kutatási területe a számítástechnikai alapú auditálás, a szerződéskötések és a szerződéses viszonyok modellezése, valamint az informatikai rendszerek alkalmazása a compliance területén. Jelenleg a modellalapú auditálás, valamint az auditálás és a monitorozás számítási megközelítésének fejlesztésén dolgozik, amely a pénz és az áruk áramlása (az értékciklus) várható kapcsolatainak normatív modelljét veszi alapul. Ezen felül, doktorandusz hallgatóinak kutatását segítve, elmélyült a digitális piac szabályozásának etikai és legújabb adatvédelmi kérdéseiben is.

Hulstijn a számítástechnikai alapon működő rendszerek elszámoltathatóságáról és felelősségéről szóló előadását egy közérthető példával indította. A holland királyi autóklub (az ANWB) Drive Safely járműbiztosítási rendszere azon az alapon működik, hogy a járművezetők, amennyiben huzamosabb ideig biztonságosan vezetnek, prémiumkedvezményt kapnak. A vezetési viselkedésüket egy beépített számítástechnikai eszköz figyeli, amely a vezetési sebesség, a gyorsulás, a lassítás és a kanyarodás paramétereit követve folyamatos értékeléseket küld a biztosítónak. A biztosítási kedvezményt az értékelések három hónapos átlaga alapján számolják ki.

A rendszer első látásra igazolhatónak és logikusnak tűnik, azonban működése a felszín mögé nézve több kérdést is felvet. A vezetési viselkedés lekövetése vajon a GDPR szerinti profilozásnak számít-e? Ha igen, akkor jogszerűen engedélyezhető-e? Általában véve tudja-e hitelt érdemlően igazolni a biztosító az ügyfele számára juttatott kedvezmény pontos mértékét?

Hulstijn szerint ezen kérdések mindegyike absztrakt szinten a számítógépes rendszerek és a mesterséges intelligencia elszámoltathatóságának problematikájához vezet el bennünket. A mesterséges intelligencián alapuló számítógépes rendszerek sokkal áthatóbban működnek, mint a normál informatikai eszközök. Ugyanakkor az emberek életét jelentősen befolyásoló döntéseket hozhatnak, emiatt elszámoltathatók és felelős működésük még fontosabb. Működésük során számos, az átlagfelhasználó által is felfogható kockázat merülhet fel: a működés során felhasznált adatbázisokban rejlő részrehajlás és az abból fakadó esetleges téves kockázatkezelés; rossz minőségű, megtámadott (meghackelt) adatok; az algoritmusokat használó addiktív üzleti modellek miatt; vagy a pontatlan profilozásokból eredő intézményesített részrehajlás kormányzati szinten.

Hulstijn hangsúlyozta, hogy a kockázatok azonosítása az első lépés azok csökkentése irányában. A programsorozat egyik korábbi rendezvényén, Molnár Tamás előadásában kihangsúlyozott alapjogi kockázatok közül az előadó az igazságszolgáltatáshoz való hozzáférést, valamint a jogorvoslathoz való jogot jelölte meg, mint olyan alapjogokat, melyek megfelelő érvényesülése kizárólag a számítási transzparencia és elszámoltathatóság megvalósulása esetén biztosítható. A mesterséges intelligencia nem megfelelő alkalmazása ezen alapjogok súlyos korlátozásával járhat, így mindenképpen meg kell határoznunk azt a (természetes vagy jogi) személyt, aki az algoritmikusokon alapuló döntésekért helytállhat, a döntések eredményei körében elszámoltatható és károkozás esetén is felelősséget viselhet.

Ezzel a kérdéskörrel foglalkozik a számítási vagy informatikai elszámoltathatóság területe. A cél az, hogy az ilyen rendszerek és az őket övező irányítás úgy legyenek megtervezve, hogy a döntések igazolhatók, míg azok felelősei elszámoltathatók legyenek.

A számítási elszámoltathatósággal kapcsolatban négy akadályozó tényező azonosítható:

  1. A számítógépes szoftvereket általában több különálló szervezetből álló fejlesztési láncokban fejlesztik, emiatt nehezen visszakövethető a fejlesztői felelősség a szoftver működéséért.
  2. A második aspektus, hogy a hibák gyakran kiküszöbölhetetlenek.
  3. A számítógép könnyen válhat „bűnbakká”, amennyiben a fejlesztők a nyilvánvalóan nekik tulajdonítható gondatlanságukat a gépre hárítják.
  4. Az alkalmazott szerződési kikötések többnyire a szerzői jogokra korlátozódnak, a felelősségi kérdéseket nem rendezik.

Hulstijn a számítási elszámoltathatóság megvalósíthatóságát a megbízási jogviszonyok (a megbízó-megbízott közötti viszonyok) analógiáján keresztül szemléltette. A megbízó egy meghatározott feladat ellátásával bízza meg a megbízottat. A teljesítés központi problémája annak ellenőrizhetősége lesz. A megoldás az auditorok és speciális ellenőrzési mechanizmusok beépítésében rejlik. Ennek révén a megbízó és a megbízott közötti kapcsolatba bekerül harmadik félként az auditor, aki számára a megbízott bizonyítja feladatának megfelelő elvégzését, és aki ez alapján biztosítja a megbízót arról, hogy megbízottjával szemben nem állnak fenn aggályok.

A lehetséges ellenőrzési-elszámoltathatósági intézkedések között említhetjük még a különböző teljesítményértékelő paraméterek alkalmazását, amelyek által a megbízó valós képet kaphat a megbízott teljesítéséről. Ezek a konstrukciók átültethetők a mesterséges intelligencián alapuló számítógépes rendszerek működésébe is.

Az elszámoltathatóság másik megközelítése a szervezetek irányítása feletti ellenőrzés modelljén alapszik. Három típusú kontrollmechanizmust különböztethetünk meg:

  1. eredményellenőrzés: a legtöbbször mennyiségben mérhető kitűzött cél elérését ellenőrizzük, és ha ez nem teljesül, az ellenőrzés beavatkozik;
  2. viselkedésellenőrzés: az ellenőrzés az intézményesített szabályok és eljárások érvényesülésére terjed ki, és ha ezeket megsértik, az ellenőrzés beavatkozik;
  3. klán-szabályozás: társadalmi és kulturális értékek mentén, valós példák összehasonlításával elvégzett informális vizsgálat, különlegessége, hogy a meg nem felelés következménye a közösségből történő kirekesztés.

A szervezetirányítási modell alkalmazása esetén az alábbi elszámoltathatósági megoldások érvényesülhetnek:

  1. eredményellenőrzés esetén úgynevezett ellenőrzési nyomvonalak készíthetők, amelyek ki tudják mutatni, ha a mesterséges intelligencia döntési bázisa hibás/elfogult/hackelt adatot tartalmaz, illetve megérthetővé teszik magát a döntési folyamatot is;
  2. viselkedésellenőrzés esetén egy olyan infrastruktúrát lehet felállítani, amely az ellenőrzés lefolytatását követően tanúsítaná-igazolná a használt adatbázisok és a logikai eljárások megfelelőségét;
  3. a harmadik ellenőrzési formában olyan belső szervezeti struktúrát kell létrehozni, amely elszámoltatható, és amelyben szakértők gondoskodnak a mesterséges intelligencia által használt adatok minőségéről.

Az elszámoltatási mechanizmusok csak úgy működtethetők hatékonyan, ha kialakításukkor együttműködnek a technológiai és a társadalomtudományok képviselői. A bevezetendő szabályozási megoldásoknak mindkét terület igényeit-követelményeit ki kell elégíteniük.

A számítási elszámoltathatóság körében öt fontos követelmény azonosítható:

  1. hozzáférhetőség a köz (a felhasználók) számára, széleskörű tájékoztatás a technológiáról;
  2. a technológia és működésének megmagyarázhatósága és igazolhatósága;
  3. megfelelő fórum a felhasználók tájékoztatására;
  4. elkötelezettség az elszámoltatható működés iránt;
  5. az elszámoltatás eredményének megtámadhatósága, végleges döntés az elszámoltatásról, szankciók alkalmazásának lehetősége.

Az előadás segítségével a közönség lehetőséget kapott arra, hogy mélyebben megértse a mesterséges intelligencia alapú döntési folyamatok elszámoltathatóságát és az elszámoltathatóság technológiai hátterét. Talán a legfontosabb konklúzió, hogy az elszámoltathatóság és felelősség a területen komplex problémákat vet fel, amelyek nem oldhatóak meg kizárólag jogi eszközökkel. Elengedhetetlen a felelős és együttműködő fejlesztői környezet kialakítása, amely egyedül szabályozási úton nem kényszeríthető ki. A számítástudománynak is nyitnia kell a társadalomtudományok felé, hiszen anélkül nem képzelhető el olyan mesterséges intelligencia kifejlesztése és működtetése, amely megfelel a társadalom igényeinek és elvárásainak.

_____________________________________________

Készült a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

_____________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip európai parlament belső piac fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság diszkrimináció alkotmánybíróság európai központi bank gazdasági és monetáris unió versenyjog kúria állami támogatás demokrácia uniós értékek jogegységi határozat előzetes döntéshozatali eljárás nemzeti érdek közös kereskedelempolitika euró eu alapjogi charta arányosság elve brexit szociális jog irányelvek átültetése european convention of human rights kásler-ítélet fizetésképtelenségi rendelet választás eusz 7. cikke oroszország európai bizottság elnöke human trafficking egységes piac adatvédelem human rights környezetvédelem bevándorlás fenntartható fejlődés ultra vires aktus btk közös kül- és biztonságpolitika ceta német alkotmánybíróság trump wto nafta közigazgatás tpp migráció nemzeti bíróságok russia fundamental rights menekültkérdés bankunió strasbourgi bíróság panpsychism szolidaritás ukraine crisis polgári kezdeményezés magyarország personhood szankció syngamy kötelezettségszegési eljárás eu sanctions energiapolitika environment devizakölcsön ecthr európai integráció civil törvény compliance alkotmányjog prison conditions ukrán válság fővárosi közgyűlés európai parlamenti választások fogyatékosok jogai surrogacy national courts internet verseny szabadsága magyar helsinki bizottság ebh államcsőd közbeszerzés felsőoktatás normakontroll kiotói jegyzőkönyv consumer protection platformtársadalom halálbüntetés vesztegetés szülő nők helyzete likviditás külkapcsolatok állampolgárság lex ceu eljárási alkotmányosság versenyképesség adójog európai politikai pártok; single market adókövetelés hálapénz peschka menekült hatáskörmegosztás european court of human rights nemzetközi magánjog közjogtudomány adózás pártfinanszírozás retaliation adatmegőrzési irányelv fizetésképtelenségi eljárás schuman-nyilatkozat jogelmélet fal dajkaterhesség környezetvédelmi politika családi jog zaklatás gmo-szabályozás európai politikai közösség hungary közerkölcs sokszínű európa alapító atyák vallásszabadság dublin iii egyesült királyság áruk szabad áramlása öröklési jog szegregáció beruházásvédelem gmo-mentesség központi bankok európai rendszere politikai pártok european court of justice kisebbségek juncker bizottság első alkotmánykiegészítés 1951-es genfi egyezmény egészségvédelem uniós polgárság irányelvek szabályozáshoz való jog european neighbourhood policy hatáskör-átruházás kohéziós politika sokféleség energiahatékonysági irányelv obamacare strasbourgi esetjog tényleges életfogytiglan közigazgatási perrendtartás ártatlanság vélelme jog és irodalom elsőbbség elve régió fizetésképtelenség; energiaunió születésszabályozás parlament európai bíróság elnöke új btk. általános közigazgatási rendtartás alapjogi charta legitimáció erdély ukraine székelyföld autonomy of eu legal order jogharmonizáció; eurasian economic union hobby lobby véleménynyilvánítás szabadsága lenaerts törökország kikényszerítés konferencia inviolability of eu legal order csődjog; dcfta büntetőjog média hatékony jogvédelem szabadságvesztés történelmi konfliktusok személyek szabad mozgása law in literature uk report mulhaupt european values többségi demokrácia; jogos védelem országgyűlés franciaország uniós válságkezelés európai jog szociális deficit law as literature európai szomszédságpolitika olaszország european central bank áldozatvédelem sajtószabadság németország lojális együttműködés európai tanács európai emberi jogi egyezmény letelepedés szabadsága lengyel alkotmánybíróság brit jelentés ingatlanadó-követelés article 7 teu népszavazás german constitutional court végrehajtás válság lengyelország nyilvános meghallgatás rule of law common commercial policy omt értékközösség egyesülési jog szíria uniós jog sérthetetlensége kiskereskedelmi különadó jogállamiság-védelmi mechanizmus excessive deficit exclusionarism kommunikáció democracy európai unió alapjogi ügynoksége egyenlő bánásmód görögország muršić érdekközösség velencei bizottság lengyel alkotmánybíróság uniós jog autonómiája eu klímapolitika protectionism datafication reklámadó emberi méltóság pénzügyi válság ügynökprobléma gazdasági szankciók civil jogállamiság infrastruktúrához való hozzáférés kvótakereskedelem