jtiblog

A Jogtudományi Intézet blogoldala

Hogyan vonható felelősségre egy algoritmus? Joris Hulstijn előadása a számítógépes rendszerek elszámoltathatóságáról

2021. június 01. 14:10
Kálmán Kinga
gyakornok, TK JTI; joghallgató, ELTE ÁJK

A Társadalomtudományi Kutatóközpont „A mesterséges intelligencia jogi környezetének kihívásai” MILAB-részprojektje programsorozatának keretében került sor 2021. április 1-jén Joris Hulstijn Computational Accountability című online előadására.

Joris Hulstijn a holland Tilburgi Egyetem Közgazdasági és Menedzsment Karának kutatója. PhD fokozatot számítástudományból szerzett a Twentei Egyetemen, ahol a Tranzakciós párbeszédmodellek című disszertációjáért külön elismerésben is részesült. Kutatási területe a számítástechnikai alapú auditálás, a szerződéskötések és a szerződéses viszonyok modellezése, valamint az informatikai rendszerek alkalmazása a compliance területén. Jelenleg a modellalapú auditálás, valamint az auditálás és a monitorozás számítási megközelítésének fejlesztésén dolgozik, amely a pénz és az áruk áramlása (az értékciklus) várható kapcsolatainak normatív modelljét veszi alapul. Ezen felül, doktorandusz hallgatóinak kutatását segítve, elmélyült a digitális piac szabályozásának etikai és legújabb adatvédelmi kérdéseiben is.

Hulstijn a számítástechnikai alapon működő rendszerek elszámoltathatóságáról és felelősségéről szóló előadását egy közérthető példával indította. A holland királyi autóklub (az ANWB) Drive Safely járműbiztosítási rendszere azon az alapon működik, hogy a járművezetők, amennyiben huzamosabb ideig biztonságosan vezetnek, prémiumkedvezményt kapnak. A vezetési viselkedésüket egy beépített számítástechnikai eszköz figyeli, amely a vezetési sebesség, a gyorsulás, a lassítás és a kanyarodás paramétereit követve folyamatos értékeléseket küld a biztosítónak. A biztosítási kedvezményt az értékelések három hónapos átlaga alapján számolják ki.

A rendszer első látásra igazolhatónak és logikusnak tűnik, azonban működése a felszín mögé nézve több kérdést is felvet. A vezetési viselkedés lekövetése vajon a GDPR szerinti profilozásnak számít-e? Ha igen, akkor jogszerűen engedélyezhető-e? Általában véve tudja-e hitelt érdemlően igazolni a biztosító az ügyfele számára juttatott kedvezmény pontos mértékét?

Hulstijn szerint ezen kérdések mindegyike absztrakt szinten a számítógépes rendszerek és a mesterséges intelligencia elszámoltathatóságának problematikájához vezet el bennünket. A mesterséges intelligencián alapuló számítógépes rendszerek sokkal áthatóbban működnek, mint a normál informatikai eszközök. Ugyanakkor az emberek életét jelentősen befolyásoló döntéseket hozhatnak, emiatt elszámoltathatók és felelős működésük még fontosabb. Működésük során számos, az átlagfelhasználó által is felfogható kockázat merülhet fel: a működés során felhasznált adatbázisokban rejlő részrehajlás és az abból fakadó esetleges téves kockázatkezelés; rossz minőségű, megtámadott (meghackelt) adatok; az algoritmusokat használó addiktív üzleti modellek miatt; vagy a pontatlan profilozásokból eredő intézményesített részrehajlás kormányzati szinten.

Hulstijn hangsúlyozta, hogy a kockázatok azonosítása az első lépés azok csökkentése irányában. A programsorozat egyik korábbi rendezvényén, Molnár Tamás előadásában kihangsúlyozott alapjogi kockázatok közül az előadó az igazságszolgáltatáshoz való hozzáférést, valamint a jogorvoslathoz való jogot jelölte meg, mint olyan alapjogokat, melyek megfelelő érvényesülése kizárólag a számítási transzparencia és elszámoltathatóság megvalósulása esetén biztosítható. A mesterséges intelligencia nem megfelelő alkalmazása ezen alapjogok súlyos korlátozásával járhat, így mindenképpen meg kell határoznunk azt a (természetes vagy jogi) személyt, aki az algoritmikusokon alapuló döntésekért helytállhat, a döntések eredményei körében elszámoltatható és károkozás esetén is felelősséget viselhet.

Ezzel a kérdéskörrel foglalkozik a számítási vagy informatikai elszámoltathatóság területe. A cél az, hogy az ilyen rendszerek és az őket övező irányítás úgy legyenek megtervezve, hogy a döntések igazolhatók, míg azok felelősei elszámoltathatók legyenek.

A számítási elszámoltathatósággal kapcsolatban négy akadályozó tényező azonosítható:

  1. A számítógépes szoftvereket általában több különálló szervezetből álló fejlesztési láncokban fejlesztik, emiatt nehezen visszakövethető a fejlesztői felelősség a szoftver működéséért.
  2. A második aspektus, hogy a hibák gyakran kiküszöbölhetetlenek.
  3. A számítógép könnyen válhat „bűnbakká”, amennyiben a fejlesztők a nyilvánvalóan nekik tulajdonítható gondatlanságukat a gépre hárítják.
  4. Az alkalmazott szerződési kikötések többnyire a szerzői jogokra korlátozódnak, a felelősségi kérdéseket nem rendezik.

Hulstijn a számítási elszámoltathatóság megvalósíthatóságát a megbízási jogviszonyok (a megbízó-megbízott közötti viszonyok) analógiáján keresztül szemléltette. A megbízó egy meghatározott feladat ellátásával bízza meg a megbízottat. A teljesítés központi problémája annak ellenőrizhetősége lesz. A megoldás az auditorok és speciális ellenőrzési mechanizmusok beépítésében rejlik. Ennek révén a megbízó és a megbízott közötti kapcsolatba bekerül harmadik félként az auditor, aki számára a megbízott bizonyítja feladatának megfelelő elvégzését, és aki ez alapján biztosítja a megbízót arról, hogy megbízottjával szemben nem állnak fenn aggályok.

A lehetséges ellenőrzési-elszámoltathatósági intézkedések között említhetjük még a különböző teljesítményértékelő paraméterek alkalmazását, amelyek által a megbízó valós képet kaphat a megbízott teljesítéséről. Ezek a konstrukciók átültethetők a mesterséges intelligencián alapuló számítógépes rendszerek működésébe is.

Az elszámoltathatóság másik megközelítése a szervezetek irányítása feletti ellenőrzés modelljén alapszik. Három típusú kontrollmechanizmust különböztethetünk meg:

  1. eredményellenőrzés: a legtöbbször mennyiségben mérhető kitűzött cél elérését ellenőrizzük, és ha ez nem teljesül, az ellenőrzés beavatkozik;
  2. viselkedésellenőrzés: az ellenőrzés az intézményesített szabályok és eljárások érvényesülésére terjed ki, és ha ezeket megsértik, az ellenőrzés beavatkozik;
  3. klán-szabályozás: társadalmi és kulturális értékek mentén, valós példák összehasonlításával elvégzett informális vizsgálat, különlegessége, hogy a meg nem felelés következménye a közösségből történő kirekesztés.

A szervezetirányítási modell alkalmazása esetén az alábbi elszámoltathatósági megoldások érvényesülhetnek:

  1. eredményellenőrzés esetén úgynevezett ellenőrzési nyomvonalak készíthetők, amelyek ki tudják mutatni, ha a mesterséges intelligencia döntési bázisa hibás/elfogult/hackelt adatot tartalmaz, illetve megérthetővé teszik magát a döntési folyamatot is;
  2. viselkedésellenőrzés esetén egy olyan infrastruktúrát lehet felállítani, amely az ellenőrzés lefolytatását követően tanúsítaná-igazolná a használt adatbázisok és a logikai eljárások megfelelőségét;
  3. a harmadik ellenőrzési formában olyan belső szervezeti struktúrát kell létrehozni, amely elszámoltatható, és amelyben szakértők gondoskodnak a mesterséges intelligencia által használt adatok minőségéről.

Az elszámoltatási mechanizmusok csak úgy működtethetők hatékonyan, ha kialakításukkor együttműködnek a technológiai és a társadalomtudományok képviselői. A bevezetendő szabályozási megoldásoknak mindkét terület igényeit-követelményeit ki kell elégíteniük.

A számítási elszámoltathatóság körében öt fontos követelmény azonosítható:

  1. hozzáférhetőség a köz (a felhasználók) számára, széleskörű tájékoztatás a technológiáról;
  2. a technológia és működésének megmagyarázhatósága és igazolhatósága;
  3. megfelelő fórum a felhasználók tájékoztatására;
  4. elkötelezettség az elszámoltatható működés iránt;
  5. az elszámoltatás eredményének megtámadhatósága, végleges döntés az elszámoltatásról, szankciók alkalmazásának lehetősége.

Az előadás segítségével a közönség lehetőséget kapott arra, hogy mélyebben megértse a mesterséges intelligencia alapú döntési folyamatok elszámoltathatóságát és az elszámoltathatóság technológiai hátterét. Talán a legfontosabb konklúzió, hogy az elszámoltathatóság és felelősség a területen komplex problémákat vet fel, amelyek nem oldhatóak meg kizárólag jogi eszközökkel. Elengedhetetlen a felelős és együttműködő fejlesztői környezet kialakítása, amely egyedül szabályozási úton nem kényszeríthető ki. A számítástudománynak is nyitnia kell a társadalomtudományok felé, hiszen anélkül nem képzelhető el olyan mesterséges intelligencia kifejlesztése és működtetése, amely megfelel a társadalom igényeinek és elvárásainak.

_____________________________________________

Készült a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

_____________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip európai parlament belső piac fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság diszkrimináció alkotmánybíróság európai központi bank gazdasági és monetáris unió versenyjog kúria állami támogatás uniós értékek demokrácia jogegységi határozat előzetes döntéshozatali eljárás nemzeti érdek közös kereskedelempolitika euró eu alapjogi charta brexit arányosság elve szociális jog irányelvek átültetése european convention of human rights kásler-ítélet fizetésképtelenségi rendelet választás oroszország eusz 7. cikke human trafficking egységes piac európai bizottság elnöke human rights környezetvédelem adatvédelem fenntartható fejlődés ultra vires aktus bevándorlás közös kül- és biztonságpolitika ceta német alkotmánybíróság btk trump nafta közigazgatás wto tpp migráció nemzeti bíróságok russia menekültkérdés fundamental rights strasbourgi bíróság panpsychism szolidaritás ukraine crisis bankunió personhood polgári kezdeményezés magyarország szankció syngamy kötelezettségszegési eljárás environment eu sanctions energiapolitika ecthr európai integráció civil törvény compliance devizakölcsön alkotmányjog prison conditions ukrán válság fővárosi közgyűlés surrogacy európai parlamenti választások fogyatékosok jogai ebh államcsőd közbeszerzés felsőoktatás normakontroll kiotói jegyzőkönyv national courts internet verseny szabadsága magyar helsinki bizottság szülő nők helyzete likviditás külkapcsolatok állampolgárság lex ceu eljárási alkotmányosság versenyképesség adójog consumer protection platformtársadalom halálbüntetés vesztegetés peschka menekült hatáskörmegosztás european court of human rights nemzetközi magánjog közjogtudomány adózás európai politikai pártok; single market adókövetelés hálapénz jogelmélet fal dajkaterhesség környezetvédelmi politika családi jog zaklatás gmo-szabályozás pártfinanszírozás retaliation adatmegőrzési irányelv fizetésképtelenségi eljárás schuman-nyilatkozat dublin iii egyesült királyság áruk szabad áramlása öröklési jog szegregáció beruházásvédelem gmo-mentesség központi bankok európai rendszere európai politikai közösség hungary közerkölcs sokszínű európa alapító atyák vallásszabadság első alkotmánykiegészítés 1951-es genfi egyezmény egészségvédelem uniós polgárság irányelvek szabályozáshoz való jog european neighbourhood policy hatáskör-átruházás politikai pártok european court of justice kisebbségek juncker bizottság obamacare strasbourgi esetjog tényleges életfogytiglan közigazgatási perrendtartás ártatlanság vélelme jog és irodalom elsőbbség elve kohéziós politika sokféleség energiahatékonysági irányelv születésszabályozás parlament európai bíróság elnöke új btk. általános közigazgatási rendtartás alapjogi charta legitimáció erdély ukraine régió fizetésképtelenség; energiaunió eurasian economic union hobby lobby véleménynyilvánítás szabadsága lenaerts törökország kikényszerítés konferencia székelyföld autonomy of eu legal order jogharmonizáció; dcfta büntetőjog média hatékony jogvédelem szabadságvesztés történelmi konfliktusok személyek szabad mozgása law in literature uk report inviolability of eu legal order csődjog; jogos védelem országgyűlés franciaország uniós válságkezelés európai jog szociális deficit law as literature európai szomszédságpolitika mulhaupt european values többségi demokrácia; european central bank áldozatvédelem sajtószabadság németország lojális együttműködés európai tanács európai emberi jogi egyezmény letelepedés szabadsága lengyel alkotmánybíróság brit jelentés olaszország népszavazás german constitutional court végrehajtás válság lengyelország ingatlanadó-követelés article 7 teu common commercial policy omt értékközösség egyesülési jog szíria uniós jog sérthetetlensége kiskereskedelmi különadó jogállamiság-védelmi mechanizmus excessive deficit nyilvános meghallgatás rule of law egyenlő bánásmód görögország muršić érdekközösség velencei bizottság lengyel alkotmánybíróság uniós jog autonómiája eu klímapolitika exclusionarism kommunikáció democracy európai unió alapjogi ügynoksége emberi méltóság pénzügyi válság ügynökprobléma gazdasági szankciók civil jogállamiság infrastruktúrához való hozzáférés kvótakereskedelem protectionism datafication reklámadó