Kálmán KingaA Társadalomtudományi Kutatóközpont „A mesterséges intelligencia jogi környezetének kihívásai” MILAB-részprojektje programsorozatának keretében került sor 2021. április 1-jén Joris Hulstijn Computational Accountability című online előadására.
Joris Hulstijn a holland Tilburgi Egyetem Közgazdasági és Menedzsment Karának kutatója. PhD fokozatot számítástudományból szerzett a Twentei Egyetemen, ahol a Tranzakciós párbeszédmodellek című disszertációjáért külön elismerésben is részesült. Kutatási területe a számítástechnikai alapú auditálás, a szerződéskötések és a szerződéses viszonyok modellezése, valamint az informatikai rendszerek alkalmazása a compliance területén. Jelenleg a modellalapú auditálás, valamint az auditálás és a monitorozás számítási megközelítésének fejlesztésén dolgozik, amely a pénz és az áruk áramlása (az értékciklus) várható kapcsolatainak normatív modelljét veszi alapul. Ezen felül, doktorandusz hallgatóinak kutatását segítve, elmélyült a digitális piac szabályozásának etikai és legújabb adatvédelmi kérdéseiben is.
Hulstijn a számítástechnikai alapon működő rendszerek elszámoltathatóságáról és felelősségéről szóló előadását egy közérthető példával indította. A holland királyi autóklub (az ANWB) Drive Safely járműbiztosítási rendszere azon az alapon működik, hogy a járművezetők, amennyiben huzamosabb ideig biztonságosan vezetnek, prémiumkedvezményt kapnak. A vezetési viselkedésüket egy beépített számítástechnikai eszköz figyeli, amely a vezetési sebesség, a gyorsulás, a lassítás és a kanyarodás paramétereit követve folyamatos értékeléseket küld a biztosítónak. A biztosítási kedvezményt az értékelések három hónapos átlaga alapján számolják ki.
A rendszer első látásra igazolhatónak és logikusnak tűnik, azonban működése a felszín mögé nézve több kérdést is felvet. A vezetési viselkedés lekövetése vajon a GDPR szerinti profilozásnak számít-e? Ha igen, akkor jogszerűen engedélyezhető-e? Általában véve tudja-e hitelt érdemlően igazolni a biztosító az ügyfele számára juttatott kedvezmény pontos mértékét?
Hulstijn szerint ezen kérdések mindegyike absztrakt szinten a számítógépes rendszerek és a mesterséges intelligencia elszámoltathatóságának problematikájához vezet el bennünket. A mesterséges intelligencián alapuló számítógépes rendszerek sokkal áthatóbban működnek, mint a normál informatikai eszközök. Ugyanakkor az emberek életét jelentősen befolyásoló döntéseket hozhatnak, emiatt elszámoltathatók és felelős működésük még fontosabb. Működésük során számos, az átlagfelhasználó által is felfogható kockázat merülhet fel: a működés során felhasznált adatbázisokban rejlő részrehajlás és az abból fakadó esetleges téves kockázatkezelés; rossz minőségű, megtámadott (meghackelt) adatok; az algoritmusokat használó addiktív üzleti modellek miatt; vagy a pontatlan profilozásokból eredő intézményesített részrehajlás kormányzati szinten.
Hulstijn hangsúlyozta, hogy a kockázatok azonosítása az első lépés azok csökkentése irányában. A programsorozat egyik korábbi rendezvényén, Molnár Tamás előadásában kihangsúlyozott alapjogi kockázatok közül az előadó az igazságszolgáltatáshoz való hozzáférést, valamint a jogorvoslathoz való jogot jelölte meg, mint olyan alapjogokat, melyek megfelelő érvényesülése kizárólag a számítási transzparencia és elszámoltathatóság megvalósulása esetén biztosítható. A mesterséges intelligencia nem megfelelő alkalmazása ezen alapjogok súlyos korlátozásával járhat, így mindenképpen meg kell határoznunk azt a (természetes vagy jogi) személyt, aki az algoritmikusokon alapuló döntésekért helytállhat, a döntések eredményei körében elszámoltatható és károkozás esetén is felelősséget viselhet.
Ezzel a kérdéskörrel foglalkozik a számítási vagy informatikai elszámoltathatóság területe. A cél az, hogy az ilyen rendszerek és az őket övező irányítás úgy legyenek megtervezve, hogy a döntések igazolhatók, míg azok felelősei elszámoltathatók legyenek.
A számítási elszámoltathatósággal kapcsolatban négy akadályozó tényező azonosítható:
- A számítógépes szoftvereket általában több különálló szervezetből álló fejlesztési láncokban fejlesztik, emiatt nehezen visszakövethető a fejlesztői felelősség a szoftver működéséért.
- A második aspektus, hogy a hibák gyakran kiküszöbölhetetlenek.
- A számítógép könnyen válhat „bűnbakká”, amennyiben a fejlesztők a nyilvánvalóan nekik tulajdonítható gondatlanságukat a gépre hárítják.
- Az alkalmazott szerződési kikötések többnyire a szerzői jogokra korlátozódnak, a felelősségi kérdéseket nem rendezik.
Hulstijn a számítási elszámoltathatóság megvalósíthatóságát a megbízási jogviszonyok (a megbízó-megbízott közötti viszonyok) analógiáján keresztül szemléltette. A megbízó egy meghatározott feladat ellátásával bízza meg a megbízottat. A teljesítés központi problémája annak ellenőrizhetősége lesz. A megoldás az auditorok és speciális ellenőrzési mechanizmusok beépítésében rejlik. Ennek révén a megbízó és a megbízott közötti kapcsolatba bekerül harmadik félként az auditor, aki számára a megbízott bizonyítja feladatának megfelelő elvégzését, és aki ez alapján biztosítja a megbízót arról, hogy megbízottjával szemben nem állnak fenn aggályok.
A lehetséges ellenőrzési-elszámoltathatósági intézkedések között említhetjük még a különböző teljesítményértékelő paraméterek alkalmazását, amelyek által a megbízó valós képet kaphat a megbízott teljesítéséről. Ezek a konstrukciók átültethetők a mesterséges intelligencián alapuló számítógépes rendszerek működésébe is.
Az elszámoltathatóság másik megközelítése a szervezetek irányítása feletti ellenőrzés modelljén alapszik. Három típusú kontrollmechanizmust különböztethetünk meg:
- eredményellenőrzés: a legtöbbször mennyiségben mérhető kitűzött cél elérését ellenőrizzük, és ha ez nem teljesül, az ellenőrzés beavatkozik;
- viselkedésellenőrzés: az ellenőrzés az intézményesített szabályok és eljárások érvényesülésére terjed ki, és ha ezeket megsértik, az ellenőrzés beavatkozik;
- klán-szabályozás: társadalmi és kulturális értékek mentén, valós példák összehasonlításával elvégzett informális vizsgálat, különlegessége, hogy a meg nem felelés következménye a közösségből történő kirekesztés.
A szervezetirányítási modell alkalmazása esetén az alábbi elszámoltathatósági megoldások érvényesülhetnek:
- eredményellenőrzés esetén úgynevezett ellenőrzési nyomvonalak készíthetők, amelyek ki tudják mutatni, ha a mesterséges intelligencia döntési bázisa hibás/elfogult/hackelt adatot tartalmaz, illetve megérthetővé teszik magát a döntési folyamatot is;
- viselkedésellenőrzés esetén egy olyan infrastruktúrát lehet felállítani, amely az ellenőrzés lefolytatását követően tanúsítaná-igazolná a használt adatbázisok és a logikai eljárások megfelelőségét;
- a harmadik ellenőrzési formában olyan belső szervezeti struktúrát kell létrehozni, amely elszámoltatható, és amelyben szakértők gondoskodnak a mesterséges intelligencia által használt adatok minőségéről.
Az elszámoltatási mechanizmusok csak úgy működtethetők hatékonyan, ha kialakításukkor együttműködnek a technológiai és a társadalomtudományok képviselői. A bevezetendő szabályozási megoldásoknak mindkét terület igényeit-követelményeit ki kell elégíteniük.
A számítási elszámoltathatóság körében öt fontos követelmény azonosítható:
- hozzáférhetőség a köz (a felhasználók) számára, széleskörű tájékoztatás a technológiáról;
- a technológia és működésének megmagyarázhatósága és igazolhatósága;
- megfelelő fórum a felhasználók tájékoztatására;
- elkötelezettség az elszámoltatható működés iránt;
- az elszámoltatás eredményének megtámadhatósága, végleges döntés az elszámoltatásról, szankciók alkalmazásának lehetősége.
Az előadás segítségével a közönség lehetőséget kapott arra, hogy mélyebben megértse a mesterséges intelligencia alapú döntési folyamatok elszámoltathatóságát és az elszámoltathatóság technológiai hátterét. Talán a legfontosabb konklúzió, hogy az elszámoltathatóság és felelősség a területen komplex problémákat vet fel, amelyek nem oldhatóak meg kizárólag jogi eszközökkel. Elengedhetetlen a felelős és együttműködő fejlesztői környezet kialakítása, amely egyedül szabályozási úton nem kényszeríthető ki. A számítástudománynak is nyitnia kell a társadalomtudományok felé, hiszen anélkül nem képzelhető el olyan mesterséges intelligencia kifejlesztése és működtetése, amely megfelel a társadalom igényeinek és elvárásainak.
_____________________________________________
Készült a Mesterséges Intelligencia Nemzeti Laboratórium keretében az Innovációs és Technológiai Minisztérium, valamint a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.
_____________________________________________
Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.