A „nulladik lépés” az MI Rendelet alkalmazásához: MI vagy nem MI?

Ez a Magyar Telekom jogi csapatának állandó rovata az Arsbonin. A rovat célja, hogy tartalmas és érdekes, hol komolyabb, hol könnyedebb írásokkal engedjen bepillantást a Telekom progresszív gondolkodású, szakmailag felkészült, összetartó jogi csapatának a munkájába, gondolkodásába. Ha a rovattal kapcsolatban kérdés, javaslat merül fel, az alábbi címre várjuk az észrevételeket: arsboni@arsboni.hu

1. Bevezető

Ha ezt a cikket olvasod, bizonyára értesültél róla, hogy 2024. augusztus 1-jén hatályba lépett az EU mesterséges intelligencia rendelete (MI Rendelet)[1] és felmerült benned kérdésként, mi az első lépés egy ilyen masszív joganyag alkalmazásához vezető úton. Mivel az MI Rendelet tárgyi hatálya az MI-rendszerekre terjed ki, a rendelet alkalmazásához elengedhetetlen „nulladik lépés” annak a kérdésnek a megválaszolása, hogy „Mi minősül MI-rendszernek?”, vagy tovább görgetve ezt a kérdést a gyakorlati megközelítés felé: „Hogyan határolható el egy MI-rendszer egy “hagyományos” IT rendszertől?”. A fenti kérdéseket remélhetőleg az Európai Bizottság MI Rendelet gyakorlati végrehajtására vonatkozó iránymutatása[2] fogja majd megválaszolni, azonban mivel ennek előkészítése még folyamatban van, erre egyelőre várnunk kell.[3]

A jelen cikk célja, hogy a Bizottság iránymutatásának közzététele előtt összefoglalja a fenti kérdések kapcsán a jelenleg rendelkezésünkre álló információkat, hiszen az MI rendelet fokozatos alkalmazásának első határideje hamarosan elérkezik és az olyan nagyvállalatok, mint a Magyar Telekom, nem várhatnak a Bizottságra a felkészülés megkezdésével.

2. Az MI Rendeletről általánosságban

Az MI rendelet a világ első átfogó mesterséges intelligenciára vonatkozó szabályozási keretrendszere, amelyben a szabályozás alapját kockázatalapú megközelítés képezi. A teljes megfeleléshez az érintett szereplőknek egy négy állomásos úton fokozatosan kell majd eljutnia, hiszen a szabályozás egyes követelményei különböző időpontokban vállnak alkalmazandóvá.   

Az MI Rendelet személyi hatálya az alábbi szereplőkre terjed ki: (i) MI-rendszerek szolgáltatói, (ii) alkalmazói, (iii) importőrei, (iv) forgalmazói, (v) termékgyártók és (vi) az EU-n kívüli szolgáltatók meghatalmazott képviselői. Az MI-rendszerek kockázatalapú besorolási kategóriái egy piramissal szemléltethetők, ahol alulról felfelé haladunk a minimástól az elfogadhatatlan kockázatig. Az egyes kockázati kategóriákra és szerepkörökre eltérő szabályokat állapít meg a rendelet.

Ahhoz, hogy megállapítsuk tehát, hogy az adott MI-rendszerre az MI Rendelet mely követelményei vonatkoznak, az első lépés az MI-rendszerek megfelelő kockázati kategóriába sorolása és annak meghatározása, hogy pontosan mely szereplői körbe tartozunk. Ennek a lépésnek az előszobája pedig annak azonosítása, hogy a rendszerünk MI-rendszer-e vagy sem. Amíg egy IT rendszer (beleértve a szoftvert is) nem MI-rendszer, addig kockázati besorolásra és az MI Rendelet egyéb szabályainak alkalmazására sincs szükség.

3. Az MI-rendszer fogalma az MI Rendeletben[4]

A jogalkotó célja a tág és rugalmas fogalommeghatározással vélhetően az volt, hogy az MI Rendelet képes legyen lépést tartani a rohamos technológiai fejlődéssel és a közeljövőben ne váljon elavulttá. Emellett szabályozási oldalról az sem kívánatos, hogy az MI Rendelet alkalmazása könnyedén megkerülhető legyen azzal, hogy az IT rendszerünket nem MI-rendszernek, hanem „hagyományos” IT rendszernek minősítjük. Az alkalmazói oldalról megközelítve viszont a tág megfogalmazás bizonytalanságokhoz vezet és akár azt is eredményezheti, hogy az érintett piaci szereplők által ma használt technológiák közül olyan is a szabályozás hatálya alá essen, amelyet eredetileg nem MI-rendszernek szántak.

4. Az egyes fogalmi elemek vizsgálata[5]

A cikk következő része a jelenlegi Bizottsági iránymutatás előtti helyzetben vizsgálja az MI-rendszer fogalmának egyes elemeit. Az elemzés célja, hogy a szabályozásban már rögzített ismérveket értelmezve segítséget nyújtson az érintett szereplők számára az IT rendszereik osztályozásában, miközben reflektál azokra a kihívásokra, amelyeket a jogi szöveg tág megfogalmazása okozhat.

• „az MI-rendszer egy olyan gépi alapú rendszer,”

Ez a fogalmi elem gyakorlatilag arra utal, hogy az MI-rendszerek gépeken futnak. A „gépi” sok mindent jelenthet, általánosan értelmezve bármi lehet, aminek működéséhez kell külső áram(energia)forrás és rendelkezik alkatrészekkel, amelyek valamilyen munkát, feladatot vagy mozgást végeznek. Ez azt jelenti, hogy elméletileg még az általános számítógépnek vagy a digitális áramkörnek nem tekinthető gépek is tekinthetők MI-rendszernek. Megjegyzendő, hogy az MI-rendszerek önállóan vagy termék alkotóelemeként is használhatók, függetlenül attól, hogy a rendszert fizikailag integrálták-e a termékbe, vagy sem.

Nem tartom releváns fogalmi elemnek más “hagyományos” IT rendszerektől való megkülönböztetéshez.

• „amelyet úgy terveztek, hogy különböző szintű autonómiával működjön,”

Az „autonómia” az jelenti, hogy az MI rendszerek tevékenységeik során bizonyos mértékben függetlenek az emberi közreműködéstől és bizonyos mértékben képesek emberi beavatkozás nélkül működni (tanulni, cselekedni) az autonómia átruházását és a folyamatautomatizálást követően.

A gyakorlati alkalmazáshoz fontos elhatárolni az autonómiát az automatizált működéstől. Az automatizált működésű rendszer esetén a kimenetet (eredményt) szigorú algoritmusok előre meghatározzák (ha x, akkor y). Az algoritmusok gyakorlatilag jól definiált, automatizált utasítások, amelyek bizonyos értékekből (input) bizonyos más értékeket (output) állítanak elő. Ez egy előre meghatározott ismétlődő séma szerinti számítási folyamat, amely nem képes önállóan az eredeti problémán kívüli új helyzeteket felismerni vagy kezelni. Ha a környezet megváltozik, az automatizált működésű rendszer csak akkor tud alkalmazkodni, ha egy ember átírja az algoritmus szabályait. Ezzel szemben egy autonóm MI-rendszer algoritmusok halmazaiból áll, amelyek aszerint különböznek, hogy a kapott adatok strukturáltak (pl.: gépi tanulás, angolul: „machine learning”) vagy strukturálatlanok (pl.: természetes nyelvi feldolgozás, angolul: „natural language processing”). Az MI-rendszerek olyan algoritmusokat használnak, amelyek lehetővé teszik számukra, hogy akár új szabályokat is kialakítsanak, ha azok szükségesek a cél eléréséhez. Ennek köszönhetően emberi beavatkozás nélkül képesek kezelni az előre nem meghatározott, új helyzeteket, környezeti változásokat, valamint az ismeretlen adatokat a tanítási folyamat során felhalmozott tudás alapján.

Példák automatizált működésű rendszerre: (i) egy gyártósoron működő robotkar, amely előre beprogramozott mozdulatokat végez; (ii) egy banki rendszer, amely automatizáltan kiszámítja a kamatot a megadott adatok alapján.

Példa autonóm rendszerre: (i) egy önvezető autó, amely érzékelők és adatok alapján képes dönteni arról, hogy mikor fékezzen vagy gyorsítson; (ii) egy IT biztonsági rendszer, amely képes önállóan észlelni és elhárítani a fenyegetéseket anélkül, hogy emberi beavatkozásra várna.

Elhatárolást segítő példa: Egy chatbot, amely nem tanul, és csak egy egyértelmű, előre meghatározott „transcriptet”/döntési fát követve cseveg, nem MI-rendszer. Ha a chatbot tanul, fejlődik és olyan kérdéseket kezel, amelyek nincsenek előre meghatározva a „transcriptben”, akkor az ilyen chatbot MI-rendszernek minősül.

(Jelenleg) a legfontosabb fogalmi elemnek tartom más “hagyományos” IT rendszerektől való megkülönböztetéshez.

• „amely bevezetését követően alkalmazkodóképességet tanúsíthat,”

Az „alkalmazkodóképesség tanúsítása” azt jelenti, hogy az MI-rendszer a használata közbeni változást lehetővé tévő öntanulásra képes. Az ilyen rendszerek olyan új következtetéseket vonhatnak le működésük során, amelyeket eredetileg a fejlesztés során nem terveztek (pl: egy olyan beszédfelismerő rendszer, amely alkalmazkodik az egyén hangjához, vagy a személyre szabott zeneajánló rendszer).

Fontos megjegyezni, hogy ez egy eshetőleges fogalmi elem, tehát az alkalmazkodóképesség hiánya önmagában még nem jelenti azt, hogy nem egy MI-rendszerről van szó. Jelenleg a piacon elérhető, legismertebb MI-rendszerek többsége nem rendelkezik öntanulási képességgel, ezen rendszerek szolgáltatói inkább az MI-rendszernek egy, az ügyfelek által használt verziójától elkülönített verzióján végzik az új tanító fejlesztéseket.

Fontos fogalmi elemnek tartom más “hagyományos” IT rendszerektől való megkülönböztetéshez, de hasznosságát csökkenti, hogy nem kötelező eleme a definíciónak.

• „és amely a kapott bemenet alapján – explicit vagy implicit célok érdekében – kikövetkezteti, miként generáljon olyan kimeneteket, például előrejelzéseket, tartalmakat, ajánlásokat vagy döntéseket,”

A „kapott bemenetek” és a „célok” esetén nem releváns, hogy hogyan és ki által történik a meghatározásuk, azok származhatnak embertől vagy gépiek is lehetnek. Ahogy az autonómiánál már említésre került, az MI-rendszer célkitűzései eltérhetnek az MI-rendszer adott konkrét kontextuson belüli rendeltetésétől.

Az MI Rendelet szerint a „kikövetkeztetés” (i) egyrészt a kimenetek előállításának folyamatára utal, (ii) másrészt az MI-rendszerek azon képességére, hogy bemenetekből modelleket vagy algoritmusokat – vagy mindkettőt – tudnak levezetni. Az MI-rendszerek következtetési kapacitása meghaladja az alapvető adatkezelés körét és lehetővé teszi a tanulást, az érvelést, a modellezést.

A kimenetek előállításának folyamata nem valódi megkülönböztető tényező, aligha képzelhető el olyan IT rendszer, amely nem rendelkezik ezzel a képességgel. A magyarázat másik fele pedig további technikai megértést igényel, amihez az MI Rendelet jelenlegi szövege nem ad megfelelő iránymutatást. A következtetés a gépi tanulásban használatos technikai fogalom, amely azt a gyakorlati alkalmazási szakaszt jelenti a fejlesztésben, amikor egy már betanított, kész MI-rendszer segítségével új bemenetek alapján kimeneteket állít elő a rendszerünk. Ez a szakasz feltételezi, hogy a modellünk átesett egy korábbi tanítási szakaszon. Ebből akár arra az értelmezésre is juthatunk, hogy az MI-rendszer fogalmának egy – az MI Rendelet szerinti fogalomban jelenleg nem használt – további fogalmi eleme az, hogy a rendszer a bevezetése előtt – a tervezési, betanítási szakaszban – képes volt öntanulásra (alkalmazkodóképességet tanúsított). Ez az értelmezés ahhoz a fontos vizsgálati szemponthoz vezet, hogy az MI-rendszer azonosításához nem elegendő az adott rendszert „kész” állapotában vizsgálnunk, hanem figyelembe kell venni a rendszer fejlesztési folyamatát, a tervezési fázist is, és azt, hogy milyen módszerekkel épült fel a modell. Ugyanakkor, ilyen megalapozottnak vélt következtetések megerősítéséhez vagy megcáfolásához szükséges megvárnunk a Bizottság említett iránymutatását.

A következtetést lehetővé tevő technikák az MI rendelet szerint:

• gépi tanulási megközelítések, amelyek adatokból tanulják meg, hogy miként lehet elérni bizonyos célkitűzéseket, valamint
• a logikai és tudásalapú megközelítések, amelyek kódolt ismeretek vagy a megoldandó feladat szimbolikus ábrázolása alapján következtetnek.

Fontos fogalmi elemnek tartom más “hagyományos” IT rendszerektől való megkülönböztetéshez, de hasznosságát csökkenti, hogy további technikai megértésre és iránymutatásra van szükség a gyakorlati alkalmazásához.

• „amelyek befolyásolhatják a fizikai vagy a virtuális környezetet.”

A fogalom ezen eleme azon virtuális vagy fizikai környezetekre utal, amelyekben az MI-rendszerek működnek (pl.: gyárak, okos otthonok, kiberbiztonsági rendszer, közösségi média platform). Fontos, hogy elegendő a befolyásolás lehetősége, nem szükséges, hogy tényleges változás következzen be akár a virtuális, akár a fizikai környezetben a kimenetek hatására.

Releváns, de kevésbé fontos fogalmi elemnek tartom más “hagyományos” IT rendszerektől való megkülönböztetéshez.

5. Konklúzió

A fentiek alapján egyértelmű, hogy az MI Rendelet alkalmazásának nélkülözhetetlen „nulladik lépése” az MI-rendszereink azonosítása. Ehhez szükséges az MI-rendszer fogalmi elemeinek értelmezése, amelyhez azonban további iránymutatásra van szükség, mind EU-s, mind tagállami szinten. A Bizottság érkező iránymutatása remélhetőleg segít az értelmezési dilemmákat tisztázni és olyan egyértelmű, gyakorlati útmutatót nyújt majd, amely megkönnyíti az érintett szereplők számára az MI Rendeletnek való megfelelést. Tekintettel azonban arra, hogy az MI Rendelet első alkalmazási állomásának határideje rohamosan közeleg, mialatt a Bizottság iránymutatásának érkezése még várat magára, az előkészületek megkezdése elengedhetetlen. Ezért azoknak a vállalatoknak és szervezeteknek, amelyek tevékenységét érintheti a szabályozás, haladéktalanul meg kell kezdeniük az MI-rendszereik azonosítását és kategorizálását (ha még nem tették volna meg). A felkészülés mielőbbi elindítása lehetőséget ad arra, hogy időben azonosítsuk a potenciális megfelelési kockázatokat, és megtegyük az ezek kezeléséhez szükséges lépéseket.

[1] Az Európai Parlament és a Tanács (EU) 2024/1689-es mesterséges intelligenciáról szóló rendelete

[2] MI Rendelet 96. cikk (1) bekezdés f) pontja.

[3] Commission launches consultation on AI Act prohibitions and AI system definition | Shaping Europe’s digital future (europa.eu)

[4] MI Rendelet 3. cikk 1. pont

[5] A jelen pontban számos helyen használtam forrásként az MI Rendelet 12. preambulumbekezdését.

A Jogtanácsosok a digitális világban rovat a Telekom jogi csapatának állandó rovata az Arsbonin.