A gépek lázadása – Asimov törvényei életre kelnek

Lehet-e a mesterséges intelligenciával rendelkező robotoknak önálló személyiségük és a jognak el kell-e ismernie azt? Az Európai Parlament Asimov törvényeit készül jogszabályba önteni, de hogyan tegye ezt? Ki legyen a felelős a robotok által okozott károkért és milyen biztonsági mechanizmusokat kell beépíteni a robotok fejlesztésének és használatának folyamataiba? Valóban eljött a gépek lázadása?

Gépek lázadása

Az elmúlt tíz évben óriási fejlődésen ment keresztül az informatikai és technológiai iparág. A fejlődés nagyságát látva

SOKAN a következő ipari forradalomnak tartják a napjainkban zajló változásokat,

melyek valóban mutatnak rokon vonásokat korábbi időszakokkal. Gondoljunk csak az új technológia adta gazdasági fejlődésre, illetve az ezzel szemben álló foglalkoztatási nehézségekre és a munkavállalók aggályaira, akik attól tartanak, hogy az új technológiák miatt elveszíthetik állásukat.

E fejlődés nyomán az emberiség eljutott a korábban csak sci-fi fantáziákban megjelenő mesterséges intelligenciával rendelkező robotok létrehozásáig, illetve a mesterséges intelligencia egyre tökéletesebb kifejlesztéséig. Csak, hogy egy példát említsünk, Olaszországban a tavalyi évben kifejlesztettek egy emberi méretekkel rendelkező (185 cm, 120 kg) robotot[1], amely katasztrófa sújtotta területeken végez munkát.

Eljött tehát az idő, amikortól a mesterséges intelligenciával rendelkező,

önálló döntéseket hozó robotok a mindennapi életünk részévé válnak.

Ha a pénzügyi jogot eddig a sötét oldallal azonosítottad, nem vagy egyedül. De itt az idő, hogy átértékelj mindent, amit az adótanácsadásról tudni véltél!

Az e jelenségre való felkészülés részeként az Európai Parlament („EP”) létrehozta a robotika és mesterséges intelligencia munkacsoportot, valamint az EP felismerte a jelenlegi jogi szabályozásnak a robotokra vonatkozó hiányosságait, melynek következtében 2017. január 27-én az Európai Unió Parlament Jogi Ügyek Bizottsága („Bizottság”) közzétett egy jelentést[2] („Jelentés”), melyben megfogalmazza javaslatait a Robotika polgári jogi szabályaival foglalkozó bizottság részére.

A robotika szabályozása kialakításának nehézségét mutatja, hogy bár a munkacsoport évek óta működik, illetve a Bizottság is régóta foglalkozik a kérdéssel, nem igazán sikerült egy az iparági szereplőkkel közösen kidolgozott átfogó koncepciót elfogadni. Jelzi ezt, hogy a jelentés bevezető részében a Bizottság jobb híján valóban Asimov robotikai törvényeire, Frankenstein szörnyére, Karel Capek Prágai Gólemjére és egyéb sci-fi történetekre hivatkozik. Az idő azonban sürget, hiszen mind a távol-keleten, mind az EU-tól nyugatra rohamosan halad a robotikai iparág fejlődése, így az a terület ahol először fogadnak el a robotikára vonatkozó jogi szabályozási keretet, jelentős világpiaci versenyelőnybe kerülhet.

Mit nevezzünk robotnak?

A Jelentés egyik célja, hogy javaslattal szolgáljon a különböző automata rendszerek, robotok definíciójának meghatározásához szükséges szempontokra vonatkozóan. A Bizottság szerint az „okos robot” a következő jellemzőkkel rendelkezik:

  • az autonómia szenzorokon és/vagy a környezettel való adatcserén valamint az adatok elemzésén és cseréjén alapul;
  • rendelkezik az önálló, tapasztalati úton történő tanulás képességével (opcionális kritérium);
  • minimális fizikai támogatásra van szüksége;
  • képes a viselkedését és a cselekedeteit a környezethez igazítani;
  • a biológia értelemben vett élet hiánya.

Itt most nem értékelném a definíció helyességét, hiszen az pont azokhoz a filozofikus kérdésekhez vezet, amelyeket a sci-fi irodalom is eredménytelenül próbál megválaszolni hosszú létezése óta (pl.: a biológiai értelemben vett élet hiánya, miért gát a jogképesség elismerésében, ha egyébként önálló tudattal rendelkezhet egy robot, de rendelkezhet-e egyáltalán ilyennel?).

A bizottság egy elektronikus jogi személyiség kialakítását is javasolja a robotok számára

(ld. IV. g) pont), ez azonban igen vegyes fogadtatásban részesült mind az egyes EP képviselők, mind a közvélemény, mind pedig a szakma által.

Az egyes típusú robotokra vonatkozó javaslatok

A Jelentés kitér bizonyos ma is létező, illetve a közeljövőben alkalmazandó típusú robotokra (önjáró járművek, drónok, segítő robotok, egészségügyi robotok, testjavítás és az emberi test teljesítményének fokozása) vonatkozó kérdésekre is.

Az önjáró járművek piaca jelenleg az egész világon az egyik legjelentősebb és legnagyobb haszonnal kecsegtető terület,

melynek eredményei nem csupán a közúti közlekedésben, de a vízi és légi közlekedésben is, valamint mind a személy- mind az áruszállításban egyre számottevőbbek.

Az Uniónak jelenleg is az egyik fő célja, hogy a jelenlegi fragmentált szabályozást egységesítse és racionalizálja az Unió versenyképességének növelése érdekében. A Jelentés szerint az e területhez tartozó szabályozási kulcskérdések a polgári jogi felelősségi és biztosítási kérdések, a közlekedés biztonsága, a környezeti hatások (a megújuló energiaforrások és használatuk), a telekommunikációs infrastruktúra illetve az annak való megfelelés, a kompatibilitás (mind a telekommunikációs infrastruktúrával, mind pedig pl.: a töltőállomásokkal), az európai navigációs rendszerekhez (Galileo, EGNOS) való csatlakozás.

A drónok elterjedésével kapcsolatos legfontosabb kérdések az adatvédelmi követelményeknek való megfelelés, a polgári célokra való használhatóság illetve ennek feltételei és a polgári repülésre vonatkozó szabályok újragondolása.

Ahogy a segítő robotok fejlesztése és gyártása egyre olcsóbbá válik, valamint nő a fogyasztók általi elfogadottságuk (pl.: időskori gondozásban), úgy teszi lehetővé az ápoló személyzet számára, hogy egy sokkal személyre-szabottabb kezelést és szolgáltatást nyújtsanak.

Az egészségügyi robotok, különösen a műtéti beavatkozások terén, de hamarosan az orvostudomány és

az egészségügy minden területén óriási jelentőséggel fognak bírni.

A költséghatékonyabb működésen keresztül lehetőséget teremtenek például az orvosok számára, hogy a kezelés helyett a prevencióra fordíthassák figyelmüket, ezáltal növelve a lakosság egészségi szintjét. A Jelentés felhívja azonban a figyelmet arra, hogy egyes kezelések meghatározása, vagy műveletek, beavatkozások elvégzése során a kezelő orvosnak továbbra is döntő szerepet kell játszania, és a páciensek biztonsága érdekében az ő felügyelete alatt kell az ilyen típusú robotoknak működniük.

A Jelentés kitér egy igen érdekes kategóriára, a testjavító és test-teljesítményfokozó robotikai eszközökre is. A Jelentés szerint rendkívüli lehetőségeket hordoz magában ez a terület, gondoljunk csak például arra, hogy egyes kezelések, gyógyszeradagolások stb., az orvos által, vagy a testünk szükségleteihez mérten automatikusan elvégezhetőek lesznek. Felhívja azonban a figyelmet arra, hogy az ilyen, emberi testbe ültetett elektronikai készülékek különleges veszélyeket is hordoznak, ezért különös figyelmet kell majd fordítani információbiztonságra és a technológia külső behatásoktól mentességének megőrzésére illetve arra, hogy milyen főleg biztonsági standardok mentén lesznek alkalmazhatók az ilyen eszközök.

A robotikával kapcsolatos legfőbb jogi kérdések és javaslatok

A Jelentés kiemeli, hogy a jelenlegi szabályozási környezetbe nehezen illeszthetőek be a robotikai iparág és a robotok sajátosságaiból adódó élethelyzetek, így a Bizottság javasolja a jelenlegi Uniós normák megfelelő módon történő módosítását, illetve javaslatot tesz egyes  jogi kulcskérdések lehetséges szabályozására.

A robot nyilvántartás

A Jelentés javaslatot tesz egy egységes Uniós nyilvántartás bevezetésére, ahova regisztrálni kellene a „fejlett robotokat”, illetve a nyilvántartásban különböző osztályokba sorolnák őket. A Jelentés szerint nyilvántartást egy a robotika és mesterséges intelligencia felügyeletével megbízott EU ügynökség vezetné. A nyilvántartás ötlete nem talált szíves fogadtatásra az iparági szereplők körében, az Európai Robotika Szövetség véleménye szerint a kötelező regisztráció jelentős terhet jelentene számottevő előnyök nélkül.

Az irányítás megtartása

A Jelentés hangsúlyozza, hogy már a robotok, valamint a mesterséges intelligencia fejlesztése során úgy kell eljárni, hogy

az eszköz feletti irányítást a használó soha ne veszíthesse el,

illetve szükséges legyen egy ún. „kill switch” beépítése is, vagyis, hogy bármikor le lehessen állítani az eszközt.

Adatvédelem

Nem meglepő módon a robotika egyik nagy kérdése és kihívása a személyes adatok védelme, valamint az erre vonatkozó szabályoknak való megfelelés lesz. A robotoknak ugyanis képesnek kell majd lenniük kommunikálni a környezetükkel, folyamatos adatcserét kell végrehajtaniuk más eszközökkel, és mindeközben valahogy védeniük is kell majd a privát szférát illetve az ahhoz tartozó személyes adatokat.

IP rezsimek

Szintén nagy kihívás lesz a környezettel való kommunikáció, a kompatibilitási követelményeknek való megfelelés, az esetlegesen okozott károk felderítése, és a biztonság biztosítása során, hogy az egyes robotoknak, a Jelentés szerint hozzáférést kellene biztosítaniuk a szoftverek forráskódjaihoz, továbbá egyes egyéb szellemi tulajdonba tartozó elemekhez. Ez nem csupán a hatékonysági, de biztonsági kérdés is lesz a közeljövőben.

A „fekete doboz”

A Jelentés javasolja egy olyan szabályozás kialakítását, amely szerint

a robotokban el kell helyezni egy feketedobozt,

hogy meghibásodás esetén a hiba oka, illetve forrása pontosan meghatározható legyen. Ez szintén biztonsági szempontból lehet jelentős.

A robotokkal való kísérletezés szabályai

A Jelentés megemlíti, hogy a robotokkal történő kísérletezés jelentős biztonsági kockázatokkal jár (pl.: önjáró autók forgalomban történő tesztelése) melyek lassítják a fejlesztéseket, ezért javasolja kidolgozni azokat a körülményeket, amelyek között a robotokkal történő kísérletezés az elővigyázatosság elvét szem előtt tartva megengedett.

Felelősségi kérdések

Talán a legjelentősebb kérdés, és az EP is ezt tartja a legsürgetőbbnek, a robotok által okozott károkért való felelősségi rendszer kialakítása. Kérdés, hogy a felelősségi rendszer milyen koncepció szerint kerüljön kidolgozásra. Vajon a robotok által okozott károkért az objektív alapú felelősségi rendszer, vagy a kockázattelepítéses megközelítés alkalmazása lehet hatékonyabb? A Jelentés megjegyzi, hogy a robotok által okozott károkért az lehetne felelős és olyan mértékben, aki az utasítást a robot autonómiáját meghatározó módon adta. Ez azt jelenti, hogy a bonyolultabb, önálló tanulásra képes robotok esetében a Bizottság azt javasolja, hogy az utasítást adó személy felelőssége addig terjedjen, amíg a kár az általa elvégzett „betanításnak” a következménye. Az ezen felül,

a robot saját tanulásának következményeként bekövetkezett károkért azonban nem tartja indokoltnak megállapítani a „tervező” felelősségét.

Ennek a kiküszöbölésére a Jelentés egy kötelező felelősségbiztosítást valamint egy kártalanítási alapot magában foglaló felelősség-elosztó rendszer kidolgozását javasolja, amely rendszerben a tervezők vagy a gyártók, adott esetben csökkenthetnék a robotjaik által okozott károkért való felelősségüket a kártalanítási alaphoz történő hozzájárulás befizetésével.

A felelősségelosztás körében tette a Bizottság azt a megosztó javaslatot miszerint a robotokat fel kellene ruházni egy ún. „elektronikus jogi személyiséggel”. E javaslat azonban mind a közvélemény, mind a szakma által erős kritikákat kapott. A Bizottság által elkészíttetett tanulmány is arra az álláspontra helyezkedik, hogy

„az elektronikus jogi személyiség koncepciója ugyanannyira felesleges, mint amennyire helytelen.

A robotokat nem kellene jogi személyiséggel felruházni, mert az nem csupán a technológiával és a mesterséges intelligenciával kapcsolatos félelmeket erősítené, de lefokozná az emberi fajt is a gépek szintjére[3]”.

A Jelentés javasolja továbbá egy olyan közösségi fogyasztói igényérvényesítési mechanizmus kidolgozását, amely lehetővé teszi a robotok által okozott károkból fakadó igényeknek, azok gyártóival szembeni érvényesítését.

Nemzetközi kérdések és környezeti hatások

A Jelentés nem tekinti sürgős módosítás tárgyának – pl.: az önjáró autók által okozott közlekedési balesetekre tekintettel – a jelenlegi nemzetközi és uniós közlekedési szabályok módosítását. A Jelentés azonban kiemeli a robotok és zöld energia kapcsolatának erősítését. Ezen felül a jelentés a Jelentés megjegyzi, hogy a kettős felhasználású termékek kereskedelméről szóló (EC) 428/2009 rendelet szabályai a robotokra is alkalmazandóak.

A szöveg nem mondja ki, de kitűnik belőle, hogy a megannyi biztonsági, adatvédelmi, felelősségi kockázat megkövetel majd bizonyos standardokat, amelyeket be kell tartani a robotok fejlesztése és gyártása során. A jogi szabályozás sürgőssége nem csak a korábban említett versenyelőny megszerzése, de a „standard-háború” elkerülése érdekében is fennáll. A Jelentés ebből az okból is támogatja az ilyen standardoknak az ENSZ égisze alatt történő kidolgozását.

Eljöhet-e a gépek lázadása?

A fentiekből láthatjuk, hogy a robotok kora eljött, és mind a társadalmunknak, mind pedig a szabályainknak alkalmazkodnia kell a helyzethez. A robotika óriási lehetőségeket, de ugyanakkor jelentős kockázatokat is hordoz magában, ezért elkerülhetetlen az átgondolt és szabályozott fejlesztés, gyártás, forgalmazás és használat.

Véleményem szerint azonban a robotika, illetve annak szabályozása nem jelenthet akkora kihívást, mint amennyire ijesztőnek tűnhet vagy tűnt sokak számára. A gépek még mindig megmaradnak ember által elkészített eszközöknek, és a természet szerint nem válnak önálló entitássá,

a gépek lázadása még jó darabig nem jön el.

Bármilyen fejlett mesterséges intelligenciát is hoz létre az ember, azt még mindig az ember hozza létre. Attól függetlenül, hogy ez a fajta mesterséges intelligencia már olyannyira bonyolult rendszer, hogy az átlátása komoly kihívás, ez még mindig mesterséges, és az ember irányítása alatt álló marad.

A jelenség szemléltethető egy egyszerű példával: bármilyen elektronikus eszköz az ember által belekódolt algoritmus szerint működik. A tanulni képes robotok is az ember által belekódolt algoritmus szerint tanulnak. Amíg a tervező tökéletesen ismeri az algoritmust, addig bármikor képes lesz kontrollálni a mesterséges intelligenciát.

A robot „szabad akarata” mindig illúzió lesz

abban az értelemben, hogy az algoritmus alapján előre determinált minden – akár szabadnak tűnő – döntése. Itt felhozható, hogy sok filozófus és szociológus szerint maga az emberi viselkedés és döntések is előre meghatározottak a környezeti hatások következtében, melyre tekintettel az ember szabad akarata is csak illúzió ilyen értelemben. Ettől a ponttól azonban már a filozófus és szociológus kollégák feladata következik.

***

Ha nem szeretnél lemaradni az írásainkról, kövesd az Ars Bonit a facebookon.

Források

Képek forrása: itt, itt és itt és itt.

[1] https://www.walk-man.eu/ [2017. február 7.]

[2] Committee on Legal Affairs: REPORT with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)), 27.1.2017

[3] Nathalie Nevejans: EUROPEAN CIVIL LAW RULES IN ROBOTICS, © European Union, 2016 

Környei Mátyás

Környei Mátyás

Ügyvédjelölt a Weil, Gotshal & Manges budapesti irodájában, valamint a Budapesti Ügyvédi Kamara Ügyvédjelölti Tagozatának Elnökségi Tagja. Elsősorban ICT, TMT, peres ügyek, társasági és gazdasági jogban szerzett tapasztalatokat. Érdeklődési terület: Peres ügyek, Nemzetközi választottbíráskodás, Társasági és gazdasági jog, ICT, innovációk.

Környei Mátyás

*** Wulters Kluwer logo A Jog és Innováció rovat támogatója a Wolters Kluwer

***

Ha nem szeretnél lemaradni a további írásainkról, kövesd az Ars Bonit a facebookon.