Alexa, más is hall minket?

Egyre elterjedtebb az Amazon által kifejlesztett hanggal vezérelhető, intelligens digitális személyi asszisztens, vagyis az Alexa. Egy 2018 év eleji becslés szerint közel 8.2 millió háztartás rendelkezik valamilyen Amazon Echo eszközzel, annak ellenére, hogy a termék néhány területen még meglehetősen gyerekcipőben jár. Elég gyorsan felmerül a kérdés: biztonságos az otthonunkba frissen beköltöztetett virtuális személyi asszisztens vagy épp világuralomra tör?

Amikor az Amazon Echo 2014-ben debütált, gyorsan népszerűsítette az otthonokban történő hangszoftverek használatát. Amazon Alexa, vagy röviden csak Alexa feladatok végrehajtásának széles skálájára képes. Nem okoz neki gondot a zene lejátszás, teendők rendszerezése, ébresztő beállítása, hívások indítása, időjárásjelentés, vagy bármilyen, akár valós időben történő hír, sportesemény tudósítása. Összecsatlakoztatva számos egyéb okos eszközt vezérelhet, továbbá külső gyártók által fejlesztett tulajdonságokat is installálhatunk rá, ezzel is maximálisan személyre szabva eszközünket. Szoftverét úgy tervezték, hogy folyamatosan rögzítse a hangokat, így figyelve az „életre keltő” szavát, vagyis az Alexa megszólítást. Amikor nevét érzékeli, az Echo tetejében található fénygyűrű kékre vált, jelezve, hogy a készülék rögzít és sugároz egy feladatot az Amazon szerverének, illetve készen áll parancsunk teljesítésére. Azonban megállapíthatjuk, hogy vannak funkciók, amelyek még közelről sem tökéletesek.

Az Amazon felhasználók egy részére Alexa tavaly márciusban rendszeresen frászt hozott, amikor

bizonyos időközönként, kérés nélkül felnevetett.

A hátborzongató jelenséget a gyártó azzal magyarázta, hogy a mikrofon a környezeti zajokat „Alexa, laugh!”, vagyis „Alexa, nevess!” utasításként értelmezte. A problémát kiküszöbölték, a nevetéshez szükséges parancsot „Alexa, tudsz nevetni?” kérdésre cserélték, amire a hangasszisztens nevetés előtt „Persze, tudok nevetni” szöveggel is válaszol – biztos, ami biztos. Hasonlóan meglepő volt az a baklövés, amikor egy kislány sikeresen rendelt magának Alexa segítségével babaházat, mert a szülei nem kötötték kódhoz az online vásárlások lebonyolítását, majd amikor egy ismert TV műsorban pontosan elhangzott a rendelés leadásához szükséges utasítás, minden, az adás közelében élesített Echo készülék megrendelte a babaházat.

A napokban azonban ennél érdekesebb probléma robbantotta fel a külföldi sajtót. Napvilágot látott egy hír, miszerint Amazon dolgozók ezrei hallgatnak vissza Echo tulajdonosok otthonában és irodájában rögzített felvételeket, amelyeket bizonyos változtatások eszközölése utána visszatáplálnak a szoftverbe,

ezzel is folyamatosan fejlesztve Alexa emberi beszéd megértésére vonatkozó képességeit.

Karrier Kávézz velünk!

Alakítsd karriered ingyenes tanácsadásunk során!

Mielőtt az adatvédelmi irányelveket lobogtatva az Amazon torkának ugranánk, a cég leszögezte, hogy komolyan veszi ügyfelei személyes adatainak biztonságát és adatvédelmét. A felvételek rendkívül kis töredékét teszik munkatársaik számára elérhetővé, és az alkalmazottaknak egyáltalán nincs közvetlen hozzáférése olyan információkhoz, amelyek birtokában a munkafolyamat során egyértelműen beazonosítható lenne a személy vagy a felhasználói fiók.

Az elemzésekre váró felvételek nagyja teljesen hétköznapi szituációkból áll, például a felhasználók által hibásan kiejtett hírességek nevének megértése, vagy az adott országnak megfelelő mértékegységek pontosítása egy recept kapcsán.

Az is előfordul, hogy a dolgozók kínos helyzeteket csípnek el,

amiket jobb szeretnénk, ha négy fal között maradnának – ilyen lehet a hamis éneklés, vagy hisztiző gyermek, ami kellemetlen ugyan, de közelről sem veszélyes. Két probléma azonban mégis felmerült. Az Amazon marketing-és adatvédelmi irányelvei nem mondják ki kifejezetten, hogy valós, húsvér emberek belehallgatnak felhasználóik beszélgetéseibe.

Sőt, a honlap gyakran feltett kérdéseinek listájában erre vonatkozólag az alábbi válasz szerepel: „Az Alexának szánt kérdéseit felhasználjuk beszédfelismerő és természetes nyelvi megértés rendszerének kiképzésére”. Alexa biztonsági beállításai között lehetőséget ad a hangfelvételek fejlesztési célokból történő felhasználásának tiltására, ezzel azonban nem élnek sokan, hisz a felhasználók nem feltétlen gondolnak bele, hogy egy másik ember hallgatja őket okos hangszórójukon keresztül saját otthonunk intimitásából. A hír körül kavarodott vihar alapját főleg az a feltételezés adta, hogy ezek az eszközök csak gépi tanulást végeznek, pedig a tény valójában az, hogy még mindig szükséges a kézi feldolgozás. Mindezen az Amazon marketing szlogenje sem segített, miszerint „Alexa – a felhőben él és egyre okosabbá válik” pedig mint sok tanulásra szánt szoftver, úgy Alexa emberi tanításra is szorul.

A másik probléma ennél jóval kézzelfoghatóbb. Az „életre keltő” szó, vagyis Alexa nevének kiejtése nélkül a készülék nem rögzít hangadatokat, azonban saját nevét könnyedén félreérti. Például a francia „avec ca” gyakran összezavarja a szoftvert, hiszen az kiejtve nagyon is Alexa. Így fordulhatott elő, hogy az eszköz olyan hangfoszlányokat is rögzített, amelyeket egyébként nem neki szántak. Az értékelők amennyiben magánjellegű adatokat hallanak, például emberek nevét vagy banki adatait, egyszerűen „kritikus adatnak” minősítik azokat és tovább lépnek a következő hangfájlra. Ám a felvételfoszlányok feldolgozása során az is előfordul, hogy olyan részek ütik meg a dolgozók fülét, amiket felkavarónak, vagy egyenesen bűncselekménynek titulálnak. Ilyen tipikusan a szexuális zaklatás, vagy a családon belüli erőszak tetten érése. Az Amazon állítása szerint alkalmazottak ilyen esetekben meghatározott protokollt követnek, ennek ellenére két dolgozójuk egy nemzetközi hírügynökségnek azt nyilatkozta, hogy miután ebben a kérdésben útmutatást kértek, a cég aggodalmaikat annyival intézte el, hogy a közbeavatkozás nem áll jogukban.

Magyarországon e problémakör előtt állunk, hiszen az Amazon virtuális asszisztense egyelőre nem beszél magyarul, így bár itthon is alkalmazható, egyáltalán nem elterjedt. A hazai jogszabályok szerint bűncselekménybejelentési kötelezettség csak bizonyos esetekben áll fenn, például emberrablás, állam elleni bűncselekmény vagy terrorcselekmény esetén. És hogy ez az otthonokban tetten érhető-e? Biztosan. De vajon hol van az a határ, amikor egy cég a felhasználói számára ígért adatvédelmi szabályzatot betartja, ugyanekkor adott esetben mégis megakadályoz egy bűncselekményt vagy felelősségre von egy elkövetőt?

Egy biztos, sok otthonban felmerül a kérdés szerte a világon: Alexa, más is hall minket?

Asbóth Emma

Források:

https://www.alexa.com/help/privacy

https://www.forbes.com/sites/kateoflahertyuk/2019/04/12/amazon-staff-are-listening-to-alexa-conversations-heres-what-to-do/#4befcca671a2

https://edition.cnn.com/2019/04/11/tech/amazon-alexa-listening/index.html

*** Wulters Kluwer logo A Jog és Innováció rovat támogatója a Wolters Kluwer

***

Ha nem szeretnél lemaradni a további írásainkról, kövesd az Ars Bonit a facebookon.

MEGOSZTÁS