Rekordbírságot szabott ki az Adatvédelmi Hatóság

Felhasználói fiók Hírlevél feliratkozás

Rekordbírságot szabott ki az Adatvédelmi Hatóság

Először, de rögtön rekord összegre rúgó bírságot szabott mesterséges intelligencia (MI) jogszerűtlen felhasználása miatt az adatvédelmi hatóság. Az egyik magyarországi bank ügyfelei érzelmi állapotát vizsgálta így. Tudtuk és beleegyezésük nélkül.

A Nemzeti Adatvédelmi és Információszabadság Hatóság (NAIH) – hívta fel a figyelmet a hatóság 2021-es beszámolója alapján a Deloitte – először, de rögtön rekord összegre, 250 millió forintra rúgó bírságot szabott ki MI alkalmazása miatt egy bankra. A NAIH jelentése szerint a pénzintézet az ügyfélszolgálati hívások rögzített hanganyagát elemezte automatikusan. A beszédjel-felismerő és értékelő rendszer az ügyfelek hangulati állapota alapján határozta meg, kiket kell visszahívni. A bank állítása szerint az alkalmazást panasz és ügyfélelvándorlás megelőzése érdekében üzemeltette.

A felismert kulcsszavak és érzelmek eredményét hívásonként tárolták. A hívások még 45 napig a hangelemző szoftveren belül is visszahallgathatóak voltak. A hangelemző szoftver a hívásokról sorrendet állított fel, javasolva, hogy kiket szükséges elsősorban visszahívni. Ezt az adatot is a híváshoz kapcsolva tárolták. Végül a visszahívásokról az adatok átnézése után a bank vezető dolgozói döntöttek. Mindezt úgy, hogy az ügyfelek semmit sem tudtak erről a módszerről, így persze bele sem egyezhettek abba.

A pénzintézet is tudta, nem jár el helyesen

A bank NAIH-nak tett nyilatkozatai is megerősítették: tudatában voltak, hogy a vizsgált hangelemzéssel kapcsolatban évek óta nem biztosította a megfelelő tájékoztatást, a tiltakozási jogot. Az érvelés szerint azért nem, mert az nem volt számukra megoldható.

A bank saját adatvédelmi hatásvizsgálata is megállapította – írta le a NAIH –, hogy az adatkezelés több okból is magas kockázatú, alkalmas profilalkotásra, illetve átvilágításra, és az adatkezelés az érintettekre joghatással bírhat. A hatóság szerint a mesterséges intelligencia a működési elvéből adódóan általában nehezen átlátható és követhető, így adatvédelmi kockázata még az új technológiák között is kiemelkedő.

Barta Gergő, a Deloitte Kockázatkezelési tanácsadás üzletágának szakértője az üggyel kapcsolatban hangsúlyozta: az EU-s mesterséges intelligenciáról szóló rendelettervezet 52. cikke alapján az érzelemfelismerő rendszerek esetében a tervezet szigorú tájékoztatási kötelezettségeket állapít meg. Az előírások megszegése, a tiltott gyakorlatok alkalmazása esetén akár 30 millió eurós bírsággal kell számolni.

Külföldön egyre elterjedtebbek ezek az alkalmazások

A nemzetközi bankvilágban egyre általánosabb a mesterséges intelligencia használata – állapítja meg nemrég megjelent jelentésében a Bussines Insider kutatócsoporta, a BI Intelligence. Az MI kutatásába nagy összegeket fektettek be olyan nagybankok, mint például a Bank of America, a Bank of New York Mellon, a Citibank, vagy a Santander. Az egyebek mellett a Cambridge Center for Alternative Finance és a kanadai Waterloo Egyetem projektjeként működő OpenText felmérései szerint a pénzügyi szolgáltatók többsége az új technológiát a kockázatkezelésre (56 százalék), az új termékek és folyamatok kidolgozására (52 százalék) alkalmazza. A három fő terület, a beszélgetéses banki szolgáltatások, a csalásfelderítés és a kockázatkezelés.

A bankok különféle algoritmusokat alkalmaznak a kezelőfelületen, hogy könnyen azonosíthassák és hitelesíthessék az ügyfeleket, chatbotokkal és hangos asszisztensekkel utánozzák az élő alkalmazottakat, hogy elmélyítsék az ügyfélkapcsolatokat, valamint személyre szabott betekintést és ajánlásokat nyújtsanak. Mindehhez a pénzintézetek számos adatot rögzítenek, részben bankon belüli forrásokból (ilyenek az alkalmazásokból származó kattintási adatok), de kívülről is, például távközlési szolgáltatóktól.

Szerző: B.Varga Judit–Lenkei Gábor