Az „ellenséges polip” az MI alapú arcfelismerők ellen


Az „ellenséges polip” az MI alapú arcfelismerők ellen
Egy a mesterséges intelligencia (MI) alapú megoldások sérülékenységeinek felderítésére szakosodott izraeli cég (Adversa) állítása szerint, néhány MI támogatott arcfelismerő rendszer félrevezethető némi irányított zaj rendszerbe „injektálásával”.

Az „ellenséges polip” névre keresztelt eljárás képes meggyőzni adott algoritmusokat, hogy valójában nem a vizsgált képen szereplő személyt keresik. A fejlesztők állítása szerint, még a neten fellelhető arcképeink keresésére szakosodott PimpEye algoritmusait is sikerült „megvezetniük.” Az Adversa illetékese elmondta, nem csak a gépilátás MI algoritmusok „mérgezése” (zavarása) valósítható meg a „polip” segítségével, de nehezebben detektálható hamisított (ún. deepfake) képek előállítását is támogathatja. Az Adversa megoldását több arcfelismerő modellen tanították kék és véletlenszerű zajjal alkalmazásával. A „polip”, hogy elrejtse tevékenységét, csak apró pixelváltozásokat végez és „kisimítja” a beinjektált zajt. Az „ellenséges polip” tényleges hatékonysága még vizsgálatok tárgyát képezi. Egyes vélemények szerint, a fejlettebb MI alapú arcfelismerők megtévesztésére (még) alacsony hatékonysággal alkalmas.

Forrás: Adversa.ai

Hirdetés
hírdetés
SecuriFocus

A SecuriFocus.com Magyarország első, a biztonságvédelmi szolgáltatások piacára szakosodott online hír- és információs portálja.
www.securifocus.com

SecuriForum

A SecuriForum Biztonságtechnikai és Tűzvédelmi Kiállítás & Konferencia a SecuriFocus Kft. által szervezett rendezvény.
www.securiforum.com

Elérhetőség

SecuriFocus Kft.
1118 Budapest
Nagyszeben u. 24/A
Tel: (30) 515-3500
Email: info@securifocus.com
Cloud Manager iOS felületre
Olvasta már?
Cloud Manager iOS felületre