AI/MI ellenni fenyegetések elhárítását célzó kutatásokat ösztönöz az IARPA
- IT biztonság
- /
- 2018-12-17
A TrojAI programhoz várják a vállalkozói szféra csatlakozását is. A támadás egy lehetséges verziója, mikor a trójai az AI tanulási folyamataiba avatkozik be. Tekintve, hogy jelenleg az arc- és hangfelismerő AI megoldásokat publikus adatbázisok segítségével tanítják, valós fenyegetést jelentenek az ezt megzavaró támadások, melyeknek eredményeként az AI nem a fejlesztők/felhasználók, hanem a támadó szándékainak megfelelően fog (hibásan, vagy egyáltalán nem) cselekedni aktív működése során. Tekintve, hogy számos AI (valójában túlnyomó többségük) egy nyílt forráskódú alapmotorra épül, a trójaiak számára nem jelent problémát jelentősebb ideig „árnyékban” maradni és onnan végezni káros feladatukat, egészen addig, míg a fejlesztők/felhasználók szempontjából már túl késő lesz. A TrojAI megoldás képességeit tekintve elvárás, hogy napi szinten kb. 1000 rendszert legyen képes ellenőrizni, emberi beavatkozás nélkül.
Forrás: Nextgov
