M.I. alapú objektumazonosítás problémái


M.I. alapú objektumazonosítás problémái
Első sorban a katonai célú, mesterséges intelligencián (M.I.) alapuló objektumazonosító megoldások támadhatóságát feszegették az MIT Technology Review szerzői.

Meglátásuk és (pl.) a TenCent szakértői kísérleti tapasztalatai szerint, amennyiben egy „ártó szándékú” entitás (ember/szervezet/M.I.) ismeri azt a metódust, amely szerint egy objektumfelismerő M.I. „mélytanuló” algoritmusai feldolgozzák a körülöttük lévő világot és adaptálódnak, viszonylag egyszerű módszerekkel átverhetik azt. A kínai TenCent kutatói a Tesla bolondították meg több formában is. Bemutatójuk során egy TV-képernyővel elindították a Tesla ablaktörlőit (az M.I. esőt érzékelt), a sávelválasztó vonalak módosításával megzavarták a sávtartási funkciót, illetve egy STOP táblából sebességkorlátozó táblát „varázsoltak” néhány centi öntapadó szalag segítségével. Az MIT négyfős szakértői csoportja pedig – néhány, szabad szemmel nem észrevehető – grafikai elemi hozzáadásával elérte, hogy egy képernyőn megjelenő teknős képét az M.I. gépkarabélynak „lássa”. A szakértők szerint nem csak az objektumfelismerő M.I.-k feltanítására kell figyelmet fordítani, hanem arra is, hogy az ártó szándékú „szereplők” miként verhetik azt át, mondjuk teknősnek „álcázva” egy gépkarabélyt.

Forrás: MIT Technology Review
Tagek:

Hirdetés
hírdetés
SecuriFocus

A SecuriFocus.com Magyarország első, a biztonságvédelmi szolgáltatások piacára szakosodott online hír- és információs portálja.
www.securifocus.com

SecuriForum

A SecuriForum Biztonságtechnikai és Tűzvédelmi Kiállítás & Konferencia a SecuriFocus Kft. által szervezett rendezvény.
www.securiforum.com

Elérhetőség

SecuriFocus Kft.
1118 Budapest
Nagyszeben u. 24/A
Tel: (30) 515-3500
Email: info@securifocus.com
Beléptetés: lázasan kizárva!
Olvasta már?
Beléptetés: lázasan kizárva!