M.I. alapú objektumazonosítás problémái
- Külföld
- /
- 2019-11-11
Meglátásuk és (pl.) a TenCent szakértői kísérleti tapasztalatai szerint, amennyiben egy „ártó szándékú” entitás (ember/szervezet/M.I.) ismeri azt a metódust, amely szerint egy objektumfelismerő M.I. „mélytanuló” algoritmusai feldolgozzák a körülöttük lévő világot és adaptálódnak, viszonylag egyszerű módszerekkel átverhetik azt. A kínai TenCent kutatói a Tesla bolondították meg több formában is. Bemutatójuk során egy TV-képernyővel elindították a Tesla ablaktörlőit (az M.I. esőt érzékelt), a sávelválasztó vonalak módosításával megzavarták a sávtartási funkciót, illetve egy STOP táblából sebességkorlátozó táblát „varázsoltak” néhány centi öntapadó szalag segítségével. Az MIT négyfős szakértői csoportja pedig – néhány, szabad szemmel nem észrevehető – grafikai elemi hozzáadásával elérte, hogy egy képernyőn megjelenő teknős képét az M.I. gépkarabélynak „lássa”. A szakértők szerint nem csak az objektumfelismerő M.I.-k feltanítására kell figyelmet fordítani, hanem arra is, hogy az ártó szándékú „szereplők” miként verhetik azt át, mondjuk teknősnek „álcázva” egy gépkarabélyt.
Forrás: MIT Technology Review
