SecuriFocus.com
A biztonsági szakma kezdőlapja

Hírek | Külföld

2019. november 11. 8:48

M.I. alapú objektumazonosítás problémái

Első sorban a katonai célú, mesterséges intelligencián (M.I.) alapuló objektumazonosító megoldások támadhatóságát feszegették az MIT Technology Review szerzői.
Meglátásuk és (pl.) a TenCent szakértői kísérleti tapasztalatai szerint, amennyiben egy „ártó szándékú” entitás (ember/szervezet/M.I.) ismeri azt a metódust, amely szerint egy objektumfelismerő M.I. „mélytanuló” algoritmusai feldolgozzák a körülöttük lévő világot és adaptálódnak, viszonylag egyszerű módszerekkel átverhetik azt. A kínai TenCent kutatói a Tesla bolondították meg több formában is. Bemutatójuk során egy TV-képernyővel elindították a Tesla ablaktörlőit (az M.I. esőt érzékelt), a sávelválasztó vonalak módosításával megzavarták a sávtartási funkciót, illetve egy STOP táblából sebességkorlátozó táblát „varázsoltak” néhány centi öntapadó szalag segítségével. Az MIT négyfős szakértői csoportja pedig – néhány, szabad szemmel nem észrevehető – grafikai elemi hozzáadásával elérte, hogy egy képernyőn megjelenő teknős képét az M.I. gépkarabélynak „lássa”. A szakértők szerint nem csak az objektumfelismerő M.I.-k feltanítására kell figyelmet fordítani, hanem arra is, hogy az ártó szándékú „szereplők” miként verhetik azt át, mondjuk teknősnek „álcázva” egy gépkarabélyt.

Forrás: MIT Technology Review

Hírlevél

Ha érdeklik a legfrissebb újdonságok, iratkozzon fel díjmentes hírlevelünkre!

Hozzászólások

A hozzászólások a vonatkozó jogszabályok értelmében felhasználói tartalomnak minősülnek, értük a SecuriFocus Kft. nem vállal felelősséget, azokat nem ellenőrzi. Kifogás esetén forduljon a szerkesztőségünkhöz.
Ehhez a hírhez még nem érkezett hozzászólás.

Hozzászóláshoz jelentkezzen be vagy regisztráljon!

Cikkek hasonló témában