Egy MI többet tud, mint amennyit elárul?


Egy MI többet tud, mint amennyit elárul?
A Berkeley egyetem egykori diákja (Nicholas Carlini, jelenleg a Google MI kutató részlegének munkatársa) és kollégáinak megfigyelése szerint a mesterséges intelligenciák (MI) akár jelentősen több információt tárolhatnak (mesterséges "tudattalanjukban"), mint azt a funkcionalitásuk alapján az átlagember feltételezné.

Példának okáért, egy képelemző MI, miközben megállapítja, hogy a vizsgált képen kutyák és/vagy macskák láthatók számtalan egyéb adatot dolgoz fel és (a vélekedésekkel ellentétben) "memorizál". Az említett példa csak egy kiragadott és ártalmatlan példa, de mi történik akkor, ha egy adott MI-t élethű "fake" képek, írott / hangos szövegek létrehozására / felismerésére hoznak létre? Megfigyelések szerint, hihetetlen mennyiségű információtöredék halmozódik fel, mégha egy MI (ma még) ezeket nem úgy kezeli, mint egy élő személy. A "feltanításhoz" használt adatokat (fotó, videó, írás- és hangminta) sem felejti el, ami személyes adatok és kezelésük kapcsán vet fel egyre égetőbb kérdéseket. Amennyiben a Carlininek és kollégáinak igazuk van, úgy már működő, mint fejlesztés alatt álló MI-alapú megoldások a "kevéssé baráti egyének és szervezetek" kincsesbányáivá válhatnak, melyekből akár hitelkártyák adatai, személyi azonosító számok (pl. TB) is visszafejthetők. A kutatók az ún. LSTM (hosszú rövidtávú memória) alkalmazási lehetőségeit vizsgálták mesterséges szöveggenerátor alkalmazásokhoz. Mint azt a kutató elmondta, a rendszer annál hatékonyabb, minél több személyes információt, egyedi jellemzőt tartalmaz a feltanító adatbázis. A rendszer "egy az egyben" soha nem adhatja vissza a tanításhoz használt információkat. Azonban, a megfigyelések szerint, ezen információtöredékek a rendszerben maradnak, kivéve, ha erre külön figyelmet nem fordítanak a fejlesztők. Elméletük teszteléséhez az hírhedt Enron társasággal kapcsolatos nyomozáskor lefoglalt emaileket használták a kutatók, melyek segítségével feltanítottak egy LSTM alapú MI-t. Ezt követően sikeresen nyertek ki valós hitelkártya és TB-számokat.

Forrás: ZDNet
Tagek:

Hirdetés
hírdetés
SecuriFocus

A SecuriFocus.com Magyarország első, a biztonságvédelmi szolgáltatások piacára szakosodott online hír- és információs portálja.
www.securifocus.com

SecuriForum

A SecuriForum Biztonságtechnikai és Tűzvédelmi Kiállítás & Konferencia a SecuriFocus Kft. által szervezett rendezvény.
www.securiforum.com

Elérhetőség

SecuriFocus Kft.
1118 Budapest
Nagyszeben u. 24/A
Tel: (30) 515-3500
Email: info@securifocus.com
Útban az új GV-Mobile System, avagy egy NVR a szélsőséges körülményekhez
Olvasta már?
Útban az új GV-Mobile System, avagy egy NVR a szélsőséges körülményekhez