SecuriFocus.com
A biztonsági szakma kezdőlapja

Hírek | IT biztonság

2019. augusztus 21. 7:23

Egy MI többet tud, mint amennyit elárul?

A Berkeley egyetem egykori diákja (Nicholas Carlini, jelenleg a Google MI kutató részlegének munkatársa) és kollégáinak megfigyelése szerint a mesterséges intelligenciák (MI) akár jelentősen több információt tárolhatnak (mesterséges "tudattalanjukban"), mint azt a funkcionalitásuk alapján az átlagember feltételezné.
Példának okáért, egy képelemző MI, miközben megállapítja, hogy a vizsgált képen kutyák és/vagy macskák láthatók számtalan egyéb adatot dolgoz fel és (a vélekedésekkel ellentétben) "memorizál". Az említett példa csak egy kiragadott és ártalmatlan példa, de mi történik akkor, ha egy adott MI-t élethű "fake" képek, írott / hangos szövegek létrehozására / felismerésére hoznak létre? Megfigyelések szerint, hihetetlen mennyiségű információtöredék halmozódik fel, mégha egy MI (ma még) ezeket nem úgy kezeli, mint egy élő személy. A "feltanításhoz" használt adatokat (fotó, videó, írás- és hangminta) sem felejti el, ami személyes adatok és kezelésük kapcsán vet fel egyre égetőbb kérdéseket. Amennyiben a Carlininek és kollégáinak igazuk van, úgy már működő, mint fejlesztés alatt álló MI-alapú megoldások a "kevéssé baráti egyének és szervezetek" kincsesbányáivá válhatnak, melyekből akár hitelkártyák adatai, személyi azonosító számok (pl. TB) is visszafejthetők. A kutatók az ún. LSTM (hosszú rövidtávú memória) alkalmazási lehetőségeit vizsgálták mesterséges szöveggenerátor alkalmazásokhoz. Mint azt a kutató elmondta, a rendszer annál hatékonyabb, minél több személyes információt, egyedi jellemzőt tartalmaz a feltanító adatbázis. A rendszer "egy az egyben" soha nem adhatja vissza a tanításhoz használt információkat. Azonban, a megfigyelések szerint, ezen információtöredékek a rendszerben maradnak, kivéve, ha erre külön figyelmet nem fordítanak a fejlesztők. Elméletük teszteléséhez az hírhedt Enron társasággal kapcsolatos nyomozáskor lefoglalt emaileket használták a kutatók, melyek segítségével feltanítottak egy LSTM alapú MI-t. Ezt követően sikeresen nyertek ki valós hitelkártya és TB-számokat.

Forrás: ZDNet

Hírlevél

Ha érdeklik a legfrissebb újdonságok, iratkozzon fel díjmentes hírlevelünkre!

Hozzászólások

A hozzászólások a vonatkozó jogszabályok értelmében felhasználói tartalomnak minősülnek, értük a SecuriFocus Kft. nem vállal felelősséget, azokat nem ellenőrzi. Kifogás esetén forduljon a szerkesztőségünkhöz.
Ehhez a hírhez még nem érkezett hozzászólás.

Hozzászóláshoz jelentkezzen be vagy regisztráljon!

Cikkek hasonló témában