Új biztonsági kihívások forrása lehet az MI

Felhasználói fiók Hírlevél feliratkozás

Új biztonsági kihívások forrása lehet az MI

IT biztonság
/
2025-08-19

A kiberbiztonsági tudatosítás témakörét “pajzsra emelő” Anagram Security reprezentatívnak szánt kutatása során szondázta meg az amerikai (USA) üzleti szférát, a biztonságtudatosság szemszögéből vizsgálva a résztvevők generatív mesterséges intelligencia (GenAI) alkalmazási sajátosságait.

Az 500 válaszadó (számos gazdasági szféra, különböző korú / nemű / jövedelmi helyzetű munkavállalók) részvételével kivitelezett kutatás fő megállapításai között szerepel, hogy a GenAI megoldások (pl. ChatGPT, Google Gemini, Ms. CoPilot, Grok) használat intenzíven terjed valamennyi vizgált szegmens viszonylatában. Azonban arra is fény derült, hogy ezzel egyre nagyobb adatbiztonsági / kibervédelmi veszélyeknek teszik ki magukat a cégek. A megkérdezettek 78%-a alkalmaz munkája támogatására GenAI megoldást, még akkor is, ha cégük nem rendelkezik egyértelmű eljárásrendekkel ezen technológia alkalmazását illetően. 58%-uk nyilatkozott akként, hogy érzékeny adatokat (ügyfélinformáció, pénzügyi kimutatások, belső dokumentumok) is feltölt a GenAI modellekbe. 45%-uk annak ellenére használ bizonyos MI megoldásokat, hogy azok alkalmazását cégük belső szabályzói tiltják. A válaszadók 40%-a beismerte, tudatosan hágják át a tiltó / korlátozó céges szabályokat annak érdekében, hogy az adott feladatot mihamarabb befejezzék. Az érzékeny adatok feltöltésével a munkavállalók jelentő adatszivárgási kockázatot generálnak, tekintve, hogy számos kutatás rávilágított, léteznek olyan eljárások, melyek segítségével ezen adatok egy része / egésze kinyerhető, de a nagyobb modellek kapcsán több hír is megjelent, hogy egy teljesen független harmadik személy képernyőjén jelentek meg más felhasználók társalgásai az adott GenAI modellel, beleértve a feltöltött adatokat. Az Anagram vezetője kiemelt fontosságúnak tartja a GenAI modellek alkalmazásával kapcsolatos céges iránymutatások, protokollok kidolgozását, beleértve az adatok anonimizálását biztosító kompetenciák elsajátítását. Továbbá, a szakértő kiemelt jelentőségűként jellemezte a vonatkozó adatforgalom valósidejű elemzésének annak érdekében, hogy a szürke zónába / tilosba “tévedő” kollégát azonnal figyelmeztetni lehessen az adott tevékenység veszélyeire.

Forrás: https://www.anagramsecurity.com/blog/new-data-reveals-widespread-risky-ai-use-at-work/

#adatbiztonság #MI #mesterséges Intelligencia #AI