MI „elfogultság” a köbön


MI „elfogultság” a köbön
Az elmúlt évek egyik „sláger” témája a mesterséges intelligencia (MI) elfogultságának kérdésköre sőt, az EU iránymutatásai is hangsúlyosan foglalkoznak ennek vélt és valós veszélyeivel.

A probléma lényege, hogy adott társadalmi csoportokat hajlamosak az MI-k alul-, adott esetekben felülreprezentálni és ún. előítéletes döntéseket hozni. Ez megjelenhet abban, hogy egy adott arcfelismerő megoldás egyszerűen nem ismer fel; egyes esetekben ugyan felismeri, de az adott csoporthoz tartozót hátrányosabban kezel (nem biztosít számára bizonyos jogosultságokat), míg más csoporthoz tartozókat előnyben részesít.

Egyes kutatók úgy vélik, hogy a felügyelet (emberi beavatkozás) nélküli algoritmus tanítás lehet a megoldás: így az MI maga fedezheti fel az adathalmazokban felsejlő logikai összefüggéseket. A Carnegie Mellon és a George Washington Egyetem kutatóinak megállapítása szerint, ez közel sincs így. Kutatásuk során az OpenAI iGPT és az Alphabet SimCLRv2 algoritmusok (némi, ImageNet adatbázison végzett, előtanítást) követően ugyan azon „előítéletek” jeleit mutatták, mint felügyelt tanulással „élesített” rokonaik. A kutatók megállapítása szerint, az Interneten rendelkezésre álló tanító adatbázisok alapvetően alkalmatlanok az előítéletmentes MI-k létrehozására.

Forrás: Arxiv.org

SecuriFocus

A SecuriFocus.com Magyarország első, a biztonságvédelmi szolgáltatások piacára szakosodott online hír- és információs portálja.
www.securifocus.com

SecuriForum

A SecuriForum Biztonságtechnikai és Tűzvédelmi Kiállítás & Konferencia a SecuriFocus Kft. által szervezett rendezvény.
www.securiforum.com

Elérhetőség

SecuriFocus Kft.
1118 Budapest
Nagyszeben u. 24/A
Tel: (30) 515-3500
Email: info@securifocus.com
Testkamerák és a technológiai paradigmaváltás
Olvasta már?
Testkamerák és a technológiai paradigmaváltás