AI-tvágott gordiuszi csomók

avagy gondolatok a mesterséges intelligencia elfogultságáról

AI-tvágott gordiuszi csomók
Az ok, ami miatt most billentyűzetet ragadtam, az nem más, mint a Mesterséges Intelligencia elfogultságáról szóló, önmagukat tudományos köntösbe bújtató szóbeszédek tömkelege.

Eléggé komoly probléma, hogy ezek a „szóbeszédek” meglehetősen magas, sokak által hitelesnek tartott forrásból érkeznek. Adott egy hír, mely szerint a világ egyik legismertebb informatika cége és MI fejlesztője megszűnteti Mesterséges Intelligencia megoldásának azon funkcióját, mellyel az MI egy adott arc alapján igyekszik az "elemzés" alatt álló személy nemét (kiemelten fontos kifejezéssel élve) megbecsülni. Mindezt azért, mert az eredmények nem tükrözik az informatikai gigász vállalati (a „gender” kérdéskörben meghatározott) irányelveit. Ez aztán a professzionális, tudományos megközelítés!(?)

Két alapvetéssel szeretnék élni:

1. Az MI nem képes az elfogultságra – legalább is emberi értelemben nem. 2. A nemek meghatározásának funkciója fontos eleme lehet úgy a biztonságtechnikai, mint a marketing-támogató ("CCTV" alapú) megoldásoknak.

Az elfogultságról elfogulatlanul

Kezdjük az elején, azaz, miért nem képes elfogultságra egy MI? A válasz rendkívül egyszerű: pontosan azért, amiért egy Excel (mármint a szoftver) nem képes elfogultságra. Az MI egy bonyolultabb, statisztikai számításokat végző program. Mely ugyan képes (lehet) "tanulni", de az alapvető programozás egy emberi programozó feladata. Amennyiben egy MI – adott bemeneti értékek vizsgálatát követően – nem a kívánt kimeneti értéket prezentálja (mostanában közkeletűvé vált kifejezéssel: elfogult), azért nem az MI, hanem a programozó - valamint az adott MI tanításához használt adatkészlet minősége / mennyisége - a felelős.

Többek között ezért (is) értelmezhetetlen pl. az önvezető járművek kapcsán zajló vita, értsd: felelős-e az MI, ha balesetet okoz? Abszurd már a kérdésfelvetés is. Amennyiben egy repülőn alkalmazott robotpilóta "hibájából" baleset történne, első körben az emberi pilótákat, majd a következőben a termék fejlesztőjét veszik elő, továbbá a szervizelésért felelős személyeket, nem azon morfondíroznak, hogy mennyiben felelős az esetért a robotpilóta. Szemben azzal, hogy a Google (és számos egyéb fejlesztő) megoldása 30%-os hibarátával dolgozik a transznemű személyek felismerése esetében és képtelen felismerni a nem-bináris nemi identitású embereket, jelenleg fajsúlyosabb probléma, hogy a legmagasabb azonosítási hatékonysággal a világosabb bőrszínű emberek esetében dolgoznak az MI alapú megoldások. Itt ismét hangsúlyoznám, ez esetben sem az MI elfogultsága áll a háttérben, hanem az, hogy a tanító adatbázisokban felülreprezentáltak a fehérbőrű „minták”. Amennyiben utána nézünk, azt tapasztalhatjuk, hogy még ez sem „rasszizmusra” vezethető vissza, hiszen vagy maguk az AI-t fejlesztő cégek vagy egyenesen (pl.) ázsiaiak, avagy a fejlesztőcsapat krémjét alkotják az amerikai és európai cégekben. Semmi másról nincs szó, mint a jó öreg, mindenféle „izmustól mentes” emberi hanyagságról / lustaságról. Előre sajnálom szegény MI-t, aki a jövő „tökéletes” bűnbakja lesz, hiszen nem képes védekezni és elmagyarázni a rengeteg „tudós elmének”, hogy a probléma első sorban a programozók (és a kritikusok) készülékében van, ő csak teszi a dolgát úgy, ahogyan épp programozták.

Amennyiben a fennen hangoztatott elveknél szeretnénk maradni, biztonsági és egyéb felhasználási szempontokat figyelembe véve kiemelt fontosságú, hogy egy MI alapú arcfelismerő megoldások „bőrszínsemlegesen” legyenek képesek tevékenykedni – értsd: ne okozzon fals elutasítást / engedélyezést a vizsgált személy bőrszíne. Tovább merészkedve ezen a síkos útvonalon: ne azonosítsa ausztrál őslakosként a Walesi Herceget. Amennyiben pedig az adott MI osztályozási képességeivel (vélt, vagy valós) problémák vannak, akkor ne elvi, hanem tudományos kérdést érdemes kreálni belőle és megoldani a felmerülő eltérések okát.

Az már csak hab a tortán, mikor komoly tudományos fokozattal rendelkező emberek állítják, hogy a jelenleg működő MI-k túlhaladott, konzervatív kategóriák mentén osztályozzák az embereket. Példaként hozzák, hogy a kutatócsoport hosszúhajú férfi tagjait sok esetben nőként azonosítják a vizsgált MI-k. Itt nem ismételném meg a tanító adatbázis mennyiségére és minőségére vonatkozó eszmefuttatásomat, ámde tisztelettel jegyezném meg, hogy a legtöbb kisgyermeknek problémája van ezzel. Sőt, még a több évtizedet megélt, embertársaikra odafigyelő személyek esetében is előfordul, hogy legalább is egyetlen ránézést követően elbizonytalanodjanak egy-egy ember nemisége kapcsán, és csak egyéb paraméterek feltérképezését (hang, mozgás, teljes testre vonatkozó jellemzők stb.) követően jutnak hozzávetőleges következtetésre. Az MI-től viszont elvárnánk a tökéletességet…

Miért fontos?

Valójában ez, szerintem, nem igényel magyarázatot. Anno, nagyon régen (bő 20 éve) igen egyszerű okkal magyaráztuk, miért fontos, hogy a színinformáció szerepeljen egy CCTV rendszer által rögzített képanyagon. Nevezetesen, nem mindegy, hogy azt tudjuk kivenni, hogy egy valószínűleg sötéthajú, világosbőrű, sötét ruházatot viselő személy volt a behatoló, vagy azt, hogy egy sötétszőke hajú, világosbőrű, zöld kabátot, fekete nadrágot és barna bakancsot viselő egyén hatolt be az irodába. Minden egyes plusz paraméter, további információt jelent, mellyel egy esetleges elkövető / áldozat megtalálásának esélye jelentősen növekedhet, a keresésre fordított idő csökkenése mellett. Úgy biztonságtechnikában (és/vagy a rendőri munkában), mint a marketingtámogató megoldások esetében ilyen jelentős plusz információt jelenthet a vizsgált személy neme. Ebből a szempontból másodlagos, hogy valaki sérelmezi-e, hogy egy Mesterséges Intelligencia esetleg félre osztályozza. Jómagam sem sértődtem meg az esseni kiállításon, mikor a világpiac második számú szereplőjének megoldása időnként nőként azonosította szerénytelen, szakállas személyiségemet. Ez a fejlődés (fejlesztés) kísérőtünete. Ellenben, ha különböző „policykre” hivatkozva „ad acta” tesszük a funkciót, a fejlődésnek esélye sem lesz megvalósulni.

Összegezve

Valaha, úgy kortársai, mint az utókor, lesújtó véleménnyel volt Marcus Porcius Catoról, mert következetesen Kartago elpusztításának klauzuláját szúrta minden beszéde végére, míg azt el nem pusztították. Nem szeretnék az idősb Cato sorsára jutni, de sokadszor fogalmazom meg, hogy az MI még nem az, amit Asimov műveiben oly részletesen megragadott. A fejlesztéséért az ember felelős, ezért olyan jellemzőkkel felvértezni, ami az emberi intelligenciát jellemzi, meglehetősen visszás. Az MI-ket annak kell tekinteni, amik. Egy fejlesztési folyamat elején álló, jelentős potenciállal és bizonytalan jövővel rendelkező, informatikai megoldások.

Szerző: OVSZ

Hirdetés
hírdetés
SecuriFocus

A SecuriFocus.com Magyarország első, a biztonságvédelmi szolgáltatások piacára szakosodott online hír- és információs portálja.
www.securifocus.com

SecuriForum

A SecuriForum Biztonságtechnikai és Tűzvédelmi Kiállítás & Konferencia a SecuriFocus Kft. által szervezett rendezvény.
www.securiforum.com

Elérhetőség

SecuriFocus Kft.
1118 Budapest
Nagyszeben u. 24/A
Tel: (30) 515-3500
Email: info@securifocus.com
Pilomat ’Anti-Terror’ Oszlopok
Olvasta már?
Pilomat ’Anti-Terror’ Oszlopok