Elfogultság detektor AI(MI) fejlesztőknek a Microsofttól
- IT biztonság
- /
- 2018-06-14
Tekintve, hogy az elmúlt években számos alkalommal olyan AI-t (MI – mesterséges intelligencia) sikerült a kutatóknak létrehozniuk, „aki” finoman fogalmazva elfogulttá vált egy viszonylag rövid tanulási fázist követően (lásd Tay incidens), a Microsoft egy megoldást fejleszt ki, mely automatikusan detektálja az „elfogultság” algoritmusokat egy AI rendszerén belül.
Számos kutatás mutatott ki jelentős, hatékonyságbeli eltéréseket vezető arcfelismerő megoldások működésében, mikor azokat eltérő populációkon (etnikumokon) futtatták. Ez különösen ott okozott problémát, ahol az adott rendszert bűnmegelőzési célra kívánták alkalmazni.
A szerkesztő megjegyzése:
Valóban jelentős probléma az „elfogultság” egy AI esetében, különösen, hogy már a közeli jövőben szeretne több ország AI-alapú biztonságvédelmi / terror-megelőző megoldásokat „hadrendbe” állítani. Mint minden „intelligencia” (az emberit is beleértve) esetén a tudás/tanulás forrása döntő jelentőségű, az elfogultság csökkentésének – mindenképpen nemes - szándéka münchauseninek (önmagát húzza ki a szakadékból, saját haját megragadva) tűnhet.
Ollári Viktor
Forrás: MIT Technology Review
Számos kutatás mutatott ki jelentős, hatékonyságbeli eltéréseket vezető arcfelismerő megoldások működésében, mikor azokat eltérő populációkon (etnikumokon) futtatták. Ez különösen ott okozott problémát, ahol az adott rendszert bűnmegelőzési célra kívánták alkalmazni.
A szerkesztő megjegyzése:
Valóban jelentős probléma az „elfogultság” egy AI esetében, különösen, hogy már a közeli jövőben szeretne több ország AI-alapú biztonságvédelmi / terror-megelőző megoldásokat „hadrendbe” állítani. Mint minden „intelligencia” (az emberit is beleértve) esetén a tudás/tanulás forrása döntő jelentőségű, az elfogultság csökkentésének – mindenképpen nemes - szándéka münchauseninek (önmagát húzza ki a szakadékból, saját haját megragadva) tűnhet.
Ollári Viktor
Forrás: MIT Technology Review