Elfogultság detektor AI(MI) fejlesztőknek a Microsofttól
- IT biztonság
- /
- 2018-06-14
Számos kutatás mutatott ki jelentős, hatékonyságbeli eltéréseket vezető arcfelismerő megoldások működésében, mikor azokat eltérő populációkon (etnikumokon) futtatták. Ez különösen ott okozott problémát, ahol az adott rendszert bűnmegelőzési célra kívánták alkalmazni.
A szerkesztő megjegyzése:
Valóban jelentős probléma az „elfogultság” egy AI esetében, különösen, hogy már a közeli jövőben szeretne több ország AI-alapú biztonságvédelmi / terror-megelőző megoldásokat „hadrendbe” állítani. Mint minden „intelligencia” (az emberit is beleértve) esetén a tudás/tanulás forrása döntő jelentőségű, az elfogultság csökkentésének – mindenképpen nemes - szándéka münchauseninek (önmagát húzza ki a szakadékból, saját haját megragadva) tűnhet.
Ollári Viktor
Forrás: MIT Technology Review
