A most törölt címkék a képek osztályozására szolgáltak az algoritmus tanítása során, de a cég úgy vélte, hogy ezen címkék nem összeegyeztethetők a Google irányelveivel, mivel a transzneműek vizsgálata során 30%-ban helytelen eredményt adott a rendszer, illetve képtelen kezelni a nem-bináris identitású személyek címkézését. Kutatók megállapították, hogy au Amazon, Clarifai, IBM, Face++, Google, Kairos, Microsoft és számos egyéb fejlesztők megoldásai a „hagyományos” nemi „sztereotípiák” alapján osztályozzák a vizsgált személyeket, pl.: a hosszúhajú férfi kutatókat nőnek „látják”.

Forrás: Venturebeat