廣州熱線

據(jù)微軟公司的一篇博客文章稱，微軟公司的臉部識別工具在識別膚色較暗的人上準(zhǔn)確率更高了。對于膚色較深的男性和女性，微軟將錯誤率降低了20倍，單就女性方面來看錯誤率降低了9倍。

該公司表示，他們一直在訓(xùn)練數(shù)據(jù)集更為強(qiáng)大的AI工具，目前已經(jīng)取得了進(jìn)展。“如果我們用訓(xùn)練的機(jī)器學(xué)習(xí)系統(tǒng)來模擬在有偏見的社會中做出決策，同時使用該社會所產(chǎn)生的數(shù)據(jù)，那么這些系統(tǒng)必然會重現(xiàn)它的偏見，”微軟高級研究員漢納瓦拉赫在博客文章中說。

今年2月，麻省理工學(xué)院媒體實(shí)驗(yàn)室的一份報告稱，他們測試了微軟，IBM和中國的Megvii的面部識別系統(tǒng)，發(fā)現(xiàn)多達(dá)35％的深色皮膚女性的性別不能被系統(tǒng)正確識別。

該報告證實(shí)了許多人多年來一直懷疑的情況，即面部識別系統(tǒng)可能會受到有限的數(shù)據(jù)和其他因素如種族主義的偏見的影響。如研究人員可能覺得女性的膚色不會那么深，同時也沒有足夠的數(shù)據(jù)讓系統(tǒng)學(xué)習(xí)，就可能導(dǎo)致深色皮膚的女性被錯誤識別成男性。

早在2015年，谷歌就在一張照片中將一位黑人軟件工程師認(rèn)定為“大猩猩”，谷歌后來也不得不為這個錯誤道歉。

盡管今天微軟宣布減少人臉識別系統(tǒng)中的種族偏見，但如果執(zhí)法部門掌握了改進(jìn)的面部識別工具，那么對于有色人種如何實(shí)施可能會引發(fā)什么問題，以及這是否會加劇已存在問題。

微軟今年1月公開宣布，將與美國移民及海關(guān)執(zhí)法局(ICE)合作，幫助該部門進(jìn)行人臉以及身份識別，但這一消息一出就引起了包括微軟員工在內(nèi)的民眾們的強(qiáng)烈抗議，很多人呼吁微軟員工進(jìn)行抗議或者辭職。

微軟首席執(zhí)行官Satya Nadella上周在一份備忘錄中澄清說，“微軟并未與美國移民及海關(guān)執(zhí)法局達(dá)成任何有關(guān)于拆散邊境家庭的合作。微軟對強(qiáng)制將兒童從邊境家庭分離的行為深感痛心，同時將極力敦促有關(guān)部門改變立場以及國會通過相關(guān)法規(guī)來改善現(xiàn)狀?！?