MIT的研究表明，亞馬遜與其它友商在人臉識別技術相比，誤識率較高，將黑皮膚女性識別成男性的概率高達31%。而亞馬遜方面回應稱，他們所采用的是人臉分析，而非人臉識別，其最新Rekognition產(chǎn)品的準確率很高。

根據(jù)MIT公布的一項研究表明，與微軟和IBM的人臉識別技術相比，亞馬遜在識別深色皮膚女性的性別方面較弱，且識別整體性別時也更容易出錯。

論文地址：

http://www.aies-conference.com/wp-content/uploads/2019/01/AIES-19_paper_223.pdf

根據(jù)這項研究，亞馬遜的Rekognition軟件把女性識別為男性的概率為19％，將黑皮膚女性識別成男性的概率為31％，相比之下，微軟只有1.5%的概率。

亞馬遜辯稱是人臉分析，而不是人臉識別，作者深表懷疑

AWS人工智能總經(jīng)理Matt Wood表示，該研究的測試結果是基于人臉分析(facial analysis)，而不是人臉識別。

他說，分析可以在視頻或圖像中找到人臉，并賦予其一般性屬性，比如佩戴眼鏡。而識別是將人臉與視頻和照片中的圖像相匹配。 Rekognition技術包括這兩種功能。

Wood在一份聲明中說：“基于面部分析得出的結果，我們不可能對任何用例的面部識別準確性做出結論。”

Wood補充說：“該研究沒有使用最新版本的Rekognition。而在使用最新版本的該軟件和相似數(shù)據(jù)的情況下并沒有發(fā)現(xiàn)誤報。”

這項研究的兩位作者Deborah Raji和Joy Buolamwini表示，她們了解面部識別和面部分析之間的區(qū)別。

Raji說：“我們在論文中明確指出，我們選擇評估的任務是二元性別分類的面部分析任務。這就意味著，在給定一定數(shù)量需要被測的人臉時，模型對它所看到的內(nèi)容能夠理解多少。”

Buolamwini提醒人們，當公司說他們有完全準確的系統(tǒng)時，需要保持一個懷疑態(tài)度。

Buolamwini寫道：“Wood的公司使用了超過100萬張臉作為基準來測試他們的面部識別能力，并且表現(xiàn)良好。雖然他們在這一基準上的表現(xiàn)似乎值得稱贊，但我們不知道這一基準的詳細數(shù)據(jù)或表型(皮膚類型)組成。沒有這些信息，我們就無法評估種族、性別、膚色或其他類型的誤差。”

“濫用”低準確率的人臉識別，后果不堪設想

盡管公民自由組織、國會議員和亞馬遜自己的員工都提出對隱私問題的擔憂，但亞馬遜還是向執(zhí)法機構提供了Rekognition。本月早些時候，一群股東還呼吁亞馬遜停止向政府機構出售其識別技術。

根據(jù)MIT的研究，Buolamwini說亞馬遜繼續(xù)向執(zhí)法機構出售技術是“不負責任的”。她說，面部分析技術可能會被濫用，并且應用到許多場景中，造成大規(guī)模的監(jiān)控。此外，其識別的不準確性可能會導致無辜的人被誤認為罪犯。

Raji也有同感。她說：“如果該系統(tǒng)因對特定人群的準確性降低而錯誤地識別了嫌疑人，這可能會造成嚴重的危害。”