AI 也「臉盲」!臉部辨識有偏見、誤認率高,美議員呼籲川普別擴大採用

除了「中年白人男性」,其他性別、年齡、種族的族群都常被臉部識別誤認。
評論
▲Photo Credit: Shutterstock/ 達志影像
▲Photo Credit: Shutterstock/ 達志影像
評論

目前臉部辨識技術已經被美國執法部門廣泛使用,而川普政府也計畫擴大境內和邊界區域的臉部辨識技術應用。但本週四時,美國聯邦政府發佈一項調查研究,指出臉部辨識技術其實容易誤認有色人種,因此美國國會議員呼籲川普應審慎評估。

除了「中年白人男性」,其他都易被誤認

《華盛頓郵報》報導,對臉部辨識技術來說,會因為種族不同而出現準確落差。例如:亞裔、非裔美國人被誤認的機率遠比白人高 100 倍,其中又以美洲原住民在臉部辨識時,出現假陽性(false positive)的機率最高。

此外,性別、年齡不同也會出現差異。女性比男性更容易被誤認,老年人和兒童錯認的機率也很高;而警察從成千上萬圖片中所進行的犯罪嫌疑人調查中,最常把非裔婦女的臉孔錯認。整體來看,只有中年白人男性(Middle-aged white men)最容易被準確識別。

美國國家標準暨技術研究院(National Institute of Standards and Technology;簡稱NIST)指出,多數臉部辨識技術都會出現人口統計差異,因人的年齡、性別或種族降低辨識準確率。

根據聯邦紀錄,從 2011 年以來,美國聯邦調查局(FBI)就有超過 39 萬次的臉部辨識搜索紀錄,臉部辨識技術幾乎是近年美國執法部門應用成長速度最快的系統工具。這也導致國會議員強烈呼籲,臉部辨識技術目前仍缺乏法規管理,需要關注其可能帶來的歧視、偏見和濫用。

NIST:亞馬遜沒有提交演算法

NIST 的測試涵蓋多數業界系統,包括來自 99 家企業、學術機構和開發人員自行提交的 189 種演算法,幾乎是世界上多數臉部辨識系統的核心構建塊(central building block)。

這些演算法主要來自 IDEMIA、英特爾、微軟、Panasonic、商湯科技和 Vigilant Solutions 等知名科技公司。但要注意的是,曾自主開發機器視覺分析系統 Rekognition 的亞馬遜,則沒有提交其演算法給 NIST。

亞馬遜雖然沒有針對此事件作出回應,但之前曾經公開表示,建構在雲端上的機器視覺分析系統很難讓 NIST 進行測試。但眾所皆知的是,亞馬遜創辦人及執行長 Jeff Bezos 早就收購《華盛頓郵報》了,而 NIST 首席研究員 Grother 也回應,即便演算法建構在雲端系統上也可以提交,因為微軟即是如此。

本次測試中,NIST 採用來自 800 萬人、共約 1800 萬張的照片。所有照片皆取自美國國務院(State Department)、美國國土安全部(Department of Homeland Security)以及 FBI 等單位旗下的內部數據庫,並沒有採用社群媒體、影像監控或網路平台上的任何一張照片。

核稿編輯:Chris

延伸閱讀:




精選熱門好工作

樂趣買Web Designer(Rakuma)

台灣樂天市場
臺北市.台灣

獎勵 NT$15,000

流量增長暨運營部副理

VeryBuy非常勸敗
臺北市.台灣

獎勵 NT$15,000

創意文案

尹星知識管理顧問股份有限公司
臺北市.台灣

獎勵 NT$15,000