亞馬遜向軍方出售公開監控辨識系統,遭到大量輿論抗議

透過亞馬遜的技術可以監控「團體照片、擁擠人群以及機場等公共場所中的所有面孔」。此消息一出,瞬間引發了一系列抗議活動,要求亞馬遜執行長貝佐斯停止向政府出售 Rekognition 。
評論
photo credit: Amazon
photo credit: Amazon
評論

本篇來自合作媒體 36 氪 ,INSIDE 授權轉載。

亞馬遜開始向軍方推銷起 AI 武器來了。據悉,亞馬遜正在為政府和員警部門推銷其一款名為 Amazon Rekognition 的產品,這款產品可以即時識別,跟蹤和分析人員,並在單幅圖像中識別多達 100 個人。它還可以快速掃描收集的資訊,與資料庫數千萬張面孔進行比對。

這意味著,透過亞馬遜的技術可以監控「團體照片、擁擠人群以及機場等公共場所中的所有面孔」。此消息一出,瞬間引發了一系列恐慌。美國公民自由聯盟(ACLU)組織了 30 多個民權組織聯合反對亞馬遜的此行為,並舉行一系列抗議活動,反對美國政府使用人臉識別技術,並要求亞馬遜執行長貝佐斯停止向政府出售 Rekognition 。

大部分民眾認為,透過 Rekognition ,政府現在可以構建一個自動識別和跟蹤任何人的系統。如果員警配備的隨身攝像頭配備了人臉識別裝置,那麼原本用於執法透明和問責制的裝置將轉變為針對公眾的監視器。

亞馬遜 Rekognition 的精準人臉識別

「風口浪尖」的亞馬遜

此舉一出,亞馬遜內部及其用戶議論紛紛。

在亞馬遜內部,許多員工加入民權團體,對其行為進行抗議,並認為這將對公民權利、特別是對移民和人民會產生獨特威脅。

6 月份,亞馬遜內部的 100 多名員工更是向執行長傑夫·貝佐斯(Jeff Bezos)遞交了一份公開信,要求公司停止向 ICE 和其他執法機構出售侵入性和違憲的 Rekognition 面部識別技術。

photo credit: Amazon

除了要求停止出售 Rekognition 之外,亞馬遜員工在信中還呼籲公司停止對資料分析公司 Palantir 提供支援。

Palantir 是 Peter Thiel 於 2003 年創立的大數據公司,為執法部門提供預測性警務工具,並透過亞馬遜網路服務公司與 ICE 簽訂了大量合同(Thiel 曾秘密資助了一起導致 Gizmodo 的前母公司 Gizker Media 破產的訴訟)。

但是,對此情況,亞馬遜並不買帳。面對「內外夾擊」般的抗議,亞馬遜並沒有像 Google 一般將項目推遲,而是選擇了「正面硬剛」。亞馬遜回應:不能因為技術可能會被濫用就限制其進步。並表示其將堅決的捍衛 Rekognition 。

在商言商,從商業角度來看,亞馬遜的行為沒有原則性的問題,但是,當人臉識別技術牽涉的「倫理」、「隱私安全」等敏感領域時,這就不像亞馬遜說的這樣簡單了。

人臉識別,想說愛你不容易

人臉識別技術已經投入市場中有相當長的時間了,可是從其表現來看,並沒有想像中優異。智慧相對論(AI xdlun)分析師柯鳴認為,人臉識別技術的發展,其依然存在著較多問題。

1.「冤枉了 98% 的好人」

人臉識別的準確率,遠沒有我們想像中的那麼高。在此前倫敦議會聽證會上,大都會警察局局長 Cressida Dick 透露出,本地警察局部署的人臉識別系統準確率僅為 2%。

去年 6 月的歐冠聯賽上,當南威爾士警方的人臉識別相機首次應用時,系統發出了 2470 次警報。也就是說,在這場球賽中每隔三秒就會提示嫌犯來了,系統的努力程度著實令人感動。

但是,在這兩千多次的預警中,只有 173 次是正確的判斷,AFR 的錯誤率高達 92%。英國警方給出的統計資料顯示,截止到今年 5 月份,南威爾士警方的 AFR 識別錯誤率平均為 91%。

歷史上最著名的人臉誤判案例可能是 1903 年在美國堪薩斯州發生的 William West-Will West 案件。當時一個名為威爾•韋斯特 (Will West) 的犯人正要被收押進萊文沃思 (Leavenworth) 監獄。監獄職員看他面熟,問他以前是否來過這裡,威爾說沒有。

接著職員調出了 William West 的照片給威爾看,威爾說:「這的確是我,可是你們是怎麼拿到這張照片的呢?以前我從未到這兒來過。」從此,從美國開始,各國監獄和司法系統開始用指紋進行罪犯身份登記和管理。

顯然,此類的烏龍事件讓人啼笑皆非的同時也不免有陣陣隱憂。如此「不靠譜」的人臉識別,真的能夠成為安防等領域的保護傘嗎?

2. 人臉識別,道阻且長

先不論人臉識別本身的正確率,其自身運作中也存在著一部分問題。

首先,人臉識別並不是精準資訊對比,而僅僅是相似度對比。因為人臉識別和算大技術不同,值的設定方法完全不同,評判的標準自然也不同,即使從識別實際效果看,其包括誤識率(FAR):將其他人誤作指定人員的概率;以及拒識率(FRR):將指定人員誤作其他人員的概率。這些結果都受到訓練和測試空間樣本的影響,難以做到完全精確。

其次,人臉圖片的採集如果不做活體監測,就易招致基於用戶照片的重放攻擊。活體檢測的話,對後臺的計算資源和網路的傳輸資源要求較高,所以在目前實際上線的人臉識別都是非常容易攻破的。

最後,人臉形態的易變形讓人臉識別更易出錯。人可以透過臉部的變化產生很多表情,而在不同觀察角度,人臉的視覺圖像也相差很大,另外,人臉識別還受光照條件 (例如白天和夜晚,室內和室外等)、人臉的很多遮蓋物 (例如口罩、墨鏡、頭髮、鬍鬚等)、年齡等多方面因素的影響。

隱私的無情洩露,你的臉還好嗎?

在大量的抗議面前,三大公司中微軟首先選擇了低頭。在關於人臉識別的潛在用途和濫用的一篇博客文章中,微軟總裁 Bradford L. Smith 將該技術與受到全面監管的藥品和汽車等產品進行了比較,並敦促美國國會展開研究並監督人臉識別技術的使用。

作為人臉識別軟體主要製造商之一,微軟表示它將採取措施降低這些系統產生偏差的可能性;制定新的公共原則來管理技術;並會更謹慎地出售其在該領域的軟體和專業知識。微軟指出,雖然技術行業需要對其產品負責,但是政府也要採取行動。

人臉識別是目前 AI 領域裡應用最廣泛的技術之一,但在推廣的過程中也引起了越來越多的爭議。今年 4 月,個人隱私保護組織向美國聯邦貿易委員會提起訴訟,稱 Facebook 在未獲得使用者適當許可的情況下開啟了新的人臉識別服務。

當前,大數據、雲計算和人工智慧等技術推動移動互聯網中新的應用場景層出不窮,但其背後的隱私和資料保護,已經成為網路平臺和移動終端迫在眉睫的要務。從整體移動終端市場來看,應用領域資料濫用的情況十分突出。協力廠商應用對於個人資訊過度收集、隱秘收集和誘騙收集的情況日漸增多。

使用者隱私資料安全挑戰加劇主要出於三方面原因:

第一,過於籠統的「使用者協定」販賣了使用者資訊,獲取和收集使用者個人資訊的授權,導致個人資訊使用的不規範甚至大量洩漏。

第二,使用者本身對保護個人資訊重視程度不足。出於方便的考慮,不少用戶在多處使用簡單重複的帳號和密碼,當一處資訊洩露便導致整體資訊暴露。

第三,法律層面的缺失。當資料如同能源一樣重要時,法律法規的滯後在一定程度上導致了資料安全和隱私保護的缺失。資料所有權、資料交易規則等基礎法律界定仍未明確。例如,個人資料原本屬於使用者本身,但使用者在網路平臺中所產生的資料,如交易資料和行為資料,在經過脫敏後其所有權和使用權歸屬用戶還是平臺,仍未有答案。

從目前來看,人臉識別的場景也主要分為兩種:一種是線上,如電腦透過你上傳的使用者圖像識別你的身份;另一個是線下,如系統透過你在街上被監視器拍到照片來識別你的身份。而當前的情況是,線上與線下的資料保護都做的遠遠不夠。所謂的用戶授權更多是形同虛設,誰真正擁有了我們的「臉」?臉部識別軟體的政府監管,將如何進行?人臉隱私保護這條路,似乎還需要堅強的走下去。



精選熱門好工作

高階平台開發者 / Sr. Platform Developer

奔騰網路科技有限公司
臺北市.台灣

獎勵 NT$15,000

iOS工程師

Omlet Arcade 美商歐姆雷特
臺北市.台灣

獎勵 NT$15,000

專案經理(2C)

英屬維京群島商幫你優股份有限公司台灣分公司
臺北市.台灣

獎勵 NT$15,000