【Wired 硬塞】五角大廈 AI 首席官,就戰鬥位置

殺手機器人不是重點,美軍夏納翰中將(Lt. Gen. Jack Shanahan)要的是人工智慧為核心的戰力。
評論
Photo Credit:U.S. Air Force
Photo Credit:U.S. Air Force
評論

原文來自 Wired《The Pentagon's AI Chief Prepares for Battle》,作者 Elias Groll。 台灣康泰納仕集團授權提供。本文由譯者 Cher Chang 翻譯並經 INSIDE 編審。

美軍在全球各地的戰區中幾乎每日都需要火力支援。通過向遠方的榴彈砲發射坐標,步兵可以向敵軍發射毀滅型的 155 毫米砲彈。如果華府國防部的計畫沒什麼意外的話,那麼人工智慧將會加速整個過程。

夏納翰中將以簡單(低風險任務 lower consequence mission)的「加快火力支援」 作為五角大廈示範人工智慧整合到其武器系統中的優點。身為美國國防部擁有 140 人團隊的聯合人工智慧中心負責人,夏納翰和他的團隊正在將成熟(如用於預測維護和健康狀態分析紀錄的工具等)以及新興的 AI 尖端技術加速應用落實到美國核心戰鬥力。

夏納翰期待 AI 能夠提升美軍提升完成任務的速度。以往是以人眼分析相關情報,如盯著螢幕識別和追踪目標,再交由電腦執行任務。或許現在還要靠軍官才能判斷最適合的武器選項,但夏納翰在本月WIRED 的訪談中表示,「20 年內電腦可以跟人類一樣快速提出最佳武器建議」 。追蹤戰場狀況的指揮和控制系統將被整合為一。

殺手級機器人判斷目標生死並不難,強大的是擁有如軍用版的位智(Waze,Google 所開發的 GPS 定位系統)能力。如夏納翰所說,「盡可能讓機器間能對話,關鍵時刻再由人力下決策」。

但這個計畫真要落實也是困難重重。就算蒐集到建立圖像識別和決策演算法所需的可用海量數據,使用的演算法也只適用在該組數據應用而已。

其它反對聲浪如到底要怎麼管理軍用人工智慧系統不會被濫用,例如狙擊敵人時利用電腦判斷是否過當。電腦擁有了攻擊力,但相關的權責等規範並不明朗。

國防分析師,同時也是即將出版的科技驚悚小說Burn-In共同作家辛格(Peter Singer)表示,「當機器取代人為控制,只會讓相關權責問題一再浮出檯面。」

“20 年後,我們研究的是演算法vs演算法。”
--聯合人工智慧中心負責人,夏納翰

這些道德爭議讓矽谷面對與五角大廈的人工智慧技術合作產生相當大的意見分歧。在領導聯合人工智慧中心之前,夏納翰曾主導Project Maven計劃,一個圖像識別專案,旨在運用大量空中監視鏡頭自動檢測敵軍。Google 面對員工的強大反對聲浪而在 2018 年退出了該專案。但這並沒有阻止該計劃向前發展。上週,《Business Insider》才報導 說,Peter Thiel 的數據分析公司 Palantir 已經簽約接手該項計畫的執行。

五角大廈在 AI 上的微薄支出(2020 年估計 約 40 億美元而已),讓任一科技巨頭都不太可能長期配合下去。儘管退出了 Maven,Google 高層仍表態願意與五角大廈繼續合作。Google 資深副總裁 Kent Walker 上月在美國國家安全委員會人工智慧會議(National Security Commission on Artificial Intelligence conference)表示,「我們渴望做更多。」同時,Amazon 總裁 Jeff Bezos 也積極將 Amazon 定位成不害怕接軍方合作案的廠商。Bezos 甚至在雷根國防論壇( Reagan National Defense Forum )中表示,如果大型科技公司不支持國防部,那國家會陷入困境。

Bezos 這麼公開支持五角大廈,其實是因為正在跟 Microsoft 競爭價值100億美元的雲端計算合作,JEDI(即聯合企業防禦基礎架構。該系統是夏納翰 AI 雄心的核心,提供運算能力和共享基礎架構,以處理大量數據集並統整不同的系統。)

當初執行 Maven 專案時,正是因為缺乏這樣的雲端系統,無法以數位方式獲取所需的監視錄像,而不得不派下屬來取。 夏納翰說,「有時候我們還真需要派卡車四處蒐集全動態影像錄影帶,但如果有雲端支援,那真的會容易很多。」

沒有雲端支援,系統更新更麻煩。還必須派人去不同的軍事點實際安裝較新的版本。如今,Maven 每個月左右都會自動更新系統,以政府效率而言算快了,但在夏納翰還是不夠快。

儘管如此,JEDI 並不能解決 Shanahan 的所有問題,因為還有數據品質的問題要克服。以其中一個 JAIC 專案為例,一個軍方隨處可見的 UH-60 黑鷹直升機的預測性維護工具,重點在於找出關鍵部件何時會破裂。當他們開始從各個分支機構收集數據時,夏納翰的團隊發現,陸軍的「黑鷹」的裝備與特種作戰司令部使用的版本略有不同,造成相同機器卻產出不同數據。

他說,「在各種情況下,數據都永遠不會達到您想要的品質,就算有,我也拿不到他原始數據。」

數據品質將是軍用人工智慧的主要盲點來源。電腦永遠不會知道它不知道的東西。賓夕法尼亞大學教授 Michael Horowitz 提到,「根據歷史數據開發的演算法可能面臨與與實際戰場不同的窘境。」

夏納翰雖然反駁舉例說,若要預測發動機葉片破裂的瞬間,只需嚴格的測試和評估流程就可以降低這種風險。但實際上萬 AI 若面臨沒見過的戰爭掃射規模跟速度,真的應付的來嗎?

當難以預測的電腦邏輯運算與人類大腦聯手時,會帶來棘手的問題。電腦的判斷可能令人困惑,但與之合作的人必須決定是否信任電腦。當 Google的AlphaGo擊敗2016年世界圍棋冠軍Lee Sedol的那場賽事,Lee 曾經一度從椅子上站起來離開了房間,因為他的電腦對手下出連 Lee 都困惑的局。 一位觀察家這一舉動時說道,「從沒見過有人這樣下,太棒了!」

想像一下若武器系統在發生高風險衝突時,給人類指揮官以類似的方式難以理解的行動怎麼辦?目前這正是美軍正在積極想解決的一個問題。美國國防高級研究計劃局(The Defense Advanced Research Projects Agency)正在開發 一個程序, 提出“可解釋的人工智慧”,旨在將機器學習系統的黑匣子變成一個可以提供其決策依據的系統。

為了建立這種信任,夏納翰指出,指揮官需要儘早提升相關的技術知能。使用圖像識別和衛星圖像了解洪水和野火風險等專案就是一個讓他的團隊可以邊做邊學,並積累專業知識的方式。不了解技術或是其潛力,說穿了只是在看科幻小說而已。

難以避免在官僚體系下,夏納翰仍面臨眾多障礙。國會指定蘭德公司所報導的五角大廈 AI 相關計畫的報告顯示,國防部缺乏評估進展的「基準和指標」,JAIC 在國防部整體系統中的作用仍然不清楚,並且 JAIC 缺乏完成目標的執行權。除此之外,還給五角大廈的 AI 測試和驗證制度差評,因為「確保人工智慧應用程序的性能和安全性不足,尤其是涉及安全關鍵系統的地方。」

儘管如此,五角大廈在一份聲明欣然接受這份報告,因為也相對地點出美國軍方在提升科技的同時,如何快速因應來自俄國或中國的威脅。夏納翰說,「國家間的軍事角力戰速度只會越來越快,20 年後我們面臨的是演算法之間的戰爭。」

面對來自中共的威脅,美軍注重在自動化的技術。陸軍 正在測試 自動砲塔,空軍 正在開發 無人機機翼。而海軍的“幽靈艦隊” 概念 正在研究無人水面艦艇。為了更快,五角大廈必須仰賴電腦運算。

「說穿了我們必須捫心自問的是,軟體到底要多精準才算是可以接受的標準?」前中情局分析師,新美國安全中心( Center for a New American Security)研究員 Rasser 說道。 「比方說,人類在 99.99% 的時間內都是正確的。但取代的軟體是否要同樣標準檢視,還是要更精準?」

五角大廈相關問題的探討,在國防創新委員(Defense Innovation Board l)在十月份的一份報告中提出一系列原則,說明軍方如何在 道德規範內採用人工智慧。夏納翰希望聘請一名倫理學家加入 JAIC,他一直都有在關注軍事 AI 的倫理相關辯論。他說,他原本就是反對所謂的「殺手機器人」,或是所謂的「無人監督的獨立瞄準系統,由機器掌握生殺大權」。”

夏納翰樂觀的表示,「人類每天在戰場中都會犯錯。繼混亂、情緒高漲、又擔心戰友快死了。我在基地裡總說,我們可以做很多事情,降低使用 AI 可能會造成的錯誤,但不可能完全零出錯。」



精選熱門好工作

Web / Mobile App Developer (台北)

Oursky Limited (Taiwan)
臺北市.台灣

獎勵 NT$15,000

公關活動企劃專員

八方采整合行銷有限公司
新北市.台灣

獎勵 NT$15,000

高階維運工程師

中信安科技有限公司
臺北市.台灣

獎勵 NT$15,000