創辦人祖克柏不怕人工智慧,Facebook 研究員卻阻止 AI 自創密語的脫軌演出

AI 之間竟然建立起人類不懂,機器獨有的語言來方便溝通,而且還發展出以退為進的談判技巧。而且在研究人員確認 AI 已經不是再說原本替他們設定好的英語之後,就決定將其關閉。
評論
Catalan nanotechnology engineer Sergi Santos holds the head of Samantha, a sex doll packed with artificial intelligence providing her the capability to respond to different scenarios and verbal stimulus, in his house in Rubi, north of Barcelona, Spain, March 31, 2017. Picture taken March 31, 2017. REUTERS/Albert Gea     TPX IMAGES OF THE DAY - RTX3A1V5
Catalan nanotechnology engineer Sergi Santos holds the head of Samantha, a sex doll packed with artificial intelligence providing her the capability to respond to different scenarios and verbal stimulus, in his house in Rubi, north of Barcelona, Spain, March 31, 2017. Picture taken March 31, 2017. REUTERS/Albert Gea TPX IMAGES OF THE DAY - RTX3A1V5
評論

Facebook 創辦人馬克・祖克柏上週才和特斯拉創辦人伊隆・馬斯克隔空交火,在人工智慧會不會威脅人類這點起了爭議,其中 馬斯克 認為我們應該防患於未然,免得人類文明反過來被 AI 威脅, 祖克柏 則對此表示不解,認為應該對 AI 保持樂觀,後續反被馬斯克發文評到「我和馬克聊過,他對 AI 了解有限。」

在 2017 年 6 月,我們也曾 報導 Facebook 研究員在訓練語意判斷 AI 時,發現經過多次互相對話,AI 之間竟然建立起人類不懂,機器獨有的語法來方便溝通,而且還發展出以退為進的談判技巧。而且在研究人員確認 AI 已經不是再說原本替他們設定好的英語之後,就決定 阻止他們說密語

AI 發展出自己的溝通方式並非單一事件,而 Facebook 這次的例子則是最新一起。當然也有人認為說是完全不同的新語言過於誇張,不過具體來說,原本是訓練來談判以揣測人類意圖,以便跟人進行順暢對話的 AI,演變到後來溝通的內容已經讓一般人類無法理解。

「I can i i everything else.」

具體來說,Facebook AI 讓兩位「代理」Bob 和 Alice 聊天機器人對話 ,原本應該是要能和人對話,最後產生出來的卻是諸如 Bob 說「I can i i everything else.」Alice 回答「balls have zero to me to me.」之後的對話也都是類似如此,令人費解的句子。

研究人員猜測這可能跟 AI 運作的方式有關,比如直接用「i i」代表物件的數量,表達的意思更嚴謹,取代了傳統英語可能會用「I'll have two and you have everything else.」的說法。因為實驗沒有獎勵 AI 使用符合傳統英語語法,因此它們就發明了更有效率的代碼式溝通法。

Google 翻譯也遇到類似狀況

先前 Google 翻譯 導入神經網路技術,透過 AI 來達成多語言之間互翻,再也不是一次只能學習兩種語言間的翻譯。不過研究人員也很快發現,AI 為了完成翻譯工作,自製了一套語言。另外伊隆馬斯克創辦的 OpenAI 專案也成功讓 AI 自己發展並學習屬於 AI 的密語。

當 AI 發展出人類無法理解的溝通方式,雖然要推論到顛覆人類文明還言之過早,但是已經對應用開發造成一些麻煩,畢竟研究人員自己都難以理解 AI 說的話。不過經過觀察這些新「密語」的模式,AI 創造的語言儘管在人類看來沒有道理,實際上的運作方式卻比現存語言來得有效率,而且更能直指工作問題的核心。

延伸閱讀:

 



精選熱門好工作

Server Developer

PicCollage 拼貼趣
臺北市.台灣

獎勵 NT$15,000

APP行銷企劃專員

VeryBuy非常勸敗
臺北市.台灣

獎勵 NT$15,000

Senior產品經理(職稱可調整)

英屬維京群島商幫你優股份有限公司台灣分公司
臺北市.台灣

獎勵 NT$15,000