十年磨一劍!阿里巴巴如何軟硬皆施一年半打造首款 NPU 晶片「含光 800」?

今日在阿里巴巴年度開發者大會「雲棲大會」上發表了首款 AI 晶片,含光命名由來,延續傳統取自神兵寶劍,「含光」是上古三大神劍之一。
評論
評論

今日在阿里巴巴年度開發者大會「雲棲大會」上發表了首款AI 晶片,全新的晶片 NPU 晶片「含光 800」,主要用在視覺運算,目前也於阿里巴巴內部多個場景完成應用。

阿里巴巴集團 CTO兼阿里雲智能總裁張建鋒在今日大會上表示,此為阿里巴巴第一次用自己的架構與算法集成的晶片,為互聯網公司研發首款大晶片,萬里長征第一步,代表阿里巴巴有足夠的資訊與能力,達到傳統硬體公司能做到的。

以阿里巴巴電商平台淘寶為例。過去系統需耗費一小時對每天新增的十億張海量圖片進行識別分類,之後再給數億消費者提供個人化的搜尋和推薦服務。現在「含光800」支援下,系統僅需五分鐘就可完成此過程。

比起硬體公司 阿里巴巴運算法優勢

在會上,張建鋒以杭州交通狀況辨識為例,在大量車流、密集的道路上,透過NPU 晶片「含光 800」簡短的時間辨識車與路況,過去需要 40 顆傳統 GPU 延時為 300 毫秒,含光 800 卻僅需 4顆,延時降到 150 毫秒。

運用十分之一的硬體就能作傳統 GPU 能做的事情,展現阿里巴巴在圖像算力上的進步,也強調外部企業在阿里雲端上可以使用阿里雲的晶片的強大算力。

關於 NPU 晶片「含光 800」,經過 ResNet-50 測試資料顯示,「含光800」單晶片效能最高可達 78,563 IPS,效能功耗比至 500 IPS/W。兩項效能均與業界平均水平如下圖。

71105384_2391038617682687_15762321240909
阿里巴巴雲棲大會現場 旗下達摩院正式發表首顆晶片

如何在一年半時間就打造超越同業的晶片?其實來自於阿里巴巴軟硬體實力的累積,旗下達摩院機器智能實驗室過去兩年構建了完整算法體系,從智慧語音、圖像辨識、電腦視覺等,由於在伺服器、儲存等具備多年研發經驗,平頭哥團隊在架構、編譯技術等打好深厚基礎。

事實上,今年7月,平頭哥首發基於 RISC-V 開源指令集架構的「玄鐵910」高效能處理器,滿足對運算能力具高要求的網路相關應用,例如人工智慧應用、網路通訊、閘道技術、自動駕駛、邊緣伺服器等。「玄鐵 910」處理器的特定代碼計畫將向全球開發人員開放,以利他們更快速地進行晶片原型設計。

目前「含光800」已應用在阿里巴巴內部,並主要用於支援集團旗下電商平台,例如產品搜尋、自動翻譯、個人化產品推薦、廣告以及智慧客戶服務等需要強大算力的功能,以進一步完整消費者的購物體驗。

含光命名:取自神兵寶劍

據了解,含光之名由來,依然沿襲平頭哥傳統,取自神兵寶劍,「含光」本是上古三大神劍之一,含而不露,光而不耀,正如含光晶片作用方式——無形卻強勁的算力」。

張建鋒表示,比起硬體公司阿里巴巴擁有軟體算法的優勢,兩者結合用硬體能力與互聯網公司的具備的速度能力,只花了一年半的時間完成驗證到商用,軟硬體一體化協同發展的科技公司,有充分的信心來製造晶片。

對阿里巴巴而言,從一家單純的雲端供應商,如今變成雲端智慧化的供應商,協同辦公、大數據、AI ,是軟硬體一體化的平台,阿里巴巴的十年展現,未來十年將會是數位化經濟轉變的時期,阿里雲數位經濟的關鍵十年。

阿里雲身為雲端服務供應巨頭,含光的運算能力將藉由雲端服務對部企業提供。張建鋒也在大會上宣布,建立在「含光 800」 的 AI 雲端服務正式上線。




精選熱門好工作

(Backend)Senior Software Engineer

ShopBack 回饋網股份有限公司
臺北市.台灣

獎勵 NT$15,000

資深商品開發人員(Sr. Product Development)_台北、上海

科毅研究開發股份有限公司
新北市.台灣

獎勵 NT$15,000

Growth Marketing Specialist

WeMo Scooter
臺北市.台灣

獎勵 NT$15,000