微軟推出即時深度學習平台Project Brainw - 工程師

[情報] 微軟推出即時深度學習平台Project Brainw

http://bit.ly/2gjyC1F

微軟宣布推出一個全新的深度學習平台Project Brainwave，使得該公司能夠進一步拓展
其基於雲端的人工智慧服務。Project Brainwave允許微軟的Azure雲端用戶以超高的性能
水準執行複雜的深度學習模型。這也是目前軟體與網路事業為主的企業跨足硬體設計的趨
勢。因為透過軟體強化人工智慧演算法的執行效率，將在人工智慧時代初期幾年能夠獲得
更大發展彈性空間。

微軟的即時人工智慧之深度學習雲端平台Project Brainwave，是以英特爾提供的
Stratix 10現場可編程閘陣列（Field Programmable Gate Array；FPGA）為基礎。簡單
來說，Stratix 10就是微軟的軟體深度神經網路（Deep Neural Network；DNN）處理單位
（即是DPU）。未來英特爾將可從微軟全球數據中心擴建佈署Project Brainwave而獲得顯
著效益。基本上，英特爾並沒有像英偉達（NVIDIA）擁有獨立的繪圖處理器，以讓其在人
工智慧系統中獲得優勢，但是其以FPGA出發，使得其在未來的超大型深度神經網路中，將
扮演更為重要的角色。

Project Brainwave 的系統可分為三個層面：首先是，高性能低延遲的分布式系統架構。
其實，微軟在數據中心內早已經採用FPGA多年，現在採用Stratix 10之後，即可透過深度
神經網路的運算提供硬體微服務（Hardware Microservices），亦即將深度神經網路加載
到遠端且大量FPGA之上，透過呼叫伺服器的方式來執行。這種系統的架構優勢在於延遲性
低且可以提高資料吞吐量。因為一旦外部接收到需求時，再也不需要透過微處理器進行處
理，可以直接以FPGA進行快速回應，達到即時需求。

其次，Project Brainwave是採用整合到FPGA硬體上的軟體DNN處理單元（DPU）。這與現
今許多公司採取硬體方式來實作DPU是有很大的差異。雖然硬體DPU能實現較高的運算效能
，但是卻讓深度神經網路的靈活性受到限制。可是軟體DPU就沒有這個問題。

Project Brainwave的第三個層面是，可支援眾多主流深度學習框架的軟體堆疊。目前除
了可以支援微軟自行研發的Cognitive Toolkit之外，其還可以支援谷歌的Tensorflow，
當然未來還將支持更多深度學習框架。

其實，微軟並不是唯一一家在雲端數據中心內採用FPGA發展的公司，未來亞馬遜、谷歌與
臉書都將在使用客製化晶片處理人工智慧任務。可見得，在人工智慧發展不斷推陳出新的
今日，客製化或可編程的晶片模式來建立深度學習架構絕對是未來五至十年之內的主流。

http://bit.ly/2gjyC1F

--