高通發展cloud-to-edge人工智慧推理晶片 - 工程師

高通發展cloud-to-edge人工智慧推理晶片，預計2020年量產

http://bit.ly/2X6y0MX

高通(Qualcomm)子公司Qualcomm Technologies(2019.4.9)宣布，將導入雲計算為雲端伺
服器開發Cloud AI 100高效能AI推理運算晶片，為5G時代準備支持所有與高速和低延遲5G
連接相連的完整雲端到終端(cloud-to-edge)的AI解決方案，包括應用於自然語言處理、
個人翻譯助理、高級圖像搜索以及個性化內容和推薦。

Qualcomm Cloud AI 100提供：
與目前部署的業界最先進的AI推理解決方案相比，每瓦性能提高10倍以上
全新的高效晶片，專為處理AI推理運算(inference)工作負載而設計
7nm工藝節點w提供先進高速運算及處理能力和低功耗優勢
可支持行業領先的軟體堆棧(software stacks)，包括PyTorch，Glow，TensorFlow，
Keras和ONNX
高通打算於今年(2019)稍後與微軟等公司進行測試，預計2020年開始量產。

高通期望擴展手機晶片以外市場，由於AI晶片屬於很多元化發展，包括GPU、CPU、FPGA和
定製ASIC等市場，但，AI推理(inference)晶片是一塊較新處女地，未來的市場也很大。
從雲端到終端(cloud-to-edge)都需要AI推理解決方案，因為，需要在邊緣進行推理、在
雲端進行推理、在雲中進行訓練、在各個層級應用進行AI推理處理，以因應各種處理器提
供不同服務。

目前，由輝達（Nvidia）和英特爾（Intel ）兩大廠主導的市場。輝達已為這項任務研發
多款特殊晶片，英特爾也正與臉書公司（Facebook ）合作，預計今年(2019)稍後發表一
款新晶片。還有，網路銷售巨擘亞馬遜（Amazon.com）的雲端運算AWS，Alphabet的子公
司谷歌（Google）雲端部門也在開發自主的AI推理運算晶片。

關於高通Cloud AI 100系列的架構細節揭露很少，但很清晰的表示，這是一個AI推理加速
器，而不是AI訓練加速器，或者GPU等，這只是一款用來實現神經網絡的「預訓練」的AI
推理運算晶片。但確定將採用7奈米製程製造，市場認為可能委由台積電(TSMC)代工製造
。

--