亞馬遜Alexa語音助理棄用輝達晶片,將改 - 工程師
By Delia
at 2020-11-16T13:50
at 2020-11-16T13:50
Table of Contents
亞馬遜Alexa語音助理棄用輝達晶片,將改採自己旗下Inferentia晶片解決方案
https://bit.ly/2H8UB9A
電子商務和雲端運算廠商亞馬遜宣佈,為了讓旗下Alexa數位助理能夠發揮其最大影響力
,將採用亞馬遜的Inferentia晶片,而不是輝達(NVIDIA)設計的晶片。也就是說,未來
Alexa的機器學習大部分工作負載將在亞馬遜的AWS Inferentia晶片上運行。
基本上,這一轉變不會影響到消費者在使用亞馬遜Echo智慧音箱和其他Alexa驅動的裝置
。最主要的改變是發生在Alexa服務的後端,其數據被發送到AWS雲端系統進行最終處理之
時,會變得更智慧化。
2015年亞馬遜以3.7億美元的價格收購了以色列專業晶片的Annapurna實驗室。歷經三年的
努力,亞馬遜終於推出了Inferentia處理器產品線,主要目的是期望提高公司AI工作負載
的處理速度,同時可以降低晶片設計過程中採用其他廠商解決方案帶來較高的成本負擔。
例如:採用客製化晶片可加快大量機器學習任務的速度,包含:將文章翻譯為語音或辨識
影像。
根據亞馬遜的早期測試,新的Inferentia晶片可提供與輝達T4晶片相同的結果,但可將延
遲性降低25%,成本降低30%。基本上來說,較低的延遲將使Alexa開發人員可以對傳入的
數據進行更先進的分析,而無需用戶等待緩慢運算所帶來額外的成本。
Alexa並不是第一個依靠Inferentia支持的Inf1晶片之AWS實例的亞馬遜產品。先前亞馬遜
的臉部辨識工具Rekognition也轉往採用Inf1。此外,AWS客戶還可以自由選擇是否使用
Inf1和Inferentia進行自己的專案。例如:Snapchat的母公司Snap,健康保險巨頭Anthem
和全球出版社Conde Nast都已經使用基於亞馬遜Inferentia的神經網路實例來強化其AI專
案運作。
近年來,亞馬遜,微軟和谷歌之類的雲端運算廠商已經成為運算晶片的最大買家,這也推
動了英特爾,輝達等公司在數據中心銷售的蓬勃發展。
但是,這些公司擁有龐大的經費及看中後端數據分析的重要性,這幾年更是透過併購強化
在晶片上的設計能力,因為它們知道,進入AI時代,採用傳統的通用晶片已經無法滿足其
對於機器學習的需求,因而設計自己的晶片成為了趨勢。
總之,未來無論是輝達或者是英特爾都將面臨大客戶紛紛改採自己AI晶片的趨勢,這一改
變可能會影響到未來整體半導體產業的走向與商業模式。
--
https://bit.ly/2H8UB9A
電子商務和雲端運算廠商亞馬遜宣佈,為了讓旗下Alexa數位助理能夠發揮其最大影響力
,將採用亞馬遜的Inferentia晶片,而不是輝達(NVIDIA)設計的晶片。也就是說,未來
Alexa的機器學習大部分工作負載將在亞馬遜的AWS Inferentia晶片上運行。
基本上,這一轉變不會影響到消費者在使用亞馬遜Echo智慧音箱和其他Alexa驅動的裝置
。最主要的改變是發生在Alexa服務的後端,其數據被發送到AWS雲端系統進行最終處理之
時,會變得更智慧化。
2015年亞馬遜以3.7億美元的價格收購了以色列專業晶片的Annapurna實驗室。歷經三年的
努力,亞馬遜終於推出了Inferentia處理器產品線,主要目的是期望提高公司AI工作負載
的處理速度,同時可以降低晶片設計過程中採用其他廠商解決方案帶來較高的成本負擔。
例如:採用客製化晶片可加快大量機器學習任務的速度,包含:將文章翻譯為語音或辨識
影像。
根據亞馬遜的早期測試,新的Inferentia晶片可提供與輝達T4晶片相同的結果,但可將延
遲性降低25%,成本降低30%。基本上來說,較低的延遲將使Alexa開發人員可以對傳入的
數據進行更先進的分析,而無需用戶等待緩慢運算所帶來額外的成本。
Alexa並不是第一個依靠Inferentia支持的Inf1晶片之AWS實例的亞馬遜產品。先前亞馬遜
的臉部辨識工具Rekognition也轉往採用Inf1。此外,AWS客戶還可以自由選擇是否使用
Inf1和Inferentia進行自己的專案。例如:Snapchat的母公司Snap,健康保險巨頭Anthem
和全球出版社Conde Nast都已經使用基於亞馬遜Inferentia的神經網路實例來強化其AI專
案運作。
近年來,亞馬遜,微軟和谷歌之類的雲端運算廠商已經成為運算晶片的最大買家,這也推
動了英特爾,輝達等公司在數據中心銷售的蓬勃發展。
但是,這些公司擁有龐大的經費及看中後端數據分析的重要性,這幾年更是透過併購強化
在晶片上的設計能力,因為它們知道,進入AI時代,採用傳統的通用晶片已經無法滿足其
對於機器學習的需求,因而設計自己的晶片成為了趨勢。
總之,未來無論是輝達或者是英特爾都將面臨大客戶紛紛改採自己AI晶片的趨勢,這一改
變可能會影響到未來整體半導體產業的走向與商業模式。
--
Tags:
工程師
All Comments
By Barb Cronin
at 2020-11-20T19:16
at 2020-11-20T19:16
By William
at 2020-11-23T01:15
at 2020-11-23T01:15
By Todd Johnson
at 2020-11-28T00:30
at 2020-11-28T00:30
By William
at 2020-12-02T11:19
at 2020-12-02T11:19
By Eartha
at 2020-12-06T13:53
at 2020-12-06T13:53
Related Posts
台廠送樣 蘋果折疊手機有影
By Frederic
at 2020-11-16T12:52
at 2020-11-16T12:52
傳產公司請益
By Edwina
at 2020-11-16T11:02
at 2020-11-16T11:02
台積湧急單 產能大爆滿
By Gilbert
at 2020-11-16T11:01
at 2020-11-16T11:01
台積電赴美投資 經濟部將召集聯席審查
By Agnes
at 2020-11-15T21:20
at 2020-11-15T21:20
113固態或找114類比老師做數位
By Caroline
at 2020-11-15T19:01
at 2020-11-15T19:01