AI晶片 - 工程師

※ 引述《waitrop (嘴砲無雙)》之銘言
: 現在業界單純說AI晶片是太籠統的說法了，
: 為了獲得最高效能與最高CP值，

多嘴插句話，除了Training跟Infer差異外，其實真的要細分還有從硬體、軟體的優化，
從最上層到底層跟硬體的結合才能夠把edge computing提升到產品落地階段。

像是閣下說的自然語言這塊把Transformer從軟體層面做降維優化、新一代更輕量的CNN模型
，還有既有的半精度FP8這種跟指令集優化，另外這幾年學界比較有研究的從Complier上做
優化通用矩陣乘法。

我反而不覺得有所謂電子垃圾這一回事，這塊目前還是一個沒有一統江山的通用規範出來反
而是有很多值得嘗試的空間。

最後，真的有辦法解決就是找到一個新的通用矩陣乘法可以並行化同時讓時間複雜度跟計算
複雜度降到最低，這個目前數學家找了十多年都不一定可以找到了，所以大廠才會想從指令
、硬體下手優化。

大概4醬~


--