Graphcore與台積電合作推出首個3D WoW封 - 工程師

Graphcore與台積電合作推出首個3D WoW封裝晶片-Bow IPU問世

https://bit.ly/3hR1MBX

晶片新創公司Graphcore於2022年3月初推出了一款新的人工智慧處理器Bow IPU，是使用
台積電的3D WoW（Wafer-on-Wafer）的創新製程技術，同時堆疊同質或異質晶片，大幅提
升系統效能，並且縮小產品晶片尺寸。

總部位於英國的Graphcore已經獲得超過6.8億美元的創投資金支援。近年來，已經向雲端
提供商和研究機構等客戶交付了數萬顆AI處理器。

基本上，Graphcore的第三代新型Bow IPU具有350 TeraFLOPS的AI運算性能，比上一代的
250 TeraFLOPS提高了40%，每瓦性能也提升了16%。在晶片內記憶體保持不變的前提下，
新晶片的吞吐量也從上一代的47.5TB/s提高到 65TB/s。

WoW設計是Graphcore與台積電合作的成果。在Bow IPU的製造是採用台積電7奈米製程製造
，再通過3D堆疊技術將兩顆晶片合而為一，以此實現了性能和效能的提升。隨著新一代
Bow IPU的出現，證明了晶片性能的提升可以從先進製程轉向先進封裝的可行性。

Graphcore的Bow IPU將容納其晶片AI電路的晶圓與包含電源管理組件的晶圓結合在一起，
使電力能更有效達到AI電路內。這種提高的效率使Bow IPU比前一代的Colossus Mk2晶片
運行得更快。

Bow IPU與Colossus Mk2 GC2000 IPU都具有1472個獨立處理器核心，能夠處理8832個獨立
並行的程式，單個封裝內超過600億電晶體，0.9 GB的處理器內記憶體吞吐量為65 TB/s，
10個IPU-Links可提供320 GB/s的互聯頻寬，可實現350 TeraFLOPS人工智慧運算性能。

為了實現3D堆疊，新晶片增加了近6億電晶體，除了增加了吞吐量，還優化了電源結構。
堆疊中的第二個晶圓與背面矽穿孔（BTSV）和WoW混合鍵連接，這是針對供電所做的設計
。

Graphcore計劃在2024年推出更強大的系統，稱為Good Computer。將能夠運行具有500兆
個參數的AI模型。目前最大的AI模型參數跟真正人腦相比較，可能還有100倍左右的差距
（OpenAI的GPT-3神經網路是迄今為止開發最複雜的AI模型之一，具有1750億個參數；而
人腦有100兆個突觸，突觸相當於AI模型的參數個數），而Graphcore正在開發的Good
Computer可以用來超越人腦處理。

目前一些組織已經簽約使用最新的Bow IPU處理器。例如：美國能源部國家實驗室
Pacific Northwest是首批使用Bow IPU以改進性能和效率的客戶之一，將用於化學和網路
安全等應用。

--