高通提供的生成式AI服務Stable Diffusion - 工程師

Skylar Davis avatar
By Skylar Davis
at 2023-06-30T15:29

Table of Contents

高通提供的生成式AI服務Stable Diffusion,強化了手機結合AI的里程碑

https://bit.ly/3CPv7qY

幾個月前,高通悄悄展示了一個許多人完全錯過的AI里程碑,那就是直接在安卓(
Android)智慧型手機上運行一種文字轉圖片的生成式AI服務Stable Diffusion。

要了解高通的成就,首先要考慮新的生成式AI的文字轉圖片服務所涉及的兩個步驟。

第一步稱為訓練。生成式AI只是一種演算法,它接受用戶輸入並根據過去的經驗「創造」
輸出。在Stable Diffusion的情況下,其是根據用戶的文字描述創建新影像。但要讓該演
算法完成這一壯舉,需要用大量數據對其進行訓練。

第二步稱為推理。利用過去對影像文字描述的經驗,AI演算法可以根據用戶提供的獨特文
字輸入推斷出新影像。

當然,訓練新的生成式AI模型需要由輝達等公司設計的極其昂貴的GPU運算系統,並且在
此過程中會消耗大量電力。但是這個訓練過程只發生一次,可是推理會發生無數次,因此
這就是在裝置上的推理,如此重要的原因。

將工作從雲端轉移到邊緣時,隨著生成式AI開始起飛,人們愈來愈擔心在雲端運行它所需
的巨額成本。但是,如果經過訓練的生成式AI模型,其可以直接在智慧型手機等行動裝置
上運行,這正是高通現在所做的。

如果高通能夠繼續改進其AI Studio(開發人員將AI模型帶到邊緣,即直接帶到用戶裝置
的一套工具),就不會再透過網路向用戶發送文字提示了。遠程數據中心進行推理,然後
透過網路再次返回給用戶。除了明顯的性能提升和成本節省之外,在裝置上引入AI推理還
具有保護資訊安全的好處。

高通這種突破性且具有超越其智慧型手機業務的意義,將讓高通能夠強化其行動裝置晶片
上的營收,且不至於落後蘋果在Ax晶片上的優勢。如果高通將這一方法引入筆記型電腦,
進而創造了與用戶在智慧型手機上喜愛的類似的高性能體驗,那麼高通將可突破一直由英
特爾和超微控制的PC市場。

雖然高通的Stable Diffusion解決方案不會對汽車產生直接影響,但它確實說明了高通在
協助開發人員使用裝置上的AI實力正在不斷提升。一旦電動車準備好,高通就可以獲得立
即的回報。

總之,雖然蘋果多年來一直在進行裝置上的AI推理,但在生成式AI的新時代,高通實際上
可能已經擊敗了蘋果。一般相信,蘋果也將如此做,否則iPhone的未來將岌岌可危。

--

All Comments

Ursula avatar
By Ursula
at 2023-07-01T08:14
政院拍板學費補助!私大補貼3.5萬元
Xanthe avatar
By Xanthe
at 2023-07-02T00:59
user會想要在手機上生成圖片嗎
Rosalind avatar
By Rosalind
at 2023-07-02T17:44
我PC算圖就烤大腿了 手機 小心爆炸
Jacky avatar
By Jacky
at 2023-07-03T10:29
歷史就是從工作站微縮至手機 只是AI會不會那麼快
Hedy avatar
By Hedy
at 2023-07-04T03:14
文字轉圖片?我以為圖片轉文字比較難
Una avatar
By Una
at 2023-07-04T19:59
你說啥?Apple是直接在M系列晶片的ANE上跑 stable d
iffusion, 你高通快的過我?
https://huggingface.co/blog/fast-diffusers-corem
l
Edwina avatar
By Edwina
at 2023-07-05T12:44
https://machinelearning.apple.com/research/stabl
e-diffusion-coreml-apple-silicon
Carolina Franco avatar
By Carolina Franco
at 2023-07-05T05:25
而且這一套在邊緣裝置上運算AI模型的工具 Apple早就
做好開放不知道多久了 CreateML跟CoreML 這記者..
Dorothy avatar
By Dorothy
at 2023-07-05T22:10
發哥400見
Audriana avatar
By Audriana
at 2023-07-05T05:25
文字轉圖片?阿不就手機截圖
Ula avatar
By Ula
at 2023-07-05T22:10
高通要炫耀不用cuda也可以跑,但是手機這功能要做
什麼?真的需要的人會用高階電腦去跑
Vanessa avatar
By Vanessa
at 2023-07-05T05:25
高通的還真的比蘋果的快..
Anthony avatar
By Anthony
at 2023-07-05T22:10
15樓不懂的話可以不用硬要發言…

Issue會議上10PM+1工程師.這種會議能

Connor avatar
By Connor
at 2023-06-30T09:01
※ 引述《motivate》之銘言 : 客戶發生一個問題 : 於是客戶PM就開一個會 : 拉了 : 產品PM : 工廠PM : FW PM : 維護PM : Sales PM : 還有這些PM的 Manager : 然後配一個工程師 : 結果所有PM都在問問題 這是甚麼issue, 有甚麼影響, 在其他產品會 ...

美商慧盛先進

Elizabeth avatar
By Elizabeth
at 2023-06-30T00:45
大家好~ 小弟最近有收到路科廠的(自動化工程師)面試邀請,但版上文章比較少 想請問此公司的工作風氣如何? 會不會很常會被半夜摳進去台積處理問題? -- Sent from nPTT on my iPhone 12 Pro -- - ...

上海商銀的資訊人員

Eartha avatar
By Eartha
at 2023-06-29T23:21
大家好~ 工作職稱:軟體工程師 工作內容:前端用angular後端用spring boot 在新成立的台南南區資訊中心 想問會不會很操 還是準時上下班 偶爾加班? 做的內容是偏維護還是開發? 做雜事還是coding居多? 另外,有沒有教育訓練或培訓之類的 謝謝大家! ----- Sent from JP ...

研替offer請益(代PO)

Olive avatar
By Olive
at 2023-06-29T21:55
代朋友PO 大家好,小弟收到R公司以下部門的研替 想請問以下部門的詳細情況,像是工時、分紅、氣氛或是比較推薦等等 1.通訊網路事業群-BT Audio SoC系統設計 2.通訊網路事業群-網通數位IC驗證 3.研發中心-射頻(RF)IC設計工程師 謝謝各位前輩! - ...

竹科龍潭園區擴建 有進展

Thomas avatar
By Thomas
at 2023-06-29T21:48
新聞標題: 竹科龍潭園區擴建 有進展 2023/06/29 00:37:44 經濟日報 記者李珣瑛/新竹報導 竹科管理局局長王永壯昨(28)日表示,為打造下世代半導體先進研發與先期量產基地, 行政院6月初已核定竹科龍潭園區三期擴建先導計畫,竹科管理局預計7月召開兩場公聽會 廣納民意,並規劃第4季將籌設計畫 ...