高通提供的生成式AI服務Stable Diffusion - 工程師
By Skylar Davis
at 2023-06-30T15:29
at 2023-06-30T15:29
Table of Contents
高通提供的生成式AI服務Stable Diffusion,強化了手機結合AI的里程碑
https://bit.ly/3CPv7qY
幾個月前,高通悄悄展示了一個許多人完全錯過的AI里程碑,那就是直接在安卓(
Android)智慧型手機上運行一種文字轉圖片的生成式AI服務Stable Diffusion。
要了解高通的成就,首先要考慮新的生成式AI的文字轉圖片服務所涉及的兩個步驟。
第一步稱為訓練。生成式AI只是一種演算法,它接受用戶輸入並根據過去的經驗「創造」
輸出。在Stable Diffusion的情況下,其是根據用戶的文字描述創建新影像。但要讓該演
算法完成這一壯舉,需要用大量數據對其進行訓練。
第二步稱為推理。利用過去對影像文字描述的經驗,AI演算法可以根據用戶提供的獨特文
字輸入推斷出新影像。
當然,訓練新的生成式AI模型需要由輝達等公司設計的極其昂貴的GPU運算系統,並且在
此過程中會消耗大量電力。但是這個訓練過程只發生一次,可是推理會發生無數次,因此
這就是在裝置上的推理,如此重要的原因。
將工作從雲端轉移到邊緣時,隨著生成式AI開始起飛,人們愈來愈擔心在雲端運行它所需
的巨額成本。但是,如果經過訓練的生成式AI模型,其可以直接在智慧型手機等行動裝置
上運行,這正是高通現在所做的。
如果高通能夠繼續改進其AI Studio(開發人員將AI模型帶到邊緣,即直接帶到用戶裝置
的一套工具),就不會再透過網路向用戶發送文字提示了。遠程數據中心進行推理,然後
透過網路再次返回給用戶。除了明顯的性能提升和成本節省之外,在裝置上引入AI推理還
具有保護資訊安全的好處。
高通這種突破性且具有超越其智慧型手機業務的意義,將讓高通能夠強化其行動裝置晶片
上的營收,且不至於落後蘋果在Ax晶片上的優勢。如果高通將這一方法引入筆記型電腦,
進而創造了與用戶在智慧型手機上喜愛的類似的高性能體驗,那麼高通將可突破一直由英
特爾和超微控制的PC市場。
雖然高通的Stable Diffusion解決方案不會對汽車產生直接影響,但它確實說明了高通在
協助開發人員使用裝置上的AI實力正在不斷提升。一旦電動車準備好,高通就可以獲得立
即的回報。
總之,雖然蘋果多年來一直在進行裝置上的AI推理,但在生成式AI的新時代,高通實際上
可能已經擊敗了蘋果。一般相信,蘋果也將如此做,否則iPhone的未來將岌岌可危。
--
https://bit.ly/3CPv7qY
幾個月前,高通悄悄展示了一個許多人完全錯過的AI里程碑,那就是直接在安卓(
Android)智慧型手機上運行一種文字轉圖片的生成式AI服務Stable Diffusion。
要了解高通的成就,首先要考慮新的生成式AI的文字轉圖片服務所涉及的兩個步驟。
第一步稱為訓練。生成式AI只是一種演算法,它接受用戶輸入並根據過去的經驗「創造」
輸出。在Stable Diffusion的情況下,其是根據用戶的文字描述創建新影像。但要讓該演
算法完成這一壯舉,需要用大量數據對其進行訓練。
第二步稱為推理。利用過去對影像文字描述的經驗,AI演算法可以根據用戶提供的獨特文
字輸入推斷出新影像。
當然,訓練新的生成式AI模型需要由輝達等公司設計的極其昂貴的GPU運算系統,並且在
此過程中會消耗大量電力。但是這個訓練過程只發生一次,可是推理會發生無數次,因此
這就是在裝置上的推理,如此重要的原因。
將工作從雲端轉移到邊緣時,隨著生成式AI開始起飛,人們愈來愈擔心在雲端運行它所需
的巨額成本。但是,如果經過訓練的生成式AI模型,其可以直接在智慧型手機等行動裝置
上運行,這正是高通現在所做的。
如果高通能夠繼續改進其AI Studio(開發人員將AI模型帶到邊緣,即直接帶到用戶裝置
的一套工具),就不會再透過網路向用戶發送文字提示了。遠程數據中心進行推理,然後
透過網路再次返回給用戶。除了明顯的性能提升和成本節省之外,在裝置上引入AI推理還
具有保護資訊安全的好處。
高通這種突破性且具有超越其智慧型手機業務的意義,將讓高通能夠強化其行動裝置晶片
上的營收,且不至於落後蘋果在Ax晶片上的優勢。如果高通將這一方法引入筆記型電腦,
進而創造了與用戶在智慧型手機上喜愛的類似的高性能體驗,那麼高通將可突破一直由英
特爾和超微控制的PC市場。
雖然高通的Stable Diffusion解決方案不會對汽車產生直接影響,但它確實說明了高通在
協助開發人員使用裝置上的AI實力正在不斷提升。一旦電動車準備好,高通就可以獲得立
即的回報。
總之,雖然蘋果多年來一直在進行裝置上的AI推理,但在生成式AI的新時代,高通實際上
可能已經擊敗了蘋果。一般相信,蘋果也將如此做,否則iPhone的未來將岌岌可危。
--
Tags:
工程師
All Comments
By Ursula
at 2023-07-01T08:14
at 2023-07-01T08:14
By Xanthe
at 2023-07-02T00:59
at 2023-07-02T00:59
By Rosalind
at 2023-07-02T17:44
at 2023-07-02T17:44
By Jacky
at 2023-07-03T10:29
at 2023-07-03T10:29
By Hedy
at 2023-07-04T03:14
at 2023-07-04T03:14
By Una
at 2023-07-04T19:59
at 2023-07-04T19:59
By Edwina
at 2023-07-05T12:44
at 2023-07-05T12:44
By Carolina Franco
at 2023-07-05T05:25
at 2023-07-05T05:25
By Dorothy
at 2023-07-05T22:10
at 2023-07-05T22:10
By Audriana
at 2023-07-05T05:25
at 2023-07-05T05:25
By Ula
at 2023-07-05T22:10
at 2023-07-05T22:10
By Vanessa
at 2023-07-05T05:25
at 2023-07-05T05:25
By Anthony
at 2023-07-05T22:10
at 2023-07-05T22:10
Related Posts
Issue會議上10PM+1工程師.這種會議能
By Connor
at 2023-06-30T09:01
at 2023-06-30T09:01
美商慧盛先進
By Elizabeth
at 2023-06-30T00:45
at 2023-06-30T00:45
上海商銀的資訊人員
By Eartha
at 2023-06-29T23:21
at 2023-06-29T23:21
研替offer請益(代PO)
By Olive
at 2023-06-29T21:55
at 2023-06-29T21:55
竹科龍潭園區擴建 有進展
By Thomas
at 2023-06-29T21:48
at 2023-06-29T21:48