看板Tech_Job
高通提供的生成式AI服務Stable Diffusion，強化了手機結合AI的里程碑
https://bit.ly/3CPv7qY
幾個月前，高通悄悄展示了一個許多人完全錯過的AI里程碑，那就是直接在安卓（
Android）智慧型手機上運行一種文字轉圖片的生成式AI服務Stable Diffusion。
要了解高通的成就，首先要考慮新的生成式AI的文字轉圖片服務所涉及的兩個步驟。
第一步稱為訓練。生成式AI只是一種演算法，它接受用戶輸入並根據過去的經驗「創造」
輸出。在Stable Diffusion的情況下，其是根據用戶的文字描述創建新影像。但要讓該演
算法完成這一壯舉，需要用大量數據對其進行訓練。
第二步稱為推理。利用過去對影像文字描述的經驗，AI演算法可以根據用戶提供的獨特文
字輸入推斷出新影像。
當然，訓練新的生成式AI模型需要由輝達等公司設計的極其昂貴的GPU運算系統，並且在
此過程中會消耗大量電力。但是這個訓練過程只發生一次，可是推理會發生無數次，因此
這就是在裝置上的推理，如此重要的原因。
將工作從雲端轉移到邊緣時，隨著生成式AI開始起飛，人們愈來愈擔心在雲端運行它所需
的巨額成本。但是，如果經過訓練的生成式AI模型，其可以直接在智慧型手機等行動裝置
上運行，這正是高通現在所做的。
如果高通能夠繼續改進其AI Studio（開發人員將AI模型帶到邊緣，即直接帶到用戶裝置
的一套工具），就不會再透過網路向用戶發送文字提示了。遠程數據中心進行推理，然後
透過網路再次返回給用戶。除了明顯的性能提升和成本節省之外，在裝置上引入AI推理還
具有保護資訊安全的好處。
高通這種突破性且具有超越其智慧型手機業務的意義，將讓高通能夠強化其行動裝置晶片
上的營收，且不至於落後蘋果在Ax晶片上的優勢。如果高通將這一方法引入筆記型電腦，
進而創造了與用戶在智慧型手機上喜愛的類似的高性能體驗，那麼高通將可突破一直由英
特爾和超微控制的PC市場。
雖然高通的Stable Diffusion解決方案不會對汽車產生直接影響，但它確實說明了高通在
協助開發人員使用裝置上的AI實力正在不斷提升。一旦電動車準備好，高通就可以獲得立
即的回報。
總之，雖然蘋果多年來一直在進行裝置上的AI推理，但在生成式AI的新時代，高通實際上
可能已經擊敗了蘋果。一般相信，蘋果也將如此做，否則iPhone的未來將岌岌可危。
--
※ 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣)※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1688110178.A.D5E.html
→ sc1 : 政院拍板學費補助！私大補貼3.5萬元 06/30 15:36
推 redbeansyrup: user會想要在手機上生成圖片嗎 06/30 15:38
推 qwe78971 : 我PC算圖就烤大腿了 手機 小心爆炸 06/30 16:26
推 brightest : 歷史就是從工作站微縮至手機 只是AI會不會那麼快 06/30 16:47
推 s860134 : 文字轉圖片？我以為圖片轉文字比較難 06/30 19:39
推 drajan : 你說啥？Apple是直接在M系列晶片的ANE上跑 stable d 06/30 20:08
→ drajan : iffusion, 你高通快的過我？ 06/30 20:08
→ drajan : https://huggingface.co/blog/fast-diffusers-corem 06/30 20:08
→ drajan : l 06/30 20:08
→ drajan : https://machinelearning.apple.com/research/stabl 06/30 20:09
→ drajan : e-diffusion-coreml-apple-silicon 06/30 20:09
推 drajan : 而且這一套在邊緣裝置上運算AI模型的工具 Apple早就 06/30 20:16
→ drajan : 做好開放不知道多久了 CreateML跟CoreML 這記者.. 06/30 20:16
→ Zepho : 發哥400見 06/30 20:40
→ Zepho : 文字轉圖片？阿不就手機截圖 06/30 20:41
→ NexusPrime : 高通要炫耀不用cuda也可以跑，但是手機這功能要做 07/01 19:21
→ NexusPrime : 什麼？真的需要的人會用高階電腦去跑 07/01 19:21