[閒聊] AMD便宜apu跑stable diffusion,MiniGPT4等

https://medium.com/@ttio2tech_28094/democratize-ai-turn-a-95-chip-into-a-16gb-vram-gpu-beats-most-of-the-discrete-gpus-51a8636a4719 I have tested both training and inferencing for: A: Stable diffusion, text inversion training. B: LLM. LlaMA fine tuning (lora). .... 似乎比CPU快些 https://www.youtube.com/watch?v=HPO7fu7Vyw4 有APU的人可以試試,想小玩的人也不用完大錢買NV的顯示卡 但是GPU還是較快 ----- 一些閒聊 https://old.reddit.com/r/Amd/comments/15t0lsm/i_turned_a_95_amd_apu_into_a_16gb_vram_gpu_and_it/?sort=qa AMD 4600G/5600G的APU被低估了,這代給太多了 -- google研究, 這位仁兄應是用ROCM,APU不支持ROCM,怎改的,這位老兄一點都沒提, 這東西當然有用,因為很多model在16G的VRAM都能跑起來, 我猜測應該也不會放,擋了太多人的利益, APU用stable diffusion,可用directml,windows下有人作成影片了
※ 批踢踢實業坊(ptt.cc), 來自: 118.166.68.219 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1692540371.A.CC7.html

推 BlackCoal: 便宜入手超大VRAM 36.239.177.30 08/20 22:23

推 WeasoN: 有料 不過我等8000APU 220.133.186.61 08/20 22:24

→ abc21086999: medium自己有縮網址用一下好嗎= = 220.136.200.78 08/20 22:27

推 harry886901: 好的 等等rog ally準備中 182.233.185.94 08/20 22:30

推 Stupidog5566: 我的5600G準備戰20年 56不能亡180.176.215.242 08/20 22:37

→ tomsawyer: apu最多是32x4還是64x4? 1.200.69.1 08/20 22:43

→ gohst1234: 要一般人使用Linux實在還是有點門檻 59.127.234.194 08/20 22:44

→ tomsawyer: 話說M2 max 96GB應該能屌打吧 1.200.69.1 08/20 22:44

推 uegajde: 可惜我的4750U主板限制給gpu的ram=沒戲 118.161.200.28 08/20 22:48

推 halow: 現在AMD顯卡能不能跑XL阿 想買二手6700XT 220.142.13.216 08/20 23:16

→ twinkleAshed: 在ROCM下, 6700XT可以到1it/s. 223.137.5.183 08/20 23:29

→ twinkleAshed: 但在directml下, 則會到6-14s/it. 223.137.5.183 08/20 23:30

→ twinkleAshed: 參數應該都是--medvram -opt-sub-q 223.137.5.183 08/20 23:31

→ twinkleAshed: uad-attention. 223.137.5.183 08/20 23:31

推 iuytjhgf: 拿M2來玩早就已經一堆人在搞了 111.252.223.1 08/20 23:46

推 lazioliz: 插滿4根終於有用了嗎 116.89.140.248 08/20 23:49

噓 a000000000: 過陣子windows就會支援惹 24.5.246.189 08/21 03:18

→ twinkleAshed: 我是回樓上, 我沒在用APU. 223.137.5.183 08/21 05:17

→ twinkleAshed: directml的低效能是我嘗試使用Linu 223.137.5.183 08/21 05:20

→ twinkleAshed: x下ROCM的主因. 223.137.5.183 08/21 05:20

→ twinkleAshed: 但我不太喜歡那環境, 所以後來dire 223.137.5.183 08/21 05:21

→ twinkleAshed: ctml分支也可使用SDXL後, 223.137.5.183 08/21 05:21

→ twinkleAshed: 我就回Windows上用了. 223.137.5.183 08/21 05:21