Re: [請益] 大家怎麼看這一波AI浪潮

看板 Stock
作者 zuvio (zz)
時間 2023-07-17 09:58:27
留言 190則留言 (49推 13噓 128→)

我發現很多人陷入一個迷思 能做電腦的公司這麼多家 為什麼AI一定要靠NV才能用 chatgpt就不是靠NV起家的啊 也是有其他公司會做伺服器晶片 說不定intel德儀之後有更好的工業伺服器晶片屌打NV 現在不知道為什麼很多人覺得AI是建構在NV的上頭 買一堆NV相關企業的產品 但實際上AI根本就是軟體 像google搜尋引擎一樣的軟體 根本不一定需要哪間公司的伺服器才能做 隨便一家有做伺服器的都能用好嗎 之前挖礦區塊鏈那些公司也能做AI好嗎 所以這波AI真的在亂漲,不知道誰說只有NV能搞AI --

※ 批踢踢實業坊(ptt.cc), 來自: 101.137.24.102 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1689559109.A.07B.html

goodman5566 : 你可以買INTEL阿 07/17 10:00

jinhouse123 : 你先去研究下訂單的,拿這些NV產品做什麼應用吧。。 07/17 10:00

strlen : 看了這篇 才曉得無知的恐怖 07/17 10:00

goodman5566 : ALL IN買在起漲點 ,財富自由 07/17 10:00

zerro7 : 眾人皆醉我獨醒 你可以all in其他公司 沒人攔你 07/17 10:01

k543k5 : NV是因為設備吧 你有軟體沒有足夠的運算能力還是廢 07/17 10:01

k543k5 : 物啊 07/17 10:01

k543k5 : 你拿軟體跟硬體比 真的有問題欸 07/17 10:02

stocktonty : 原來就跟初音一樣 07/17 10:03

materu : 你可以選百度 07/17 10:04

deepelves : 那你買intel和AMD吧 07/17 10:05

zuvio : google搜尋龐大資料是靠硬體還是演算法 07/17 10:07

zuvio : 如果靠硬體取勝,yahoo最後怎麼輸google 07/17 10:08

iorittn : 現在算AI就是老黃的卡才夠力啊 07/17 10:08

iorittn : 你同演算法用ATI只有不到8成的算力 07/17 10:09

zuvio : 現在只有chatgpt算ai,google還寫不出來 07/17 10:09

mnxzq : openai創立初期 nv送了幾塊顯卡給他們== 07/17 10:09

deepelves : 就說了AI靠蒜粒取勝,硬體不夠力沒辦法 07/17 10:09

PTTpeter : AI晶片、AI晶片,沒有晶片,你有演算法有屌用? 07/17 10:09

mnxzq : 你是不是沒搞懂gpu和伺服器? 07/17 10:09

chresh : 對,你說的都對,你趕快買 07/17 10:09

jayppt : 哇哇哇哇哇哇 都7月了還有這種文章 07/17 10:10

iorittn : Ati 8成還是高估的 07/17 10:10

zuvio : 是看最強的AI是誰,硬體是替代品誰都可以 07/17 10:10

deepelves : 不然美國政府何必限制NV出口中國 07/17 10:10

deepelves : 如果是靠軟體取勝 07/17 10:10

jayppt : 好啦 認真講2個事情 1.伺服器不是都一樣的 AI需要的 07/17 10:10

deepelves : 黃氏定律跟摩爾定律並列重要,不要不信邪 07/17 10:11

jayppt : 運算量 能最有效做運算的就是GPU 也就是NV AMD的卡 07/17 10:11

mnxzq : 硬體誰都可以代替 台積電也是誰都可以代替的啦 07/17 10:11

JuiFu617 : 因為要軟體cuda編譯啊 07/17 10:11

zuvio : 像區塊鏈跟google是一定要NV才能做嗎? 07/17 10:11

zuvio : 當然不用,硬體這種東西誰做都可以 07/17 10:11

jayppt : 2. AMD vs Nvidia 目前軟體配套 開發原件大家都是 07/17 10:11

JuiFu617 : 賣鏟子還附贈全套使用說明 07/17 10:11

jayppt : 用Nvidia的 這和微軟OS開發軟體vs 買IBM OS差別一 07/17 10:12

JuiFu617 : 人家還教你如何發揮鏟子效益最大化 07/17 10:12

jayppt : 樣 你IBM可以喊破喉嚨我電腦也很好 整體大環境大家 07/17 10:12

jayppt : 不在你上頭開發 AMD現在在這裡 07/17 10:13

JuiFu617 : 你買了別家鏟子不會用,挖的到礦嗎?白做工又費時 07/17 10:13

mnxzq : 這文一出 緯創就V了 07/17 10:13

fatb : 不知道為什麼很多人 => 只有你 07/17 10:13

zuvio : 軟體演算法才是核心,硬體用什麼都可以 07/17 10:13

JuiFu617 : 等到別人都挖到礦,你只能在家拿著鏟子哭 07/17 10:13

jayppt : 硬體目前也就只有2家合格 其中只有1家軟體配套合格 07/17 10:14

jayppt : 但 事情其實可以變動的很快 AMD卡效能/價格比 便宜 07/17 10:14

jayppt : 太多了 而且AMD確實信誓蛋蛋說要做好軟體配套 07/17 10:15

saygogo : 卻的GPT不是用NVIDIA?你的資訊有沒有怪怪的 07/17 10:15

bearching : 照你的邏輯說,就是一個是「說不定」,一個是現在 07/17 10:16

bearching : 稱霸,這個不漲誰要漲? 等新的強者出來當然就漲新 07/17 10:16

bearching : 的那個 07/17 10:16

s942816 : 照你的邏輯買pc就好了 07/17 10:16

snoopy790428: 所以有買撼訊嗎 沒有嘛 07/17 10:17

bearching : 隨便一個伺服器都可以,這概念跟隨便一個電腦都可 07/17 10:18

bearching : 以跑大型程式一樣,當然可以,一個跑一個小時一個 07/17 10:18

bearching : 跑整天 07/17 10:18

kirhan2002 : 去作功課再來談好嗎 nv並不是只有硬體 07/17 10:20

CrowChes : 這篇文章很好 謝謝 07/17 10:20

qss05 : 你還是先搞清楚為什麼要用NV吧…但你說的也沒錯, 07/17 10:20

qss05 : 只是不是現在,現成最讚的就是NV,聽說現在小規模 07/17 10:20

qss05 : 最划算的是MAC,你也可以考慮買瓶蓋股 07/17 10:20

laject : 樓上正確,最猛的是Mac的新晶片,內存當顯存 07/17 10:24

RainyCity : 你是電你是光你是唯一的神話 07/17 10:24

ptt948794520: 妳真的很棒 07/17 10:25

jayppt : mac 能直接拿來訓練ai模型嗎 好奇 這很有趣 07/17 10:25

zuvio : 是看最強的AI公司喜歡用誰的硬體 07/17 10:26

zuvio : 不是有最強的硬體,AI公司一定就想用 07/17 10:26

jayppt : m2晶片 我知道可以比擬4070 那用它做opencl訓練ai? 07/17 10:27

zuvio : AI就是比google搜尋引擎更高階的演算法 07/17 10:27

saygogo : 我總覺得,蘋果正在謀劃什麼東西,他媽M2強成這樣,不 07/17 10:27

saygogo : 可能不搶AI這一大塊肉 07/17 10:27

jayppt : 第一次聽到這個想法 我要買aapl了嗎XD 07/17 10:27

zuvio : 可以看成會幫你彙整搜尋資料的搜尋引擎 07/17 10:28

jayppt : amd就是用opencl練ai 蘋果m2堪比輝達4070 那 直接 07/17 10:28

jayppt : 買mac練ai?! omg 07/17 10:28

jayppt : 有種腦洞打開了的感覺 07/17 10:29

stlinman : 大家都會做輪子,為什麼有人造車就跑得特別快? 07/17 10:30

ckp4131025 : M2性能是真的很強,問題在生態系 07/17 10:30

AndyMAX : 身兼瓶蓋跟伺服器的公公吃得到肉嗎 不過前提蘋果想 07/17 10:30

AndyMAX : 搞伺服器 07/17 10:30

deepelves : 4070蒜粒很強嗎==?請去看A100和H100 07/17 10:31

zuvio : 所以微軟bing才可以融合chatgpt一起用 07/17 10:31

Enzofulgura : 聽君一席話 如聽一席話 07/17 10:31

stlinman : m2晶片 CP值高的AI晶片! 07/17 10:31

zuvio : 但微軟有一定買NV的硬體來做伺服器嗎 07/17 10:31

zuvio : 並沒有吧 07/17 10:31

ckp4131025 : A100一個不知道可以買幾顆M2, M2就消費級的 07/17 10:32

mnxzq : 你這樣跳針 緯創也不會跌啦 07/17 10:33

saygogo : 202X年蘋果發表會上,庫客:我在此宣布 AI已迎來的 07/17 10:34

saygogo : 真正的蘋果時刻 07/17 10:34

deepelves : 公公有動阿,怒漲0.5元,腳麻了 07/17 10:34

stlinman : 演算法的競爭力很大一部分來自算力或運算成本(低功 07/17 10:34

lu19900217 : 了解一下CUDA投入的時間點,你不用NV不然用誰的 07/17 10:34

stlinman : 耗),目前就NV的競爭力最強。他耕耘AI這塊就久,馬 07/17 10:36

mnxzq : nvlink了解下好吧 這東西就是排擠其他廠用的 07/17 10:36

stlinman : 太效應下初期一定是贏者全拿。 07/17 10:36

AndyMAX : 蘋果重新定義Ai 瓶蓋噴 07/17 10:39

k798976869 : 谷歌有在台灣印度做TPU惹 07/17 10:40

leon1757tw : 你有錢有時間有電 AI要用什麼算都行 07/17 10:41

assa9647 : 講的那麼多 單呢 07/17 10:41

zuvio : 怎麼沒有人覺得siri也算ai 07/17 10:41

samuelyen : 不靠CUDA的話,GPU加速也有openCL之類的方案,只是 07/17 10:42

samuelyen : 易用性跟支援度還是比不上CUDA 07/17 10:42

lu19900217 : NV是草創玩家軟硬體支援最全面,而且投入超過十年, 07/17 10:42

lu19900217 : 其他間你要投入多少資源才趕得上NV這十年的累積? 07/17 10:42

lu19900217 : 這個累積不只NV技術堆積,還有已經養起來的用戶喔 07/17 10:42

zuvio : siri帶入chatgpt的ai演算法就變超強AI 07/17 10:43

jayppt : 我算過了啊 一個A100大概等於不到10張普通顯卡效能 07/17 10:43

zuvio : AI重點是軟體演算法,不是硬體 07/17 10:44

vi000246 : 看來你不是內行的 不用出來抬槓了 07/17 10:44

jayppt : 但一個A100要台幣90萬耶 07/17 10:44

stlinman : 演算法不用靠硬體去算唷? 靠硬體不用計較運算成本跟 07/17 10:45

gn00670191 : 看這篇文章跟推文浪費了五分鐘 07/17 10:45

stlinman : 跟算力唷! 07/17 10:45

mnxzq : 真的一直跳針浪費別人時間 07/17 10:45

nantai25 : 你說啥都是多餘的,股價會證明給你看 07/17 10:46

YJM1106 : 追求到極致的時候 成本差5%就能統一市場 07/17 10:46

hn013579 : 拜託你空 07/17 10:46

jayppt : 我收回剛價格的推文 a100價格很亂 看不懂 07/17 10:48

thegame09305: 這波就是2000年前夕的翻版 07/17 10:50

benson01 : 建議你去看看AI訓練需要多少硬體資源,再來說硬體 07/17 10:52

benson01 : 不重要吧 07/17 10:52

ksmeng : 天啊 07/17 10:56

hn85255413 : AZUR/AWS的GPU instance硬體都是NV好嗎?哪來的cha 07/17 10:59

hn85255413 : tgpt不用NV訓練 07/17 10:59

xczh : 推原po獨立思考,但需要補充點產業資訊 07/17 10:59

strlen : 你各位別再鞭了 股市就是需要這種燃料才會噴好唄 07/17 11:00

strlen : 就讓他一直跳針硬體不重要沒關係啦 你可以歐硬空NV 07/17 11:00

sunny401 : 軟體是要靠硬體加速的,多和做ic的朋友聊聊 07/17 11:00

zuvio : bing也加入chatgpt,有用到NV訓練? 07/17 11:01

strlen : 沒有 沒人用 趕快空 空完記得PO單 我們支持你 07/17 11:01

jackwang01 : 認真的嗎== 07/17 11:01

strlen : NV下月財報肯定大爆死 顯卡庫存高 AI卡沒人用 快空 07/17 11:02

zuvio : 我不是說沒用到硬體,而是各種硬體都能 07/17 11:02

benson01 : 事實上ChatGPT用到超多GPU 07/17 11:03

zjnovember : 呃,好喔 07/17 11:04

jayppt : nvidia顯卡部分真的很爛 爛透 4開頭的還不如3080ti 07/17 11:04

zuvio : AI不是只有NV能做,有搞伺服器的都能 07/17 11:05

benson01 : 你看到的只有前端,在後端訓練就是只能用特定的硬 07/17 11:05

benson01 : 體,一般的CPU會跑到天荒地老 07/17 11:05

benson01 : 你需要多看資料 07/17 11:05

JuiFu617 : a100這些是特化顯卡,簡稱算卡,專門用來訓練ai的 07/17 11:05

zuvio : AI跟區塊鏈跟搜尋引擎都一樣是演算法 07/17 11:06

lu19900217 : NV的護城河有多寬,要了解AI的論文有多少是基於NV的 07/17 11:06

lu19900217 : 軟硬體去做的,這如同MS在學校就開始養用戶一樣 07/17 11:06

sonnyc : 用別的硬體訓練到天荒地老 生意還要不要做了 07/17 11:07

benson01 : 假設用一般CPU訓練要幾個禮拜,用GPU只要幾分鐘, 07/17 11:09

benson01 : 請問你要用哪一個? 07/17 11:09

WHD1445 : 可悲文組 07/17 11:09

jayppt : 特化卡沒到那麼猛的 最強的64浮點運算 特化卡也不到 07/17 11:11

jayppt : 10倍效能 真實訓練resnet machiine learning 特化 07/17 11:11

jayppt : a100大概就nvdia高端30開頭卡的2倍效能多一些 但耗 07/17 11:12

jayppt : 能減半就是 07/17 11:12

JuiFu617 : 特化卡專門為ai服務還可以用nvlink來實現更高效的 07/17 11:13

JuiFu617 : 併聯計算 07/17 11:13

sonnyc : 重點nvlink可以串一大串運算卡協同作戰 一般顯卡沒 07/17 11:13

sonnyc : 辦法 07/17 11:13

JuiFu617 : 現在就是用算卡來串連大力出奇蹟啊 07/17 11:14

uller : 你這樣很好啊 這樣我就可以安心繼續報著 07/17 11:14

k85564 : 重點是怎麼把數張gpu連接起來 07/17 11:15

BruceChen227: 誰市佔高誰就是老大 07/17 11:15

k85564 : 你說的那些晶片跟nv根本沒關系 07/17 11:15

k85564 : 德儀根本做不同東西 也扯在一起 07/17 11:17

JuiFu617 : 量變產生質變,人家都示範過的路了 07/17 11:17

k85564 : 先前收mellanox 07/17 11:17

Williamette : 求你別買NV 07/17 11:18

jayppt : 橫向串聯 其實挖礦時代市售卡就有了 不是特化卡專有 07/17 11:19

k85564 : 這篇連軟硬體都搞不懂吧.. 07/17 11:19

jayppt : 知道為何用gpu嗎 不用cpu?因為machine learning的 07/17 11:20

ji3g4tj06fu6: 笑死,你看Google這幾年釋出的平台只能用在哪家硬 07/17 11:20

ji3g4tj06fu6: 體上? 07/17 11:20

jayppt : 運算 一開始就是橫向的運算啊 07/17 11:21

ronite : 沒關係你可以別買,或者去放空 07/17 11:23

rqm : 不懂的人還是很多 表示還有很大漲的空間 07/17 11:24

jayppt : 一張卡一秒例如讀1000張圖片 10張卡1秒1萬張這樣 07/17 11:25

jayppt : 反正 釐清一個事情就好 ai訓練 machine learning 07/17 11:25

jayppt : 橫向串聯 全部都不是什麼特化卡專有的東西 就醬bye 07/17 11:25

kamio : 做AI不買NV的卡一定是抖M 07/17 11:27

crowley : 你可以先去看一下機器學習的yt再來討論 07/17 11:28

a79111010 : 反正老黃都先賺 以後就是ASIC的事 07/17 11:31

weiflower520: ….好可憐 所有AI絕對是建立在NV的硬體上 07/17 11:34

iammi21 : 空很多嗎? 07/17 11:35

sonnyc : gpu串聯現在nvlink+nvswitch速度還是屌打其他人的 07/17 11:35

bala73 : 這波爆發式起漲點在哪 可以回去看一下 是不是某刀 07/17 11:43

bala73 : 客Q1財報開出來嚇死分析師 07/17 11:43

ravager : 你說得都對,那你還不快去投資非NV陣營的硬體供應商 07/17 11:52

just206 : 讚,見解獨道 07/17 11:54

DrTech : 但實際上AI根本就是軟體… 。 請教一下Intel 的CPU 07/17 11:57

DrTech : 有哪個可以訓練,大型語言模型的? 07/17 11:57

Brioni : 現在是開AI賭場,大家一起玩一把 07/17 11:58

您可能感興趣