[新聞] 黃仁勳:讓AI去推理 就不會太耗電

看板 Tech_Job
作者 hvariables (Speculative Male)
時間 2024-06-05 04:43:26
留言 20則留言 (8推 0噓 12→)

https://www.chinatimes.com/newspapers/20240605000458-260110?chdtv 黃仁勳:讓AI去推理 就不會太耗電 NVIDIA投資台灣因為「台積電很棒」 資料中心可設在無人區 不排除自行開發晶片 04:10 2024/06/05 中國時報 柳名耕 https://images.chinatimes.com/newsphoto/2024-06-05/1024/B03A00_P_01_02.jpg
台北國際電腦展4日開跑,「AI教父」輝達創辦人黃仁勳(中)現身會場逛展,吸引民眾 爭相搶拍及簽名。(鄧博仁攝) 輝達創辦人暨執行長黃仁勳4日在出席媒體交流會上提到,不能只訓練AI,最終應該要讓 它去推理,如此就不會太耗電,像氣候孿生平台就可以省下3000倍的能源;針對如何看待 大陸市場,黃仁勳說,有研究相關的規定,且過去20年有許多夥伴、客戶都在大陸,會盡 力提供最好的服務。 在抵達媒體交流會後,熱愛美食的他,忍不住吃了工作人員準備的火雞三明治,還頻頻碎 念自己5點就起床,到下午只吃了6片餅乾,而這3片乾癟的火雞肉,剛好可以補充能量, 並笑著提醒盡量問簡單的問題,否則只剩25%大腦容量的他,可能會沒辦法負荷。 針對美國政府的晶片禁令,輝達會怎麼看大陸的市場,黃仁勳表示,大陸的市場對輝達非 常重要,同時研究很多須遵守的限制,會努力去平衡,同時提供最好的服務給在大陸合作 20年的夥伴、客戶。 至於在兩岸敏感時刻,輝達仍決定在台灣設置第2座大型研發中心,以及更大的超級電腦 ,黃仁勳說,會有這樣的選擇,是因為台積電真的很棒,且極具彈性,雙方已經合作超過 25年,無論是晶片代工還是CoWoS封裝、測試以及上下游供應鏈都很完美,坦言曾考慮在 其他地方設點,但必須誠實地說「很難」。 由於輝達市值直逼蘋果,會不會去跟蘋果競爭,黃仁勳表示,輝達不會去跟蘋果競爭,蘋 果的東西很棒,但都是超微、英特爾、高通在跟蘋果競爭,輝達不是那個圈子的。 黃仁勳強調,因為輝達是市場的開創者,不是市場的追逐者,致力在創新,做的事情都是 領先的事情,或許有人說AI是他們現在的大事,但對輝達來說已經經歷15年了,並開玩笑 地說「輝達這麼可愛,怎麼會有人想要攻擊我們」。 針對政府提出關於發展AI的建議,黃仁勳指出有3點,第1點就是加速所有需要運算的東西 ,因為可以省下很多資源,也就是說買越多AI伺服器,就可以省下越多的資源。 第2點是不要只訓練AI,使用AI的最終是要讓它去推理,才是最重要的,就像是Earth-2氣 候孿生平台,可以提升1000倍的速度,省下3000倍的能源;第3點則是,AI資料中心不會 在乎它在什麼地方上學,所以可以選擇在沒有人,沒有電網的地方,利用太陽能、或者有 豐富能源的地方,蓋發電廠及運算中心,並在那個地方訓練AI。 輝達除AI伺服器、顯示卡、加速運算卡外,黃仁勳也提到不會擔心AI運算可能影響電力消 耗,輝達也不排除自行開發ASIC晶片(特殊應用積體電路),藉此去擴大現有的客戶群。 #蘋果 #大陸 #能源 #地方 #輝達 -- 沒說小乘大乘 上座部佛教馬哈希尊者具戒經講記拆穿佛教大乘妙法蓮華經騙局 上座部佛教明昆《南傳菩薩道》真釋迦牟尼佛的菩薩成佛之道 大乘菩薩成佛之道 妙法蓮華經 華嚴經 心經 金剛經 楞伽經 梵網經菩薩戒 圓覺經 楞嚴經大乘假佛經 阿彌陀佛 藥師佛大乘假觀世音 文殊 普賢 維摩詰 龍樹 地藏王大乘假菩薩 https://www.ptt.cc/bbs/soul/M.1523979060.A.68C.html 上座部佛教目犍連子帝須那先偽經大乘十方諸佛 --
※ 批踢踢實業坊(ptt.cc), 來自: 61.230.132.222 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1717533815.A.854.html

yunf : 有沒有可能你給他的理就是錯的 難道你們不好奇他的 06/05 04:56

yunf : 虛擬地球是什麼圓嗎 說不定顛覆你傳統的認知 如果你 06/05 04:56

yunf : 看過古地圖你一定會覺得古時候的人很好笑怎麼地圖上 06/05 04:56

yunf : 還有章魚和怪物 現在地圖號稱以科學為本難道就是真 06/05 04:56

yunf : 的嗎? 06/05 04:56

yunf : 有一些事情根本經不起問 06/05 04:57

kyle5241 : 在核電廠旁邊建超級電腦? 06/05 06:23

fedona : 機房設在高雄表示: 06/05 06:50

TaiwanUp : 電力會流向善用它的手中 06/05 07:57

a9564208 : 笑死,老黃認證無人區最好 06/05 08:17

abyssa1 : 跟礦場一樣蓋在水力發電廠旁邊 06/05 08:27

Prado4840 : 誒不是 現在ai llm充其量只有大腦的語言區和記憶區 06/05 09:38

Prado4840 : 的功能而已、那有什麼推理可言啊? 06/05 09:38

rodion : 大陸(X) 中國(O) 中(共)時整天大陸大陸 真的很蠢 06/05 09:43

justdoit : 推理要在晚餐後 06/05 12:28

darkangel119: 自行開發? 06/05 12:33

ciplu : 無人區?那蓋到山上吧,還可以直接降溫 06/05 12:39

Dracarys : 他在講AI inference吧,不是你想的那種推理 06/05 13:27

ISCREDIBLE : 讓ai自製晶片不就更棒棒 06/05 14:56

fairyofmoon : 台積電很棒X 台灣電很便宜O 06/05 19:54

您可能感興趣