[新聞] 韓成功研發全球首項人腦模擬超低電耗AI半

看板 Stock
作者 madeinheaven ()
時間 2024-03-07 15:54:48
留言 75則留言 (36推 12噓 27→)

原文標題: 韓成功研發全球首項人腦模擬超低電耗AI半導體技術 原文連結: https://cn.yna.co.kr/view/ACK20240306003700881 發布時間: 2024年 03月 06日 16:57 記者署名: 張黎莉 原文內容: 韓聯社首爾3月6日電 韓國研究團隊全球最初研發出即可減少電耗,又可超高速處理大語 言模型(LLM)的人工智慧(AI)半導體核心技術“互補型轉換器”( Complementary-Transformer)。 韓國科學技術資訊通訊部6日表示,韓國科學技術院(KAIST)PIM半導體研究中心和人工 智慧半導體研究生院柳會峻教授研究小組憑藉三星電子28納米工藝開發出互補型轉換器。 所謂“互補型轉換器技術”,是指選擇性使用模仿人腦結構與功能設計而成的脈衝神經網 路(SNN)和深度神經網路(DNN),實現轉換功能的技術。轉換器(Transformer)也是 積累文章內詞彙等資料內部關係進而學習條理和含義的神經網路,屬於ChatGPT的原創技 術。 https://i.imgur.com/Djw6x4c.jpg
脈衝神經網路和深度神經網路的互補特性 韓國科學技術資訊通訊部供圖 諸如GPT的大語言模型,其間通過大量的圖片處理器(GPU)和250瓦特的電耗才能實現驅 動,但此次研究小組成功在一個4.5毫米×4.5毫米的小型人工智慧半導體內,以400毫瓦 的超低電耗實現了超高速驅動。 該研究結果在上月19日至23日美國舊金山舉行的國際固態電路會議(ISSCC)上公開並演 示。研究小組介紹稱,將神經形態計算技術的精準度提升至與摺積神經網路(CNN)相同 的水平,並運用了可適用於諸多應用領域的互補型深度神經網路(C-DNN)。 科技部介紹稱,研究小組將互補型深度神經網路技術用於大語言模型,實際驗證了超低電 耗、高性能的端側人工智慧(On-device AI)能夠存在,全球首次以人工智慧半導體的形 式呈現出此前僅停留在理論階段的研究內容。 據研究小組介紹,互補型轉換器使用的電力僅為NVIDIA A100圖片處理器625分之1的水平 ,利用GPT-2模型生成語言時僅需0.4秒,利用T5翻譯語言只需0.2秒。研究小組計畫今後 擴大研究範圍,將神經形態計算技術從語言模型拓展至更多應用領域。(完) https://i.imgur.com/qrjfoXx.jpg
AI半導體發展方向 韓國科學技術資訊通訊部供圖 心得/評論: 之前版上有文章討論AI PC和AI手機的未來 這研究證實了高性能且超低電耗On-device AI的可行性 原本250W才能實現驅動 這個只用400mW就能高速驅動 電力消耗更只有NVIDIA A100的625分之1 而且這還只用三星28nm 之後改用先進製程功耗能更低 GPT2生成語言0.4秒 T5翻譯語言0.2秒 我看接下來就是On-device AI的天下了 --

※ 批踢踢實業坊(ptt.cc), 來自: 114.44.242.74 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1709798091.A.1DF.html

calmerrorans: 低耗電 03/07 15:55

mnhyuiop : 韓國.....哦...............................然後咧 03/07 15:55

harry458031 : 低耗電.... 我們的電費不用漲拉 03/07 15:56

apolloapollo: 先唬爛再說 笑死 03/07 15:56

jeff22aa22 : 用超導體做的嗎 03/07 15:56

AndyMAX : AI PC噴 03/07 15:56

inoce : https://i.imgur.com/WgGWgia.png 03/07 15:57

harry458031 : 解決了功率問題這樣擴散到末端 (pc 手機)更快了 03/07 15:57

kenet123 : 韓國....勿忘超導... 03/07 15:57

ab4daa : 歐印 03/07 15:57

harry458031 : 明天伺服器休息 AI PC族群接力 03/07 15:57

laechan : 超導體? 03/07 15:58

fbtm : 超導2.0接力 03/07 15:58

pisu : 『騙』 03/07 15:58

Trainn : 常溫超導屍骨未寒 03/07 15:58

Jeff1989 : 常溫超導體: 03/07 15:59

wei9898 : 這研究好像聽起來好像什麼都有...??? 03/07 15:59

Like5566Like: 韓國就算了吧 03/07 15:59

rbull : 先吹再說 03/07 16:00

kausan : 鬼故事+1 03/07 16:00

pili0830 : Nvidia先噴一根 03/07 16:00

kevinsosa : 就是超導害我買到40的大亞 03/07 16:00

wei9898 : 意思是不用台積電先進製程也可以搞AI? 03/07 16:01

saisai34 : 常溫超導體表示: 0.0 03/07 16:01

mnhyuiop : 明天散熱有跌停我再相信你韓國人 03/07 16:01

flipflap : 夢裡什麼都有 03/07 16:02

Minihil : 韓國人又來了 03/07 16:03

YesNoter : 抄導體呢 03/07 16:04

kobi0910 : 勿忘LK-99 03/07 16:05

Notevenclos3: LK99 03/07 16:05

kducky : 難怪散熱崩(誤 03/07 16:05

YJM1106 : 韓國人又發明了好東西 03/07 16:06

diyaworld : 所以簡單説就是省電技術?現在全世界要的是算力, 03/07 16:09

diyaworld : 謝謝 03/07 16:09

js70864444 : 韓國研發 先噓再說不用鬼扯看到成品再說 03/07 16:10

samm3320 : 算力的benchmark怎麼寫出來 03/07 16:13

samm3320 : 怎麼不寫出來 03/07 16:13

a089851583 : 是超導體嗎 我的超導體股要噴了嗎 03/07 16:14

bbat : 2奈米 03/07 16:15

hydra7 : 超導體2.0? 03/07 16:16

ots625 : 吹牛比賽 03/07 16:17

maxman77 : 超導乎 03/07 16:21

samm3320 : 你要跟A100比power那你的算力要一樣的條件去比,不 03/07 16:22

samm3320 : 然我吃的比奧運選手少一半,所以我超省糧食嗎 03/07 16:22

hate56 : 喔 是喔 真的喔 03/07 16:23

sakai : 又是韓國……先觀察一下…… 03/07 16:23

RD : 這技術已經有好幾顆,最成熟的應該是intel Loihi 2 03/07 16:24

jay3u7218 : 這好像之前哪裡看過了.很看過很多次 03/07 16:26

koumoushou : 28奈米? 03/07 16:28

kenet123 : 太空梭要噴噴了 03/07 16:28

QooSnow : 吃瓜看戲~ 03/07 16:29

stationary : 難怪今天散熱和重電被出貨 03/07 16:33

deepelves : 莫忘超導體概念股變臭倒乎概念股 03/07 16:33

fedona : 韓國 03/07 16:33

fakelie : 啥材質 9不要超貴那種 03/07 16:34

Gipmydanger : 韓國科研實力第一(?) 03/07 16:35

WTF55665566 : 彎道超車….RRrrrrrr 03/07 16:38

giunrz : 超導體已經爆胎成那樣了 03/07 16:39

WTF55665566 : 整天2奈米突破 超導體 現在來硬蹭AI? 03/07 16:39

jvor0719 : 這個要買那支??? 03/07 16:40

xiaoyao : 上次那個 超導體。 呵呵 03/07 16:40

chinaeatshit: 鄭成功延發的再叫我 03/07 16:43

chinaeatshit: 研 03/07 16:43

patear : 上個月就公布,但沒有一家台媒報導,我看先等等 03/07 16:44

eemail : 用途不太一樣 不要什麼都拿來亂類比 03/07 16:45

aimlikenoob : 還附加超導功能對吧,想騙 03/07 16:47

jordan1204 : 韓國 呵呵 03/07 16:50

jagger : 畢竟是韓國人 03/07 16:52

WTF55665566 : 不如全部加一起當撒尿牛丸 03/07 16:54

WTF55665566 : AI製造2奈米超導體!彎道超車!!! 03/07 16:54

xhunter1374 : 韓國 先** 03/07 17:07

m50205811 : 笑死 這次不會被騙了啦 03/07 17:11

JKjohnwick : 韓國zzz 03/07 17:14

s4511981 : 大旱 03/07 17:29

jecint1707 : SNN 新的嗎? 03/07 17:32

您可能感興趣