[新聞] 產業正在尋找另一種突破生成式AI要太多

產業正在尋找另一種突破生成式AI要太多運算的解決方案 https://bit.ly/3LN4E25 2018年，OpenAI發布的一項分析顯示，自2012年以來，最大規模的AI訓練運行中使用的運 算能力呈指數級成長，每3.4個月翻一倍。根據換算，自2012年以來，這一指標已經成長 了30萬倍以上（如果以摩爾定律，半導體性能每兩年翻一倍之下，只能產生7倍的成長） 。 可是這種發展趨勢不可能無限制發展下去。許多專家不認為建立更大的大型語言模型會推 動生成式AI領域向前發展。即使在現階段，訓練這些模型的運算成本仍然非常昂貴，不僅 要花錢，而且還會對氣候造成更大的碳足跡。IEEE認為，AI研究界還需要一到兩年的時間 才能找到新可行的解決方案。 新創公司也正在尋求取代輝達GPU的方式。例如：Graphcore、Kneron和iDEAL Semiconductor等美國AI晶片新創公司將自己視為輝達等產業巨頭的替代品。 Graphcore 正在提出一種名為智慧處理單元（IPU）的新型處理器，該公司表示，該處理器是從頭開 始設計的，旨在滿足AI運算需求。Kneron的晶片專為邊緣AI應用而設計，例如電動車或智 慧建築。 至於iDEAL Semiconductor，則於2023年5月推出了一種名為「SuperQ」的新型矽基架構， 聲稱該架構可以在二極體、MOSFET和積體電路等半導體裝置中產生更高的效率和更高的電 壓性能。 此外，許多公司也在投資可以在本地運行小型AI模型的產品，稱為邊緣AI。根據研究，邊 緣AI可協助放射科醫師識別病理、透過物聯網設備控制辦公大樓、並用於控制自動駕駛汽 車。2021年邊緣AI市場估值為120億美元，預計2029年將達到1,074.7億美元。 Gartner表示，GPU晶片的擴展遲早將無法跟上AI模型大小的成長。因此，繼續讓模型變得 越來越大並不是一個可行的選擇。iDEAL Semiconductor表示，現今全球需要開發更有效 率的大型語言模型和AI解決方案，但即使如此，額外GPU的生產仍是這個等式中不可避免 的一部分。 畢竟，在尚未找出新解決方案之前，台積電和輝達就扮演的供應足夠GPU的關鍵角色，台 積電承認預計要到2024年才能獲得紓解。 總之，一般相信生成式AI對於運算的需求只會不斷擴大，除了GPU之外，未來兩年內只要 能夠找到一種新的解決方案，生成式AI才能持續發展下去，也才能進一步帶來更多產業的 成長動力。 --
※ 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1696320503.A.11E.html

→ lolpklol0975: 類神經運算,FPGA+RRAM 10/03 16:18

→ kyosuke1 : 樓上 精英歸屬哥 10/03 17:03