[新聞] Ilya Sutskever成立新公司SSI，安全超級

突發！ Ilya Sutskever成立新公司SSI，安全超級智慧是唯一目標與產品 https://www.jiqizhixin.com/articles/2024-06-20-2 機器之心 自 5 月15 日從OpenAI 離職後 ，OpenAI 前首席科學家Ilya Sutskever 官宣了自己的新 動向。 今天凌晨，Ilya 在社媒X 上表示自己創立了一家新公司－「安全超級智慧」（Safe SuperIntelligence，SSI）。 該公司的目標和產品非常明確、單一：追求安全的超級智能，希望透過一支精幹頂尖的小 團隊取得革命性的成果，進而實現這一目標。 以下是SSI 公司的公告： 超級智能已經觸手可及。 建構安全超級智慧（SSI）是我們這個時代最重要的技術難題。 我們已經啟動了世界上第一個專注於SSI的實驗室，目標和產品都只有一個：安全超級智 慧。 這間實驗室名為「Safe Superintelligence Inc」。 SSI是我們的使命、我們的名稱和我們的整個產品路線圖，它是我們唯一的關注點。 我們 的團隊、投資人和商業模式都致力於實現SSI。 我們將安全性和能力視為透過革命性工程和科學突破來解決的技術難題。 我們計劃盡快 提高能力，同時確保安全性始終保持領先地位。 這樣，我們就可以安心地擴展規模。 我們專注於一個目標（SSI），這意味著不會受到管理開銷或產品週期的干擾。 我們的商 業模式可以確保安全、進步等都不受短期商業壓力的影響。 我們是一家美國公司，在帕洛阿爾托和特拉維夫均設有辦事處。 在那裡，我們有著深厚 的根基，並有能力招募頂尖的技術人才。 我們正在組建一支精幹、頂尖的團隊，由世界上最優秀的工程師和研究人員組成。 他們 將專注於SSI，不做其他任何事情。 如果你是這樣的人，我們將提供一個機會，讓你從事一生的事業，幫助解決我們這個時代 最重要的技術挑戰。 現在是時候了，加入我們吧。 公告網址：https://ssi.inc/ 公告中出現的另外兩位共同創辦人分別為前蘋果AI高層、Y-Combinator 的合夥人Daniel Gross和前OpenAI技術團隊成員Daniel Levy。 Daniel Gross表示自己很高興和榮幸與Ilya和Daniel Levy開啟這項新事業。 Daniel Levy則表示，很難想像在人類歷史的這一刻從事其他工作。 Ilya 與OpenAI 的故事 Ilya Sutskever 是以色列裔加拿大人，出生於前蘇聯，五歲隨家人移民耶路撒冷（因此 他精通俄語、希伯來語和英語），2002 年搬到加拿大生活。 在多倫多大學就讀大學期間，Ilya Sutskever 從一個叫做「改進 隨機鄰域嵌入 演算法 」的計畫開始，開始了與Geoffrey Hinton 的合作，後來在攻讀博士學位時正式加入了 Hinton 的團隊。 後來的事我們都熟悉：2012 年，Hinton 帶著Ilya Sutskever 和另一位研究生Alex Krizhevsky 建立了一個名為AlexNet 的 神經網路 ，其識別照片中物體的能力遠遠超過 了當時的其他系統。 AlexNet 是 深度學習 的爆發時刻。 經歷了多年的失敗之後，他的團隊最早證明了 模式 識別 問題可以被解決──秘決就是一個經過大量資料和算力訓練的深度 神經網路 。 這種思路從 電腦視覺 延伸到了 自然語言處理 領域，同樣是ChatGPT取得如今成就的重 要因素，包括Sora在 影片生成 領域的成功也離不開這兩點。 2012 年畢業後，Ilya Sutskever 在史丹佛大學跟隨 吳恩達 做了兩個月的博士後，隨後 返回多倫多大學並加入了Hinton 研究小組的衍生公司DNNResearch 。 2013 年3 月，Google 收購了DNNResearch，聘請了Ilya Sutskever 擔任Google Brain 的研究科學家。 在谷歌，Ilya Sutskever展示瞭如何 深度學習 的 模式識別 能力應用於資料序列，包括 單字、句子。 他與Oriol Vinyals和Quoc Le合作創建了 序列到序列 （Seq2seq）學習演 算法，深度參與了 TensorFlow 的研究，也是AlphaGo論文的眾多作者之一。 對語言的濃厚興趣，或許推動了Ilya Sutskever加入OpenAI的腳步。 2015 年7 月，Ilya Sutskeve 參加了Y Combinator 總裁Sam Altman 在Sand Hill Road 一家餐廳舉辦的晚宴，在那裡他遇到了 馬斯克 和格雷格·布羅克曼。 那場晚宴上誕生了OpenAI。 在場的人們就一件事達成了一致：它需要是一個非營利組織 ，沒有任何競爭性的激勵措施來淡化其使命，還需要世界上最好的 人工智慧 研究人員。 2015 年底，Ilya Sutskever 以「研究總監」的頭銜開始領導OpenAI 的研究和運營，這 個組織也吸引了幾位世界知名的 人工智慧 研究者，包括「GAN 之父」 伊恩·古德費洛 、UC柏克萊的Pieter Abbeel 以及Andrej Karpathy。 2016 年，OpenAI 的第一個GPT 大型 語言模型 問世。 從 GPT-2 到GPT-3，模型的能力 越來越強大，證明了這條路線的實際正確性。 每一次發布，OpenAI 都在不斷提高人們的 想像力上限。 但Ilya Sutskever透露，當真正讓OpenAI出圈的ChatGPT發佈時，公司內部對此的期望值 很低：「當你問它一個事實性的問題時，它會給你一個錯誤的答案。我以為它會很平淡無 奇，人們會說：你為什麼要做這個？ 將GPT模型封裝在一個易於使用的介面中並免費開放，讓數十億人第一次了解到OpenAI 正 在構建的東西。 在此之前， ChatGPT 背後的大型 語言模型 已經存在了幾個月。 ChatGPT的成功，讓創始團隊受到了前所未有的關注。 2023年，OpenAI 的執行長Sam Altman花了大半個夏天的時間，進行了長達數週的外聯之 旅——與政客們交談，在世界各地座無虛席的禮堂發表演講。 身為首席科學家，Ilya Sutskever保持著低調的風格，也不經常接受採訪，不像公司的其 他創始成員那般是個公眾人物，而是把更多的精力放在了GPT-4上。 今年早些時候，Hinton曾公開表示對自己幫助發明的技術感到恐懼：「我從沒見過更高智 能水平的東西被遠遠更低智能水平的東西控制的案例。」 作為Hinton的學生，Ilya Sutskever沒有對這一言論發表評論，但他對超級智慧負面影響 的關注表明他們是同道中人。 隨著GPT-4 以及後續一系列更強大的大 語言模型 的更新，以Ilya Sutskever為代表的一 部分OpenAI 成員越來越擔憂AI 的可控性問題。 於是就有了後面Ilya Sutskever 突然與Sam Altman 所代表的派系決裂、離職收場的故事 。 如今，Ilya成立了新的公司，也重新開啟了對AI的理想與堅持。 期待SSI能為 人工智慧 的發展帶來新的驚喜。 參考連結： https://www.theverge.com/2024/6/19/24181870/openai-former-chief-scientist-ilya-sutskever-ssi-safe-superintelligence --
※ 批踢踢實業坊(ptt.cc), 來自: 111.253.143.136 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1719058755.A.08A.html

推 NDark : 薩魯曼反抗軍 06/22 21:22

推 WWIII : 反制天網的公司 06/23 19:30

推 Obama19 : 公司收一收最安全 06/24 09:30