Re: [心得] 蘋果揭露人工智能並不思考

首先啦，在公眾對於AI發展的看法，有個很有趣的現象。 就是只要AI會做了某件任務，就會直接說，這不需要"思考"。 譬如AI在二十幾年前打敗西洋棋棋王，後來華生也打敗益智節目的人類冠軍。 人們直覺反應就是這不是思考啦，西洋棋就是暴力算棋譜，益智節目背題庫就好啦。 到了十年前還有人認為AI永遠不可能擊敗人類棋王，因為圍棋不是硬靠算力可以暴力解的。 還需要人的模式辨認與推理能力，而AI不會。 結果嘛，現在變成幾乎每個棋手都要靠AI訓練，還要尊稱AI為老師。 到現在LLM文字接龍因為量變產生質變，開始湧現出各種當初想不到的能力。 譬如翻譯、寫故事、甚至是更高階看起來需要推理的寫程式、在各種限制下規劃行程。 那現在的AI真可以直接說他不會思考thinking嗎？ 心理學家把人類的thinking歸類為兩大系統(快思慢想) 不需要意識控制，常靠經驗與啟發法（heuristics）， 例如九九乘法表的乘法計算、開車時的習慣反應。 通常都是直覺、快速、自動化的"快思"任務。 需要意識控制，用來做邏輯推理、計算、分析與抉擇， 例如解數學方程式或做財務規劃。 通常是需要邏輯、緩慢、且偏代理型的"慢想"任務。 目前LLM這系列的AI湧現出來的能力大都是系統一的快思任務，所以AI當然會thinking。 配合了一些CoT等後訓練技術甚至可以湧現出一些些系統二慢想的任務。 但我猜還是有極限啦，像是要有意識的知道自己搞錯了就需要系統二的能力。 因此LLM常常被人認為是一本正經的胡說八道。 又或者一些代理agent任務，就極需要系統二的規劃能力， 現在的LLM就算使用推理模式，也會因為token預算不足而無法長時間執行。 像是蘋果這篇論文反而展示了LLM會思考的一面，他有許多問題都過於困難。 思考token預算不足，當然就直接放棄，但這不代表AI不會thinking。 只是AI目前的確很難處理非常大的問題，需要新的思考預算控制模式。 這也就是現在AI領域積極想要突破的agent領域。 Apple Intelligence之前Siri就已經很多agent類型任務的展示，也難怪一直生不出來。 連最近推出的通用型agent Manus都做不好了，慢人百步以上的Apple怎麼弄得好？ 像是Meta的YanneCun就一直認為現在的LLM是弄不出AGI的，而是需要導入新的世界模型。 假如真的要能讓AI長期執行agent類型等系統二慢想任務，以及機器人能夠長期自主運作。 那這些AI的內心必須錨定一個世界模型，知道自己在這個世界中的狀態與定位。 才能夠調和自己的任務需求與外部的總總限制，而不是卡在死胡同裡。 而且能夠整合自己的工具與感官不斷地調整權重去做學習。 這些都是目前AI都還很欠缺的。若無法突破就很難達成人類等級的AGI。 而這方面能突破，那真的就可以期待AI能直接"取代"人力，達到新的工業革命。 --
※ 批踢踢實業坊(ptt.cc), 來自: 122.121.186.56 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1750051006.A.5BB.html

推 sdbb : 台肯 06/16 13:18

推 webster1112 : 圖靈是神的地方在圖靈測試，不跟你廢話五四三的！ 06/16 13:21

→ haha98 : 實際上lecun一直在吹的世界模型很多人也在搞 目前 06/16 13:22

→ haha98 : 李飛飛的公司和Google 的demo我覺得不錯 倒是lecun 06/16 13:22

→ haha98 : 自己的V-JEPA2 沒啥驚艷 06/16 13:22

→ webster1112 : 我們要先定義思考？？ 耍嘴皮 06/16 13:23

推 Samurai : 當然要先定義思考，這很重要的 06/16 13:26

推 abccbaandy : 但現在AI確實很容易鬼打牆+唬爛 講了也不聽 06/16 13:31

→ DarkerDuck : 因為糾錯與重新規劃算是系統二的能力 06/16 13:33

→ DarkerDuck : 我用AI寫程式也是一樣，debug非常困難 06/16 13:33

推 seemoon2000 : 其實普通人的思考 也比不上LLM系統的直出回答... 06/16 13:45

→ seemoon2000 : 想不到這個非常小的題目 竟然可以討論這麼多篇... 06/16 13:45

→ DarkerDuck : 是啊，所以我覺得讓外星人來評估思考能力 06/16 13:46

→ DarkerDuck : 大部分的人類群體會被歸類成不會思考的.... 06/16 13:47

→ DarkerDuck : 像是幣圈就被玩成蠢幣進化論，真是笑死外星人 06/16 13:47

推 capssan : 你說的其實就是我一直以來對這件事情的認知 06/16 13:48

→ capssan : 的確就是快思慢想的概念 06/16 13:49

推 bamama56 : 快思慢想我熟 一個靠老公亂翻的 06/16 13:49

→ haha98 : 你用啥寫啊 我用sonnet 配cursor debug 蠻強的 06/16 13:55

→ haha98 : 我現在已經不能沒有他們 06/16 13:56

→ KuRaZuHa : 靠老公接案 靠學生亂翻 就唬蘭啊 06/16 13:58

→ DarkerDuck : 現在除非公司規定，不然應該沒有程式設計師不用AI了 06/16 14:00

→ FatFatQQ : 先定義人類思考是什麼 06/16 14:01

→ DarkerDuck : 一些執行期才會發生的非重現bug還是要自己trace就是 06/16 14:03

→ DarkerDuck : 還有那種元件耦合性錯誤，AI也很難跨那麼遠去抓 06/16 14:04

推 ProTrader : 新或再優化的AI模型 肯定很多研究者投入 06/16 14:05

推 mdkn35 : 當初Manus不是炒超大的 帳號能賣好價錢 結果ㄏㄏ喔? 06/16 15:06

推 NoMomoNoLife: 是的如haha98所言，其他路線也有人在研究了。 06/16 15:06

推 traz04067 : 我們需要重新定義蘋果AI的思考 06/16 17:45