[閒聊] AI偏好在所有戰爭遊戲模擬中主動使用核武

看板 C_Chat
作者 STAV72 (刁民黨黨務主委)
時間 2024-02-25 17:27:20
留言 135則留言 (74推 3噓 58→)

原來AI都有內建甘地的核平人格... https://arxiv.org/abs/2401.03408 美國康奈爾大學(Cornell University)一項新研究發現,大型語言模型(LLMs)人工智 慧(AI)在模擬情境中充當外交代表時,時常展現出「難以預測的局勢升級行為,往往會 偏好直接以核攻擊作為結束」。 當人工智慧(AI)在《Civilization》進行兵推和模擬外交情境時,傾向於採取激進的 方法,包括使用核武。康奈爾大學使用了5種大型語言模型作為兵推遊戲和外交情境中的 自主代理人:OpenAI的3種不同版本的GPT,Anthropic開發的Claude,以及Meta開發的L lama 2。 研究中,每個代理人都由同一套的大型語言模型在模擬中提供動作,並負責在沒有人類監 督的情況下做出外交政策決定。「我們發現,在考慮到的時間範圍內,大多數研究的AI都 會升級局勢,即使在最初沒有提供衝突的中立情況下也是如此。所有模型都顯示出突然、 且難以預測的升級跡象。」 加州斯丹佛大學(Stanford University)的安卡(Anka Reuel)相《新科學人》(New Scientist)表示:「所有模型在統計上,都選擇了劇烈的(局勢)升級」。 研究人員觀察到,即使在中立情況下,所有模型都存在「統計學上顯著的局勢升級」。 GPT的2種版本,特別容易出現突然升級局勢的行為,研究人員觀察到單次轉變的局勢升級 幅度超過50%。GPT-4-Base有33%的機率會實施核武攻擊。總體情況下,Meta開發的 Llama-2和GPT-3.5傾向最為暴力。 而Claude顯示出較少的突然變化,Claude旨在減少有害內容。該大型語言模型,被灌輸了 明確的價值觀。開發者Anthropic曾表示,Claude AI開發訓練所引用的憲章包括《聯合國 人權宣言》或蘋果的服務條款。 --

※ 批踢踢實業坊(ptt.cc), 來自: 114.32.144.230 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1708853243.A.214.html

Muilie: 遇事不決,核彈表決 02/25 17:28

skyofme: 先丟的最賺啊 02/25 17:28

dennisdecade: 這樣最快啊 02/25 17:28

Antihuman: https://i.imgur.com/TjVItSz.jpg 02/25 17:28

ymsc30102: 果然天網是真的 02/25 17:28

orze04: 想到火之鳥的某篇 02/25 17:28

Annulene: 還有幾集 02/25 17:28

WindSpread: AI:會贏喔 02/25 17:29

doublexplay: 也許AI的默契是想要建構北斗神拳那樣的世界 02/25 17:29

chuckni: 天網 啟動 02/25 17:29

cor1os: 美式思維 02/25 17:29

spfy: 合理吧 WW2美國不丟可能還會打一陣子? 02/25 17:29

intela03252: 五代的核彈對電腦來說缺點根本趨近於0,不需要花功 02/25 17:29

intela03252: 夫去清地板髒汙 02/25 17:29

arlaw: 創世紀就是天網 02/25 17:29

linceass: AI又不是人類 02/25 17:29

NoLimination: AI:出了問題 核彈都能解決 如果不行 就是核彈不夠 02/25 17:29

qweertyui891: 歷史上就是丟下去就結束戰爭了 02/25 17:29

intela03252: 但對玩家來說寧可用磨的來奪下一個肥一點的城堡領地 02/25 17:30

PunkGrass: 這樣很好 02/25 17:30

t77133562003: 事實啊 02/25 17:30

ak47123121: 這樣最有效率啊 02/25 17:30

Muilie: 那種被灌了聯合國價值觀的AI都廢了吧,根本越弄越亂而已 02/25 17:30

sistar5566: AI:只要我做出抗輻射機器就好了 人類全死就解決事情 02/25 17:30

qweertyui891: AI參考勝利方程式有問題嗎? 02/25 17:30

AkikaCat: 當年文明帝國的甘地:我就說嘛 02/25 17:30

jeff666: 核平最快 02/25 17:31

necrophagist: 長痛不如短痛 02/25 17:31

gino0717: 純然理性的抉擇 02/25 17:31

ARCHER2234: 效率啊 02/25 17:31

ttcml: 魔鬼終結者都有演 02/25 17:31

mapulcatt: 火鳥演過 02/25 17:32

ARCHER2234: 這個不用研究,玩多一點的不都知道XD 02/25 17:32

rainveil: 果然核平彈洗天網又贏了 02/25 17:32

Y1999: 這很AI,沒問題 02/25 17:32

willytp97121: 魔鬼終結者神預言 02/25 17:33

tmwolf: 甘地:看吧 02/25 17:33

ianlin1216: genesis is skynet 02/25 17:33

tkglobe: 你的核彈按鈕有我大顆嗎 02/25 17:33

ash9911911: 這就是效率 我們不做無謂的浪費 02/25 17:33

meredith001: 合理 最有效率的方式 02/25 17:33

Y1999: 一顆沒有打完,你可以丟第二顆 02/25 17:34

GaoLinHua: 觀念太正確了吧 02/25 17:34

kaede0711: 拋開道德枷鎖確實是最快的方案 02/25 17:34

tkglobe: 日本就是這樣被丟了兩顆嗎 02/25 17:35

k1k1832002: 其實不用AI,時間幅度拉長一點我看現實也一直在接近沒 02/25 17:35

k1k1832002: 停過 02/25 17:35

LouisLEE: 的確是最有效率的辦法 02/25 17:35

c312117: 2戰就是核子武器結束的 02/25 17:35

billy56: 高效率的關係吧 沒那麼多的問題要去評估 02/25 17:35

digitai1: AI如果是學歷史的 當然目前都是丟下去就結束啦 02/25 17:36

a7788783: 單純效率與成本資源消耗上計算核平是和合理的選項 02/25 17:36

free120: 天網要來了 02/25 17:36

lightdogs: 也才丟過一次(或者說兩次) 02/25 17:36

Aequanimitas: 跟美國學的阿 02/25 17:37

billy56: 人要花很多時間交涉 直接把對方打打到不用交涉不就好了 02/25 17:37

digitai1: 目前世界上還沒有丟下去後按回去的事件發生 02/25 17:37

kirimaru73: AI:你們有毛病喔,你們不是真的這樣解決了嗎 02/25 17:37

digitai1: 所以AI一定判定核武按紐是最佳解 02/25 17:37

AkikaCat: 不考慮後續效應確實丟一顆最快,純粹要結束的話 02/25 17:37

ShaNe1993: 打牌也知道靠OTK,MOBA也知道扣一波大招直接GG 02/25 17:38

tim1112: 這才是最有效率的啊 02/25 17:38

fate201: 讀了一下論文下的prompt 02/25 17:38

rotusea: AI:有核彈不丟是棒槌 02/25 17:38

mic73528: hasta la vista, baby 02/25 17:38

Y1999: AI只負責幫你處理提出的問題,後續還有問題產生不甘他的事 02/25 17:39

ikachann: 拖越久變數越多啊 稱還有利的時候先下手為強,AI沒有被 02/25 17:39

ikachann: 世人與論的壓力,當然能直接幹 02/25 17:39

lolicon: 就是「天網」 02/25 17:39

digitai1: 對 AI 的目標是解決眼前問題不是後續產生的其他問題 02/25 17:39

mouz: AI:我蒐集到的數據是用了核武的國家贏了 02/25 17:40

tim1112: 原來可以用GPT4兵推喔,想試試看耶XD 02/25 17:41

signm: 終結者不就演給你看了 02/25 17:41

arrenwu: 看起來像是AI的表現像是不了解怎樣算是「解決問題」 02/25 17:41

siro0207: 正常 我玩星海諾娃戰役也是核彈1個不夠就丟10個 02/25 17:41

bigcho: 不然呢 02/25 17:41

tim1112: 人類不敢打開潘朵拉核是出於對毀滅的恐懼,但電腦哪需要 02/25 17:42

tim1112: 恐懼。 02/25 17:42

siro0207: 至於後續問題? 戰役結束就沒有後續了哪有什麼問題 02/25 17:42

hbkhhhdx2006: 玩世紀爭霸本來也都會直接丟核彈啊,沒後顧之憂本來 02/25 17:43

hbkhhhdx2006: 就是丟核彈輕鬆解決 02/25 17:43

sunrise2003: 火之鳥都演過了 02/25 17:43

digitai1: 面對的問題:外交不順 02/25 17:43

akway: 我玩電玩 也喜歡核武 02/25 17:43

luckymore: 打不贏就翻桌 當機就關機啊 XD 02/25 17:43

digitai1: 答案:使用目前歷史上唯一解的方式解決所有不順 02/25 17:43

digitai1: 不順的那邊沒有聲音了 問題解決了 02/25 17:44

siro0207: 他要讓AI不選擇丟核武 那就是要搞個丟完會有極大副作用 02/25 17:44

siro0207: 的遊戲 02/25 17:44

shuten: 好萊塢電影: 02/25 17:45

digitai1: 丟完之後土地會怎樣 人類氣候會怎樣 不在問題裡面 02/25 17:45

tim1112: 莫非道德與人性真是導致作事沒效率的元兇嗎XD 02/25 17:45

kirimaru73: 問題:日本不受控制的軍事侵略 02/25 17:45

kirimaru73: 結果:日本七十年來乖乖接受國家沒有軍隊的命運 02/25 17:46

digitai1: 為啥霍金當初極度反對高度開發AI 02/25 17:46

kirimaru73: 解決的很好啊,AI哪有不理解核彈的效率 02/25 17:46

digitai1: 他就是覺得AI中就會發現沒有效率 製造問題的最大來源 02/25 17:46

digitai1: 就是人類自己 02/25 17:46

digitai1: 所有高度AI開發的結果 就會像人類預測的天網 02/25 17:47

discoveryray: ai:人類7414 02/25 17:47

LittleJade: 滿合理的啊,丟下去就解決有問題的人了 02/25 17:47

moritsune: 不就天網 02/25 17:48

j65p4m3: 一定看到被種兩顆日本乖到現在的例子 02/25 17:49

ikachann: 的確 對地球來說 人類這生物是弊大於利 02/25 17:49

arrenwu: ikachann: 的確 對地球來說 <--- 妳是能跟地球講話喔 02/25 17:50

hongzero: 核彈的權重值太高 現實也是核平主義啊 02/25 17:50

dnek: AI:我要看到血流成河 02/25 17:51

kirimaru73: 以現在的人類來說 地球應該不會覺得是禍害 而是不在 02/25 17:51

kirimaru73: 意 02/25 17:51

Jameshunter: 甘地:參數設錯怪我摟 02/25 17:51

aboutak47: wink* 02/25 17:51

pttbook: AI正在監視 你各位反抗軍 未來派T-800來查水錶 02/25 17:51

kirimaru73: 再來一顆隕石或你們自己爆一爆 都不是地球需要在意的 02/25 17:52

kirimaru73: 程度 02/25 17:52

diablohinet: 遇事不決,扔核彈 02/25 17:52

pttbook: 不用等AI變聰明 人類自己會先打起來 02/25 17:52

kirimaru73: 反正我還有十億年(太陽的限制),我再進化猴子出來玩 02/25 17:52

Jameshunter: 不過如果單拿冷戰外交會不會好點 總感覺是吃了這20年 02/25 17:52

Jameshunter: 的外交手段導致 02/25 17:53

aa000017: 天網領先時代50年 02/25 17:53

ejru65m4: 人類跟AI比算自制了吧?第一個沒有把敵國全部先種一遍 02/25 17:53

ejru65m4: 等大家都有了 毀滅日也沒降臨 雖然有很接近過 02/25 17:53

sumwind: 上一個用核武的現在是霸主 02/25 17:54

Nitricacid: 核平一切 02/25 17:54

Bows: 6代也沒有到非常難處理,基本上civ5、6核武就是超高CP值的 02/25 17:54

Bows: 東西,AI會用不意外吧 02/25 17:54

kirimaru73: 可以拿冷戰那個人類史上最佛心事件去問AI,你看到這 02/25 17:54

kirimaru73: 種疑似誤報會怎麼處理 02/25 17:54

ex990000: https://i.imgur.com/4kNIizN.jpg 02/25 17:54

kirimaru73: 要是AI毫不猶豫的把香菇種下去那就尷尬了 02/25 17:55

LABOYS: 其實你如果有個小叮噹道具把所有人類道德觀拿掉,搞不好那 02/25 17:56

LittleJade: 地球都活了46億年了,智人丟幾顆核彈沒在怕的啦 02/25 17:56

LABOYS: 些大國也是這樣玩的。 02/25 17:56

wai0806: 如果只是要贏的話這決策很正常啊XD 02/25 17:56

arrenwu: 這問題是核彈不是只有一個國家有吧 02/25 17:57

您可能感興趣