[分享] 美國海軍陸戰隊成功騙過AI機器人系統

看板 Military
作者 mmmimi11tw (Ulana Khomyuk)
時間 2023-01-23 10:32:54
留言 100則留言 (43推 0噓 57→)

在別板看到這個有趣的實驗 如題啦 http://i.imgur.com/8d7MBF3.jpg
簡單來說就是DARPA美國國防高等計畫研究局 為了要加強AI人工智慧的系統性能 他們跟美國海軍陸戰隊進行合作 首先陸戰隊花了六天的時間在AI系統附近走來走去 以便讓工程師可以讓AI系統記錄陸戰隊員的走路模式 隨後陸戰隊隊員要試著打敗AI系統 他們把AI機器人系統放在一個道路圓環上面 然後讓陸戰隊員從足夠遠的距離盡可能的接近機器人 如果陸戰隊員碰到機器人且沒有被偵測到的話那麼隊員就獲勝 最終的結果是八個陸戰隊隊員沒有一個被AI偵測到 他們藉由非傳統形式的偽裝 也就是利用一些聰明的把戲來成功欺騙系統 其中兩個隊員翻跟斗(Somersault)翻了300公尺,從來沒有被偵測到 (也太賣力了吧) 兩個隊員躲在紙箱裡面, 而且你還可以聽到他們從頭到尾躲在裡面偷笑(Giggling) 就像卡通裡面總會有那種躲在紙箱裡面就看不到的情況 最讓人印象深刻的是有一個士兵把冷杉樹砍掉 然後扮演成一棵會走動的冷杉 你從頭到尾都看得到他在走 而且他一直在笑 AI系統表示 http://i.imgur.com/gcyTYFZ.jpg
http://i.imgur.com/AqrIHhH.jpg
http://i.imgur.com/ZgO1UTd.jpg
http://i.imgur.com/ylALe1a.jpg
為什麼會完全偵測不到陸戰隊士兵的原因 是因為工程師只給AI系統輸入正常人類走動的各種資訊 也就是說AI系統只會對人類走路的動作產生反應 所以AI系統才會判定不出來翻跟斗 躲紙箱 甚至是把自己變成樹的動作其實都是真人 而我們人類可以很輕鬆的就認出以上的動作代表的含義 這其實就是目前AI系統的不足之處 -- http://i.imgur.com/xCGOIij.jpg
--

※ 批踢踢實業坊(ptt.cc), 來自: 27.53.49.0 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Military/M.1674441177.A.A53.html

bladesinger : 重點是潛龍諜影都是真的 01/23 10:34

HarukaJ : [在此插入潛龍諜影觸發警報音效] 01/23 10:34

zerokid : 這簽名檔,是在嘲笑AI嗎XDD 01/23 10:35

adagiox : 滾300m 這是體罰嗎 01/23 10:35

cuteSquirrel: 可愛 01/23 10:38

efkfkp : 小島果然是未來人(x 01/23 10:39

kuma660224 : 所以之前吵AI萬能 我就說AI很強 但人類很賤 01/23 10:43

kuma660224 : 兵不厭詐 人類作弊 是常態 01/23 10:46

loxjjgu : 天網:感謝人類幫我debug 01/23 10:47

kuma660224 : 人類可訓練AI辨識軍人武器載具 01/23 10:50

kuma660224 : 但實戰發現看來像真貨的都是假的 01/23 10:50

kuma660224 : 看來不像的 反而都是真的 01/23 10:50

kuma660224 : 人類自己都騙來騙去 01/23 10:50

kira925 : SNAKE! 01/23 11:06

kira925 : 有趣的是 如果要訓練AI對移動箱子有反應 他就廢了 01/23 11:07

rommel1 : 加裝熱顯像儀過濾目標算了 01/23 11:12

jamie81416 : 熱顯像沒那麼屌,能穿牆的知道多貴嗎XD 01/23 11:13

Esca : 可以再練的,只是費工很多 01/23 11:16

kira925 : 那不如養個眼球Mk I還比較有用 01/23 11:16

Esca : 變成所有東西的移動模式都要練而不是單練人型 01/23 11:17

kira925 : 那 要開槍嗎? 01/23 11:17

kira925 : 會不會搞了老半天 結果只是個整天大砲打小鳥的87AI 01/23 11:18

kuma660224 : 不是練ai的問題 是規則歪掉 01/23 11:19

nanozako : (....工程師把紙箱人的data輸入進AI訓練之後...) 01/23 11:20

nanozako : AI:喔喔喔 這台FedEx裡面怎麼這麼多敵軍?來人啊~ 01/23 11:20

sunrise2003 : 蛇叔果然有所本 01/23 11:22

sa87a16 : 沒熱感應嗎 01/23 11:25

Fallanakin : 這好像op了 01/23 11:29

kuma660224 : 訓練找紙箱完 還要學草叢 大垃圾桶 油桶.... 01/23 11:33

kuma660224 : 因為人類太奸詐了 01/23 11:34

kuma660224 : AI適合辨識正常狀況 但人類可以很不正常 01/23 11:34

kuma660224 : 特斯拉自駕之前遇到”馬拉篷車”認為是卡車頭衝過 01/23 11:36

kuma660224 : 來 01/23 11:36

kuma660224 : 因為正常資料庫怎麼會有馬車在街上跑... 01/23 11:37

pondaha : Snake 01/23 11:37

utn875 : 從自駕車發展觀察,AI的瓶頸卡關很久了,機器學習 01/23 11:37

utn875 : 的各種應用也是類似情況 01/23 11:37

Playorange : 翻300公尺也太噁了吧== 01/23 11:37

gundam778 : 某蛇:戰爭變了 01/23 11:52

verdandy : 把所有人類奸巧移動方式都拿來訓練的話,到最後只 01/23 11:56

verdandy : 會變成很貴的motion sensor 01/23 11:56

linbryan : 很正常.很多監視攝影機號稱AI辨認人,車,動物.影子. 01/23 11:56

linbryan : 不會亂觸發警報.但ㄧ日常情形.快遞拿一大紙箱.就不 01/23 11:56

linbryan : 會觸發 01/23 11:56

ian41360 : 笑爛 01/23 12:08

naideath : ! 01/23 12:10

patentshit : 特斯拉或一般自駕、自動煞車系統就不認識台灣高工 01/23 12:11

patentshit : 局特有的螃蟹車,常會無減速一頭撞上去 01/23 12:11

JWpig : 回kuma 美國阿米許人多的地方像賓州 路上馬車還真 01/23 12:15

JWpig : 不少 https://i.imgur.com/uhKeRo7.jpg 01/23 12:15

semicoma : 很有趣的主題 請教個不直接相關的問題阿湯哥的rogue 01/23 12:20

semicoma : nation中有段提到無法靠正規管道入侵某個戒備森嚴的 01/23 12:21

semicoma : 場所的原因之一是ai會辨別特定人的走路習慣 因此就 01/23 12:22

semicoma : 算戴上假面具 偷到指紋或虹膜什麼的 也過不了ai檢測 01/23 12:22

semicoma : 特定人獨特的走路姿勢這關 這是現存的科技嗎? 還是 01/23 12:23

semicoma : 只是導演安排? 01/23 12:24

lchcoding : 簽名檔的貓有武俠天份哦 01/23 12:26

mmmimi11tw : 的確是有這種科技,不過沒有電影裡面這麼神奇 01/23 12:33

mmmimi11tw : Gait Recognition System這種東西主要是透過身高 頭 01/23 12:33

mmmimi11tw : 型 腿型 肌肉 關節 行走姿勢等數據進行綜合比對 01/23 12:33

mmmimi11tw : 然後再跟資料庫裡面的數據進行比對 01/23 12:33

iqeqicq : 中國有成功整合路口監視器和步態辨識 01/23 12:38

semicoma : 嗯嗯 感謝兩位 我拿關鍵字去了解一下 01/23 12:43

PHONm : 走路那個姿勢辨識也的確可以,就跟指紋辨識或筆跡 01/23 12:45

PHONm : 比對一樣,把肢體位置跟動作時間等轉成特徵值後做 01/23 12:45

PHONm : 相似度比較 01/23 12:45

semicoma : JWpig大提到的amish 核心是儘量不用現代科技 所以不 01/23 12:45

semicoma : 用電不用汽車 那就是馬車了(台灣則是山豬) 01/23 12:46

AfterDark : 馬車現代應該比車還難搞吧 真是厲害...... 01/23 12:54

n0venblue : https://i.imgur.com/gd7O5xD.jpg 01/23 12:55

CGT : 卡通裡那種拿紙袋罩頭、假裝樹木的搞笑橋段有用 XD 01/23 13:29

CGT : 不過這AI本來只訓練步態,可以加強辨識移動接近物體 01/23 13:37

geneaven : AI:幹,不講武德 01/23 14:20

onekoni : 最後弄一弄發現弄兩隻裸猿比較便宜 01/23 14:23

IMGOODYES : 乾脆把人腦做成濕體好了 01/23 14:34

kuma660224 : 辨識走路姿勢哪個 其實也是沒啥用 01/23 14:54

kuma660224 : 因為你跌倒受傷 活動姿勢就不一樣 尷尬 01/23 14:55

IMGOODYES : 如果真的只辨識正常走路的姿勢,那匍匐不就可以了? 01/23 14:57

kuma660224 : 給自己造成困擾的機率更高 01/23 14:57

kuma660224 : AI當輔助很好 但太相信它會很多問題 01/23 14:58

kuma660224 : 不是AI做不好它該做的 是人類世界太混沌奸詐 01/23 14:59

mynewid : 紙箱有分ABCㄅ 01/23 15:45

sa87a16 : 把臉遮住 學狗行走 我猜也會被判定非人類ㄅ 01/23 16:07

weimr : 人機合一才是最可怕,發揮各自的專長。 01/23 16:16

AirLee : 所以AI要能學習特徵才能持續進化阿 01/23 16:25

AirLee : 以後十年的戰爭就會走向協同AI作戰 01/23 16:26

kuma660224 : 未來還是human in loop的AI輔助用法 01/23 16:51

kuma660224 : AI整合簡化情報送給人類做處置 01/23 16:52

ewayne : 就是姿態辨識阿…不然怎麼會打滾跟套著箱子就能躲過 01/23 18:11

ewayne : ?最重要的是AI去辨識正在向AI移動的物體是人,而且 01/23 18:11

ewayne : 還是非友方,具有擊殺意義的目標? 01/23 18:11

TinCanEngine: 學狗四腳著地已經是前滾翻的預備動作,我比較懷疑 01/23 18:40

TinCanEngine: 文中的翻滾動作會不會是側滾翻 01/23 18:40

saberr33 : 我質疑 Ai判定那點 01/23 19:00

saberr33 : 現在ai會把蘋果判定成ipad 但是不會把鳳梨判定成ipa 01/23 19:01

saberr33 : d 01/23 19:01

saberr33 : 現在ai學習的方法就不是死板的規則了,而是概念 01/23 19:02

Silwez : 所以海陸走天堂路是為了騙過AI(X 01/23 19:13

verdandy : 文中的方法就是把概念模糊化,把人走路變成物體移動 01/23 20:46

verdandy : 所以AI就判定失誤了 01/23 20:47

您可能感興趣