[新聞]為什麼特斯拉AI「看不出」路中央橫躺的大

原文連結： 為什麼特斯拉AI「看不出」路中央橫躺的大貨車？如果貨車車主放了三角錐或許結果會不 同 https://udn.com/news/story/7086/4606969 原文內容： 昨天上午發生特斯拉無視路中央橫躺的貨車，筆直撞上去的新聞。相信很多人都覺得很奇 怪，駕駛表示有開啟輔助駕駛系統，那麼為什麼這麼大一台貨車躺在路中央，特斯拉的AI 會完全看不見？這是怎麼回事呢？雖然目前特斯拉官方沒有說明，不過，或許我們可以從 特斯拉輔助駕駛的AI是怎麼樣「看」這個世界的原理，來試著理解一下。 能夠實現自駕車自動上路，有幾個重要的硬體搭配軟體來實現，硬體方面包括有車上的多 具攝影機、LiDAR光達系統、GPS定位系統，軟體則是利用AI技術來辨識道路上的各種狀況 。而針對「特斯拉為什麼看不到路中央橫躺的大貨車」這個問題，主要是發生在AI辨識這 個部分上，因此我們必須先理解自動駕駛的AI辨識的原理。 其實自動駕駛AI辨識的基本原理，與其它的AI影像應用差不多，基本上就是必須要先能夠 為所見到的物體進行分類，然後在辨別出所看到的各個物件是屬於哪一個類別之後，再來 判斷這個類別的這個物件，現在的狀態又是什麼。 假設你今天要丟給機器學習，讓他理解什麼是計程車，什麼是大貨車，首先當然要讓他能 夠理解什麼是「車」。可能丟給他上百張物件的照片，第一階段，先讓他學會知道有輪子 的就叫做「車」。接下來他發現車子的輪子有的有四個輪子，有的有兩個輪子，有的有八 個輪子...然後你再教它四個輪子的是小型車，兩個輪子的是機車，八個輪子的是貨車或 卡車...諸如此類一路學習下去。 以自動駕駛來說，最基本它必須要能夠辨識出路上的行人、摩托車、各式車種、交通號誌 等等，這是最基本的辨別條件，接下來就要進一步辨識出行人要行進的方向、紅綠燈的狀 態、汽車是前行還是倒退、路上的白線延伸到哪裡......諸如此類，提供給自動駕駛的大 腦進行判斷。這些都會形成一個智慧學習的資料庫。 各家的自動駕駛AI基本的原理差不多，不過當然不同的車廠各自發展的AI，就有不同的特 長。比方說，「動物」是否要加入自動駕駛能夠判斷的類別？而有人類騎在上面的單車， 又該要怎麼判別？假設馬路上跳出了一顆球，或是像前幾天我們報導的天外飛來一隻烏龜 ，你的AI要不要能夠判斷這些物體？這些就是不同的車廠對於不同的AI所進行的研發判斷 。 為什麼無法判斷是倒在地上的大貨車？ 坦白說，透過機器學習，AI是如何判斷出一輛汽車是「汽車」的過程，對於人類來說可能 很難理解，AI可能可以在很複雜的情況下，很精準的判斷出結果出來，或是可以告訴你在 路前方目前有五輛公車、三台機車、兩輛腳踏車之類的，但可能卻無法回答你一些，你一 眼看上去覺得很簡單的問題。 不過，還記得嗎？前面我們說過，AI要學會怎麼樣判斷是一台車，基本條件可能是先從有 沒有輪子開始。而現在這輛橫倒在路中央的白色大物，一開始就沒有輪子，因此AI判斷是 車子的前提馬上就不存在，因此，在AI的眼中，這並不是一台車子。 再來就是在資料庫中看看，這個白色的東西是什麼呢？很明顯這不是人類、也不是交通號 誌，這個奇怪的白色東西可能根本就不存在於特斯拉的機器學習資料庫中。畢竟特斯拉的 機器學習很可能沒有考慮過會有這麼奇怪的東西出現在馬路中央。 因此，特斯拉的確是「看不出」有輛白色的大貨車倒在路中央的。 根據報導，車主當時是站在一旁的分隔島上。如果特斯拉的輔助駕駛正常運作的話，理論 上如果車主站在這個倒下的大貨車車頂前面，特斯拉的輔助駕駛AI應該就能夠看到「有人 」出現在馬路前方，進而進行自動減速、煞車的動作。 ▲ 從監視器影片中看來，事故後方並沒有擺放三角錐等警告標誌物 當然了，如果你看過新聞報導中現場的監控畫面，特斯拉一路看起來氣勢十足地筆直往車 廂中衝入的畫面，相信你並不會建議貨車車主進行這樣「肉身擋車」的動作。 不過，車主如果有依照規定，在事故現場擺放三角錐或是警告標誌，特斯拉的AI應該是能 夠辨識出來警告標誌的，如果車主的警告標誌放的夠遠的話，特斯拉的自動駕駛應該還是 能夠及時煞住。壞就壞在看來貨車車主覺得這麼明顯的障礙物，任何「人」應該都看得到 ，而忽略了擺放警告標誌的動作。（也有可能是貨車倒成這樣，根本拿不出警告標誌出來 放） 在這裡要補充說明的是，「看不出」不代表「看不見」，特斯拉的AI系統到底看到了什麼 ，這一點在這裡就猜不出來了，但從撞上去的狀況來看，或許可能當成了普通道路或是背 景。 特斯拉輔助駕駛AI是怎麼看這個世界的？ 在兩年前，曾經有名叫verygreen 與 DamianXVI的兩位駭客，購入一套解鎖的特斯拉 Autopilot Hardware 2.5 系統，然後將它開上路上AI即時解析的畫面錄了下來，從這個 影片中，我們可以看到特斯拉的AI是怎麼看這個世界的。 https://youtu.be/_1MHGUC_BzQ 他們手動駕駛開車在法國的路上，AI純粹是用來分析道路上的物件來進行判斷。其中你可 以看到，除了用方框框出辨識出來的物件之外，特斯拉的AI還可以辨識出來有哪些地方是 汽車可以行駛的路，就用綠色的範圍覆蓋，而往前的黃色直線，代表著可行駛的車道以及 邊界。至於在人行道上的石柱、路牌、遠處的建築物等東西，基本上不屬於可行駛的範圍 、也不會移動，因此AI不予理會。 特斯拉的AI可判斷的物件還包括有「路口」，會依照路口的範圍來判斷可行進的方向，像 是到了這個T字型路口的地方，你可以從兩對黃線的方向看出，他判斷車輛可以向右轉。 如果有「物件」擋在車子前方行駛的路徑上，你會看到黃色的線會變成紅色，表示警告。 再來下面這張就特別有趣了，你可以看到在這輛車轉彎的時候，有人橫過前面的馬路，這 裡需要特別注意綠色部分可行駛的範圍，你可以看到，特斯拉的AI會依照路邊水泥判斷人 行道與馬路之間的區別，但是當有人經過馬路的時候，綠色的範圍就縮起來表示不能夠行 駛。更有趣的是，後面有一排三角錐，他也會自動判斷為不能行駛。 從這幾張圖片以及影片，或許可以協助我們更進一步的理解，為什麼特斯拉「看不出」路 中央的貨車這件事。以及如果當時車主放了三角錐，或許就可以幫助特斯拉自動駕駛辨識 出「此路不通」的原因。 《原文刊登於合作媒體T客邦 ，聯合新聞網獲授權轉載。》 心得/說明：(30字以上) 根據內文所說，不建議貨車車主肉身擋車測試 而且遇到非常規突發狀況的時候也無法判別 畢竟系統內並沒有此項數據 電腦要怎麼判斷 建議還是自己掌握路況比較實在 ＊轉錄新聞/情報，必須附上原文及網址連結及心得或意見30字(不含標點符號)＊ --
※ 批踢踢實業坊(ptt.cc), 來自: 123.51.171.8 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/car/M.1591072826.A.155.html

推 SA01: https://i.imgur.com/lN54Ml3.jpg 06/02 12:46

→ SA01: 對消費者/利害關係者而言只在乎系統能不能運作...判別精確/ 06/02 12:47

→ SA01: 精準/可靠度是開發者的事 06/02 12:47

推 arickal: 翻車後仔細觀查來車：特斯拉→plan a, 其他車→plan b 06/02 12:48

→ BITMajo: 都4三角錐的錯 06/02 12:49

推 reallocust: 就像下圍棋的阿發狗,蒐集人類的大數據夠多,才能愈來愈 06/02 12:49

→ reallocust: 強大,目前自駕系統就是沒法取代駕駛 06/02 12:49

推 whizz: 特仔：都是they的錯。 06/02 12:50

→ reallocust: 當然,現在看一堆在特斯拉上面睡覺看書的不會在意,就 06/02 12:50

→ reallocust: 用達爾文去天擇牠們就好 06/02 12:50

推 catson: 這樣直撞上去毫髮無傷也蠻猛的 06/02 12:51

→ G773: 那要看撞到什麼物體，若是車底結果就可能不一樣了 06/02 12:52

推 BITMajo: 問題是特斯拉喜歡玩壁尻，可能會牽連到其他人啊... 06/02 12:53

推 reallocust: 不用車底,如果一般海運用標準貨櫃,撞上去很難全身而退 06/02 12:53

推 SA01: 阿法狗不是餵棋譜大數據...是自己深度學習跟特斯拉目前餵資 06/02 12:54

→ SA01: 料給車子是不一樣的 06/02 12:54

→ DYE: 那貨車主在揮 特斯拉看起來也沒發現 差不多在車道上了 06/02 12:54

→ reallocust: 那冷藏貨車貨頂材質感覺連金屬都不是,裡面還有隔熱發 06/02 12:54

→ reallocust: 泡棉,完全緩衝 06/02 12:54

推 BITMajo: 海運貨櫃應該是全鐵殼吧，才能堆那麼多層 06/02 12:56

→ BITMajo: 退役以後整理一下弄成貨櫃屋還能在鄉下開咖啡廳什麼的 06/02 12:57

推 reallocust: 貨車車主在揮手,想到WRC賽道旁的觀眾,可能電腦不會判 06/02 12:57

→ reallocust: 定危險 XD 06/02 12:57

推 SA01: 對..DYE大說的我也覺得奇怪...白色背景也就算了...行人也沒 06/02 12:58

→ SA01: 看到？ 06/02 12:58

→ DYE: 貨車主如果是穿越車道的行人 這樣是來不及會撞到的 06/02 12:59

推 SA01: 特粉：以後規定行人要穿斑馬裝 XD 06/02 13:00

推 d8613518: 就說行人要在頭上頂個三角錐，特斯拉就看的見了XD 06/02 13:01

→ bluezoo: 現在AI環境辨識能力比3歲小孩還不如. 06/02 13:02

→ DYE: 還有就是 一般這樣的事故 要在事故點前擺三角反光架 06/02 13:02

→ DYE: 如果ACC運作中 無法判斷停止物 06/02 13:02

推 LebraDcup6: 一堆自以為的AI專家都出來了 笑死 06/02 13:03

→ DYE: 至少應該先做到判斷三角反光牌 06/02 13:03

推 SA01: 願請Lebra大指導羞辱推文的理盲XD。否則好像也是？ 06/02 13:04

→ DYE: 這樣至少不會造成ACC啟動中對停止車輛的追撞 06/02 13:04

噓 melic: 就貨櫃每個面都漆警示三角形就好了 油車仔就是一堆毛 06/02 13:04

推 leona12: 原來ACC是猴子看世界的程度 那難怪了 06/02 13:05

推 d8613518: 感覺特斯拉的自己沒特別厲害，只是吃定其他人腦駕駛的 06/02 13:06

→ d8613518: 車輛會閃避特斯拉的無腦行動罷了... 06/02 13:06

噓 dslite: https://youtu.be/ub-fOaRJfZI 放整排照樣輾過去 06/02 13:06

→ DYE: 另外 全封式的貨車的外殼相當薄 比海運櫃還薄 06/02 13:08

→ DYE: 我自家的車載貨的時候 裡面東西沒綁好倒下來 還撞破 06/02 13:09

推 toeic900: 不難理解呀，主人看不到ai就習得看不到 06/02 13:09

→ DYE: 但是 海運櫃也沒厚到哪去 海運櫃主要靠八個角支撐 06/02 13:10

→ DYE: 海運櫃的外皮 怎麼用也不太會凹 06/02 13:11

→ ninja9: 貨車是複合材料喔 鐵皮 0.5mm 頂多 上下夾 中間pp 材質 06/02 13:12

推 itsqwedsa: 白癡*超級智能=白癡 06/02 13:14

推 blairkimi: 這種都偵測不出來 還想上太空 06/02 13:21

推 DellSale999: AI認為貨車車主是在揮旗 Last 1 加速圈 06/02 13:22

→ albert7473: 只要在車道上 物體比底盤高 視為障礙物應停車不就好 06/02 13:23

→ albert7473: 了 06/02 13:23

推 geniusw: 我是覺得啦 人家領30萬鎂的天才正在想辦法解決 06/02 13:25

→ geniusw: 這邊不知道在幹啥的只能酸 06/02 13:25

推 BITMajo: 海運貨櫃殼有折角，應該有加強他的強度吧 06/02 13:25

→ BITMajo: 如果特斯拉的車主都只開特斯來才能開的隧道 06/02 13:26

→ BITMajo: 那大家確實是不用再酸了 06/02 13:27

推 leona12: 酸ㄧ下是為了大家好 不成熟的東西少用 06/02 13:28

推 yiyin330: scape出來解釋一下 06/02 13:28

推 a456618: 撞這種車廂能出事才有毛病吧 這都能捧 ㄏㄏ 06/02 13:28

推 SA01: 其實可能不少比例愛是酸特粉不是特車 06/02 13:29

推 seed77788: 教主還在找成功煞停的新聞，不要催 06/02 13:29

→ bmw530li: 所以以後最好不要穿白衣白褲(卡其)，不然可能會被撞死 06/02 13:36

→ bbbing: 大貨車真是不應該 06/02 13:45

推 Jeff911: 特斯拉應該要來這裡徵材的,這裡很多debug高手 06/02 13:47

推 SA01: 樓上邏輯真大是....到底特是真的不知道弱點還是？ ？？。 D 06/02 13:49

→ SA01: ebug? 已笑 06/02 13:49

推 jellytrick: 開ㄍ車還要學AI 06/02 13:51

推 wolfybae: 不管怎樣還是要注意車況才行.... 06/02 14:08

推 chandler0227: Tesla上的毫米波雷達有一定感測角度，太高可能無法 06/02 14:18

推 Windcws9Z: 沒發生車禍，他就是LV3自駕 06/02 14:32

→ Windcws9Z: 當發生車禍，他就是輔助駕駛 06/02 14:32

→ Windcws9Z: By 薛丁格的特斯拉自駕 06/02 14:32

噓 l6333133: 結論就是偉哉你特沒錯都它人錯 06/02 14:42

→ SEEDA: 貨車駕駛站旁邊都沒反應就對了，無腦推也太好笑了 06/02 15:06

推 chiguang: 數據沒有上傳啊 06/02 15:16

推 giantwinter: 可是前面是白色牆壁也應該要停巴 06/02 15:16

推 lwamp: 花大錢買了AP結果這麼大障礙物認不出來 下次升級還能再漲 06/02 15:21

→ lwamp: 價 特粉錢真好賺呀 06/02 15:21

推 youkisushe: 電腦跟人腦的差別 它可以1秒跟你講前面有幾十台什麼 06/02 15:33

→ youkisushe: 車 但是一台看起來不像正統車子的車給它10分鐘它也辨 06/02 15:33

→ youkisushe: 識不出來 06/02 15:33

推 benedict76: 一定有偵測到物體，但是這物體不在資料庫內所以選擇不 06/02 15:49

→ benedict76: 煞車。不然路上一堆物體沒在資料庫內不就一天到晚在煞 06/02 15:49

→ benedict76: 車 06/02 15:49

→ bbbing: 電腦辨識到不明物體，決定撞下去，這AI很棒XD 06/02 15:54

→ moto000: 不會自動變換車道嗎== 06/02 15:58

推 longkiss0618: 電腦判定 眼前物體不構成威脅 撞下去就對了 06/02 15:59

推 benedict76: 變換車道要fsd才有，ap不行 06/02 16:07

推 ahg: 所以會撞牆也是合理的 06/02 16:07

推 maniaque: 熊熊想到,若一個人很無聊，對著高速行駛的 Tesla 06/02 16:10

→ maniaque: 順手丟一個交通錐到Tesla將行駛到的動線上,會怎樣???? 06/02 16:10

→ maniaque: 或者是一台載滿交通錐的貨車，開在特斯拉前面 06/02 16:11

→ maniaque: 突然數十個交通錐滾下去到高速公路路面,後面就幾台 06/02 16:12

→ maniaque: 開著 AP 然後駕駛根本沒看路的 Tesla 會怎樣??? 06/02 16:12

推 benedict76: ap的話照樣撞，ap只能說就一般車廠acc功能而已。 06/02 16:17

→ ASKA: 怎麼沒人想到為什麼大貨車會橫躺在馬路中間？這合理嗎？ 06/02 16:41

→ G773: 爆胎、閃避障礙物、(扯一點)強風都有可能致使車輛翻覆呀 06/02 16:53

推 frey: 寫一堆 結果貨車駕駛是站在車道， 不是躲旁邊.. 06/02 17:13

→ frey: 然後看不懂車頂, 白牆, 然後就判定safe 開上去？ 06/02 17:14

推 Magic0312: 可是未來還是有可能會有比較啟智的特酸會無視人家車廠 06/02 17:15

→ Magic0312: 有說要注意路況這件事啊 06/02 17:15

推 discosoul: 不合理就可以撞上去嗎.. 06/02 17:23

推 Linethan: 也是AI無法判定那是danger 所以就沒有動作? 06/02 17:30

→ Linethan: 也可能是AI無法判定那是danger 所以就沒有動作? 06/02 17:31

→ Linethan: 也許AI的邏輯是 只有它偵測到危險時才會介入駕駛 06/02 17:32

→ Linethan: 但是它判定不出是否危險時就不會介入 而是讓駕駛去判斷 06/02 17:32

→ Linethan: 所以說AI只是輔助啊XD 06/02 17:33

→ ksk0516: 屁啦只有看到車才要停？ 06/02 17:37

推 aneshsiao: 特斯拉行銷過頭被神話了，賓士的自駕優於特牌很明顯 06/02 17:51

→ aneshsiao: 說不定豐田的自駕都比特斯拉好，我寧可買豐田的tss 06/02 17:52

→ bbbing: 之前強國也有人開Audi想撞展間結果被自動煞停的 06/02 18:53

→ bbbing: 靜止物品突然理所當然的變成應該撞下去XD 06/02 18:54

推 jacky2009: 這是bug 06/02 19:01

推 imtaku: 一句話，就還不行啦 06/02 19:25

推 sdd5426: 看不懂那是車子沒問題 可是怎麼樣也要認為那是牆吧 06/02 19:26

推 bod: 印象中，影像辨識要快速找到移動的物件，只會檢查連續畫面的d 06/02 20:33

→ bod: iff，所以靜止的東西會被濾掉 06/02 20:34

推 scelerisque: 這公司就是從老闆到粉粉們都愛吹牛 不意外 06/02 20:35

→ LexusNo1: 要是今天撞的是別牌，特粉會說：換成特斯拉就閃的過了。 06/02 22:48

推 n3688: 用AI捍衛路權 06/02 23:00

推 ppegg: ai駕駛出錯的機會比人類低多了。但遇到資料庫中沒有的罕見 06/03 00:44

→ ppegg: 特例就是會出包 06/03 00:44

推 kutkin: 封閉系統才可以放任的東西。 06/03 01:28