[情報] OpenAI正打造AI圖偵測器 精確度達99%

看板 C_Chat
作者 KotoriCute (乙醯胺酚)
時間 2023-10-18 16:08:35
留言 130則留言 (50推 1噓 79→)

揪出AI造假圖片!OpenAI透露正打造偵測工具 精確度99% https://udn.com/news/story/6811/7513624 開發出聊天機器人ChatGPT的OpenAI正在打造一種工具,可偵測由AI生成的影像或照片,而 且具有很高的精確度。 OpenAI技術長穆拉蒂(Mira Murati)17日表示,OpenAI的工具在判斷一張照片是否是利用A I生成可達到「99%的可靠」。她說,這項工具在規劃公開發表前正在進行內部測試,沒有具 體時間表。 穆拉蒂是與OpenAI執行長奧特曼參加華爾街日報在加州拉古納海灘舉辦的Tech Live研討會 時提及上述說法。OpenAI旗下除了有ChatGPT,也擁有影像生成工具DALL-E。 目前已經存在幾種宣稱可偵測由AI生成影像或內容的工具,但結果可能不精確。舉例來說, OpenAI在1月時推出一種類似的工具,號稱可以判斷哪些文字段落是由AI生成,然而在7月就 已下架,原因是「不可靠」。 OpenAI表示,正努力改善這款軟體,並致力於開發能判斷由AI生成的音檔或圖檔的方式。 關於這類偵測AI生成內容的工具需求正在增加,因為AI工具可被用來對全球事件進行操作或 製造假新聞。Adobe的Firefly影像生成工具則因應了另一方面的挑戰,承諾不創造侵害創作 者智慧財產權的內容。 ---- 人類繪師救星要來了嗎? 那個1%的誤判 不知道是AI圖判斷成非AI圖 還是把非AI圖判斷成AI圖 --
※ 批踢踢實業坊(ptt.cc), 來自: 111.82.128.223 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1697616517.A.BF1.html

yuherngshi: 放入coser照片掃描不知會怎樣10/18 16:10

Ceelo: 用魔法才能打敗魔法 只有ai才能抓ai圖10/18 16:10

qscgg: ai正在打造反ai偵測生成圖片 10/18 16:11

sssyoyo: 再用這個工具訓練不會被辨識出來的AI -> LOOP 10/18 16:11

kirimaru73: 99%其實拿來當證據還不太適合 10/18 16:11

x2159679: AI內戰 10/18 16:11

kirimaru73: 意思是你可以抓出99個沽名釣譽的騙子,同時把一個無辜 10/18 16:12

yuherngshi: 其實ai早變成免費素材生成工具了 原本就會畫的更愛 10/18 16:12

kirimaru73: 的老實繪師的名譽也一起毀掉 10/18 16:12

guogu: 可是之前判斷文章的就失敗了 10/18 16:12

shikao: 抱歉了1啪的繪師 請你轉行ㄅ 10/18 16:13

h0103661: 下一步就是ai生圖還會避免被偵測 10/18 16:13

kirimaru73: 本來就說自己會用的不受影響,但一定有宣稱自己沒用的 10/18 16:13

Muilie: 真.AI警察 10/18 16:13

kirimaru73: 然後狂粉和黑粉就會辛勤的全部幫你測過一輪 10/18 16:13

staristic: 以後訓練生圖的AI就會把會不會被偵測放進參數 10/18 16:14

nemuri61: 1% 繪師表示: 10/18 16:14

anpinjou: 該學習如何串通AI了嗎 10/18 16:14

roc074: 99%是要笑死人,99.9999%可能還比較保險一點。 10/18 16:14

staristic: 反偵測,反反偵測,反反反偵測,沒完沒了 10/18 16:14

HJC6666: 芙莉蓮表示: 10/18 16:14

Tsozuo: 靈魂檢測機 10/18 16:15

linzero: 99%還是要開寶箱 10/18 16:15

npc776: "宣稱" 10/18 16:17

starsheep013: 平均100張就會放一張,以AI產能來說偏弱耶 10/18 16:17

Reshiram: GAN(? 10/18 16:18

Gokudo: 下一款是反AI偵測繪圖 我知道 10/18 16:18

mrmowmow: 什麼繪師一輩子只畫一張圖? 10/18 16:20

mrmowmow: 算錯一張又怎樣 10/18 16:20

kirimaru73: 算錯一張後是黑粉的事,看黑粉想要怎麼燒 10/18 16:21

mumeisuki: 1%的直接畫一張放過程就好了吧 10/18 16:21

clothg34569: 一張就夠毀人名譽了好嗎 10/18 16:21

clothg34569: 忘記之前多少繪師被獵巫喔 10/18 16:21

clothg34569: 甚麼信誓旦旦的20年老粉專業繪師 10/18 16:21

kirimaru73: 另外還有對抗攻擊,真的夠黑的黑粉認識會拿你的圖加上 10/18 16:22

kirimaru73: 一些人眼看不到的細節,全部做成會讓AI警報大響的圖片 10/18 16:23

gura9527: 算錯一張就夠毀你名聲了好嗎 10/18 16:23

kirimaru73: 這東西最多就是當個玩具(而且已經會被有心人玩出事) 10/18 16:24

kirimaru73: 如果拿他當判官,那後果不堪設想 10/18 16:24

jqs8ah5ar: AI內戰 10/18 16:24

Duncan7406: AI摧毀繪師 反AI也摧毀繪師 10/18 16:25

dreamnook2: 聽起來不錯 10/18 16:25

Vram: 竟然用我的魔法對付我.jpeg 10/18 16:25

clothg34569: 之前不就一堆AI警察拿著AI偵測結果四處獵巫 10/18 16:25

clothg34569: 每個繪師的圖都被丟進去跑 跑出來誤暴就開始出征 10/18 16:25

kirimaru73: 更早前還有更好笑的,知名網站用人工方法篩AI 10/18 16:26

rhox: 很多AI繪圖都內建浮水印跟meta資料了 10/18 16:26

kirimaru73: 然後他們人工篩掉一個繪師的帳號,繪師不服去抗議 10/18 16:26

kirimaru73: 並且也附上證據,結果該網站審查過後回應: 10/18 16:26

kirimaru73: 我們知道你有證據,但是你可以人力化成這麼像AI的圖片 10/18 16:26

bnn: 這主要還是對抗AI生圖來造謠或換臉用的啦 10/18 16:27

kirimaru73: 我們覺得你應該檢討一下自己的問題 10/18 16:27

billy791122: 反AI圖偵測也正在研究 10/18 16:27

bnn: 二次元什麼的沒人在乎 10/18 16:27

kirimaru73: 人工審查都可以搞這種笑話了,有「工具」後還得了 10/18 16:27

likeyousmile: Ai生人修圖呢? ai生背景人畫主題呢?ai生然後人描 10/18 16:27

likeyousmile: 圖呢? 10/18 16:27

likeyousmile: 人畫圖然後用ai改姿勢呢?換衣服呢? 10/18 16:28

kirimaru73: 現實上是新聞那些問題比較嚴重,次文化比較沒人在乎 10/18 16:28

a204a218: 現在這種環境不就被一群AI狂粉樂子人搞出來的 10/18 16:28

kirimaru73: 反正那些次文化圈子中的有心人會自己引火亂燒 10/18 16:29

Bugquan: AI警察搞的吧 10/18 16:29

excia: AIAI警察 10/18 16:29

Shawn5689: 那拿普通圖來i2i一張低denoising的 會算AI圖嗎 10/18 16:31

bnn: 不過要是你手機自拍一下(手機自動AI修圖)然後被判定是AI生成 10/18 16:31

bnn: 你以後拍照也會被人家說這是AI生成不是拍到的 你拍的是假訊息 10/18 16:31

npc776: AI狂信者才不管你這麼多 問就是砸蒸汽機 10/18 16:31

rabbithouse: 怎麼有人腦補得這麼嗨啊XD 10/18 16:32

a204a218: 天天拿AI在那邊搞事,然後再來說怎麼你們都不爽AI 10/18 16:32

x2159679: 偵測工具也是ai發展的一環啊 不好嗎 10/18 16:32

bnn: 畢竟現在手機幫你修圖連月亮都幫你自動P上細節這類的太常見了 10/18 16:32

x2159679: 怎麼會有人反對偵測工具@@ 10/18 16:32

clothg34569: 因為前面幾個偵測工具 最大用途就是給 10/18 16:33

clothg34569: 樂子人拿去出征繪師阿 10/18 16:33

papertim: 用魔法打敗魔法 10/18 16:33

cow7913: 不符繪畫常規 瘋狂影射潑髒水就好了 哪需要這些 10/18 16:34

kirimaru73: 偵測工具當然是必要的研究題目,但是99%的偵測工具 10/18 16:34

kirimaru73: 真的沒什麼用,嚴格上還是必須靠人審查,但對自我要求 10/18 16:34

kirimaru73: 不嚴格的警察來說就是超好用的點火道具 10/18 16:34

clothg34569: 上次連出示圖層都還被說有繪畫嘗試的不可能這樣 10/18 16:35

pov: 生成式網路對抗 10/18 16:35

kirimaru73: 以前只是可以潑髒水,現在99%是真的可以唬到一堆民眾 10/18 16:35

xxx60133: 百分百 10/18 16:36

rufjvm12345: 再來就是反偵測 然後是反反偵測 反反反偵測 反反反反 10/18 16:36

kirimaru73: 畢竟有些人的觀點就是 99%你是個大騙子 那何必相信你 10/18 16:36

clothg34569: 以前其實準確率就99%了啦 對不額外跑後製的圖來說 10/18 16:36

x2159679: 就算真的被拿去出征也不是偵測工具的錯啊...... 10/18 16:37

x2159679: 偵測工具是無辜的 10/18 16:37

x2159679: 這是ai發展中必然的產物 10/18 16:37

clothg34569: 樓主底下說的"人類繪師的救星"這句 10/18 16:38

clothg34569: 工具當然無辜 但過去的例子這種不會成為救星 10/18 16:38

kirimaru73: 以後如果有圖片被拿來攻擊,第一個要檢查的可能是能否 10/18 16:38

kirimaru73: 證明這張圖是繪師產出後「完全無修改」的版本 10/18 16:39

kirimaru73: 因為對於一個正確率「只」有99%的模型來說 10/18 16:39

kirimaru73: 對抗攻擊有無數種手法可以拿來玩到不著痕跡 10/18 16:39

npc776: 再講下去蒸汽機警察就要出動了吧... 10/18 16:41

macocu: 工具準嗎,再來這只是給一些人確立個目標去超越而已 10/18 16:41

Flyroach: 下一步就是利用AI開發能繞過偵測是否是AI畫的圖的工具 10/18 16:45

allanbrook: 比較好奇他判斷的依據是啥 10/18 16:45

allanbrook: 算出來又再畫再輸出的他是有甚麼方法判斷 10/18 16:46

ainamk: 現代AI你大概很難弄出人類看得懂的判斷依據XD 10/18 16:47

gura9527: 判斷依據一定是史詩級的條件 人類要懂洗洗睡 10/18 16:48

x2159679: 反正我相信ai大人的判斷 10/18 16:48

ainamk: 最多只能跟你說 哪些區域比對起來比較像AI生成不像人畫的 10/18 16:48

koexe: 之前看一篇文章還有防AI的浮水印呢XD 10/18 16:50

tim5201314: 好的1%可憐蟲 10/18 16:50

shadowdio: 請相信是繪師自己畫的 不然要相信繪師說是AI畫的嗎 10/18 16:51

ainamk: 防AI浮水印是個有效果但是沒有實質意義的東西 10/18 16:51

aiqinar: 結果那1%被認證會不會被AI警察網暴的更慘 10/18 16:51

HellFly: 放整形圖會不會被偵測是AI 10/18 16:53

triplee: 不知道為什麼推文只想到繪師 覺得這工具主要還是針對真人 10/18 16:56

bobby4755: 會有人挑戰AI率99%的手繪油畫嗎 10/18 16:56

triplee: 的AI模擬畫像 因為那真的是很容易成為犯罪或謠言製造工具 10/18 16:57

clothg34569: 有沒有可能是因為這裡是C洽版 當然先討論繪師阿 10/18 16:57

skyofme: 因為跟這裡直接相關的就是批鬥畫師啊 10/18 16:59

liusean: 用AI找你的AI 10/18 16:59

jeffbear79: 99%如果是指模型的準確度蠻唬爛的,搞不好只是驗證用 10/18 16:59

jeffbear79: 的資料集99%而已 10/18 16:59

skyofme: AI圖犯罪隱患跟這邊的主題又沒啥關係 10/18 16:59

mamamia0419: 絕對不會被抓的AI圖VS絕對會抓出AI圖的AI 10/18 17:00

guogu: 之前防ai那個主要是肉眼可見 而且很容易去除 10/18 17:01

guogu: 比你加上去還快 不過還是有優點的 10/18 17:01

Annulene: 神仙對決 沒有凡人介入的空間 10/18 17:02

guogu: ai圖加上防ai圖浮水印拿去測會說不是ai圖 10/18 17:02

bobby4755: 一定會有YouTuber 交叉測試 AI狼人殺 10/18 17:04

aegisWIsL: 反ai所以要拿ai來辨識ai圖 10/18 17:04

triplee: 繪師真正面對的問題還是商業市場需求與創作被拿去訓練 10/18 17:07

triplee: 而不是AI警察 那只是社群平台的一種固有行為 主題換成AI 10/18 17:08

triplee: 罷了 所以這也無關什麼繪師救星 10/18 17:09

zizc06719: 沒100%別拿出來害人好嗎 10/18 17:10

您可能感興趣