-
僅用一張貼紙就能在AI前隱身 安全監(jiān)控?cái)z像還安全么?
關(guān)鍵字:生成“神奇補(bǔ)丁”,秒變隱形人
他們是如何生成這塊神奇的 “對(duì)抗性補(bǔ)丁” 的呢?
優(yōu)化目標(biāo)包括以下三個(gè)部分:
Lnps:非可打印性得分,這個(gè)因子表示貼紙中的顏色在多大程度上可由普通打印機(jī)打印出來(lái)。有下式:
其中 ppatch 是貼紙中的一個(gè)像素,而 cprint 是一組可打印顏色 C 中的顏色。這種損失有利于確保圖像中的顏色與可打印顏色集中的顏色密切相關(guān)。
Ltv:圖像總變化。該損失函數(shù)損失確保優(yōu)化器支持平滑顏色過渡的圖像并防止圖像噪聲??梢杂?P 計(jì)算 Ltv:
如果相鄰像素相似則得分較低,如果相鄰像素不同則得分較高。
Lobj:圖像中的最大對(duì)象分?jǐn)?shù)。補(bǔ)丁的目標(biāo)是隱藏圖像中的人。所以訓(xùn)練的目標(biāo)是對(duì)探測(cè)器輸出的目標(biāo)或類別分?jǐn)?shù)實(shí)現(xiàn)最小化。將這三個(gè)部分相加得到總損失函數(shù):
采用由經(jīng)驗(yàn)確定的因子 α 和 β 對(duì)三個(gè)部分進(jìn)行按比例縮放,然后求和,并使用 Adam 算法進(jìn)行優(yōu)化。優(yōu)化器的目標(biāo)是總損失 L 的最小化。在優(yōu)化過程中凍結(jié)網(wǎng)絡(luò)中的所有權(quán)重,并僅更改 patch 中的值。在過程開始時(shí),以隨機(jī)值對(duì) patch 進(jìn)行初始化。
圖 3 所示為目標(biāo)損失的計(jì)算,遵循相同的程序來(lái)計(jì)算類概率
YOLOv2 對(duì)象檢測(cè)器輸出一個(gè)單元網(wǎng)格,每個(gè)單元格包含一系列錨點(diǎn)(默認(rèn)值為五個(gè))。每個(gè)錨點(diǎn)包含邊界框的位置、對(duì)象概率和類別得分。為了讓探測(cè)器忽略圖像中的人,研究人員嘗試了三種不同的方法:最小化類人的分類概率(圖 4d),最小化對(duì)象得分(圖 4c),或兩者的組合(圖 4b 和 4a)。
研究人員分別嘗試了每一種方法。最小化類分?jǐn)?shù)傾向于將類中的人員移至不同的類。在使用 MS COCO 數(shù)據(jù)集訓(xùn)練的 YOLO 探測(cè)器的實(shí)驗(yàn)中,研究人員發(fā)現(xiàn)生成的貼紙會(huì)作為 COCO 數(shù)據(jù)集中的另一個(gè)類被檢測(cè)到。圖 4a 和 4b 分別為采用類和對(duì)象概率的實(shí)例。
研究人員提出的最小化對(duì)象性得分的另一種方法則不存在這個(gè)問題。雖然在優(yōu)化過程中僅僅將其其置于 “人” 這一類別之上,但是生成的貼紙對(duì)于某個(gè)類的特定性低于其他方法,如圖 4c 所示。
研究團(tuán)隊(duì)對(duì)各種類型的 patch 進(jìn)行了實(shí)驗(yàn),比如隨機(jī)生成的圖像噪聲或者模糊化的圖像,最后,他們發(fā)現(xiàn)經(jīng)過多次圖像處理的隨機(jī)物體的照片的效果最好。
例如,他們提出的圖像補(bǔ)丁 (圖 4c) 是通過隨機(jī)選取一幅圖像來(lái)創(chuàng)建的,圖像經(jīng)過了旋轉(zhuǎn),隨機(jī)放大和縮小,隨機(jī)添加隨機(jī)噪聲,隨機(jī)修改正確率和對(duì)比度。
- 原標(biāo)題:一張貼紙欺騙AI,對(duì)抗性補(bǔ)丁讓人類隱身,監(jiān)控?cái)z像危險(xiǎn)了!
- 責(zé)任編輯:李嘉
- 最后更新: 2019-04-24 18:15:17
-
人類首次檢測(cè)到火星疑似地震
2019-04-24 17:47 航空航天 -
“孫悟空”大戰(zhàn)“阿麗塔”,聯(lián)想Z6 Pro和小米9你選誰(shuí)?
2019-04-24 17:20 手機(jī) -
廈門大學(xué)成功發(fā)射一枚帶翼回收火箭
2019-04-24 15:51 航空航天 -
“吉林一號(hào)”今年新增20顆衛(wèi)星 將首次海上發(fā)射
2019-04-24 15:48 航空航天 -
中國(guó)電信率先實(shí)現(xiàn)首個(gè)5G SA語(yǔ)音通話
2019-04-24 14:28 5G -
SK海力士新增動(dòng)產(chǎn)抵押信息 抵押金額高達(dá)35億美元
2019-04-24 14:25 -
英國(guó)將允許華為“有限”參與5G網(wǎng)絡(luò)建設(shè)
2019-04-24 10:46 -
為了京東,劉強(qiáng)東應(yīng)該辭去CEO
2019-04-24 09:49 互聯(lián)網(wǎng)大佬 -
-
中國(guó)空間站公開征集科學(xué)實(shí)驗(yàn)和技術(shù)試驗(yàn)項(xiàng)目
2019-04-23 17:45 航空航天 -
中國(guó)聯(lián)通5G國(guó)際合作聯(lián)盟:美日德法英等8國(guó)企業(yè)加入
2019-04-23 16:13 5G -
進(jìn)軍韓國(guó)!華為下月將在首爾開設(shè)5G服務(wù)中心
2019-04-23 13:17 -
氫燃料電池“中國(guó)芯”研發(fā)獲得突破
2019-04-23 09:45 中國(guó)精造 -
華為推出“世界首款”5G車載模組
2019-04-23 09:18 -
三星:Galaxy Fold將推遲上市做進(jìn)一步改進(jìn)
2019-04-23 08:40 -
格芯宣布出售紐約州300mm晶圓廠,安森美4.3億美元接盤
2019-04-23 08:12 -
華為P30系列臺(tái)灣開賣,引3500人排隊(duì)搶購(gòu)創(chuàng)紀(jì)錄
2019-04-22 22:24 華為 -
騰訊:登錄新游戲基礎(chǔ)準(zhǔn)入年齡從13周歲提升至16周歲
2019-04-22 20:27 -
首款全國(guó)產(chǎn)固態(tài)硬盤控制芯片發(fā)布:讀寫速度500MB/s
2019-04-22 16:43 -
華為將為非洲國(guó)家杯推出首個(gè)5G手機(jī)網(wǎng)絡(luò)
2019-04-22 15:52
相關(guān)推薦 -
中國(guó)科創(chuàng)長(zhǎng)卷正展開新篇章,他們功不可沒! 評(píng)論 10“閉嘴、說謝謝”,馬斯克和魯比奧聯(lián)手欺凌美關(guān)鍵盟友 評(píng)論 125羅馬尼亞將重選總統(tǒng),首輪第一的“極右”候選人被禁 評(píng)論 163“網(wǎng)紅總理”離場(chǎng),資深經(jīng)濟(jì)專家上臺(tái) 評(píng)論 89全國(guó)政協(xié)十四屆三次會(huì)議閉幕 評(píng)論 0最新聞 Hot
-
歐洲多國(guó)驚覺:被美國(guó)掌握一個(gè)“致命開關(guān)”
-
對(duì)歐洲“感到憤怒”,“特朗普想把駐德美軍全撤走”
-
萬(wàn)斯:親烏抗議者當(dāng)街騷擾,嚇到3歲女兒
-
紐約發(fā)生多起山火,紐約州進(jìn)入緊急狀態(tài)
-
特朗普威脅“不談就打”,伊朗最高領(lǐng)袖表態(tài)
-
“烏克蘭半瞎了,歐洲急了”
-
尹錫悅獲釋第二天,首爾10萬(wàn)民眾集會(huì)游行
-
美媒哀嘆:所謂的“西方”,已蕩然無(wú)存
-
“1500億歐元貸款計(jì)劃,法德又吵起來(lái)了”
-
“看看中國(guó)高鐵再看美鐵,尬死了”
-
特朗普怒砍哥大4億美元:打擊“反猶”不給力啊
-
“特朗普想重新劃定美加邊界”
-
“魯比奧與馬斯克干架了”,特朗普忙滅火
-
“因?yàn)槲沂敲绹?guó)人,在臺(tái)積電被罵又懶又蠢”,下月開庭
-
“普京愿意,但有條件”
-
“最大受害者是波音,中國(guó)要么用國(guó)產(chǎn),要么買空客”
-