觀察員
-
僅用一張貼紙就能在AI前隱身 安全監(jiān)控攝像還安全么？
關鍵字:實驗結果：顯著降低警報，安全攝像頭還安全嗎？
通過實驗結果評估 patch 的有效性。過程與訓練過程相同（包括隨機變換），將結果應用于 Inria 測試集上來進行評估。
換句話說，研究人員提出一個問題：監(jiān)控系統(tǒng)產(chǎn)生的警報，有多少可以通過使用貼紙來規(guī)避？
上表所示為使用不同貼紙的警報觸發(fā)分析結果?？梢郧宄乜吹?，貼紙（OBJ-CLS，OBJ 和 CLS）顯著降低了警報數(shù)量。
上圖所示為在 Inria 測試集中使用不同貼紙的效果對比示例。首先將 YOLOv2 檢測器用于沒有貼 patch 的圖像中（第 1 行），然后是使用隨機貼紙（第 2 行）以及生成的最佳貼紙的效果（第 3 行）。在大多數(shù)情況下，貼紙能夠成功地將人員隱藏在探測器中。如果效果不好，則可能是貼紙沒有和人對齊。因為在優(yōu)化期間，貼紙的中心對齊是僅僅由圖像邊框確定的。
上圖測試了印刷版貼紙在現(xiàn)實世界中的效果。一般情況下，效果還是不錯的。由于上文所述的圖像訓練對齊的原因，將貼紙保持在正確位置似乎是非常重要的。
結果生成的 “補丁”，可以應用在衣服、包或其他物體上，佩戴這種 “補丁” 的人將成為隱形人 —— 使用 AI 檢測算法無法檢測到。
這種方法也可以用來隱藏某些對象。例如，如果監(jiān)視系統(tǒng)被設計為檢測物體而不是人，那么 “補丁” 也可以將汽車之類的物體隱藏起來。
可以想象，這種伎倆可以讓騙子躲避安全攝像頭。“我們的工作證明，使用對抗性補丁繞過攝像機監(jiān)控系統(tǒng)是可能的，” 作者之一 Wiebe Van Ranst。
Van Ranst 說，將這種方法應用于現(xiàn)成的視頻監(jiān)控系統(tǒng)應該不會太難?！澳壳拔覀冞€需要知道使用的是哪種檢測器。我們未來想做的是生成一個補丁，可以同時在多個檢測器上工作，” 他說。“如果這種方法有效，那么這個補丁也很有可能對監(jiān)控系統(tǒng)中使用的檢測器有效。”
當然，這個 “補丁” 目前并非萬無一失，如果它在畫面中不是清晰可見的，或者角度發(fā)生了變化，AI 系統(tǒng)都能迅速 “發(fā)現(xiàn)” 畫面中的人類。
不過，這項研究是學術界首次嘗試使用 2D 打印技術將人類從檢測系統(tǒng)中隱藏起來。之前的工作主要是使用帶有特殊框架的眼鏡來欺騙人臉識別軟件，或使用對抗樣本欺騙圖像分類系統(tǒng)，例如用一張貼紙就能令 AI 將香蕉誤認為是烤面包機，用幾張貼紙就能將自動駕駛系統(tǒng) “騙” 進反車道。
論文地址：
https://arxiv.org/pdf/1904.08653.pdf
開源地址：
https://gitlab.com/EAVISE/adversarial-yolo
- 原標題：一張貼紙欺騙AI，對抗性補丁讓人類隱身，監(jiān)控攝像危險了！
- 責任編輯:李嘉
- 最后更新: 2019-04-24 18:15:17
-
人類首次檢測到火星疑似地震
2019-04-24 17:47 航空航天 -
“孫悟空”大戰(zhàn)“阿麗塔”，聯(lián)想Z6 Pro和小米9你選誰？
2019-04-24 17:20 手機 -
廈門大學成功發(fā)射一枚帶翼回收火箭
2019-04-24 15:51 航空航天 -
“吉林一號”今年新增20顆衛(wèi)星 將首次海上發(fā)射
2019-04-24 15:48 航空航天 -
中國電信率先實現(xiàn)首個5G SA語音通話
2019-04-24 14:28 5G -
SK海力士新增動產(chǎn)抵押信息 抵押金額高達35億美元
2019-04-24 14:25 -
英國將允許華為“有限”參與5G網(wǎng)絡建設
2019-04-24 10:46 -
為了京東，劉強東應該辭去CEO
2019-04-24 09:49 互聯(lián)網(wǎng)大佬 -
聯(lián)想Z6 Pro發(fā)布，常程：手機業(yè)務對誰來說都是持久戰(zhàn)
2019-04-24 02:00 手機 -
中國空間站公開征集科學實驗和技術試驗項目
2019-04-23 17:45 航空航天 -
中國聯(lián)通5G國際合作聯(lián)盟：美日德法英等8國企業(yè)加入
2019-04-23 16:13 5G -
進軍韓國！華為下月將在首爾開設5G服務中心
2019-04-23 13:17 -
氫燃料電池“中國芯”研發(fā)獲得突破
2019-04-23 09:45 中國精造 -
華為推出“世界首款”5G車載模組
2019-04-23 09:18 -
三星：Galaxy Fold將推遲上市做進一步改進
2019-04-23 08:40 -
格芯宣布出售紐約州300mm晶圓廠，安森美4.3億美元接盤
2019-04-23 08:12 -
華為P30系列臺灣開賣，引3500人排隊搶購創(chuàng)紀錄
2019-04-22 22:24 華為 -
騰訊：登錄新游戲基礎準入年齡從13周歲提升至16周歲
2019-04-22 20:27 -
首款全國產(chǎn)固態(tài)硬盤控制芯片發(fā)布：讀寫速度500MB/s
2019-04-22 16:43 -
華為將為非洲國家杯推出首個5G手機網(wǎng)絡
2019-04-22 15:52
相關推薦 -
-
全國政協(xié)十四屆三次會議閉幕 評論 0最新聞 Hot-
歐洲多國驚覺：被美國掌握一個“致命開關”
-
對歐洲“感到憤怒”，“特朗普想把駐德美軍全撤走”
-
萬斯：親烏抗議者當街騷擾，嚇到3歲女兒
-
紐約發(fā)生多起山火，紐約州進入緊急狀態(tài)
-
特朗普威脅“不談就打”，伊朗最高領袖表態(tài)
-
“烏克蘭半瞎了，歐洲急了”
-
尹錫悅獲釋第二天，首爾10萬民眾集會游行
-
美媒哀嘆：所謂的“西方”，已蕩然無存
-
“1500億歐元貸款計劃，法德又吵起來了”
-
“看看中國高鐵再看美鐵，尬死了”
-
特朗普怒砍哥大4億美元：打擊“反猶”不給力啊
-
“特朗普想重新劃定美加邊界”
-
“魯比奧與馬斯克干架了”，特朗普忙滅火
-
“因為我是美國人，在臺積電被罵又懶又蠢”，下月開庭
-
“普京愿意，但有條件”
-
“最大受害者是波音，中國要么用國產(chǎn)，要么買空客”
-
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號-2 互聯(lián)網(wǎng)新聞信息服務許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號 互聯(lián)網(wǎng)宗教信息服務許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營許可證：（滬）字第03952號
增值電信業(yè)務經(jīng)營許可證：滬B2-20210968 違法及不良信息舉報電話：021-62376571
滬公網(wǎng)安備 31010502000027號
中國互聯(lián)網(wǎng)舉報中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報中心
