-
僅用一張貼紙就能在AI前隱身 安全監(jiān)控攝像還安全么?
關(guān)鍵字:導讀最新研究發(fā)現(xiàn),只要一張打印出來的貼紙,就能“欺騙”AI系統(tǒng),讓最先進的檢測系統(tǒng)也無法看到眼前活生生的人。該研究也可能用于現(xiàn)實的視頻監(jiān)控系統(tǒng),引起熱議。本文轉(zhuǎn)自新智元 編輯:肖琴、大明
一張貼紙讓你在AI面前”隱身“。
來自比利時魯汶大學 (KU Leuven) 幾位研究人員最近的研究發(fā)現(xiàn),借助一張簡單打印出來的圖案,就可以完美避開 AI 視頻監(jiān)控系統(tǒng)。
研究人員表示,他們設(shè)計的圖像可以將整個人隱藏起來,不會讓計算機視覺系統(tǒng)發(fā)現(xiàn)。這項研究在YOLO (v2) 的開源對象識別系統(tǒng)上進行了演示。
如上圖所示,AI 系統(tǒng)成功檢測到左邊的人,而右邊的人被忽略了。右邊的人身上掛著一塊彩色紙板,在論文中被稱為 “對抗性補丁”(adversarial patch),正是這塊補丁 “欺騙” 了 AI 系統(tǒng),讓系統(tǒng)無法發(fā)現(xiàn)畫面中還有一個人。
這種欺騙利用了一種稱為對抗性機器學習的方法。大多數(shù)計算機視覺系統(tǒng)依賴訓練 (卷積) 神經(jīng)網(wǎng)絡(luò)來識別不同的東西,方法是給它提供大量樣本,調(diào)整它的參數(shù),直到它能正確地分類對象。通過將樣本輸入一個訓練好的深度神經(jīng)網(wǎng)絡(luò)并監(jiān)控輸出,可以推斷出哪些類型的圖像讓系統(tǒng)感到困惑。
他們發(fā)表了題為 Fooling automated surveillance cameras: adversarial patches to attack person detection 的論文,并公布了用于生成圖像補丁的源代碼。
地址:
https://gitlab.com/EAVISE/adversarial-yolo
生成的補丁 (patch)能夠成功地將人在檢測器視線中隱藏起來。例如,這種攻擊可能被惡意地用來繞過監(jiān)視系統(tǒng),入侵者只要將一小塊硬紙板放在身體前面,面向監(jiān)視攝像頭,就能不被監(jiān)視系統(tǒng)發(fā)現(xiàn)。
研究結(jié)果顯示,這個系統(tǒng)能夠顯著降低人體檢測器的精度。該方法在真實場景中也能很好地發(fā)揮作用。
如下面的 demo 所示,使用 YOLOv2 檢測拍攝的錄像,畫面中人、椅子、桌子等都被準確地檢測出來,但只要拿上這塊 “補丁”,系統(tǒng)就無法檢測到人。
- 原標題:一張貼紙欺騙AI,對抗性補丁讓人類隱身,監(jiān)控攝像危險了!
- 責任編輯:李嘉
- 最后更新: 2019-04-24 18:15:17
-
人類首次檢測到火星疑似地震
2019-04-24 17:47 航空航天 -
“孫悟空”大戰(zhàn)“阿麗塔”,聯(lián)想Z6 Pro和小米9你選誰?
2019-04-24 17:20 手機 -
廈門大學成功發(fā)射一枚帶翼回收火箭
2019-04-24 15:51 航空航天 -
“吉林一號”今年新增20顆衛(wèi)星 將首次海上發(fā)射
2019-04-24 15:48 航空航天 -
中國電信率先實現(xiàn)首個5G SA語音通話
2019-04-24 14:28 5G -
SK海力士新增動產(chǎn)抵押信息 抵押金額高達35億美元
2019-04-24 14:25 -
英國將允許華為“有限”參與5G網(wǎng)絡(luò)建設(shè)
2019-04-24 10:46 -
為了京東,劉強東應(yīng)該辭去CEO
2019-04-24 09:49 互聯(lián)網(wǎng)大佬 -
聯(lián)想Z6 Pro發(fā)布,常程:手機業(yè)務(wù)對誰來說都是持久戰(zhàn)
2019-04-24 02:00 手機 -
中國空間站公開征集科學實驗和技術(shù)試驗項目
2019-04-23 17:45 航空航天 -
中國聯(lián)通5G國際合作聯(lián)盟:美日德法英等8國企業(yè)加入
2019-04-23 16:13 5G -
進軍韓國!華為下月將在首爾開設(shè)5G服務(wù)中心
2019-04-23 13:17 -
氫燃料電池“中國芯”研發(fā)獲得突破
2019-04-23 09:45 中國精造 -
華為推出“世界首款”5G車載模組
2019-04-23 09:18 -
三星:Galaxy Fold將推遲上市做進一步改進
2019-04-23 08:40 -
格芯宣布出售紐約州300mm晶圓廠,安森美4.3億美元接盤
2019-04-23 08:12 -
華為P30系列臺灣開賣,引3500人排隊搶購創(chuàng)紀錄
2019-04-22 22:24 華為 -
騰訊:登錄新游戲基礎(chǔ)準入年齡從13周歲提升至16周歲
2019-04-22 20:27 -
首款全國產(chǎn)固態(tài)硬盤控制芯片發(fā)布:讀寫速度500MB/s
2019-04-22 16:43 -
華為將為非洲國家杯推出首個5G手機網(wǎng)絡(luò)
2019-04-22 15:52
相關(guān)推薦 -
特朗普威脅巴拿馬“收回”運河,還扯上中國 評論 99被當面打臉,日鐵急了 評論 65最新聞 Hot
-
“沙特曾多次警告德國提防嫌疑人”
-
特朗普最新任命!這次包括火箭隊老板、真人秀制作人
-
巴勒斯坦三個政治派別發(fā)表聯(lián)合聲明
-
“中國在非洲真正贏得了民心,就連斯威士蘭…”
-
“日企抱團是絕望之舉,中國工廠效率質(zhì)量都是第一”
-
“中國有能力讓夢想照進現(xiàn)實,將贏得史詩般競爭”
-
被災(zāi)民暴罵到當場破防,馬克龍發(fā)飆:你該慶幸你在法國!
-
美高校敦促國際學生抓緊回來:萬一把中印拉黑名單呢
-
美國政府“逃過一劫”
-
“澤連斯基要求歐盟新外長:對華批評要降調(diào)”
-
澳大利亞來了,中國就得走人?澳總理這么回應(yīng)
-
美媒感慨:基建狂魔發(fā)力,我們又要被超越了
-
英國剛公布新任大使,特朗普顧問就痛罵:傻X
-
“來自中國的老大哥能確保我們…”
-
俄羅斯的報復(fù)來了
-
澤連斯基罵普京“傻子”,俄方怒斥
-