【文/觀察者網(wǎng) 王愷雯】商業(yè)巨頭亞馬遜2016年推出圖像識別AI系統(tǒng)“Rekognition”，還積極向美國警方推銷以幫助其辦案。不過近日，“Rekognition”卻鬧了一個大烏龍：28名美國國會議員被它識別成了罪犯。

這一錯誤也讓發(fā)起這項測試、反對警方使用“Rekognition”的美國公民自由聯(lián)盟（ACLU）抓到把柄，他們表示，測試結果引起了民眾對警方使用該系統(tǒng)的嚴重擔憂。

被“Rekognition”誤識別成罪犯的28名議員  圖自ACLU網(wǎng)站

7月26日，ACLU在其網(wǎng)站披露：該組織對“Rekognition”進行了測試，結果系統(tǒng)錯誤地將28名國會議員識別為曾因犯罪而被捕的人員。

這些被誤認為是罪犯的議員來自美國各州，無論黨派。不過，女性只占一人，有色人種占40%，其中6人為黑人。

ACLU稱，他們使用的系統(tǒng)與亞馬遜向公眾提供的系統(tǒng)無異，整個測試花費了12.33美元（約合84元人民幣）

他們建立了一個擁有2.5萬張公開罪犯照片的數(shù)據(jù)庫，然后把國會參眾兩院所有現(xiàn)任議員的照片交給“Rekognition”處理，看2.5萬張照片中是否有照片與國會議員匹配，結果有28張匹配。

“Rekognition”操作步驟  圖自ACLU網(wǎng)站

“Rekognition”是亞馬遜在2016年推出的圖像識別AI系統(tǒng)，據(jù)亞馬遜官網(wǎng)介紹，“Rekognition” 能夠為用戶提供的圖像和視頻提供高度準確的面部分析和面部識別功能。用戶可以檢測、分析和比較各種使用案例中的面孔，包括用戶確認、人員計數(shù)和公共安全。

值得注意的是，亞馬遜頗為積極地向美國司法部門和警方推銷“Rekognition”，此舉引發(fā)美國民眾強烈不滿，認為這侵犯了人的隱私權，或會帶來歧視。

ACLU稱，被識別為罪犯的28名議員中，40%是有色人種，然而國會議員中有色人種的比例僅為20%。

這也證實了今年5月國會“黑人核心小組（Congressional Black Caucus）”給亞馬遜CEO杰夫·貝佐斯（Jeff Bezos）信中的擔憂：黑人、非法移民和抗議者可能會面臨監(jiān)視。

亞馬遜CEO杰夫·貝佐斯  圖自CNBC

ACLU表示，如果執(zhí)法部門使用“Rekognition”，不難想象警察會得到一個與罪犯“匹配”的人像，從而導致警察在執(zhí)法前就對其產(chǎn)生“偏見”。

“無論準確與否，這樣的識別都可能讓人們失去自由甚至生命。有色人種已經(jīng)不成比例地受到警察的傷害，‘Rekognition’顯而易見會加劇這種情況……最近舊金山警察攔住一輛車，拷住一名黑人婦女強迫她跪在槍口下，就是因為自動車牌識別系統(tǒng)誤認為她的車是偷來的。”

該組織還稱，面部識別可能會威脅到美國憲法第一修正案所保護的行為，例如參與抗議活動或宗教活動；也可能讓移民受到美國政府進一步的虐待。

“這也正是為什么亞馬遜員工、股東、近70個人權組織，超過400名學術界人士和超過15萬民眾已經(jīng)站出來，要求亞馬遜停止向政府提供人臉識別監(jiān)控的原因。”

ALCU最后呼吁國會認真對待這個問題，頒布法案暫停使用面部識別執(zhí)法，直到充分考慮其危害并采取有效措施來制止對民眾的威脅。

另據(jù)美國科技媒體網(wǎng)站“The Verge”報道，這次烏龍事件發(fā)生后，已有3名被誤認為罪犯的議員對此做出回應。

馬薩諸塞州參議員愛德華·馬基（Edward Markey）、伊利諾伊州眾議員路易斯·古蒂爾茲（Luis Gutiérrez）和加利福尼亞州眾議員馬克·索尼爾（Mark DeSaulnier）致信亞馬遜CEO貝佐斯，要求其提供使用“Rekognition”技術執(zhí)法機構的完整名單，并詢問對13歲以下兒童的保護措施。

“人們對面部識別可能對隱私權和公民權利造成的危害表示嚴重關切，” 信中寫道，“尤其是當它被用作政府監(jiān)視的工具時?！?

本文系觀察者網(wǎng)獨家稿件，未經(jīng)授權，不得轉(zhuǎn)載。