像中科院聲學(xué)所團(tuán)隊(duì)創(chuàng)立的聲智科技開(kāi)發(fā)了AI反詐外呼數(shù)字人，每天能撥出去六七萬(wàn)通勸阻電話；搜索巨頭百度推出基于AI技術(shù)的深偽檢測(cè)平臺(tái)，對(duì)于各種人臉識(shí)別、語(yǔ)音識(shí)別有99%以上的準(zhǔn)確率。

移動(dòng)支付巨頭支付寶最近也有大動(dòng)作。在本月的世界人工智能大會(huì)上，螞蟻集團(tuán)的“智能風(fēng)險(xiǎn)感知與響應(yīng)聯(lián)合反詐系統(tǒng)”拿下大會(huì)最高獎(jiǎng)項(xiàng)。螞蟻方面的人員向觀察者網(wǎng)表示，他們這套系統(tǒng)每天會(huì)用電話、彈窗提示、防詐騙答題等方法聯(lián)系到40萬(wàn)被認(rèn)為是電詐受害者的用戶，牽扯的金額達(dá)2千萬(wàn)，其中有8萬(wàn)用戶會(huì)收到系統(tǒng)撥出的AI電話，這種AI電話有著20%-30%的完播率，收到電話后，七八成的人會(huì)放棄當(dāng)前的轉(zhuǎn)賬、付款行為，如果是老年人，放棄轉(zhuǎn)賬的幾率可以提升到90%。

這套反詐系統(tǒng)目前已應(yīng)用于支付寶及其合作伙伴。根據(jù)螞蟻集團(tuán)發(fā)布《2021反詐騙治理年度報(bào)告》，過(guò)去一年，支付寶平臺(tái)內(nèi)詐騙案件量及欺詐資損下降約4成，其中“注銷校園貸”等新興騙局治理效果顯著，資損下降85%；AI系統(tǒng)已能自動(dòng)識(shí)別50余種詐騙手法，通過(guò)技術(shù)支持，向公安機(jī)關(guān)移交高危預(yù)警線索79萬(wàn)條，協(xié)助全國(guó)一線反詐民警勸阻保護(hù)潛在被騙資金9.9億元。

反詐AI可信嗎？

但是，將AI投入反詐“戰(zhàn)場(chǎng)”也帶來(lái)了另一個(gè)問(wèn)題——如何確保這個(gè)AI可信？

通常來(lái)講，評(píng)估AI是否可信有四點(diǎn)，即穩(wěn)定性（也叫魯棒性）、可解釋性、隱私保護(hù)和公平性。在月初世界人工智能大會(huì)的可信AI論壇上，京東探索研究院院長(zhǎng)陶大程對(duì)此做了簡(jiǎn)單的介紹，穩(wěn)定性強(qiáng)調(diào)的是AI系統(tǒng)要能夠?qū)垢黝惌h(huán)境噪聲以及外部的攻擊；可解釋性指的是AI系統(tǒng)的預(yù)測(cè)決策是否透明，能否被人們總結(jié)出來(lái)；隱私保護(hù)考慮的是AI系統(tǒng)在運(yùn)作的同時(shí)能否有效保護(hù)用戶隱私不會(huì)被泄露；公平性則是指AI在不斷區(qū)分、評(píng)判各種事物的時(shí)候是否會(huì)形成對(duì)某種標(biāo)簽甚至是人的歧視。

主辦方供圖

在反欺詐這種場(chǎng)景下，AI想讓自己可信無(wú)疑更加復(fù)雜。

清華大學(xué)網(wǎng)絡(luò)研究院特別研究員邱寒在一篇文章中指出，僅僅從支付操作本身，很難區(qū)分出是否被騙，因?yàn)橹Ц恫僮魍琴~戶本人在操作；另外，詐騙和反詐騙是一個(gè)斗智斗勇的過(guò)程，如果碰上騙子們量身定制的“劇本洗腦”，即使能夠識(shí)別與攔截單筆交易支付，受騙方往往會(huì)選擇換其他的方式繼續(xù)轉(zhuǎn)賬；不僅如此，虛擬貨幣、遠(yuǎn)程操控、云語(yǔ)音呼叫等一系列新技術(shù)的加入，往往會(huì)使反詐超越AI范疇，成為一場(chǎng)全方位的技術(shù)對(duì)決。

螞蟻集團(tuán)風(fēng)控總監(jiān)王維強(qiáng)給出了評(píng)判一個(gè)AI模型可信性的三個(gè)標(biāo)準(zhǔn)——首先看它的打擾率和準(zhǔn)確率，即不能把正常用戶判斷為風(fēng)險(xiǎn)用戶，把他們正常的交易行為給否掉；其次看它的魯棒性，也就是抗打擊能力，因?yàn)轵_子在詐騙過(guò)程中會(huì)不斷變換手法，所以一個(gè)可信AI的識(shí)別率必須要保持一個(gè)比較高的精準(zhǔn)度；最后就是可解釋性，因?yàn)橹挥蠥I的決策能夠被大家理解，那些風(fēng)險(xiǎn)用戶們才會(huì)愿意同AI系統(tǒng)進(jìn)行溝通，從而為接下來(lái)的“喚醒”做準(zhǔn)備。

王維強(qiáng)

在本屆可信AI論壇上，王維強(qiáng)再次強(qiáng)調(diào)了可解釋性的重要性，并表示除了讓人更好地理解模型，讓模型更好地理解人也是條不錯(cuò)的技術(shù)路徑。除此之外，他還提到螞蟻正在嘗試探索讓AI去學(xué)習(xí)一些邏輯，從而對(duì)用戶的交流做出一些判斷。另外，作為一家已經(jīng)將可信AI投入應(yīng)用的企業(yè)，王維強(qiáng)表示除了魯棒性、可解釋性、隱私保護(hù)和公平性，在實(shí)際應(yīng)用落地的過(guò)程中可信AI同樣離不開(kāi)數(shù)據(jù)、平臺(tái)和運(yùn)營(yíng)。

公開(kāi)信息顯示，螞蟻集團(tuán)自2015年起投入可信AI技術(shù)的研究，從2016年起搭建“可信AI”技術(shù)框架，并在同一年全面啟動(dòng)了人工智能風(fēng)控防御戰(zhàn)略。在本屆大會(huì)上，螞蟻集團(tuán)副總裁、首席技術(shù)安全官韋韜表示：“只有人工智能技術(shù)的發(fā)展和安全達(dá)到有機(jī)融合，才能以高水平安全助力高質(zhì)量發(fā)展。從螞蟻的實(shí)踐來(lái)看，推動(dòng)AI智能+專家智能的融合協(xié)同，是實(shí)現(xiàn)人工智能在高安全對(duì)抗領(lǐng)域?qū)崿F(xiàn)安全可信的關(guān)鍵路徑，”

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。