【文/觀察者網(wǎng)專欄作者 熊節(jié)】

5月14日，為落實(shí)中美元首舊金山會(huì)晤共識(shí)，兩國代表在瑞士日內(nèi)瓦舉行中美人工智能政府間對(duì)話首次會(huì)議，就人工智能科技風(fēng)險(xiǎn)、全球治理以及各自關(guān)切的其他問題進(jìn)行交流。

據(jù)《華盛頓郵報(bào)》報(bào)道，美方參加此次會(huì)談的主要代表，包括國務(wù)院關(guān)鍵技術(shù)和新興技術(shù)代理特使Seth Center博士（曾擔(dān)任白宮國家安全委員會(huì)的國家安全戰(zhàn)略和歷史主任）、國家安全委員會(huì)技術(shù)與國家安全高級(jí)主任Tarun Chhabra（曾在白宮國家安全委員會(huì)擔(dān)任戰(zhàn)略規(guī)劃主任和人權(quán)與國家安全問題主任、以及兩任國防部長的演講稿撰寫人）。

美聯(lián)社的分析認(rèn)為，美方在這次會(huì)議中的主要目標(biāo)是“一窺中國政府對(duì)人工智能的想法”、“就如何提高人工智能的安全性展開坦誠討論”，尤其是“人工智能被武器化”的風(fēng)險(xiǎn)。兩名主要代表的身份背景可以說驗(yàn)證了這一分析。

中美舉行人工智能政府間對(duì)話首次會(huì)議

美國政府對(duì)AI風(fēng)險(xiǎn)的認(rèn)知，在去年11月30日拜登總統(tǒng)發(fā)布的《關(guān)于人工智能的安全、可靠、可信發(fā)展和使用的總統(tǒng)令》中有集中的闡述。從這份總統(tǒng)令及白宮的官方解讀中可以看到，美國在AI領(lǐng)域的擔(dān)憂包括以下幾方面：

1.關(guān)鍵基礎(chǔ)設(shè)施中使用AI的安全、可靠和可信，以及由于不安全、不可靠、不可信的AI可能導(dǎo)致的化學(xué)、生物、輻射、核、及賽博風(fēng)險(xiǎn)。

2.利用AI研發(fā)危險(xiǎn)生物材料的風(fēng)險(xiǎn)。

3.利用AI生成內(nèi)容（AIGC）欺詐或制造假新聞的風(fēng)險(xiǎn)。

4.美國人隱私數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

5.AI制造或強(qiáng)化社會(huì)既有歧視（尤其是種族歧視）的風(fēng)險(xiǎn)。

6.AI造成工作環(huán)境惡化、工作機(jī)會(huì)減少的風(fēng)險(xiǎn)。

7.美國失去AI領(lǐng)域全球領(lǐng)先地位的風(fēng)險(xiǎn)。

從上述7個(gè)方面的風(fēng)險(xiǎn)評(píng)估中可以看到，拜登政府最重視的風(fēng)險(xiǎn)，還是AI被假想中的敵國武器化、對(duì)美國國家安全造成危害的可能性，體現(xiàn)了美國近幾年來一貫的對(duì)抗思維模式。不過這些風(fēng)險(xiǎn)評(píng)估倒也不是完全空穴來風(fēng)。

以“利用AIGC制造假新聞”為例，就在最近，在一條快速爆火的短視頻中，白宮發(fā)言人讓-皮埃爾在新聞發(fā)布會(huì)面對(duì)記者提問時(shí)，聲稱“二戰(zhàn)是美國和烏克蘭聯(lián)合起來打擊希特勒和斯大林的戰(zhàn)爭(zhēng)”。但很快這條視頻就被證實(shí)是利用AI技術(shù)偽造的：白宮新聞發(fā)布會(huì)并未提及這個(gè)話題，發(fā)言人也從未做過這番論述。據(jù)說這條視頻最初開始在互聯(lián)網(wǎng)上流傳時(shí)配了俄語字幕，因此有人懷疑是俄羅斯制造的假新聞。

隨著Deepfake等利用人工智能偽造視頻的技術(shù)日益成熟，類似的偽造名人、政治家發(fā)言的視頻也越來越多。不僅普通網(wǎng)民難辨真假，連媒體也時(shí)常上當(dāng)受騙。前面所說的這條短視頻在互聯(lián)網(wǎng)上流行以后，我國幾家主流媒體的視頻號(hào)也相繼轉(zhuǎn)發(fā)，并配上了中文字幕。

AIGC制造的白宮發(fā)言人讓-皮埃爾假新聞

另一方面，核實(shí)視頻信息也確實(shí)并不容易。近兩天中文互聯(lián)網(wǎng)上又在流傳一條題為“特朗普正式支持TikTok，向封禁TikTok宣戰(zhàn)”的短視頻，筆者認(rèn)為也很有人工智能偽造的嫌疑，但尚無法驗(yàn)證。人工智能技術(shù)的發(fā)展使炮制這樣的假視頻、假新聞變得特別容易，確實(shí)構(gòu)成了對(duì)社會(huì)秩序的威脅。

為了應(yīng)對(duì)這些風(fēng)險(xiǎn)，拜登政府采取的首要措施，就是加強(qiáng)政府對(duì)AI領(lǐng)域相關(guān)企業(yè)的監(jiān)管與合作。白宮對(duì)總統(tǒng)令的官方解讀開篇第一條就強(qiáng)調(diào)，要求“最強(qiáng)大的AI系統(tǒng)向美國政府分享其安全測(cè)試的結(jié)果及其他關(guān)鍵信息”，并提出：根據(jù)《國防生產(chǎn)法》（Defense Production Act），總統(tǒng)令要求開發(fā)任何對(duì)國家安全、國家經(jīng)濟(jì)安全或國家公共健康和安全構(gòu)成嚴(yán)重風(fēng)險(xiǎn)的基礎(chǔ)模型的公司，在訓(xùn)練模型時(shí)必須通知聯(lián)邦政府。

《國防生產(chǎn)法》是1950年9月8日美國國會(huì)為了入侵朝鮮而頒布的法律，立法通過之后一周，美軍就在仁川大規(guī)模登陸。這項(xiàng)法律對(duì)軍事物資和設(shè)施的生產(chǎn)及分配進(jìn)行國家管制，在入侵朝鮮和冷戰(zhàn)期間對(duì)美國軍工復(fù)合體的快速發(fā)展和高效運(yùn)轉(zhuǎn)發(fā)揮了重要作用。拜登政府援引這項(xiàng)法律監(jiān)管AI行業(yè)，很明顯已經(jīng)將AI視為未來戰(zhàn)爭(zhēng)中的重要資源，并進(jìn)一步明確幾家主要的AI企業(yè)在軍事-工業(yè)-情報(bào)-科技復(fù)合體中的重要地位。

總統(tǒng)令提出的另一項(xiàng)措施也很值得關(guān)注：建立一個(gè)先進(jìn)的網(wǎng)絡(luò)安全計(jì)劃，開發(fā)人工智能工具來發(fā)現(xiàn)和修復(fù)關(guān)鍵軟件中的漏洞。正如筆者在此前的一篇文章中介紹過的，軟件產(chǎn)品中絕大部分、經(jīng)常多達(dá)99%的代碼是以依賴的形式引入的，廠商自主編寫的代碼通常只占整個(gè)軟件的1%左右。一個(gè)典型的現(xiàn)代商用軟件通常會(huì)依賴幾千、上萬個(gè)開源組件，其中任何一個(gè)組件被發(fā)現(xiàn)安全漏洞，都可能給整個(gè)系統(tǒng)造成損害。

據(jù)實(shí)時(shí)通信軟件Telegram的創(chuàng)始人Durov披露，美國政府曾試圖說服一名Telegram的員工在代碼中使用某個(gè)特定的開源庫——這個(gè)開源庫很可能已經(jīng)被美國情報(bào)機(jī)構(gòu)滲透，任何使用該開源庫的軟件就會(huì)無聲無息地向美國政府打開“后門”。

不難想象，如果某個(gè)國家的情報(bào)機(jī)構(gòu)掌握了大量尚未被IT業(yè)界知悉的安全漏洞，它就會(huì)獲得大量機(jī)會(huì)侵入全世界的互聯(lián)網(wǎng)系統(tǒng)，進(jìn)行大范圍監(jiān)聽、甚至進(jìn)行網(wǎng)絡(luò)破壞。而使用AI來輔助發(fā)現(xiàn)關(guān)鍵軟件中的漏洞，很有可能將獲得這種可利用的漏洞的機(jī)會(huì)提高一到兩個(gè)數(shù)量級(jí)。打個(gè)形象的比喻，這個(gè)所謂“先進(jìn)的網(wǎng)絡(luò)安全計(jì)劃”，就是一個(gè)現(xiàn)代網(wǎng)絡(luò)戰(zhàn)爭(zhēng)的智能化軍工廠，源源不斷地產(chǎn)出可以用于入侵?jǐn)硣W(wǎng)絡(luò)的武器。

2023年10月30日，美國總統(tǒng)拜登在華盛頓白宮簽署人工智能監(jiān)管行政令。新華社發(fā)（亞倫攝）

整個(gè)總統(tǒng)令中幾乎沒有提到AI與傳統(tǒng)產(chǎn)業(yè)的結(jié)合，這一點(diǎn)也并不出人意料。在整體去工業(yè)化的大背景下，美國的AI產(chǎn)業(yè)發(fā)展高度虛擬化，與實(shí)體產(chǎn)業(yè)結(jié)合很少。然而總統(tǒng)令中有一處AI與實(shí)體產(chǎn)業(yè)的結(jié)合點(diǎn)，應(yīng)當(dāng)引起注意：防范利用人工智能設(shè)計(jì)危險(xiǎn)生物材料的風(fēng)險(xiǎn)。

今年4月29日，白宮宣布相關(guān)政府部門已經(jīng)“建立核酸合成篩選框架，以幫助防止濫用人工智能設(shè)計(jì)危險(xiǎn)生物材料”、“商務(wù)部還努力與私營部門合作，制定技術(shù)指南以促進(jìn)實(shí)施”、“各部門將要求接受政府資助的項(xiàng)目實(shí)施方，只能從經(jīng)過篩選的供應(yīng)商處獲得合成核酸”。

解讀一下，上面這幾句官樣文字透露出的信息就是：已經(jīng)有企業(yè)在利用人工智能“設(shè)計(jì)危險(xiǎn)生物材料”了，并且政府將一方面限制其他企業(yè)進(jìn)入這一領(lǐng)域、另一方面指定相關(guān)的政府采購只能在有限的企業(yè)范圍內(nèi)選擇。簡而言之，已經(jīng)有“設(shè)計(jì)危險(xiǎn)生物材料”的企業(yè)被納入了軍工復(fù)合體?？偨y(tǒng)令中的相關(guān)內(nèi)容，很有可能就是這家/這些企業(yè)推動(dòng)寫入的。聯(lián)系到美國過去包庇731部隊(duì)?wèi)?zhàn)犯、接收日本細(xì)菌戰(zhàn)資料、在朝鮮戰(zhàn)場(chǎng)進(jìn)行細(xì)菌戰(zhàn)、在德特里克堡研制生物武器等行徑，AI在這一領(lǐng)域的應(yīng)用著實(shí)令人擔(dān)憂。

總統(tǒng)令中也提到了一些過去十多年來反復(fù)被提及的國內(nèi)問題，例如種族歧視、勞工待遇、教育、系統(tǒng)性剝削、歧視性執(zhí)法等。早在AI技術(shù)取得大發(fā)展之前，美國已有很多有識(shí)之士批評(píng)互聯(lián)網(wǎng)和大數(shù)據(jù)會(huì)固化并加劇這些社會(huì)問題。但掌控著數(shù)字空間的幾家“科技巨頭”（如Google、Facebook等）對(duì)學(xué)界和民間的批評(píng)一貫置若罔聞。例如2018年，“Data for Black Lives”組織的創(chuàng)始人Milner以公開信形式呼吁Facebook與該組織合作，解決Facebook平臺(tái)上存在的系統(tǒng)性種族歧視問題，但Facebook對(duì)此沒有任何回應(yīng)。

到2021年，發(fā)表在《華盛頓郵報(bào)》的一篇文章指出，F(xiàn)acebook的仇恨言論檢測(cè)算法顯然仍存在嚴(yán)重的種族歧視：針對(duì)猶太人的刻板印象和仇恨言論會(huì)被該平臺(tái)禁止，而針對(duì)黑人和有色族裔的誹謗和種族主義語言則不被懲罰?，F(xiàn)在，掌握AI技術(shù)的是同樣的幾家科技巨頭，他們是否會(huì)在拜登總統(tǒng)令的號(hào)召下整改這些已經(jīng)被批評(píng)了十多年的問題，筆者對(duì)此并不樂觀。

從去年11月的總統(tǒng)令之后，美國政府展現(xiàn)出了很強(qiáng)的執(zhí)行力：多個(gè)政府部門加大了招聘AI人才的力度，并開設(shè)了“ai.gov”網(wǎng)站專門跟蹤匯總“確保美國在安全、可靠、可信的人工智能創(chuàng)新方面處于領(lǐng)先地位，在利用人工智能機(jī)遇的同時(shí)降低其風(fēng)險(xiǎn)”相關(guān)的信息?？偨y(tǒng)令頒布后的90天（1月29日）和180天（4月29日），白宮分別公布了相關(guān)項(xiàng)目的進(jìn)展情況，列出了各部門已完成的數(shù)十項(xiàng)任務(wù)。鑒于美國政府一貫以公私協(xié)作的方式開展工作，筆者認(rèn)為這反映出幾家AI科技巨頭企業(yè)正在積極地向政府施加影響。

據(jù)筆者了解，我國對(duì)于AI潛在風(fēng)險(xiǎn)的認(rèn)知與美方大同小異。但在實(shí)際的風(fēng)險(xiǎn)應(yīng)對(duì)和產(chǎn)業(yè)促進(jìn)的措施上，兩國就體現(xiàn)出了很大的差異。

美國一邊宣稱要避免AI武器化，一邊積極地將科技企業(yè)納入軍事-工業(yè)-情報(bào)-科技復(fù)合體、將AI技術(shù)納入未來戰(zhàn)爭(zhēng)武器庫——我們當(dāng)然還記得，Google是如何與美國軍方緊密合作，F(xiàn)acebook又是如何積極干預(yù)多個(gè)國家的政治。

而中國的AI戰(zhàn)略則更注重賦能實(shí)體經(jīng)濟(jì)，成為推進(jìn)現(xiàn)代化產(chǎn)業(yè)體系建設(shè)、發(fā)展新質(zhì)生產(chǎn)力的動(dòng)力。這也解釋了為何我國官方對(duì)大模型、AIGC的態(tài)度相對(duì)冷淡，因?yàn)樯形纯吹侥芰奶斓腃hatGPT、能畫畫的Midjourney、能做視頻的Sora究竟應(yīng)當(dāng)如何轉(zhuǎn)化為工業(yè)、農(nóng)業(yè)的新質(zhì)生產(chǎn)力，盡管這些工具顯然在意識(shí)形態(tài)戰(zhàn)場(chǎng)上很有轉(zhuǎn)化為新一代武器的潛力。對(duì)于AI可能引發(fā)的國內(nèi)社會(huì)問題，我國也通過《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等監(jiān)管措施嘗試解決。但由于兩國社會(huì)制度的重大差異，這些國內(nèi)經(jīng)驗(yàn)在多大程度上對(duì)美國有參考借鑒意義尚且存疑。

基于如此差異巨大的出發(fā)點(diǎn)，美國業(yè)內(nèi)專家對(duì)此次中美人工智能政府間對(duì)話期望不高，認(rèn)為這很可能只是雙方互相認(rèn)識(shí)的一次會(huì)議，可能不會(huì)產(chǎn)生什么具體結(jié)果，只是啟動(dòng)相關(guān)對(duì)話。

避免AI被武器化、釋放AI對(duì)人類生產(chǎn)力的促進(jìn)作用、共同解決AI帶來的社會(huì)問題，這是全世界都期望看到的進(jìn)展，也是中美兩個(gè)最重要的數(shù)字科技強(qiáng)國不可回避的責(zé)任。如果美國能放下對(duì)抗心態(tài)，真誠地與中國開展合作，而不是試圖獨(dú)占AI武器、率先占據(jù)未來戰(zhàn)爭(zhēng)的優(yōu)勢(shì)地位，那將對(duì)AI發(fā)展歷程發(fā)揮很大的正面作用。但是，從現(xiàn)有的種種跡象來看，筆者對(duì)美國政府的覺悟并不樂觀。

本文系觀察者網(wǎng)獨(dú)家稿件，文章內(nèi)容純屬作者個(gè)人觀點(diǎn)，不代表平臺(tái)觀點(diǎn)，未經(jīng)授權(quán)，不得轉(zhuǎn)載，否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn，每日閱讀趣味文章。