編者按：從硅谷到華強(qiáng)北，從莫斯科到以色列，從實(shí)驗(yàn)室到辦公室，從課堂到戰(zhàn)場，全球人工智能（AI）技術(shù)飛速發(fā)展，等不及人們爭論出個(gè)結(jié)果，就已經(jīng)快速應(yīng)用到人類世界的方方面面。

AI治理課題隨之變得極為緊迫和現(xiàn)實(shí)。

日前，中國向聯(lián)合國大會(huì)提交的“加強(qiáng)人工智能能力建設(shè)國際合作決議”，獲得美國聯(lián)署，獲得通過。兩個(gè)大國在AI問題上攜起手來，促進(jìn)全人類共享智能紅利。

這是中國在AI治理問題上推動(dòng)全球合作的最新進(jìn)展。

2023年10月，習(xí)近平主席宣布中國提出《全球人工智能治理倡議》，愿同各國加強(qiáng)交流和對(duì)話，共同促進(jìn)全球人工智能健康有序安全發(fā)展。

今年5月，習(xí)近平主席在法國進(jìn)行國事訪問期間，與馬克龍總統(tǒng)共同發(fā)布《中法關(guān)于人工智能和全球治理的聯(lián)合聲明》。

今年2月，印尼在全球人工智能倫理論壇上提出了在全球人工智能治理時(shí)要考慮到“全球南方”，國際社會(huì)大多數(shù)的聲音，也應(yīng)認(rèn)真傾聽。

面對(duì)這一全球挑戰(zhàn)，中國是何立場，有何抓手？如何平衡斗爭與團(tuán)結(jié)？應(yīng)當(dāng)依靠誰，團(tuán)結(jié)誰？科工力量與華東師范大學(xué)國際傳播研究院全球南方研究中心主任熊節(jié)進(jìn)行了深入探討，以下是此次對(duì)話實(shí)錄：

科工力量：對(duì)全球AI治理來說，AI武器化可能是我們面臨的顯性問題，AI武器化有哪些途徑？

熊節(jié)：在我們不久前的探討中，參考了美國去年11月由拜登總統(tǒng)所發(fā)布的《關(guān)于人工智能的安全、可靠、可信發(fā)展和使用的總統(tǒng)令》及白宮的解讀。

2023年11月，美國總統(tǒng)拜登簽署了《關(guān)于人工智能的安全、可靠、可信發(fā)展和使用的總統(tǒng)令》（Executive Order on the Safe,Secure,and Trustworthy Development and Use of Artificial Intelligenc）。新華網(wǎng)

我們之所以借鑒美國的觀點(diǎn)，是因?yàn)槊绹谌斯ぶ悄芗夹g(shù)方面最為先進(jìn)；同時(shí)，歷史上，美國在將科學(xué)技術(shù)武器化方面也處于領(lǐng)先地位。因此，我們應(yīng)該首先參考美國的思路，了解他們?nèi)绾慰创@一問題。

從總統(tǒng)令中，我們可以看到幾個(gè)主要方向：第一種是人工智能對(duì)關(guān)鍵基礎(chǔ)設(shè)施的影響，可能產(chǎn)生交通、能源、化學(xué)、生物、輻射和數(shù)字空間等領(lǐng)域的影響。隨著整個(gè)社會(huì)的數(shù)字化程度越來越高，基礎(chǔ)設(shè)施越來越多地采用計(jì)算機(jī)數(shù)字化管理，人工智能的應(yīng)用也在增加，數(shù)字世界的攻防戰(zhàn)一直持續(xù)不斷，在人工智能被引入后，對(duì)抗性會(huì)更強(qiáng)。

第二種是利用人工智能進(jìn)行危險(xiǎn)生物材料研發(fā)的風(fēng)險(xiǎn)。這一點(diǎn)在拜登總統(tǒng)令中被特別強(qiáng)調(diào)，必須引起我們注意。解讀中提到，政府采購需要與私營部門合作，列出篩選后的供應(yīng)商清單。我們從中可以推斷，美國不但已有廠商在進(jìn)行相關(guān)工作，而且這些廠商希望通過影響政策來壟斷相關(guān)業(yè)務(wù)，防止其他企業(yè)介入。這些企業(yè)的活動(dòng)內(nèi)容值得我們深入關(guān)注。

由于現(xiàn)階段蛋白質(zhì)合成技術(shù)在很大程度上依賴于“窮舉法”，而人工智能無疑能大幅提高這一過程的效率和準(zhǔn)確性。如果這種技術(shù)被用于危險(xiǎn)目的，比如戰(zhàn)爭，那么它也能大幅提高生物武器的制造效率。鑒于美國在這方面的歷史記錄并不良好——德特里克堡生物實(shí)驗(yàn)室曾經(jīng)接受日本731部隊(duì)的所謂科研成果，并且曾在朝鮮戰(zhàn)場、越南戰(zhàn)場多次使用生化武器，這一點(diǎn)必須警惕。

位于美國馬里蘭州的德特里克堡生物實(shí)驗(yàn)室中新網(wǎng)

第三點(diǎn)是利用AI生成內(nèi)容來制造欺詐和假新聞的風(fēng)險(xiǎn)。以前，造謠傳謠主要是通過文字內(nèi)容，如今配合人工智能深度偽造等相應(yīng)技術(shù)，現(xiàn)在視頻造假內(nèi)容也越來越多。我們已經(jīng)看到，宣傳戰(zhàn)、輿論戰(zhàn)都是美國混合戰(zhàn)爭的關(guān)鍵組成部分，人工智能技術(shù)將在其中發(fā)揮重要作用。

科工力量：類比“核俱樂部”、“太空俱樂部”，現(xiàn)在美國明顯正在努力推動(dòng)“AI俱樂部”，您認(rèn)為AI武器化能否成功？

熊節(jié)：我認(rèn)為一定會(huì)成功。從最初的木棒到后來的各種技術(shù)，人類有一種不好的傳統(tǒng)，那就是將一切能夠武器化的東西都武器化。另外，如果與“核俱樂部”相對(duì)防止了核擴(kuò)散的情況相比，我覺得AI大模型的擴(kuò)散是更令人擔(dān)憂的問題。當(dāng)初，核武器的出現(xiàn)，很快就形成了一種“末日威懾”，相比之下，AI的武器化在單次打擊的毀滅力上沒有那么強(qiáng)，因此其帶來的恐懼心理相對(duì)較低，但另一方面，AI的可獲得性卻比核武器大大提高，軟件可以零成本復(fù)制，大模型復(fù)制起來可能稍微困難一些，但最多也只需處理幾百GB的數(shù)據(jù)，如今要控制一個(gè)AI大模型的擴(kuò)散幾乎是不可能的，各種犯罪團(tuán)體、極端主義團(tuán)體都可能獲得大模型。

ChatGPTpixabay

科工力量：包括中國在內(nèi)的南方國家怎么應(yīng)對(duì)？

熊節(jié)：7月1日，第78屆聯(lián)合國大會(huì)通過了一份重要決議《加強(qiáng)人工智能能力建設(shè)國際合作決議》，這份決議由中國主提，140多國參加決議聯(lián)署。

7月1日，聯(lián)合國通過《加強(qiáng)人工智能能力建設(shè)國際合作決議》現(xiàn)場中國日?qǐng)?bào)

這份決議強(qiáng)調(diào)人工智能發(fā)展應(yīng)堅(jiān)持以人為本、智能向善、造福人類的原則，鼓勵(lì)通過國際合作和實(shí)際行動(dòng)幫助各國特別是發(fā)展中國家加強(qiáng)人工智能能力建設(shè)，增強(qiáng)發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)，倡導(dǎo)開放、公平、非歧視的商業(yè)環(huán)境，支持聯(lián)合國在國際合作中發(fā)揮中心作用，實(shí)現(xiàn)人工智能包容普惠可持續(xù)發(fā)展，助力實(shí)現(xiàn)聯(lián)合國2030年可持續(xù)發(fā)展議程。

這與將AI武器化、用于謀求霸權(quán)地位的立場和做法形成鮮明對(duì)比。

從社會(huì)主義新中國立場和傳統(tǒng)出發(fā)，我們的態(tài)度是，不追求武器化，但不放棄武器化。我們不會(huì)主動(dòng)侵略或欺負(fù)別國，但要維持和平，首先需要有斗爭的能力，武器是這種能力的重要部分，如果沒有武器化的能力，就可能面臨挨打的風(fēng)險(xiǎn)。

技術(shù)上，數(shù)字世界的攻防往往是一體的，我們需要的是堅(jiān)固的“盾”，但前提是擁有足夠鋒利的矛，才能幫助我們識(shí)別和防范各種高度動(dòng)態(tài)化的威脅。如果我們想要促進(jìn)賽博空間的和平，其方式可能不是通過每個(gè)國家都擁有最強(qiáng)的武器來形成相互威懾，而是通過普及更有效的防范措施，讓所有國家都能受益，這樣，AI武器可能就難以發(fā)揮作用了。

pixabay