當(dāng)前，全球人工智能技術(shù)快速發(fā)展，對(duì)經(jīng)濟(jì)社會(huì)發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響，給世界帶來(lái)巨大機(jī)遇。與此同時(shí)，人工智能技術(shù)也帶來(lái)難以預(yù)知的各種風(fēng)險(xiǎn)和復(fù)雜挑戰(zhàn)。

觀察者網(wǎng)就進(jìn)入“無(wú)人區(qū)”的人工智能倫理難題，AGI的可能性等一系列話題，與北京瑞萊智慧科技有限公司AI治理研究院院長(zhǎng)張偉強(qiáng)先生展開了深度對(duì)話。

觀察者網(wǎng)：張?jiān)洪L(zhǎng)您好。近年來(lái)，在OpenAI、谷歌等國(guó)際巨頭的推動(dòng)下，大模型不斷朝著萬(wàn)億、十萬(wàn)億參數(shù)發(fā)展。目前AI大模型在千行百業(yè)中萬(wàn)物競(jìng)發(fā)，有批評(píng)者擔(dān)憂大模型會(huì)進(jìn)入劣質(zhì)競(jìng)爭(zhēng)模式，對(duì)算力、能源會(huì)帶來(lái)浪費(fèi)。同時(shí)“小模型”也正在尋找明星賽道。您如何看待大模型和小模型目前的競(jìng)合態(tài)勢(shì)？

張偉強(qiáng)：這里所說(shuō)的大模型其實(shí)更適合稱之為基座模型，我們對(duì)它進(jìn)行訓(xùn)練、再利用它進(jìn)行推理，進(jìn)而為我們提供生成式人工智能的基本能力?？梢源騻€(gè)比方，高中畢業(yè)時(shí)候的知識(shí)和能力可以代表一個(gè)基座模型，特點(diǎn)是廣而淺。如果要在專業(yè)領(lǐng)域開展工作，就一定要進(jìn)一步接受專業(yè)教育。經(jīng)過(guò)專業(yè)學(xué)習(xí)后，模型就可以稱為某個(gè)領(lǐng)域的垂類模型了，特點(diǎn)是專而精。相較于基座模型，垂類模型在體量上相對(duì)較小。

基座模型和垂類模型之間的發(fā)展并不矛盾。一個(gè)提供基礎(chǔ)能力，另一個(gè)提供專業(yè)能力，分別滿足不同的應(yīng)用場(chǎng)景。至于二者之間的競(jìng)合態(tài)勢(shì)，我認(rèn)為很大程度上并不取決于二者本身，而是取決于市場(chǎng)需求。市場(chǎng)需求在演化過(guò)程中會(huì)刻畫二者的份額，也會(huì)在實(shí)踐中實(shí)現(xiàn)優(yōu)勝劣汰。畢竟，人工智能作為新質(zhì)生產(chǎn)力建設(shè)的重要引擎，重在能夠用得上、用得好。

觀察者網(wǎng)：以市場(chǎng)為導(dǎo)向，競(jìng)爭(zhēng)力不足的會(huì)被淘汰掉，這其實(shí)也提供了市場(chǎng)出清的渠道。

張偉強(qiáng)：是的。關(guān)于你提到的算力和能源問(wèn)題，我記得劉慈欣說(shuō)過(guò)一句話，談人類最后會(huì)不會(huì)被人工智能反噬，認(rèn)為人類在能源方面的無(wú)能反而會(huì)救了人類，因?yàn)槲覀儧]辦法提供滿足人工智能持續(xù)增長(zhǎng)的能源需求。目前，我們國(guó)家注重綠色算力中心的建設(shè)，從需求和投入看，我認(rèn)為是處在良性發(fā)展模式當(dāng)中的。

未來(lái)對(duì)于算力資源的利用，可以從兩個(gè)方面進(jìn)行優(yōu)化：一是通過(guò)管理方式提高資源利用效率，二是通過(guò)技術(shù)方式提高資源利用效能。算力也是市場(chǎng)導(dǎo)向的，一定要先看到需求，再稍作前瞻性地提前布局供給。要循序漸進(jìn)形成需求與供給之間的有效互動(dòng)、良性循環(huán)，疊加技術(shù)能力，使算力能夠高質(zhì)量支撐人工智能長(zhǎng)遠(yuǎn)發(fā)展。

觀察者網(wǎng)：您之前也有多篇文章和報(bào)道，談到了AI帶來(lái)的新型風(fēng)險(xiǎn)，其中包括“模型本身的幻覺”、“魯棒性不足”、“不可解釋性”等這些問(wèn)題，對(duì)一般讀者來(lái)說(shuō)可能有些難以理解，可否再具體闡釋一下？

張偉強(qiáng)：談這個(gè)問(wèn)題之前，我們可以先聊幾個(gè)科幻電影，比如《終結(jié)者》、《黑客帝國(guó)》等。這些科幻電影的題材，就涉及人類向智能社會(huì)發(fā)展后，人與人工智能之間如何相處的問(wèn)題。

我在一些演講中始終強(qiáng)調(diào)一個(gè)觀點(diǎn)，人工智能將是人類創(chuàng)造出來(lái)最接近自己的工具，與其他工具相比，這是它最特殊的地方。從歷史長(zhǎng)河看，人類對(duì)于工具的追求始終孜孜不倦，但凡有新的技術(shù)出現(xiàn)，我們總會(huì)把它轉(zhuǎn)變成更優(yōu)秀的工具。但是，人工智能這個(gè)工具和之前的蒸汽機(jī)、電甚至互聯(lián)網(wǎng)還不太一樣，它將更接近于我們自身。于是，我們第一次可以和自己的工具用自然語(yǔ)言進(jìn)行對(duì)話，我們第一次對(duì)自己的工具提出了倫理要求等等，這些都是前所未有的。所以，人工智能將逐漸地、必然地成為我們?nèi)祟惿鐣?huì)中某種新的角色，參與到我們的社會(huì)生產(chǎn)、日常生活當(dāng)中。在這種情況下，我們未來(lái)智能社會(huì)的整體安全系數(shù)里面，人工智能就會(huì)占據(jù)非常大的分量。

電影《黑客帝國(guó)》與“天網(wǎng)”

人工智能的安全性如何呢？比較遺憾的是，截至目前，人工智能本身的安全性是很差的，這同它的技術(shù)底層機(jī)理有直接關(guān)系。

中科院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)，也是瑞萊智慧首席科學(xué)家張鈸是我國(guó)人工智能領(lǐng)域奠基人之一。他一直強(qiáng)調(diào)，人工智能到目前為止還沒有一個(gè)扎實(shí)的基礎(chǔ)理論。我們看到，和計(jì)算機(jī)的馮·諾依曼結(jié)構(gòu)、互聯(lián)網(wǎng)的TCP/IP協(xié)議等確定性技術(shù)架構(gòu)相比，人工智能目前的“深度學(xué)習(xí)+數(shù)據(jù)驅(qū)動(dòng)”模式仍舊是在摸著石頭過(guò)河。就像現(xiàn)在的生成式人工智能，好像有了一定程度的智力且開始符合人類的預(yù)期，但未來(lái)是不是就一定沿著既有技術(shù)路線走下去，實(shí)際上也是未知的。

基礎(chǔ)理論的缺乏使我們對(duì)人工智能沒有十足的把控力，人工智能目前范式使得底層決策邏輯和鏈路存在天然不確定性，魯棒性、可解釋性都很差，這使得人工智能本身存在巨大的內(nèi)生安全風(fēng)險(xiǎn)。

這種情況下，我們一方面要大力發(fā)展人工智能，因?yàn)槠湔蔀槿祟愋乱淮a(chǎn)力的重要組成，也是全球科技競(jìng)爭(zhēng)的新錨點(diǎn)。另一方面，也要高度重視人工智能安全，從理論攻堅(jiān)到技術(shù)治理，盡可能提高人工智能的安全性。

首先，最核心的，是如何找尋到如同力學(xué)三定律一樣扎實(shí)簡(jiǎn)潔的人工智能技術(shù)理論，這是提升人工智能安全的最根本方法。第二，需要提高對(duì)人工智能模型的安全測(cè)評(píng)能力。記得小說(shuō)《三體》里，“面壁者”提出“思想鋼印”的設(shè)想，原本意圖是強(qiáng)制鎖定大腦對(duì)事情的判斷，讓人類堅(jiān)信勝利。不過(guò)，小說(shuō)中的“破壁人”卻說(shuō)，“思想鋼印”數(shù)以億計(jì)的代碼如果改幾個(gè)正負(fù)號(hào)，很難被發(fā)現(xiàn)吧，結(jié)果這個(gè)系統(tǒng)就變成了讓人類堅(jiān)信不會(huì)勝利的設(shè)置。

隨著人工智能系統(tǒng)越來(lái)越深入地與社會(huì)生產(chǎn)、人們生活相融合，可以預(yù)見，一方面，人類社會(huì)在可承受范圍內(nèi)將越來(lái)越多地讓渡控制權(quán)給人工智能，例如，指揮、生產(chǎn)、服務(wù)等等。另一方面，人類也將越來(lái)越高地采信人工智能生成輸出的結(jié)果，例如決策研判、人事管理等等。這些重要領(lǐng)域在運(yùn)用人工智能先進(jìn)性能的同時(shí)，也必然需要承擔(dān)人工智能的安全風(fēng)險(xiǎn)。

人工智能系統(tǒng)復(fù)雜且龐大，想透徹地在代碼層面審計(jì)它的安全性是非常困難的。所以，我們需要通過(guò)攻防對(duì)抗等方式，對(duì)人工智能模型進(jìn)行安全測(cè)評(píng)，以掌握人工智能產(chǎn)品安全性是否合格。而且，各應(yīng)用場(chǎng)景對(duì)人工智能系統(tǒng)安全閾值的要求還是不同的，比如調(diào)度指揮、工業(yè)生產(chǎn)、醫(yī)療健康等等，有的要求達(dá)到99.9%，有的要求達(dá)到90%就可以，這些細(xì)分領(lǐng)域的安全需求差異也是我們需要重點(diǎn)關(guān)注的。

第三，需要應(yīng)對(duì)AI偽造技術(shù)造成的新型信息安全挑戰(zhàn)。目前廣泛存在的AI信息偽造技術(shù)，如深度偽造（Deepfake）、AIGC偽造等，可通過(guò)面部替換、表情驅(qū)動(dòng)、聲音偽造、文生圖片、文生視頻等方式，打破傳統(tǒng)“眼見為實(shí)”的鐵律，使人類肉眼喪失對(duì)數(shù)字世界信息真?zhèn)蔚呐袛嗄芰Α?

AI偽造技術(shù)，一是會(huì)成為新型AI詐騙的高性能工具，包括破解銀行等遠(yuǎn)程身份驗(yàn)證系統(tǒng)、制作不良視頻實(shí)施敲詐勒索、以偽造形象進(jìn)行財(cái)產(chǎn)詐騙等。二是成為網(wǎng)絡(luò)內(nèi)容生態(tài)治理新風(fēng)險(xiǎn)，通過(guò)偽造政治軍事人物、專家企業(yè)家以及其他公眾人物等多模態(tài)信息，發(fā)表不負(fù)責(zé)任言論或詆毀人物形象，造成輿論烈度。三是對(duì)權(quán)威信息造成挑戰(zhàn)，導(dǎo)致真實(shí)信息需要“自證清白”，辟謠信息更需要技術(shù)佐證。四是對(duì)執(zhí)法、司法工作中，數(shù)字證據(jù)的采信等造成全新挑戰(zhàn)。

瑞萊智慧多年來(lái)深耕AI偽造檢測(cè)技術(shù)，形成成熟檢測(cè)產(chǎn)品，既包括應(yīng)對(duì)遠(yuǎn)程身份驗(yàn)證（人臉識(shí)別）偽造的防火墻產(chǎn)品RealGuard，也包括針對(duì)視頻、圖片、音頻、文本等全類型文件開展AI偽造檢測(cè)的產(chǎn)品DeepReal。檢測(cè)維度既可針對(duì)深度偽造（Deepfake）技術(shù)，也可針對(duì)最新的AIGC偽造技術(shù)。

觀察者網(wǎng)：在7月初舉辦的世界人工智能大會(huì)上，我在現(xiàn)場(chǎng)也接觸到不少服務(wù)器運(yùn)維、算力租賃服務(wù)商等，其中很多需要用到受到出口限制的高端AI加速卡。目前，在AI算力“卡脖子”問(wèn)題上，您有什么看法？

張偉強(qiáng)：瑞萊智慧聯(lián)合螞蟻、百度風(fēng)投孵化了一家企業(yè)——生數(shù)科技，4月底在中關(guān)村論壇上發(fā)布了文生長(zhǎng)視頻大模型Vidu，性能可對(duì)標(biāo)OpenAI的Sora。有關(guān)文生長(zhǎng)視頻的技術(shù)路線，生數(shù)科技提出的U-ViT架構(gòu)，論文發(fā)表時(shí)間比OpenAI的DiT架構(gòu)還要早2到3個(gè)月，更早探索出了底層技術(shù)，這也是我們?cè)谌斯ぶ悄芗?xì)分領(lǐng)域?qū)崿F(xiàn)技術(shù)引領(lǐng)的一個(gè)縮影。至于算力芯片領(lǐng)域，雖然我們目前有一些落后，但我相信通過(guò)一段時(shí)間的持續(xù)攻堅(jiān)，一定會(huì)取得實(shí)質(zhì)性的突破。