【提問環(huán)節(jié)】

觀眾：兩位老師好，主持人好，我叫王洪丹，畢業(yè)于香港大學(xué)，同樣是一名互聯(lián)網(wǎng)從業(yè)人員。剛剛兩位老師多次提到人工智能是一把雙刃劍，今年未來科學(xué)研究所也發(fā)表一篇公開信，呼吁所有的人工智能實(shí)驗(yàn)室停止訓(xùn)練比ChatGPT4更強(qiáng)大的人工智能模型。一方面是擔(dān)憂人工智能可能會產(chǎn)生一些誤導(dǎo)性信息，另一方面是擔(dān)憂人工智能有可能會超越我們?nèi)祟惖乃季S，甚至是取代它。在這樣一個人工智能發(fā)展的時代下，安全和公眾的信任接下來將如何發(fā)展呢？謝謝。

張教授：我個人感覺大概這樣的，可能有點(diǎn)像核能、原子彈發(fā)展的歷史。當(dāng)核能開始發(fā)展的時候，大家相當(dāng)積極，但產(chǎn)生原子彈后大家非常悲觀，包括愛因斯坦，他的理論為此作出過貢獻(xiàn)，但他呼吁一定要停止核武器，他變成反戰(zhàn)的和平運(yùn)動創(chuàng)始人之一。

你剛才講的科學(xué)家們的呼吁，我完全可以理解。但是我自己研究國際政治和國際關(guān)系，我的判斷是說不定人類還得走過去核武器發(fā)展的老路，還是大家不得不發(fā)展，不得不競爭。

你看最近的報道，英國跟美國在談要在今年下半年在英國開一個人工智能國際會議，他們明確地說，要趕在中國人之前制定規(guī)則，要讓所謂的“民主國家”團(tuán)結(jié)在一起。當(dāng)然，我認(rèn)為這將是徒勞無益的，因?yàn)橹袊绹呀?jīng)處在第一方陣。但我擔(dān)心最終還是要通過這樣的競爭，經(jīng)過摩擦、斗爭、交鋒到一個點(diǎn)上，人類智慧和理性才會回來。就跟核武器一樣，甚至已經(jīng)使用過了，最后超級大國之間、核武器國家之間才通過談判達(dá)成各種各樣的、比如核裁軍協(xié)議等等，但執(zhí)行時候還會碰到很多困難。在人工智能領(lǐng)域內(nèi)，我們可能也會經(jīng)歷這么一個跌宕起伏的過程?？傊也皇鞘謽酚^。

今年3月，圖靈獎得主Yoshua Bengio、伯克利計算機(jī)科學(xué)教授Stuart Russell、特斯拉CEO埃隆·馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak 等在內(nèi)的數(shù)千名對人工智能關(guān)注的人士發(fā)起一封公開信，呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的系統(tǒng)，期限為六個月，理由是這些模型對社會和人類存在潛在風(fēng)險。

孫教授：我同意張教授的判斷。這個事不以人的意志為轉(zhuǎn)移，除非全球形成共識，否則停不下來。因?yàn)樯婕暗絿腋偁?，甚至是終極競爭，通用人工智能還只是在一個很初級的階段。現(xiàn)在我們擔(dān)心什么？按它的算法，它現(xiàn)在這個能力都不應(yīng)該有。但它有了這個能力，就怕模型再做大以后會產(chǎn)生別的東西。

主持人：更何況萬一迭代的速度越來越快。

孫教授：對。我剛才演講專門講了不確定性和確定性并存。當(dāng)前程不明確的時候，大家一定想要去一探究竟，這里邊主要的動力其實(shí)是來自科學(xué)、科學(xué)研究。因?yàn)樽寵C(jī)器具有智能，初心實(shí)際上是來自科學(xué)。所以科學(xué)家就會往前走，但是他走到那一步，必然會影響社會，必然會影響產(chǎn)業(yè)，這件事就復(fù)雜化了。

張教授：這個點(diǎn)還沒有到，人類就是這樣前進(jìn)的。我想到德國哲學(xué)家康德說過一句名言，大意是誰都知道戰(zhàn)爭不好，和平好。但最終可能還是要通過無數(shù)的戰(zhàn)爭才能實(shí)現(xiàn)和平，所以他認(rèn)為人應(yīng)該有智慧直接擁抱和平，而不是通過戰(zhàn)爭。但遺憾的是人類歷史往往不是這樣發(fā)展的。

這是很有哲理的。我希望我們?nèi)祟惖闹腔勰軌蛟缫稽c(diǎn)覺悟到這一點(diǎn)，然后形成共識一起來做事情，用中國人的智慧趨利避害，我們要超前十年、二十年、三十年把問題看清楚想清楚。

觀眾：兩位老師好，主持人好，我叫劉浩，是一位科技行業(yè)的創(chuàng)業(yè)者?，F(xiàn)在世界各國都認(rèn)識到人工智能是關(guān)系到國家競爭和戰(zhàn)略博弈的一個關(guān)鍵因素，但是也沒有形成一個統(tǒng)一的治理模式。我的問題就是現(xiàn)在像歐盟、美國他們有怎樣的規(guī)范和治理？如何更好地推動人工智能技術(shù)在多元文化中的交流，謝謝。

張教授：很多差別已經(jīng)明顯存在了。我們過去討論人權(quán)時候也說過，像歐洲很多國家，包括法國這樣的國家，到現(xiàn)在都認(rèn)為人臉識別是侵犯人權(quán)，但中國人擁抱新事物的熱情，真的是在基因里的，同時我們能夠守正創(chuàng)新，趨利避害，在發(fā)展過程中解決可能出現(xiàn)的問題。

至于國際標(biāo)準(zhǔn)的制定，某種意義上，因?yàn)橹袊鴳?yīng)用場景和應(yīng)用實(shí)踐非常之豐富，我覺得中國現(xiàn)在自己制定的、哪怕是中國國內(nèi)的各種標(biāo)準(zhǔn)，都可能產(chǎn)生全球的影響。比方說，你現(xiàn)在出門，走半個小時，被拍了一百次，實(shí)際上我們的公安系統(tǒng)如果要查人臉識別等，它是有一套比較嚴(yán)格的程序的。再比方說，我們的邊檢要有明確的授權(quán)才能查看你的手機(jī)和電腦，而美國的邊檢可以任意扣押、查看你的手機(jī)和電腦，這方面我們管理程序已經(jīng)比美國嚴(yán)格多了。

孫教授：國外特別是歐洲，包括聯(lián)合國對人工智能的科技倫理，這幾年出臺了幾個文件。我覺得主要的原則界定得還是比較清楚的。像美國，今年在美國總統(tǒng)科技顧問委員會下面專門成立了一個生成式人工智能的工作委員會，相當(dāng)于子委員會。

其實(shí)在人工智能科技倫理的大原則下，跟我們有很多是相通的，我認(rèn)為這方面應(yīng)該在聯(lián)合國框架下加強(qiáng)國際對話，盡早形成共識。現(xiàn)在關(guān)鍵是在執(zhí)行層面對這一原則的界定可能有問題。比如說剛才講的隱私，保護(hù)隱私無論東西方都是提倡的，這是一個原則，大家都一樣，但到具體領(lǐng)域比如說視頻這塊你怎么處理，這其實(shí)又跟文化有關(guān)。所以擺到桌面上，大家心平氣和地談，其實(shí)是有可能達(dá)成某種共識的。這一塊我覺得應(yīng)該盡早制定國際性準(zhǔn)則。比如網(wǎng)信辦等七部門發(fā)布的規(guī)定，再早幾年科技部也有關(guān)于人工智能科技倫理的規(guī)定。這都為我們進(jìn)行國際對話，打下了非常好的基礎(chǔ)。

本文系觀察者網(wǎng)獨(dú)家稿件，文章內(nèi)容純屬作者個人觀點(diǎn)，不代表平臺觀點(diǎn)，未經(jīng)授權(quán)，不得轉(zhuǎn)載，否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn，每日閱讀趣味文章。