俄羅斯瓦爾代國際辯論俱樂部第21屆年會于當?shù)貢r間11月4日至7日在俄南部城市索契舉辦。

7日，俄羅斯總統(tǒng)普京出席全體會議并發(fā)表講話，隨后與來自50多國的官員和智庫、大學(xué)代表進行討論對話，并接受現(xiàn)場提問。

觀察者網(wǎng)全文翻譯討論環(huán)節(jié)的內(nèi)容。稍早前已發(fā)布普京在瓦爾代第21屆年會上的演講。

【翻譯/薛凱桓】

費奧多爾·盧基揚諾夫（以下簡稱盧基揚諾夫）：總統(tǒng)先生，感謝您如此全面且多維度地描繪世界，并闡述俄羅斯的見解。尤其令我們感到欣慰的是，您去年也是在這個平臺上提出了基本原則，今天又對其進行了詳細闡述。

我認為，這看起來越來越像是一種學(xué)說。我們并不奢望您以瓦爾代俱樂部的名字來命名它，但我很高興它在這里誕生。

總統(tǒng)先生，我們在第21次會議上已經(jīng)討論過您今天所提及的許多問題。也許我們大家也都想跟您分享一些我們的想法，當然，并非所有會議上的觀點都會提及，因為實在太多了。但我們會重點講述一些討論過的觀點，其中有一些您已經(jīng)提到了。

請您允許我們俱樂部的長期成員兼您非常熟悉的同僚魯斯蘭·尤努索夫（Ruslan Yunusov）發(fā)言。他出席了我們關(guān)于人工智能的專題會議，這是一個備受矚目的話題。

魯斯蘭·尤努索夫：總統(tǒng)先生，晚上好。

確實，我們今天討論的問題之一就是您剛剛提及的人工智能。我們在會議上設(shè)置了一個單獨的環(huán)節(jié)，叫做“人工智能——革命還是時尚潮流？”。

在向您介紹該環(huán)節(jié)的成果之前，我想先提一下今年的一個獨特事件，即人工智能領(lǐng)域的成就獲得了兩項諾貝爾獎，分別在物理學(xué)和化學(xué)領(lǐng)域，這在以前是從未有過的。這是否意味著我們正在見證一場人工智能革命？我會傾向于說“是”，而非“否”，盡管諾貝爾獎委員會的決策往往也受時尚潮流的影響。

2024年諾貝爾物理學(xué)獎和化學(xué)獎均出現(xiàn)在人工智能領(lǐng)域新華社

關(guān)于我們討論的主題，我想強調(diào)一些過去討論過的方面。

我們首先關(guān)注的是許多人擔憂的一個問題：人工智能是否會取代人類，尤其是在需要創(chuàng)造性思維的領(lǐng)域，如科學(xué)和藝術(shù)？

當今科學(xué)界的現(xiàn)狀是怎樣的？人工智能確實已經(jīng)在科學(xué)進程中發(fā)揮了作用，許多成就都是在人工智能的幫助下取得的。同時，我們也看到，人類并未被排除在科學(xué)進程之外，相反，這個進程被加速了，對年輕有為科學(xué)家的需求也增加了。因此，我們并不認為存在這樣的風(fēng)險（人工智能取代人類）。我們還討論了人工智能經(jīng)濟的其他方面，在2020年新冠疫情期間，我們認為全球經(jīng)濟復(fù)蘇將主要由人工智能等驅(qū)動力來保障。

我們探討了這些預(yù)測是否成真。確實，人工智能正在進入經(jīng)濟領(lǐng)域，滲透到各個經(jīng)濟部門。但如果我們看看數(shù)據(jù)，就會發(fā)現(xiàn)我們之前的樂觀預(yù)期并未實現(xiàn)。目前的結(jié)果比我們預(yù)期的要保守得多。而且，這些預(yù)期并未減弱，我們看到投資泡沫正在形成，這可能會對未來產(chǎn)生負面的經(jīng)濟影響。不過，作為一種技術(shù)，人工智能很可能會繼續(xù)發(fā)展，并成為經(jīng)濟的基礎(chǔ)。

我們還討論了安全相關(guān)的問題。如今，不容忽視的是，恐怖組織和極端組織正在廣泛利用人工智能技術(shù)進行招募和更廣泛的宣傳活動。虛假新聞和視頻已成為此類組織武器庫中的標準工具。相反，人工智能也能被用于反恐和反極端主義行動中，它有助于在社會中識別這些極端分子。此外，它還能影響那些心存疑慮的人，引導(dǎo)他們遠離危險的道路，從而防止他們陷入極端主義。這同樣被證明是有效的。

當我們探討平衡問題時，無論是積極面多于消極面，還是反之，似乎人工智能在安全領(lǐng)域仍展現(xiàn)出更多積極的發(fā)展態(tài)勢，而我希望這種平衡能繼續(xù)向積極方向發(fā)展。當然，在瓦爾代論壇上，我們不可避免地要討論人工智能的政治議題。有研究表明，研究人員在開發(fā)人工智能基礎(chǔ)模型、生成模型時，會測試其政治觀點。結(jié)果表明，人工智能并非中立，其政治觀點嚴重偏向左翼自由主義，且在很大程度上受到模型創(chuàng)建者觀點的影響。

此外，過去幾年里，人工智能的訓(xùn)練更多地依賴于合成數(shù)據(jù)，而非真實世界的素材，這也加劇了模型觀點的極端化。在接下來的幾年里，我們將迎來首批在工作中、教學(xué)中運用人工智能的大學(xué)畢業(yè)生。以往，學(xué)生們撰寫論文時會查閱原始資料、理解消化后再進行創(chuàng)作。而現(xiàn)在，只需向人工智能提出需求，就能迅速得到結(jié)果。顯然，教育質(zhì)量會因此下降。但更危險的是，人工智能在潛移默化中影響著年輕人的世界觀，向他們灌輸意識形態(tài)。而且，這種意識形態(tài)在很大程度上并非源自本國，而是來自國外甚至海外。

最后，我們當然已經(jīng)意識到有必要加強對人工智能的監(jiān)管控制，但如果僅憑禁止性措施，似乎難以達成目標。相反，我們應(yīng)當支持和發(fā)展國內(nèi)的人工智能技術(shù)。

如今，我們已打下堅實基礎(chǔ)，并取得了巨大進步，這是值得慶幸的，我們需要保持這一勢頭。這或?qū)⒊蔀槲覀冊谶@一領(lǐng)域技術(shù)自主權(quán)的基石。值得一提的是，俄羅斯是全球擁有完整信息技術(shù)儲備的三個國家之一，這確實是主權(quán)的基礎(chǔ)。

我們的外國客人指出，如今一些國家已經(jīng)對人工智能技術(shù)的使用實施了限制，甚至是全面禁止。而對于俄羅斯來說，這更多地是一個機遇。我們可以作為技術(shù)領(lǐng)導(dǎo)者，通過向合作伙伴國家出口人工智能技術(shù)來展現(xiàn)自身實力。

我的簡短報告到此結(jié)束，非常感謝大家。

弗拉基米爾·普京（以下簡稱普京）：如果可以的話，我也想說幾句。

首先，人工智能無疑是一個極其重要的發(fā)展工具。我們已將人工智能的發(fā)展列為優(yōu)先事項，當然，主要是在經(jīng)濟領(lǐng)域以及其他領(lǐng)域，包括大數(shù)據(jù)的應(yīng)用等。我們正面臨嚴重的人力短缺問題，而失業(yè)率卻極低，僅為2.4%，我們面臨人力資源匱乏的現(xiàn)狀。未來，我們認為，這些經(jīng)濟問題可以通過開發(fā)尖端技術(shù)來解決，而在這一過程中，我們將優(yōu)先使用人工智能技術(shù)。

那么，利是否大于弊呢？就比如核能技術(shù)的發(fā)展是利大于弊，還是弊大于利？民用核技術(shù)在醫(yī)學(xué)、農(nóng)業(yè)和交通領(lǐng)域發(fā)揮著巨大且極其重要的作用，并且其作用還將繼續(xù)增強。我堅信，在應(yīng)對氣候變化問題的背景下，這一點將尤為重要。同時，還有核武器的問題，這對人類構(gòu)成了重大威脅。

人工智能技術(shù)也同樣如此。如何對其進行監(jiān)管，人們又該如何使用它們？這是個好問題。當然，很多國家都在對此進行監(jiān)管。正如你們所說，有些國家禁止其發(fā)展。但我認為，這是無法禁止的。無論如何，人工智能最終都會發(fā)展起來，尤其是在競爭日益加劇的背景下。我這里說的不是武裝對抗，而是整體的經(jīng)濟競爭在加劇。在競爭激烈的態(tài)勢下，人工智能必然會繼續(xù)發(fā)展。在這方面，考慮到我們自身的某些優(yōu)勢，我們當然能夠躋身前列。

主權(quán)是一個極其重要的因素。當然，這些平臺大多是在國外創(chuàng)建的，它們塑造著人們的世界觀，這無可厚非。我們應(yīng)該認識到這一點，并擴大我們自主的人工智能網(wǎng)絡(luò)。當然，我們需要利用一切可用資源，但我們也必須發(fā)展自身的特色。

俄羅斯儲蓄銀行和Yandex公司都在積極投身這一領(lǐng)域，并且總體上，它們的工作取得了相當不錯的成績。我們肯定會繼續(xù)努力，這一點毋庸置疑，尤其是當人工智能開始自我迭代時，這既令人著迷，又極具發(fā)展前景。

然而，這也存在一些潛在的風(fēng)險。我們必須認識和了解這些風(fēng)險，并據(jù)此調(diào)整我們的工作。如我所說，這是我們的重點關(guān)注領(lǐng)域之一。這里所說的“我們”，是指國家、行業(yè)專家以及整個社會，因為人工智能技術(shù)的發(fā)展不可避免地會引發(fā)許多需要我們充分關(guān)注的道德和倫理問題。

你們提到了會使青年形成極端觀念的風(fēng)險等問題。確實，我們必須通過對國內(nèi)和國際事件提出自己的觀點和世界觀來應(yīng)對這些風(fēng)險。這是我們將共同面對的問題。

感謝你們提出這個問題。

討論環(huán)節(jié)上，普京在面對提問時正在做筆記視頻截圖

魯斯蘭·尤努索夫：非常感謝。我們將繼續(xù)分析這一領(lǐng)域的發(fā)展情況。確實，俄羅斯的人工智能應(yīng)該基于俄羅斯的數(shù)據(jù)進行訓(xùn)練，以最終反映我們的文化。

普京：沒錯，我們顯然有能力做到這一點。我相信我們會成功，這將為我們的發(fā)展提供強有力的支持，并給我們帶來巨大的利益，謝謝。

盧基揚諾夫：總統(tǒng)先生，當我們擁有自主的人工智能時，它能否為我們提供21世紀的俄羅斯理念？

普京：它只能幫助我們應(yīng)對我們所面臨的挑戰(zhàn)，而我們?nèi)绾味x這些挑戰(zhàn)則至關(guān)重要。

鑒于人工智能處理的是大數(shù)據(jù)，我們擁有所有必要的資源：智力和技術(shù)能力，以及豐富的免費能源。我們有很多可以合作的地方，包括解決您提到的深刻的哲學(xué)和根本性問題。

我們需要利用我們掌握的所有資源。我們是否信任基于現(xiàn)代原則（其中包括使用人工智能）的研究結(jié)果，這取決于我們自己。

盧基揚諾夫：謝謝，我們還討論了一個相關(guān)話題。人工智能與數(shù)字化是相輔相成的，與當前正在發(fā)生的一切信息問題緊密相關(guān)，而這一領(lǐng)域確實仍存在許多問題，既有積極的也有消極的。

我們的印度同僚阿爾文德·古普塔也參與了這場會議。請繼續(xù)。

阿爾文德·古普塔：謝謝。

總統(tǒng)先生，我叫阿爾文德·古普塔，來自印度。我致力于技術(shù)與社會的交叉領(lǐng)域研究，為大規(guī)模的人口問題構(gòu)建數(shù)字公共基礎(chǔ)設(shè)施。

總統(tǒng)先生，您已經(jīng)談到了我的同僚魯斯蘭關(guān)于人工智能的一些問題，感謝您聽取我們的總結(jié)。我們的專家小組討論了與人工智能相關(guān)的一個問題，我最后會提到，即信息的操縱、監(jiān)控、技術(shù)和數(shù)據(jù)的使用，以及當今所有技術(shù)系統(tǒng)中缺乏透明度的問題。

您知道，我們的小組討論了互聯(lián)網(wǎng)的初始設(shè)計問題，互聯(lián)網(wǎng)大約在40到45年前被設(shè)計為全球公共產(chǎn)品。但不幸的是，現(xiàn)在它像許多其他事物一樣，變得非常單極。它由少數(shù)幾家大型科技公司控制，這些公司有著自己的意識形態(tài)傾向。其中一些平臺或大型科技公司因其操縱和監(jiān)控行為，在印度、俄羅斯、印度尼西亞等許多國家被禁止運營。

我們討論的第二個問題是算法。這也是我們在之前的人工智能會議上討論過的，算法確實定義了我們的思維方式。人工智能如今已成為一個新的流行詞，但算法已經(jīng)存在很長時間了。它們真正定義了我們的思考方式、消費方式以及選舉政府的方式。我們所有人都同意一點，即算法會傾向于某種意識形態(tài)，并且絕對不是中立的。因此，算法本身是有偏見的。

我們的小組還討論了信息和數(shù)據(jù)的武器化問題。這與有偏見的技術(shù)平臺相結(jié)合，賦予了某些國家巨大的權(quán)力，并影響著國家安全、民主和公共秩序。

您知道，這是西方技術(shù)平臺的運行模式，但印度在擔任G20主席國期間提出了一種替代西方技術(shù)平臺的模式。這是一個考慮到社會的平臺，是一個自下而上的、圍繞身份構(gòu)建的平臺，是一個通用身份系統(tǒng)和通用支付系統(tǒng)。印度有超過10億人使用它，還有20多個國家也在使用。這展示了印度如何創(chuàng)造了一種不同于當今西方的技術(shù)愿景。

總統(tǒng)先生，我必須贊揚俄羅斯在短時間內(nèi)成功使Mir支付系統(tǒng)（俄羅斯中央銀行建立的俄羅斯電子轉(zhuǎn)賬卡支付系統(tǒng)）在俄羅斯取得了巨大成功。這也展示了剛才提到的技術(shù)主權(quán)的力量，只要有意愿，就可以做到。

您剛才討論的問題，我指的是技術(shù)進步與這種有偏見的技術(shù)和技術(shù)平臺，以及正迎面而來的人工智能時代的非中立性質(zhì)，鑒于當今時代由少數(shù)幾家公司控制互聯(lián)網(wǎng)的現(xiàn)狀，我們?nèi)绾未_保在這個人工智能時代，我們的文化、社會和國家利益將得到保護？從一開始，我們需要建立什么樣的護欄來確保人工智能是公平且負責(zé)任的？我們?nèi)绾未_保志同道合的國家共同努力，防止人工智能被武器化？

最后，總統(tǒng)先生，我們想聽聽您對于建立新聞、技術(shù)、信息的信任機制的看法。這是小組討論中最具決定性的事情之一，我們期待聽到您的觀點。

非常感謝。

普京：當然，這是一個非常重要的話題，與前面關(guān)于人工智能及其使用和發(fā)展的問題相似。這里我想講幾個方面。

首先，互聯(lián)網(wǎng)的使用應(yīng)該基于主權(quán)算法，我們必須為此而努力。

其次，對我們國家來說，禁止一切是很難的。雖然可以做到，但部分情況下會產(chǎn)生反效果。在俄羅斯，專業(yè)社區(qū)得出結(jié)論，有必要制定互聯(lián)網(wǎng)上的行為規(guī)則，并自主采取一定的自我約束措施，特別是可能對整個社會，尤其是兒童產(chǎn)生破壞性影響相關(guān)的自我約束。在我看來，這是確保大多數(shù)人和整個社會利益的一種方式。當然，互聯(lián)網(wǎng)必須遵守該領(lǐng)域工作所在國家的國內(nèi)法律，這是顯而易見的。

我們都看到了信息操縱現(xiàn)象，很不幸，這一現(xiàn)象正在發(fā)生蔓延。但是，讓我重復(fù)一遍：如果互聯(lián)網(wǎng)的活動受到國內(nèi)法律的約束，那么我們就能夠?qū)⒖赡艿呢撁婧蠊钚』?。我理解，在實施這一切時存在技術(shù)局限和技術(shù)困難。但是，如果我們與專業(yè)社區(qū)共同努力，專業(yè)社區(qū)能夠看到可能對整個社會構(gòu)成的威脅，并專業(yè)地致力于壓制這些威脅，那么國家將全力支持這些努力。

對于像印度和俄羅斯這樣的國家來說，這個問題是完全可以解決的，因為我們擁有非常優(yōu)秀的專家、出色的數(shù)學(xué)學(xué)校。而且有些人自己就是領(lǐng)導(dǎo)者，這與他們的公司無關(guān)，他們本人就是這個領(lǐng)域的領(lǐng)導(dǎo)者。我們擁有為此所需的所有資源。我再次重復(fù)，對于印度或俄羅斯這樣的國家來說，這不是問題。

至于Mir支付系統(tǒng)來說，這可以被視為是一種成功。它運行良好，可靠，如果沒有人為設(shè)置的障礙阻礙其運營，它將在更多國家運行得更好。但即使存在這些障礙，它也在發(fā)展，我們將復(fù)刻這種成功案例。

在我看來，互聯(lián)網(wǎng)已經(jīng)變成了人類永恒的話題。你說它是為了人類的利益而創(chuàng)造的，其實不然，它當然是為了其他目的而創(chuàng)造的，但在某個時刻，它被創(chuàng)造出來的預(yù)期目的發(fā)生了根本性的變化。互聯(lián)網(wǎng)上的活動，就像任何人類活動一樣，必須遵守該系統(tǒng)所在國家的道德、倫理規(guī)則和法律。

我再次重復(fù)：從技術(shù)上來說，這并不總是容易做到的，但我們當然應(yīng)該努力去實現(xiàn)。社會必須保護自己免受破壞性影響，但它應(yīng)該盡一切努力確保信息交換是自由的，并且有利于特定國家乃至整個國際社會的發(fā)展。我們俄羅斯將為此而努力。我知道印度也在走同樣的道路，我們將很高興在這一領(lǐng)域與你們合作。

感謝你們對此的關(guān)注。另一方面，（我們）不可能不關(guān)注這個問題，也不可能不參與這項工作，祝你們一切順利。