本文為《人工智能時代與人類價值》一書的前言。該書是美國外交家亨利·基辛格生前的最后一本書，與谷歌前CEO埃里克·施密特及微軟前首席研究和戰(zhàn)略官克雷格·蒙迪共同寫作。

新書審視了人工智能領(lǐng)域的最新進展，直面人工智能帶來的關(guān)乎人類生存的最為緊迫的問題：“如果被迫與機器妥協(xié)，我們的底線是什么？在判斷如何跟上AI步伐時，人類需要更清楚地斷言我們與機器的區(qū)別。如果不能就我們是誰達成一致，人類就有可能完全把定義我們價值、因此證明我們存在的生存任務(wù)交給機器。”

【文/ 尼爾·弗格森】

2018年6月《大西洋月刊》刊登亨利 · 基辛格撰寫的《啟蒙是如何終結(jié)的》一文后，眾人頗為驚訝。這位年邁的政治家居然對人工智能這一課題有自己的見解。那年他剛滿95歲。當時人工智能還不是一個熱門話題。直到2022年下半年OpenAI 開發(fā)出 ChatGPT 后，人工智能才火了起來。

作為基辛格的傳記作者，我覺得人工智能問題引起他的關(guān)注沒有什么可驚奇的。早在1957年，基辛格就因撰寫了一本講述一項顛覆世界的新技術(shù)的書而聲名鵲起，該書名叫《核武器與對外政策》。他對核武器的深入研究甚至博得羅伯特·奧本海默的贊譽，稱該書“內(nèi)容之豐富翔實，在核軍備領(lǐng)域還是首次看到……緊扣事實，激情四射，論說觀點銳利”。

基辛格攻讀博士學(xué)位時沉浸在19世紀初歐洲外交史中。然而在此后的生涯中，他始終清醒地認識到，大國政治的永恒流轉(zhuǎn)時不時會被技術(shù)變革打斷。與他同代的無數(shù)人在第二次世界大戰(zhàn)期間服役。和這些人一樣，基辛格不僅目睹了現(xiàn)代武器造成的大規(guī)模死亡和毀滅，還看到了希特勒第三帝國的“變態(tài)科學(xué)”（丘吉爾所稱）給自己所屬的猶太民族帶來的慘重后果。

基辛格有“好戰(zhàn)者”之名。其實他根本不是什么好戰(zhàn)者?；粮癯赡旰?，終其一生矢志不渝地致力于防止第三次世界大戰(zhàn)的發(fā)生——美蘇冷戰(zhàn)若是轉(zhuǎn)成熱戰(zhàn)將產(chǎn)生令世人恐懼的后果。他深知，核裂變技術(shù)會使下一次世界大戰(zhàn)的毀滅力遠超第二次世界大戰(zhàn)。在《核武器與對外政策》一書的開篇，基辛格估算了一枚千萬噸級核彈投到紐約會造成的毀滅性后果。根據(jù)他的推算，蘇聯(lián)對美國50個大城市發(fā)動一次全面襲擊會殺死1500萬～2000萬人，外加2000萬～2500萬人受傷。除此之外，還有500萬～1000萬人會死于放射性污染，也許還有700萬～1000萬人會染上疾病，幸存者會面臨“社會解體”?；粮裰赋?，即使美國遭到蘇聯(lián)的全面核攻擊，也有能力令蘇聯(lián)遭受同樣的毀滅。結(jié)論不言而喻：“因此，一場全面戰(zhàn)爭的唯一結(jié)果是交戰(zhàn)雙方必輸無疑。”一場全面戰(zhàn)爭沒有贏家，“因為哪怕是較弱的一方也有能力造成任何社會都無法承受的毀滅”。

然而，基辛格并沒有因為年輕時懷有的理想主義而成為一個和平主義者。在《核武器與對外政策》一書中，他直言道，“削減核軍備不大可能避免恐怖的核戰(zhàn)爭”，軍備核查制度同樣不能。問題不在于是否可以完全避免戰(zhàn)爭，而在于是否“有可能運用想象力想出毀滅力小于全面熱核戰(zhàn)爭的行使權(quán)力的方式”。如果不可能，美國及其盟國幾乎無法贏得冷戰(zhàn)?；粮裨诎l(fā)表于《記者》雜志的文章《控制、檢查和有限戰(zhàn)爭》中告誡說：“如果缺乏任何通常意義上的對有限戰(zhàn)爭的理解，會導(dǎo)致抵制蘇聯(lián)行徑的心理框架垮塌。如果戰(zhàn)爭被視為全民自殺，兩害相權(quán)取其輕，人們也許會選擇投降?！?

基辛格正是依據(jù)以上結(jié)論，在《戰(zhàn)略與組織》一文中提出了有限核戰(zhàn)爭理論：

在熱核戰(zhàn)爭毀滅的不祥背景下，戰(zhàn)爭的目標再也不能是迄今為止所知的軍事上的勝利，而應(yīng)是實現(xiàn)對手完全理解的某些具體政治條件。有限戰(zhàn)爭的目的是給敵人造成與有爭議的目標不成比例的損失或風(fēng)險。目標越節(jié)制，戰(zhàn)爭的毀滅性可能越小。

為此需要了解另一方的心理活動及其軍事能力。

基辛格《核武器與對外政策》

當年基辛格思索一場有限核戰(zhàn)爭令不少人不寒而栗，覺得他冷酷無情。部分學(xué)者，例如托馬斯·謝林，認為基辛格所說的無法抑制其實是可以避免的。日后甚至連基辛格本人也不再提及自己提出的這一觀點。實際情況是，兩個超級大國都根據(jù)基辛格在《核武器與對外政策》一書中概述的邏輯制造和部署了戰(zhàn)場核武器或戰(zhàn)術(shù)核武器。從理論上講，有限核戰(zhàn)爭也許不可行。然而雙方軍事規(guī)劃者的所作所為讓人覺得，有限核戰(zhàn)爭實際上或許是可行的。（其實這類核武器直到今天依然存在。自從俄羅斯陷入俄烏沖突泥沼，俄羅斯政府不止一次威脅使用核武器。）

基辛格始終在思考技術(shù)變革對政治領(lǐng)域的影響。1968年1月，他為納爾遜·洛克菲勒寫過一篇早已被人遺忘的文章，文中展望了計算機化或許能幫助決策者處理美國政府機構(gòu)生成的日益繁多的信息的種種方式?；粮裾J為，高級官員面臨被數(shù)據(jù)淹沒的極大風(fēng)險。他寫道：“最高決策者掌握的信息數(shù)不勝數(shù)，危急時刻，他根本無力處理這些信息。”基辛格提出，決策者需要“不斷聽取動蕩地區(qū)的簡報”，包括潛在的動蕩地區(qū)，“即使這些地區(qū)未被列為重中之重”。同時幕僚還需要向決策者提出“數(shù)個行動選項……概括為應(yīng)對可預(yù)見局勢的數(shù)個重大備選方案，并對每一個選項很有可能在本國國內(nèi)及海外造成的種種后果做出評估”。

基辛格承認，為了達到全覆蓋，需要對程序設(shè)計、信息存儲、檢索和圖像大力投資。好在現(xiàn)有的“硬件技術(shù)”可以執(zhí)行所有這四個職能。

如今可以把與每一個美國人相關(guān)的數(shù)百個信息類別存儲在一個2400英尺（約732米）長的磁帶存儲器里……第三代計算機現(xiàn)在可以以納秒（十億分之一秒）的速度操作基本的機器運算……實驗性的分時系統(tǒng)已經(jīng)證明，用于大型數(shù)據(jù)計算機的多路訪問能力或許可以做到分置于世界各地的執(zhí)行站和操作站均可以輸入或輸出信息。過不了多久，就會出現(xiàn)用于計算機輸出的彩色陰極射線管顯示屏。

出任尼克松的國家安全事務(wù)助理滿一年后，基辛格曾想搞一臺這種類型的計算機自己用，結(jié)果被中央情報局駁回了，想必是即使沒有計算機，基辛格也已經(jīng)讓情報機構(gòu)難以招架了。

亨利·基辛格從未退休。他無時無刻不為人類的未來擔憂。這樣一個人怎么可能會對他晚年出現(xiàn)的最重要的技術(shù)突破——生成式人工智能的開發(fā)和使用視而不見呢？認識這一新生技術(shù)的意義耗費了基辛格在世最后幾年的大量時間和精力。

《人工智能時代與人類未來》這本書是基辛格與兩位知名技術(shù)專家埃里克·施密特和克雷格·蒙迪合著的，也是他撰寫的最后一本書。此書帶有這幾位創(chuàng)新者與生俱來的樂觀主義印記。他們展望了“技術(shù)人(Homo technicus)，一種在這個新時代可能與機器技術(shù)共生的人類物種”的演進前景。他們認為，人工智能很快就會被用來“創(chuàng)造人類財富和福祉的新基準……即便不能完全消除之前蹂躪人類的各種勞動、階級和沖突壓力，至少也可以減輕這些壓力”。采用人工智能甚至有可能導(dǎo)致深刻的變革，消除種族、性別、國籍、出生地和家庭背景之間的差異。

一連串的警告構(gòu)成這本書的中心思想，從中可以辨識出這位最年長作者的貢獻：“人工智能的出現(xiàn)是一個關(guān)乎人類生存的問題……人工智能還面臨著控制不當?shù)奶魬?zhàn)，它可能以破壞性的方式積累知識……”下面這段話是基辛格最初在《啟蒙是如何終結(jié)的》一文中提出的問題，刊登在2018年的《大西洋月刊》上。這本書沒有用原文，但一看就知出自基辛格：

人工智能具備通過非人類手段精確認知我們這個世界的客觀能力。這不僅打破了我們對過去500年人類孜孜以求的科學(xué)方法的依賴，還挑戰(zhàn)了人類聲稱只有自己才真正了解現(xiàn)實，或人類對現(xiàn)實的了解獨一無二的說法。

這可能意味著什么？人工智能時代會不會不僅不能推動 人類向前邁進，反而會讓人類加速倒退回前現(xiàn)代社會接 受不加解釋的權(quán)威的日子？簡而言之，我們是不是正瀕臨或者也許會瀕臨人類認知大倒退的懸崖邊緣——一種黑暗啟蒙？

筆者覺得，此書中最令人感到震撼的內(nèi)容是合著者思考了令人無比擔憂的人工智能武器競賽。合著者寫道：“倘若每一個人類社會……都想最大限度地擴充單邊實力，勢必會引發(fā)敵對雙方的軍隊和情報機構(gòu)展開一場迄今人類聞所未聞的心理戰(zhàn)。從今天起，直至首個超級智能降臨前的數(shù)年、數(shù)月、數(shù)周和數(shù)天內(nèi)，事關(guān)人類生存的安全困境始終等待著我們?！?

如果我們正在目睹“一場為了得到唯一一個完美無瑕、毫無疑問具有主導(dǎo)優(yōu)勢的智能而進行的競爭”，會產(chǎn)生什么后果？我數(shù)了一下，合著者一共設(shè)想了6種可能發(fā)生的情景，沒有一個有吸引力。

1.人類將失去對一場攸關(guān)人類生存的競爭的控制。參與競爭的多個行為者深陷安全困境而不能自拔。

2.一個不受任何制衡機制束縛的勝利者將高高在上，肆意妄為。人類會不堪其淫威。歷史上為了保證其他人的基本安全需要制衡機制。

3.世界上不會只有一個超級人工智能，而會有多種超級智能。

4.擁有和開發(fā)人工智能的公司可以積聚巨大的社會、經(jīng)濟、軍事和政治權(quán)力。

5.人工智能也許不是在一國體制內(nèi)，而是在宗教體制內(nèi)用處最大，傳播范圍最廣，持久性最強。

6.如果對開放源代碼的擴散放任不管，有可能會導(dǎo)致冒出一些小團伙或集團。它們擁有的人工智能雖然不甚完美，但是不容小覷。

基辛格對以上可能發(fā)生的情景憂心忡忡，他為防止發(fā)生以上情景做出的努力沒有止于撰寫此書。眾所周知，基辛格此生所做的最后一次努力是啟動了中美兩國就限制人工智能武器進行談判的進程。他在百歲生日過后的最后幾個月里，為此耗盡了殘留的元氣?；粮襁@樣做正是為了預(yù)防以上種種反烏托邦后果。

這本書的結(jié)論毫無疑問代表了基辛格的觀點：

被有些人視為能讓我們在風(fēng)暴中站穩(wěn)腳跟的錨，在另一些人眼里是束縛我們的繩套。被一些人贊譽為攀登一座人類潛力高峰的必要步伐，在其他人眼里是愣頭愣腦沖向深淵的愚蠢之舉。

在這種情況下，源自本能的千差萬別的情感——外加各方劃出的主觀界限——將造成一種不可逆料的易燃局勢。潛在“贏家”和“輸家”日趨嚴厲的立場將增大這種形勢的壓力。驚恐者會放慢自己的研發(fā)步伐，同時破壞他方的研發(fā)。信心滿滿者會隱瞞自身實力，秘密提速研發(fā)工作。今后爆發(fā)的危機時間表會提速，為此前的人類所未見。人類很快會被危機吞沒。目前尚不清楚人類能否存活，如何存活。

技術(shù)專家對這類不祥之兆的反應(yīng)通常是提醒我們?nèi)斯ぶ悄軒淼目梢娨嫣?。醫(yī)學(xué)科學(xué)領(lǐng)域內(nèi)產(chǎn)生的成果已顯而易見。我對此不持異議。以我之見，較之 ChatGPT，AlphaFold 這一突破的重要性遠超前者。后者是一種可預(yù)測蛋白質(zhì)三維結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型。不過20世紀醫(yī)學(xué)科學(xué)也有過重大進展，例如，發(fā)明和普及了抗生素、種種新疫苗，以及數(shù)不清的其他療法。盡管如此，世界大戰(zhàn)和種族滅絕還是發(fā)生了。

技術(shù)進步的核心問題體現(xiàn)在亨利·基辛格的一生中。1938年，柏林的兩位德國化學(xué)家奧托·哈恩和弗里茨·施特拉斯曼發(fā)現(xiàn)了核裂變現(xiàn)象。1939年，出生在奧地利的兩位物理學(xué)家莉澤·邁特納和她的侄子奧托·羅伯特·弗里施給出了核裂變在理論上的解釋并為之命名。一次核鏈式反應(yīng)可能導(dǎo)致“釋放出大規(guī)模能量和放射性物質(zhì)，很不幸，也許還會催生原子彈”。

這一真知灼見出自匈牙利物理學(xué)家利奧·西拉德。當時物理學(xué)家們也認識到，或許有可能把鏈式反應(yīng)控制在一個核反應(yīng)堆中，借此產(chǎn)生熱能。然而，制造第一顆原子彈僅用了三年時間。而直到1951年，第一座實驗性核電站才建成。

讀者不妨問問自己，過去80年里人類造得更多的是核彈頭還是核電站？今天，世界上大約有12500枚核彈頭，而且這一數(shù)字還在不斷上升。與此形成鮮明對比的是，現(xiàn)在只有 436座核反應(yīng)堆正在運行。從絕對值來看，2006年核能發(fā)電量達到了峰值。核電站發(fā)電量占全世界總發(fā)電量的比例從1996年的15.5%下降至2022年的8.6%。原因之一是為數(shù)不多的核事故引發(fā)了過度的政治反應(yīng)。與化石燃料排放的二氧化碳相比，這些事故對人類健康和環(huán)境的損害微乎其微。

亨利·基辛格的一生給人的啟示顯而易見。技術(shù)進步的后果既可以是良性的，也可以是惡性的，這取決于人類共同決定如何利用技術(shù)進步。當然，人工智能在諸多方面不同于核裂變。然而，如果想當然地認為這一新技術(shù)會被更多地用于建設(shè)性而非毀滅性的目的，將會鑄下大錯。

亨利·基辛格的真知灼見來自歷史經(jīng)驗和個人經(jīng)歷。正是他的真知灼見激勵他在一生中花費大量時間研究世界秩序和如何避免世界大戰(zhàn)。這也是為什么他對最新的人工智能突破的反應(yīng)如此迅速，憂慮如此之深。這也是為什么他的這部遺作與他在自己漫長而又顯赫的一生中撰寫的任何文章同樣重要。

尼爾·弗格森，2024年7月寫于牛津

《人工智能時代與人類價值》，作者：亨利·基辛格 、埃里克?施密特、 克雷格·蒙迪，譯者：胡利平 風(fēng)君，中信出版·方舟工作室2025年版