如果一個(gè)技術(shù)有50%的可能造福人類，50%的可能為禍?zhǔn)篱g，要不要把它做出來(lái)？如果90%的概率是好事，但10%的概率是你直接咩了，做不做？我們應(yīng)不應(yīng)該執(zhí)行那個(gè)計(jì)算出來(lái)的、效用最大化的選擇呢。有效利他主義者會(huì)告訴你，如果計(jì)算本身足夠科學(xué)理性就沒(méi)問(wèn)題，就等于是從人類整體福祉出發(fā)構(gòu)建道德倫理基礎(chǔ)。然而什么才是人類整體呢？換個(gè)通俗的問(wèn)法，什么人才算人，不要笑這個(gè)問(wèn)題幼稚，世間萬(wàn)般沖突的肇始，幾乎都是不把某些人當(dāng)人。具體到這個(gè)問(wèn)題上，我們應(yīng)該追求誰(shuí)的效用最大化，是今天地球上生活呼吸的人，還是未來(lái)實(shí)現(xiàn)星際穿越的文明體里面，那些跟我們?cè)诮馄式Y(jié)構(gòu)上有一定相似性的物種？

電影《銀翼殺手》反派Roy雨中落淚，這一刻他不再只是個(gè)仿生人（圖片來(lái)源：視頻截圖）

有效利他主義起源的時(shí)候，講的是運(yùn)用理性，去辨識(shí)最行之有效的方法，改善世界造福人類。馬斯克信奉的教理屬于有效利他下面的一個(gè)分支，叫長(zhǎng)期主義，主張積極影響塑造遙遠(yuǎn)的未來(lái)，以它作為當(dāng)前人類道德優(yōu)先級(jí)最高的任務(wù)，也就是說(shuō)未來(lái)人類可能殖民宇宙，實(shí)現(xiàn)極大的繁榮，那么我們今天就應(yīng)該用盡全力奔赴星辰大海，去擴(kuò)張?zhí)剿?，比如跟著我移民火星，這樣做是在保存人類文明的火種。把這個(gè)邏輯推到極致，就是醇正的社達(dá)牌法西斯，因?yàn)樯鐣?huì)資源應(yīng)該全部流向那些火種的攜帶者的辨認(rèn)與培養(yǎng)，誰(shuí)更有機(jī)會(huì)成功發(fā)達(dá)，就應(yīng)該給他們賦能，顯然是社會(huì)的精英階層，至于底層，千萬(wàn)不要浪費(fèi)資源去拯救那些注定要被淘汰的廢物。這才是著眼長(zhǎng)期的有效之利他。

當(dāng)然任何邏輯走到極端都是荒謬的，長(zhǎng)期主義并沒(méi)有這么極端，至少在關(guān)乎生死存亡的問(wèn)題上，它是非常厭惡風(fēng)險(xiǎn)的，因?yàn)樯杂胁簧魑磥?lái)就沒(méi)有人類了嘛。所以馬斯克主張以高度謹(jǐn)慎的態(tài)度發(fā)展AGI，讓它符合數(shù)字時(shí)代新精英階層的長(zhǎng)遠(yuǎn)利益。但意識(shí)形態(tài)總是無(wú)限可分，長(zhǎng)期主義又在硅谷這個(gè)技術(shù)與資本交媾的溫床上，孕育出了新的有效加速主義，其根本假設(shè)在于資本和技術(shù)都不是中性的，而是良性的，可以自動(dòng)糾偏的，所以沒(méi)必要因?yàn)轱L(fēng)險(xiǎn)而束縛手腳，而應(yīng)該不惜一切代價(jià)調(diào)動(dòng)資本，追求技術(shù)進(jìn)步，因?yàn)檫M(jìn)步就是一切問(wèn)題的答案，就是人類最大的福祉。是不是有點(diǎn)耳熟，國(guó)內(nèi)我也聽過(guò)這樣的聲音。

其實(shí)我寫這篇文章，不是為了講述一場(chǎng)權(quán)力的游戲，而是為了揭開它背后的宗教思想，我就對(duì)這種東西感興趣，哪怕看《權(quán)游》也關(guān)注里面的舊神七神紅神淹神千面神之間的張力，不是說(shuō)神仙打架，而是精神信仰對(duì)于人的影響。

你去聽許多硅谷大牛關(guān)于AI的講話，描繪一種烏托邦式的彼岸，讓你脫離愚癡，獲得圓滿的智慧，腦機(jī)合一，成為新造的人，甚至通過(guò)上傳記憶到云端a.k.a天堂，在某種程度上讓人實(shí)現(xiàn)不朽。你告訴我，這跟宗教有什么區(qū)別？通過(guò)算法給人分配確定性的AI，跟神有什么區(qū)別？而努力迎接某種終極形態(tài)的到來(lái)，跟基督教末世論eschatology有什么區(qū)別？

為什么會(huì)有這種異曲同工？因?yàn)榧夹g(shù)和宗教在西方文明的基因里就密不可分，前者是后者的實(shí)踐手段。西方為什么崇尚我們所謂的奇技淫巧？這不是偶然，而是因?yàn)樵谖鞣浇?jīng)院的宗教道德觀里，它們不奇不淫，恰恰才是正道。原因我以前在《魔戒》那期講過(guò)，基督教根本的世界觀認(rèn)為人源于墮落，亞當(dāng)夏娃失樂(lè)園，脫離了神的恩典，從造物主完美的創(chuàng)造，變成了俗不可耐的酒囊飯袋。人要怎么回歸原初的狀態(tài)呢？神學(xué)家告訴你，ora et labora，得勞動(dòng)，造東西，造得越多，就越接近造物者的樣子，通過(guò)創(chuàng)造來(lái)與神重建連接，重新成為“原人”。造東西就要用技術(shù)，所以科技原人，啟動(dòng)！跟很多人想象不一樣，中世紀(jì)的西方最強(qiáng)調(diào)技術(shù)賦能的，竟然是教會(huì)，堪稱黑暗時(shí)代的硅谷。它不斷改良技術(shù)的出發(fā)點(diǎn)，不同于后來(lái)的資本逐利，而是追求道德至善，從而在精神上超越凡俗，獲得救贖。

如果一門技術(shù)意味著巨大的不確定性，可能帶來(lái)災(zāi)難，為什么還要如此決絕地追求它？因?yàn)樵趲?lái)災(zāi)難的同時(shí)，它還可能幫助人類實(shí)現(xiàn)最崇高的目標(biāo)——獲得救贖。所以錯(cuò)的不是追求，而是技術(shù)本身不夠好，因此科學(xué)與煉金術(shù)之間的關(guān)系，并非水火不容，而是版本更替，用弗朗西斯培根的話來(lái)說(shuō)，都是為了追求造物者的榮光。新版本技術(shù)擺在面前，可以不用嗎？在這種世界觀里，未來(lái)實(shí)在太誘惑，因?yàn)槟┦乐粫?huì)淘汰非信徒，而對(duì)于信徒來(lái)說(shuō)，末世意味著人間天國(guó)即將降臨，而那時(shí)被提的人，已經(jīng)是與技術(shù)融為一體，具有超凡意識(shí)與智慧的新物種，或許這便是長(zhǎng)期主義所設(shè)定的人類文明的主體。

電影《奧本海默》劇照（圖片來(lái)源：IC photo）

《三體》里講了，如果整個(gè)人類世界都是偶然的幸運(yùn)，我們還能指望靠這種幸運(yùn)走多遠(yuǎn)？馬斯克們認(rèn)為，如果窮途末路必然到來(lái)，我們只能全員押寶在科技上，借助它完成自我演化，朝美麗新世界勇往直前，決不能止步，因?yàn)橥褪亲越^于未來(lái)。其實(shí)馬斯克也好，奧特曼也罷，甚至他們的各路朋友和對(duì)手們，大家真正的分歧在于，誰(shuí)是真先知，誰(shuí)是偽先知，誰(shuí)有資格引領(lǐng)人類，走向遙遠(yuǎn)的應(yīng)許之地？答案不言而喻，就是第一個(gè)把AGI做出來(lái)，向世界展示神跡的人。

于是一場(chǎng)狂熱的軍備競(jìng)賽在所難免，參賽選手只關(guān)心結(jié)果，不關(guān)心的緣由，誰(shuí)應(yīng)許了什么，為什么要往前走，科技進(jìn)步能通往道德的進(jìn)步嗎，進(jìn)步是唯一的善嗎，是人類唯一的目標(biāo)嗎，這條路除了成神還通往何方？難道人活著這件事本身，做一個(gè)酒囊飯袋所帶來(lái)的joie de vivre，是沒(méi)有意義的嗎？生命這樣的旅程，我渴求你的微笑來(lái)完整，你能為我打開自由的門，牽起手吧，新造的人。

本文系觀察者網(wǎng)獨(dú)家稿件，文章內(nèi)容純屬作者個(gè)人觀點(diǎn)，不代表平臺(tái)觀點(diǎn)，未經(jīng)授權(quán)，不得轉(zhuǎn)載，否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn，每日閱讀趣味文章。