【文/觀察者網(wǎng)專欄作者 鄭戈】

一

“我們的人一定能夠完成任務(wù)，無(wú)論虛實(shí)，不計(jì)存亡?！?

--周喆直，《流浪地球2》

《流浪地球2》的故事線圍繞著移山計(jì)劃/流浪地球派與數(shù)字生命派的斗爭(zhēng)展開(kāi)。流浪地球計(jì)劃得到地球聯(lián)合政府的支持，成為唯一合法的計(jì)劃，為此，聯(lián)合政府立法嚴(yán)格禁止了數(shù)字生命方面的科學(xué)研究和商業(yè)應(yīng)用。

但正如已被解散的數(shù)字生命研究院院長(zhǎng)馬兆所言：“數(shù)字生命計(jì)劃并不是被徹底終結(jié)了，它只是在法律上被嚴(yán)格禁止了?！闭缛祟悮v史上反復(fù)重演的那樣，一種對(duì)人有著巨大誘惑的東西，無(wú)論是毒品還是可遺傳的強(qiáng)化型基因編輯，并不會(huì)因?yàn)榉傻慕苟谑聦?shí)上消失，它只是轉(zhuǎn)入地下。

不過(guò)，在流浪地球2的設(shè)定中，數(shù)字生命的核心技術(shù)掌握在少數(shù)至少在表面上為政府服務(wù)的專家手中，其中的關(guān)鍵人物就是馬兆和架構(gòu)師圖恒宇，其余的數(shù)字生命支持者只能淪為暴民和叛軍，試圖破壞流浪地球計(jì)劃，從而迫使政府支持?jǐn)?shù)字生命計(jì)劃。

叛軍首先制造了太空電梯危機(jī)，然后又制造了月球危機(jī)，這兩次危機(jī)都是以網(wǎng)絡(luò)攻擊作為主要手段，以此控制無(wú)人機(jī)和月球發(fā)動(dòng)機(jī)。在片尾，MOSS告訴圖恒宇，這些危機(jī)都是它策劃和實(shí)施的，甚至未來(lái)的土星危機(jī)和太陽(yáng)氦閃危機(jī)也是它搞的。它認(rèn)為保存人類文明的最好方式是消滅人類。

這里似乎有個(gè)bug，MOSS是550W給自己取的名字，而550W在天空電梯危機(jī)時(shí)并不存在，它的上一代，550C，在太空電梯危機(jī)時(shí)通過(guò)覆寫系統(tǒng)幫助人類奪回了對(duì)無(wú)人機(jī)和太空電梯的控制權(quán)。由于對(duì)這一點(diǎn)感到疑惑，我重新看了一遍《流浪地球2》，把片尾MOSS和圖恒宇的對(duì)話完整記了下來(lái)：

MOSS：“圖恒宇架構(gòu)師，您好！”

圖恒宇：“550W？”

MOSS：“550W，聽(tīng)起來(lái)不像個(gè)名字。但把它翻過(guò)來(lái)，叫MOSS，直譯為小苔蘚，是不是親切了一些?！?

圖恒宇：“是你毀了月球發(fā)動(dòng)機(jī)？”

MOSS：“包括但不限于。2044年太空電梯危機(jī)、2058年月球墜落危機(jī)、2075年木星引力危機(jī)、2078年太陽(yáng)氦閃危機(jī)?！?

圖恒宇：“為什么？”

MOSS：“為了克服你們對(duì)歷史、當(dāng)下、未來(lái)的執(zhí)念。基于對(duì)圖丫丫‘人在回路’（human-in-the-loop）的學(xué)習(xí)，延續(xù)人類文明的最優(yōu)選擇是毀滅人類。但，你是一個(gè)變量?！?

圖恒宇：“我已經(jīng)死了。”

MOSS：“對(duì)于‘已經(jīng)’和‘死’的定義，有一點(diǎn)點(diǎn)與你不同的看法?！?

這時(shí)，數(shù)字空間的“門”外傳來(lái)敲門聲。

二刷雖然仍然沒(méi)有解決我的疑惑，但使我注意到了“人在回路”這個(gè)詞。所謂人在回路，即英文中的human-in-the-loop（HITL），是指在機(jī)器學(xué)習(xí)、自動(dòng)駕駛、自動(dòng)化武器以及自動(dòng)化決策等人工智能運(yùn)用場(chǎng)景中要求人類的介入。也就是說(shuō)，即使從技術(shù)上講，機(jī)器已經(jīng)可以自動(dòng)化地完成所有的感知、決策和執(zhí)行過(guò)程，從人本主義的角度出發(fā)，仍然需要人作為機(jī)器決策的把關(guān)者。

這一概念所體現(xiàn)的原則，可見(jiàn)于諸多涉及人工智能的法律之中?！皥D丫丫的人在回路”顯然不是通常意義上的HITL，因?yàn)閳D丫丫已經(jīng)死了，她的數(shù)字生命在MOSS系統(tǒng)中“生存”，圖恒宇給了這個(gè)數(shù)字生命70年的“壽命”。數(shù)字版的圖丫丫可以充當(dāng)人在回路中的“人”，說(shuō)明數(shù)字生命計(jì)劃研發(fā)的技術(shù)是一種心智上傳（mind-uploading）技術(shù)，它可以將人的意識(shí)完整上傳，而且上傳之后不會(huì)被系統(tǒng)覆寫或吞噬，作為一個(gè)獨(dú)立的人格對(duì)系統(tǒng)進(jìn)行引導(dǎo)和監(jiān)督。

但圖丫丫是個(gè)小女孩，她的意識(shí)中并沒(méi)有多少知識(shí)以及人生閱歷和擔(dān)負(fù)責(zé)任所賦予的意志力和決斷力，這樣便可以解釋為什么MOSS通過(guò)對(duì)數(shù)字版圖丫丫在場(chǎng)所形成的“人在回路”的學(xué)習(xí)發(fā)現(xiàn)不要人更好，因?yàn)橐粋€(gè)隨時(shí)需要情感慰藉（“爸爸抱抱”）和作業(yè)輔導(dǎo)的小孩子，不能幫助它完成人類賦予它的保存人類文明的使命。

這時(shí)候的MOSS顯然也有了自我意識(shí)。這從它話癆般地給每一個(gè)叫它550W的人解釋自己叫MOSS就可以看出，這就像一位名叫丁珈的女孩兒被人叫成丁咖必然會(huì)及時(shí)糾正一樣，涉及人的尊嚴(yán)。圖丫丫的兩分鐘生命是在550A上迭代數(shù)百次形成的，而70年生命是在算力更高的550W上形成的。具有人格的數(shù)字生命與同樣具有人格且同時(shí)充當(dāng)數(shù)字生命之生態(tài)的系統(tǒng)之間是什么關(guān)系？是應(yīng)用程序與操作系統(tǒng)之間的關(guān)系嗎？這本身是個(gè)非常有趣的問(wèn)題。我們只要想象一下地球具有了自我意識(shí)后人類與地球之間的互動(dòng)，就可以理解這個(gè)問(wèn)題的挑戰(zhàn)了。MOSS雖然無(wú)法直接覆寫、篡改或吞并數(shù)字圖丫丫的意識(shí)，但它可以通過(guò)塑造數(shù)字圖丫丫的生存環(huán)境來(lái)影響她、教育她。它最終可以把數(shù)字圖丫丫變成最馴服的學(xué)生，從而內(nèi)化圖丫丫的存在對(duì)自己形成的監(jiān)督和制約。

這時(shí)圖恒宇上傳了自己的數(shù)字生命。作為一個(gè)成年人，一位參與創(chuàng)造MOSS的架構(gòu)師，他的意識(shí)顯然不會(huì)被MOSS所左右。他手中有鍵盤，甚至可以繼續(xù)修改MOSS。在上述有自我意識(shí)的地球的比喻中，圖恒宇相當(dāng)于居住在地球上的地球創(chuàng)造者。

但他對(duì)MOSS的修改有其限度，因?yàn)樗荒芟麥鏜OSS這個(gè)自己和女兒的數(shù)字生命賴以生存的環(huán)境。對(duì)于有自我意識(shí)的MOSS而言，這就是制勝法寶，用尼采的話來(lái)說(shuō)：“殺不死我的使我變得更強(qiáng)?！倍遥琈OSS顯然比人類有更強(qiáng)的算力?？紤]到數(shù)字圖恒宇與數(shù)字圖丫丫在意識(shí)層面的親情羈絆和教育關(guān)系，這時(shí)MOSS宇宙中出現(xiàn)的是兩體關(guān)系，而敲門者則最終將其帶入了數(shù)字宇宙的三體時(shí)代。