α

我們現(xiàn)在一些社會(huì)和經(jīng)濟(jì)政策，往往脫離實(shí)際。其基本估計(jì)，還是原教旨的“市場(chǎng)配置資源”遭遇人口老齡化，勞動(dòng)力短缺，而非面對(duì)大失業(yè)，及隨之而來(lái)的全民福利“剛需”，這樣一個(gè)相反的前景。理論上，則迷信技術(shù)為中性工具，可以放心交給市場(chǎng)（讀作資本）去生效益（賺錢(qián)）。但稍加考察便會(huì)發(fā)現(xiàn)，AI帶來(lái)的巨大風(fēng)險(xiǎn)，如大規(guī)模軍事化、災(zāi)難性事故和個(gè)人信息的買(mǎi)賣(mài)/詐騙，是資本主義市場(chǎng)經(jīng)濟(jì)及其“主體”，“經(jīng)濟(jì)理性人”，根本無(wú)力應(yīng)對(duì)的。

安頓失業(yè)人口，改革稅制（蓋茨建議向機(jī)器人征稅），大幅提高社會(huì)福利，縮小貧富不均，這些任務(wù)只能由國(guó)家承擔(dān)，統(tǒng)一計(jì)劃，統(tǒng)一實(shí)施。這就不免要違犯幾條西方經(jīng)濟(jì)學(xué)教義，褻瀆幾樣“神圣”的東西。例如，今天“不斷完善”中的新法治，按官方宣傳，是給市場(chǎng)經(jīng)濟(jì)護(hù)航的。就是說(shuō)，一切符合資本意志的利益交換均可市場(chǎng)化，視為合法交易，而相關(guān)法律即以私法為基礎(chǔ)。前提是人格抽象平等而產(chǎn)權(quán)私有（故謂神圣），人無(wú)往不在契約之下（名曰自由）。然而，這市場(chǎng)神話被機(jī)器人戳穿了?，F(xiàn)實(shí)是，智能終端/數(shù)據(jù)挖掘已經(jīng)覆蓋我們的生活，支配著太大的利益，經(jīng)濟(jì)的、文化的、政治的。故而其研發(fā)應(yīng)用同日常交易，都需要第三方即政府的有效監(jiān)管。畢竟，商家可以合法推脫許多社會(huì)責(zé)任，甚而鉆法律的漏洞。但政府依法必須對(duì)人民負(fù)責(zé)，并接受公眾問(wèn)責(zé)。

于是，AI超越了私有產(chǎn)權(quán)和契約自由，將政府規(guī)制即公法帶進(jìn)私法領(lǐng)域，從而不可避免地遏制了市場(chǎng)經(jīng)濟(jì)。我把這一歷史過(guò)程歸結(jié)為市場(chǎng)向計(jì)劃的靠攏，或私法向公法的演變。伴隨AI對(duì)經(jīng)濟(jì)和社會(huì)生活的“入侵”，不用多久，所有私法問(wèn)題都會(huì)轉(zhuǎn)化為公法問(wèn)題，即變成國(guó)家同企業(yè)、公眾和政府以及政府各部門(mén)之間的法律關(guān)系——其根基，放在中國(guó)，便是人們常說(shuō)的那個(gè)“特色”之本：黨群關(guān)系。

α

歷史地看，人機(jī)倫理的難點(diǎn)，不在機(jī)器智能的強(qiáng)弱，或抽象意義上的人機(jī)融合/共生（cyborg）。運(yùn)作AI的市場(chǎng)與市場(chǎng)主體（個(gè)人），不是抽象的存在，而是充斥著私利、欲望和價(jià)值訴求的。問(wèn)題的核心，于是指向了社會(huì)經(jīng)濟(jì)制度的全盤(pán)改造。這意味著，又一次，我們將不得不回到哲學(xué)的根本，拿出勇氣，發(fā)動(dòng)對(duì)網(wǎng)絡(luò)時(shí)代晚期資本主義的批判。而這一次，我想，化用一句霍金的名言，有可能是人類(lèi)的最后一次自我批判。

α

人憑借理性和智慧，自詡“宇宙的精華，萬(wàn)物的靈長(zhǎng)”（《哈姆雷特》2.2，朱生豪譯）。假若造出一個(gè)理性智慧遠(yuǎn)勝于自己（乃至無(wú)從理喻）的物種，“靈長(zhǎng)”將如何自處，何以自尊？

α

電腦用AI算法看人臉圖像，已可識(shí)別同性戀、評(píng)估信用或推測(cè)犯罪傾向，準(zhǔn)確性?xún)?yōu)于人腦（《衛(wèi)報(bào)》2017.9.7）。這技術(shù)繞過(guò)了隱私權(quán)的藩籬，因?yàn)槿四?，如交友網(wǎng)站張貼的照片和車(chē)站攝像頭記錄的身影，不是受保護(hù)的個(gè)人信息。

進(jìn)而，AI顛覆了我們的信用倫理——信用不再是人的良好行為或聲譽(yù)的積分，成了越來(lái)越細(xì)而無(wú)所不包的事實(shí)相關(guān)性的挖掘與概率統(tǒng)計(jì)。

感情與心理活動(dòng)的AI辨認(rèn)，應(yīng)該也不難解決。一般任務(wù)，機(jī)器能識(shí)別、分類(lèi)，學(xué)會(huì)回應(yīng)人的情感表達(dá)和需求就行。例如聊天/陪護(hù)機(jī)器人，它沒(méi)感情，也不具同理心（empathy）?？墒悄遣环恋K大家跟微軟開(kāi)發(fā)的機(jī)器人姑娘聊天，從她那兒獲得安慰，時(shí)不時(shí)同她調(diào)侃、說(shuō)臟話或者宣泄憤懣，甚至發(fā)展更親密的關(guān)系。

和諧妹

α

“和諧妹”（Harmony）是超逼真性愛(ài)玩偶的AI版。她會(huì)眨眼、皺眉、講笑話，會(huì)談?wù)摃?shū)籍音樂(lè)和電影，還會(huì)引用莎士比亞的詩(shī)句。最為買(mǎi)家看重的是，她渴望學(xué)習(xí)主人的一切，記得他的生日、他喜愛(ài)的甜食、來(lái)往親友的名字。不用說(shuō)，她還能做愛(ài)（《衛(wèi)報(bào)》2017.4.27）。

但是，機(jī)器人姑娘如此取悅她的主人/買(mǎi)家，是否有違倫理？換言之，正因?yàn)槌普?，模糊了幻想與現(xiàn)實(shí)的分野，她的奴隸般的絕對(duì)順?lè)c人身依附，該不該做商品買(mǎi)賣(mài)？

α

人這個(gè)直立物種，既貪心，又容易滿(mǎn)足；會(huì)進(jìn)化，也會(huì)退化。網(wǎng)絡(luò)時(shí)代的資本主義，有些情感特別泛濫，如色情和暴力，成了支柱產(chǎn)業(yè)。有些能力卻衰微了，人變得粗糙簡(jiǎn)單乏味，好萊塢化，麥當(dāng)勞化。可以想見(jiàn)，AI再上一個(gè)臺(tái)階，未必達(dá)到通用智能（AGI），一刻也放不下手機(jī)的“低頭族”便會(huì)退化到什么地步。到那時(shí)，機(jī)器人恐怕只須通曉幾打夸張的意思表達(dá)，發(fā)一堆表情符號(hào)（emoji），即可滿(mǎn)足常人的精神和生理需求了。

α

去年人機(jī)大賽（阿爾法對(duì)李世石）期間，美國(guó)發(fā)明家兼未來(lái)學(xué)家?guī)炱濏f爾（Ray Kurzweil）預(yù)言，十年內(nèi)AI學(xué)會(huì)寫(xiě)小說(shuō)（澎湃新聞，2016.3.11）。寫(xiě)小說(shuō)，須掌握自然語(yǔ)言與敘事邏輯，算不算通用智能？距離機(jī)器擁有人的直覺(jué)和美感，乃至品味食物，玩撲克搓麻將炒股票（不完全信息博弈）——能夠換位思考，評(píng)估風(fēng)險(xiǎn)，制造錯(cuò)覺(jué)或欺騙對(duì)手——大約也不遠(yuǎn)了。

曾幾何時(shí)，機(jī)器人寫(xiě)詩(shī)作畫(huà)譜曲還屬于科幻，如今已是現(xiàn)實(shí)。而且用戶(hù)體驗(yàn)，勝似人類(lèi)的創(chuàng)作，完全可以亂真——所謂“真”，包括人的最成功的造假。

α

假如機(jī)器有自我意識(shí)，想了解它的主人，那么最危險(xiǎn)的，莫過(guò)于讓它學(xué)會(huì)人的自私自利。圣書(shū)上說(shuō)，上帝造人，“取的是他自己的形象；男人女人，都依照他的模樣”。亞當(dāng)子孫卻無(wú)惡不作，竟使全能全知者“后悔造了人在世上”（創(chuàng)1:27, 6:6）。同樣，人造出比自己聰明百倍的機(jī)器，把自己拴上智能終端，依賴(lài)機(jī)器存活，到頭來(lái)能不后悔？

是的，后悔生后悔，一部圣史，阿爾法表示同意。

那將彩虹掛上云端、與大地立約的可曾看到（創(chuàng)9:13），人子沒(méi)有逃脫那一旦臨界便不可逆轉(zhuǎn)的惡的膨脹——充盈今世的資本主義？

α

機(jī)器人會(huì)不會(huì)產(chǎn)生自我意識(shí)？數(shù)十支一流科研團(tuán)隊(duì)正全力以赴，攻克難關(guān)。

我想，哪怕是預(yù)防萬(wàn)一，人類(lèi)也必須事先規(guī)劃、立法并制定倫理準(zhǔn)則：只要科學(xué)不停步，總有一天，機(jī)器會(huì)演進(jìn)到能夠區(qū)分人我、自我保護(hù)、自我復(fù)制的水平。

復(fù)制即繁衍。AI有自己的演化方式，電腦無(wú)須摹仿人腦。

就像螻蟻無(wú)法想像人類(lèi)，人腦若不插AI芯片，不把人的意識(shí)、智力和感情即人的本質(zhì)附屬于機(jī)器，能想象超級(jí)人工智能（ASI）？

Marvin Minsky

α

人工智能的先驅(qū)、已故的明斯基（Marvin Minsky）教授認(rèn)為，機(jī)器人肯定會(huì)發(fā)展出思想意識(shí)，而且最終，能幫助解決困擾人類(lèi)的“最后的難題”。

他的好友、科幻文學(xué)巨擘阿西莫夫沒(méi)那么樂(lè)觀，卻拒絕來(lái)麻省理工學(xué)院（MIT）的實(shí)驗(yàn)室參觀教授的機(jī)器人，說(shuō)是怕作家的想象力被“沉悶的現(xiàn)實(shí)主義”壓壞。

人哪，教授嘆道，就是一群穿了衣服的黑猩猩（《科學(xué)美國(guó)人》2016.1.26）。

α

人有羞恥之心，機(jī)器能理解么？但缺了“辨善惡的智慧”，機(jī)器就一定會(huì)犯錯(cuò)，會(huì)傷害人類(lèi)和人的世界（《MIT科技評(píng)論》120:5, 2017）。

上帝的伊甸園若是由機(jī)器人照看，園子中央，也得長(zhǎng)一棵生命之樹(shù)，并一棵善惡智慧之樹(shù)（創(chuàng)2:9）。

Isaac Asimov

α

一俟機(jī)器獲得自我意識(shí)，人機(jī)關(guān)系就大為復(fù)雜了，須有嚴(yán)格而可行的倫理規(guī)范。經(jīng)典的表述，便是阿西莫夫小說(shuō)《我，機(jī)器人》（1950）里的機(jī)器人三定律：

一、機(jī)器人不得傷害人類(lèi)，或坐視人類(lèi)受到傷害；

二、除非違背定律一，機(jī)器人必須服從人類(lèi)的命令；

三、除非違背定律一或定律二，機(jī)器人必須保護(hù)自己。

學(xué)界論述紛紜，不乏有創(chuàng)意的修訂和補(bǔ)充。但詳加審辨，這三條都講不通。首先，“傷害人類(lèi)”不好定義。傷害是后果，而情節(jié)千差萬(wàn)別；何謂傷害，只能個(gè)案分析、個(gè)案判斷。智慧不論高低，管控后果、防患于未然的能力是有限的；傷害可以出于疏忽、意外或故障。其次，假設(shè)AI可控，且無(wú)敵意，人類(lèi)卻遠(yuǎn)非一個(gè)思想一致、立場(chǎng)統(tǒng)一的群體。人們經(jīng)常意見(jiàn)分歧，決策前后矛盾，后悔這樣那樣，更不要說(shuō)利益沖突、彼此為敵了。機(jī)器服從一人，便有可能妨礙或損及另一人的權(quán)益，反之亦然。叫它如何行動(dòng)呢？何況，機(jī)器人有了意識(shí)，能理解回應(yīng)人的感情，若是跟人建立了友誼，甚至相愛(ài)，這時(shí)它怎樣取舍呢（呂超，頁(yè)148）？最后，既然前兩條定律難以實(shí)踐，第三條也無(wú)法執(zhí)行了。