如果人工智能的學(xué)習(xí)速度是人類(lèi)的指數(shù)倍，那么我們應(yīng)該想到，它同樣能以指數(shù)倍的速度進(jìn)行試錯(cuò)，而人類(lèi)的決策通常就是通過(guò)試錯(cuò)才做出的。也就是說(shuō)，人工智能犯錯(cuò)的速度要快于人類(lèi)，其犯錯(cuò)的嚴(yán)重性也是人類(lèi)無(wú)法相比的。人工智能科學(xué)家們通常認(rèn)為，在人工智能程序中注入“道德”或“理性”的指令也無(wú)濟(jì)于事，它們并不會(huì)使人工智能算法所犯的錯(cuò)誤有絲毫減輕。實(shí)際上，人類(lèi)所有的學(xué)科都是在人們沒(méi)有就各學(xué)科的重要概念（諸如“道德”、“理性”這樣的概念）達(dá)成共識(shí)的前提下發(fā)展起來(lái)的。如此說(shuō)來(lái)，人工智能是否會(huì)成為超越所有這些具體學(xué)科理論體系的一門(mén)終極學(xué)科呢？

第三，人工智能有能力實(shí)現(xiàn)它被賦予的既定目標(biāo)，但人工智能無(wú)法解釋它實(shí)現(xiàn)目標(biāo)過(guò)程背后的基本原理。在模式識(shí)別、大數(shù)據(jù)分析和游戲等領(lǐng)域，人工智能或許已經(jīng)超越了人類(lèi)。如果人工智能的計(jì)算能力繼續(xù)快速進(jìn)步，那么它或許很快就能夠以與人類(lèi)略為不同或截然不同的方式對(duì)場(chǎng)景進(jìn)行優(yōu)化。但到了那個(gè)時(shí)候，人工智能是否能夠以人類(lèi)能理解的方式來(lái)證明它的場(chǎng)景優(yōu)化比人類(lèi)做得更好呢？人工智能的決策是否會(huì)超越人類(lèi)語(yǔ)言的解釋能力或人類(lèi)理性的理解能力呢？

縱觀人類(lèi)歷史，我們創(chuàng)造了很多理解周遭的世界的方法——在中世紀(jì)，我們通過(guò)宗教來(lái)理解世界；在啟蒙時(shí)代，我們?cè)V諸理性；在19世紀(jì)，我們通過(guò)歷史去分析世界；而到了20世紀(jì)，我們又找到了意識(shí)形態(tài)這個(gè)工具。至于當(dāng)下這個(gè)我們正在投身其中的新世界，一個(gè)最難回答然而也最為重要的問(wèn)題在于：如果人類(lèi)個(gè)體對(duì)客觀世界的認(rèn)知能力被人工智能所超越，如果人類(lèi)社會(huì)再也無(wú)法通過(guò)自己能夠理解的方式去解釋這個(gè)世界，屆時(shí)人類(lèi)意識(shí)本身會(huì)落入怎樣的境遇呢？

在未來(lái)的人工智能世界里，人類(lèi)經(jīng)驗(yàn)在機(jī)器眼中不過(guò)是一堆可以用自身內(nèi)存處理的數(shù)據(jù)，從這一角度來(lái)說(shuō)，人類(lèi)意識(shí)又該如何定義呢？誰(shuí)該為人工智能機(jī)器人的行為負(fù)責(zé)呢？當(dāng)人工智能犯下錯(cuò)誤時(shí)，責(zé)任歸屬該如何劃定呢？當(dāng)人工智能的思想比人類(lèi)更加深邃、其行動(dòng)能力比人類(lèi)更加強(qiáng)大時(shí)，由人類(lèi)制定的法律體系還能夠?qū)θ斯ぶ悄艿男袨樽龀霾枚▎幔?

最后，“人工智能”（Artificial Intelligence）這個(gè)詞可能用得并不恰當(dāng)。不可否認(rèn)，人工智能機(jī)器人能夠解決很多非常復(fù)雜且表面看起來(lái)非常抽象的問(wèn)題，這些問(wèn)題此前都是在人類(lèi)認(rèn)知能力的參與下獲得解決的。但人工智能的獨(dú)特之處在于，它的“思維方式”是人類(lèi)此前從未想到過(guò)的，更是此前從未采取過(guò)的?；蛘呖梢赃@樣表述，人工智能前所未有的記憶能力和計(jì)算能力是其“思維方式”有別于人類(lèi)的關(guān)鍵。由于在上述兩方面的壓倒性?xún)?yōu)勢(shì)，人工智能可以在人類(lèi)給它安排的任何游戲中勝出。

但對(duì)于人類(lèi)而言，我們?cè)趨⑴c游戲活動(dòng)時(shí)，“贏”并非唯一的目的，我們還希望在游戲中享受思考的樂(lè)趣。當(dāng)我們將人工智能的數(shù)據(jù)處理過(guò)程當(dāng)作思考過(guò)程親自進(jìn)行模擬，當(dāng)我們將這一過(guò)程得出的結(jié)果視為人類(lèi)思考的結(jié)果，那么人類(lèi)真正的思考能力就有可能退化，而思考能力正是人類(lèi)認(rèn)知能力的核心。

最近新推出的人工智能程序“阿爾法零”（Alpha Zero）就體現(xiàn)了上述趨勢(shì)。這款人工智能棋類(lèi)程序的國(guó)際象棋水平在大師級(jí)之上，它的行棋風(fēng)格在國(guó)際象棋歷史上也是前所未見(jiàn)的。僅僅通過(guò)幾個(gè)小時(shí)的自我對(duì)弈訓(xùn)練，“阿爾法零”就獲得了人類(lèi)用1500年才能達(dá)到的國(guó)際象棋水平，而它最初具備的僅僅是國(guó)際象棋的基本規(guī)則。在“阿爾法零”自我訓(xùn)練的過(guò)程中，沒(méi)有任何人參與，也沒(méi)有任何來(lái)自人類(lèi)的對(duì)弈數(shù)據(jù)被注入該人工智能程序。如果“阿爾法零”在短短幾個(gè)小時(shí)之內(nèi)就獲得了國(guó)際象棋大師的對(duì)弈水平，那么5年之后，人工智能技術(shù)將發(fā)展到怎樣的高度呢？人工智能對(duì)人類(lèi)的認(rèn)知能力會(huì)產(chǎn)生怎樣的影響呢？從本質(zhì)上來(lái)說(shuō)，人工智能所做的其實(shí)是對(duì)選擇過(guò)程進(jìn)行加速，那么倫理道德在這一過(guò)程中又扮演著怎樣的角色呢？

一般來(lái)說(shuō)，此類(lèi)問(wèn)題應(yīng)該留給技術(shù)人員以及相關(guān)科學(xué)領(lǐng)域的專(zhuān)業(yè)人士去回答。哲學(xué)及其他人文學(xué)科領(lǐng)域的學(xué)者們?cè)凇笆澜缰刃颉边@一概念的塑造方面貢獻(xiàn)了自己的力量，但由于他們對(duì)人工智能程序的運(yùn)行機(jī)制缺乏理解或者干脆被人工智能的表現(xiàn)所震驚以至于對(duì)其心生敬畏，他們?cè)诜治錾鲜鰡?wèn)題時(shí)并非處于很合適的地位。相比之下，科學(xué)界在十分興奮地探索人工智能在諸多領(lǐng)域獲得成功的技術(shù)可行性，而技術(shù)界也在為人工智能未來(lái)規(guī)模巨大的商業(yè)前景感到鼓舞?？茖W(xué)界和技術(shù)界這兩個(gè)群體都在探索推進(jìn)人工智能技術(shù)進(jìn)步的邊界，但他們并沒(méi)有花太多時(shí)間試圖去理解這種技術(shù)進(jìn)步到底意味著什么。至于我們的政府，就其工作內(nèi)容而言，與思考人工智能所產(chǎn)生的對(duì)人類(lèi)未來(lái)生存境況的影響比起來(lái)，他們對(duì)人工智能技術(shù)在國(guó)家安全和情報(bào)工作方面的應(yīng)用似乎更加感興趣。

“啟蒙運(yùn)動(dòng)”從根本上來(lái)說(shuō)是由新技術(shù)出現(xiàn)所導(dǎo)致的人們對(duì)我們這個(gè)世界在哲學(xué)層面的理解所發(fā)生的變化。而我們當(dāng)下的時(shí)代與啟蒙時(shí)期相比，在技術(shù)進(jìn)步和哲學(xué)思考的互相作用方向上是相反的。我們一直在尋求一種指導(dǎo)綱領(lǐng)性的哲學(xué)，而在尋求這種哲學(xué)的過(guò)程中，我們卻創(chuàng)造出了一種很可能將主導(dǎo)一切的技術(shù)。其他很多國(guó)家已將人工智能列為重要的國(guó)家級(jí)項(xiàng)目，但美國(guó)甚至還沒(méi)有開(kāi)始對(duì)這項(xiàng)新技術(shù)所涉及的應(yīng)用范圍以及它可能在各層面造成的影響進(jìn)行系統(tǒng)性研究，而且為了避免被人工智能取代，我們?cè)谌祟?lèi)的終極學(xué)習(xí)（ultimate learning）領(lǐng)域也還沒(méi)有啟動(dòng)任何計(jì)劃。鑒于人類(lèi)人文主義傳統(tǒng)（humanistic traditions）的命運(yùn)與人工智能技術(shù)密切相關(guān)，美國(guó)必須在國(guó)家層面對(duì)這項(xiàng)技術(shù)的發(fā)展保持高度關(guān)注。

就像我不了解人工智能的技術(shù)細(xì)節(jié)一樣，人工智能技術(shù)領(lǐng)域的研發(fā)人員們對(duì)政治和哲學(xué)也是缺乏認(rèn)識(shí)的。他們應(yīng)該把我在本文中提出的問(wèn)題也提給自己，并在今后的研發(fā)過(guò)程中將那些問(wèn)題納入考慮。此外，美國(guó)政府應(yīng)該成立一個(gè)由各領(lǐng)域杰出思想家組成的總統(tǒng)委員會(huì)以便他們?cè)趪?guó)家層面協(xié)助制定未來(lái)人工智能技術(shù)發(fā)展的遠(yuǎn)景規(guī)劃。

有一點(diǎn)是明確的：如果我們不盡快行動(dòng)起來(lái)，過(guò)不了多久我們就會(huì)發(fā)現(xiàn)一切已經(jīng)太遲了。

（觀察者網(wǎng)馬力譯自2018年6月號(hào)美國(guó)《大西洋月刊》雜志）

本文系觀察者網(wǎng)獨(dú)家稿件，文章內(nèi)容純屬作者個(gè)人觀點(diǎn)，不代表平臺(tái)觀點(diǎn)，未經(jīng)授權(quán)，不得轉(zhuǎn)載，否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn，每日閱讀趣味文章。