互聯(lián)網(wǎng)的出現(xiàn)和計(jì)算能力的提高為海量數(shù)據(jù)的積累和分析提供了極大便利，人類的理解能力因此獲得了前所未有的提升。在這一過(guò)程中，意義最為重大的技術(shù)創(chuàng)新出現(xiàn)在人工智能領(lǐng)域。人工智能技術(shù)能夠通過(guò)類似人腦才具有的信息處理能力進(jìn)行創(chuàng)新性思維并解決復(fù)雜的、看似抽象的問(wèn)題。

這已經(jīng)遠(yuǎn)遠(yuǎn)超出了我們對(duì)“自動(dòng)化”的理解。所謂“自動(dòng)化”僅是針對(duì)手段而言，自動(dòng)化技術(shù)通過(guò)對(duì)生產(chǎn)工具進(jìn)行機(jī)械化或合理化改進(jìn)來(lái)實(shí)現(xiàn)確定的生產(chǎn)目標(biāo)。與自動(dòng)化技術(shù)大為不同，人工智能技術(shù)是針對(duì)結(jié)果而言的，人工智能可以自行確定自身行為的目標(biāo)。由于在某種程度上來(lái)說(shuō)人工智能所實(shí)現(xiàn)的目標(biāo)部分取決于其自身，所以人工智能具有一種內(nèi)在的不穩(wěn)定性。人工智能系統(tǒng)在實(shí)際運(yùn)行過(guò)程中不斷獲取新的數(shù)據(jù)并即時(shí)對(duì)這些新數(shù)據(jù)進(jìn)行分析，在分析結(jié)果的基礎(chǔ)上，人工智能系統(tǒng)可以不斷對(duì)自己的算法進(jìn)行優(yōu)化。

所以說(shuō)，人工智能系統(tǒng)是一個(gè)不斷變化的、處于動(dòng)態(tài)中的系統(tǒng)。在這一動(dòng)態(tài)過(guò)程中，人工智能系統(tǒng)表現(xiàn)出了一種此前被認(rèn)為僅有人類才會(huì)具有的信息處理能力。它可以對(duì)未來(lái)做出戰(zhàn)略判斷，有些判斷是基于以代碼形式事先注入的數(shù)據(jù)（圍棋規(guī)則），有些判斷則是基于人工智能系統(tǒng)自身所收集到的數(shù)據(jù)（與自己進(jìn)行100萬(wàn)次對(duì)弈過(guò)程中出現(xiàn)的各種情況）。

以無(wú)人駕駛汽車為例，它體現(xiàn)了傳統(tǒng)上以軟件驅(qū)動(dòng)、完全受到人類控制的車載計(jì)算機(jī)行為與滲透進(jìn)駕駛過(guò)程每一個(gè)細(xì)節(jié)的人工智能行為這兩者之間的區(qū)別。人類駕駛汽車時(shí)需要面對(duì)數(shù)不清的各種情況，并需要在每一具體情況下做出特定的判斷，我們根本不可能預(yù)先想到所有的情況并事先為每一種可能的情況編寫(xiě)程序。我們以一個(gè)十分有名的假設(shè)為例來(lái)進(jìn)行說(shuō)明：當(dāng)一輛由人工智能控制的無(wú)人駕駛汽車不得不在一位老人和一個(gè)小孩之間做出選擇必須撞向其中一人時(shí)，它會(huì)如何選擇呢？其背后的原因何在？它在做出選擇時(shí)會(huì)更看重哪些因素？它能夠自圓其說(shuō)嗎？如果人工智能程序能夠與人類交流的話，它很可能會(huì)這樣回答上述問(wèn)題：“我不知道，我駕駛汽車時(shí)遵循的是數(shù)學(xué)原理，我不懂人類的那套規(guī)則”，它也可能這樣回答：“你搞不懂我的，我曾受到大量訓(xùn)練來(lái)應(yīng)對(duì)各種駕駛情況，但我從未受到訓(xùn)練向人類解釋為何我會(huì)那樣應(yīng)對(duì)那些情況”。這就是人工智能無(wú)人駕駛技術(shù)當(dāng)下的現(xiàn)實(shí)，不過(guò)不出10年，無(wú)人駕駛汽車很可能將行駛在我們的每一條街道上。

截至目前，人工智能技術(shù)僅在有限幾個(gè)領(lǐng)域里獲得了應(yīng)用。如今，人工智能科學(xué)家們正試圖將這一技術(shù)的應(yīng)用領(lǐng)域擴(kuò)大到社會(huì)生活的各個(gè)方面，未來(lái)的人工智能將可以執(zhí)行多種任務(wù)。在不遠(yuǎn)的未來(lái)，將有越來(lái)越多的人類工作被人工智能算法所取代。不過(guò)，這些算法只能對(duì)所觀察到的現(xiàn)象進(jìn)行數(shù)學(xué)性理解，算法并不能理解現(xiàn)象背后的原因。令人感到矛盾的是，隨著我們的世界越來(lái)越透明，人工智能算法卻會(huì)變得越來(lái)越神秘。未來(lái)的新世界與我們?cè)缫蚜?xí)慣的今日世界會(huì)有哪些不同呢？我們將如何在那個(gè)新世界里生活呢？我們?cè)撊绾喂芾砣斯ぶ悄?？該如何改進(jìn)它？該如何避免它對(duì)人類造成傷害？該如何避免比人類更快、更好掌握某些能力的人工智能（對(duì)它來(lái)說(shuō)欲獲得那些能力僅需處理一些數(shù)據(jù)）使人類的能力趨于退化或使人類的境況趨于惡化？

人工智能遲早將為醫(yī)學(xué)科學(xué)、清潔能源和環(huán)境保護(hù)等領(lǐng)域帶來(lái)極大的進(jìn)步。不過(guò)，正因?yàn)槿斯ぶ悄芩鎸?duì)的未來(lái)正處于不斷演進(jìn)之中，它為我們帶來(lái)的結(jié)果就內(nèi)在地具有某種模糊性和不確定性。在這方面，有如下四點(diǎn)值得我們注意：

首先，人工智能可能為我們帶來(lái)意想不到的后果。在科幻小說(shuō)的情節(jié)中，人工智能機(jī)器人已經(jīng)將其創(chuàng)造者列為攻擊目標(biāo)了。不過(guò)，另一種情況的可能性更大，由于人工智能并不是在一個(gè)完整的語(yǔ)境中理解信息的，它很可能無(wú)法正確理解人類的指令。最近一個(gè)有名的例子來(lái)自一個(gè)名為T(mén)ay的通過(guò)自然語(yǔ)言同人進(jìn)行交流的人機(jī)智能對(duì)話系統(tǒng)，科學(xué)家的設(shè)計(jì)初衷是希望Tay能夠以一個(gè)19歲女孩的身份和語(yǔ)言特征與人們進(jìn)行友善、理性的交談。不過(guò)，結(jié)果證明，這個(gè)智能對(duì)話系統(tǒng)并不能真正理解“友善”和“理性”的含義，Tay所使用的語(yǔ)言反而體現(xiàn)出種族主義者和性別歧視者的一些特征，有時(shí)候“她”講的話甚至能將人激怒。

一些專業(yè)技術(shù)人員認(rèn)為，人機(jī)智能對(duì)話系統(tǒng)Tay的設(shè)計(jì)思路不夠合理，具體研發(fā)過(guò)程也出現(xiàn)了很多問(wèn)題。不過(guò)，我們?nèi)匀荒軌蚪璐司推浔澈蟮哪：幪岢鲆恍┮蓡?wèn)：我們能在多大程度上使人工智能系統(tǒng)理解人類指令的具體語(yǔ)境？當(dāng)人類也未能就“冒犯”一詞的準(zhǔn)確含義達(dá)成共識(shí)的時(shí)候，我們能通過(guò)什么辦法幫助Tay獲得“冒犯”一詞的準(zhǔn)確概念？當(dāng)人工智能系統(tǒng)的運(yùn)行偏離其設(shè)計(jì)者的意圖時(shí)，我們能早期發(fā)現(xiàn)并進(jìn)行修正嗎？如果我們對(duì)人工智能系統(tǒng)不施加任何干預(yù)，它會(huì)不會(huì)不可避免地在初期略微偏離設(shè)計(jì)意圖甚至久而久之沿著偏離的軌道滑向?yàn)?zāi)難性的深淵？

第二點(diǎn)，在實(shí)現(xiàn)既定目標(biāo)的過(guò)程中，人工智能可能會(huì)改變?nèi)祟惖乃季S方式和價(jià)值觀。阿爾法狗在擊敗圍棋世界冠軍時(shí)所采用的策略是前所未見(jiàn)的，人類從未想到過(guò)圍棋會(huì)有那種走法而且至今也未能想出針對(duì)那種走法的應(yīng)對(duì)之策。阿爾法狗所采用的圍棋走法是否已經(jīng)超出了人類大腦的理解能力？人類是否能夠?qū)W會(huì)那種走法呢？

在人工智能涉足圍棋領(lǐng)域之前，人類在進(jìn)行圍棋對(duì)弈時(shí)往往抱著各不相同的甚至是多層面的目的：棋手們所追求的不僅是贏得棋盤(pán)上的勝利，他們還希望通過(guò)對(duì)弈過(guò)程領(lǐng)悟出可以在生活中其他領(lǐng)域獲得應(yīng)用的策略和智慧。而對(duì)于人工智能來(lái)說(shuō)，它在棋盤(pán)上的目的只有一個(gè)：戰(zhàn)勝對(duì)手。

人工智能不是像人類那樣通過(guò)對(duì)概念的理解而是通過(guò)數(shù)學(xué)運(yùn)算來(lái)進(jìn)行“學(xué)習(xí)”的，具體表現(xiàn)在對(duì)算法的微調(diào)。所以，在學(xué)習(xí)如何贏得圍棋比賽的過(guò)程中，人工智能與人類的思維方式是完全不同的，它已經(jīng)改變了圍棋對(duì)弈的本質(zhì)以及人類圍棋對(duì)弈的傳統(tǒng)思維范式。這樣一種對(duì)勝利毫無(wú)雜念的渴望是否是所有人工智能程序的共同特征呢？

已經(jīng)有人工智能項(xiàng)目希望通過(guò)研發(fā)能夠回答人類各種問(wèn)題的設(shè)備來(lái)改變?nèi)祟惖乃枷?。這種設(shè)備能夠回答一些事實(shí)性的諸如“現(xiàn)在外面氣溫如何”這樣的問(wèn)題，但在回答關(guān)于存在本質(zhì)或人生意義這樣的問(wèn)題時(shí)，你會(huì)發(fā)現(xiàn)它可能給人類帶來(lái)一些深層的憂慮：我們真得愿意自己的孩子在與不受束縛的人工智能算法進(jìn)行交談時(shí)形成自己的價(jià)值觀嗎？為了保護(hù)提問(wèn)者的隱私，我們是否應(yīng)該限制人工智能算法對(duì)提問(wèn)者的了解呢？在得出上述兩個(gè)問(wèn)題的答案之后，我們又該如何確保人工智能遵從我們的意愿呢？