據(jù)《華爾街日報》6月13日消息，谷歌一位軟件工程師表示，有“開放式對話黑科技”之稱的谷歌人工智能聊天機器人LaMDA已經(jīng)有了人一樣的感知力，甚至具有了人的“靈魂”。隨后，谷歌暫停了他的職務(wù)，并否認了他的說法。當事人稱，因為違反公司的保密協(xié)議，現(xiàn)在他快被解雇了。

LaMDA，為啥被叫做“黑科技”？

LaMDA的全稱是LanguageModel for Dialogue Applications，它是一種能力更強的語言模型，適用于對話應(yīng)用程序。簡單來說，它是一種可以讓人工智能對話機器人告別“智障”的技術(shù)。

現(xiàn)在大多數(shù)的智能助手，往往遵守狹窄的、預(yù)先定義好的對話路徑，即它們不具備開放式對話、連續(xù)式對話的能力。很多語音助手“智障”就體現(xiàn)在這一方面：它只能孤立地理解我們的提問，孤立地理解和提供答案，它們既不會聯(lián)系上下文語境，也沒法長時期跟我們聊下去。

LaMDA問世后被人稱為“黑科技”，就是因為它可以通過閱讀句子或段落，來“破譯”對話意圖，發(fā)現(xiàn)單詞之間的關(guān)聯(lián)，并預(yù)測接下來可能出現(xiàn)的單詞，從而做出合乎語境的回答。這也就是所謂的“開放域”（Open Domain）對話能力。

出自谷歌的一段資料顯示，當被問道“（成為）一架真正好的紙飛機的秘訣是什么？”時，LaMDA表示：“我首先要反問你，你指的‘好’，它的定義是什么？”通常來說，這種靈活性是我們之前的很多“智能助手”所不具備的。據(jù)谷歌介紹，LaMDA不僅追求事實、理智，甚至還會關(guān)注幽默感等能力。

圖源谷歌

工程師稱AI聊天機器人有靈魂，谷歌：沒證據(jù)

爭吵現(xiàn)在出現(xiàn)了。

據(jù)《華爾街日報》報道，谷歌軟件工程師勒莫因（Blake Lemoine）表示，他認為LaMDA是一個有權(quán)利（rights）、甚至還可能有靈魂的“人”。據(jù)《紐約時報》報道，該言論其實由來已久：近幾個月來，勒莫因一直在和谷歌的經(jīng)理、人力和高管爭執(zhí)，勒莫因堅稱，LaMDA具有意識（consciousness）和靈魂（soul）。

不過谷歌方面很快否認了他的說法。谷歌發(fā)言人表示，包括倫理學家和技術(shù)專家在內(nèi)的公司專家已經(jīng)展開了評估，相關(guān)證據(jù)并不支持勒莫因的說法。“數(shù)以百計的研究人員和工程師與LaMDA進行了對話，就我們所知，沒有其他人像勒莫因那樣，對LaMDA進行了廣泛的認定或擬人化?！?

谷歌方面還稱，人工智能領(lǐng)域的一些人，正在考慮人工智能具有感知力的長期可能性，但“通過將沒有感知力的對話工具擬人化來這樣做，是沒有意義的”。谷歌稱，像LaMDA這樣的系統(tǒng)，其運行方式是模仿數(shù)以百萬句人類對話中的交流模型，從而讓AI能夠展開深入的交流。

Meta首席科學家、圖靈獎獲得者Yann LeCun表示，谷歌的技術(shù)，即科學家所說的神經(jīng)網(wǎng)絡(luò)，是通過分析大量數(shù)據(jù)來學習技能的數(shù)學系統(tǒng)。近年來，谷歌等企業(yè)通過從大量散文、書籍、百科文章，對神經(jīng)網(wǎng)絡(luò)進行學習，讓這些“語言模型”可以適用于很多任務(wù)，比如寫文章、回答問題等等。

但是它們有極大的缺陷：比如它們不穩(wěn)定，有時候會寫出完美的散文，有時候則胡說八道；它們依賴于重現(xiàn)（recreating）自己過去看到的模式，但它們無法像人類一樣推理思考（reason）。

道德問題引爭議，谷歌和員工再鬧不愉快

雙方的矛盾，不僅僅停留在“LaMDA是不是人”層面，它還衍生出了有關(guān)倫理和道德的爭吵。

“在過去的六個月里，LaMDA在其溝通中表現(xiàn)出令人難以置信的一致性，即它想要什么，以及它認為它作為一個人的權(quán)利是什么，”美國陸軍出身的勒莫因認為，LaMDA的智識相當于“7歲或者8歲的孩子”。既然LaMDA具有開放式對話的能力，那么谷歌在對它展開實驗之前，應(yīng)該先征求它的同意。

勒莫因稱，谷歌對此建議置之不顧，反倒建議他休精神健康假，“他們一直在質(zhì)疑我的理智，還問我：你去看過精神病醫(yī)生了嗎？”據(jù)《紐約時報》透露，勒莫因還在在線出版平臺Medium上的一篇文章中寫道：“讓我感到困惑的是，它（LaMDA）的要求如此簡單，而且對谷歌來說毫無成本，谷歌卻極其強烈地抵制給予它想要的東西?！?

在采訪中，勒莫因表示，因為違反公司的保密政策，他已經(jīng)于6月6日被安排帶薪行政休假。他解釋稱，他并不是想激怒公司，而是想為他認為正確的事情發(fā)聲。雖然他很希望自己能保住在谷歌的工作，但是在一篇Medium帖子中，勒莫因透露，他可能很快就會被解雇。 

這不是谷歌圍繞人工智能倫理問題，第一次和員工鬧不愉快了。

去年12月，知名AI學者、人工智能倫理研究員格布魯（Timnit Gebru）被谷歌開除。消息稱，谷歌在阻止格布魯有關(guān)人工智能系統(tǒng)偏見的研究發(fā)表后解雇了她。在推特等社交媒體上，隨后有上千名谷歌員工、科技行業(yè)專家和學者對她進行了聲援。不少人指出，谷歌的行為，證明了它在AI倫理方面的不足，更可能使其員工不敢發(fā)表那些可能會傷害谷歌利益的重要研究成果。

本文系觀察者網(wǎng)獨家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。