【文/觀察者網(wǎng)專欄作者 席亞洲】

本周，路透社報(bào)道“韓國大學(xué)研制AI武器，遭多國專家斷交”，艾倫·馬斯克照例來秀了一把存在感，也有一些在人工智能領(lǐng)域有些名氣的專家發(fā)表了一些觀點(diǎn)。但是這并沒阻止美國國防部先進(jìn)技術(shù)研究局開始“攻擊性蜂群”競賽項(xiàng)目的熱情。以及各國軍方在新技術(shù)發(fā)展規(guī)劃中紛紛寫明要研究AI系統(tǒng)在軍事領(lǐng)域的運(yùn)用。那么，“天網(wǎng)”會(huì)降臨我們的現(xiàn)實(shí)世界嗎？本文來試著分析一下。此外，本周印度又跑出來搞笑，要買20萬把新槍來對抗中國。印度輕武器選型還有多少好玩的事，我們來扒一扒。

“天網(wǎng)”會(huì)降臨嗎？

其實(shí)關(guān)于“壞”人工智能的故事，早就已經(jīng)是科幻小說的常見話題了，事實(shí)上，它甚至要比喜歡討論人工智能的“賽博朋克”小說出現(xiàn)的更早。

阿西莫夫當(dāng)年的《鋼窟》系列就有不少關(guān)于機(jī)器人利用邏輯漏洞，突破“機(jī)器人三大定律”實(shí)施殺人犯罪的故事。

當(dāng)然，筆者最喜歡的關(guān)于人工智能的故事，是一本想不起名字的經(jīng)典小說，其中描寫的是人類自我毀滅后，一個(gè)AI試圖了解什么才是人類，但卻無論如何也做不到，最后他克隆了一具沒有意識的人類身體，將自己的意識注入這具軀體。瞬間，他真正用人類的感官體驗(yàn)了這個(gè)世界，然后，他成為了第一個(gè)復(fù)活的人類。這是讓我這個(gè)“唯物主義蠢貨”（睿智的群星玩家）感到“舒服”的一個(gè)故事——意識、情感、邏輯……這一切都是基于我們的身體和感知搭建起來的，所以就像AI無法想象人類的感受，人類也注定難以理解AI的“感受”。

而大家熟悉的，更多的AI故事則是來自于電影和游戲，《終結(jié)者》大概是說起AI毀滅人類，大家首先想到的一個(gè)故事。而《終結(jié)者》的故事，也正是無數(shù)“科學(xué)大咖”們試圖描繪的，人類應(yīng)該避免的一幅圖景。

毀滅人類的終結(jié)者大軍，實(shí)際上代表了人類對無法理解AI的恐懼

在1984年電影《終結(jié)者》中，超級AI“天網(wǎng)”是由美國軍方開發(fā)的一套戰(zhàn)略決策系統(tǒng)，他們讓它掌握了美國的核武器，結(jié)果，這個(gè)“天網(wǎng)”在開始運(yùn)轉(zhuǎn)后幾分鐘，就發(fā)現(xiàn)對于它來說，人類是最大的威脅，為了毀滅人類，它向蘇聯(lián)發(fā)射了核武器，引發(fā)核大戰(zhàn)，毀滅了大部分人類。然后，它又利用其控制的工廠，生產(chǎn)出冷酷無情的機(jī)器人殺手“終結(jié)者”，來徹底消滅殘存的一小部分人類。

這個(gè)故事的核心在于，人類無法理解AI，無法理解一旦AI產(chǎn)生自我意識后，會(huì)做出什么樣的反映。

而當(dāng)AI試圖接近人類的表現(xiàn)和情感，變得“可以理解”的時(shí)候，它就由恐怖殺手變成了忠實(shí)的伙伴