大家好，我是谷智軒。很久沒和大家聊聊巴以局勢了。

最近，有外媒曝光了一件嚇人的事：長期以來，以色列都在使用 人工智能“薰衣草”（Lavander）識別和打擊加沙的目標，造成了大量平民傷亡。經(jīng)常看我們節(jié)目的小伙伴都知道，我們一直在關(guān)注人工智能的發(fā)展，不只是技術(shù)上的進展，還有在法律和倫理上，人類對于AI的各種爭論和探索。我們對于如何利用AI，遠遠沒有形成共識。各國對于AI的立法和管理，還在摸石頭過河。實在是沒想到，竟然有一個國家，跳過了前面的所有環(huán)節(jié)，直接到了用AI殺人的階段。聯(lián)合國秘書長古特雷斯就此發(fā)表聲明，表示“深感不安”（deeply troubled）；我只能說，用詞過于委婉了。本期《軒講》，我們就來聊聊以色列用AI殺人這事，究竟有多可怕。

本月初，以色列-巴勒斯坦地區(qū)的兩家左翼媒體+972雜志和Local Call網(wǎng)站，發(fā)布了一份調(diào)查報告。他們的記者采訪了六名以色列情報官員。這些人都參與了眼下這場加沙戰(zhàn)爭，而且是親身參與了利用AI生成打擊目標的過程。當然了，他們的名字肯定是不能透露的，以色列軍方也否認了他們的說法。報告里的事到底有沒有，我沒法評價。我只說兩點：第一，報告邏輯自洽、細節(jié)豐富，而且確實解釋了以軍在這場戰(zhàn)爭中的很多行為；第二，有的時候，謊言太離譜，反而可能是真相。

這個報告里講了個什么故事呢？我給大家總結(jié)一下。首先，以色列軍方多年以前就在開發(fā)可以甄別攻擊目標的人工智能。背后的動機簡單直白：確認目標的事情，人也可以做，但效率太低。在過去的戰(zhàn)爭中，要授權(quán)擊殺單個人類目標，必須先給目標“定罪”。軍隊肯定不會像法院做得那么細，也沒那么講究原則和程序，但交叉核對證據(jù)，證明“這個人”確實是“那個人”，還是要的。確定目標后，再收集他的活動軌跡，制定擊殺計劃。如果只想干掉哈馬斯的高級成員，數(shù)量控制在兩位數(shù)，定罪和定位都不是難事。但以色列不滿足于此。高級成員要殺，數(shù)以萬計的低級成員也要殺。這種五位數(shù)以上的擊殺名單，情報人員肯定做不了，交給AI，那就省事多了。

那么這個AI由誰來開發(fā)呢？這里就要提到以色列著名的8200部隊了。插播一小段背景介紹啊。8200是番號，這支部隊正式的名稱是中央情報搜集部隊（Central Intelligence Gathering Unit），成立于1952年，可謂戰(zhàn)功赫赫，比如在1967年第三次中東戰(zhàn)爭的開戰(zhàn)首日，截獲了埃及總統(tǒng)納賽爾和約翰國王侯賽因的高保密專線，1985年截獲了巴解領(lǐng)導(dǎo)人阿拉法特和“恐怖分子”的電話，等等。除了“戰(zhàn)績”之外，8200的另一個招牌，就是它的成員了。以色列是全民兵役制，不管男女，18歲都得服役。而8200有提前搖人的特權(quán)，在不到18歲的所有以色列人里面，把智商最高、能力最強、最有潛力的五千號人挑出來，然后干嘛呢？PUA、特訓(xùn)、搞情報。這里面還會選出千人左右，專門開發(fā)一些用于作戰(zhàn)和情報收集的高科技“小玩意兒”，里面就包括了戰(zhàn)場內(nèi)外使用的人工智能。

以色列8200部隊，匯聚了電腦精英，負責(zé)信號情報收集、密碼解密、反間諜、網(wǎng)絡(luò)戰(zhàn)、軍事情報監(jiān)視等情報工作

8200有一個數(shù)據(jù)科學(xué)與人工智能中心，中心負責(zé)人在多個場合都提及他們正在開發(fā)目標識別AI，而以色列媒體的報告就引用了他的很多說法。比如說，這類AI的訓(xùn)練流程。把已知的哈馬斯和杰哈德成員名單喂給AI，利用一種叫做正樣本未標注學(xué)習(xí)（Positive-unlabeled learning）的機器學(xué)習(xí)算法，讓AI提取他們之間的共同特征。接下來，AI就可以比對這些特征，對所有巴勒斯坦人打分，越是符合特征的，分數(shù)越高。最后，情報人員會把樣本按照分數(shù)排個序，確定下“及格線”，過線的，就是恐怖分子，可以殺。這位負責(zé)人在特拉維夫大學(xué)講演的時候，還一再強調(diào)，AI只是起到輔助篩選的作用，最后決定殺不殺的，還是有血有肉的人。

以色列國防軍 8200 部隊數(shù)據(jù)科學(xué)和人工智能中心指揮官2023年2月出席特拉維夫大學(xué)AI周

可真的到了實踐的時候，就完全不是這么回事了。