【文/ 觀察者網(wǎng)專欄作者 熊節(jié)】

手機(jī)上的App會(huì)“讀心術(shù)”早已不是秘密了。很多人有過這樣的體驗(yàn)：剛和朋友聊天說到什么想買什么，轉(zhuǎn)眼就在某App里看見了這件商品；剛瀏覽了幾條某個(gè)主題的新聞，突然某App里就全是關(guān)于這件事的回答。

長期來，許多網(wǎng)民對(duì)這種情況感到不滿，甚至有點(diǎn)恐懼。

如今，一個(gè)開關(guān)“千呼萬喚始出來”，在許多常用App的“設(shè)置”頁，您應(yīng)該能找到“關(guān)閉個(gè)性化推薦”之類的選項(xiàng)。

筆者找到了“知乎”和“淘寶”的相關(guān)開關(guān)并親測：

為何各個(gè)常見的App悄悄給出了關(guān)閉個(gè)性化推薦的選項(xiàng)？原因是今年1月4日正式公布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下文簡稱《規(guī)定》）中有這么一條：

第十七條 算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。

這份由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布的《規(guī)定》將于今年3月1日正式起施行。

據(jù)筆者所知，這是全世界第一個(gè)對(duì)算法推薦行為加以具體約束的法案。

歐洲的《數(shù)字市場法案》（DMA）中也有“不允許利用數(shù)據(jù)優(yōu)勢向用戶投放指向性廣告，除非獲得用戶明確許可”的約定，但DMA去年11月才獲得歐洲議會(huì)內(nèi)部市場委員會(huì)通過，與歐洲各國政府的談判還未啟動(dòng)，完成立法仍有一段距離。

而中國各大互聯(lián)網(wǎng)企業(yè)已經(jīng)在以實(shí)際行動(dòng)迎接《規(guī)定》的落地。

算法推薦的潛在危害

2006年，哈佛大學(xué)凱斯·桑斯坦教授在《信息烏托邦》一書中提出，人類社會(huì)存在一種“信息繭房”現(xiàn)象。他認(rèn)為，在信息傳播中人們自身的信息需求并非全方位的，只會(huì)注意選擇自己想要的、能使自己愉悅的信息，久而久之接觸的信息就越來越局限，就像蠶吐出來的絲一樣，細(xì)細(xì)密密地把自己包裹起來，最終將自己桎梏在“信息繭房”內(nèi)，失去接觸和了解不同觀念的機(jī)會(huì)。

算法推薦則有可能強(qiáng)化信息繭房效應(yīng)：你越是對(duì)某種事物感興趣、傾向于某種觀念，算法就會(huì)越是給你推薦關(guān)于這種事物、支持這種觀念的材料，讓你不斷強(qiáng)化自己的興趣和傾向。而且，算法推薦還可能被有目的性地引導(dǎo)人群，從而影響公眾觀念，甚至影響政治決策。因此，美國數(shù)學(xué)家凱西·奧尼爾在《算法霸權(quán)》一書中將推薦算法稱作“數(shù)學(xué)大殺器”（weapons of math destruction）。在過去幾年中，這件“大殺器”已經(jīng)在現(xiàn)實(shí)世界中多次產(chǎn)生效果。

2016年，在支持特朗普競選的“阿拉莫項(xiàng)目”（Project Alamo）中，來自臉書、谷歌、推特等幾個(gè)主要社交網(wǎng)絡(luò)平臺(tái)的顧問在圣安東尼奧的同一間辦公室并肩工作，在數(shù)字廣告上投放了大約9千萬美元。阿拉莫項(xiàng)目采用了精妙的算法推薦技術(shù)來影響選民：當(dāng)一位互聯(lián)網(wǎng)用戶被識(shí)別為“關(guān)鍵選民”（例如搖擺州的搖擺縣的搖擺選民），社交網(wǎng)絡(luò)就會(huì)給這樣的用戶定向投放具有引導(dǎo)性的內(nèi)容，從而用相對(duì)不多的經(jīng)費(fèi)影響競選結(jié)果。

就在美國大選前幾個(gè)月，英國的劍橋分析（Cambridge Analytica）公司使用來自臉書的用戶數(shù)據(jù)操縱了英國脫歐（Brexit）公投，令脫歐派意外獲勝——與特朗普意外當(dāng)選如出一轍。

在正式用于影響英美政局之前，類似的手段已經(jīng)在多個(gè)發(fā)展中國家做過實(shí)驗(yàn)。2010年，在特立尼達(dá)和多巴哥，一場起源于臉書的“Do So”運(yùn)動(dòng)讓大批非洲裔選民拒絕投票，從而使印度裔主導(dǎo)的聯(lián)合民族大會(huì)（UNC）在大選中受益。2015年，部分尼日利亞用戶在臉書上看到暴力血腥、仇視穆斯林的視頻短片，其目的是恐嚇選民、操縱選舉。算法推薦一旦被濫用，真的可以成為“大殺器”。

即使不是被故意濫用，算法推薦也可能暗含社會(huì)的偏見和歧視。去年10月，推特的推薦算法被發(fā)現(xiàn)“無意中放大了右翼團(tuán)體內(nèi)容的傳播”：政治右翼當(dāng)選官員發(fā)布的推文在算法上被放大的程度超過政治左翼；右翼媒體比左翼媒體的影響力更大。

更早之前，職場社交網(wǎng)站領(lǐng)英的搜索算法（也可以看作一種形式的推薦算法：根據(jù)搜索關(guān)鍵詞推薦“最匹配”的內(nèi)容）被發(fā)現(xiàn)存在性別歧視，男性求職者會(huì)被放在更高的位置。谷歌的廣告平臺(tái)AdSense被發(fā)現(xiàn)存在種族偏見，如果搜索關(guān)鍵詞看起來像是黑人的名字，AdSense就會(huì)有更大概率推薦犯罪記錄查詢相關(guān)的廣告。

因?yàn)樗惴ㄍ扑]有這些潛在危害的風(fēng)險(xiǎn)，歐美一些研究者很早就提出對(duì)推薦算法加以管制。本次《規(guī)定》中要求的算法機(jī)制機(jī)理審核、科技倫理審查、允許用戶關(guān)閉算法推薦等措施，在國外都早有人提過建議。然而國際互聯(lián)網(wǎng)大廠從未將這些建議落地，還經(jīng)常辯稱“基于深度學(xué)習(xí)的算法無法被審核”。為了幫助讀者理解《規(guī)定》的重要意義，筆者將簡要介紹算法推薦背后的技術(shù)原理。