·以“信息繭房”為例，探討治理成效

下面我們就以“算法專項治理清單指引”中涉及“信息繭房”的內(nèi)容為例來說明其中的原理。

以互聯(lián)網(wǎng)和數(shù)字技術(shù)為媒介的經(jīng)濟(jì)形態(tài)有很多不同的名字，從注意力經(jīng)濟(jì)、共享經(jīng)濟(jì)、平臺經(jīng)濟(jì)到零工經(jīng)濟(jì)。每一個名稱都呈現(xiàn)出它的一個基本特征及其給法律和監(jiān)管帶來的新問題，比如零工經(jīng)濟(jì)所涉及的就是新型就業(yè)形態(tài)及其所涉及的勞動法問題。而注意力經(jīng)濟(jì)則是導(dǎo)致“信息繭房”的主要原因。

我的老朋友哥倫比亞大學(xué)法學(xué)院教授吳修銘（Tim Wu，曾擔(dān)任拜登的科技與競爭政策特別顧問）寫過一本書，書名叫《注意力商販》，核心觀點是：

當(dāng)我們使用各種網(wǎng)絡(luò)社交媒體的免費服務(wù)時，我們不是用戶，而是產(chǎn)品。這些平臺會提供各種免費的服務(wù)，從日常生活軌跡分享到小游戲，目的是吸引我們的注意力，讓我們花更多的時間在上面，生產(chǎn)更多的數(shù)據(jù)，而這些數(shù)據(jù)就是讓它們賺錢的產(chǎn)品。

由于這種商業(yè)模式是如此普遍，以至于成為了我們所處的“數(shù)字社會”的日常組成部分，所以當(dāng)下最緊迫的問題不是討論它是好的、壞的抑或是“必要的惡”，而是用法律去規(guī)制它，限定它的應(yīng)用場景（where）和時間（when），正像廣告法對廣告的限制那樣。

強調(diào)數(shù)字經(jīng)濟(jì)的基本商業(yè)模式是通過吸引用戶注意力來獲取和利用數(shù)據(jù)，并不是吳修銘的原創(chuàng)觀點，這實際上是不代表商業(yè)利益的中立學(xué)者的共識。吳修銘的洞見在于直接將這種商業(yè)模式的核心要素定位到廣告。許多人之所以沒有意識到這一點，是因為這種商業(yè)模式的廣告本質(zhì)被技術(shù)、算法和一整套天花亂墜的營銷敘事給掩蓋了。

就其實質(zhì)而言，作為平臺經(jīng)濟(jì)核心敘事的“完美個人化”或“量身定制”，其實是一種廣告或營銷手段。而把基于人工智能技術(shù)的個性化服務(wù)歸結(jié)為與推銷“腦白金”或“小罐茶”并無本質(zhì)區(qū)別的營銷術(shù)，可能會讓很多人感到驚訝。但我們舉小紅書的例子就很容易說明這一點。

小紅書將自己定位為“生活方式平臺和消費決策入口”，正如微信和抖音等平臺一樣，它提供免費的內(nèi)容分享，而收入則來自于廣告和電商。比如在小紅書上形成了獨特的“種草經(jīng)濟(jì)”：一個用戶通過在線分享消費體驗，引發(fā)社區(qū)互動，推動其他用戶去進(jìn)行線下消費（小紅書因此賺得廣告費）或直接在平臺內(nèi)直播或內(nèi)容分享內(nèi)嵌入的鏈接下單購買（小紅書因此賺取中介費），這些用戶又反過來進(jìn)行體驗分享，最終形成一個“正循環(huán)”。通過使用推薦算法，小紅書能夠精準(zhǔn)地把相關(guān)內(nèi)容投送到可能對其感興趣的人那里，因此使這個正循環(huán)的圈子越來越大。在2023年，小紅書的營收達(dá)到了37億美元，凈利潤為5億美元，其中廣告收入占到總營收的近80%。

注意力經(jīng)濟(jì)的商業(yè)模式對我們的日常生活產(chǎn)生著巨大的影響。

首先是我們把越來越多的醒著的時間花在小紅書和微信等App上，其中最成功的幾個整合了各種各樣的服務(wù)，從新聞、娛樂等內(nèi)容服務(wù)，游戲、視頻等娛樂服務(wù)，購物、支付等消費服務(wù)，導(dǎo)致了上癮和沉迷問題，對青少年危害極大。

其次是這些App會盡可能多地獲取用戶的個人信息，超出為用戶提供其需要的服務(wù)所必要的范圍，這是它的內(nèi)在邏輯所決定。為此，學(xué)者祖波夫（Shoshana Zuboff）專門發(fā)明了“監(jiān)控資本主義”（Surveillance Capitalism）一詞，她在以此為題的一本暢銷書里將數(shù)字經(jīng)濟(jì)的基本形態(tài)概括為通過捕捉和利用“行為剩余”（behavioral surplus）來獲取超額利潤。

她以谷歌為例，在使用谷歌的“免費服務(wù)”的過程中，“我們變成了谷歌的預(yù)測工廠從中提取和開發(fā)利用原材料的客體”。像谷歌這樣的大型平臺企業(yè)雇傭了市場上絕大多數(shù)的優(yōu)秀數(shù)據(jù)科學(xué)家和人工智能專家，他們的集體智慧“旨在洞開人類經(jīng)驗的大門，將其轉(zhuǎn)化為數(shù)據(jù)并創(chuàng)造成一個新的巨無霸市場，這個市場通過預(yù)測、影響和控制人類行為來創(chuàng)造財富?！?

第三，通過對海量人類行為數(shù)據(jù)的學(xué)習(xí)，這些平臺的算法掌握了流量密碼，其中包括通過極端化的言論來挑起爭議以吸引流量，或通過挑起對立引起爭論來吸引流量。為了確?！安坏舴邸?，算法會將用戶想看的內(nèi)容推送到他面前，而避免可能引起他反感的內(nèi)容推送給他。這是導(dǎo)致“信息繭房”、“回音室”和“過濾氣泡”的主要原因。

最后，也是最潛移默化和不易改變的，是對人們心理和行為的改變。人工智能技術(shù)的商業(yè)應(yīng)用一方面利用心理學(xué)知識來促進(jìn)算法編程，另一方面用計算機(jī)科學(xué)來促進(jìn)對消費者心理和行為的理解。兩方面的合力使得平臺企業(yè)得以設(shè)計出各種行為預(yù)測和行為誘導(dǎo)算法，改變著人們的預(yù)期和行為。一切都變得越來越可預(yù)測，因為一切都變得越可操控。但這并沒有使我們的生活變得更美好。

“完美個人化”聽起來的確很吸引人，誰不希望擁有為自己量身定制的產(chǎn)品和服務(wù)呢？但完美個人化所通向的目標(biāo)其實是標(biāo)準(zhǔn)化，因為無法規(guī)?；牟僮鞫紵o法成為成功的商業(yè)模式。借助能夠高效率地找出統(tǒng)計學(xué)規(guī)律的算法，平臺企業(yè)通過識別、分類和評價將用戶貼上各種細(xì)分的標(biāo)簽，從而完成市場細(xì)分意義上的精準(zhǔn)廣告投放。這種商業(yè)策略既不是完美的，也不是個人化的，但卻是規(guī)模化的，因此商業(yè)上是成功的。

四家公司提供的App占據(jù)了使用智能手機(jī)的中國網(wǎng)民70%的時間/注意力，它們分別是騰訊、字節(jié)跳動、阿里巴巴和百度。

了解了“注意力經(jīng)濟(jì)”的運作機(jī)制之后，再來反觀專項治理清單指引中關(guān)于“信息繭房”的內(nèi)容，我們會發(fā)現(xiàn)有些建議雖是出于良好的意圖，但可能無法發(fā)揮多大的作用，比如關(guān)于興趣標(biāo)簽的那些內(nèi)容。

我們知道，平臺不是根據(jù)用戶自己明確表達(dá)出來的興趣來給他們貼標(biāo)簽的，而是根據(jù)對用戶不知不覺的線上行為所留下的電子痕跡來捕捉用戶的點滴需求、片斷想法、瞬間欲望，并自動化地為用戶貼上各種標(biāo)簽的。這種微?；乃惴ň珳?zhǔn)靶向技術(shù)才是推薦算法的內(nèi)核。因此，哪怕你勾選了“不感興趣”，也無法影響算法根據(jù)你的行為數(shù)據(jù)來預(yù)測的興趣，以“身體很誠實”的原理來繼續(xù)向你推送你無法言喻的內(nèi)心渴望所指向的內(nèi)容。

而“防沉迷舉措成效”這部分的內(nèi)容則是一種更好的控制論機(jī)制：在不確定采取什么措施才能更好實現(xiàn)法益保護(hù)目標(biāo)時，要允許監(jiān)管對象去嘗試可能有助于實現(xiàn)該目標(biāo)的方法，并在嘗試之后記錄效果，進(jìn)行反饋，由此在試驗中不斷進(jìn)行改進(jìn)。這或許是在數(shù)字科技全面改變經(jīng)濟(jì)和社會的時代對其實現(xiàn)向上向善的法律和政策引導(dǎo)的唯一辦法。

畢竟，數(shù)字化潮流浩浩湯湯，順之者昌，逆之者亡。所有的監(jiān)管都不能阻礙或扼殺數(shù)字技術(shù)及其應(yīng)用的創(chuàng)新和發(fā)展，而只能在前行中修補，在修補中前行。

本文系觀察者網(wǎng)獨家稿件，文章內(nèi)容純屬作者個人觀點，不代表平臺觀點，未經(jīng)授權(quán)，不得轉(zhuǎn)載，否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn，每日閱讀趣味文章。