【文/觀察者網(wǎng)專欄作者 鄭戈】

機(jī)器學(xué)習(xí)大模型是人工智能技術(shù)經(jīng)過(guò)60余年累積而綻放出的應(yīng)季花朵，令觀賞者贊嘆不已。由于當(dāng)下的多模態(tài)大模型不僅可以生成文字影音內(nèi)容（AIGC），甚至可以生成實(shí)物（借助3D打印技術(shù)，比如商湯“日日新”大模型體系中的“格物”），所以被認(rèn)為是生成式人工智能的突破性進(jìn)展。

從技術(shù)上講，大模型并非基于任何知識(shí)上的創(chuàng)新，而是基于算力、算法和數(shù)據(jù)的規(guī)模升級(jí)，是摩爾定律和梅特卡夫定律所揭示的技術(shù)的政治經(jīng)濟(jì)效應(yīng)的表現(xiàn)。換句話說(shuō)，大模型依靠的“暴力計(jì)算”，即高性能GPU運(yùn)行千億級(jí)參數(shù)模型通過(guò)海量數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練。

用OpenAI首席科學(xué)家伊利亞·蘇茨克沃的話來(lái)說(shuō)：“如何解決難題？使用大量訓(xùn)練數(shù)據(jù)以及一個(gè)大型神經(jīng)網(wǎng)絡(luò)。這樣，你可能得到的唯一結(jié)果就是成功?！睘榇耍琌penAI的主要投資者微軟投入數(shù)億美元資金為OpenAI打造了一套超算系統(tǒng)，由上萬(wàn)顆單價(jià)為數(shù)萬(wàn)美元英偉達(dá)A100芯片組成，這套系統(tǒng)為訓(xùn)練ChatGPT提供了3640PF-days的算力消耗（即假如每秒計(jì)算一千萬(wàn)億次、連續(xù)計(jì)算3640天）。

資料圖來(lái)源：Shutterstock

由此可見(jiàn)，大模型訓(xùn)練是一個(gè)燒錢的游戲和耗能的游戲，充滿著重資本的味道，一點(diǎn)兒也不節(jié)能環(huán)保。這時(shí)，我們就需要對(duì)大模型的商業(yè)和社會(huì)應(yīng)用進(jìn)行一番成本-收益分析，看看它所帶來(lái)的收益是否大于成本以及收益的歸屬和成本的分擔(dān)。在進(jìn)行這種分析的時(shí)候，我們應(yīng)當(dāng)注意到尚未被計(jì)入成本的那些外部性，比如實(shí)際上由公眾承擔(dān)成本的環(huán)境損害。

·系統(tǒng)性風(fēng)險(xiǎn)

大模型能夠帶來(lái)的好處似乎是顯而易見(jiàn)的。

雖然訓(xùn)練成本高昂，但一經(jīng)訓(xùn)練成功，它就可以產(chǎn)生巨大的生產(chǎn)力，自動(dòng)化地生產(chǎn)文字、圖像和音視頻內(nèi)容，比如幫助文字工作者生成文案和文學(xué)作品，幫助醫(yī)生了解病人的病史和癥狀描述并形成診斷和治療方案，幫助老師、科研人員和學(xué)生閱讀大量文本并提取關(guān)鍵知識(shí)點(diǎn)和主要論點(diǎn)，幫助法律職業(yè)者審閱法律文件、分析法律問(wèn)題并形成初步法律意見(jiàn)書(shū)等等。

進(jìn)一步，當(dāng)細(xì)分領(lǐng)域的專業(yè)化大模型出現(xiàn)的時(shí)候，它可以改變各行各業(yè)的生產(chǎn)方式和組織形態(tài)，大幅度提升制造業(yè)、交通運(yùn)輸業(yè)、農(nóng)業(yè)乃至任何我們能夠想到的行業(yè)的自動(dòng)化程度和生產(chǎn)率。

以商湯的“日日新”大模型體系為例，它包含：

作為對(duì)話和文本內(nèi)容生成平臺(tái)的“商量”（SenseChat），可以像ChatGPT那樣跟人進(jìn)行多輪對(duì)話，可以寫(xiě)廣告語(yǔ)、文案、故事、小說(shuō)和程序代碼；

如果用于智慧醫(yī)療，可以提供隨訪、健康咨詢、互聯(lián)網(wǎng)問(wèn)診和輔助醫(yī)療服務(wù)，這些功能已經(jīng)在上海新華醫(yī)院、鄭州鄭大一附院、成都華西醫(yī)院得到實(shí)際應(yīng)用；

它還包含根據(jù)文字生成圖像的“描畫(huà)”，可以生成圖文并茂的文案、漫畫(huà)并輔助其他形式的藝術(shù)創(chuàng)作；

還有生成元宇宙3D虛擬場(chǎng)景的“瓊宇”，可以實(shí)現(xiàn)對(duì)虛擬空間和虛擬物體的復(fù)刻與交互，比如耗時(shí)兩天即可生成具有厘米級(jí)復(fù)刻精度、還原場(chǎng)景的真實(shí)細(xì)節(jié)和光照效果的100平方公里虛擬城市，可用于數(shù)字孿生、建筑設(shè)計(jì)、影視創(chuàng)作、文旅宣傳和電商展示等場(chǎng)景；

以及“格物”，即連接3D物體生成與3D打印，將自動(dòng)生成的物體制造成實(shí)物，可用于制造業(yè)。

這些都是大模型商業(yè)模式的從業(yè)者向我們展示的美好前景，在絲毫不否認(rèn)這些場(chǎng)景都有可能在近期實(shí)現(xiàn)的前提下，我想指出其另外一面，以便我們的公共選擇能夠促成一種普惠的現(xiàn)實(shí)，而不是讓技術(shù)成為“割韭菜”的工具，在給少數(shù)人帶來(lái)巨大收益的同時(shí)讓多數(shù)人承擔(dān)成本而只得到極微小的、甚至是虛幻的好處。

首先，正如前面已經(jīng)暗示的那樣，現(xiàn)有的大模型訓(xùn)練方案是對(duì)人類已有的創(chuàng)造成果的規(guī)?；瘜W(xué)習(xí)，所產(chǎn)生的結(jié)果是已有內(nèi)容的新的表達(dá)形式，它不會(huì)帶給我們關(guān)于事實(shí)的新知。

已有的實(shí)操都顯示出，ChatGPT更善于回答“主觀題”，而在“客觀題”方面則無(wú)法給我們提供準(zhǔn)確的答案。也就是說(shuō)，大型語(yǔ)言模型學(xué)會(huì)了人類的油嘴滑舌和政治正確，卻絲毫不“關(guān)心”真理和事實(shí)。

這倒是與語(yǔ)言本身的功能高度吻合。按照悉尼大學(xué)語(yǔ)言學(xué)教授恩菲爾德（N. J. Enfield）的說(shuō)法，語(yǔ)言是人類社會(huì)生活的產(chǎn)物，它的首要功能不是再現(xiàn)現(xiàn)實(shí)，而是維系社會(huì)系和協(xié)調(diào)社會(huì)行動(dòng)。

借助語(yǔ)言，我們不僅對(duì)其他人產(chǎn)生影響，而且與其他人一起來(lái)影響社會(huì)。在使用語(yǔ)言時(shí)，我們不僅考慮要不要表達(dá)自己的真實(shí)想法，還要考慮其他人會(huì)怎么理解我們所表達(dá)的內(nèi)容，以及他們?cè)诎凑兆约旱睦斫庀宋覀兯磉_(dá)的內(nèi)容后會(huì)如何回應(yīng)我們。

語(yǔ)言的功能塑造著語(yǔ)言的形態(tài)，導(dǎo)致所有的人類語(yǔ)言中都包含大量表示人類主觀感受的詞匯，而描述自然事實(shí)的詞匯卻缺乏精準(zhǔn)性。比如，人眼可以辨別幾百種顏色，但描述顏色的詞匯在任何人類語(yǔ)言中都只有屈指可數(shù)的幾個(gè)。

他最后的結(jié)論是：語(yǔ)言對(duì)律師而言是好的，對(duì)科學(xué)家而言卻是糟糕的。

劉慈欣的《三體》也呈現(xiàn)了人類語(yǔ)言的這種特點(diǎn)。

三體人不借助語(yǔ)言來(lái)交流，所想即所見(jiàn)，這種特點(diǎn)可能是使他們的科技遠(yuǎn)遠(yuǎn)領(lǐng)先于地球人的原因之一。畢竟地球人耗費(fèi)于揣摩心思、編制花言巧語(yǔ)、維系社會(huì)關(guān)系上的時(shí)間和精力遠(yuǎn)遠(yuǎn)多于用來(lái)認(rèn)識(shí)客觀世界的時(shí)間和精力。甚至更專注于事實(shí)世界的人會(huì)被認(rèn)為不合群、不正常，因此會(huì)在社會(huì)選擇中被淘汰。

但人類思想的不透明也令三體人感到害怕，你永遠(yuǎn)無(wú)法從一個(gè)地球人說(shuō)的話里判斷出他的真實(shí)想法。地球人也正是利用自己的這個(gè)比較優(yōu)勢(shì)（或比較劣勢(shì)）制定出了面壁者計(jì)劃。面壁者被假定是城府最深的人，他們所說(shuō)所做的一切都是“計(jì)劃的一部分”，但這種計(jì)劃完全是私密的、不為外人所知的。

語(yǔ)言大模型的運(yùn)行機(jī)理不是透過(guò)話語(yǔ)的表象來(lái)呈現(xiàn)人的內(nèi)心，更不是超越語(yǔ)言來(lái)幫助人類認(rèn)識(shí)現(xiàn)實(shí)，而是熟練地使用語(yǔ)言表象本身，使表象更加表象，乃至可以自動(dòng)化地生成。

以下就是我跟ChatGPT兩段對(duì)話的截屏，從中我們可以看出ChatGPT是如何的“虛偽”，如何的不關(guān)注事實(shí)，但又如何的圓滑和政治正確，而且這種政治正確是以它所學(xué)習(xí)的語(yǔ)料中呈現(xiàn)出的主流價(jià)值觀為標(biāo)準(zhǔn)的。

對(duì)話一：關(guān)于價(jià)值判斷的主觀題

對(duì)話二：關(guān)于簡(jiǎn)單事實(shí)的客觀題

在社會(huì)交往中策略性地使用語(yǔ)言是人本身就很擅長(zhǎng)的，我們所需要的人工智能是能夠?yàn)槲覀兝斫庹鎸?shí)世界提供可靠信息的助手，而不是能夠模仿我們熟練使用社交語(yǔ)言的“社?！薄Ｔ谶@一點(diǎn)上，大型語(yǔ)言模型還不如搜索引擎。

進(jìn)而，如果人們覺(jué)得大型語(yǔ)言模型支撐的各種聊天工具比真人說(shuō)話更“動(dòng)聽(tīng)”，便會(huì)減少與親人、朋友、同事或同學(xué)的語(yǔ)言交流，沉浸于跟機(jī)器聊天。這將進(jìn)一步加劇社交媒體興起以來(lái)人在自己主觀世界中的沉浸和共同體意識(shí)的缺失?！靶畔⒗O房”、“過(guò)濾氣泡”和“回音室”等概念都描述了這樣一種數(shù)字化時(shí)代普遍現(xiàn)實(shí)。

對(duì)于平臺(tái)企業(yè)來(lái)說(shuō)，這是一個(gè)巨大的商機(jī)，因?yàn)槔萌巳硕加械娜觞c(diǎn)才能實(shí)現(xiàn)規(guī)?；?，而激勵(lì)人克服弱點(diǎn)的產(chǎn)品和服務(wù)卻不可能為大眾所樂(lè)于消費(fèi)。資本不負(fù)責(zé)教育人積極向上，這是一個(gè)基本事實(shí)。但人畢竟生存在真實(shí)世界中，這個(gè)世界的客觀事實(shí)總會(huì)檢驗(yàn)人的主觀認(rèn)知，一旦面臨生存考驗(yàn)，沉浸于主觀滿足感的人類就會(huì)顯得十分脆弱。