心智觀察所：搜索這個方面，像以前雅虎之類的也都做不過谷歌。

周恒星：對，谷歌商業(yè)模式也很好，基本上融了一輪之后就可以賺很多錢了，他也不需要投資，后面很多人想收購谷歌也都失敗了，所以谷歌就是一直吊打微軟，到納德拉成為 CEO 之后，可能云計算方面開始讓微軟稍微扳回了一局，因為谷歌雖然也有云計算，但其實不是它的優(yōu)勢。納德拉覺得應(yīng)該做一些谷歌還不是特別擅長的東西，就看準(zhǔn)了AI，他也說服了比爾蓋茨，之后就跟 OpenAI 結(jié)盟了。我覺得雙方可能互相都有需求，就一拍即合。

心智觀察所：它成了一種彎道超車的工具。谷歌有自己的 AI 、微軟和OpenAI 也有它們之間特殊的關(guān)系,亞馬遜有Anthropic、馬斯克有個X AI，包括各個國家都有很多公司在做這個內(nèi)容。現(xiàn)在所有人都在AI 的這條賽道上瘋狂的卷。從技術(shù)的角度來講，這些大公司之間，他們相互的廝殺能對我們國內(nèi)做 AI 的公司提供什么啟發(fā)嗎？他們這些公司的目的都是在追求 AGI 嗎？

周恒星：我覺得他們的終極目標(biāo)還是AGI。 AGI 有點(diǎn)像圣杯，所有人都在追逐它。我覺得國內(nèi)現(xiàn)在的確是稍微弱一些，不過還是有彎道超車的機(jī)會。如果回顧歷史，中國科技行業(yè)其實一直都是從一個跟隨者，然后慢慢超越。從互聯(lián)網(wǎng)到新能源汽車， AI 的話，我覺得現(xiàn)在可能差距不會比當(dāng)年小。

中國人才也是足夠多的，但現(xiàn)在目前來看中國更追求的是應(yīng)用，而不是大模型。在應(yīng)用層面我覺得中國是有優(yōu)勢的，就看能不能做一些比較好的 AI 應(yīng)用出來。至于說如果要達(dá)到 AGI 做大模型，這可能不是我們的優(yōu)勢。

另外一方面中國還有個優(yōu)勢，就是硬件。中國的供應(yīng)鏈可能除了芯片造不出來，其實可以造任何東西，而美國現(xiàn)在其實什么東西都造不出來。中國在這方面是有優(yōu)勢的。在未來，像具生智能需要做的那種機(jī)器人，如果要保證量產(chǎn)的話，可能那些公司還要來中國，必須要依靠中國的供應(yīng)鏈。

心智觀察所：這好像是一個圣杯戰(zhàn)爭，在美國大家都朝著 AGI 的方向在卷。你覺得你作為一位科技行業(yè)觀察者來講，這是AI 的未來嗎？這是人類的未來嗎？AGI好像不光是科技的問題了，不是一個單純講技術(shù)的問題，人算什么？人要干什么？因為比如說像辛頓（Hinton），他好像就不太支持AGI。

周恒星：對，他比較看重 AI 安全，不想讓大公司壟斷整個行業(yè)，比如就只有Open AI 獲得AGI，獲得這個圣杯，然后其他人都做不到，這個時候他覺得很危險。我覺得 AGI 這個事情早晚會發(fā)生，而且會很快，雖然現(xiàn)在遇到一些瓶頸，但還是會慢慢達(dá)到那個點(diǎn)，我覺得可能速度會超過很多人想象，這會對社會的沖擊非常大。

OpenAI的AGI機(jī)器人

心智觀察所：不做非常垂直類的AI，而是要做通用的智能，讓它有人類的這種推理能力。你覺得這個是必然的趨勢嗎？

周恒星：我覺得這個可能要根據(jù)行業(yè)來說，其實如果只是需要AGI的推理能力，完全沒有必要有個硬件，只要用軟件就可以。如果涉及到硬件的話，比如說陪伴機(jī)器人，當(dāng)然就是越像人類越好。而像工廠機(jī)器人，其實只能做一個動作。但如果未來它可能不像人類這么智能，但它可以獲得智能，可以做很多動作，那就不需要多條生產(chǎn)線，就只需要一條生產(chǎn)線，然后這個機(jī)器人可以輪流做不同的動作。這個其實是可以節(jié)省成本的，但這需要看行業(yè)。

心智觀察所：所謂未來能解決萬事萬物的AGI要回答你所有問題，包括情感陪伴、歷史哲學(xué)、數(shù)學(xué)題，還要寫程序，人們對他的期待就會影響資本對他的估值。這是一個非常感性的故事。

人類先要有一個想象，然后希望這個想象真的會在現(xiàn)實中間呈現(xiàn)出來，以這個方式推進(jìn)的話，未來我們是朝著哪條路？

周恒星：如果大模型越來越智能，具身機(jī)器人也可以變得越來越聰明，這是需要跟產(chǎn)業(yè)結(jié)合起來，中國的優(yōu)勢可能更多是產(chǎn)業(yè)結(jié)合這條路，因為中國的大模型現(xiàn)在稍微比美國弱一些。

心智觀察所：奧爾特曼最近被辛頓（Hinton）批評更關(guān)心利潤，而不是關(guān)心 AI 安全。你如何看待利潤和安全之間的取舍？

周恒星：我覺得這是兩種價值觀的沖突，可能 Hinton是學(xué)術(shù)圈的。我覺得學(xué)術(shù)圈特別是西加州的一些大學(xué)很多受到了自由主義左派的影響，他們應(yīng)該當(dāng)年是從一些環(huán)保，反戰(zhàn)的環(huán)境中成長起來的。我覺得學(xué)術(shù)圈有個問題，對商業(yè)缺乏認(rèn)識，但是從創(chuàng)業(yè)圈的角度來說，對于創(chuàng)業(yè)者最大就是競爭。這就需要你在競爭里面活下來。

我覺得對于奧爾特曼他們來說，他有可能意識到了安全這個問題非常重要，包括他當(dāng)時也答應(yīng)了伊利亞，會給 20% 算力來做超級對齊的問題——畢竟AI的某些情感價值觀跟人類不一致。但后面很有可能就是因為跟谷歌和 Anthropic 競爭實在太激烈了，OpenAI必須全力向前，把資源都投入到做大模型里面，所以后面的矛盾就越來越大。其實我覺得這兩點(diǎn)都是可以理解的。因為我覺得他作為一個 CEO首先要贏得競爭，這方面壓力應(yīng)該是最大的，而不是像辛頓把這個問題看的這么重。

心智觀察所：馬斯克也經(jīng)?？紤]安全和人類未來。

周恒星：對，我在書里面其實也寫到他在 OpenAI 那段時間，特別是 2018 年的時候他的一些言論，當(dāng)時他很明顯是個有效加速主義者。他當(dāng)時就一直批評團(tuán)隊，說你們太慢了，要快一點(diǎn)，這跟奧爾特曼是一樣的，從一個資本家的角度不斷去逼迫團(tuán)隊。但他從OpenAI出來之后就說安全的問題，我覺得這更多的是一種競爭策略。

心智觀察所：所以你在書中有一章是提到“硅谷宗教”。歷史上的宗教戰(zhàn)爭，往往也不是為了宗教這件事情本身，而是現(xiàn)實中間所堅持的利益，只不過找到一個理由。

周恒星：對，如果我們看馬斯克，他的很多理論包括他描繪的藍(lán)圖其實是有變化的。根據(jù)他的這套邏輯，終極目標(biāo)是要把人類送往火星。他把電動車當(dāng)作是在火星上一個運(yùn)輸?shù)墓ぞ?，火箭是作為從地球到火星中間的運(yùn)輸工具，X平臺就是在火星上的通訊，包括還有一些腦機(jī)接口計劃。他是有一整套邏輯，里面有他的理想和堅持，當(dāng)然也有很多其實是為了講故事。

心智觀察所：除了加速主義，還有另一條路線：“有效利他主義”，第一次見馬斯克，對他的觀感是這樣的嗎？

周恒星：他當(dāng)時讓我很驚訝，他很看不慣加州那些左派的那些東西，他覺得那是一種很荒謬的價值觀，包括覺醒病毒什么的。我記得北斗衛(wèi)星發(fā)射的時候，我發(fā)一篇文章給他，他“祝賀北斗”。然后我說你覺得中國會比你們先去火星嗎？他說 game on，我們來比賽一下。