要理解NeurIPS最佳論文的分量，我們不妨回望2014年的一個(gè)歷史性時(shí)刻。那年《Sequence to Sequence Learning with Neural Networks》都未獲得最佳論文，僅僅進(jìn)入了oral（口頭演講》環(huán)節(jié)。

這篇出自Ilya Sutskever、Oriol Vinyals和Quoc V. Le之手的論文不僅是一項(xiàng)學(xué)術(shù)成就，更像是為人工智能劃出了一條全新的航道。

彼時(shí)還默默無(wú)聞的三位作者，如今已是AI領(lǐng)域的標(biāo)志性人物：Sutskever成為了OpenAI的聯(lián)合創(chuàng)始人，在GPT系列的開發(fā)中發(fā)揮核心作用；Vinyals在DeepMind主導(dǎo)了AlphaFold的突破；Le則在Google Brain推動(dòng)了大語(yǔ)言模型的革新。他們的序列到序列學(xué)習(xí)框架，為今天ChatGPT、Claude這樣的自回歸語(yǔ)言模型奠定了理論基石。

而當(dāng)年獲得了最佳論文的李平教授，在回國(guó)后曾任百度首席架構(gòu)師（T11）和百度研究院副院長(zhǎng)。

NeurIPS的錄用門檻極其嚴(yán)苛，獲得這個(gè)獎(jiǎng)的難度有多高呢？

據(jù)數(shù)據(jù)統(tǒng)計(jì)顯示，以2023年為例，大會(huì)收到12,343篇投稿，最終接受率為26.1%。而能夠入選口頭報(bào)告（Oral）的論文更是鳳毛麟角，通常不到1%。

在這樣的背景下，VAR論文不僅入選Oral，還以近乎滿分的評(píng)審分?jǐn)?shù)（7,8,8,8）摘得最佳論文桂冠，其學(xué)術(shù)分量可見一斑。田柯宇北大同一實(shí)驗(yàn)室的同學(xué)對(duì)騰訊科技表示，此論文為第一篇來(lái)自中國(guó)大陸的NIPS最佳論文。

這篇名為《視覺(jué)自回歸建模：基于下一尺度預(yù)測(cè)的可擴(kuò)展圖像生成》的論文，發(fā)布于2024年5月，它代表了AI系統(tǒng)生成圖像方式的重大突破。

傳統(tǒng)的圖像生成方法就像在一頁(yè)紙上從左到右、從上到下依次填寫文字。VAR則采用了一種更接近人類直覺(jué)的方法：先勾勒出大致輪廓，再逐步添加細(xì)節(jié)。

具體來(lái)說(shuō)，VAR包含兩個(gè)訓(xùn)練階段：首先通過(guò)多尺度VQVAE將圖像編碼為不同分辨率的標(biāo)記映射，然后訓(xùn)練VAR Transformer來(lái)預(yù)測(cè)更高分辨率的細(xì)節(jié)。

這篇論文提出的視覺(jué)自回歸建模（VAR）方法首次證明了GPT式模型可以在圖像生成方面超越擴(kuò)散模型——這是許多人認(rèn)為不可能的里程碑。在ImageNet 256×256基準(zhǔn)測(cè)試中，VAR將圖像質(zhì)量評(píng)估指標(biāo)FID從18.65提升至1.73，生成速度提高了20倍。

更重要的是，VAR展現(xiàn)出此前只在大型語(yǔ)言模型中觀察到的特征：清晰的冪律縮放和零樣本泛化能力。

用更簡(jiǎn)單的話來(lái)說(shuō)就是，系統(tǒng)隨著規(guī)模增大而可預(yù)測(cè)地變得更好，并且能夠處理它沒(méi)有專門訓(xùn)練過(guò)的任務(wù)——這是更高級(jí)AI系統(tǒng)的標(biāo)志。這些特性暗示了視覺(jué)AI可能與語(yǔ)言AI走向統(tǒng)一的道路。

目前，VAR的代碼已在GitHub上開源，獲得了超過(guò)4400顆星標(biāo)。

從其技術(shù)價(jià)值和實(shí)際獲得的榮譽(yù)來(lái)看，這篇論文和田柯宇的科研含金量都極高。然而，正是因此，他讓前公司字節(jié)陷入了兩難之境。

兩難的字節(jié)

對(duì)字節(jié)跳動(dòng)而言，田柯宇大模型“投毒”事件帶來(lái)的打擊遠(yuǎn)比表面看起來(lái)要嚴(yán)重。

更具戲劇性的是，當(dāng)VAR論文在NeurIPS載譽(yù)而歸時(shí)，字節(jié)跳動(dòng)卻陷入了進(jìn)退維谷的尷尬境地。

作為一家渴望在AI領(lǐng)域與谷歌、OpenAI等全球巨頭競(jìng)爭(zhēng)的中國(guó)科技公司，字節(jié)跳動(dòng)在人工智能基礎(chǔ)研究上投入了數(shù)以億計(jì)的資金。這項(xiàng)突破性研究確實(shí)誕生于字節(jié)實(shí)驗(yàn)室，但公司卻無(wú)法在學(xué)術(shù)社區(qū)大張旗鼓地宣傳這一成就——因?yàn)檎撐牡牡谝蛔髡哒还酒鹪V。

這種矛盾直指當(dāng)前公司管理的某種困境：如何對(duì)有才干的科學(xué)家分配有效的資源，給予個(gè)體更有效的表彰？在愈發(fā)龐大的字節(jié)，這一命題也變得越來(lái)越難解。尤其在OpenAI、Anthropic等競(jìng)爭(zhēng)對(duì)手普遍采取更開放研究政策的背景下，大公司很可能因?yàn)榻M織結(jié)構(gòu)的問(wèn)題在吸引和保留頂尖AI人才的戰(zhàn)爭(zhēng)中落敗。

更令人深思的是，田柯宇能夠如此輕易地破壞訓(xùn)練系統(tǒng)，暴露出字節(jié)在核心技術(shù)安全管控上的致命漏洞。這對(duì)于一家掌握著數(shù)億用戶數(shù)據(jù)、運(yùn)營(yíng)著多個(gè)AI大模型的科技巨頭而言，無(wú)疑是一記響亮的警鐘。

（AI未來(lái)指北特約作者 郝博陽(yáng)）