【文/沈丹陽(yáng)】

2019年，有兩件事一直困擾著孫正義：軟銀的投資失敗，以及日本科技的落后。

面對(duì)媒體，孫正義痛心地說(shuō)道，科技產(chǎn)業(yè)幾乎從日本消失了，我們正在成為一個(gè)被遺忘的國(guó)家。即將到來(lái)的AI革命，是日本重回牌桌最后的機(jī)會(huì)[1]。

隨著ChatGPT問(wèn)世，孫正義的呼吁終于成為了共識(shí)。然而，正當(dāng)日本舉國(guó)動(dòng)員，準(zhǔn)備一腳油門闖入賽道時(shí)，卻發(fā)現(xiàn)了一個(gè)尷尬的事實(shí)：

日本目前的AI研究，非常依賴隔壁鄰居為首的老外。

對(duì)此，RIKEN革新智慧綜合研究中心負(fù)責(zé)人杉山將，曾做過(guò)一筆統(tǒng)計(jì)。

RIKEN（理化學(xué)研究所）是日本唯一的國(guó)家級(jí)科研機(jī)構(gòu)，頂級(jí)頭腦聚集地。湯川秀樹(shù)等日本諾獎(jiǎng)得主，都曾在這兒搞過(guò)研究。然而，那些被AI頂會(huì)收錄的RIKEN論文，近一半的作者都隸屬于外國(guó)大學(xué)，其中約一半的人來(lái)自中國(guó)[2]。

本土無(wú)人可用，使得日本在生成式AI浪潮里，始終處于失語(yǔ)狀態(tài)。

然而，如若回溯歷史，會(huì)發(fā)現(xiàn)日本也曾是個(gè)“AI超級(jí)大國(guó)”。

上世紀(jì)八九十年代，日本一度是深度學(xué)習(xí)的中心。楊立昆、余凱、林元慶、賈揚(yáng)清等載入科技史冊(cè)的泰斗級(jí)人物，都曾在日本的AI實(shí)驗(yàn)室度過(guò)一段青蔥歲月。

曾經(jīng)攥著一手王炸的日本，為何會(huì)邁向老無(wú)所依的結(jié)局？

站在日本人的肩膀上

上世紀(jì)80年代，正在讀大學(xué)的楊立昆，被一群“瘋子”吸引了。

彼時(shí)，深度學(xué)習(xí)是個(gè)“已被證偽”的技術(shù)路線。然而，仍有一小撮人在死磕，這其中就包括了一批日本科學(xué)家。楊立昆發(fā)現(xiàn)，當(dāng)時(shí)大部分的深度學(xué)習(xí)論文，都是日本研究人員用英文寫的。

這其中，對(duì)他影響最大的，是一位名叫福島邦彥的日本人。

福島邦彥

1980年，福島邦彥參照貓的視覺(jué)結(jié)構(gòu)，設(shè)計(jì)了一個(gè)叫做“神經(jīng)認(rèn)知機(jī)（Neocognitron）”的多層網(wǎng)絡(luò)模型。

在生物的初級(jí)視覺(jué)皮層中，存在多個(gè)神經(jīng)元，每個(gè)神經(jīng)元只“掌管”一小部分視野。隨后，神經(jīng)元收集到的信息會(huì)統(tǒng)一傳輸?shù)揭曈X(jué)皮層，組合成完整的視覺(jué)圖像。

受此啟發(fā)，福島邦彥給神經(jīng)認(rèn)知機(jī)設(shè)計(jì)了“感知光照“和“運(yùn)動(dòng)信息”兩個(gè)神經(jīng)元，分別用來(lái)“提取圖形信息”和“組成圖形信息”。然而，福島邦彥的神經(jīng)認(rèn)知機(jī)，存在一個(gè)致命問(wèn)題：太超前了。

當(dāng)時(shí)，主流的神經(jīng)網(wǎng)絡(luò)只有1層，但神經(jīng)認(rèn)知機(jī)有足足5層。

面對(duì)多層設(shè)計(jì)帶來(lái)的種種問(wèn)題，福島邦彥一時(shí)找不到解決辦法，導(dǎo)致神經(jīng)認(rèn)知機(jī)只能處理一些極其簡(jiǎn)單的工作。

直到1986年，辛頓提出了“反向傳播算法”，這個(gè)問(wèn)題才有了標(biāo)準(zhǔn)答案。

但若向前追溯反向傳播算法，會(huì)發(fā)現(xiàn)其源頭仍是日本人。上世紀(jì)60年代，日本數(shù)學(xué)家甘利俊一提出的“隨機(jī)梯度下降方法”，為其提供了技術(shù)靈感[6]。只不過(guò)囿于特定時(shí)代的局限，甘利俊一沒(méi)有條件在計(jì)算機(jī)上進(jìn)行模擬驗(yàn)證。

1988年，楊立昆將神經(jīng)認(rèn)知機(jī)與反向傳播結(jié)合在一起，打造出了大名鼎鼎的卷積神經(jīng)網(wǎng)絡(luò)。直到今天，卷積神經(jīng)網(wǎng)絡(luò)仍是圖像識(shí)別領(lǐng)域最重要的算法之一。

由此可見(jiàn)，這些定義一個(gè)時(shí)代的AI研究成果，都是站在日本科學(xué)家肩膀上實(shí)現(xiàn)的。

實(shí)驗(yàn)室里的中國(guó)人

同一時(shí)期，日本的產(chǎn)業(yè)界，拉開(kāi)了更為激進(jìn)的歷史篇章。

彼時(shí)，日本步入極度繁榮的泡沫經(jīng)濟(jì)時(shí)代。大型企業(yè)紛紛為愛(ài)發(fā)電，自掏腰包搭建中央實(shí)驗(yàn)室，發(fā)力基礎(chǔ)科學(xué)。這其中，要數(shù)NEC（日本電器股份有限公司）最為激進(jìn)：它直接切入美國(guó)科技產(chǎn)業(yè)腹地，將實(shí)驗(yàn)室開(kāi)到了普林斯頓和硅谷。

財(cái)大氣粗的NEC Lab，很快聚集了一大批日后響當(dāng)當(dāng)?shù)拿帧?

西安交大軟件學(xué)院院長(zhǎng)、國(guó)家特聘教授龔怡宏，是第一個(gè)加入硅谷NEC Lab的國(guó)人科學(xué)家。在他擔(dān)任實(shí)驗(yàn)室主任時(shí)期，延攬了一眾青年才俊。

其中既有觸發(fā)科技巨頭競(jìng)拍辛頓的余凱，也有林元慶、徐偉等活躍在中國(guó)AI產(chǎn)業(yè)一線的技術(shù)大牛。

余凱

彼時(shí)，中國(guó)的計(jì)算機(jī)產(chǎn)業(yè)剛剛起步，吸納不了那么多人才。硅谷NEC Lab無(wú)縫承接了這個(gè)需求，并招攬了大批立志從事AI研究的國(guó)人科學(xué)家。

余凱接棒硅谷NEC Lab主任一職后，又招募來(lái)了黃暢。當(dāng)時(shí)，黃暢底下有一個(gè)名叫賈揚(yáng)清的實(shí)習(xí)生。在NEC Lab期間，賈揚(yáng)清展露出了高超的數(shù)學(xué)和工程代碼能力，曾讓實(shí)驗(yàn)室眾人堅(jiān)信其日后必有所造詣。

這種薪火相傳的孵化線，在林元慶接手硅谷NEC Lab后仍在繼續(xù)。

他引進(jìn)的實(shí)習(xí)生謝賽寧，后來(lái)與麻省理工教授何愷明共同提出了著名的ResNeXt模型。2022年，謝賽寧還和OpenAI研究員Bill Peebles合著了論文《Scalable diffusion models with transformers》。

以這篇論文為基礎(chǔ)，OpenAI打造出了視頻生成模型Sora。

另一間位于普林斯頓的NEC Lab，同樣招攬了楊立昆，以及支持向量機(jī)發(fā)明者Vladimir Vapnik等泰斗級(jí)人物。

可以說(shuō)，歷史上沒(méi)有任何一家機(jī)構(gòu)，能如NEC Lab這般，擁有此等高手如林的班底。

余凱曾在媒體專訪中如此形容NEC Lab巔峰時(shí)期的影響力：如果你在谷歌上搜索美國(guó)NEC Lab，頁(yè)面會(huì)立刻彈出一句話，你要不要來(lái)谷歌工作[7]。

然而鼎盛時(shí)期風(fēng)光無(wú)兩的NEC Lab，卻早已埋下了衰敗的草蛇灰線。