-
117款生成式人工智能服務(wù)已備案,大模型底層創(chuàng)新夠了嗎?
4月2日,國家互聯(lián)網(wǎng)信息辦公室發(fā)布《關(guān)于發(fā)布生成式人工智能服務(wù)已備案信息的公告》(以下簡稱“《公告》”)。根據(jù)《公告》,目前已有117款生成式人工智能服務(wù)通過備案。從屬地來看,生成式人工智能服務(wù)集中在北京、上海、廣東,其中北京51款,上海24款,廣東19款。不過,清華大學(xué)蘇世民書院院長薛瀾日前表示,在AI大模型方面,單從量上講中國進(jìn)步很大,但實際上還存在不少問題,因為有不少是用套殼和拼裝的方式構(gòu)建的。中國數(shù)據(jù)質(zhì)量較低也是一個問題。
深圳元始智能有限公司首席運(yùn)營官(RWKV元始智能)羅璇表示,中國大部分模型基于美國的一些開源開放模型進(jìn)行微調(diào)或重訓(xùn)練,大部分模型類似于LLaMA模型,底層原始創(chuàng)新少,“國內(nèi)如果還在照著LLaMA的方向做,永遠(yuǎn)沒辦法商業(yè)落地、突破天花板?!彼J(rèn)為一定要找到新的架構(gòu)。
117款生成式人工智能服務(wù)已備案
《公告》提出,提供具有輿論屬性或社會動員能力的生成式人工智能服務(wù)的,可通過屬地網(wǎng)信部門履行備案程序,屬地網(wǎng)信部門應(yīng)及時將已備案信息對外公開發(fā)布。已上線的生成式人工智能應(yīng)用或功能,應(yīng)在顯著位置或產(chǎn)品詳情頁面公示所使用已備案生成式人工智能服務(wù)情況,注明模型名稱及備案號。
《公告》顯示,去年8月,智譜“智譜清言”、百度“文心一言”、抖音“云雀大模型”、百川智能“百應(yīng)”、中國科學(xué)院自動化研究所“紫東太初大模型開放平臺”,以及上海稀宇科技“abab”、商湯科技“日日新”、上海人工智能實驗室“書生·浦語”8項生成式人工智能服務(wù)完成首批備案。
新近完成備案的有四川長虹電器的“長虹云帆”、OPPO的“AndesGPT-LVM”、深圳榮耀軟件技術(shù)公司的“YOYO助理(移動版)”等。
澎湃科技(www.thepaper.cn)統(tǒng)計發(fā)現(xiàn),通過備案的117款生成式人工智能服務(wù)中,屬地以北京、上海、廣東為主。其中北京51款,上海24款,廣東19款。浙江和江蘇分別有7款和2款。天津、貴州、湖南、重慶各有2款,安徽、海南、四川、福建、山東各有1款。此外,中國移動備案了一款“九天自然語言交互大模型”,屬地為國資委。
套殼導(dǎo)致大模型缺乏原始創(chuàng)新
ChatGPT問世后,人工智能領(lǐng)域風(fēng)起云涌,技術(shù)創(chuàng)新加速。中國人工智能大模型形成“百模大戰(zhàn)”局面。
金沙江創(chuàng)投董事總經(jīng)理朱嘯虎去年11月曾表示,生成式人工智能百花齊放,但200多個大模型很快就會進(jìn)入收斂期,未來可能只會剩下10-20個大模型,因為大部分大模型現(xiàn)在很難差異化和商業(yè)化。
清華大學(xué)蘇世民書院院長薛瀾2月份在中國數(shù)字經(jīng)濟(jì)發(fā)展和治理學(xué)術(shù)年會(2024)上表示,在AI大模型方面,單從量上講中國進(jìn)步很大,但實際上還存在不少問題,因為有不少是用套殼和拼裝的方式構(gòu)建的?!熬唧w而言,目前很多國外的模型是開源的,那么在開源的基礎(chǔ)上進(jìn)行套殼就可以形成一個套殼的大模型,接著再將一些這樣的大模型拼裝在一起就變成更大的大模型,這種方式做出來的大模型背后的原創(chuàng)性是有限的?!?
“過去一年多,中國的大部分模型還是基于美國的一些開源開放模型進(jìn)行微調(diào)或重訓(xùn)練。有一些預(yù)訓(xùn)練能力的企業(yè)也是拿著LLaMA架構(gòu)重新訓(xùn)練,所以整體來說國內(nèi)大部分模型是類似于LLaMA的模型。”RWKV元始智能COO羅璇對澎湃科技(www.thepaper.cn)表示,中國大模型的底層原始創(chuàng)新少,更多是探索落地應(yīng)用等垂直領(lǐng)域創(chuàng)新。
LLaMA是一個基于Transformer架構(gòu)的大語言模型?!按蠹业牡讓蛹軜?gòu)都在用別人的技術(shù),而Transformer這個架構(gòu)本身就是有問題的?!绷_璇表示,從第一性原理角度來看,Transformer的計算復(fù)雜度高,算力需求巨大,算法效率低。這會加重芯片“卡脖子”問題,具身智能、多智能體、世界模型的開發(fā)也會被計算復(fù)雜度“卡脖子”?!皣鴥?nèi)如果還在照著LLaMA的方向做,永遠(yuǎn)沒辦法商業(yè)落地、突破天花板?!彼J(rèn)為未來一定會出現(xiàn)一個新的架構(gòu)替代現(xiàn)在的Transformer。
此外,中國數(shù)據(jù)質(zhì)量較低也是一個問題。薛瀾表示,“中國的數(shù)據(jù)量很大,但沒有真正產(chǎn)業(yè)化,相對標(biāo)準(zhǔn)化的數(shù)據(jù)服務(wù)商還比較少,因為大數(shù)據(jù)服務(wù)不賺錢,公共數(shù)據(jù)企業(yè)沒有意愿去清洗,定制化服務(wù)一般收費(fèi)又比較高。因此,數(shù)據(jù)市場如何構(gòu)建也是需要解決的問題?!?
多元公平競爭,相信第一性原理
中國人工智能的發(fā)展有雄厚積累與先發(fā)優(yōu)勢,但薛瀾認(rèn)為也面臨著一些挑戰(zhàn)。首先是如何形成不同企業(yè)公平競爭的市場環(huán)境,包括民營企業(yè)、國有企業(yè)、外資企業(yè),以及大中小企業(yè),多元公平競爭的市場環(huán)境對人工智能發(fā)展至關(guān)重要。其次是產(chǎn)業(yè)生態(tài)問題,如何建立企業(yè)、資金、人才等多方面主體和多方面資源有效流通、協(xié)調(diào)一致的產(chǎn)業(yè)生態(tài)。第三是治理問題,怎樣形成可預(yù)期、包容審慎、敏捷有效的治理框架,為形成鼓勵人工智能發(fā)展的市場環(huán)境和產(chǎn)業(yè)生態(tài)奠定制度基礎(chǔ)。最后是如何聚集全球頂尖人工智能人才,中國要加大開放力度。
從技術(shù)角度來看,對于人工智能未來發(fā)展趨勢,上海人工智能實驗室領(lǐng)軍科學(xué)家喬宇表示有兩條路徑,一是延續(xù)大模型路線,用更大的算力擴(kuò)大模型規(guī)模,拓寬能力邊界,向產(chǎn)業(yè)滲透,模型也從語言大模型向多模態(tài)大模型、具身大模型的方向發(fā)展。多模態(tài)大模型是現(xiàn)在的競爭熱點(diǎn),未來的大模型要能和物理世界交流,完成更復(fù)雜的任務(wù),所以具身大模型是重要發(fā)展方向。但單純擴(kuò)大規(guī)模存在幻覺、效率、可信、安全等瓶頸,這就涉及到第二條新技術(shù)路線的探索,要探索強(qiáng)化學(xué)習(xí)、知識計算、符號推理、類腦計算及其他新型路徑?;谥R、符號、推理的方法,可解釋性和安全性強(qiáng)。
“不要相信美國的權(quán)威在說什么,一定要相信第一性原理?!绷_璇則表示,Transformer架構(gòu)和芯片卡住了商業(yè)落地和前端研究,遭遇了尺度定律(Scaling
Law)的困境,當(dāng)參數(shù)到達(dá)六七百億時,尺度定律的邊際效益會下降,因此要探索新的模型架構(gòu)。兼具Transformer和RNN(循環(huán)神經(jīng)網(wǎng)絡(luò))優(yōu)勢的RWKV就是一種新架構(gòu),“我們做了4年。RWKV不但是一個計算效率非常高的大模型,解決了Transformer的計算復(fù)雜度問題,而且它已經(jīng)在商業(yè)化落地了?!绷_璇表示,RWKV可以解決計算效率低、計算成本高難題,可直接在手機(jī)、電腦、機(jī)器人等端側(cè)運(yùn)行。所以一定要找到新的架構(gòu),企業(yè)才能跑出PMF(產(chǎn)品市場匹配度)?!拔也幌M袊娜斯ぶ悄苈浜?,我希望中國有真正的全球化開源開放的生態(tài)?!?
附件:生成式人工智能服務(wù)已備案信息(2024年3月)
(澎湃新聞記者 張靜 實習(xí)生 方卉)
- 原標(biāo)題:117款生成式人工智能服務(wù)已備案,大模型底層創(chuàng)新夠了嗎?
- 責(zé)任編輯: 唐曉甫 
-
7180.4米,試驗完成!核心器部件100%國產(chǎn)化
2024-04-02 09:37 -
全球首次觀測到引力子激發(fā),中國科學(xué)家領(lǐng)銜!
2024-03-28 14:08 -
打破壟斷!這種芯片實現(xiàn)國產(chǎn)
2024-03-26 11:22 科技前沿 -
電網(wǎng)儲能用新鐵基液流電池問世
2024-03-26 09:06 -
中歐更新簽署這一衛(wèi)星合作協(xié)議
2024-03-26 08:45 -
亞洲第一深水導(dǎo)管架“?;枴背晒ο滤?/a>
2024-03-25 11:00 能源戰(zhàn)略 -
創(chuàng)最高紀(jì)錄!這一進(jìn)展有望推動我國實現(xiàn)元素命名零的突破
2024-03-22 19:42 科技前沿 -
長八改火箭全面轉(zhuǎn)入首飛試驗階段
2024-03-22 17:21 航空航天 -
全球首例,美國完成活體人類移植豬腎臟手術(shù)
2024-03-22 14:10 美國一夢 -
“激烈”談判3個月,聯(lián)大通過首個有關(guān)AI的全球決議草案
2024-03-22 11:07 歡樂聯(lián)合國 -
-
Gemini將嵌入iPhone?蘋果被曝與谷歌洽談
2024-03-18 16:03 -
臺積電兩座先進(jìn)封裝廠落腳嘉義,未來或引入日本
2024-03-18 14:30 -
突破2000W/cm2!我國科學(xué)家刷新紀(jì)錄
2024-03-17 10:49 科技前沿 -
國產(chǎn)火箭發(fā)動機(jī)“紅龍一號”可重復(fù)點(diǎn)火20次以上
2024-03-16 13:40 航空航天 -
華為云CEO:打造全新核心技術(shù)生態(tài),為世界提供新的選擇
2024-03-15 21:12 觀網(wǎng)財經(jīng)-科創(chuàng) -
中國空間站首批艙外暴露實驗材料樣品完成實驗,成功取回
2024-03-15 15:03 航空航天 -
世界首例!我國完成“基因編輯豬-人”異種肝臟移植
2024-03-15 09:09 醫(yī)學(xué) -
“星艦”失聯(lián)后,馬斯克稱它將把人類帶到火星
2024-03-15 07:40 -
SpaceX星艦重返大氣層時失去信號,第三次試飛提前結(jié)束
2024-03-14 23:02 航空航天
相關(guān)推薦 -
歐盟外長又來:美歐互毆,中國在笑 評論 25普京同意?;穑瑵蛇B斯基:別信,美歐趕緊制裁 評論 170俄高官稱臨時停火只會給烏軍喘息,美特使飛抵莫斯科 評論 127“小馬科斯這么干,菲律賓危險啊” 評論 105“歐洲輸了,門戶向中企敞開” 評論 187最新聞 Hot
-
歐盟外長又來:美歐互毆,中國在笑
-
“美國竟要求G7聲明對大陸強(qiáng)硬,對臺灣鼓舞”
-
“對付中國的成本變高了,日本得加錢”
-
萬斯放話:綠卡持有者沒有無限期留美權(quán)利
-
普京同意?;穑瑵蛇B斯基:別信,美歐趕緊制裁
-
轉(zhuǎn)折點(diǎn)!看看中國在干啥,美國又在干啥
-
特斯拉致信警告美政府,但沒人敢簽字…
-
特朗普回應(yīng):“很樂意”與普京會面
-
俄高官稱臨時?;鹬粫o烏軍喘息,美特使飛抵莫斯科
-
“加歐不尊重美國,看看英墨,人懂事多了”
-
“如果美國能對我們這樣的鐵桿盟友動手,還有誰能幸免?”
-
宴會上向自民黨新議員發(fā)放商品券?石破茂:小禮品,出于善意
-
“美國,快來我們這部署核彈頭”
-
特朗普突然走神:萬斯,你的襪子怎么回事?
-
俄駐英大使:只有達(dá)成全面協(xié)議,才會考慮停止軍事行動
-
“小馬科斯這么干,菲律賓危險啊”
-