觀察員
-
推理成本最高可降低83%，豆包概念股午后走強(qiáng)
-
周毅是故意的還是不小心？
今日（2月12日）A股市場(chǎng)，豆包概念股午后大幅走強(qiáng)，創(chuàng)業(yè)板漢得信息拉升封板，廣和通、移遠(yuǎn)通信、潤(rùn)欣科技、博通集成等紛紛大幅沖高。
同花順iFinD
消息面上，2月12日，豆包大模型團(tuán)隊(duì)在其公號(hào)發(fā)布文章《全新超稀疏架構(gòu)，推理成本較MoE最高可降83%》。文章稱，近期，字節(jié)跳動(dòng)豆包大模型團(tuán)隊(duì)提出了全新的稀疏模型架構(gòu)UltraMem，該架構(gòu)有效解決了MoE推理時(shí)高額的訪存問(wèn)題，推理速度較MoE架構(gòu)提升2-6倍，推理成本最高可降低83%。
文章稱，該研究還揭示了新架構(gòu)的Scaling Law，證明其不僅具備優(yōu)異的Scaling特性，更在性能上超越了MoE。實(shí)驗(yàn)結(jié)果表明，訓(xùn)練規(guī)模達(dá)2000萬(wàn)value的UltraMem模型，在同等計(jì)算資源下，可同時(shí)實(shí)現(xiàn)業(yè)界領(lǐng)先的推理速度和模型性能，為構(gòu)建數(shù)十億規(guī)模value或expert開(kāi)辟了新路徑。
公眾號(hào)"豆包大模型團(tuán)隊(duì)"
本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。
- 責(zé)任編輯: 周毅
-
試過(guò)百度DeepSeek等模型后，蘋(píng)果AI牽手阿里？
2025-02-12 13:56 人工智能 -
-
-
-
-
哪吒2破90億，光線傳媒20CM漲停
2025-02-12 10:21 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
美團(tuán)跌超5%，京東宣布?xì)⑷胪赓u(mài)賽道
2025-02-12 10:18 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
-
-
餓了么，重大組織調(diào)整
2025-02-11 19:35 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
ARM CEO談DeepSeek：驚喜，但是……
2025-02-11 18:21 人工智能 -
京東殺入外賣(mài)賽道
2025-02-11 17:36 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
澳大利亞，中國(guó)光伏龍頭又去海外打官司了
2025-02-11 17:36 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
“娃哈哈”商標(biāo)將轉(zhuǎn)讓？公司回應(yīng)
2025-02-11 17:14 大公司 -
“OpenAI打響拋棄英偉達(dá)第一槍”
2025-02-11 16:33 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
哪吒2票房逼近88億元，卡牌、手辦、圖書(shū)等周邊一“吒”難求
2025-02-11 14:50 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
-
正計(jì)劃前往越南增加建廠？SHEIN否認(rèn)
2025-02-11 13:26 中美關(guān)系 -
《哪吒2》預(yù)測(cè)票房最高已飆升至145億元：海外一票難求
2025-02-11 12:48 觀網(wǎng)財(cái)經(jīng)-消費(fèi)
相關(guān)推薦 -
-
特魯多迎來(lái)“最后一天”，特朗普成了“意外救星” 評(píng)論 15
“特朗普政府已通知盟友，將停止參加歐洲未來(lái)軍演” 評(píng)論 68
默茨急劇掉頭，“這是典型的‘尼克松訪華時(shí)刻’” 評(píng)論 168
對(duì)歐洲“感到憤怒”，“特朗普想把駐德美軍全撤走” 評(píng)論 184
特朗普威脅“不談就打”，伊朗最高領(lǐng)袖表態(tài) 評(píng)論 325最新聞 Hot-
歐洲多國(guó)驚覺(jué)：被美國(guó)掌握一個(gè)“致命開(kāi)關(guān)”
-
對(duì)歐洲“感到憤怒”，“特朗普想把駐德美軍全撤走”
-
紐約發(fā)生多起山火，紐約州進(jìn)入緊急狀態(tài)
-
特朗普威脅“不談就打”，伊朗最高領(lǐng)袖表態(tài)
-
“烏克蘭半瞎了，歐洲急了”
-
尹錫悅獲釋第二天，首爾10萬(wàn)民眾集會(huì)游行
-
美媒哀嘆：所謂的“西方”，已蕩然無(wú)存
-
“1500億歐元貸款計(jì)劃，法德又吵起來(lái)了”
-
“看看中國(guó)高鐵再看美鐵，尬死了”
-
特朗普怒砍哥大4億美元：打擊“反猶”不給力啊
-
“特朗普想重新劃定美加邊界”
-
“魯比奧與馬斯克干架了”，特朗普忙滅火
-
“因?yàn)槲沂敲绹?guó)人，在臺(tái)積電被罵又懶又蠢”，下月開(kāi)庭
-
“普京愿意，但有條件”
-
“最大受害者是波音，中國(guó)要么用國(guó)產(chǎn)，要么買(mǎi)空客”
-
特朗普：和烏克蘭打交道比和俄羅斯更難
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報(bào)鏈接
- 舉報(bào)制度規(guī)范
- 《網(wǎng)站自律管理承諾書(shū)》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號(hào)-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號(hào) 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營(yíng)許可證：（滬）字第03952號(hào)
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證：滬B2-20210968 違法及不良信息舉報(bào)電話：021-62376571
滬公網(wǎng)安備 31010502000027號(hào)
中國(guó)互聯(lián)網(wǎng)舉報(bào)中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報(bào)中心
