-
英偉達(dá):創(chuàng)造DeepSeek-R1推理性能世界紀(jì)錄
-
湯普濟(jì)我在看著你
最后更新: 2025-03-19 12:41:25(文/湯普濟(jì) 編輯/呂棟)
當(dāng)?shù)貢r(shí)間3月18日,英偉達(dá)CEO黃仁勛于GTC AI大會(huì)上發(fā)表演講,發(fā)布最新一代Blackwell Ultra GPU(GB300)。同日, 英偉達(dá)官方博客發(fā)布文章,宣布利用Blackwell架構(gòu)GPU實(shí)現(xiàn)DeepSeek-R1模型推理性能的世界紀(jì)錄。
英偉達(dá)此次利用單個(gè)配備八塊Blackwell架構(gòu)B200 GPU的英偉達(dá)DGX系統(tǒng),在英偉達(dá)評(píng)價(jià)為“超大規(guī)模、最先進(jìn)的”DeepSeek-R1模型上,實(shí)現(xiàn)每用戶每秒可處理超過250個(gè)token的性能,或每秒最大吞吐量超過30000個(gè)token。
NVIDIA
英偉達(dá)于2025年1月30日在面向開發(fā)者的網(wǎng)站上發(fā)布NVIDIA NIM微服務(wù)版的DeepSeek,之后,英偉達(dá)不斷通過優(yōu)化推理生態(tài),刷新DeepSeek-R1模型的吞吐量。英偉達(dá)聲稱,自1月以來,DeepSeek-R1 671B模型的吞吐量已被提高了約36倍,相當(dāng)于每token的成本降低了約32倍。
同時(shí),英偉達(dá)聲稱,紀(jì)錄還將隨著Blackwell Ultra GPU和 Blackwell GPU在推理性能上的突破刷新。
據(jù)悉,英偉達(dá)此次發(fā)布的GB300是全球首個(gè)288GB HBM3E GPU,F(xiàn)P4推理性能可達(dá)去年發(fā)布的GB200的1.5倍,峰值可達(dá)15PFLOPS。將在2025年下半年出貨。
英偉達(dá)還預(yù)覽了下一代AI超級(jí)芯片——Vera Rubin,由Rubin GPU和Vera CPU組成。Vera CPU擁有88個(gè)定制Arm核心、176個(gè)線程。Rubin由兩塊掩模尺寸的GPU組成,擁有288GB HBM4內(nèi)存,F(xiàn)P4峰值推理能力可達(dá)50PFLOPS,相比GB300,整體性能可達(dá)3.3倍。
此外,英偉達(dá)還發(fā)布了用于加速AI模型推理的分布式推理服務(wù)庫NVIDIA Dyamo,據(jù)稱,在GB200 NVL72架構(gòu)上運(yùn)行Dyamo推理,能使DeepSeek-R1模型的吞吐量提升30倍。
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 湯普濟(jì) 
-
英偉達(dá)宣布合作開發(fā)AI原生6G
2025-03-19 12:11 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
四川省長(zhǎng)施小琳會(huì)見孟晚舟
2025-03-18 22:58 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
格力地產(chǎn):證券簡(jiǎn)稱擬變更為“珠免集團(tuán)”
2025-03-18 22:30 -
特步2024年凈賺12億,創(chuàng)歷史新高
2025-03-18 19:53 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
-
-
緩解育兒焦慮,梁建章建議推廣“共享爺爺奶奶”模式
2025-03-18 17:57 產(chǎn)業(yè)萬象 -
滴滴四季度訂單同比增長(zhǎng)14.8%,中國出行日均3530萬單
2025-03-18 17:26 今日財(cái)經(jīng) -
“無法抵抗SHEIN和Temu”,美國知名快時(shí)尚品牌又要破產(chǎn)了?
2025-03-18 17:06 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
小米智能家電工廠將于下半年交付,最先量產(chǎn)空調(diào)
2025-03-18 16:51 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
蘋果在iPad側(cè)面印上“中國制造”
2025-03-18 15:55 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
華為被曝正測(cè)試原生磁吸無線充電
2025-03-18 14:36 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
蘋果計(jì)劃在印度生產(chǎn)耳機(jī),僅供出口
2025-03-18 14:31 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
SpaceX確認(rèn)龍飛船已脫離國際空間站:將帶回兩名滯留宇航員
2025-03-18 14:22 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
2月韓國芯片對(duì)華出口額同比下降31.8%
2025-03-18 14:18 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
北美份額超50%,瓦楞紙包裝裝備龍頭破局全球化
2025-03-18 14:09 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
李嘉誠深陷港口風(fēng)波,長(zhǎng)和股價(jià)再“跳水”
2025-03-18 13:55
相關(guān)推薦 -
-
“中國正投入萬億美元,我們卻在這胡搞” 評(píng)論 64真急了!“白宮擬成立涉華關(guān)稅應(yīng)急工作組” 評(píng)論 259這場(chǎng)貿(mào)易戰(zhàn),美國就是個(gè)“紙老虎” 評(píng)論 95特朗普也直說了:不行,就放棄 評(píng)論 233特朗普“先眨眼”:很多人催我,期待和中國談成 評(píng)論 246最新聞 Hot
-
“中國正投入萬億美元,我們卻在這胡搞”
-
真急了!“白宮擬成立涉華關(guān)稅應(yīng)急工作組”
-
黃仁勛訪華盼繼續(xù)合作,特朗普回應(yīng)
-
中國男子在TikTok“神評(píng)”美國關(guān)稅,米爾斯海默秒答:贊同
-
“內(nèi)地電影票房過億那一刻,香港電影就被顛覆了”
-
美國稅局代理局長(zhǎng)剛上任三天就被免,“貝森特抱怨他是馬斯克的人”
-
特朗普也直說了:不行,就放棄
-
“中國深知‘廣場(chǎng)協(xié)議’是致命的,特朗普別想了”
-
“中國稀土,關(guān)乎美國人生死”
-
美軍高官著急:中國速度太快了,是美國3倍
-
德銀:中國客戶減持美債,轉(zhuǎn)頭買歐洲資產(chǎn)
-
美國對(duì)中國再下黑手,“黃仁勛道出最大擔(dān)憂…”
-
跟特朗普談,拿中國當(dāng)籌碼?英財(cái)相:蠢死了
-
加總理揚(yáng)言:除了中美,還有其他人
-
美方將不再斡旋?梅德韋杰夫喊話歐盟:學(xué)著點(diǎn)
-
特朗普“先眨眼”:很多人催我,期待和中國談成
-