-
華為推出DeepSeek訓(xùn)/推一體機(jī),國產(chǎn)芯片迎來新機(jī)遇?
-
連政guanchazhewanxgun
DeepSeek的熱潮,終于帶火了AI一體機(jī)產(chǎn)品?這種頗具“中國特色”的AI硬件,能否給國產(chǎn)芯片的普及再加一把火?
2月16日,據(jù)“華為數(shù)據(jù)存儲(chǔ)”公眾號(hào)消息,華為DCS AI解決方案針對(duì)DeepSeek的本地部署,推出了DS版FusionCube A3000訓(xùn)/推超融合一體機(jī),深度適配DeepSeekV3&R1及蒸餾模型,支持私有化部署。
配置清單顯示,DS版的FusionCube A3000訓(xùn)/推超融合一體機(jī)有三種型號(hào),分別為Ultra(滿血版)、Pro(蒸餾版)和 Lite(蒸餾輕量版)。
其中滿血版可以完美適配DeepSeek-R1、V3的671B模型,硬件使用2個(gè)華為Atlas800l A2,處理速度達(dá)到671B: 1911 token/s 。而蒸餾版則配備1個(gè)Atlas800l A2,適配DeepSeek R1-Distill-Qwen-32B、Llama-70B等蒸餾模型,處理速度 70B: 3300 token/s,32B: 4940 token/s。
Atlas800l A2是華為推出的鯤鵬920+昇騰 AI處理器的AI推理服務(wù)器,應(yīng)用于深度學(xué)習(xí)模型開發(fā)和AI推理服務(wù)場景,目前面向公有云、互聯(lián)網(wǎng)、運(yùn)營商、政府、交通、金融、高校、電力等領(lǐng)域,用于企業(yè)機(jī)房部署和大規(guī)模數(shù)據(jù)中心集群部署。
軟件方面,DS版訓(xùn)/推超融合一體機(jī)使用大模型訓(xùn)練、推理和應(yīng)用開發(fā)的華為ModelEngine AI平臺(tái),該平臺(tái)基于昇騰AI芯片,通過推理框架優(yōu)化和MoE存算協(xié)同,提供動(dòng)態(tài)換入換出和全局統(tǒng)一緩存,實(shí)現(xiàn)推理高并發(fā)和低時(shí)延。2月6日,華為對(duì)外宣布,ModelEngine平臺(tái)全面支持DeepSeek大模型R1&V3和蒸餾系列模型的本地部署與優(yōu)化,開發(fā)者可通過該平臺(tái)實(shí)現(xiàn)上述DeepSeek大模型的“一鍵部署”。
近一段時(shí)間以來,DeepSeek線上算力的嚴(yán)重不足,帶火了大模型本地部署需求,許多廠商開始營銷各類AI一體機(jī)產(chǎn)品。
2月5日,聯(lián)想與國內(nèi)AI芯片廠商沐曦聯(lián)合發(fā)布基于DeepSeek 大模型的一體機(jī)解決方案,采用ThinkStation PX工作站為載體,搭載沐曦曦思N260 GPU。
2月14日,中科曙光也發(fā)布了全國產(chǎn)的DeepSeek超融合一體機(jī),該一體機(jī)采用全國產(chǎn)技術(shù)路線,選用國產(chǎn)X86 CPU和國產(chǎn)GPGPU加速卡,支持全精度、半精度混合訓(xùn)練與推理。
中科曙光的DS超融合一體機(jī)
在模型適配方面,中科曙光一體機(jī)同樣全面適配DeepSeek系列模型,如DeepSeek V3、DeepSeek R1和DeepSeek Janus Pro,還支持全系列量化蒸餾版本。同時(shí),對(duì)QWen2.5、LLama3.2、ChatGLM等主流大模型也全面兼容,滿足各種業(yè)務(wù)場景需求。
中科曙光公眾號(hào)的文章,就毫不吝惜地稱呼該一體機(jī)為“國貨之光”,將為政府和企業(yè)的數(shù)字化、智能化轉(zhuǎn)型按下“加速鍵”。
實(shí)際上,AI一體機(jī)并不是最近才出現(xiàn)的新事物。在中國市場上,由于大量企業(yè)不愿意為單純的軟件和算力付費(fèi),或者處于數(shù)據(jù)安全等原因傾向于將硬件本地部署,因此把軟硬件打包在一起的“一體機(jī)”一直擁有獨(dú)特的生存空間。
作為對(duì)比,盡管英偉達(dá)也推出了Jetson系列的硬件集成平臺(tái),但是主要用于機(jī)器人和嵌入式邊緣計(jì)算等場景,而非去做通用大模型的推理。
不過,隨著大模型推理成本的降低,以及C端用戶需求的增長,英偉達(dá)也將目光投向了個(gè)人市場。今年早些時(shí)候,英偉達(dá)就推出了個(gè)人超級(jí)計(jì)算機(jī)“Project DIGITS”,該產(chǎn)品搭載英偉達(dá)全新GB10超級(jí)芯片,最高可提供達(dá)1 PFLOPS的AI性能,主要用于AI大模型的原型設(shè)計(jì)、微調(diào)及運(yùn)行。
Project DIGITS(左下角類紙盒物品)號(hào)稱全球最小的可運(yùn)行 200B 參數(shù)模型的 AI 超級(jí)計(jì)算機(jī)。英偉達(dá)官網(wǎng)
英偉達(dá)表示,GB10超級(jí)芯片讓Project DIGITS只需使用標(biāo)準(zhǔn)電源插座就能提供強(qiáng)大的性能。借助 Project DIGITS,用戶則可以使用自己的桌面系統(tǒng)開發(fā)和運(yùn)行模型推理,并在加速的云或數(shù)據(jù)中心基礎(chǔ)設(shè)施上無縫部署模型。同時(shí),用戶還可以通過英偉達(dá)技術(shù)將兩臺(tái)Project DIGITS AI超級(jí)計(jì)算機(jī)連接在一起,運(yùn)行包含高達(dá)4050億參數(shù)的模型。
華為DS版FusionCube A3000以及中科曙光的DS超融合一體機(jī)價(jià)格暫不清楚,而英偉達(dá)面向個(gè)人的消費(fèi)級(jí)Project DIGITS的具體售價(jià)約在3000美元左右,今年晚些時(shí)候上市。
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 連政 
-
韓國芯片巨頭要停用中國EDA?
2025-02-17 15:50 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
美年健康7天5板,AI醫(yī)療板塊熱度不減
2025-02-17 11:29 股市 -
-
頭部主播的下半場:就此隱身,還是學(xué)習(xí)胖東來?
2025-02-15 17:00 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
-
奔馳集團(tuán)董事長向中方表態(tài)
2025-02-14 21:54 -
騰訊元寶接入滿血版DeepSeek,可切換雙模型
2025-02-14 21:30 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
“鯰魚”京東,打響2025年“品質(zhì)外賣”第一槍
2025-02-14 21:20 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
馬云現(xiàn)身長沙盒馬
2025-02-14 21:12 -
百度放棄閉源,但或許回歸了最初的自己
2025-02-14 19:41 -
“蘋果股價(jià)正越來越依賴中國”
2025-02-14 18:52 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
2024年我國國際收支貨物貿(mào)易順差同比增長近三成
2025-02-14 18:12 -
頂級(jí)域名認(rèn)證Deepseek?ai.com的前世今生
2025-02-14 16:49 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
榮耀DeepSeek-R1聯(lián)網(wǎng)版正式上線
2025-02-14 14:31 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
本源量子:本源悟空全球訪問量破2000萬次,境外美國排第一
2025-02-14 14:01 科技前沿 -
力帆科技更名千里科技,“AI+車”劍指全球智能出行高地
2025-02-14 10:51 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
百度突然宣布下一代文心大模型開源
2025-02-14 10:44 -
牽手阿里后,傳蘋果AI仍會(huì)與百度合作
2025-02-14 10:23 大公司 -
央行去年總資產(chǎn)減少1.65萬億,專家:央行縮表不代表貨幣緊縮
2025-02-14 07:56 宏觀經(jīng)濟(jì)
相關(guān)推薦 -
-
中國按下“暫停鍵”,“波音重大挫折” 評(píng)論 21“眼下是美國痛感更強(qiáng)、壓力更大,想重回談判桌” 評(píng)論 164“華裔科學(xué)家五年前在美墜亡,與美方調(diào)查有關(guān)?” 評(píng)論 146義烏有信心挺過去,心疼美國一秒:他們上哪兒找襪子? 評(píng)論 208最新聞 Hot
-
中國按下“暫停鍵”,“波音重大挫折”
-
“長期來看,特朗普關(guān)稅或?qū)⒃鰪?qiáng)中國國內(nèi)經(jīng)濟(jì)”
-
真急了!特朗普要叫停英偉達(dá)對(duì)華特供版
-
摩根大通CEO喊話特朗普:中美脫鉤不應(yīng)是美國目標(biāo)
-
美國網(wǎng)友涌向這家中國電商平臺(tái),下載量暴增940%
-
知名華裔教授在美失聯(lián),妻子控訴:為這國奉獻(xiàn),卻被當(dāng)罪犯
-
拜登卸任后首次公開抨擊特朗普,白宮嘲諷:震驚,我以為他去睡覺了
-
美官員挑撥:匈牙利,要小心中國
-
加稅前奏?特朗普下令啟動(dòng)調(diào)查
-
法國農(nóng)業(yè)部向廣告商提要求:用白人演員替代混血演員
-
劉滿倉被逮捕
-
白宮:特朗普希望哈佛大學(xué)道歉
-
果然,歐盟白費(fèi)工夫
-
“眼下是美國痛感更強(qiáng)、壓力更大,想重回談判桌”
-
歐盟抱怨:談了兩小時(shí),不知道美國要什么
-
隔空互懟,萬斯批澤連斯基:荒謬
快訊- AI分析生長、CT掃描挑選,馬來西亞榴蓮用上中國高科技
- 馬來西亞運(yùn)營商和華為中興進(jìn)行5G簽約
- “訂婚強(qiáng)奸案”被告人母親被訓(xùn)誡:多次擅自發(fā)布被害人隱私信息
- 李成鋼任商務(wù)部國際貿(mào)易談判代表
- ?;鶗?huì)妄稱“大陸經(jīng)濟(jì)像一潭死水”,國臺(tái)辦反駁
- 空中云匯在廣交會(huì)發(fā)布外貿(mào)企業(yè)出海白皮書:跨境支付成為提升國際貿(mào)易競爭力關(guān)鍵因素
- 成都太古里慶祝正式開業(yè)十周年 持續(xù)探索商業(yè)與文化的卓越融合
- 習(xí)近平會(huì)見馬來西亞最高元首易卜拉欣
-