【文/觀察者網(wǎng) 周毅，編輯 張廣凱】

從參數(shù)至上轉(zhuǎn)向?qū)嵱脙?yōu)先，國(guó)產(chǎn)大模型正在進(jìn)入長(zhǎng)跑期。

今日（9月7日），2023騰訊全球數(shù)字生態(tài)大會(huì)在深圳寶安舉行。在大會(huì)上，騰訊集團(tuán)高級(jí)執(zhí)行副總裁、騰訊云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生宣布，騰訊自主研發(fā)的通用大語(yǔ)言模型——混元，正式面向產(chǎn)業(yè)亮相。

騰訊集團(tuán)高級(jí)執(zhí)行副總裁、騰訊云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生

觀察者網(wǎng)在大會(huì)現(xiàn)場(chǎng)了解到，騰訊混元大模型擁有超千億參數(shù)規(guī)模，預(yù)訓(xùn)練語(yǔ)料超2萬(wàn)億tokens，具有強(qiáng)大的中文理解與創(chuàng)作能力、邏輯推理能力，以及可靠的任務(wù)執(zhí)行能力。

據(jù)悉，目前混元大模型已經(jīng)接入騰訊50多個(gè)業(yè)務(wù)并取得初步效果，包括騰訊云、騰訊廣告、騰訊游戲、騰訊金融科技、騰訊會(huì)議、騰訊文檔、微信搜一搜、QQ瀏覽器等業(yè)務(wù)和產(chǎn)品。

發(fā)布會(huì)現(xiàn)場(chǎng)圖 觀察者網(wǎng)

據(jù)騰訊集團(tuán)副總裁蔣杰介紹，騰訊混元大模型從第一個(gè)token開(kāi)始從零訓(xùn)練，掌握了從模型算法到機(jī)器學(xué)習(xí)框架，再到AI基礎(chǔ)設(shè)施的全鏈路自研技術(shù)。此外，騰訊還自研了機(jī)器學(xué)習(xí)框架Angel，使訓(xùn)練速度相比業(yè)界主流框架提升1 倍，推理速度比業(yè)界主流框架提升1.3倍。

發(fā)布會(huì)現(xiàn)場(chǎng)圖 觀察者網(wǎng)

目前，業(yè)界大模型在場(chǎng)景中的應(yīng)用依然有限，主要集中在容錯(cuò)率高、任務(wù)簡(jiǎn)單的休閑場(chǎng)景。騰訊在算法層面進(jìn)行了一系列自研創(chuàng)新，提高了模型可靠性和成熟度。例如，例如針對(duì)大模型容易“胡言亂語(yǔ)”的問(wèn)題，騰訊優(yōu)化了預(yù)訓(xùn)練算法及策略，讓混元大模型的幻覺(jué)相比主流開(kāi)源大模型降低了30%至50%。

與此同時(shí)，通過(guò)強(qiáng)化學(xué)習(xí)的方法，騰訊讓模型學(xué)會(huì)識(shí)別陷阱問(wèn)題；通過(guò)位置編碼優(yōu)化，提高了超長(zhǎng)文的處理效果和性能；提出思維鏈的新策略，讓大模型能夠像人一樣結(jié)合實(shí)際的應(yīng)用場(chǎng)景進(jìn)行推理和決策。

發(fā)布會(huì)現(xiàn)場(chǎng)圖 觀察者網(wǎng)

湯道生表示，騰訊將邁入“全面擁抱大模型”時(shí)代：“以大模型生成技術(shù)為核心，人工智能正在成為下一輪數(shù)字化發(fā)展的關(guān)鍵動(dòng)力，也為解決產(chǎn)業(yè)痛點(diǎn)，帶來(lái)了全新的思路。騰訊產(chǎn)業(yè)互聯(lián)網(wǎng)將通過(guò)智能增強(qiáng)、數(shù)據(jù)增強(qiáng)、連接增強(qiáng)，持續(xù)助力產(chǎn)業(yè)增強(qiáng)?！?

據(jù)了解，混元大模型將成為騰訊云MaaS服務(wù)的底座，客戶不僅可以直接通過(guò)API調(diào)用混元，也可以將混元作為基底模型，為不同產(chǎn)業(yè)場(chǎng)景構(gòu)建專屬應(yīng)用。湯道生表示，千行百業(yè)也可以通過(guò)API調(diào)用混元，或者將混元作為基底模型，為不同產(chǎn)業(yè)場(chǎng)景構(gòu)建大模型應(yīng)用。

湯道生強(qiáng)調(diào)，騰訊已經(jīng)和1萬(wàn)1千家生態(tài)伙伴展開(kāi)緊密合作，推出了覆蓋100多個(gè)產(chǎn)業(yè)場(chǎng)景的行業(yè)解決方案，共同服務(wù)千行百業(yè)。去年，生態(tài)伙伴收入占到騰訊云整體收入的三分之一，收入增速是騰訊云增速的4倍。“在探索未來(lái)的道路上，騰訊愿與伙伴攜手，共同探索大模型等全新行業(yè)機(jī)遇，持續(xù)拓展下沉市場(chǎng)，堅(jiān)持打磨‘好產(chǎn)品’，擁抱‘被集成’，搭建‘?dāng)?shù)字化大舞臺(tái)’，請(qǐng)伙伴當(dāng)好主角，共建產(chǎn)業(yè)智能未來(lái)。”