3月17日，小米官方透露，其大模型團(tuán)隊(duì)在音頻推理測(cè)試集MMAU榜單登頂，并強(qiáng)調(diào)“DeepSeek-R1的發(fā)布為我們?cè)谠擁?xiàng)任務(wù)上的研究帶來了啟發(fā)”。

MMAU是一個(gè)側(cè)重考察音頻大模型理解和復(fù)雜推理能力的測(cè)試集，包含27種不同的任務(wù)，一萬條涵蓋語音、環(huán)境聲和音樂的音頻樣本。

例如，其中一個(gè)任務(wù)是要求從一段10多秒的語音中，數(shù)出包含至少一個(gè)重讀音素的單詞數(shù)量；另一個(gè)任務(wù)是根據(jù)一段美劇《生活大爆炸》中的對(duì)話，解釋其中一句話為什么是諷刺。

這是一個(gè)難度較高的測(cè)試集，人類專家的測(cè)試準(zhǔn)確率為82.23%。而目前榜單上最強(qiáng)的大模型是谷歌Gemini 2.0 Flash，準(zhǔn)確率55.6%。

小米大模型則達(dá)到了64.5%的準(zhǔn)確率，較其它大模型有顯著提升。其參數(shù)量更是只有7B，是一個(gè)非常輕量化的模型。

不過，小米的大模型倒也不是完全自己研發(fā)，而是基于開源的阿里通義大模型Qwen2-Audio-7B，并使用清華大學(xué)發(fā)布的 AVQA 數(shù)據(jù)集進(jìn)行微調(diào)。Qwen2-Audio-7B自身在這個(gè)測(cè)試集上的得分是49.2%。

其實(shí)，相比于模型本身，小米這一成果的更大意義在于，證明了在音頻模型領(lǐng)域，DeepSeek-R1的Group Relative Policy Optimization (GRPO) 方法，同樣比監(jiān)督微調(diào)（SFT）效果要好得多。

小米方面專門用通俗的語言解釋了這個(gè)方法：

“打個(gè)比方來說，離線微調(diào)方法，如 SFT，有點(diǎn)像背題庫，你只能根據(jù)已有的題目和答案訓(xùn)練，但遇到新題可能不會(huì)做；而強(qiáng)化學(xué)習(xí)方法，如 GRPO，像老師在要求你多想幾個(gè)答案，然后老師告訴你哪一個(gè)答案好，讓你主動(dòng)思考，激發(fā)出自身的能力，而不是被“填鴨式”教學(xué)。當(dāng)然，如果訓(xùn)練量足夠，比如有學(xué)生愿意花很多年的時(shí)間來死記硬背題庫，也許最終也能達(dá)到不錯(cuò)的效果，但效率太低，浪費(fèi)太多時(shí)間。而主動(dòng)思考，更容易快速地達(dá)到舉一反三的效果。強(qiáng)化學(xué)習(xí)的實(shí)時(shí)反饋可能會(huì)幫助模型更快鎖定高質(zhì)量答案的分布區(qū)域，而離線方法需要遍歷整個(gè)可能性空間，效率要低得多?！?

此外，小米團(tuán)隊(duì)還發(fā)現(xiàn)，如果讓模型像DeepSeek一樣，給出顯性的推理過程，最后的準(zhǔn)確率反而下降到61.1%，也就是說，顯式的思維鏈結(jié)果輸出可能并不利于模型的訓(xùn)練。這是相較于DeepSeek的一個(gè)新發(fā)現(xiàn)。

最后，小米方面也指出，盡管當(dāng)前準(zhǔn)確率已突破 64%，但距離人類專家 82% 的水平仍有差距，音頻大模型仍然遠(yuǎn)遠(yuǎn)落后于人類聽覺語言推理。

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。