1月16日，阿里云通義開源全新的數(shù)學(xué)推理過(guò)程獎(jiǎng)勵(lì)模型Qwen2.5-Math-PRM，72B及7B尺寸模型性能均大幅超越同類開源過(guò)程獎(jiǎng)勵(lì)模型；在識(shí)別推理錯(cuò)誤步驟能力上，Qwen2.5-Math-PRM以7B的小尺寸就超越了GPT-4o。同時(shí)，通義團(tuán)隊(duì)還開源首個(gè)步驟級(jí)的評(píng)估標(biāo)準(zhǔn) ProcessBench，填補(bǔ)了大模型推理過(guò)程錯(cuò)誤評(píng)估的空白。

 

 

在當(dāng)前大模型推理過(guò)程中，不時(shí)存在邏輯錯(cuò)誤或編造看似合理的推理步驟，如何準(zhǔn)確識(shí)破過(guò)程謬誤并減少它，對(duì)增強(qiáng)大模型推理能力、提升推理可信度尤為關(guān)鍵。過(guò)程獎(jiǎng)勵(lì)模型（Process Reward Model, PRM）為解決這一問(wèn)題提供了一種極有前景的新方法：PRM對(duì)推理過(guò)程中的每一步行為都進(jìn)行評(píng)估及反饋，幫助模型更好學(xué)習(xí)和優(yōu)化推理策略，最終提升大模型推理能力。

 

基于PRM的理念，通義團(tuán)隊(duì)提出了一種簡(jiǎn)單有效的過(guò)程獎(jiǎng)勵(lì)數(shù)據(jù)構(gòu)造方法，將PRM模型常用的蒙特卡洛估計(jì)方法（MC estimation）與大模型判斷（LLM-as-a-judge）創(chuàng)新融合，提供更可靠的推理過(guò)程反饋。通義團(tuán)隊(duì)基于Qwen2.5-Math-Instruct模型進(jìn)行微調(diào)，從而得到72B及7B的Qwen2.5-Math-PRM模型，模型的數(shù)據(jù)利用率和評(píng)測(cè)性能表現(xiàn)均顯著提高。

 

 

在包含GSM8K、MATH、Minerva Math等7個(gè)數(shù)學(xué)基準(zhǔn)測(cè)試的 Best-of-N 評(píng)測(cè)中，Qwen2.5-Math-PRM-7B性能表現(xiàn)超越了同尺寸的開源PRMs；Qwen2.5-Math-PRM-72B的整體性能在評(píng)測(cè)中拔得頭籌，優(yōu)于同尺寸ORM（Outcome Reward Model ）結(jié)果獎(jiǎng)勵(lì)模型Qwen2.5-Math-RM-72B。

 

同時(shí)，為更好衡量模型識(shí)別數(shù)學(xué)推理中錯(cuò)誤步驟的能力，通義團(tuán)隊(duì)提出了全新的評(píng)估標(biāo)準(zhǔn)ProcessBench。該基準(zhǔn)由3400個(gè)數(shù)學(xué)問(wèn)題測(cè)試案例組成，其中還包含奧賽難度的題目，每個(gè)案例都有人類專家標(biāo)注的逐步推理過(guò)程，可綜合全面評(píng)估模型識(shí)別錯(cuò)誤步驟能力。這一評(píng)估標(biāo)準(zhǔn)也已開源。

 

 

在ProcessBench上對(duì)錯(cuò)誤步驟的識(shí)別能力的評(píng)估中，72B及7B尺寸的Qwen2.5-Math-PRM均顯示出顯著的優(yōu)勢(shì)，7B版本的PRM模型不但超越同尺寸開源PRM模型，甚至超越了閉源GPT-4o-0806。這印證了過(guò)程獎(jiǎng)勵(lì)模型PRM可有效提升推理可靠性，對(duì)未來(lái)推理過(guò)程監(jiān)督技術(shù)的研發(fā)提供新思路。

 

 

 

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。