丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗,強烈建議使用更快更安全的瀏覽器
此為臨時鏈接,僅用于文章預覽,將在時失效
業(yè)界 正文
發(fā)私信給二維馬曉寧
發(fā)送

0

32B 模型橫掃 SWE 任務(wù),這款代碼智能體模型有點東西

本文作者: 二維馬曉寧   2025-06-23 16:11
導語:AI 不要只做簡單的代碼生成,還要做復雜的軟件工程。

32B 模型橫掃 SWE 任務(wù),這款代碼智能體模型有點東西

(雷峰網(wǎng)文章)2025年不僅是智能體爆發(fā)元年,也是AI軟件工程的元年。以AI驅(qū)動的自動化軟件工程正加速重構(gòu)開發(fā)范式。

今天昆侖萬維官宣,開源代碼智能體Skywork-SWE-32B今日全球上線,以“小參數(shù)”重寫倉庫級修復規(guī)則。

這是開源生態(tài)對抗閉源巨頭的關(guān)鍵一役——Skywork-SWE-32B讓企業(yè)用消費級顯卡部署AI工程師成為現(xiàn)實。

模型在SWE-bench-Verified上(OpenHands代碼輔助框架)將修復準確率拉升至47.0%,一舉超越了現(xiàn)有參數(shù)規(guī)模在32B以下的開源模型,直逼Claude v3.7(56.0%)的閉源神話。

掙脫了閉源的枷鎖,AI正從“工具”升級為“協(xié)作者”,軟件工程才能真正迎來智能體驅(qū)動的范式轉(zhuǎn)移。

現(xiàn)在,開發(fā)者可在Hugging Face領(lǐng)取這份“開源工程師”了。

技術(shù)報告:https://huggingface.co/Skywork/Skywork-SWE-32B/resolve/main/assets/Report.pdf

博客:https://quixotic-sting-239.notion.site/eb17f379610040ceb54da5d5d24065bd

模型權(quán)重:https://huggingface.co/Skywork/Skywork-SWE-32B

01

SWE任務(wù):對智能體模型的終極試煉

經(jīng)常寫代碼的人都知道,軟件工程(Software Engineering, SWE)任務(wù),可以說是難度遠超一般的代碼生成任務(wù)。將大型語言模型驅(qū)動的智能體投入真實的軟件工程任務(wù),絕非簡單的“寫代碼”指令所能涵蓋。

即使是人類工程師,處理陌生項目時首次修復正確率也不到70%。

現(xiàn)在,將一個SWE任務(wù)交給智能體模型,簡直像是要求一個“AI工程師”在極短的時間內(nèi),快速融入一個新團隊接手一個龐大且不熟悉的遺留系統(tǒng),準確理解一個模糊的Bug報告,找到根本原因,設(shè)計出符合團隊規(guī)范且不會破壞任何其他功能的修復方案,并一次性提交正確的代碼變更。

這樣的“AI工程師”可真不好找。

超越傳統(tǒng)代碼生成的能力要求

和傳統(tǒng)的代碼生成相比,SWE的要求可謂是高得離譜。任何一個環(huán)節(jié)的薄弱,都可能導致智能體在復雜工程現(xiàn)實面前束手無策。

以上下文范圍問題為例吧。代碼生成關(guān)注語法和局部邏輯,就像只看見一棵樹;而軟件工程需要理解整片森林的生態(tài)系統(tǒng)。

說到修改某個函數(shù)時,普通生成器只看函數(shù)本身,工程師卻要考慮十處調(diào)用點和三年前留下的TODO注釋。非技術(shù)層面更關(guān)鍵,那些從未寫在代碼里的團隊規(guī)范要不要遵守?沒有寫在文檔里的性能底線,要不要了解?

這些可不是什么虛無縹緲的東西,做個“優(yōu)化排序算法”吧,代碼生成給出快排實現(xiàn)就結(jié)束;而SWE要考慮:為什么前任用冒泡排序(歷史)?會不會破壞報表模塊的調(diào)用(依賴)?是否符合內(nèi)存限制(約束)?

看似只是一個簡單的需求,實際上已經(jīng)給智能體上了無數(shù)道枷鎖,對模型的能力要求也是高了不止一個level。

你以為這就完了嗎?

在SWE的開發(fā)中,每個決策都涉及多維度的取舍,需求、環(huán)境和工具鏈都在發(fā)生持續(xù)的變化,任何修改都會產(chǎn)生漣漪效應(yīng),智能體與開發(fā)者或者工程師進行多輪、深入、澄清性對話,最好還是能主動提問以消除需求歧義。

現(xiàn)在知道,昆侖萬維想要做倉庫級代碼修復能力的模型,有多不容易了吧。

現(xiàn)有SWE數(shù)據(jù)集的三大致命缺陷

這是對智能體模型的工程實踐水平與系統(tǒng)性思維能力的全面考驗,想要訓練出足夠優(yōu)秀的模型,困難究竟卡在哪里了呢?

在大量的從業(yè)者看來,SWE模型訓練最大的bug,還是出在數(shù)據(jù)集上。宣稱能驅(qū)動智能體執(zhí)行軟件工程任務(wù)的大模型,其能力基石在于訓練數(shù)據(jù)。

盡管已有不少工作聚焦于SWE任務(wù)并收集了相關(guān)的數(shù)據(jù)集,但當前的主流數(shù)據(jù)集仍存在三大核心問題,嚴重阻礙了該領(lǐng)域的進一步發(fā)展。它們?nèi)缤林氐逆i鏈,將模型的潛力死死禁錮在實驗室的牢籠中,使其難以突破理論演示的邊界,邁向真實的工程戰(zhàn)場。

第一大問題,缺乏可執(zhí)行環(huán)境與驗證機制。

已有開源數(shù)據(jù)(如 SWE-bench-extra、SWE-Fixer)通常缺乏環(huán)境或單元測試來驗證數(shù)據(jù)正確性,導致生成的修復難以驗證。

第二大問題,高質(zhì)量訓練數(shù)據(jù)稀缺。

盡管某些數(shù)據(jù)集規(guī)模較大(如 SWE-Dev、SWE-Gym),但缺乏經(jīng)過嚴格驗證的訓練樣本,公開可用的高質(zhì)量數(shù)據(jù)極為有限,導致開源模型在 SWE 任務(wù)上落后于閉源模型。

第三大問題:數(shù)據(jù)規(guī)模法則適用性不明確。

相較于自然語言領(lǐng)域中的任務(wù),SWE任務(wù)現(xiàn)有的公開訓練數(shù)據(jù)體量較小,尚無法有效驗證數(shù)據(jù)擴展是否能帶來模型能力的持續(xù)增長。

唯有跨越這數(shù)據(jù)鴻溝,智能體才有望從“代碼補全工具”蛻變?yōu)橹档眯刨嚨摹肮こ袒锇椤薄?/p>

誰能想到,這個眾多國內(nèi)外公司都無法取得突破的問題,竟然就被昆侖萬維這家國內(nèi)的AI公司給實現(xiàn)了呢?

02

Skywork-SWE-32B的破局之道

為什么是昆侖萬維?可能不少人會有這樣的疑問。

昆侖萬維作為中國AI開源領(lǐng)域的先行者,自2022年底發(fā)布并開源“昆侖天工”AIGC全系列算法模型以來,持續(xù)深耕AGI,既有著技術(shù)突破,又有全面前瞻的生態(tài)布局。

2023年昆侖萬維就開源了130億參數(shù)模型Skywork-13B系列,配套發(fā)布當時最大的中文數(shù)據(jù)集Skypile-150B(600GB),2024年開源全球首個支持單臺RTX 4090服務(wù)器推理的千億MoE稀疏模Skywork-MoE,推理成本降低3倍,性能接近70B稠密模型。前段時間中國大陸首個對標OpenAI deep research的天工超級智能體,也是昆侖萬維推出的agent產(chǎn)品。

既有技術(shù)能力,又有工程思維,能夠做出來倉庫級代碼修復能力的智能體模型,也是順理成章了。

為了Skywork-SWE-32B,昆侖萬維團隊構(gòu)建了一套自動化、結(jié)構(gòu)化、可復現(xiàn)的SWE數(shù)據(jù)收集與驗證流程,共分為3個階段、9個步驟,最終構(gòu)建出超1萬條高質(zhì)量任務(wù)實例、8千條多輪交互的軌跡,為模型訓練提供堅實基礎(chǔ)。

構(gòu)建萬級可驗證閉環(huán)數(shù)據(jù)集

32B 模型橫掃 SWE 任務(wù),這款代碼智能體模型有點東西

數(shù)據(jù)構(gòu)建流程圖

圖中顯示,三個階段分別為,A.數(shù)據(jù)采集與預篩選、B.基于執(zhí)行的驗證機制、C.智能體軌跡生成,每個階段又有主要的三個步驟。

數(shù)據(jù)采集與預篩選階段,先通過 GitHub API 抓取超過 15 萬個開源倉庫的元信息,處理后最終獲得 8,472 個有效倉庫的元信息,再通過收集與任務(wù)初篩構(gòu)建出初始的146,568個任務(wù)樣本,最后安裝驗證保留23,389個任務(wù)樣本。

32B 模型橫掃 SWE 任務(wù),這款代碼智能體模型有點東西

數(shù)據(jù)構(gòu)建過程中各個階段數(shù)據(jù)樣本量變化圖

基于執(zhí)行的驗證機制階段, 統(tǒng)一命令生成,Docker環(huán)境構(gòu)建,最后進行單元測試驗證。

最后一個智能體軌跡生成階段,首先要對每個任務(wù)執(zhí)行最多100輪交互,完成智能體軌跡生成,Patch級驗證,最終累計收集8,209條高質(zhì)量、長上下文、多輪交互的驗證通過軌跡,構(gòu)建訓練樣本庫。

32B 模型橫掃 SWE 任務(wù),這款代碼智能體模型有點東西

Skywork-SWE數(shù)據(jù)集的GitHub倉庫詞云圖

這樣構(gòu)建的Skywork-SWE數(shù)據(jù)集,在任務(wù)數(shù)量與代碼覆蓋廣度上遠超現(xiàn)有同類數(shù)據(jù)集(如SWE-Gym Lite與SWE-bench Verified),不僅涵蓋如 Pydantic、SQLGlot、DVC 等主流開源GitHub項目,還包含大量中小型倉庫,為大模型提供了豐富、多樣且貼近實際的軟件工程任務(wù)樣本,持續(xù)推動智能體模型的能力演進。

系統(tǒng)性驗證軟件工程Scaling Law的機會

基于Skywork-SWE數(shù)據(jù)集的高質(zhì)量智能體軌跡,選用目前最具自主性的開源OpenHands框架,昆侖萬維團隊訓練了Skywork-SWE-32B模型??催@款模型的參數(shù)和得分,真給開源界整了個大活兒。

Skywork-SWE-32B基于開源OpenHands Agent框架,實現(xiàn)了38.0% pass@1的準確率,在32B規(guī)模的開源代碼智能體中達到了當前最優(yōu)水平。

這說明什么?同尺寸模型里最能打,沒有之一!

更為關(guān)鍵的是,實驗結(jié)果進一步表明:Scaling Law在SWE任務(wù)上也成了。

以前我們說,跟語言任務(wù)不一樣,SWE任務(wù)現(xiàn)有的公開訓練數(shù)據(jù)體量較小,尚無法有效驗證數(shù)據(jù)擴展是否能帶來模型能力的持續(xù)增長。

但是現(xiàn)在,這個論點被昆侖萬維證實了。

只要訓練數(shù)據(jù)規(guī)模能夠持續(xù)擴展,模型性能就能持續(xù)提升,在軟件工程任務(wù)中,這句話一樣有效,一樣有用。

32B 模型橫掃 SWE 任務(wù),這款代碼智能體模型有點東西

38.0% 性能就是Skywork-SWE-32B的極限了嗎?不是。

加上測試時擴展(Test-Time Scaling, TTS),模型性能直接原地起飛到47.0%。單槍匹馬干翻所有同框架模型不說,甚至把671B參數(shù)的DeepSeek-V3-0324都給卷了,領(lǐng)先整整8.2個百分點,小模型打敗十倍大模型的經(jīng)典場景復刻。

32B 模型橫掃 SWE 任務(wù),這款代碼智能體模型有點東西

在這個領(lǐng)域,Claude和OpenAI的系列閉源模型才是王者。比起來的話:

加了TTS,Skywork-SWE-32B 顯著超越了GPT-4.1-mini(23.86%)、 Claude 3.5 HaiKu(40.6%)和 OpenAI-o1-preview (41.3%),并且領(lǐng)先于Claude v3.5(46.0%)。

高性能的開源模型,對于企業(yè)想私有化部署特別有吸引力。

它們不僅保障了核心數(shù)據(jù)在本地環(huán)境的安全可控,規(guī)避了隱私泄露風險,更賦予了企業(yè)根據(jù)自身業(yè)務(wù)需求深度定制和優(yōu)化的自由,無需持續(xù)支付高昂的API費用。

開源模型DeepSeek-V3 就曾憑借其強大的性能成為不少企業(yè)和組織的首選,Skywork-SWE-32B對于有SWE需求的企業(yè)來說,同樣有著足夠的吸引力。

03

推動軟件開發(fā)范式新進化

今年2月5日,OpenAI首席執(zhí)行官Sam Altman在公開場合談到了AI如何改變軟件工程,他的說法是,“到2025年底,軟件工程將發(fā)生翻天覆地的變化。這不僅意味著開發(fā)效率的大幅提升,還可能對網(wǎng)絡(luò)安全產(chǎn)生深遠的影響?!?/p>

這個預言正在被實現(xiàn)。

AI對軟件開發(fā)范式的重構(gòu)已從“工具輔助”階段邁入“智能體主導”的新時代,推動開發(fā)流程、協(xié)作模式、技術(shù)門檻與行業(yè)標準的系統(tǒng)性變革。

Skywork-SWE-32B的出現(xiàn),是這個變化趨勢中的特殊時刻。這不僅是技術(shù)上的升級,更是開發(fā)哲學的根本轉(zhuǎn)向。

高質(zhì)量且可執(zhí)行驗證的數(shù)據(jù)是提升代碼智能體模型性能的關(guān)鍵瓶頸。系統(tǒng)化的數(shù)據(jù)擴展策略將在推動開源模型性能突破中發(fā)揮關(guān)鍵作用。

智能體開始承擔需求分析、架構(gòu)設(shè)計等核心決策任務(wù),推動開發(fā)流程從線性流水線向動態(tài)自適應(yīng)演進。傳統(tǒng)“人主導工具”的協(xié)作模式正被顛覆。

昆侖萬維發(fā)布的Skywork-SWE正在進一步拓展多編程語言支持以覆蓋更廣泛的開發(fā)場景,并探索融合運行時測試反饋的強化學習機制,為構(gòu)建真正具備智能軟件開發(fā)能力的大語言模型奠定堅實基礎(chǔ)。

雷峰網(wǎng)(公眾號:雷峰網(wǎng))


雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。

分享:
相關(guān)文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號
作品鏈接
個人簡介
為了您的賬戶安全,請驗證郵箱
您的郵箱還未驗證,完成可獲20積分喲!
請驗證您的郵箱
立即驗證
完善賬號信息
您的賬號已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說