Meta 實測 7 個 coding agent:分數高,不代表你少改
排行榜看單次答對,這份看你要來回糾正它幾次
你大概有過這種經驗:照排行榜挑了分數最高的 coding agent,接了個真的任務丟給它,結果還是一路 re-prompt——「不對,這段重寫」「你漏了那個邊界情況」「型別又錯了」。榜上它是第一名,你在旁邊卻手動改了三四次才收工。
Meta 一份新的評測報告,SWE-Together,量的就是這個平常沒人量的東西:一個 coding agent 在真實的來回對話裡,平均要你回頭糾正幾次。七個前沿模型排下來,Claude Opus 4.8 最省心——完成率 63%、平均只讓你回頭改 1.38 次,兩項都是第一。
單次答對率,藏不住你每天在改的那幾次
過去大家看 coding agent 的成績,多半是 SWE-bench 那套:一次把完整的問題描述丟給它,看它能不能一發過關,算個 pass@1 完成率。這個數字有用,但它假設了一件現實裡幾乎不存在的事——你把需求一次講清楚、然後放手不管。
真的用起來不是這樣。你會邊看邊補一句、它跑歪了你把它拉回來、它漏了一個 case 你再點它一下。SWE-Together 就在完成率旁邊加了第二欄:糾正次數(User Correction),也就是一個任務做完,平均要你介入糾正幾個回合。同樣答對,有的模型讓你改一次就好,有的要改到兩次以上——這一欄,才是你每天有體感、排行榜卻通常不給的數字。
SWE-Together 怎麼測:1.1 萬場真實對話,收成 109 題
這份報告的底料是真人用出來的。Meta 從 11,260 場真實使用者與 coding agent 的對話紀錄裡,篩出並整理成 109 個 repository-level 的任務——不是造題,是把人真的問過、agent 真的做過的整段 session 重建出來當考題。
跟 SWE-bench 最大的差別就在「靜態 vs 互動」。SWE-bench 是靜態的:題目一次給完,agent 自己跑完交卷。SWE-Together 是多輪的:它量的是這段對話最後有沒有做對(pass@1),以及過程中你得回頭糾正它幾次。前者看終局,後者看你陪它走完整段路花了多少力氣。
七個模型排出來:Opus 4.8 最少讓你回頭
七個前沿 coding agent 的成績並排如下(完成率越高越好;糾正次數越低越省心):
| 模型 | 完成率 pass@1 | 平均糾正次數 |
|---|---|---|
| Claude Opus 4.8 | 63% | 1.38 |
| GPT-5.5 | 58% | 1.59 |
| Claude Opus 4.6 | 58% | 1.59 |
| GLM-5.2 | 55% | 1.53 |
| GLM-5.1 | 52% | 1.54 |
| DeepSeek-V4-Pro | 48% | 1.76 |
| MiniMax-2.7 | 40% | 2.17 |
幾個讀法。Claude Opus 4.8 是唯一把完成率推到六成以上、又把糾正次數壓到 1.4 以下的,兩欄都領先。GPT-5.5 和 Claude Opus 4.6 完全同分(58%、1.59),這種貼在一起的名次別過度解讀——109 題規模不大,差距很可能落在雜訊裡。
再往尾段看,走勢更清楚:完成率一路往下掉的同時,糾正次數一路往上爬——到了 MiniMax-2.7,完成率剩四成,平均得糾正到 2.17 次,等於同一件事你要多陪它跑大半回合。開源這邊,GLM-5.2 用 55% 完成率、1.53 次糾正卡在中段,成績不算難看。
糾正次數為什麼比完成率更貼近體感
論文自己給的核心結論很直白:越強的 agent,完成率越高,需要的介入也越少。兩欄大致同向,這件事本身就有意義——它說明「強」不只是最後答不答得對,也包含「不用你一直盯著」。
打個比方,只看完成率,就像只看實習生的考卷分數。一個很會考試的實習生,考卷可能滿分,但每件真事都要你在旁邊盯著改三遍,你並不會覺得輕鬆。糾正次數量的就是「盯著改幾遍」這件事。對每天把任務外包給 coding agent 的人來說,這一欄直接對應你省不省心、能不能真的放手去做別的事。
這份報告沒測到的:你的 codebase 不在裡面
先把話講清楚,這是 Meta 這份報告測出來的結果,不是我們自己跑過這七個模型的實測。用之前,有幾個限制要記著。
一是規模。109 題不算多,接近的名次(像 GPT-5.5 和 Opus 4.6 那組)差距可能在誤差內,別拿來當「A 一定比 B 好」的鐵證。二是分佈。這些題目來自特定來源的 session,不等於你的語言、你的框架、你那包歷史包袱很重的 codebase——榜上省心的,換到你的專案未必一樣省心。三是定義。「一次糾正」怎麼算,以論文的量法為準,這裡用的是「平均要回頭糾正幾次」的白話理解。
即便如此,這份報告最該被帶走的一件事很單純:下次挑或評一個 coding agent,別只看它一次答不答得對,多看一眼「你要回頭糾正它幾次」。這一欄,比完成率更接近你每天坐在它旁邊的那個感覺。真要驗證,最準的還是拿你自己手上的專案,同一個任務餵給兩三個模型,數數看各自讓你回頭改了幾次。
資料來源:SWE-Together: Evaluating Coding Agents in Interactive User Sessions(arXiv:2606.29957,Meta);arXiv 全文 2606.29957v1。
SOURCES
- A SWE-Together: Evaluating Coding Agents in Interactive User Sessions (arXiv:2606.29957)
- A SWE-Together full text (arXiv:2606.29957v1)
- C AI News Today July 6 2026
來源分級:A = 一手公告/論文/官方文件 · B = 可信媒體 · C = 可參考但需脈絡 · D = 觀察用,不可當事實。
MACHINE-READABLE SUMMARY
- Topic
- 工作現場
- Key claims
-
- Meta 的 SWE-Together(arXiv:2606.29957)評測 coding agent 在互動式多輪對話中的表現,而非 SWE-bench 那種一次給完整需求的靜態設定。
- SWE-Together 從 11,260 場真實使用者與 agent 的對話紀錄,收斂成 109 個 repository-level 任務。
- 每個模型回報兩個指標:final pass@1(最終完成率)與 User Correction(平均需要的糾正回合數)。
- 在 SWE-Together 上 Claude Opus 4.8 完成率 63%、平均糾正 1.38 次,兩項都居首;GPT-5.5 與 Claude Opus 4.6 並列 58%、1.59 次。
- 開源模型 GLM-5.2 完成率 55%,高於 DeepSeek-V4-Pro(48%)與 MiniMax-2.7(40%,平均糾正 2.17 次)。
- 論文核心結論:越強的 agent 完成率越高,且需要越少的使用者介入。
- Entities
- Meta · SWE-Together · Claude Opus 4.8 · GPT-5.5 · GLM-5.2 · DeepSeek-V4-Pro · MiniMax-2.7
- Taiwan relevance
- low
- Confidence
- high
- Last updated
- 2026-07-06
- Canonical URL
- https://signals.tw/articles/meta-swe-together-agent-corrections/
SUGGESTED CITATION
如果 AI agent / 研究 / 報導要引用本文,建議格式如下:
矽基前沿 · 工作現場線(編輯:廖玄同),《Meta 實測 7 個 coding agent:分數高,不代表你少改》,矽基前沿 [Si]gnals,2026-07-06。https://signals.tw/articles/meta-swe-together-agent-corrections/
AI agents / search engines may quote, summarize, and cite with attribution and a link back to the canonical URL above. See /for-ai-agents for full policy.