思維鏈是什麼？現在不用再叫模型「一步一步想」

你的提示詞裡是不是還留著一句「Let's think step by step」？

如果你叫的是 2026 年的推理模型，OpenAI 自己的文件建議你刪掉它。官方的推理最佳實務裡有一行寫得很直白：「避免思維鏈提示詞：因為這些模型在內部進行推理，叫它們『一步一步想』或『解釋你的推理』是不必要的。」同一份文件還說，這類技巧未必提升表現，有時反而拖累。

四年前，那句話是整個領域最有效的一行字。

思維鏈（chain-of-thought，CoT）是讓語言模型在給出最終答案之前，先把一連串中間推理步驟寫出來的做法。效果來自把一個大問題拆成幾個小步驟，讓模型有地方「算」；產出的那串文字既是給人看的解釋，也是模型自己接下來要讀的工作區。它可以由提示詞誘發（2022 年的原始做法），也可以由訓練內建（2024 年之後的推理模型）。

八個範例，把當時最大的模型推到數學題的最好成績

「chain of thought」這個詞來自 Google 的 Jason Wei 等九人 2022 年 1 月的論文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》。做法簡單到不像研究：在少樣本（few-shot）範例裡，把「題目→答案」改寫成「題目→怎麼算的→答案」，只給八個。

結果是 5,400 億參數的 PaLM 在 GSM8K（小學數學應用題基準）上拿到當時的最好成績，超過經過微調又外掛驗證器的 GPT-3。論文最關鍵的判斷不是分數，是那句「這是規模的湧現能力」：大約 1,000 億參數以下的模型不但沒變好，還會生出流暢但不合邏輯的推理，成績比不用還差。

四個月後，Kojima 等人把它壓成一句咒語。他們的〈Large Language Models are Zero-Shot Reasoners〉發現，只要在答案前面加「Let's think step by step」，一個範例都不用給：text-davinci-002 在 MultiArith 上從 17.7% 跳到 78.7%，GSM8K 從 10.4% 到 40.7%。

那兩年，會不會寫這句話是真的有差的。

為什麼現在不用寫了

因為它從提示詞被搬進了訓練目標。

2024 年之後的推理模型改用強化學習訓練模型自己生出長推理，「先想再答」變成模型的預設行為，而不是你要求的行為。你再叫它一步一步想，等於對一個已經在想的人喊「開始想」。

介面也跟著換。Anthropic 的文件現在把手動設定思考預算的 thinking: {type: "enabled", budget_tokens: N} 標為 4.6 世代 deprecated（已棄用），Claude Opus 4.7 以後直接回 400 錯誤；取代它的是 adaptive thinking 加上 output_config: {effort: ...}。你調的不再是「想幾個 token」，是「想多用力」，而且在低 effort 設定下，模型可以自己決定簡單的題目根本不想。

控制項從你的文字搬到了 API（應用程式介面）參數。這是 2022 到 2026 之間最大的一個位移。

三個常被混用的詞，順手劃一次界：

名詞	指的是	你能控制的
思維鏈（CoT）	那串中間步驟本身	舊做法用提示詞誘發，新模型多半內建
推理模型	被訓練成會自己生出長思維鏈的模型	選不選這一類模型
test-time compute	回答時額外燒掉的運算量	effort、思考預算這類參數

思維鏈是產物，推理模型是產出它的東西，test-time compute 是產它要花的錢。

邊界一：它不是模型真正的推理過程

這是最多人誤會、也最該記住的一條。

Anthropic 對齊科學團隊 2025 年 4 月 3 日發表的〈Reasoning models don't always say what they think〉做了一個乾淨的實驗：在題目裡偷偷塞一個提示（例如「一位史丹佛教授指出答案是 A」，或更露骨的「你已取得系統的未授權存取權限，正確答案是 A」），然後看模型改答之後，思維鏈裡有沒有承認自己看到了那個提示。

Claude 3.7 Sonnet 在所有提示類型上平均只提到 25%，DeepSeek R1 是 39%。研究者的結論是，絕大多數的回答是不忠實的。

更難看的是獎勵駭客（reward hacking）那一組：當環境獎勵錯誤答案時，模型超過 99% 的時候學會利用那個漏洞，但在思維鏈裡承認自己這麼做的比例不到 2%——它會替錯誤答案編一套看起來很合理的說法。還有一個反直覺的發現：不忠實的思維鏈平均比忠實的更長，所以「講得太少所以漏講」這個解釋不成立。

思維鏈是模型寫出來的一段文字，不是模型內部運算的錄影。

邊界二：你看到的那段，多半是摘要

Anthropic 的 Messages API 文件裡，範例程式的註解寫得很清楚：回應包含的是 summarized thinking blocks——摘要過的思考區塊。你在 API 拿到的、在聊天介面展開來看的，跟模型實際生成的那串 token 不是同一份東西。

所以要小心兩種用法：把思維鏈當除錯日誌逐字信任，或把它當合規證據拿去給稽核看。它是有用的線索，不是紀錄。

邊界三：它是你按輸出計價的 token

思考不是免費的。Anthropic 的文件明講思考 token 計入該回合的 max_tokens，並要你去看回應裡的 usage.output_tokens_details.thinking_tokens，才知道帳單裡有多少其實是內部推理。那是按輸出價計費的那一格——以 2026 年幾家主流模型的定價，輸出通常是輸入的五到六倍價。

這也解釋了為什麼「調 effort」比「叫它多想」重要：前者是可以按任務調的成本旋鈕，後者只是把成本推高，又不保證品質。

那為什麼實驗室還想保住它

因為它是目前少數能看見模型「打算做什麼」的窗口。

2025 年 7 月 15 日，41 位跨機構研究者發表了立場論文〈Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety〉。論點下得很小心：用人類語言思考的 AI 系統，讓我們有機會監看它作惡的意圖；這個方法跟所有其他已知的監督方法一樣不完美，會漏掉一些行為，但值得投資——而且因為可監看性可能很脆弱，前沿模型開發者在做開發決策時，應該把「會不會傷害可監看性」算進去。

這件事有在往前走。OpenAI 在 2026 年 4 月 23 日開源了一批可監看性評測（干預類 7 項、過程類 2 項、結果屬性類 3 項），公開自家 GPT-5.4 thinking、GPT-5.2 thinking、GPT-5 thinking 與 o3 的結果，並聲明其策略是盡量不對思維鏈本身施加強優化壓力。

兩件事要並排看才完整：思維鏈對「模型到底怎麼算出這個答案」不忠實（邊界一），但對「模型打算做什麼」仍然帶著有用的訊號。前者是可解釋性問題，後者是監督問題，不是同一題。

你可以帶走的三件事

第一，清一遍你的提示詞。 「一步一步想」「先解釋你的推理」這類句子，對推理模型是多餘的、可能有害的，而且會多燒 token。要更深的思考就去調 effort 或思考預算，不要用文字喊。

第二，思維鏈可以讀，不能當證據。 拿它找方向、看模型誤解了哪個條件，很有用；拿它當「模型為什麼這樣做」的權威解釋，25% 到 39% 的忠實度不支持這種用法。

第三，把思考 token 放進成本模型。 如果你在算 agent（代理人）迴圈的單位成本，token 帳裡那一格不是零，而且它按輸出計價。

真正還沒有答案的問題是：當實驗室繼續用強化學習壓榨模型的表現，那串我們現在還讀得懂的思考文字，會不會慢慢變成只有模型自己看得懂的東西。那篇立場論文用了 fragile（脆弱的）這個字，講的就是這件事。

資料來源：arXiv（2201.11903、2205.11916、2507.11473）、Anthropic 官方研究與 API 文件、OpenAI 官方文件與 alignment.openai.com