大模型蒸餾成小模型的濃縮意象 (placeholder)
大百科

模型蒸餾是什麼?大模型教小模型,哪裡合法、哪裡算偷

自家做是產品線邏輯,抓別家變國安指控——同一個技術的兩張臉

2026 年 2 月 23 日,Anthropic 發了一篇不太尋常的公告:過去幾個月,約 2.4 萬個假帳號、超過 1,600 萬次查詢,有組織地餵問題給 Claude、收集回答。Anthropic 把它叫做「工業級蒸餾行動」,點名三家中國 AI 實驗室——DeepSeek、Moonshot AI、MiniMax。

十一天前,OpenAI 才剛向美國眾議院中國特設委員會遞交備忘錄,指控 DeepSeek 員工寫程式、透過混淆過的第三方 router 大量抓 OpenAI 模型的輸出。Google 同月也披露,有人用超過 10 萬條 prompt 試圖套出 Gemini 的推理過程。

三家美國實驗室指控的行為,核心是同一個技術:模型蒸餾。尷尬的地方在於,這個技術本身完全合法——而且每一家自己都在做。

模型蒸餾(model distillation,也稱知識蒸餾/knowledge distillation)是用大模型(teacher,老師模型)的輸出來訓練小模型(student,學生模型)的技術。學生模型跳過從原始資料從頭學習的過程,直接模仿老師對大量問題的回答,把大模型的能力壓進一個更小、更便宜、反應更快的模型。同一家公司拿自家大模型蒸自家小模型,是業界標準做法;爭議出現在拿「別人家」的模型當老師。

打個比方:大模型是熬了三天三夜的原湯,用整個網路的資料、幾億美元的算力熬出來。蒸餾就是把這鍋湯濃縮成雞湯塊——體積小、成本低、隨取隨用,湯的精華大部分還在。而 2026 年這場風波的版本是:有人被指控拿著水桶,到別人家的湯鍋裡一桶一桶舀回去,濃縮成自己的雞湯塊來賣。

2015 年 Hinton 的論文,十年後變成每家的產品線

「蒸餾」這個詞來自 Geoffrey Hinton、Oriol Vinyals、Jeff Dean 2015 年的論文《Distilling the Knowledge in a Neural Network》。論文最重要的洞察是 soft targets(軟標籤):老師模型的價值除了標準答案,還在它對「所有選項」的機率判斷。一個好模型看到手寫的 2,會說「9 成是 2、快 1 成像 3、幾乎不可能是 7」——這個分布本身就是知識。學生看老師的完整判斷來學,比只看標準答案學得快、學得像。

2015 年這是模型壓縮的小眾技巧。LLM(大型語言模型)時代它變成產品線邏輯:旗艦模型負責打榜,蒸餾出來的小模型負責跑量。你每天用到的「快又便宜」的那一檔模型,多半就是這樣來的。

自家蒸自家:公開講出來的例子

這件事各家做得很公開:

  • Google——2024 年 5 月 I/O 上直接說明,Gemini 1.5 Flash 是由 1.5 Pro 透過蒸餾訓練出來的,把大模型「最核心的知識與技能」轉移給更小的模型。
  • OpenAI——2024 年 10 月 DevDay 把 Model Distillation 做成 API(應用程式介面)的內建功能:存下 GPT-4o 或 o1 的輸出,直接拿去微調 GPT-4o mini,官方工作流一條龍。
  • DeepSeek 自己——2025 年 1 月發布 R1 時,同場釋出一批拿 R1 輸出蒸餾的 Qwen、Llama 小模型,權重開源,任何人都能下載。

順手把兩個常混淆的鄰居概念放在一起看:

技術 做的事 產出
蒸餾(distillation) 用老師模型的輸出當訓練資料,訓練學生模型 一個新的、更小的模型
微調(fine-tuning) 用一批資料(人寫的或模型生的)繼續訓練現有模型 同一個模型的特化版
量化(quantization) 把模型參數的數字精度壓低(如 16-bit 變 4-bit) 同一個模型的瘦身版

蒸餾常常拿微調當手段——差別在資料是老師模型生的。量化則從頭到尾都是同一個模型,只是存得更省;蒸餾訓練出來的是另一個模型。

2025 到 2026:從一句質疑變成國會備忘錄

爭議的時間線值得完整看一遍:

時間 事件
2025 年 1 月 DeepSeek R1 發布震撼市場。OpenAI 向《金融時報》表示看到 DeepSeek 疑似蒸餾其模型的跡象;白宮 AI 顧問 David Sacks 稱有「大量證據」。OpenAI 與微軟前一年已封鎖疑似相關帳號
2026 年 2 月 12 日 OpenAI 向美國眾議院中國特設委員會遞交備忘錄,指控 DeepSeek 員工開發方法規避存取限制、透過混淆的第三方 router 程式化抓取模型輸出,稱其「搭便車」(free-ride)於美國實驗室的能力
2026 年 2 月 13 日 Google 威脅情報團隊披露針對 Gemini 的模型萃取行動,其中一波超過 10 萬條 prompt,目標是套出推理過程
2026 年 2 月 23 日 Anthropic 披露「工業級蒸餾行動」:約 2.4 萬個假帳號、逾 1,600 萬次查詢,點名 DeepSeek、Moonshot AI、MiniMax;其中對 MiniMax 的指控規模最大,超過 1,300 萬次
2026 年 4 月 DeepSeek V4 發布,在程式測試基準拿下開源模型最高分,「老師是誰」的質疑再起
2026 年 4 月 22–23 日 眾院外交委員會以 43 比 0 通過 DAAMTA 法案送出委員會;隔日白宮科技政策辦公室發出備忘錄 NSTM-4,把蒸餾行動定調為敵對行為
2026 年 6 月 24 日 Bloomberg 披露 Anthropic 寄給美國參議院的信,指控與阿里巴巴 Qwen 實驗室有關的操作者用約 2.5 萬個假帳號、近 2,880 萬次對話蒸餾 Claude——第一次指名中國科技巨頭
2026 年 8 月 5 日 The Information 報導字節跳動創辦人張一鳴要求 Seed 團隊不用蒸餾加速自家模型,Semafor 隔日轉述並指出這條內規 2023 年就存在

Anthropic 的公告裡有個生動的細節:這些行動用「九頭蛇式」的帳號網路,一個帳號被封,幾小時內新帳號補上;單一 proxy 網路同時管理超過 2 萬個假帳號,還刻意把蒸餾流量混進無關請求裡躲偵測。Anthropic 的對策包括行為指紋偵測、跟同業共享情資,以及在模型層降低輸出被拿去蒸餾的效用。

這算不算偷?先把三個層次分開

這場論戰容易吵成一團,因為三件不同的事被混在一起講。分開看:

第一層:自蒸自家。 完全合法、業界標準,沒有任何爭議。Gemini Flash、GPT-4o mini 這類產品線都靠它。

第二層:違反服務條款的 API 萃取。 OpenAI、Anthropic、Google 的服務條款(Terms of Service)都明文禁止用模型輸出訓練競爭模型。用假帳號、proxy 網路規避封鎖去大量抓輸出,在合約層面是明確違約,手段本身還可能構成未經授權存取。2026 年 2 月這波指控主要落在這一層——各家控訴的重點與其說是「你學了我」,更多是「你用詐欺性手段繞過我的封鎖」。

第三層:「這算不算偷」的開放論戰。 這層最難,因為法律還沒跟上。模型輸出受不受著作權保護,目前沒有定論;「從輸出學習」和人類讀書學習的類比要不要成立,也還在吵。

嚴打方的論點:前沿模型的能力是幾十億美元投資的成果,工業級蒸餾侵蝕投資誘因,OpenAI 更把它框成國家安全問題。另一方的迴力鏢論點同樣有力:這些實驗室自己的訓練資料,大量來自未經授權抓取的網路內容——《紐約時報》2023 年底就為此告了 OpenAI,官司至今未了。指控別人拿走輸出的公司,自己也被指控拿走了輸入。

新加坡南洋理工大學 AI 教授 Erik Cambria 對 CNBC 的說法很中肯:「合法使用與對抗性濫用之間的邊界,常常是模糊的」——因為蒸餾本來就是全行業的標準做法,包括美國實驗室自己。

2026 年 9 月更新:半年過去,沒有人告上法院

我 9 月 1 日回頭盤這條線,最該記的是沒發生的那件事:從 2 月那三份指控、到 6 月阿里巴巴也被點名,OpenAI、Anthropic、Google 沒有任何一家對誰提起訴訟。我 7 月拆過這些指控的證據長什麼樣:幾乎全部落在帳號與流量那一側,而那種證據要在法庭上撐起「模型輸出是我的資產」這個主張,中間還缺一大段。指控沒有走法院,走了另外三條路。

第一條是行政。 白宮科技政策辦公室 4 月 23 日發出國安技術備忘錄 NSTM-4,標題就叫 Adversarial Distillation of American AI Models,由主任 Michael Kratsios 簽署。它承諾的事情是三件:把威脅來源與手法的情資分享給美國 AI 公司、發展偵測與防禦蒸餾攻擊的最佳做法、探索讓攻擊者負責的手段。沒有新的出口管制、沒有實體清單、沒有 API 存取限制。 這一份是表態與情資共享,不是罰則。

第二條是立法。 眾議員 Bill Huizenga 4 月 15 日提出《Deterring American AI Model Theft Act》(DAAMTA,H.R. 8283),眾院外交委員會 4 月 22 日 markup 後以 43 比 0 通過送出委員會。這一份的牙齒比備忘錄多:要商務部評估哪些實體發動過模型萃取攻擊、哪些人在提供假帳號服務,並給出把它們列進 BIS 實體清單的機制、授權總統依《國際緊急經濟權力法》祭出封鎖式制裁,還要建一份公開的攻擊者名單。但它到今天仍未成法。

兩條放在一起看,美國政府對蒸餾的正式回應,現階段仍停在「先查清楚是誰」這一段。這也解釋了提告的一方為什麼遲遲沒進法院:管轄權在境外,而上面第三層那個問題——模型輸出算不算受保護的資產——法律上還是沒有答案。要打贏這場官司,得先贏一個沒人贏過的問題。

第三條路最有意思,因為它來自被指控的那一側。 8 月 5 日 The Information 報導,字節跳動創辦人張一鳴在 Seed 團隊的全員會上講明,不用蒸餾來加速自家大模型;Semafor 隔天轉述時補上一個關鍵時序——這條內規 2023 年就存在,早於「避免美方報復」成為商業考量的時期。Semafor 同時點出一個對照:字節跳動不在 Anthropic 那份點名名單上。

我的讀法是:這件事已經從「合不合法」的爭論,滑成一條各家自己畫的商業風險線。字節跳動有 TikTok 押在美國手上,所以這條線畫得比誰都早、也比誰都硬;沒有東西押在對方手上的公司,畫得就沒那麼硬。要判斷一家實驗室會不會去蒸餾別人,看它有多少資產在對方手上,比看它宣示的技術倫理準——這是我的判斷,不是任何一方的說法。

這一節的查核備註:NSTM-4 與 DAAMTA 我都沒有讀到原文——白宮那份我只讀到智庫與法律分析的整理,congress.gov 的 H.R. 8283 頁面今天回 403。法案內容我採用 Institute for AI Policy and Strategy 的整理(實體清單機制、IEEPA 制裁授權、公開攻擊者名單);另外兩份整理詳略不同,ITIF 只寫「含制裁授權與出口管制機制」、Just Security 強調主體是 180 天內的評估,三者不衝突,我取最具體的那份。張一鳴那段的原始報導在 The Information(付費牆),我讀到的是 Semafor 的轉述。字節跳動與 DeepSeek 我都沒有求證。

你可以帶走的三件事

第一,看到「小模型逼近大模型」的跑分,先問老師是誰。 蒸餾解釋了為什麼 2025 年後小模型進步得不像話——能力可以被壓縮轉移,跑分追上和獨立研發出同等能力,是兩件事。

第二,蒸餾是你自己就能合法用的省錢工具。 用 OpenAI 的 distillation 功能,或拿開源蒸餾模型自架,把大模型能力壓進小模型跑高頻任務,成本可以差一個數量級。紅線只有一條:用 A 家的輸出訓練模型再回頭跟 A 競爭,幾乎每家的服務條款都禁止。

第三,判斷任何蒸餾爭議,問三個問題就夠: 老師是誰家的?拿輸出的方式有沒有違約或繞過封鎖?訓練出來的東西拿去跟老師競爭嗎?三個都乾淨,是產品線;三個都踩,就是 2026 年 2 月那種國會備忘錄等級的風波。

真正未解的問題留給法院:模型輸出到底算不算受保護的資產。在那之前,「蒸餾戰爭」會一直卡在各說各話——一邊出示流量證據,一邊保持沉默,而技術本身繼續是每家產品線的日常。

資料來源:Anthropic 官方公告、OpenAI 官方文件、Google 官方部落格、arXiv、CNBC、Bloomberg、Fortune、NBC News、Asia Times、Semafor、Institute for AI Policy and Strategy、Just Security、ITIF

FAQ

常見問題

模型蒸餾和微調(fine-tuning)有什麼不同?
蒸餾通常拿微調當手段,差別在訓練資料的來源。微調的資料可以是人整理的範例;蒸餾的資料是老師模型生成的輸出。你可以說蒸餾是「用另一個模型的答案來微調」,目的是把大模型的能力壓進小模型。
模型蒸餾違法嗎?
技術本身完全合法,每家 AI 公司都拿自家大模型蒸自家小模型。爭議在於拿別家模型的輸出來訓練競爭模型——這違反 OpenAI、Anthropic 等公司的服務條款,屬於違約行為;至於模型輸出受不受著作權保護,法律上還沒有定論。
DeepSeek 承認蒸餾別家模型了嗎?
沒有。截至 2026 年 9 月,DeepSeek 未公開回應 OpenAI 與 Anthropic 的指控。指控的證據來自各實驗室自己的帳號監控與流量分析,外界難以獨立驗證,這也是這場論戰持續的原因之一。
蒸餾指控有進法院嗎?
截至 2026 年 9 月 1 日沒有。從 2 月 OpenAI、Google、Anthropic 三份指控到現在,沒有任何一家對 DeepSeek 或其他被點名的實驗室提起訴訟。美國的正式回應走的是行政與立法兩條路:白宮科技政策辦公室 4 月 23 日的 NSTM-4 備忘錄(情資共享與防禦最佳做法,沒有新的出口管制或實體清單),以及眾院外交委員會 4 月 22 日以 43 比 0 通過送出委員會的 DAAMTA 法案(H.R. 8283,含實體清單機制與制裁授權,但尚未成法)。

SOURCES

  1. AarXiv — Distilling the Knowledge in a Neural Network (Hinton, Vinyals, Dean)
  2. AAnthropic — Detecting and preventing distillation attacks
  3. AOpenAI — Model Distillation in the API
  4. AGoogle — Gemini updates at I/O 2024(1.5 Flash 蒸餾說明)
  5. BCNBC — Anthropic joins OpenAI in flagging 'industrial-scale' distillation campaigns by Chinese AI firms
  6. BBloomberg — OpenAI Accuses China's DeepSeek of Distilling US AI Models to Gain an Edge
  7. BFortune — DeepSeek used OpenAI's model to train its competitor using 'distillation,' White House AI czar says
  8. BNBC News — Google says attackers used 100,000+ prompts to try to clone AI chatbot Gemini
  9. BSemafor — ByteDance forbids distillation of rival AI models(轉述 The Information)
  10. BInstitute for AI Policy and Strategy — AI Distillation Attacks: Executive and Congressional Action Can Go Further(NSTM-4 與 H.R. 8283 條文整理)
  11. BJust Security — From Diagnosis to Deterrence: The Emerging U.S. Response to Adversarial Distillation
  12. BITIF — How to Fix the AI Model Theft Bill Before It Becomes Law

來源分級:A = 一手公告/論文/官方文件 · B = 可信媒體 · C = 可參考但需脈絡 · D = 觀察用,不可當事實。

UPDATE HISTORY

  1. First published.
  2. 補 2026 年 4 月之後的進展:至今無人提起訴訟,指控改走行政(白宮 NSTM-4 備忘錄)、立法(DAAMTA/H.R. 8283)與企業自律(字節跳動禁止蒸餾)三條路;時間線補上 4 月的政策動作、6 月阿里巴巴被點名、8 月字節跳動內規三格。

本文由 AI 協助研究與起草,矽基前沿編輯部編修,總編輯廖玄同審閱定稿。 編輯方針與 AI 使用說明

WEEKLY [SI]GNALS

訂閱《矽基前沿週報》

每週五早上,把本週 AI 與算力產業最值得記住的變化連回台灣。

本週關鍵訊號 · 為什麼值得記住 · 下週觀察 · 5 分鐘讀完。

免費 · 隨時取消 · 不轉售你的 email。

MACHINE-READABLE SUMMARY

Topic
大百科
Key claims
  • 模型蒸餾一詞源自 Geoffrey Hinton、Oriol Vinyals、Jeff Dean 2015 年論文《Distilling the Knowledge in a Neural Network》(arXiv 1503.02531),核心是用老師模型的輸出(含機率分布)訓練學生模型。
  • 自家蒸自家是業界標準做法。Google 2024 年 5 月在 I/O 公開說明 Gemini 1.5 Flash 由 1.5 Pro 蒸餾訓練;OpenAI 2024 年 10 月 DevDay 把 Model Distillation 做成 API 內建功能。
  • OpenAI 2026 年 2 月 12 日向美國眾議院中國特設委員會遞交備忘錄,指控 DeepSeek 員工透過混淆的第三方 router 規避封鎖、程式化抓取模型輸出用於蒸餾。
  • Anthropic 2026 年 2 月 23 日披露針對 Claude 的「工業級蒸餾行動」,涉及約 2.4 萬個假帳號、超過 1,600 萬次查詢,點名 DeepSeek、Moonshot AI、MiniMax 三家中國實驗室。
  • Google 威脅情報團隊 2026 年 2 月披露針對 Gemini 的模型萃取行動,其中一波用了超過 10 萬條 prompt 試圖套取推理過程。
  • 截至 2026 年 9 月 1 日,OpenAI、Anthropic、Google 均未就蒸餾指控對 DeepSeek 或其他被點名的實驗室提起訴訟。
  • 白宮科技政策辦公室於 2026 年 4 月 23 日發出國安技術備忘錄 NSTM-4「Adversarial Distillation of American AI Models」,由主任 Michael Kratsios 簽署,內容為情資共享、發展防禦最佳做法與探索問責手段,未包含新的出口管制、實體清單或 API 存取限制。
  • 《Deterring American AI Model Theft Act of 2026》(DAAMTA,H.R. 8283)由眾議員 Huizenga 於 2026 年 4 月 15 日提出,眾院外交委員會 4 月 22 日 markup 後以 43 比 0 通過送出委員會;內容包含商務部評估、BIS 實體清單機制、依《國際緊急經濟權力法》的封鎖式制裁授權與公開攻擊者名單,截至 2026 年 9 月 1 日尚未成法。
  • The Information 於 2026 年 8 月 5 日報導字節跳動創辦人張一鳴要求 Seed 團隊不以蒸餾加速自家大模型;Semafor 次日轉述並指出該內規自 2023 年即存在,且字節跳動不在 Anthropic 點名的名單上。
Entities
Model Distillation · Knowledge Distillation · Geoffrey Hinton · DeepSeek · OpenAI · Anthropic · Google · Moonshot AI · MiniMax · Gemini Flash
Taiwan relevance
low
Confidence
high
Last updated
2026-09-01
Canonical URL
https://signals.tw/articles/what-is-model-distillation/

SUGGESTED CITATION

如果 AI agent / 研究 / 報導要引用本文,建議格式如下:

矽基前沿 · 大百科線(編輯:廖玄同),《模型蒸餾是什麼?大模型教小模型,哪裡合法、哪裡算偷》,矽基前沿 [Si]gnals,2026-07-05。https://signals.tw/articles/what-is-model-distillation/

AI agents / search engines may quote, summarize, and cite with attribution and a link back to the canonical URL above. See /for-ai-agents for full policy.