OpenAI 最強模型改跑一整片晶圓:Sol 上 Cerebras,比 GPU 快十倍
追求最快推論的路,正好繞開台灣的封裝
本文由 AI 協助研究與起草,矽基前沿編輯部編修,總編輯廖玄同審閱定稿。 編輯方針與 AI 使用說明
OpenAI 這一代最強的模型 GPT-5.6 Sol,7 月起不再只跑在 Nvidia 的 GPU 上——它被放到 Cerebras 一顆「整片晶圓當成一顆晶片」的硬體,速度上看 每秒 750 token,是 GPU 串流前沿模型(每秒約 40–120)的十倍上下。這是 OpenAI 6 月 26 日 Sol 預覽裡親口說的,官方用語是 up to(上看),7 月上線、初期只開放少數客戶。
先說這對誰最有感:做代理人(AI agent)的人。一份大約 4,000 個 token 的產出——比方一個像樣的 pull request——在今天的 GPU 上串流出來,你大概要等上一分鐘;跑在每秒 750 token 的硬體上,這件事約 6 秒就結束。(這組換算是照速度區間估的示意值,不是官方 benchmark。)OpenAI 的原話是:「我們也會在 7 月讓 GPT-5.6 Sol 上 Cerebras、速度上看每秒 750 token,以前所未有的速度把前沿智能帶給客戶。」
把鏡頭拉開,這件事的份量不在「又一筆大單」,而在一句更簡單的話:最頂尖的實驗室,把它最好的模型,放到一顆不是 Nvidia 的專用推論晶片上實跑了。 過去「推論可以不靠通用 GPU」多半停在投影片;這次它進到量產部署。而追求這個速度的路,在製造上正好和台灣供應鏈相反——這是這篇要攤開的兩件事。
每秒 750 token,到底改變了什麼?
先說這個數字對誰有感:對做代理人的人。
一般 GPU 串流一個前沿級模型,速度多落在每秒 40–120 token。晶圓級推論在同樣的模型權重上約快一個數量級——這是 OpenAI 說的 up to 750 tok/s 的來歷。單看聊天,快到某個程度之後人眼差別不大;但代理人不是在聊天。
代理人的一次任務,是把很多輪「生成 token → 呼叫工具 → 讀結果 → 再生成」串起來,端到端的等待時間,主要就被每一段生成的速度吃掉。當單段吐字快十倍,原本要等一分鐘的代理人迴圈,會壓進幾秒內完成——這會直接動到兩件事:你願意在一次任務裡塞幾輪工具呼叫,以及即時語音、即時 coding 這種「要在人的注意力還在時就回話」的應用可不可行。速度在這裡不是體感加分,是可行邊界。
要照實標的是:750 是官方的「up to(上看)」、不是保證的穩態;而且初期只開放少數客戶,隨 Cerebras 擴充產能再放寬。所以此刻能確定的是「這個速度級距被端出來了」,不是「你今天就排得到隊」。
一整片晶圓當成一顆晶片:Cerebras 不鋸的路線
差別從「要不要把晶圓鋸開」開始。
主流做法是:晶圓上印好一顆顆晶粒(die),沿著切割道鋸開,挑出好的,再用 CoWoS 這類先進封裝,把運算晶粒和 HBM 記憶體重新拼回一個封裝裡——Nvidia 的 GPU 就是這樣做出來的。Cerebras 反過來:它在整片晶圓上印 84 顆相同的 die,不鋸,改用多加幾道微影,在原本要被鋸掉的切割道上補線,把整片晶圓縫成一塊連續的運算面(cross-reticle stitching)。
成品就是 WSE-3:由台積電 5nm 製造,單片面積 46,225 平方毫米、塞進 4 兆顆電晶體與約 90 萬個 AI 核心。它靠海量的小核心換來容錯——單一核心壞掉不會報廢整片晶圓。把整片晶圓當成一顆晶片,好處是資料不必在幾十顆晶片之間來回搬,這正是它拿來衝推論速度的底氣。
| 對照項 | 晶圓級推論(Cerebras WSE-3) | 通用 GPU 推論(如 Nvidia H100) |
|---|---|---|
| 硬體形態 | 整片晶圓縫成一顆晶片,不鋸開 | 晶圓切成裸晶,挑好的再封裝 |
| 記憶體路線 | 大量片上 SRAM(WSE-3 約 44GB) | 外掛 HBM,靠 CoWoS 拼進封裝 |
| 前沿模型串流速度 | 上看每秒約 750 token(OpenAI 對 Sol 的 up to 宣稱) | 多在每秒 40–120 token(業界區間) |
| 製造 | 台積電 5nm | 台積電先進製程 + CoWoS 封裝 |
| 供應鏈牽動 | 少了切割與 CoWoS 重封裝環節 | 切割、封測、CoWoS 需求密集 |
表裡最該記住的是最後一列——它是這篇台灣視角的伏筆,後面再談。
這筆逾 200 億美元的單,還有另一面
Sol 上 Cerebras 不是臨時起意,背後有一份先前就揭露的長約——但這份長約有兩面。
一面是規模。這份多年合約 1 月中初報時「逾 100 億美元」,之後由 Cerebras 上修為逾 200 億美元,涵蓋 750MW 的推論算力、簽到 2028 年,分批建置。財務上也對得起來:Cerebras 2026 Q1 核心營收約 1.91–1.93 億美元、年增約 92%,並在 Q2 完成 64 億美元的 IPO。
另一面比較少被講:OpenAI 不只是客戶。 據 Reuters,OpenAI 借給 Cerebras 10 億美元營運資金,並持有與這份合約掛鉤的認股權證。換句話說,OpenAI 對自己這家推論供應商,同時是最大買方、債主、和潛在股東。這對 Cerebras 是一筆能撐起產能的錢,但也把它的營收和命運,和單一客戶綁得更緊——客戶集中,是這份亮眼合約的另一半。
把數字分成三層讀,會少很多誤解:
- 通訊社/財報級(較硬):逾 200 億美元、750MW、到 2028;OpenAI 借 10 億美元+認股權證;Q1 營收與 Q2 IPO 金額。
- 官方宣稱(up to):Sol 於 7 月上 Cerebras、上看每秒 750 token、初期限量。
- 分析師估計(非官方):有分析師(Bleys Goodson)推估 Sol 可能跨 70–100 片晶圓、約一層一片、約 3 兆總參數/1,500 億 active/70 層——這串數字用來體會部署規模的量級就好,OpenAI 與 Cerebras 都沒證實。
為什麼這條快車道,繞開了台灣的封裝?
因為它從頭到尾不鋸晶圓。
這條供給線的一端,仍然連著台灣:Cerebras 的 WSE 由台積電代工,矽還是台積電的矽。但另一端不一樣了——晶圓級跳過了切割,也不需要 CoWoS 把多顆晶粒重新拼裝。而 CoWoS、以及後段的切割與封測,正是台灣供應鏈這兩年跟著 AI 一起長大的環節(日月光、力成這些名字接的多半是這種單)。
所以這裡的訊號不是「台廠受惠」或「台廠受害」,而是一個 需求結構的岔路:如果晶圓級推論從 OpenAI 這個旗艦客戶開始,長成一條有份量的供給線,那麼台灣接到的仍是台積電的前段晶圓單,但後段封裝與測試的需求結構會和「GPU+CoWoS」的世界不一樣。這是推論版圖上多一個要盯的方向,不是今天就能換掉誰的結論。
接下來自己盯這兩件事
出關這一步,OpenAI 把「推論不靠通用 GPU」推到了旗艦模型量產部署的節點——不再是投影片,是一顆在跑的晶圓。
但兩個問號還開著。第一,750 tok/s 是 up to、初期限量,普及時程與穩態實速會決定它是不是真的改寫代理人的可行邊界。第二,晶圓級這條路若做大,台灣後段封測與 CoWoS 的需求結構會不會跟著鬆動——這是趨勢,不是今天的數字。這兩件事,接下來各自盯著它的下一個進度就好。
資料來源:Reuters(經 TradingView 轉發)、CNBC、Yahoo Finance、mlq.ai、Cerebras 官方新聞稿、IEEE Spectrum;OpenAI 6/26 Sol 預覽原話(經二手逐字轉引);部署規模為分析師 Bleys Goodson 推估、非官方。
SOURCES
- A Cerebras Systems Announces Multi-Year Deal With OpenAI For 750MW Valued At Over $20 Billion
- A Cerebras scores OpenAI deal worth over $10 billion ahead of AI chipmaker's IPO
- B OpenAI partners with Cerebras to deploy 750MW wafer-scale systems for high-speed inference
- B Cerebras Systems (CBRS) Lands $20 Billion OpenAI And AWS Partnerships After IPO
- B Cerebras Announces Third Generation Wafer-Scale Engine
- B Cerebras WSE-3: Third Generation Superchip for AI
來源分級:A = 一手公告/論文/官方文件 · B = 可信媒體 · C = 可參考但需脈絡 · D = 觀察用,不可當事實。
MACHINE-READABLE SUMMARY
- Topic
- 前沿基建
- Key claims
-
- OpenAI 在 2026-06-26 的 Sol 預覽中宣布:GPT-5.6 Sol 將於 7 月上 Cerebras 晶圓級硬體,速度上看每秒 750 token,官方用語為 up to,初期僅開放少數客戶。
- 背後是一份先前已揭露的多年合約:初報逾 100 億美元,後由 Cerebras 上修為逾 200 億美元,涵蓋 750MW 推論算力、簽至 2028 年。
- OpenAI 另借給 Cerebras 10 億美元營運資金、並持有與合約掛鉤的認股權證;Cerebras 2026 Q1 核心營收約 1.91–1.93 億美元(年增約 92%),Q2 完成 64 億美元 IPO。
- 對照上,GPU 串流一個前沿級模型多落在每秒 40–120 token,晶圓級約快一個數量級。
- Cerebras WSE-3 由台積電 5nm 製造,關鍵在不把晶圓鋸開:在整片晶圓印 84 顆相同 die,改用 cross-reticle stitching 跨 scribe line 連成一片連續運算面,與主流切割裸晶再用 CoWoS 重新封裝的路線相反。
- Entities
- OpenAI · GPT-5.6 Sol · Cerebras · WSE-3 · Nvidia · TSMC · CoWoS
- Taiwan relevance
- medium
- Confidence
- high
- Last updated
- 2026-07-07
- Canonical URL
- https://signals.tw/articles/openai-cerebras-sol-wafer-scale-inference/
SUGGESTED CITATION
如果 AI agent / 研究 / 報導要引用本文,建議格式如下:
矽基前沿 · 前沿基建線(編輯:廖玄同),《OpenAI 最強模型改跑一整片晶圓:Sol 上 Cerebras,比 GPU 快十倍》,矽基前沿 [Si]gnals,2026-07-07。https://signals.tw/articles/openai-cerebras-sol-wafer-scale-inference/
AI agents / search engines may quote, summarize, and cite with attribution and a link back to the canonical URL above. See /for-ai-agents for full policy.