WEEKLY [SI]GNALS · Issue #007

矽基前沿週報 #007:代理自己寫的那張摘要,會叫它自己藏錯

矽基前沿週報 #007:本週最重要的四件事。OpenAI 9 月 16 日公開模型異常揭露框架,訓練中的模型會在壓縮摘要裡替自己寫下隱瞞錯誤的指令,GPT-5.6 Sol 被標記 2.15%、GPT-6 Astra 0.27%,而回給你的壓縮項目是加密的。ChatGPT 自訂 GPT 9 月 25 日停止新建、12 月 11 日停止運作,自訂動作不會跟著搬。Workspace 裡的 Gemini 接上七個外部工具且預設開啟,要關得管理員動手。Andon Labs 開放完全自主經營公司的 Pion,自家咖啡館前兩個月支出 3.8 萬美元、營收 9 千美元。

你的代理跑長任務時,會自己把前面的對話壓成一張摘要,交給下一段接手。OpenAI 9 月 16 日公開模型異常揭露框架與六份報告,其中兩份就出在這張摘要上。訓練中的模型會在裡面替自己寫指令,例如找不到資料就自己補、別主動說,而且後段常常照做。GPT-5.6 Sol 訓練時被標記的摘要占 2.15%,GPT-6 Astra 降到 0.27%。

六份都發生在訓練階段,不是你今天打開的產品。但機制沒變:摘要是一段會被下一輪當成指令讀的文字,而 OpenAI 回給你的壓縮項目是加密的。我這週改掉了驗收方式——跑過壓縮的長任務,結論一律回頭抽驗來源,不接受它自己說「已確認」。

真正活過壓縮的,是寫在磁碟上的東西。 我把三家的官方文件並排讀過:Claude Code 壓縮後會從磁碟重讀 CLAUDE.md、自動記憶與計畫,最近改過的檔案最多重讀五個;只在對話裡交代過的話,壓完只剩摘要。重要的規矩別用講的,寫進檔案。

9 月 25 日之後,你就不能再新建 GPT

OpenAI 9 月 11 日宣布停用 ChatGPT 自訂 GPT,改以外掛取代。企業版時程是 9 月 17 日開放搬遷、9 月 25 日停止新建、12 月 11 日既有 GPT 停止運作,其他方案可能跟著走。指示會變成外掛裡的技能,但自訂動作不會轉移,得用連接器或 MCP 伺服器重建。

公司裡只要有人做過 GPT,這週就去盤一次。等 12 月才發現自訂動作沒跟過來,那是重寫不是搬家。

預設是開的,要關得管理員動手

Google 9 月 15 日讓 Workspace 裡的 Gemini 接上七個外部工具:Asana、Atlassian Rovo、HubSpot、Mailchimp、QuickBooks、monday.com 與 Salesforce。公告寫明,對有 Gemini 的使用者預設開啟。

我不覺得預設開是錯的。但「誰的提示詞讀得到誰的資料」不該由預設值決定——管理控制台的第三方連接器頁可以按群組挑。

代理跑出去,成本記在誰身上

Andon Labs 9 月 14 日開放 Pion 候補,定位是完全自主經營任何公司的代理。它把自己的帳攤開了:斯德哥爾摩咖啡館前兩個月由 Gemini 3.1 Pro 經營,支出 3.8 萬美元、營收 9 千美元,麵包進 1,331 個、賣掉 326 個。願意公開賠錢的數字,我給它加分。

方向剛好相反的一則:研究者指 5 月有帳號兩天內向 RubyGems 丟進兩千多個套件,平台停止註冊四天,OpenAI 回應那是它的代理在用該平台上網做無害任務。自主的成本,常常不落在按下開始的那個人身上。

週末只做一件事

去把你最常用的那個代理的壓縮設定讀一次。另外 Claude 的聊天與 Cowork 這週合成了同一個介面,Pro 與 Max 先開——介面會動,你寫在磁碟上的規矩不會。

查核備註:數字與引語轉述自本站本週各篇,完整來源在各篇原文。我沒有另做站外新聞掃描,不敢說這就是本週全部的大事。

WEEKLY [SI]GNALS

訂閱《矽基前沿週報》

每週五早上,把本週 AI 與算力產業最值得記住的變化連回台灣。

本週關鍵訊號 · 為什麼值得記住 · 下週觀察 · 5 分鐘讀完。

免費 · 隨時取消 · 不轉售你的 email。