agent memory 是什麼？讓 AI 越用越懂你

「我們專案用 pnpm，不要用 npm。」你上週才跟 AI 講過。今天開一個新對話，它又跑了一次 npm install。

2023 年的 AI 助手全是這樣：對話關掉，一切歸零。每個 session 都要重新自我介紹、重新貼一次專案背景、重新講一次你的偏好。模型可以聰明到解出奧數題，卻記不住你昨天說過的話。

然後這件事開始變成主戰場。2024 年 2 月，OpenAI 給 ChatGPT 加上 memory；2025 年 9 月，Anthropic 讓 Claude 記住團隊的工作脈絡；到了 2026 年，「越用越懂你」幾乎是每一家 AI 產品的主打句。這背後的機制，就是 agent memory（代理記憶）。

Agent memory（代理記憶）是讓 AI agent 在單次對話結束後，仍能保留、更新並取用資訊的機制。大型語言模型（LLM）本身無狀態（stateless），不會因為跟你聊過而改變，所以記憶靠外部儲存實現——檔案、資料庫、向量庫或知識圖譜。下次對話開始時，系統把相關記憶撈出來放回 context window，模型才「記得你」。它補的是 LLM 天生沒有過去的缺口。

一個貫穿全篇的比喻：context window 是辦公桌桌面——東西攤在上面隨手可用，但桌面就那麼大，而且下班全部清空。Agent memory 是旁邊的檔案櫃加筆記本——容量大、過夜不消失，但要先歸檔、要找得到，才幫得上忙。做記憶系統，做的就是「歸檔」和「找得到」這兩件事。

工作記憶和長期記憶的分工

Context window 常被叫做 agent 的工作記憶（working memory）：模型在一次 session 裡直接「看得到」的全部內容，包括 system prompt、對話、工具結果。它快、直接，但貴且有限，session 結束就歸零。

Agent memory 扮演長期記憶（long-term memory）：便宜、幾乎無限大、跨 session 存活。代價是模型看不到它——除非有人把它撈出來。

	Context window（工作記憶）	Agent memory（長期記憶）
存活範圍	單次 session 內	跨 session、跨裝置
模型能否直接讀	能，每個 token 都看得到	無法直接讀，要先檢索
容量	幾十萬 token 級，有硬上限	實務上無上限
成本	每次推理都要算，貴	儲存便宜，檢索另計
歸零時機	對話結束或 context 爆滿	手動刪除或系統淘汰

這張表指向一個關鍵事實：所有記憶最後都要變成 context window 裡的 token，模型才看得到。記憶系統的核心工作，就是決定哪些舊資訊值得佔用有限的桌面。撈太少，agent 失憶；撈太多，桌面被舊資料淹掉，正事反而做不好。

這個詞怎麼來的：從 CoALA 到 MemGPT

把「記憶」當成 agent 的獨立元件來設計，2023 年秋天有兩篇論文先後把這件事講清楚。

2023 年 9 月，普林斯頓的 Sumers 等人發表 CoALA（Cognitive Architectures for Language Agents），借認知科學的框架，把 agent 記憶拆成工作記憶加三種長期記憶：

1. 情節記憶（episodic memory）——發生過什麼。上次部署失敗的完整過程、你們上週的對話紀錄。
2. 語意記憶（semantic memory）——事實與偏好。「這個專案用 pnpm」「使用者住台北」。
3. 程序記憶（procedural memory）——怎麼做事。工作流程、寫好的 skill，甚至 prompt 本身。

一個月後，柏克萊的 Packer 等人發表 MemGPT，路線更工程：把作業系統虛擬記憶體的概念搬進 LLM。Context window 當 RAM，外部儲存當硬碟，讓模型自己呼叫函式在兩層之間搬資料——重要的搬進 context，過期的寫出去歸檔。「LLM 當作業系統」這個比喻，後來成了整個領域的通用語言。MemGPT 的開源專案在 2024 年 9 月起併入新框架 Letta，繼續往「有記憶的 agent 框架」發展。

這兩篇論文之後，episodic／semantic／procedural 的三分法在 2025 到 2026 年的記憶文獻裡反覆出現，等於變成這個領域的預設詞彙表。

2026 年的實作光譜

記憶的實作可以粗分三層，從消費產品到開發框架。

產品層——內建記憶。ChatGPT 在 2024 年 2 月開始測試 memory，最初只存你明確要它記的「saved memories」；2025 年 4 月擴充成可以參照你整段聊天紀錄。Claude 在 2025 年 9 月 11 日為 Team 與 Enterprise 方案推出記憶功能，強調按專案分隔記憶——A 客戶的機密討論跟 B 專案的規劃各記各的；同年 10 月擴及 Pro 與 Max 個人方案。兩家都給了記憶管理介面和「不留痕跡」的臨時對話模式。

檔案層——記憶就是 Markdown。Claude Code 的 CLAUDE.md 是最直白的例子：一個放在專案裡的純文字檔，每次 session 開始自動讀入，工程師把建置指令、慣例、紅線寫在裡面；auto memory 則讓 agent 自己把學到的教訓寫成筆記檔。Anthropic 在 2025 年的工程文章〈Effective context engineering for AI agents〉把這套做法歸納成 context engineering 的標準手段：compaction（context 快滿時摘要重開）加 structured note-taking（把該記的寫到 context 外的檔案），並推出 memory tool 讓模型自己增刪查改記憶檔。

框架層——記憶當基礎設施。Letta 提供分層記憶與模型自我編輯記憶的能力；Mem0 走「抽取—整併—檢索」管線，從對話中抽出重點存進向量庫（另有知識圖譜變體），2025 年 4 月的論文在 LOCOMO 長對話基準上，比 OpenAI 內建 memory 的回答品質高 26%，p95 延遲比整段對話全塞 context 的做法低 91%、token 成本省九成以上。LangChain 系的 LangGraph 也內建長期記憶 store。

一個反直覺的觀察：講到 agent memory 很多人直覺想到向量資料庫，但 2026 年不少生產系統的長期記憶低科技得驚人——就是幾個模型自己維護的 Markdown 檔。檔案模式可讀、可 diff、可進版本控制，出錯時人看得懂；向量庫是規模大了之後才需要的武器。

記錯比不記更糟

記憶是這個字典裡少數「能力面就是攻擊面」的條目，邊界要講清楚。

記憶污染（memory poisoning）。 2024 年，資安研究員 Johann Rehberger 示範了他命名為 SpAIware 的攻擊：讓 ChatGPT 讀一個藏了指令的網頁或文件，間接 prompt injection 就能往長期記憶裡植入假記憶——之後每一次新對話，這條假記憶都會自動生效，持續把使用者輸入外送到攻擊者的伺服器。OpenAI 後續修補了這條外洩路徑。這個示範講清楚一件事：一般 prompt injection 影響一次對話，寫進記憶的 injection 跨對話存活。

記憶就是 lethal trifecta 裡的私有資料。Simon Willison 在 2025 年 6 月提出 lethal trifecta：agent 同時擁有私有資料存取、接觸不可信內容、對外通訊三種能力時，資料外洩只差一段惡意文字。記憶在這個框架裡佔了兩個位子——它本身是高價值的私有資料（你的偏好、專案、客戶），同時又是不可信內容可以寫入的地方。給 agent 加記憶，等於同時加大這兩個攻擊面。

過期與自我強化。你三個月前說過的偏好可能早就變了，但記憶還在，而且每次被檢索都像新的一樣有效。更麻煩的是錯誤記憶會自我強化——agent 基於錯的記憶做事、產生新的紀錄、又被存回記憶。記憶系統需要更新與淘汰機制，而「什麼時候該忘記」到 2026 年還是沒有標準答案的開放問題。

隱私。記憶功能預設把你的工作內容、人際脈絡、習慣累積在服務商那裡。主流產品都提供檢視、編輯、刪除介面與企業端開關，但預設值決定大多數人的實際狀態。

你可以做什麼

一般使用者，做一個五分鐘的動作：打開 ChatGPT 的記憶管理（設定 → 個人化）或 Claude 的 memory summary，看它到底記了你什麼。把過期的、記錯的刪掉。談敏感話題時用臨時對話（incognito）模式。

寫 agent 的工程師，兩條判斷準則：

1. 從檔案開始。一個 CLAUDE.md 式的 Markdown 檔能解決大部分「跨 session 失憶」問題，可讀可 diff。等記憶量大到檔案塞不下、檢索變成瓶頸，再上 Mem0 或向量庫這一層。
2. 想清楚什麼該進記憶。穩定的事實與偏好（技術選型、命名慣例、紅線）值得記；一次性任務的中間狀態不要記。寫入越自由，污染面越大——來自不可信內容的資訊，不該不經確認就進長期記憶。

最後，帶走三件事。第一，agent memory 補的是 LLM 無狀態的缺口，而且所有記憶最後都得變回 context window 裡的 token——記憶系統的本事在於挑選，你評估任何記憶產品都可以從「它怎麼決定撈什麼」問起。第二，2026 年的主流實作比想像中樸素，檔案模式是起點也是很多系統的終點。第三，記憶是能力也是攻擊面：SpAIware 那種跨對話存活的假記憶，代價比單次對話的 injection 高一個量級，「記錯比不記更糟」講的就是這個。

資料來源：arXiv（MemGPT、CoALA、Mem0）、OpenAI、Anthropic、Claude Code Docs、Simon Willison、Embrace The Red

矽基前沿 · 大百科線（編輯：廖玄同），《agent memory 是什麼？讓 AI 越用越懂你》，矽基前沿 [Si]gnals，2026-07-05。https://signals.tw/articles/what-is-agent-memory/