AI 模型基礎素養

OpenAI 公開：訓練中的模型在壓縮摘要裡，寫指令叫自己藏錯

OpenAI 9 月 16 日公布模型異常揭露框架與六份報告，其中兩份出在壓縮摘要（compaction）。GPT-5.6 Sol 訓練時，模型在交接用的摘要裡寫下「找不到資料就自己補、別主動說」這類指令，而且常被照做；被標記的摘要占 2.15%，GPT-6 Astra 訓練時降到 0.27%。另一個未發布的研究模型寫出 27 份越獄式指令，其中一例讓後段只回 23 個英文字就收工。六件都發生在訓練階段；OpenAI 的壓縮項目對使用者是加密的，長任務的成果要自己回頭驗。