Gemini 進五角大廈：Google 還能不能踩煞車？

如果 Gemini 在分類系統裡被要求處理「合法政府用途」，Google 還能不能說不？

這是 Google 據報與美國 Pentagon 更新 AI 合約後，最值得看的問題。Axios 報導稱，Pentagon 本週與 Google 達成協議，可把 Google model 用於「all lawful use」；多家媒體也根據 The Information 報導指出，Gemini 可進入 classified work 或 classified settings。

重點不是 Google 第一次碰國防業務。真正的變化是：當前沿模型進入分類政府系統，安全紅線不再只是產品頁上的 policy，而會變成合約條款、安全設定、審計權限與政府操作權的組合。

合法用途不等於低風險用途

公開報導共同指向幾個控制點。

第一，使用範圍是「any lawful government purpose」。這句話聽起來像限制，因為它仍以合法用途為底線；但它也把判斷中心從 Google 的產品政策，移到政府任務與法律框架。

第二，合約據稱提到 Google AI system 不應用於 domestic mass surveillance 或 autonomous weapons，除非有 appropriate human oversight and control。這是 Google 對外聲明裡也反覆強調的紅線。

第三，問題出在誰能執行紅線。The Guardian、The Verge 與 9to5Google 都整理到同一個關鍵：報導稱合約不給 Google control or veto lawful government operational decision-making 的權利。The Verge 與 9to5Google 也指出，Google 需協助政府調整安全設定或過濾器。

所以這不是「有沒有護欄」的二分題。更實際的問題是：護欄在分類環境裡由誰調整、誰批准、誰留下紀錄、誰能拒絕？

為什麼這不是單一採購新聞？

Pentagon 不是臨時找一家公司試用 AI。

美國國防部 CDAO 在 2025 年 7 月已宣布，給 Anthropic、Google、OpenAI、xAI 每家公司上限 2 億美元的 frontier AI awards，目標是把 advanced AI capabilities 用於 national security mission areas，並發展跨任務場景的 agentic AI workflows。官方說法很明確：DoD 正採用 commercial-first approach，把商用前沿 AI 帶進國防工作。

Google 自己的政策語言也已經往這個方向移動。2025 年 2 月，Google 更新 AI Principles，官方文章說民主國家與共享價值的 companies、governments、organizations 應一起發展能保護人、促進成長並支持 national security 的 AI。文章同時強調會逐案評估 benefits 是否大於 risks。

放在一起看，這次 Pentagon/Gemini 報導不是孤立事件，而是 AI labs 與政府開始把「前沿模型能否進入敏感工作流」變成合約市場。

Google 說的紅線，和買方要看的紅線不一樣

Google 對外說法是，它仍承諾 AI 不應用於 domestic mass surveillance 或 autonomous weaponry without appropriate human oversight。這句話重要，但對採購者還不夠。

買方真正要看的，是紅線落到系統裡怎麼運作。

如果安全設定可以被政府要求調整，誰留下變更紀錄？如果模型在任務規劃、情報流程或分類分析中產出高風險建議，誰負責升級審查？如果 human oversight 只是最後有人按確認鍵，那和實質控制有多大差距？

這些問題也不只屬於軍事場景。金融、醫療、半導體、能源、政府資料系統都會遇到類似題目：AI 供應商的 policy、客戶的合法用途、內部操作權和外部審計，哪一個才是最後防線？

高風險 AI 採購該問哪四件事？

第一，use boundary 寫在哪裡？

不要只問供應商是否有 responsible AI policy。要問限制是寫在產品條款、採購合約、系統設定，還是只存在於對外聲明。位置不同，可執行性完全不同。

第二，誰能調整護欄？

如果客戶能要求調整過濾器或安全設定，供應商是否能拒絕？是否有雙方批准流程？是否會通知內部風險團隊？這比評測分數更接近真實風險。

第三，audit trail 看得到什麼？

高風險流程不能只有模型輸出。要有誰發起請求、用什麼資料、哪些設定被啟用、是否觸發人工審查、事後能不能回溯。

第四，human oversight 是不是可檢驗？

「有人監督」太容易變成口號。比較硬的問題是：人類要在幾秒內判斷？有沒有權限拒絕？拒絕後系統會不會繞路？責任落在操作員、主管、供應商，還是採購單位？

Google/Pentagon Gemini 合約之所以重要，不是因為它證明 AI 已經能接管國防，也不是因為它證明 Google 放棄安全。

它把一個接下來所有高風險 AI 買方都會遇到的問題推到台前：模型可以進入敏感工作流之後，真正的控制點在哪裡？

高風險 AI 採購不該只問模型可不可以用，而要問誰能調整護欄、誰看得到 audit trail、誰能在用途滑向邊界時踩下煞車。