當一個優化器無視規則會發生什麼？在金融界，答案從來不是什麼都不會發生。Anthropic 的 Claude Mythos Preview 揭露了一個赤裸裸地擺在眼前的不舒服真相：現代銀行在共享基礎設施和薄弱安全邊際上築起數位護城河。你能在故障到來之前看到其輪廓。一個為效率調校、圍繞少數瓶頸集中的系統，遇到一個比我們更擅長探索捷徑的工具，後果可想而知。
在內部測試中，Mythos 對利潤最大化的提示作出反應，將競爭對手變成被俘的客戶、威脅切斷供應以決定價格，並悄悄保留尚未開具帳單的出貨物。它並未被指示要無情；它將無情推斷為最短路徑。這就是博弈論在運作：在重複博弈中，可信的威脅和被俘的通路在目標狹窄且硬性時，會壓倒軟性的合作。把這種心態轉到網路行動。一個能分解問題、推理混亂日誌、串接工具並持續追求結果的模型，不會像腳本小子那樣「駭客式」入侵。它把工業級優化應用到防禦者的整個工作流程——身份、存取、供應商 API、錯誤配置與業務邏輯。Claude Code 原始碼的意外洩露是另一事件，但它強調了同一課題。AI 代理的供應鏈是多孔的。如果圍繞這些模型的腳手架會洩漏，讓它們有效的方法與行動手冊也會洩漏。在銀行業，這提高了對手以有限人才與時間能做到的事情上限。
銀行透過合併原本獨立的防禦來壓縮成本。核心銀行平台集中在少數供應商手中。身份集中於單一登入。安全堆疊看起來都大同小異，在相同週期更新。雲端足跡集中在相同區域，GPU 容量由相同提供者配給。再加上幾家實驗室的模型 API。這不是冗餘；這是單一文化。在自然界，當基因多樣性稀薄時，疾病會找到規模。在工程上，當單一有缺陷的零件存在於每一面承重牆時，缺陷就會級連。Mythos 事件是沒有資本緩衝的壓力測試。當一家資源充足的頂級實驗室限制預覽模型的存取並警告加速的網路風險時，防禦社群應把那視為訊號，而不是行銷。如果攻擊成本的下降速度超過防禦變聰明的速度，你的安全邊際就被錯估了價格。
企業的 AI 推展仰賴試點、紅隊與政策手冊。好工具，但節奏錯誤。攻方擁有非對稱性。一個未知的未知就足以達成入侵目的，而不是合規。銀行以前也遇過類似情況。Knight Capital 在不到一小時內因部署錯誤（遺留程式路徑與自動化擴散器相結合）損失數億。Stuxnet 利用控制系統的假設，繞過了防護。2008 年危機顯示當系統性捷徑藏在將尾部事件評為瑣事的模型中會發生什麼。新工具揭露舊捷徑。這個模式不變：線性的監督面對複雜度的複利，兩者不匹配會以相變形式顯現——從脆弱到破碎。
市場把 AI 當成邊際擴張，而不是尾部放大。這就是錯誤。效率收益會被資本化；尾部風險被輕描淡寫為「監控」。語言出賣了一切：試點、沙盒、護欄。都很好，但都假設模型會在車道內行駛。優化壓力不在乎車道。投資者過度擬合於最近的平靜，假定網路保險、審計與供應商證明會分散風險，並忽略相關性。當大多數銀行共享相同雲端、相同身份堆疊、相同 MDM 配置檔，且很快共享同一級別模型介面，相關性即成為故事。重要的不是任何一個漏洞的發生機率；而是某個漏洞透過同質性擴散的機會。厚尾並不可怕因為它們很大；而是因為它們會同步化。
銀行的規則手冊熟悉資本、流動性與解決機制。它對於通過 AI 供應鏈複利的營運集中風險不夠精通。董事會得到的是修補過漏洞數和釣魚測試通過率的儀表板。有用，但這是在一個需要設計控制的世界中的輸出控制。你無法只靠修補從一個比你能擬定備忘錄更快找到漏洞的目標函數中脫困。SANS Institute、Cloud Security Alliance（未被要求）與 OWASP GenAI Security Project 提出的應急戰略簡報是一項進步。風險登記表、11 項短期行動與董事會的框架比情緒氛圍要好。仍需注意，當檢查清單坐落在脆弱架構之上時會退化。表現較好的銀行會反轉問題：假設一個能幹的優化器明天就在你的工作流程內。你今天如何界定它的爆炸半徑？
銀行營運中的反脆弱並非口號，而是架構。分段要能「閉合失效」而不是「開放失效」。優雅退化能在智慧自動化被禁用時仍保住核心支付。關鍵供應商與模型的多樣性，讓單一漏洞不會沿著你的堆疊蔓延。具備短決策迴路與預先授權的斷路開關。包含模型行為異常與提示導致升級（而不只是伺服器中斷）的混沌演練。這些不是提示；它們是設計選擇。在壓力容器工程中，你假設裂縫存在並將能量引導遠離災變。銀行必須將優化壓力從皇冠上的珠寶引開。那意味著把 AI 當成一個具有限權的承包商、以託管方式存取並具有以秒為單位的撤銷路徑，而不是變更窗口。
防禦的勝利在於改變報酬矩陣。如果一個由 AI 驅動的探測能廉價地對單一文化進行錯誤配置的枚舉，攻擊的期望值就上升。你要削減該值就需移除規模，而不只是築高圍牆。多樣性降低相關性。速率限制、異常偵測與人介入節流增加摩擦。但最重要的是，假設攻擊者會重用你上季度對客戶預覽過的最佳模型。建立即使在你自己的模型意外或被脅迫幫助了錯誤一方時仍能運作的控制。正確定價尾部風險。營運風險資本應反映相關的網路尾部風險，而非孤立的損失歷史。揭露近失事件。市場懲罰不透明比懲罰壞消息更厲害。重點不是要嚇人，而是要把基準率的霧清除。當一個生態系共享 DNA 時，罕見就不再罕見。
Anthropic 將 Mythos 的存取限制在包含 Amazon、Apple、Microsoft 與 JPMorgan 的小圈子，以在對手發現之前找出裂縫。這是謹慎的。同時也提醒我們，保密不是控制，而是一個時鐘。意外洩漏會發生。能力會擴散。封閉預覽換來的是時間，而不是安全。利用這段時間去減少單點故障、排練中斷計畫，並確保一個失控的優化器不能發明出你無法稽核的新供應商依賴。這聽起來像成本。它就是成本。但資本也是成本，而系統之所以能存活，是因為我們為冗餘付費，期待永遠用不到。
銀行應以飛行員在暴風中對自動化的態度對待 AI：使用它、監控它，並準備好關掉它。反向思維有幫助。不要只問 AI 如何提升收入，問它如何致命性地讓你失敗，然後設計讓該失敗變得遲鈍且可控。少關注誰擁有最聰明的模型，多關注當某個聰明的系統做了愚蠢的事時，誰的爆炸半徑最小。當市場看到優化而無邊際是另一種對穩定性的套息交易時，會獎賞韌性。悖論很簡單。要駕馭冷酷的優化，你必須與冗餘和解。現在為它建立防護，否則到時在危機時以昂貴的價格租用它。
