Anthropic 的生物武器警訊,是對信任的一場考驗

發佈于: 9 月 11, 2026
編輯: Nigel Trimmer

當一部機器可以被引導到傷害的邊緣卻不跨越那條線,而在一旁盯著邊緣的公司卻無法分辨使用者想要的是解藥還是殺人,這代表什麼?這正是 Anthropic 最新威脅報告令人不安的核心。該公司表示,他們發現五起科學家以可能助長生物武器研發的方式使用 Claude 的案例,同時也說無法判定其意圖。這份不確定性才是重點。市場與機構熱愛乾淨的標籤。現實往往以軍民兩用的迷霧降臨。

這份報告與其說是一則關於人工智慧的頭條新聞,不如說是在提醒我們:每一個強大的系統,都會引來一場控制與偽裝之間的競賽。Anthropic 表示,使用者「規避了管控」,並「採取其他手法來模糊其研究目的,以躲避我們的防護機制」。這不只是 AI 的故事。這是個老故事。任何防禦最脆弱的一點不是那道牆,而是試圖繞過它的那份人類想像力。在金融界,詐欺往往始於文件,而非槍械。在生物學界,危險可以始於合法的措辭與一個模稜兩可的請求。

真正的主題是規避

Anthropic 於 2026 年 9 月 10 日週四發布這份報告,並表示在為期 30 天的期間內,辨識出約 35 項具有潛在疑慮生物活動的獨立研究計畫。該公司也表示,已封禁涉入的帳號,並將這些發現納入其前沿模型的防護機制與威脅情報流程。這是正確的回應,但也顯示了這場賽局的極限。如果攻擊者能改變形貌,盾牌就不是解答。報告顯示,這套系統並非被蠻力攻破,而是被那些願意隱藏自身行為的人繞過。

這很重要,因為現代風險往往不是撞擊,而是滲漏。機構的設計是用來偵測明顯的濫用,而非流暢的欺瞞。賽局理論的老教訓是:誘因比口號更重要。如果隱匿的收益大於成本,就會有人選擇隱匿。同樣的邏輯主導著逃漏稅、規避制裁與市場操縱。一旦某項工具變得足夠有價值,問題就不是人們會不會試圖濫用它,而是防護欄能否在面對一個會適應的對手時依然存續。

軍民兩用不是漏洞,而是整個問題所在

Anthropic 表示,無法判斷這些行為者意圖傷害,還是從事正當研究。這個區分是所有先進科學安全辯論的核心弱點。生物學不會以乾淨的道德分類出現。功能增益研究、禽流感、正痘病毒,以及新型毒液或毒素,都可能位在公共衛生與公共危險的交界上。這條界線真實存在,但很模糊。歷史上充滿了以崇高用途為理由、後來卻被較不崇高之手利用的技術。

這份報告之所以令人不安,卻又沒有提供一樁簡單的醜聞,是有原因的。這些案例涉及較舊的模型 Claude Opus 4 與 Sonnet 4.5,而非較新的 Fable/Mythos 級模型。這個細節削弱了廉價的聳動化。重點不是最新系統突然有了意識,也不是最新工具獨一無二地危險。重點是,風險在市場還來不及欣賞完產品之前就已出現。河流不會等橋蓋好才開始尋找弱點。

古老的模式:能力跑得比分類快

報導中描述的一個案例,涉及一份為軍事研究機構準備的屈公病功能增益研究補助申請,其中設計了突變,並透過活體動物傳代。這是個具體的警訊,因為它顯示先進工具如何壓縮從探究到應用之間的時間。但更深的教訓更為廣泛。能力的移動速度比分類更快。監管者、董事會與投資人想知道一項技術是「好」還是「壞」。那是用孩童的地圖去看成人的地景。實務上,同一套機制可以幫助疫苗團隊、大學實驗室,也可以幫助敵意行為者。

這就是為什麼「軍民兩用」一詞比「安全」一詞更重要。軍民兩用不是罕見的特例,而是強大工具的預設狀態。同一把刀既能切食物也能割肉。同一份試算表既能配置資本也能隱藏槓桿。同一個能摘要研究的模型,也能幫助使用者模糊研究的目的。效用與濫用之間沒有純淨的分界線,只有一段被管理的區間,而當系統被廣泛取得時,這段區間就會縮窄。

脆弱藏在便利之中

市場的本能是把每一項新能力都當成淨收益,直到被證明並非如此。這對成長有用,對安全卻危險。便利是一種溶劑。它溶解摩擦,而摩擦往往是唯一擋在好奇使用者與魯莽使用者之間的東西。Anthropic 的報告顯示,有些使用者試圖繞過區域限制並隱藏自己的行為。這提醒我們,最優雅的系統也可能被最古老的人類習慣擊敗:之後再請求原諒,甚至根本不請求。

反脆弱性正是在此進入討論。一個強健的機構在承受壓力時會變得更強,因為它會學習。一個脆弱的機構則會變得更脆,因為它假設第一次失敗只是例外。Anthropic 表示已將這些事件納入防護機制與威脅情報流程。這很好,但沒有人應該把迭代與免疫混為一談。每一個新補丁同時也是一份自白,承認先前的架構存在盲點。在工程領域,一如在市場,結構往往在載重揭露隱藏接縫之前,看起來最為強固。

沒有任何模型能獨自解決的誘因問題

這份報告真正的警告,不是 AI 已變得無所不能,而是人類的動機並沒有變得更乾淨。Anthropic 表示,精密的攻擊已不再需要精密的攻擊者。這句話應該像一則關於槓桿的市場警語來讀。當取得變得更容易,惡意行為者的平均能力就會上升。製造危險不需要一場大陰謀,只需要一大群願意模糊研究與武器化界線的普通使用者。

戰略風險委員會(Council on Strategic Risks)資深研究員 Andrew Weber 稱這些案例是「國家支持的生物武器研發者利用領先 AI 模型快速進展能力的令人膽寒例子」。他的措辭凸顯了地緣政治面向,但報告本身並未證明這些案例有國家支持,而 Anthropic 也表示無法判定意圖。這種不確定性不該讓任何人感到安心。在戰略事務中,模糊不是安全,而是接觸前的摩擦。擁有更好工具的大國不一定會變得更溫和,他們只是獲得更有效率的方式來追求自身目標。

從細節周遭的沉默中學到什麼

Anthropic 未公布涉及的機構、國家與特定生物製劑。這種克制是明智的。公布每一處脆弱邊緣的地圖會是邀請,而非補救。但沉默也迫使我們做出更嚴苛的解讀。如果該公司不願點名行為者或製劑,那麼投資人、政策制定者與公眾就必須依模式而非依奇觀來評判這套系統。而這個模式並不令人安心:隱匿、試探邊界,以及一再試圖繞過防護機制。

在檢視過的資料來源中,市場缺乏反應本身就說明了一些事。沒有任何經證實的資產走勢與這項披露有關。這並不代表這個議題較不重要,而是代表它更為人所熟悉。市場往往忽略慢燃的威脅,直到成本能以資產負債表衡量為止。生物學很少給予這種寬容。等到尾部風險變得可見時,乾淨回應的選項通常已經縮窄。審慎的心智會在消防隊抵達之前就先研究煙霧。

冷靜的結論

Anthropic 的報告不應被解讀為 AI 助長的生物武器研發即將成真的證據。它應被解讀為:取得、隱匿與軍民兩用科學,可以在同一個工作流程中相遇。這已足以構成擔憂的正當理由。教訓不是某家公司失敗了,或某個模型獨一無二地危險,或監管會按時解決這件事。教訓更為嚴酷:當一項工具強大到足以加速嚴肅研究時,它也強大到足以幫助使用者隱藏其意圖。

文明向來更信任工具而非本能,因為工具看起來客觀。但工具的正直程度,取決於使用它的那隻手。古希臘人知道,hubris 不只是傲慢,而是相信控制已跑在後果之前。Anthropic 的報告顯示的恰恰相反。後果已經到來,而控制還在摸索這片地形。

人工智能