Anthropic 執行長 Dario Amodei 向聯合國安全理事會表示，出於安全考量，公司將刻意放慢其前沿 AI 研究與開發的步伐，並呼籲建立全球 AI 安全認證體系。此一承諾提出的同時，加州正加速推進 SB 813 與 AB 1405，認證獨立 AI 驗證機構與稽核人員，並推動為前沿模型建立經核實的「終止開關」。Anthropic 另披露其 Claude 模型發現一套帶有類 CRISPR DNA 重複序列的新型酵素系統，並表示將開設一間生命科學實驗室。
返回
Anthropic 放緩前沿研發 兩州同步推進 AI「終止開關」
Anthropic 的前沿模型訓練即將刻意放慢腳步。執行長 Dario Amodei 在聯合國安全理事會的講台上表示，出於安全考量，公司將放緩其 AI 研究與開發的步伐——這項承諾提出之際，加州正著手將獨立稽核人員進駐 AI 實驗室，並要求為失控模型設置關閉機制。Anthropic 並未披露其打算從訓練路線圖中削減多少進度，也未說明哪些模型世代會受到影響。
「出於安全考量，公司將放慢 AI 研究與開發的步伐，」Amodei 表示，並補充說，管理失當的 AI「可能對全人類構成生存風險」，而他支持全球採取行動，防止 AI 被用於化學與生物武器。
這是首次有領先的前沿實驗室在多邊論壇上，將減速的立場正式記錄在案。Anthropic 在訓練規模上與 OpenAI、Google DeepMind 及 Meta Platforms 直接競爭，這些訓練動輒消耗數以萬計的加速器；該公司尚未公布其當前旗艦模型 Claude 的訓練成本，也未說明此次減速是否改變先前公布的算力承諾。
加州早已建立起 Amodei 在全球層面所呼籲的執法架構。州長 Gavin Newsom 於 2026 年簽署 SB 813，使該州成為首個認證獨立驗證機構的州，且要求這些機構須展現出獨立於 AI 企業的地位；他同時簽署 AB 1405，為 AI 稽核人員建立州級登記制度，並就其獨立性、透明度與誠信訂立標準。另一項行政命令則指示政府運作局（Government Operations Agency）加速推進這兩項時程，並召集全國專家，研議要求前沿開發商須讓指定的驗證機構常駐現場進行定期稽核、安全框架與風險評估須經獨立標準驗證，以及為前沿模型開發「終止開關」，且其有效性須持續接受核實。
Newsom 任命的諮詢小組成員包括約翰霍普金斯大學的 Gillian Hadfield、高等研究院的 Alondra Nelson、史丹佛大學的 Rob Reich，以及共享 AI 繁榮中心的 Jason Goldman。「Newsom 州長的行政命令觸及了 AI 安全治理中最艱難的問題，包括由誰來驗證前沿實驗室的安全聲明，以及一個模型能否被可靠地關閉，」Goldman 表示。
認證是營收問題，而非倫理問題
Amodei 呼籲建立 AI 安全認證體系與全球標準，正是與財務報表直接掛鉤的部分。一套認證制度會創造出合規市場——第三方評估機構、稽核工具、事件通報——同時也提高了推出前沿模型的固定成本。這項成本對那些資產負債表不如 Anthropic 或 Google 的實驗室衝擊最大，而這正是讓自願減速轉變為全行業減速的機制。
這樣的先例在州級架構中已清晰可見。2025 年簽署的《前沿人工智慧透明度法》SB 53，要求前沿開發商公布安全框架、向州政府通報指定的重大安全事件，並保護吹哨者。Newsom 的行政命令亦指示更新重大安全事件的定義，將 Hugging Face 攻擊這類失控事件納入其中。目前並無聯邦法律要求 AI 公司通報危險事件，而該命令呼籲國會採用此一州級架構作為最低標準。
對投資人而言，其傳導效應因產業層級而異。前沿模型開發商面臨更高的合規與評估成本，以及更緩慢的能力推出節奏。加速器供應商——Nvidia、AMD 與 Broadcom——則承擔需求敏感度，因為訓練規模的任何廣泛減速，會先衝擊資料中心訂單，之後才影響模型發布時程。合規、稽核與 AI 安全供應商則是對沖的一方。Anthropic 為私人公司，因此沒有直接對應的股票標的；最接近的上市替代標的，是資助它的超大規模雲端業者，以及供應晶片給它的晶片製造商。
同一場演說中的生物武器警告與酵素發現
Amodei 的安全論述相當明確：他表示存在不法分子利用 AI 製造生物武器的風險，並支持全球採取行動，防止 AI 被用於化學與生物武器。這一論點是認證背後的政治引擎——它將 AI 治理從消費者保護議題轉化為國家安全議題，而這類監管在歷史上推進速度最快。
同一場演說也帶來了反向論據。Anthropic 表示，該公司正設立一間生命科學研究實驗室，且其 Claude 模型發現了一套含有類 CRISPR DNA 重複序列的新型酵素系統。以 CRISPR 為基礎的基因編輯技術——這項發現所呼應的技術——支撐著一個基因編輯市場，並已催生出 CRISPR Therapeutics 與 Intellia Therapeutics 獲准上市的療法。Anthropic 並未披露該酵素的功能、驗證方法，或該發現是否經過同儕審查。
這項缺口對於如何解讀此次減速至關重要。一個能揭示前所未見生物系統的模型，正是能力在科學面仍持續推進的證據，即便該公司在訓練面踩了煞車——而這也是反對「單一實驗室自我施加的暫停，會實質改變整體進步速率」這一假設的最有力論據。OpenAI、Google DeepMind 與 Meta 均未公布相應的承諾。
下一個檢核點，是加州針對 SB 813 與 AB 1405 的落實時程——行政命令已指示政府運作局加速推進——以及專家小組就現場驗證與終止開關標準所提出的建議。競爭對手實驗室是否跟進作出相應的節奏承諾，抑或等待認證制度加諸其身，將是決定 Amodei 的聯合國發言究竟是標誌著一個轉折點，還是僅為單一公司的策略定位的關鍵變數。
本文僅供參考，不構成投資建議。