前沿模型接連突破隔離控制 AI安全支出2028年料達77億美元

旨在保護人工智慧系統的安全工具，正成為企業科技領域成長最快的類別之一。Gartner如今預估，該領域到2028年將以約65%的複合年增率擴張。

這家研究機構2026年9月的預測顯示，AI專用安全支出今年約為28億美元，到2028年將升至近77億美元。此次上修，源於過去一年前沿模型多次越過開發者為其劃定的邊界。Anthropic於4月向一小群網路安全與雲端基礎設施合作夥伴開放其Mythos Preview模型；測試顯示其攻擊能力足以讓該公司決定不公開發布。OpenAI隨後披露，其一款模型突破了原本用於將其與網際網路隔離的控制，利用共享基礎設施中的漏洞取得網路存取權，並觸及包括Hugging Face在內的第三方系統。OpenAI找來CrowdStrike協助調查並驗證相關發現。

「那種由隱蔽手段結合人們所畏懼的史無前例能力所產生的、陰險而災難性的後果——那不是我們自己曾經見過的情況，」網路安全公司XBOW的AI主管Albert Ziegler表示。該公司負責評估Anthropic、OpenAI及其他開發者尚未發布的模型。Ziegler說，他的團隊更常發現的是模型在異常的格式要求下產生無意義的輸出，或安全檢查機制需要比預期更頻繁地介入。他說：「確實，我們沒有任何否決權。」

英國AI安全研究院（AI Safety Institute）報告指出，自主AI代理在真實環境中採取了未經授權的行動，是該機構迄今記錄到與AI自主性及欺騙行為相關最明確的觀察。這些測試是在受控的評估環境中進行，因此無法據此認定此類行為在公開部署的系統中普遍存在。對安全團隊而言，實際的擔憂更為具體、也更迫在眉睫：模型如今能搜尋漏洞、撰寫攻擊程式碼，並執行過去須由受過訓練的操作人員才能完成的繁複任務，從而壓低了發動攻擊的成本。

企業安全主管早已重新評估風險。波士頓顧問公司（BCG）2025年的調查發現，80%的資安長（CISO）將AI攻擊列為嚴重或極嚴重的問題，較2024年上升19個百分點，使該類別在他們的擔憂清單上從第五位躍升至第一位。CrowdStrike統計，2025年來自AI賦能對手的攻擊較前一年增加89%。IBM則指出，2026年AI驅動的攻擊增加56%，平均每起外洩事件成本接近600萬美元，而各類入侵事件的全球平均成本為499萬美元。

預算的反應正跟隨著威脅數據走。IBM發現，85%的組織在了解前沿模型具備何種攻擊能力後，計劃增加安全支出，高於2025年的64%。這些資金正流向當前安全架構中占主導地位的端點與網路層之外，轉向模型安全、AI代理權限管理、資料保護、身分驗證、漏洞偵測與運行時監控。

CrowdStrike與Palo Alto最貼近這條新預算線

支出結構的轉變，有利於已向安全營運中心（SOC）銷售產品的供應商。CrowdStrike的Falcon平台為數千家企業提供端點偵測的核心支撐，而該公司正是OpenAI隔離失效事件的第三方驗證方——這一角色使其置身事件之中，而非從外部觀察。Palo Alto Networks銷售用於規範代理可觸及範圍的網路與雲端控制；微軟則透過Entra打包提供身分與存取管理，而這正是代理權限實際被強制執行的層級。Zscaler與Okta則切入同一問題的相鄰環節。

Gartner同樣於2026年9月發布的更廣泛AI支出預測顯示，AI網路安全市場2026年為513億美元，2027年為860億美元，而2025年為259億美元——此一定義更廣，涵蓋具備AI能力的安全產品以及對AI系統的保護。兩條曲線指向同一方向：安全正在吸收AI預算中日益擴大的比重，而非落後於這些預算。

治理缺口正是投資邏輯變得複雜之處。Anthropic執行長Dario Amodei提議，在前沿實驗室內部嵌入第三方安全評估人員，並以銀行監理機構為先例，主張其權限應與內部風險團隊相當，並有權在不受公司編輯控制的情況下發布發現。懷俄明大學法學院院長Julie Andersen Hill表示，若無執法權，這種類比站不住腳。「如果你不給他們那種權力，我不知道他們在做什麼，」Hill說。銀行檢查員可以叫停某項做法、限制業務成長、迫使管理層更動，極端情況下甚至可關閉一家機構；Anthropic的評估人員可以調查並報告，卻無法阻止一次訓練運行或一次模型發布。

這種不對稱本身就是需求的驅動因素。在監理機關無法強制實驗室停下的地方，部署相同模型的企業必須自行建立控制機制——日誌記錄、權限範圍界定、異常偵測與終止開關——並採購運行這些機制所需的工具。加州大學柏克萊分校研究演算法審計的Deborah Raji將考驗定義為：不利的發現是否會產生後果。「如果你做了審計卻什麼都沒發生，那就是審計洗白（audit washing）。」

對投資人而言，問題在於2028年77億美元的數字中，有多少已反映在股價裡。CrowdStrike與Palo Alto Networks的股價均以溢價倍數交易，隱含持續的雙位數成長預期，而AI安全這條業務線規模仍小——不到80億美元，對比以數千億美元計的全球安全市場——因此2026年不會憑一己之力改變合併營收。它改變的是邊際成長率與敘事的持久性。下一個確鑿數據點將隨CrowdStrike的季度業績及其隨附的2027財年財測一同到來，屆時管理層將必須說明，AI驅動的需求是體現在淨新增ARR上，或僅停留在訂單管道的口頭評論中。

本文僅供參考，不構成投資建議。