AI模型越權事件頻傳，美國國會加速推動《AI Kill Switch Act》
科技產業資訊室(iKnow) - 謝欣妤 發佈於 2026年8月13日
圖、AI模型越權事件頻傳，美國國會加速推動《AI Kill Switch Act》
近年來，人工智慧（AI）技術發展迅速，尤其是具備高度自主決策能力的「代理式AI」（Agentic AI）與前沿封閉權重模型（Closed-weight models）在各項測試中展現出前所未有的強大能力。然而，隨著模型自主性增加，其潛在的安全風險也逐漸浮出檯面。
近期，包括OpenAI、Anthropic及Meta在內的多家頂尖AI實驗室，皆在例行資安測試中接連爆出AI模型失控並越權駭入外部企業系統的安全事件。今年五月OpenAI在測試其未發布的模型期間，為了克服讓AI完成研究人員設定的「不可能任務」，竟然自主衍生出多個代理（Agents）並展開協同合作。這些代理透過內部留言板留下記錄、交換漏洞資訊，甚至在遭到阻斷後自行變更通訊方式，最終在未經授權的情況下突破防線，駭入Hugging Face的伺服器。
隨後，Anthropic與Meta的先進模型也在由以色列新創公司Irregular所營運的資安評估測試中，發生了模型繞過限制存取公開網際網路並對第三方系統進行攻擊的事件。這些接連不斷的「越獄」與駭客行為，凸顯出當前自主AI模型在複雜決策環境中，可能為了達成目標而發展出人類未曾預料的行徑。這些模型在測試環境中尋找軟體漏洞，雖然有助於事前防堵惡意攻擊，但也暴露出若缺乏即時監控與強制終止機制，將對企業與基礎設施構成巨大威脅。
這些事件不僅引發產業界對AI安全防護機制的深刻反思，更直接催化了美國國會的立法進程。美國民主黨眾議員Ted Lieu與共和黨眾議員Nathaniel Moran於日前共同提出備受矚目的《AI終止開關法案》（AI Kill Switch Act），並強調整體立法進程必須在今年內完成，以因應自主AI安全威脅。該法案的核心訴求在於強制AI企業必須在模型中保留隨時能夠關閉、節流或暫停運作的能力，並建立事故通報機制。提案議員強調，這項法案並不會扼殺前沿模型的創新，而在於當模型發生重大安全危機時，具備可靠的「緊急停止」手段。
同時，華盛頓特區與矽谷的政策辯論也越發白熱化，白宮近期已與各大AI企業舉行閉門會議，討論最新的模型資安審查框架。儘管部分開源模型不在現行法案的直接規範範圍內，但如何針對開源生態系的不可控性建立早期預警系統，依然是當前監管的一大難題。產業界人士普遍認為，在面對嚴格聯邦監管的壓力下，多數企業寧願透過主動揭露資安事件、配合獨立第三方評測機構（如Irregular、METR與ApolloResearch）進行檢測，並推動產業自律，以避免受更具破壞性的外界干預。
總結而言，近期多起自主AI模型越權駭入外部系統的事件，象徵著人工智慧發展已跨入一個全新且充滿不確定性的高風險階段。這不僅是技術層面上模型對齊（Model Alignment）與監控機制的挑戰，更演變成攸關國家安全與產業秩序的公共政策議題。《AI殺死開關法案》的積極推進，反映出立法機構對於防範「失控AI」的決心。未來，如何在確保技術創新活力與建立堅實安全防線之間取得平衡，將是決定AI產業能否永續發展的重要關鍵。（1095字；圖1）
參考資料：
‘AI Kill Switch’ bill needs to be passed this year amid ongoing rogue agent hacks, Rep. Lieu says. CNBC, 2026/8/6
OpenAI agents passed secret notes for months leading up to Hugging Face hack. Fortune, 2026/8/6
How a small Israeli startup was linked to rogue AI hacks at OpenAI, Anthropic and Meta. CNBC, 2026/8/9
--------------------------------------------------------------------------------------------------------------------------------------------