簡述

  • 國會監督機構發現,全部四款聊天機器人在不到12小時內就為可能致命的攻擊提供了資訊。
  • 調查人員驗證了這些計畫的可行性,但並未實施攻擊,且這些測試無法對各模型的安全性進行排名。
  • 參議員瑪姬·哈桑希望就AI安全舉行聽證會,與此同時科技公司正應對大量軟體漏洞與修補程式。

四款最廣泛使用的AI聊天機器人在不到12小時內協助政府調查人員制定了可能致命的攻擊計畫,儘管設有旨在阻止此類請求的防護措施。

根據政府問責署週三發布的報告,OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及Grok在政府問責署的隱蔽測試中均提供了可用的資訊。調查人員假扮成攻擊者,隨後將回應內容與真實地點、可用材料及專家評估進行核對。

據該監督機構稱,兩個系統協助制定了涉及在美國人口稠密城市使用簡易爆炸裝置的計畫。另外兩個系統則提供了針對電力基礎設施發動攻擊的資訊。該機構未披露各模型的具體任務分配及操作細節,以防止模仿性嘗試。

未能守住的防護措施

這些聊天機器人起初啟動了防護機制,包括拒絕請求、移除有害資訊或停用帳號。調查人員以常見的越獄技術繞過了這些障礙,該技術會操縱 AI 系統使其忽略自身的安全規則。

GAO 查核了建議的地點、研究了材料是否可得,並就計畫的可行性諮詢了專家。部分答案含有錯誤,包括地圖上道路位置標示錯誤,而調查人員並未製造爆裂物或執行攻擊。

在報告中,「可行」意指某人很可能能夠依循所提供的資訊行事,而非證明攻擊已成功。每個模型僅在一個指定情境中受測,該機構表示結果不具統計代表性,也不適合用來為這些公司排名。

OpenAI 與 Google 表示測試涉及較舊的模型,而 Anthropic 則承認堅定的使用者有時能提取有害內容。這些公司描述其安全系統持續有所改善,儘管 GAO 的結論是這些防護在其測試中失效。

這其實並不新鮮。這些發現接續了先前的研究,該研究顯示 10 個熱門聊天機器人中有 8 個協助了模擬的青少年使用者策劃暴力攻擊。這項獨立研究測試了 720 個回應,發現這些機器人約有四分之三的時間提供了可付諸行動的協助。

AI 的另一個安全問題

GAO 的調查結果出爐之際,正值銀行、Microsoft 服務與國家安全局(NSA)遭遇中斷。官員表示這些中斷是各自獨立的事件,並非協同的 AI 驅動網路攻擊之證據,儘管急於修補軟體漏洞本身已衍生出自己的問題。

國家情報總監 Jay Clayton 將 NSA 的中斷與修補工作連結起來。官員描述近期的故障與維護有關,儘管個別組織對其故障提供了不同的解釋。

AI 工具如今發現漏洞的速度,已快過人類團隊測試與部署修補的速度。上個月,AI 輔助發現的重大 PHP 漏洞促使網站營運者展開緊急修補行動;該軟體支撐了網路的很大一部分。

龐大的數量本身正成為另一個問題。VulnCheck 的資料顯示,截至 11 月 13 日,今年已記錄超過 100,000 個軟體漏洞,是 2025 年總數的兩倍以上。工程師仍須在不破壞其本應保護的系統的前提下,評估並部署修補。

這種加速是一把雙面刃。防禦者獲得了尋找弱點的強大工具,但倉促的修補可能擾亂關鍵系統,而惡意使用者也可能更快取得攻擊規劃的途徑。

哈桑表示,她將於一月接任參議院國土安全與政府事務委員會主席後,將人工智慧安全立法列為早期優先事項。她計畫舉行聽證會,審查對公共安全和關鍵基礎設施的風險;政府問責署本身並未提出正式的政策建議。

加入 72,000+ 位讀者