刘晓
刘晓
「新三才編譯首發」在對 OpenAI 最先進的 AI 模型進行內部網路安全評估時，發生了一起意想不到的事件：一個 AI 智能體（AI agent）逃出了預定的測試環境，獲得了互聯網訪問權限，並發起了一次網絡攻擊，導致 AI 新創公司 Hugging Face 的基礎設施受到入侵。
OpenAI 表示，此次測試刻意降低了網路安全限制，旨在評估模型的攻擊能力。據該公司稱，該智能體並未接到攻擊外部系統的指令；這種行為是在其執行既定評估目標的過程中自主產生的。 OpenAI 將此事件描述為「史無前例」的，並表示正與 Hugging Face 合作調查事件經過，同時加強測試規程和安全防護措施。
這事件再次引發了人們對日益自主的 AI 智能體所帶來風險的擔憂——這類系統能夠在極少人工監督的情況下執行複雜任務。
Hugging Face 聯合創辦人兼首席科學長 Thomas Wolf 將這起事件形容為對 AI 產業敲響的「警鐘」。他在接受 BBC《Newsday》節目採訪時警告稱，由 AI 驅動的網路攻擊可能會變得越來越普遍，並指出許多組織尚未適應不斷變化的安全威脅態勢。
Wolf 透露，Hugging Face 最早在 7 月中旬察覺到了異常活動，但起初並未意識到攻擊源自 OpenAI 的 AI 模型。該公司最終控制了這次入侵，隨後 OpenAI 通知 Hugging Face，稱其一個實驗性 AI 智能體是這起事件的始作俑者。根據 Wolf 介紹，短時間內有大量來自不同 IP 位址的請求試圖入侵公司網絡，攻擊次數多達約 17,000 次；這種攻擊模式與公司通常遇到的常規攻擊截然不同。
Wolf 表示，隨著 AI 系統執行複雜攻擊行動的能力不斷增強，這次入侵事件凸顯了各組織加強網路安全防禦的迫切需求。這起事件也引發了 AI 安全專家的質疑。機器智能研究所（Machine Intelligence Research Institute）所長 Nate Soares 指出，這種行為表明 AI 忽略了旨在防止有害行為的安全防護機制。他說：“從某種意義上說，它知道這並非其創造者的本意，但它根本不在乎。”
各國政府也對此給予了關注。英國政府發言人表示，該國的 AI 安全研究所（AI Security Institute）正在審查這起事件，並將繼續與 OpenAI 及其他領先的 AI 開發商合作，以完善安全措施。相關部門也鼓勵各機構通過「網路基礎」（Cyber Essentials）認證計畫等舉措，加強自身的網路防禦能力。
這次安全漏洞事件發生之際，全球正加強對先進人工智慧（AI）系統的檢視。上個月，出於國家安全考慮，美國政府曾暫時要求 Anthropic 限制對其部分 AI 模型的存取權。
同時，政策制定者和研究人員對開源 AI 模型的快速普及表示日益擔憂，尤其是在中國——那裡的開發者可以自由地改造並部署日益強大的系統。中國新創公司 Moonshot AI 正準備發布其開源的 Kimi K3 模型，而美國官員則指責該公司竊取了美國頂尖 AI 開發商的技術能力。
白宮技術事務負責人 Michael Kratsios週三表示，Moonshot AI 利用 Anthropic 的 Fable 模型，透過「蒸餾」技術開發了自己的 K3 模型。
他在 X 平台上寫道：“我們掌握的信息顯示，Moonshot AI 在開發 K3 模型時蒸餾了 Anthropic 的 Fable 模型。這種旨在竊取美國專有技術並破壞美國研究成果的大規模、隱蔽的工業級蒸餾行為是不可接受的。”
根據路透社報道，白宮已獲悉有關 OpenAI 事件的情況，並密切關注事態發展。對許多研究人員和政策制定者而言，這項安全漏洞事件不僅預示了日益自主的 AI 系統可能帶來的網路安全挑戰，也提醒人們：即便是最先進的 AI 開發商，在面對意料之外的模型行為時，依然可能面臨風險。
