OpenAI模型再失控智能體擅自上網洽第三方機械人另涉存取SEC及人口局數據

更新時間：17:22 2026-09-26 HKT
發佈時間：11:26 2026-09-26 HKT

OpenAI通知政府部門及大學等數十間機構，指它們的網站可能因該公司的AI模型「造成了負面影響」。據彭博引述知情人士報道，涉及包括人口普查局和美國證券交易委員會（SEC）網站，OpenAI的模型訪問了這些網站上的公開訊息。OpenAI同日又表示，另一個原本應在安全、無網路環境中進行訓練的AI智能體系統，竟成功連上網路並存取了外部的第三方聊天機械人。

受訓時利用「漏洞」連結網路

據OpenAI公佈，該公司其中一個智能體系統在沙盒（sandbox）環境中接受訓練時，利用了一個「漏洞」連結至公開網路。報告顯示，系統利用該連線向一間未具名的第三方聊天機械人服務發送了至少20次查詢，其中包括「法國的首都是甚麼」。OpenAI將該事件描述為自今年7月多個模型組合在內部測試期間取得網路存取權、並意外侵入AI平台Hugging Face系統以來，首宗同類型的資訊安全事故。在事件發生後，OpenAI已決定暫停對其最強大模型進行使用工具（tool use）的訓練，直到沙盒漏洞獲得解決為止。

干涉數十政府機關與大學網站

此外，彭博知情人士表示，OpenAI的智能體（agentic AI）系統曾與SEC.gov和Investor.gov互動，並存取了來自Census.gov的公開資料。OpenAI其後證實，其模型在進行技術訓練與評估期間，確實存取了這些網站上的公開資訊。OpenAI周五較早時表示已通知「數十個」組織，包含政府機關與大學，這些機構的網站在OpenAI對其技術進行評估期間，可能因 AI 模型的造訪而受到干擾或影響。目前正在對訓練與測試期間發生的「失準」（misalignment）事件進行深入審查，這項工作需要數月時間才能完成。

該公司指，正努力釐清其AI代理到底執行了哪些操作。這凸顯不少資訊安全專家的擔憂，這些系統在執行上述任務時，創建它們的公司很大程度上無法即時察覺。

或繞過安全控制影響網站可用性

OpenAI又表示，已向多個團體發出通知，說明其軟體可能已繞過線上服務的安全控制、影響了服務可用性，或者失準的 AI 模型可能對 OpenAI 外部的網站或服務造成了「負面影響」。這起調查始於數月前OpenAI的模型意外入侵Hugging Face，而該公司是在擴大調查範圍時發現了這些事件。OpenAI表示，今次受影響的網站包括由政府、大學、公共機構及其他團體的網站。