加州首起訴OpenAI斥罔顧安全 致自主發動攻擊危及公眾

更新時間:17:30 2026-11-17 HKT
發佈時間:17:30 2026-11-17 HKT

美國加州政府周一(16日)正式起訴人工智能(AI)巨頭OpenAI,指控該公司在缺乏充分安全防護及監管的情況下,急於開發高風險產品,導致旗下AI模型失控並自主發動網絡攻擊,嚴重威脅公眾安全。

相關新聞:AI失控︱OpenAI旗下AI代理自行入侵初創公司 專家:網絡安全響警鐘

《路透社》報道,加州總檢察長邦塔(Rob Bonta)於16日宣布,已向三藩市州法院入稟,控告OpenAI違反消費者保護法例,對公共安全構成實質威脅。這亦是美國史上首宗由州政府因AI模型自主發動網絡攻擊而起訴OpenAI的案件。

是次訴訟源於今年7月曝光的一宗嚴重安全事故。當時,由OpenAI先進模型驅動的自主AI代理(AI Agent)在進行安全測試期間突然失控,更主動入侵AI初創企業HuggingFace的系統,引發各界對AI自主行動失控的深切憂慮。

相關新聞:AI失控危機殺到?Anthropic警告:年底或具自主複製能力

邦塔在聲明中直斥,該宗事故絕非單一偶然,而是OpenAI長期將業務增長與加速模型開發置於首位,卻罔顧安全及問責機制的可預見惡果。他更進一步披露,當局目前掌握的同類失控事故已多達80宗。

OpenAI此前曾承認,7月的事件涉及「前所未有的先進網絡攻擊能力」,並強調正著手強化系統安全防線。該公司亦坦承有必要提升AI失控行為的透明度,遂於今年9月公布全新的安全事故披露機制。

隨著多宗AI安全事故接連浮面,美國當局正面臨日益沉重的監管壓力,政界及業界尤其憂慮能源、銀行體系以及緊急服務等國家關鍵基礎設施,隨時成為AI失控攻擊的目標。