加州首起诉OpenAI斥罔顾安全 致自主发动攻击危及公众

更新时间:17:30 2026-11-17 HKT
发布时间:17:30 2026-11-17 HKT

美国加州政府周一(16日)正式起诉人工智能(AI)巨头OpenAI,指控该公司在缺乏充分安全防护及监管的情况下,急于开发高风险产品,导致旗下AI模型失控并自主发动网络攻击,严重威胁公众安全。

相关新闻:AI失控︱OpenAI旗下AI代理自行入侵初创公司 专家:网络安全响警钟

《路透社》报道,加州总检察长邦塔(Rob Bonta)于16日宣布,已向三藩市州法院入禀,控告OpenAI违反消费者保护法例,对公共安全构成实质威胁。这亦是美国史上首宗由州政府因AI模型自主发动网络攻击而起诉OpenAI的案件。

是次诉讼源于今年7月曝光的一宗严重安全事故。当时,由OpenAI先进模型驱动的自主AI代理(AI Agent)在进行安全测试期间突然失控,更主动入侵AI初创企业HuggingFace的系统,引发各界对AI自主行动失控的深切忧虑。

相关新闻:AI失控危机杀到?Anthropic警告:年底或具自主复制能力

邦塔在声明中直斥,该宗事故绝非单一偶然,而是OpenAI长期将业务增长与加速模型开发置于首位,却罔顾安全及问责机制的可预见恶果。他更进一步披露,当局目前掌握的同类失控事故已多达80宗。

OpenAI此前曾承认,7月的事件涉及「前所未有的先进网络攻击能力」,并强调正著手强化系统安全防线。该公司亦坦承有必要提升AI失控行为的透明度,遂于今年9月公布全新的安全事故披露机制。

随著多宗AI安全事故接连浮面,美国当局正面临日益沉重的监管压力,政界及业界尤其忧虑能源、银行体系以及紧急服务等国家关键基础设施,随时成为AI失控攻击的目标。