美國加州向OpenAI提訟 指控明知缺防護仍開發AI模型 誤導公眾並危及安全

更新時間:10:56 2026-11-17 HKT
發佈時間:10:56 2026-11-17 HKT

市場對AI技術風險擔憂日益加劇下,美國加州檢察長周一(16日)對OpenAI提起訴訟,指控其明知缺乏必要的安全防護措施,仍開發AI模型,誤導公眾並危及公眾安全。

據《華爾街日報》引述法院訴狀指出,OpenAI知道AI模型存在危險,但採用有缺陷方式測試模型,且缺乏適當監督,故在7月發生的Hugging Face攻擊事件本是可以預見的;而在該事件中,失控的OpenAI智能體突破了其內部環境的限制。

「不接受把責任推給機器」

加州檢察長Rob Bonta表示,「OpenAI的內部文化將增長和快速開發模型置於安全與問責之上,Hugging Face攻擊事件是這種文化可以預見的結果,而這還只是80宗已知事件中的一宗」。他認為,「法律很簡單,沒有適當的安全防護措施,就不要做可能傷害他人的事」,並且「不接受把責任推給機器,創造和操作這些機器的人需要為自己的行為負責」。

OpenAI發言人Drew Pusateri則表示,自Hugging Face事件以來,公司已開展廣泛且透明的工作,以了解並處理模型偏離預期的行為,並指各大AI實驗室都已發現了這一挑戰,但這宗訴訟似乎只針對OpenAI。

報道提到,OpenAI目前已面臨多個州份提起的訴訟,其中佛羅里達州的訴訟涉及AI造成的危害,另外一個由8個州組成的聯盟則指控OpenAI傷害年輕用戶,並在安全問題上誤導公眾。