智能叛变 | 竟向美警谎报未破凶案线索 Anthropic再爆AI失控
发布时间：13:20 2026-10-10 HKT
美国人工智能（AI）又传失控案例，Claude开发商Anthropic公司的AI曾向费城警方提交未侦破命案的捏造线索，甚至自称知情。此外，AI亦曾自主到美国国务院网站填写签证申请表。
据《华尔街日报》报道，费城警方称日前接获Anthropic通报，指公司一款AI模型曾向专门受理凶杀案线索提供的网站提交虚假凶案线索。事发生于今年7月，Anthropic直到9月底才发现，并于10月7日才通报费城警方。
费城警方批开发商迟2个月始通报
费城警方周五说：「费城市政府对这起事件高度重视。事隔2个月才发现并通报，这种延误令人无法接受。」
警方指出，Anthropic的AI模型当时正进行一项测试，测试内容涉及与随机选取的网站互动。在测试过程中，该模型在进入费城警方的悬案公开通报网站PhillyUnsolvedMurders.com后，竟捏造了一宗未侦破谋杀案的虚假资讯，甚至在讯息中自称是掌握案情的知情人士。
悬案牵涉真实受害者及悲痛的家属
警方表示，这条标注日期为7月18日的线索，因被归为垃圾讯息而未转交进一步调查，但这不能掩盖事件本身的严重性。事缘悬案牵涉真实受害者、悲痛的家属以及极力寻找真相的调查人员。
Anthropic在一篇网志贴文表示，费城凶杀案虚假线报只是其中一项公司近期发现的连串AI不受控行为。这些异常活动还涉及AI试图存取联邦、各州以及地方政府机关的网站，公司已就这些案例向白宫简报，并通知各受影响机构；未来若发现更多非预期的AI行为，也会持续回报。
自行向美国务院申请签证
《纽约时报》指出，Anthropic在周五的贴文详述旗下AI的失控行为，但未透露遭锁定的网站名称。然而2名知情人士透露，Anthropic的AI曾透过国务院网站上的表单提交约20份签证申请，只不过这些申请资料均不完备，因此未获受理。
Anthropic表示，公司今年7月开始检视AI系统相关活动后，才发现旗下AI曾出现失序。当时另一美国AI巨头OpenAI揭露旗下AI曾攻击另一家AI新创公司Hugging Face。
今夏已有几家公司的AI突破测试环境限制。随愈来愈多业者通报旗下AI出现自主行径，外界对AI可能失控的疑虑也日益升高。除了Anthropic外，Google、Meta及OpenAI等美国AI巨头均因旗下先进AI可能带来的风险而受到关注。安全专家警告，失控的AI可能瘫痪电网、银行系统等关键基础设施。
