AI末日论 | 针对人工智能风险 Anthropic创办人吁强制设「终止开关」

更新时间：10:25 2026-09-15 HKT
发布时间：10:25 2026-09-15 HKT

全球最大人工智能公司之一的Anthropic共同创办人克拉克（Jack Clark）提出，为了防止人工智能（AI）软件变得过于危险，可能必须强制企业设立一个可由第三方验证的「终止开关」（kill switch）。

由OpenAI前员工于2021年创立的Anthropic，目前正处于AI安全争论的核心。Anthropic行政总裁阿莫迪（Dario Amodei）日前也呼吁应放缓AI发展步伐，并进行更密切的监控，但他强调，任何约束行动都应在「不牺牲商业优势」的前提下进行。

Anthropic共同创办人克拉克。美联社

随著AI技术快速发展，相关企业高层与员工接连发出警告。路透社

由第三方验证「终止开关」

Anthropic的7名创办人之一的克拉克接受英国广播公司（BBC）访问时指出，包含Anthropic在内，目前多数实验室都有不同方式能「拔插头」（pull the plug）」，但社会大众最终可能会希望针对这类机制进行立法规范，而立法者可能需要强制业者具备这项功能。

他说：「你应该强制要求公司一定要有终止开关吗？这个终止开关能由第三方验证吗？我认为这是社会大众会想知道的事，最终可能会制定相关规则。」

针对AI消灭全人类的具体机率，克拉克回应表示，统计数据并不重要，但让AI继续作为一个「完全不受管制的产业」是个糟透了的主意，「我们正在拿巨大的风险掷骰子，重点是，我们必须改变这个产业的发展方向」。

为应对AI风险，美国国会议员已提出《终止开关法案》（Kill Switch Act），要求公司必须具备关闭有问题AI工具的方法，并赋予特定政府机构权力，要求关闭或限制某项工具。

在英国，政府最近则回绝了设立终止开关的想法，发言人表示，这「无法防止它们在其他地方被开发或滥用」。

最Hit

突发

2小时前

生活百科

20小时前

即时国际

2026-09-14 11:53 HKT

商业创科

6小时前

时事热话

3小时前

即时国际

15小时前

社会

5小时前

时事热话

2026-09-14 12:00 HKT

影视圈

12小时前

生活百科

18小时前