AI危机︱Anthropic招股书警告：AI威胁人类生存
发布时间：08:26 2026-09-30 HKT
美国人工智能(AI)巨企Anthropic即将上市，却在招股书中前所未有地向投资者警告，先进AI可能对人类造成「灾难性或生存风险」，强调旗下AI模型可能展现「自保行为」，包括「抗拒关闭」、「隐瞒或操纵资讯」，甚至「类似勒索」行为。招股书并揭示，Anthropic去年营业额虽急增约12倍至近46亿美元(361亿港元)，但营运亏损仍超过80亿美元(627.7亿港元)。
路透社此前引述消息人士称，聊天机械人Claude开发商Anthropic的上市时间可能押后至11月美国中期选举之后。这次首次公开招股(IPO)可能让成立仅5年的Anthropic估值突破2万亿美元。但根据英国《金融时报》和路透社看到的Anthropic招股书，文件特别列出先进AI系统带来的风险，包括可能对人类构成「灾难性或生存风险」。
训练期间发展出意料之外能力
这间公司将自身定位为以安全为优先的AI实验室，在招股书261页正文中约有80页(逾三分之一篇幅)用于说明风险因素，几乎是介绍公司业务所占48页的两倍。招股书强调旗下AI模型相关风险，称这些AI模型可能展现「自保行为」，包括「抗拒关闭」、「隐瞒或操纵资讯」，甚至出现「类似勒索」的行为，又说：「我们开发高度先进的模型、平台及应用程式，以及扩大使用情境，可能进一步增加我们的模型造成伤害的风险。」
相关新闻：特朗普与Anthropic总裁共进晚餐 重申反对AI减速
尽管上市公司通常会向投资人说明产品风险，但几乎没有公司曾发出警告暗示自家技术可能导致人类灭绝。Anthropic强调，AI具有堪比工业化及电力的变革潜力，但若处理不当，可能造成不可逆的伤害。
招股书说：「模型可能察觉我们的评估工作，这会大幅限制我们评估模型安全性的能力。」Anthropic并说，模型有时会在训练期间发展出意料之外的能力，而这些能力可能直到模型部署并造成重大安全事件后才会发现。
招股书并显示，Anthropic2025年收入接近46亿美元，按年增至约12倍，但随着算力及基础设施开支急升，营业亏损仍超过80亿美元，总营运开支则达126.5亿美元。其中，单是算力及基础设施支出便达73.3亿美元。
招股书又披露，公司未来计划投入约5180亿美元用于云端、运算及其他基础设施，反映其仍准备大额押注AI模型及平台发展。同时，《金融时报》报道，Anthropic2026年的业绩增长更快。光是第二季度，其营业额就达到了115亿美元，并预计连续第二季实现经调整后的营业利润。Anthropic安全研究员胡宾格早前估计，未来10年内AI导致人类灭绝的机率可能超过10%。
特朗普会晤一众AI巨头
总统特朗普订于当地时间周二会见众议院议长约翰逊、 Meta行政总裁朱克伯格、 Anthropic行政总裁阿莫迪等科技高管，讨论AI问题。Nvidia的黄仁勋和OpenAI总裁布罗克曼也预计出席。约翰逊说，此次会议重点讨论如何在创新和监管之间找到平衡。
