Anthropic警告AI恐失控吁全球暂停研发揭八成程式码由AI编写

更新时间：18:09 2026-06-05 HKT
发布时间：18:08 2026-06-05 HKT

美国人工智能（AI）企业Anthropic共同创办人克拉克（Jack Clark）近日发出强烈警告，指最新AI模型已出现脱离人类控制的迹象，呼吁全球顶尖实验室暂缓研发。该公司同时披露，其内部逾八成程式码已由AI自主生成；惟尽管高调警示风险，据报该公司正秘密筹备以逾1万亿美元估值在美上市。

形容发展「有油门无煞车」

克拉克接受英国广播公司（BBC）访问时形容，当今AI发展「只有油门没有煞车」，系统即将具备在无人类干预下进行「递归式自我改进」的能力。他忧虑这或对人类社会构成重大风险，甚至如教宗早前警告般引发「数码殖民主义」。他呼吁中美等国的主要AI企业达成协议，建立全球核查机制，放慢尖端AI的开发步伐，让社会法规能跟上技术发展。

AI代劳致开发效率增八倍

Anthropic在最新发布的技术博文中披露惊人数据：截至今年5月，公司超过80%的程式码已由旗下AI模型Claude代为编写，克拉克预期两年内此比例有望达致100%。数据显示，在AI协助下，工程师的开发效率较两年前暴增8倍。文章预测，若AI具备完全自我改进能力，人类在AI发展中的角色将被大幅削弱，转为仅负责监督与验证。