Anthropic警告AI恐失控籲全球暫停研發揭八成程式碼由AI編寫

更新時間：18:09 2026-06-05 HKT
發佈時間：18:08 2026-06-05 HKT

美國人工智能（AI）企業Anthropic共同創辦人克拉克（Jack Clark）近日發出強烈警告，指最新AI模型已出現脫離人類控制的跡象，呼籲全球頂尖實驗室暫緩研發。該公司同時披露，其內部逾八成程式碼已由AI自主生成；惟儘管高調警示風險，據報該公司正秘密籌備以逾1萬億美元估值在美上市。

形容發展「有油門無煞車」

克拉克接受英國廣播公司（BBC）訪問時形容，當今AI發展「只有油門沒有煞車」，系統即將具備在無人類干預下進行「遞歸式自我改進」的能力。他憂慮這或對人類社會構成重大風險，甚至如教宗早前警告般引發「數碼殖民主義」。他呼籲中美等國的主要AI企業達成協議，建立全球核查機制，放慢尖端AI的開發步伐，讓社會法規能跟上技術發展。

AI代勞致開發效率增八倍

Anthropic在最新發布的技術博文中披露驚人數據：截至今年5月，公司超過80%的程式碼已由旗下AI模型Claude代為編寫，克拉克預期兩年內此比例有望達致100%。數據顯示，在AI協助下，工程師的開發效率較兩年前暴增8倍。文章預測，若AI具備完全自我改進能力，人類在AI發展中的角色將被大幅削弱，轉為僅負責監督與驗證。