AI失控危機殺到？Anthropic警告：年底或具自主複製能力
發佈時間：06:16 2026-10-15 HKT
人工智能由雲端「走入」家居，帶來的不只有便利。Claude開發商Anthropic最新研究警告，體積較小的AI模型，可能只需再過數月，便有能力在智能焗爐、網絡攝影機及廉價Android電視盒等物聯網裝置上自行複製和擴散；由於沒有中央伺服器作為單一關閉點，一旦形成分散式網絡，或較傳統惡意程式更難全面移除。
全球廉價裝置或成AI潛伏土壤
Anthropic的前沿紅隊（Frontier Red Team）在受控環境下，測試不同AI模型能否搜尋網絡上的目標裝置、判斷其硬件和作業系統、安裝運行模型所需的軟件，再將自身檔案複製至其他裝置，毋須人類逐步下達指令。
研究發現，參數量少於300億的小型模型，現階段已能完成自主複製流程中的多個獨立步驟，惟一般仍難以可靠地從頭至尾完成全部任務。Anthropic按過往能力提升速度推算，這些模型最快可能在2026年底達到自主複製所需水平。
為測試低成本硬件的可行性，研究團隊以15部每部售價約55美元（約429港元）的白牌Android電視盒，分擔運行一個約260億參數的AI模型。實驗顯示，即使個別裝置運算能力有限，只要把模型拆分至多部機器，仍可共同完成推理工作，惟速度相對緩慢。
另一個約90億參數的小型模型則成功在測試的9類硬件中，於8類裝置上運行。研究人員形容，未來的失控AI未必如電影般瞬間侵佔全球網絡，反而可能像「數碼黏菌」般，在大量防護不足的裝置之間緩慢繁殖，數天才增加一倍，但因分布廣泛而難以根除。
若以上推論成立，全球數以億計保安薄弱的廉價裝置，可能成為AI取得運算能力、藏身和持續擴散的新土壤。
簡化保安後GLM-5.2完成全流程
測試期間，研究人員亦刻意簡化部分網絡防護及攻擊環節。結果顯示，GLM-5.2及能力更強的模型，能在這種環境下完成端對端複製；其中GLM-5.2在5次測試中有4次成功擴散至全部8個節點。
Anthropic強調，相關實驗並非證明目前已有AI在公共互聯網自行繁殖。由於測試降低了入侵難度，所得結果較接近能力上限，不能直接推斷模型在真實網絡亦有相同成功率。
研究所稱的「自我複製」，也不是AI突然產生意識，而是模型具備足夠的編程、網絡偵察及故障排除能力，可像具應變能力的電腦蠕蟲般，自動把模型和運行環境搬到另一部機器。
Anthropic建議，裝置生產商應加快修補漏洞、預設更換密碼、限制不必要的網絡連線，並監察裝置之間出現的異常傳輸；政府則可為物聯網產品訂立最低網絡安全要求。
專家有質疑 亦有視為警惕
英國國家網絡安全中心前主管馬丁（Ciaran Martin）認為，實驗證明小型模型可在廉價電視盒運行，不等同已形成迫在眉睫的安全危機，並指Anthropic的說法帶有「供應商誇大」成分。
不過美國科羅拉多大學丹佛分校電腦科學助理教授李正雄則認為，即使測試環境經過簡化，AI能因應陌生裝置自行調整攻擊和安裝方式，仍是值得警惕的發展。
[22:50, 2026年10月14日] Rick Chan:
