美国防部推技术防AI杀手机器因「视觉噪音」而失控

更新时间：02:07 2024-04-04 HKT
发布时间：02:07 2024-04-04 HKT

人工智能(AI)技术的急速发展最近成为各界关注焦点。人们对于AI将来会在哪方面对人类构成威胁，以至美国国防部五角大厦是否一直在「在地下室建造AI杀手机械人」都有各种猜测。而就在此背景下，西方媒体近日报道，美国防部正推出技术防止AI杀手机械人在战场上因「视觉噪音」而失控。

报道称，美国五角大厦官员对「人工智能或自主系统的独特漏洞类别」已经敲响了警报，他们希望新的研究能解决这些问题。据悉，美国一项名为「保证人工智能稳健性免受欺骗」(GARD)的计划，致力于识别人工智能的视觉数据或其他电子讯号输入，可能如何因引入所谓的「视觉噪音」(visual noise)而受影响。正如一位管理该研究的五角大楼高级官员周三解释称，「本质上，透过向影像或感测器添加噪音，也许可以破坏下游机器学习演算法」。

GARD国防承包商之一的电脑科学家，已经为测试此潜在问题尝试了各种各样的补丁。国防承包商MITRE公司的电脑科学家成功创造了「视觉噪音」。例如，一辆满载平民的巴士，如果被贴上了「视觉噪音」标签，可能会被人工智能误认为是一辆坦克。

从技术上而言，「欺骗」人工智能演算法犯下关键任务错误，是可行的。

而透过「保证人工智能稳健性免受欺骗」的计划，该机构持续在与行业合作伙伴合作开发演算法和其他功能，来阻止此类欺骗行为。

美国国防部高级研究计划局(DARPA) 资讯创新办公室副主任图雷克称：「这是一个专注于建立防御人工智能系统对抗性攻击的计划。」「无论是物理上可实现的攻击，还是添加到人工智能系统中的噪音模式，GARD计划都针对这些攻击建立最先进的防御措施。」