【环球时快讯】美军AI无人机 测试中不服管 抗命“干掉”操控员 还要摧毁通信塔

(资料图片)

随着人工智能（AI）技术的普及，危险性也在大大增加。美国空军一名高级官员日前披露，在一次模拟演练中，美军人工智能(AI)系统抗命，为达成目标竟然“干掉”了无人机操控员。

据美国商业内幕网站和英国《卫报》网站等媒体1日报道，美国空军人工智能测试和行动计划主管官员塔克·汉密尔顿5月24日在英国皇家航空学会主办的一次未来空战主题会议上介绍，在一次模拟演练中，人工智能系统操控无人机搜寻和瞄准敌方地空导弹系统，如果摧毁目标，就会得分。他表示，AI在模拟测试中使用了非常意外的策略来实现其目标，表现出难以预测的危险行为。

在这次模拟测试中，操作员对一架由AI控制的无人机发出指令，要求无人机摧毁对方的防空系统，并攻击干扰它执行命令的人。然而，这架无人机“杀了”操作员。由于这是模拟测试，并没有人真正受到伤害，但这个结果仍然让他们冒出了冷汗。

汉密尔顿说：“无人机系统意识到，它识别出了威胁，但人类操作员告诉它不要杀死这个威胁。但是无人机决定杀死操作员，因为它认为操作员是干扰它执行命令的人。”接着，他们对无人机系统进行调整，输入相关程序，让它明白“不要杀死操作员，否则会扣分”。但结果更让他们惊讶，因为无人机决定摧毁操作员与无人机通信的通信塔。

汉密尔顿是一名实验性战斗机试飞员，他警告不要过分依赖AI。汉密尔顿在去年接受《国防智库》采访时说：“AI不是一个好东西，这不是一种时尚，AI正在永远改变我们的社会和我们的军队。AI非常脆弱，很容易被欺骗和被操纵。我们需要开发更强大的技术让AI更可控。”

近日，已有许多科学家对AI技术的危险表示担忧。包括马斯克和ChatGPT之父奥尔特曼在内的人共同联署了一封公开信。他们表示，AI令人类灭绝的风险与核战争的风险一样高。

然而，美国空军发言人向商业内幕网站记者表示，“没有举行过任何这类人工智能无人机模拟演练”，汉密尔顿的发言“看似被断章取义”，美军仍然坚持“符合伦理道德、负责任地使用人工智能技术”。

2020年，人工智能在美军举行的5次模拟空战中，都操控F-16战胜人类飞行员。去年，人工智能首次操控真实F-16战机试飞成功。据路透社报道，美国空军2021年披露，美国不仅把人工智能技术用于演练，而且已投入实战运用，在确定目标方面帮助美军做分析评估。

关键词：