军事智能不能脱离人的控制

  原标题：军事智能不能脱离人的控制

  军事智能是人工智能的一个分支，无论多么前沿的军事智能，都是人类探索研究发明的结果，理应也必须始终受到人类的控制。而事实上，人工智能能否始终臣服于人类，一直备受质疑。美国著名科幻作家艾萨克·阿西莫夫在1942年发表的作品《我，机器人！》中明确提出“机器人三定律”，要求机器人忠于人类、保护人类，首次提出了对人工智能摆脱人类控制的担忧。实际上，人工智能发展到一定阶段，其能力确实大大超乎人类想象。比如观察分析能力、快速计算能力等，这些能力人类远不及人工智能。

  人类在探索研究人工智能的道路上也一直与自己的产品进行着智力较量。1997年5月11日，IBM“深蓝”击败国际象棋世界冠军卡斯帕罗夫，证明了在有限的时间里“计算”可以战胜“算计”，进而论证了人工智能的基本条件（假设），2016年、2017年的人机围棋大战，更加证实了人工智能的巨大“魔力”。在军事领域，从海湾战争到叙利亚危机，美国、俄罗斯都派出了高度智能化的战场机器人参与战争，这些机器人深入核心战区近距离侦察，自主分析战场情况，并将数据传输到后方的指挥部，辅助指挥员下达军事行动决心。

  加快军事智能化发展，提高打赢战争、遏制战争的能力，是各国追求的重要军事目标。我们看重军事智能，主要是因为军事智能化可以让作战能力产生倍增效应，实现这一目标的前提就是，军事智能必须接受人类的控制和指挥。有些人可能不解，人工智能还会不受人类控制？其实，这种可能确实存在。

  著名物理学家霍金曾预测：“人类在地球上的寿命将只剩下一百年。”这句话不是说一百年后人类就会在地球上消失，而是随着人工智能的发展，机器人将不仅仅是辅助人类的工具，还会在认知性任务的指挥和管控上取代人类。就是说，由于人类过度依赖智能机器人，或许将会变成人工智能产品眼里的“宠物”。美国海军分析中心研究分析师马约利·格林妮也曾表达过同样的担心：由于人类越来越依赖人工智能提高作战能力，人类对致命武器的影响将逐渐弱化，但致命武器的控制使用权限必须始终掌握在人类手中。人类再能“算计”，也算不过会“计算”的智能技术，智能产品一旦摆脱了人类控制，必然会给人类社会带来许多意想不到的麻烦。

  说到底，军事智能是为人类服务的，如果忽视或淡化人的作用，军事智能就有可能变成脱缰的野马。