美空军力求提高人工智能自主驾驶的可靠性

　　据美国《防务内情》网站6月11日报道，美空军正在研究一种可以抵御对数据进行攻击的新型人工智能，从而使自主系统能够在未来竞争性战场环境驾驶无人机。
　　在近期米切尔研究所的活动上，空军采购主管威尔·罗珀（Will Roper）提出了R2D2项目的目标（R2D2意为向《星球大战》中的机器人致敬）。由于目前最复杂的人工智能仍然容易受到算法战的影响，在近期使用自主驾驶系统仍需配备专业的人员，因为人类具有识别不同模式、检测干涉意图的天赋。
　　罗珀解释说，目前的人工智能容易受到操纵。攻击者可以混淆卷积神经网络的网络数据，而使用人工智能算法在从情报图像提取特征来识别对象和位置时会使用这些数据。
　　为此，美空军正在投入各项研究，使人工智能能够做到万无一失，例如去年美空军与麻省理工学院共同启动的人工智能加速器项目。
　　“这项技术可能不会像我们希望的那样很快带来益处，所以我们不能等着它作为互联网的成熟技术出现，我们需要加快这一进程。”罗珀指出，这项研究也可以应用于非军方领域，比如无人驾驶汽车或快递无人机。
　　R2D2正在开发的算法集很可能会首先在“天空博格人”项目的低成本无人机上使用。但该算法与平台无关，并将随着时间的推移与更先进的系统集成。
　　罗珀表示，R2D2将为“AI飞行员”提供与人类飞行员相同的风险承担（risk-embracing）文化。就像人类飞行员一样，AI飞行员也需要不断重复才能做得越来越好。他希望能在模拟器中实现很多这方面的工作，在数字环境中进行快速学习，但预计仍会有一些东西必须在现实世界中学习。
　　R2D2可能会使得未来的部队结构更加依赖无人机，美军可以派出无人装备前去对抗对手的先进防御系统。
　　这就是五角大楼战略能力办公室“阿凡达”项目的愿景，该项目后来更名为“天空博格人”。罗珀认为，竞争性战场环境将具有挑战性和不确定性，因此首先让无人装备进入战场是十分有意义的。军方不需要把飞行员、传感器和武器都集成在一个平台上，而是可以分解这些任务并分别派向战场，包括可以作为决策制定者的人工智能。
　　罗珀认为，当军队在战争中取得领先优势时，将会有越来越多的受后方指挥的自动驾驶无人机出现在战场。而这样的应用情况也会越来越多。
　　由于人工智能还没有强化到可以抵御对抗性的数据攻击，R2D2仍需配备专业的人员。人类有一种天生的技能，可以发现什么东西在试图愚弄他们，而分析人员必须是更熟悉人工智能的人。罗珀希望，下一代飞行员能够像适应隐身技术一样适应人工智能，而天空博格人计划的第一步就是让飞行员确定何时能够信任人工智能。
　　目前，一些分析人员已经开始研究可以产生情报信息的人工智能的弱点。 （韩杨楠冰）