近日，根据联合国专家发布的一则报告引起不少网友热议。报道显示，在去年3月份利比亚发生的一场战斗中，由土耳其生产的“卡古-2”四旋翼无人机在没有操作人员操作的情况下，通过跟踪一群撤退的武装人员，自主做出“决定”主动对目标发起了攻击。

资料显示，该“卡古-2”无人机，重约6.8千克，最高时速能达到145公里，续航约30分钟，可携带1.36千克重的武器，拥有面部识别能力。最重要的是，该无人机若被设为“高效的自主模式”，则可以在没有操作员指令的前提下，实现目标瞄准且自爆。

无人机自主杀人，这是人类战争史上的首次，不少人认为，这有可能导致人工智能杀人这一“潘多拉魔盒”地打开。

实际上，随着近几年来人工智能的发展，自主武器在军事领域被广泛应用。

自主武器

如何定义自主武器呢？

人们一般将那种，激活后就无需操作人员进一步干预，可以独立自主地选择和攻击目标的武器系统，即在获取、跟踪、选择和攻击目标等‘关键功能’方面具有自主权的武器系统称之为自主武器。

目前广泛用于战场的军用无人机并不属于这个范畴。因为，虽然目前的无人机也增加了人工智能，但是大部分无飞机需要人类操作，没有“亲自手动”。自主武器系统则可以在没有外界指令和设备支持的情况下，在复杂作战环境中依靠人工智能系统独立做出开火决定。

实际上，目前人类完全有技术能力实现自主武器的研发，并且一些国家实际上已经开始了完全自主武器的研制及试制。

比如，英国研发的“硫磺石”导弹，只需给该导弹系统设置一个“杀伤范围”，它就会向该区域内的敌方目标发起自主攻击。又比如，韩国研发部署的武装机器人“哨兵”，可以自主识别、锁定目标，甚至拥有自主发起攻击的权限。

无疑，人工智能加无人机在军事领域有着极其优越的条件。

首先，人工智能拥有优越的自主情报分析能力。依靠大数据的加持，使得机器算法能够快速、准确，从而能够快速的识别目标并进行数据分析，从大量的数据中获取有价值的情报。

其次，人工智能拥有良好的自主指挥控制系统，人工智能可以根据战场情况及作战需求，及时调整作战指挥，从而提高了作战的灵活性及协同作战能力。

人类对自主武器的担忧

不可否认，人工智能目前给人类带来了无限的便利。然而，好莱坞的不少科幻电影也都曾展示过人工智能造反，从而奴役人类的场面。

或许受这些电影的影响，不少人都认为，从长远角度考虑，随着人工智能不断高速的发展，人工智能最终有可能获取自主意识，独立思考，从而脱离人类的控制。假如这种情况真的发生，那么，今后人工智能与人类发生冲突甚至奴役或者灭绝人类的事情也许不可避免。

实际上，不止普通大众，不少科学家也能提出过这种担忧，如英国理论物理学家霍金生认为，未来 100 年内人工智能将比人类更为聪明，机器人将有可能控制人类。无独有偶，特斯拉的CEO，马斯克也能做出过类似的判断。

同样，对于自主武器的研究，人类目前也有很大的争议。

在自主武器方面拥有技术领先地位的美俄等国家认为，自主武器具有人类士兵无可比拟的优越性。首先，自主武器能够使人与武器实现分离，从而达到人员的零伤亡。其次，自主武器系统不用考虑自身的安全，拥有快速的信息处理速度，武器的使用效率也大大提升。

有专家认为，未来拥有人工智能的自主武器将成为军事大国的“标配”，这无疑会进一步拉大各国军力的差距，甚至出现单方面“碾压”。

反对的人则认为，在战场上，没有人类 控制的人工智能可能会自作主张，滥杀无辜，进而加剧危机意外爆发和升级的风险。同时，在真实的战场上，可能存在大量的因素决定是否需要开火，但由于目前的算法技术不成熟，可能导致人工智能无法区分目标，因此可能存在识别错误。

从道德层面上讲，做出错误决定的责任问题也会变得模糊。另外，依靠计算机软件做出开火决定，必然就会有出错的可能。

实际上，人工智能基于错误的指令或出现软件错误从而误攻击人类的事件发生过不止一次。

2007年美军利用“利剑”机器人进攻一个武装据点，由于软件出现问题，其中1台将枪口对准了美军，操作人员在发出“行动取消”的指令后，失控的系统依然不听指挥，最后只能把它炸了。

同样，在美军的另一场军事演习中，高度自主的防空系统突然出现故障，导致美军防空火炮整体失控，即便操控员多次尝试关闭火炮自动发射装置，系统的关闭指令也已经失效，该事故造成美国多名士兵死伤。

鉴于自主武器的潜在风险，2018年7月，超过2400名科学家发表 《致命性自主武器系统宣言》。

承诺“将不参与也不支持致命性自动武器的开发、制造、贸易或使用”，并呼吁各国政府和政府领导人“利用强大的国际规范、法规和法律打击致命性自动武器”。

如何应对自主武器

不论你对自主武器的态度如何，自主武器将来肯定会越来越多地应用于战场，也许在不久的将来，网上那种微型无人机群杀人的视频会真的成为现实。那么，现在人类有能力预防这样的攻击吗？

我们就以目前的无人机“蜂群”加自主杀人技术为例，看看人类目前有何种有效的应对手段。

首先，目前应用最广泛、最成功的是电子干扰技术，通过电子战干扰、欺骗甚至控制操作系统。比如，无人机一般通过卫星信号导航、地面控制站控制的方法实现自主攻击，因此对卫星信号进行干扰、欺骗或干扰、压制对其进行控制的无线电信号，则可以很大程度上抵御这类无人机的攻击。

其次，是是发展、使用低成本、低附带损伤的硬杀伤武器。如果使用现有的防空导弹对付、拦截体积较小且价格便宜的无人机，无疑成本会很高。使用激光武器、小口径火炮则更合适，值得一提的是，目前近程反无人机的激光系统已经比较成熟。

最后，是对平台进行打击，也可以称之为打击“蜂巢”。由于小型无人机有限的航程，因此在实际作战中，需要一个大的平台进行投送。人类可以选择在平台释放无人机群之前将其击落，从而消灭“蜂群”无人机。