联合国报告：史上首次，一军用无人机自主攻击人类

　　据英国《独立报》5月31日报道，一份联合国安理会最近的报告称，一架军用无人机在没有接到任何指令的情况下自主对人类发起袭击，这或为历史上首次。

　　在不断的预警声中，这一幕科幻电影里的场景最终在真实的世界里发生了。有人忧心忡忡——现实版“终结者”真的来了吗？

　　▲电影《终结者2》中的T-800终结者机器人。图据法新社

　　【联合国报告】

　　撤退部队遭无人机追捕及远程攻击

　　涉事无人机具备自主攻击能力

　　据悉，这一令人震惊的事件发生于2020年3月。

　　当时，利比亚政府军与利比亚国民军司令哈夫塔领导的军事势力发生冲突之际，一架土耳其军事科技公司STM生产的“Kargu-2”型无人机在未接到任何指令的情况下，袭击了利比亚哈夫塔尔国民军阵营的撤退士兵。

　　联合国相关报告中写道：“后勤车队和撤退的哈夫塔部队随后遭到无人驾驶作战飞机或STMkargu-2等致命自主武器系统的追捕和远程攻击。”

　　《独立报》援引STM公司介绍，“Kargu-2”是一款多旋翼无人机，重15磅（约6.8千克），最高时速约90英里（145公里），续航时间约30分钟，可携带3种1.36千克的重弹头——破片杀伤弹头，用以对付人员和轻型车辆；温压弹，用以对付建筑物和掩体；成型装药弹头，用以对付装甲目标。

　　▲土耳其军事科技公司STM的“Kargu-2”型无人机。图据《独立报》

　　这款无人机配备激光雷达、可见光相机和红外夜视仪，使用基于机器学习的对象分类来选择和攻击目标。“Kargu-2”型无人机还配有炸药、敌方辨识系统及面部识别能力，可以寻找特定的个人，是为“反恐和不对称战争场景”而设计的。

　　STM公司CEO伊肯奇称，这款无人机可人工控制，士兵可从6英里（9.7公里）外控制无人机发动攻击。也可以预设航线自主飞行，自主定位、跟踪和识别目标。这意味着，在操作员未下达指令的情况下，“Kargu-2”确实具有自主攻击的能力。

　　此外，这款无人机还可利用摄像头和其他传感器通过地标导航，而不依赖GPS。而且，它们还具有群集能力，可以20架为一组进行协同作战。

　　联合国专家在报告中写道：“这种致命自主武器系统被编程为攻击目标，不需要操作员和弹药之间的数据连接：实际上是一种真正的‘开火、遗忘和发现’能力。”

　　▲“Kargu-2”型无人机的宣传视频截图。图据《原子科学家公报》

　　专门研究无人机的美国马里兰州国家恐怖主义与反恐研究联盟（START）安全顾问扎克·凯伦伯恩称，如果有人在袭击中丧生，这可能是历史上已知的首个人工智能（AI）自主武器杀人的案例。

　　美国芝加哥大学《原子科学家公报》在报道中称，在这份长达548页的报告中，联合国安理会利比亚问题专家小组并未详细说明此次事件是否造成了人员死亡，但却指出，致命的自主武器系统导致了PantsirS-1地对空导弹系统的重大伤亡。

　　【机器人及AI专家】

　　致命自主武器有风险

　　全球禁止致命自主武器或为时已晚

　　联合国专家还在报告中明确提出了一个问题，即全球禁止致命自主武器的努力是否或已成徒劳。

　　过去，众多机器人及AI研究人员，以及埃隆·马斯克、史蒂芬·霍金和诺姆·乔姆斯基等其他知名人士，都曾呼吁禁止“攻击性自主武器”，比如那些有可能根据其编程搜索并杀死特定人员的武器，称它们“无法区分平民和士兵”。

　　▲在一场“禁止杀手机器人”示威活动中，人们呼吁禁止所谓的致命自主机器人。图据法新社

　　专家警告称，值得引起国际社会关注的是，“Kargu-2”使用了基于机器学习的决策，其武器操作是基于软件的算法运行，并通过大型训练数据集学习，如分类各种对象等等。其计算机视觉程序可以通过训练来识别校车、拖拉机和坦克。但如果用于训练的数据集不够复杂或强健，就可能导致人工智能（AI）学到错误的“课程”。

　　据《原子科学家公报》报道，在一个真实案例中，一家公司计划使用AI系统来做出招聘决定。然而，管理人员却惊讶地发现，AI系统认为，对求职者来说最重要的求职要素是——名叫“贾里德（Jared）”以及“在高中打过长曲棍球”。但如果是“Kargu-2”这样的自动武器犯了类似的错误，结果可能就让人笑不出来了。

　　START安全顾问凯伦伯恩表示，自主武器开发人员需要预见到可能导致机器学习系统做出错误决定的复杂性。AI学习的“黑盒子”特性，即AI系统决策过程通常是不透明的，增加了额外的挑战。他们认为，这构成了一种真正的风险，即如果完全自主的军用无人机执行错误目标，其原因可能难以解释。

　　他还指出，当几架无人机进行通信和协调行动时，比如在无人机群中，出现问题的风险更大。“沟通会产生级联错误的风险，即其中一个单元的错误会被另一个单元共享。”

　　红星新闻记者徐缓

　　编辑李彬彬

　　延伸阅读

　　奢侈，美军欲退役全球鹰无人机，世界最先进无人机说不要就不要

　　说起无人机，最早进入该领域的美国人有着更为深厚的功底。美国研究开发的战略战术无人机在业界都是驰名品牌。尤其是去年纳卡冲突之后，当人们发现无人机在战争中的真正作用时，无人机领域一下子更加热闹了。科技强国加紧研究，没这个能力的也就加紧采购。当一些国家正在因为没有早在无人机领域布局而苦恼时，美国却要退役他的无人机，而且这款无人机还是价格高昂的全球鹰。

　　一、空军提出退役全球鹰无人机，目的何在？

　　美国空军高级官员近日表示，美国空军将会继续推动其老式的RQ－4全球鹰无人机退役，此话一出，就立刻引起全球媒体的关注，各种猜测纷纷而来。总的来说，主要有以下几种观点，一是全球鹰无人机已经到了美国无人机15到20年的使用寿命极限。二是该款无人机曾经在2019年被伊朗击落过，可能造成数据平台泄密。三是新的功能更为强大的该类机型得到了军方的青睐。四是有可能开发商在背后推动

　　▲价格昂贵，连美军也没有多少架

　　二、全球鹰无人机在无人机领域的地位是怎样的？

　　这款无人机是由诺斯罗普格鲁曼公司研制的，主要分为空军版和海军版，空军版称之为全球鹰，海军版称之为海神。全球鹰无人机堪称是最昂贵的无人机，单机的价格超过了过亿美元，比第五代战机F35价格还要贵。不过高价值的背后是高能力，全球鹰可以说是目前全世界最先进最庞大的无人机，其体型几乎与民航的大型飞机差不多，起飞重量达到了14吨，这意味着它可以带更多的装置和设备。在航程上，最大可达22000公里，具有非常强大的滞空能力。在侦查能力上，格鲁曼公司为其配备了综合监视与侦察传感器系统，外加合成孔径雷达和可见光以及红外照相机，使其侦测范围达到了十万平方公里，航行时间可达30个小时，这些先天优势使得全球鹰毫无疑问的成为美国全天候长时空侦察的利器。到目前为止，全球尚无一款无人机的性能能与其匹敌。

　　▲全球鹰的夜间侦查能力也极其出色

　　三、纳卡冲突无人机应用对美军的触动

　　其实早在上世纪，美苏等国家对于未来战争的预想中，无人装备就是重要的发展方向。他们也是最早投入发展无人机的国家，由于前苏联的崩溃，使得俄罗斯在这个方面出现了断层。而美国经过数十年的不断研究和验证，可以说是硕果累累，在这方面一直走在世界的前列。但比较可惜的是，长剑在手，却难寻敌手。伊拉克战争、阿富汗战争中对手虽然难缠，但美国一直把其定义为治安战，很难发挥出美国军力的整体能力，无人机成系统的进行战争检验始终难以实现。发展到最后，美国竟将无人机用作了暗杀武器，比如伊朗苏莱曼尼将军就是死在无人机的精确制导打击上的。不过，令人比较意外的是，这种愿望竟然在亚美尼亚和阿塞拜疆这两个三流小国身上实现了。虽然两国的无人机相对比较简陋，但用于正规战整体对抗确实让人眼睛一亮，即便是美国也不例外。美国全球鹰的退役很可能也与那卡冲突有关系。由于其他国家的追赶，全球鹰虽然目前最先进，但这种技术的差距在缩短。要保持先进，只能进行产品的迭代，使用更先进的技术来保持优势，全球鹰退役的同时美国也肯定会拿出更先进的无人机，而这一机型据传很有可能是RQ－180。

　　▲网上流传的RQ－180，不过美军一直不承认它的存在

　　四、五角大楼与国会的分歧，谁又会是赢家？

　　不过空军提出这一申请确实不是时候，受疫情的影响，美国2020年经济萎缩达到了3.5%，是一个不小的衰退，为了重振经济，拜登提出了万亿基建计划，用钱的口子开的很大，美国只能开闸放水。新的无人机项目又是一笔大开销，在目前全球鹰还是最先进的情况下退役，美国国会那帮人肯定不会理解，产生分歧也就在所难免。五角大楼与国会肯定要经过多番交锋，从目前的情况来看，在军方和开发商的联合工作下，国会很有可能会放行。届时，新的侦查无人机量产会使美军侦查能力更上一层楼。