近日，联合国发布了一份关于2020年3月利比亚军事冲突的报告，指出土耳其STM公司生产的“卡古-2”型四旋翼无人攻击机在没有人工干预的情况下，自主攻击了哈夫塔尔指挥的“利比亚国民军”，可能造成一名国民军成员的死亡。

这是历史上首次记录到无人机在无人控制的情况下攻击人类的事件，引起了社会各界对人工智能和自主武器的关注。

机器自主杀人的担忧

随着人工智能技术的进步，其应用领域不断扩大，相关的争议也随之增加。从长远来看，许多人担心未来的人工智能可能会超越人类，脱离人类控制，甚至可能威胁人类的生存。不少学者表达了类似的担忧。例如，著名物理学家霍金曾警告说，人工智能在未来100年内可能比人类更加聪明，并可能控制人类。2013年，霍金与特斯拉CEO马斯克联合发表公开信，呼吁对人工智能的发展加以控制。

当前，军用人工智能主要集中在三个方面：自主情报分析、自主指挥控制系统以及自主武器。自主情报分析利用机器算法快速准确地识别目标，提取有价值的情报。自主指挥控制系统则可以根据战场变化动态生成作战指令，提高作战灵活性。而自主武器能够在不依赖外部指令的情况下，在复杂环境中独立做出决策，实现自主攻击。

尽管目前大部分无人武器仍然由远程控制中心操控，但全自主武器的研发已经取得进展。一些国家已经开始研发具备自主作战能力的武器。例如，英国的“硫磺石”导弹可以自主攻击目标，而韩国部署在边境的SGR-A1武装机器人也可以自主识别和攻击目标。

“两面开刃”的自主武器

自主武器的使用引发广泛争议。一方面，美国和俄罗斯等国认为，自主武器具有无可比拟的优势。它们可以大幅降低伤亡率，提高作战效率，并且不受情感影响，可以更理性地做出决策。因此，未来的“无人军团”将成为大国标配，加剧军力差距。

另一方面，联合国、国际红十字会等机构担心，失去人类控制的自主武器可能导致战争更加残酷，滥杀无辜。自主武器的算法可能存在盲区，难以区分合法与非法目标。此外，软件故障也可能导致意外伤害。因此，一些科学家呼吁禁止开发、制造和使用自主武器。

“卡古-2”无人机是“卡古”无人机的升级版，由土耳其研制。该无人机重约6.8千克，最高时速约145公里，续航时间约30分钟，可以携带1.36千克重的武器，并具备面部识别功能。在自主模式下，它可以自主攻击目标。此次事件表明，自主武器的使用可能带来严重后果，需要引起高度重视。