杀手机器人（Killer Robots）是本周在日内瓦举行的联合国会议的主要议题。

作为联合国裁军会议的一部分，参会国将于周五决定是否就禁止“自主杀伤性武器”展开正式讨论（已在三年前展开过非正式讨论）。

去年七月，成千上万的人工智能和机器人研究人员聚集在一起，共同发表了一封公开信，呼吁先行禁止这类武器。

我是那封公开信的组织者之一，今天，我在联合国会议上第三次呼吁禁止这类武器。

上图：Uran-9是俄罗斯推出的一款可远程操控的无人驾驶坦克，它可“循环”拉动扳机。许多观察员担心未来的人工智能武器将完全自主化，无需人工干预自主选择攻击目标。

我的理由很简单：如果不适时禁止这类武器，各国将展开军备竞赛。如果展开军备竞赛，人类最终将面临的是类似好莱坞电影《终结者》中描绘的反乌托邦式未来。

而进入反乌托邦式未来之前，这种自主杀伤性武器很可能落入恐怖分子和流氓国家的手中。这些人丝毫不会顾忌到人类的安全，甚至会用这些武器攻击人类。

这将不仅仅是机器人之间的对抗。当今的冲突是不对称的。

最有可能的是机器人与人类对战。因此，与一些机器人专家的观点不同——大多数人将不再是无辜平民。

这是个多么可怕而糟糕的未来。但我们不需要面对这样的未来。

全世界已决定不将科技武器化。我们已经禁止生物和化学武器。近期，又禁用了盲激光和杀伤性地雷等科技化武器。

虽然这些禁令不是百分之百有效，但有总比没有好。

当然，这些禁令并不是阻止相关科技的发展。现在医院里，“盲”激光已用于修复患者眼睛。但军火公司不会卖给私人盲激光，你也不会在任何战争中见到。

这同样适用于自主式武器。我们不会阻止在其他方面有积极用途（如无人驾驶汽车）的科技的发展。

但如果联合国颁布相关禁令，自主式武器将不会被用于战争中。这是件好事。

与盲激光一样，全球不太可能设置针对自主式武器的监管机构或检查制度。相反，如负面宣传、道德耻辱等微妙措施会更好地实施禁令。

诸如IEEE这类专业组织正着手规范这一领域。

本周早些时候，IEEE宣布了为自主系统开发人员制定道德标准的计划。计划中表示，自主式武器将破坏国际安全、导致意外的军事升级甚至战争、破坏战略平衡、甚至促使发动战争。

IEEE的报告给出了一些建议，比如这类武器的使用需在人类控制下。报告还表示，脱离人类控制以进行攻击或杀人的自主式武器的设计、开发或构建都是不道德的。

我曾经在公开场合谈论过这个问题，从公众的反应来看，世界上很多人都支持颁布这样的禁令。

上周，九个美国国会议员都给国防部长以及国防部写信，呼吁先行禁止这类武器。

任何的科技都具有两面性。我们需要尽快做出理智而有效的决定，让世界更美好。我祈祷联合国将在本周五迈出第一步。

Toby Walsh是澳大利亚新南威尔士大学的人工智能教授。