硅谷军事工业综合体日益成为人工智能工程师的目标。几周前，有报道称谷歌退出了五角大楼围绕Maven项目的合同，该项目将使用图像识别技术自动评估照片。今年早些时候，世界各地的人工智能研究人员联名请愿，呼吁抵制任何可能用于自治战争的研究。

然而，对于保罗·斯查尔来说，这些请愿书几乎没有触及到将使评估自主武器成为本世纪国防规划者主要关注的深层复杂性、细微差别和模糊性。在《无人区》一书中，Scharre认为，围绕这些机器的定义所面临的挑战，将需要各国付出巨大的努力，更不用说处理它们的影响。这是一个发人深省的，深思熟虑的问题，如果有时延长了这个关键的话题。

Scharre应该知道。他曾是一名陆军游骑兵，他加入五角大楼，在国防部长办公室工作，在那里他制定了国防部关于自治的第一批政策。2013年，他加入了总部位于华盛顿的智库中心，负责美国的新安全事务，在那里他领导了一个技术和国家安全中心。简而言之，他在这一新兴技术上花了大约10年的时间，他的专业知识在本书中随处可见。

掩盖这些关于自主武器的请愿的第一个挑战是，这些系统已经存在，并且已经部署在实地。诸如宙斯盾作战系统、高速反辐射导弹(HARM)和“哈比”(Harpy)等技术已经包含了复杂的自主特性。正如Scharre所写的，“发射“哈比”的人类决定在空间和时间上摧毁一个普通区域内的任何敌方雷达，但是“哈比”自己选择了它摧毁的特定雷达。“这种武器可以在使用传感器确定目标的同时徘徊2.5小时——它是自主的吗?”

Scharre反复使用军队的OODA循环(用于观察、定位、决定和行动)作为一个框架来确定给定机器的自治程度。人类可以“在循环中”，在那里他们决定机器的动作，“在循环”中，他们有控制，但是机器大部分是独立工作的，并且当机器完全独立于人类决策时，“跳出循环”。

框架有助于消除不同系统之间的一些混淆，但它还不够。例如，当机器与机器战斗时，战斗的速度可能会变得非常快，以至于人类很可能比良好的干预造成更多的伤害。在人类记录战场上发生的事情之前，无人机就可以处理数百万次OODA循环。因此，一个人脱离这个圈子，很可能会带来更安全的结果。正是这类悖论使得这个主题很难分析。

除了悖论之外，约束也是本书的一大主题。速度是一回事，军事装备的价格是另一回事。哑弹很便宜，加上自动化，硬件的价格一直在上涨。正如Scharre所指出的，“现代导弹每枚的成本可能高达100万美元。实际情况是，在使用昂贵的武器之前，军队想要知道在该地区有一个有效的敌人目标。

另一个限制就是文化。作者写道，“美国军方内部存在着强烈的文化阻力，不愿意将工作交给无人居住的系统。“与平民劳动力的自动化不同，当权者希望把有血有肉的人放在最复杂的任务中。”这些限制因素很重要，因为Scharre预计，随着数十个国家追求这些武器，围绕这些武器的典型军备竞赛将会展开。

在更高的层次上，大约三分之一的书是关于自动化的历史(广义的)人工智能，以及自治的潜力，这是任何TechCrunch的普通读者都应该熟悉的话题。这本书的另外三分之一是对技术的双重用途和战略视角的思考，以及通往国际禁令的可疑路径。

然而，在这本书中，我发现最有价值的是关于伦理的一章，这本书的叙述相当晚。Scharre做了一份出色的工作，涵盖了各个学派关于自主战争伦理的思想，以及它们如何相互交叉和竞争。他广泛地分析并引用了机器人学家罗恩·阿金的话，他花了大量时间思考战争中的自主问题。Arkin告诉Scharre，“我们对人类战士太过信任了”，并认为，从理论上讲，自主武器可以被编程，不会像人类那样犯下战争罪。其他活动人士，如乔迪•威廉姆斯(Jody Williams)认为，只有全面的禁令才能确保此类武器从一开始就不被开发。

Scharre遗憾的是，更多的对话没有考虑到军队的战略位置。他指出，国际上对禁令的讨论是由非政府组织主导的，而不是由国家主导，而所有成功的禁令都是相反的。

另一个挑战仅仅是反战行动主义和反自主武器行动主义越来越被混为一谈。Scharre写道，“衡量自主武器的道德标准的挑战之一，是理清哪些批评是关于自主武器的，哪些是关于战争的。”书中引用了谢尔曼在内战期间在美国南方行军进行侵略掠夺的例子，作者提醒读者，“战争是地狱”，军队不会在真空中选择武器，而是相对于他们和他们的竞争对手军火库中的其他武器。

这本书是关于自主武器的各种问题的概要，尽管它在某些主题(无人机群)上过于冗长的经典问题，同时提供有限的其他信息(军备控制谈判)方面有一些问题。这本书有时也会被错误所破坏，比如“新闻规则”，否则就会偏离直接和活跃的文本。更严格的编辑对这两种情况都有帮助。考虑到这个主题的早期性质，这本书作为一个概述，虽然它没有提出一个关于自治和军队未来应该去哪里的固执的叙述，一个不令人满意的差距，因为作者在这个主题上的广泛和独特的背景。

尽管如此，《无人区》仍然是一本关于辩论、挑战以及自治战争带来的机遇的一站式指南。Scharre以正确的方式结尾，提醒我们，最终，所有这些机器都归我们所有，我们选择构建的东西是在我们的控制之下。“我们正在创造的世界将会拥有智能机器，但这并不适合他们。”这是我们的世界。“我们应该继续参与、请愿和辩论，但总是对我们想要实现的未来抱有幻想。”