人工智能会制造网络安全的剑还是盾？

今天技术开发的资金和优先事项决定了明天数字战斗的地形，它们为攻击者和防御者提供了武器库。不幸的是，研究人员和战略家在哪些技术最终将是最有益的以及哪些弊大于利方面存在分歧。这份报告提供了三个例子，表明虽然技术的未来无法确定地预测，但有足够的经验数据和数学理论可以更严格地进行这些辩论。

执行摘要

网络安全是攻击者和防御者之间的一场持久战，他们试图利用技术进步来获得优势。这些技术的进步可以使天平有利于进攻或防守，而且事先并不总是清楚哪一方会受益更多。本报告说明了数学建模如何提供洞​察技术进步可能如何影响网络安全的几个领域：

1) 网络钓鱼，

2) 漏洞发现，

以及 3) 修补和利用之间的竞赛。我们演示了该方法并展示了它可以提供的见解类型。

网络钓鱼

对于攻击者来说，网络钓鱼已经是一种流行且有效的技术。不费吹灰之力，攻击者就可以向许多收件人发送通用消息，诱骗其中一小部分人打开受害者组织的大门。攻击者可以更加努力地针对单个目标定制信息并增加成功的可能性。今天，可以收集私人数据和写入的自动化系统令人信服地威胁着将这些喷雾式网络钓鱼活动的规模与鱼叉式网络钓鱼的有效性相结合。

在本报告中，我们考虑了向组织发送大量电子邮件如何增加了违规的机会，同时也增加了被组织的防御者发现的机会。我们发现，即使在网络钓鱼过程中应用人工智能 (AI) 会增加员工陷入网络钓鱼电子邮件的几率，攻击者可能会选择发送少量电子邮件以避免被发现——太少以至于人类可以自己编写它们。如果网络钓鱼检测技术也有所改进，则尤其如此。这意味着过去成为目标的组织可能不会经历自动网络钓鱼的巨大变化。迄今为止过于低调而无法引起攻击者兴趣的组织可能就没有那么幸运了，由于自动编写系统的可用性，可能会遇到高质量网络钓鱼攻击的增加。如果网络钓鱼活动针对大量此类组织，那么共享有关这些攻击性活动的威胁信息可能会变得比现在更有益。

漏洞发现

在检查漏洞发现过程中，我们发现计算机和人类发现漏洞的速度开始时很高，然后随着时间的推移而降低。在对此进行数学建模时，只有两个部分：一个描述漏洞发现的初始速率，第二个描述该速率降低的速度。对该活动进行建模表明，快速测试可以发现大部分或所有这些漏洞，以便可以修复它们，甚至可能在软件发布之前。但是，对于继续发现漏洞且发现率仅适度降低的测试人员，漏洞发现过程会持续更长的时间。更快的测试可能只是意味着有更多的漏洞可供攻击者使用和防御者进行补救。

修补和利用之间的竞赛

一旦发现新的漏洞，攻击者和防御者就会竞相修补系统或利用它们。在开发和分发漏洞之前，需要开发补丁并将其分发到世界各地的计算机。在本报告中，我们利用了与比赛这些不同阶段的历史延误相匹配的模型。

防御者通常会抢占先机，大约 80% 的漏洞在漏洞披露之日就已准备好补丁。即使他们没有这样的先机，补丁开发也往往比漏洞利用开发更快。这种领先优势和快速发展意味着从补丁开发的进一步发展中获得的收益有限。另一方面，由于各种原因，部署这些补丁在实践中通常要慢得多，因此帮助用户整合补丁的进步可以显着降低在给定时间易受给定漏洞影响的计算机的比例。

关于建模技术发展的结论

我们相信，这样的模型可以帮助指导投资和研究决策，以优先考虑可能产生最有益影响的技术。举几个例子，用于网络钓鱼的人工智能可能会增加对信息共享的需求，漏洞发现技术的目标应该是提高发现速度而不是创造力，补丁部署技术应该优先于补丁开发。然而，这些模型是高度不确定的，我们预计它们的主要好处可能不是任何具体的建议，而是具体化的假设。我们希望在数学上明确可以加速关于哪些假设最合适的辩论。

来源：https://cset.georgetown.edu/publication/will-ai-make-cyber-swords-or-shields/