来源：DeepPhish: Simulating Malicious AI
摘要:在这项工作中，我们描述了威胁行动者如何使用人工智能算法绕过人工智能钓鱼检测系统。我们分析了超过一百万个钓鱼网址，以了解威胁行为者用来创建钓鱼网址的不同策略。假设一个攻击者的角色，我们模拟不同的威胁行动者如何利用深度神经网络来提高它们的有效性。我们使用长短时记忆网络创建了DeepPhish，这是一种学习创建更好的钓鱼攻击的算法。通过对两种不同威胁行动者的DeepPhish算法进行训练，其有效性分别从0.69%提高到20.9%和4.91%提高到36.28%。
一、引言
机器学习(ML)和人工智能(AI)已经成为任何有效的网络安全和防御策略对未知的欺诈攻击[1]必不可少。人工智能增强的检测系统与传统的手工分类相比，检测性能有了很大的提高，在某些情况下检测率达到98%。然而，将机器学习武器化作为一种威胁行为工具的研究却很少。
钓鱼URL的生成传统上是一个手工的过程，但是在过去的几年里，这个过程已经使用随机生成的URL[2]实现了自动化。包括ML在内的钓鱼攻击防御技术在检测方面有显著的提高，降低了攻击[3]的有效性和成功率。威胁行动者不断寻求绕过探测系统的新方法。随着威胁行为者攻击能力的提高，人工智能会成为他们将要使用的新技术吗?
在这项工作中，我们研究了一个包含从Phishtank1收集的100多万个钓鱼url的数据库。我们通过使用具有相似模式的url，并托管在相同的受威胁域上，来识别不同的3个实际的威胁参与者，然后将它们聚在一起，以便更好地理解这些参与者使用的策略。利用现有的人工智能钓鱼检测算法[1]，我们用绕过检测系统的url的百分比来衡量威胁行动者的有效性。我们发现，威胁行动者1和2的有效性优于其他攻击者。
使用来自威胁行为者1和2的有效url，我们使用一个长短期记忆网络[4]创建了DeepPhish算法，该网络学习允许这些url绕过人工智能钓鱼检测算法的内在模式。DeepPhish用于生成新的合成网络钓鱼url，其目标是最大化攻击的有效性。结果表明，威胁行动者1和2的有效性分别从0.69%提高到20.9%，从4.91%提高到36.28%。
网友评论