生成式人工智能助力网络钓鱼
长期以来,一个拼写错误或笨拙的措辞就足以揭穿一封钓鱼邮件。这一线索正在逐渐消失:生成式人工智能工具如今能够撰写无懈可击、个性化的消息,有时还附带可信的伪造文件。这在实际中改变了什么,以及为什么这会把分析工作从文本转移到基础设施上。
明显错误的逐渐消失
语言模型默认就能写出语法正确的文本(任何语言皆可),诈骗者无需特别费力。历史上的线索——蹩脚的机器翻译、奇怪的措辞、语法一致性错误——正变得越来越不可靠。这不是说这些信号在所有地方都已消失:粗制滥造的活动依然存在。但已不能再将其作为主要判断标准。
借助 OSINT 实现的个性化消息
OSINT(开源情报,Open Source Intelligence)指的是收集已公开的信息:一个显示职位和公司的领英资料、一份提及正在进行项目的新闻稿、一个揭示习惯的社交网络。结合生成式人工智能,这些信息可以用来撰写一条引用正确姓名、正确部门,有时甚至是真实同事姓名的消息——无需任何数据泄露,只需大规模自动化的公开搜索。
批量生产的伪造文件
发票、身份证件、银行对账单、合同:同样的工具能够生成视觉上令人信服的文件,并适配目标公司的视觉形象。与个性化邮件相结合,它们在不需要任何特殊图形技能的情况下,增强了整体的可信度。
活动的自动适应
除了最初的消息之外,一些工具还允许在活动进行过程中进行调整:重新措辞点击率低的消息、根据目标行业调整语气、生成变体以避免同一文本一旦被检测到就成为整个活动的特征标志。
为什么仅靠内容分析已变得不足
如果一条消息已没有错误、语气拿捏得恰到好处、伪造文件也令人信服,那么在文本中寻找线索就成了一场越来越不可靠的赌注。一个匆忙的读者,即使有所警觉,也完全可能在简单阅读时察觉不到任何异常。继续只依赖消息的风格来判断,恰恰是在诈骗者投入最多的地方放松了警惕。
而基础设施依然难以隐藏
人工智能可以生成完美的文本,但无法抹去独立于消息存在的技术痕迹:域名的真实注册时间、托管商的身份、发送服务器的 IP 地址,或邮件头的内容(参见如何拆解这些信息)。这些要素并不取决于消息的撰写质量:它们属于完全不同的层面,生成式人工智能无法操纵这一层面。
这更多是一种平衡的转移,而非全新的事物:对基础设施的技术分析一直以来都是最可靠的行动方式,即便在文笔拙劣的年代也是如此。它如今只是变得不可或缺,而在过去它只是一种良好的补充做法。
从可疑消息到举报
面对一条看起来写得太好而让人生疑的消息,需要问的问题不再是"措辞是否可疑?",而是"这条消息究竟来自哪里,又指向何处?":哪个 IP 发送了这封邮件,哪个域名承载着链接,谁能对此采取行动。正是从消息到基础设施再到举报的这条路径,是一份可操作举报的构成所涵盖的内容。
- 生成式人工智能消除了曾经暴露网络钓鱼的错误和不一致之处。
- OSINT 使得无需事先泄露数据即可实现个性化消息(姓名、职位、语境)。
- 可信的伪造文件可以自动生成并伴随消息一起出现。
- 消息的内容本身已不再是可靠的线索:基础设施(域名、IP、托管商、邮件头)依然是最坚实的痕迹。
Baitback 正是基于这一原则:与其根据风格判断一条消息,工具直接分析其基础设施——邮件本身、邮件头、链接——以找出无论文本质量如何都能真正采取行动的人。