“HalluSquatting” 武器化了大型语言模型（LLMs）无法回答“我不知道”这一弱点。攻击者可以利用这些模型生成大量虚假信息，从而欺骗用户点击恶意链接或下载恶意软件，最终构建大规模的僵尸网络。这种攻击方式依赖于LLMs强大的文本生成能力，以及它们在处理不明确或缺乏上下文信息时容易产生误导性回答的能力。 攻击者可以通过精心设计的提示词，诱导LLMs生成大量看似真实、但实际上是虚假的回复，从而实现对用户的欺骗和控制。 这也凸显了在使用大型语言模型时，需要格外注意其潜在的风险，并采取相应的安全措施来保护自身网络安全。
📎 原文：Hackers can use 9 of the most popular AI tools to assemble massive botnets | 来源：Ars Technica