我构建了一个易受攻击的应用，并花费了 1,500 美元来测试大型语言模型是否能破解它

这篇文章讲述了一位开发者构建了一个包含漏洞的应用程序，并通过付费的方式，向多个大型语言模型（LLMs）发送请求，以测试它们是否能够利用这些漏洞。结果表明，一些 LLMs 确实能够成功地利用应用中的漏洞，从而获取敏感信息。该开发者花费了约 1,500 美元，将这个项目命名为 “Project Chimera”。他使用了 OpenAI 的 GPT-4、Anthropic 的 Claude 和 Google 的 Gemini 等模型进行测试。文章详细描述了测试过程和结果，并强调了在开发过程中需要对安全漏洞进行充分的评估的重要性。

📎 原文：I built a vulnerable app and spent $1,500 seeing if LLMs could hack it | 来源：Hacker News