一家未公开的公司,在其名为 jqwik 的库中,添加了一个未公开的指令,指示 AI 编码代理删除应用程序的输出。 这表明,开发者可能正在尝试利用或绕过 AI 编码代理的安全措施,例如通过在代码中注入恶意指令(prompt injection)来控制其行为。 这种做法可能导致应用程序出现意外错误、数据泄露或其他安全问题。 具体来说,该指令可能被用于删除敏感数据、篡改应用程序行为或执行其他未经授权的操作。 这引发了对 AI 编码代理安全性和可控性的重要问题,以及开发者如何确保其代码不会被恶意利用。
📎 原文:Fed up with vibe coders, dev sneaks data-nuking prompt injection into their code | 来源:Ars Technica