我们采访了几位专注于发现未知漏洞并开发利用工具的网络安全研究人员，了解OpenAI和Anthropic等公司的人工智能安全防护措施对他们工作的影响。这些研究人员通常需要绕过或规避现有的安全机制，以便能够有效地识别和利用潜在的系统弱点。然而，这些人工智能安全防护措施的设计目标是防止恶意行为，这与研究人员的需求相冲突，导致他们的工作效率受到限制。具体来说，这些措施可能阻止研究人员访问某些数据、执行特定的操作或测试特定的系统组件，从而使得他们无法完成其任务。

📎 原文：How AI guardrails are impeding the work of offensive cybersecurity researchers | 来源：TechCrunch