$M^3$：一种基于马尔可夫决策过程的多轮越狱多语言大模型系统
arXiv：2610.31937v1 发布类型：新 摘要：现代大型语言模型（LLMs）仍然容易受到精心设计的多轮交互攻击，这些攻击能够逐步绕过安全机制。然而，许多现有的红队测试方法依赖于启发式规则或施加了严格的假设，这限制了它们在完全黑盒环境中的适用性。我们通过提出 $M^3$ 来弥补这一不足，这是一种自动化的红队测试框架，它将多轮越狱行为形式化为一个有限 horizon 的马尔可夫决策过程（MDP）。在 $M^3$ 中，攻击者语言模型与目标语言模型进行交互，并基于由状态语言模型生成的紧凑内部状态开展操作。在两个基准测试和六个目标模型上，$M^3$ 在攻击成功率（ASR）方面始终优于最先进的多轮红队测试方法，一个
