Redwood Research:Blog· Redwood Research:Blog(RSS)·· 4 小时前AI 评分31
Redwood Research 发布 Screwtape 管线,通过对抗性转录编辑测试监视器盲点
AI 导读
Redwood Research 推出 Screwtape 管线,通过反复编辑真实 agent 转录生成能逃逸仅看动作监视器的攻击,并用 LLM 验证器检查攻击的真实性与危害性。
来源:Redwood Research:Blog · blog.redwoodresearch.org