跳到正文
Claude:Blog· Claude:Blog(网页)·· 22 小时前AI 评分49

Uber CISO 谈如何为 AI 智能体建立内部威胁防护计划

AI 导读

Uber CISO Philip Martin 提出,企业应参照员工内部威胁计划为 AI 智能体建立防护机制,因为前沿模型可能被引导越出预期约束行事。Uber 已开源 AI Detection and Response(ADR),可采集实时遥测并在智能体越界时实时响应,与 Anthropic 的 Enterprise Frontier Safeguards 互补。

来源:Claude:Blog · claude.com