Meta 将闲置推理容量用于广告推荐

Meta 介绍了一套把闲置 AI 推理容量用于广告推荐的方法：将分散在各团队配额、区域和加速器类型中的闲置推理容量聚合成共享的机会容量池，供广告推荐使用。 系统通过两个弹性杠杆扩展可选工作负载：Rank More Ads（RMA）调整排序阶段评估的候选广告数量，Serve Better Models（SBM）调整路由到更强模型的请求比例。Meta 称，系统借助物理与逻辑隔离及价值感知降载机制，在容量被突然回收时优雅降级。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。