跳到正文
只看论文#编码
  1. GitHub Blog · AI & ML71

    GitHub 发布 AI 代码审查开放基准 ReviewBench

    GitHub 发布 ReviewBench，一个面向 AI 代码审查智能体的离线基准，基于 1.039 亿个 GitHub PR 的分布特征构建，包含 219 个 PR、覆盖 19 种语言，数据集与评分规则公开。

    推荐理由：GitHub 公开了代码审查基准的数据集、评分规则和自测入口，团队可据此对比不同审查智能体并复现结果。

  1. Anthropic Engineering71

    Anthropic 量化智能体编码评测中的基础设施噪声

    Anthropic 工程团队发现，仅基础设施配置差异就能让 Terminal-Bench 2.0 的成绩相差 6 个百分点（p < 0.01），资源最紧张与完全不设限的配置之间差距最大。

    推荐理由：Anthropic 用实测数据说明智能体编码评测中资源配置会带来多大分数差异，读者可据此判断榜单名次的可信度。

已经到底了