跳到正文
热点事件持续更新

SanSi 让 1.4B 小模型循环 8 次提升决策准确率

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

SanSi 通过让 Ouro-1.4B 模型重复运行同一批层最多 8 次,在 10,027 条测试决策上把准确率从同结构无循环模型的 58.4% 提升到 72.0%,代价是 7.7 倍算力。 在长于训练分布的 liar chains 上,SanSi 达到 72.6%,而 4.2B 单次前向模型仅 50.0%,即随机水平。每个循环都经过训练,因此同一模型可在 1 到 8 次循环间任意停止。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. Rohan Paul
    SanSi 让 1.4B 小模型循环 8 次,决策准确率升至 72%

    SanSi 通过让 Ouro-1.4B 模型重复运行同一批层最多 8 次,在 10,027 条测试决策上把准确率从同结构无循环模型的 58.4% 提升到 72.0%,代价是 7.7 倍算力。在长于训练分布的 liar chains 上,它达到 72.6%,而 4.2B 单次前向模型仅 50.0%,即随机水平。每个循环都经过训练,因此同一模型可在 1 到 8 次循环间任意停止。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。