跳到正文
热点事件持续更新

IBM 演示开源模型加 llm-d 优化芯片设计

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

IBM Research 演示了一套用开源前沿模型结合 llm-d 分布式推理搭建的 agent factory,对量子纠错解码算法 Relay-BP 做 HLS 硬件优化。在 100 个假设预算下,该配置实现约 52 倍加速,推理成本约 26 美元。 同一预算下,全专有模型配置的成本为 299 美元,加速约 204 倍。IBM Research 称,这一对比显示开源模型方案可降低 AI 芯片设计成本。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. IBM Research:AI
    IBM Research 用开源模型与 llm-d 分布式推理降低 AI 芯片设计成本

    IBM Research 演示用开源前沿模型结合 llm-d 分布式推理构建 agent factory,对量子纠错解码算法 Relay-BP 做 HLS 硬件优化,在 100 个假设预算下实现约 52 倍加速、推理成本约 26 美元。同预算下全专有模型配置成本 299 美元、加速 204 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。