IBM Research 用开源模型与 llm-d 分布式推理降低 AI 芯片设计成本

IBM Research 演示用开源前沿模型结合 llm-d 分布式推理构建 agent factory，对量子纠错解码算法 Relay-BP 做 HLS 硬件优化，在 100 个假设预算下实现约 52 倍加速、推理成本约 26 美元。同预算下全专有模型配置成本 299 美元、加速 204 倍。