阶跃星辰 StepFun· X:阶跃星辰 StepFun (@StepFun_ai)·· 3 小时前AI 评分22
阶跃星辰分享 NVIDIA vLLM 模型免费 NIM 容器
AI 导读
阶跃星辰分享了 NVIDIA 面向 vLLM 模型的免费 NIM 容器,并附上链接,称用一条命令即可上手构建。该容器可用于部署和运行 vLLM 模型。
正文
@NVIDIAAI https://catalog.ngc.nvidia.com/orgs/nim/nvidia/containers/vllm-model-free-nim-experimental
Check out this link and try to build with one single command!
来源:阶跃星辰 StepFun · x.com