Georgi Gerganov· X：Georgi Gerganov（llama.cpp） (@ggerganov)·· 3 小时前AI 评分40
llama.cpp v0.7.0 支持 128GB Mac
AI 导读
llama.cpp v0.7.0 已支持 128GB Mac，可通过 `llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL` 加载 Qwen3.8-Flash-Next 的 GGUF 量化模型。该版本新增 `--spec-type draft-mtp` 与 `--lazy-mode on` 两个启动参数。
正文
llama.cpp v0.7.0, 128GB Mac/Spark:
llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy-mode on
来源：Georgi Gerganov · x.com