Qwen4-27B 在英特尔 vLLM 内核仓库现身,发布临近

3次阅读
没有评论

Qwen4-27B 还没正式发布,先在英特尔的仓库里露了面。

Qwen4-27B 在英特尔 vLLM 内核仓库现身,发布临近

英特尔 analytics-zoo 的 vllm-xpu-kernels 仓库刚合并了一个 PR:为 Qwen3.8-Flash-Next 提供 8 卡 FP8 与 INT4 支持,同时优化 Qwen4-27B。PR 里写明了给 Qwen4-27B dense 模型做 TP2 FP8、TP1/TP2 INT4 的内核支持,配套的模型调度和全图集成分在 vLLM #51。

推理框架先行适配,通常意味着模型本身离发布不远了。等 Qwen4-27B 正式上线,英特尔 GPU 上的 vLLM 就能直接跑。

仓库地址:

https://github.com/analytics-zoo/vllm-xpu-kernels/pull/22/changes

正文完
 0