登录社区云，与社区用户共同成长
邀请您加入社区
本文以Qwen3.6-27B为例，介绍在海光BW1000八卡服务器上使用GPUStack部署大模型的完整流程，涵盖节点接入、自定义vLLM与DTK后端配置、本地模型部署、对话及API调用和性能测试。模型采用FP16八卡张量并行，实测8个请求全部成功，平均输出吞吐量为99.8 Tokens/s，并总结环境适配、模型完整性、首次初始化及基准测试注意事项，为部署复现提供参考。
