跳转到内容
xLLM xLLM PR 预览
中

硬件平台

根据加速器类型选择指南,依次准备容器、安装 xLLM、选择设备并验证服务。

平台构建目标设备选择变量容器镜像
昇腾 NPU--device npuASCEND_RT_VISIBLE_DEVICES见平台指南
寒武纪 MLU--device mluMLU_VISIBLE_DEVICES由厂商提供
海光 DCU--device dcuHIP_VISIBLE_DEVICES见平台指南
沐曦 MACA--device macaCUDA_VISIBLE_DEVICES见平台指南
摩尔线程 MUSA--device musaMUSA_VISIBLE_DEVICES见平台指南
英伟达 GPU--device cudaCUDA_VISIBLE_DEVICES见平台指南

各平台提供的镜像和 CPU 架构组合不同,可通过 快速开始选择器 查看。

反馈文档问题