目标驱动CANN 9.0.0首先获取sudo权限。本文默认sudo安装1文件下载你需要下载上面的文件下载地址社区版-固件与驱动-昇腾社区社区版资源中心-昇腾社区把上面的5个文件都下载完以后。依次安装执行./Ascend-hdk-chip_type-npu-driver_version_linux-arch.run --full --install-for-all./Ascend-hdk-chip_type-npu-driver_version_linux-arch.run --full --install-for-allrebootbash ./Ascend-cann-toolkit_9.0.0_linux-aarch64.run --installbash ./Ascend-cann-310p-ops_9.0.0_linux-aarch64.run --installbash ./Ascend-cann-nnal_9.0.0_linux-aarch64.run --install然后source /usr/local/Ascend/nnal/atb/set_env.shsource /usr/local/Ascend/cann/set_env.sh这个时候npu-smi info,看到检查一下版本号有没有更新。更新了就是成功了。查看cann版本信息cat /usr/local/Ascend/cann/$(uname -m)-linux/ascend*_install.info检查一下cann和pytorch的对照关系参考这里PyTorch Ascend安装部署-昇腾社区可以看到cann9支持的torch是2.10,2,9,2,8和2.7现在是2026年7月2号建议优先装pytorch2.10 最新的版本容易出问题。然后可以docker pull 了docker pull quay.io/ascend/vllm-asend:v0.18.0-310p或者按照自己的需求去安装不同的容器镜像地址ascend/vllm-ascend · Quay310p不支持bf16格式所以加载最新的模型容易报错。Tensor self not implemented for DT_BFLOAT16, should be in dtype support list [DT_FLOAT,DT_FLOAT16,DT_INT8,DT_INT16,DT_INT32,DT_INT64,DT_UINT8,DT_BOOL,DT_DOUBLE,]