这是一个基于OpenEuler操作系统,运行VLLM (Very Large Language Model)大语言模型的Docker镜像,并针对昇腾Ascend处理器进行了优化。
docker.io/openeuler/vllm-ascend:0.8.5rc1-torch_npu2.5.1-cann8.1.rc1-python3.10-oe2203lts