docker.io/vllm/vllm-omni-rocm是vllm框架的omni版本镜像,针对AMD ROCm平台进行优化,用于大语言模型的高效推理与部署,支持多种模型格式及推理场景。
docker.io/vllm/vllm-omni-rocm:v0.20.0