docker.io/btbtyler09/vllm-rocm-mi50
该Docker镜像 docker.io/btbtyler09/vllm-rocm-mi50 基于ROCm平台,针对AMD MI50 GPU进行了优化,用于运行vLLM(一个高效的大语言模型推理框架)。
docker.io/btbtyler09/vllm-rocm-gfx908
这是一个基于 ROCm (Radeon Open Compute Platform) 的 VLLM (Very Large Language Model) Docker 镜像。它针对 AMD GFX908 架构的显卡进行了优化,这意味着它可以在搭载相应显卡的机器上高效运行大型语言模型。