ghcr.io/embeddedllm/vllm-rocm

这是一个基于ROCm平台的LLM推理容器镜像。它包含了vLLM,一个高效的LLM推理引擎,并针对ROCm硬件进行了优化。

下载:22 版本:1
检测到您正在使用广告拦截插件,本站为公益站点,依赖广告维持运转 🙏 查看如何关闭 ×