docker.io/adam1354/vllm-backport-cu129

该Docker镜像为vllm的backport版本,针对CUDA 12.9环境构建,适用于在支持CUDA 12.9的GPU硬件上进行大语言模型的高效推理,提供优化的推理性能与CUDA 12.9环境的兼容性。

下载:0 版本:1
检测到您正在使用广告拦截插件,本站为公益站点,依赖广告维持运转 🙏 查看如何关闭 ×