docker.io/voipmonitor/vllm

该镜像基于vllm框架构建,用于提供大语言模型的高效推理与服务能力,支持高吞吐量、低延迟的请求处理,可助力快速部署和运行大型语言模型相关应用。

下载:0 版本:1
检测到您正在使用广告拦截插件,本站为公益站点,依赖广告维持运转 🙏 查看如何关闭 ×