docker.io/vllm/vllm-openai

这是镜像描述: vllm/openai 基于 OpenAI 的 GPT-3 模型的 API 服务,支持自然语言处理等功能。

下载:14703 版本:50

docker.io/vllm/vllm-omni

docker.io/vllm/vllm-omni是vllm项目提供的全功能镜像,包含vllm核心组件及相关依赖,支持多种硬件后端与大语言模型推理部署,可用于高效构建和运行大语言模型服务。

下载:76 版本:3