docker.io/amant555/vllm_apriel

该镜像的详细描述信息需访问Docker Hub仓库docker.io/amant555/vllm_apriel查看,其可能基于vllm推理引擎构建,用于提供高效的大语言模型推理服务,支持快速token生成和批量请求处理。

下载:0 版本:1