ghcr.io/aeon-7/vllm-aeon-ultimate-dflash

这是一个基于vllm框架构建的大语言模型推理优化容器镜像,旨在提供高效的大模型部署与运行能力,集成了相关加速特性以提升推理性能。

下载:8 版本:1

ghcr.io/aeon-7/aeon-vllm-ultimate

该镜像集成了vllm框架的终极版本,用于大语言模型的高效推理与部署,支持快速处理大模型推理请求,包含优化的配置及依赖,可帮助用户快速启动大语言模型服务。

下载:1 版本:1
检测到您正在使用广告拦截插件,本站为公益站点,依赖广告维持运转 🙏 查看如何关闭 ×