ghcr.io/llm-d/llm-d

该Docker镜像 ghcr.io/llm-d/llm-d 是LLM-D项目的镜像。LLM-D是一个大型语言模型项目，这个镜像包含了运行LLM-D所需的所有依赖项和代码。

下载:21 版本:1

ghcr.io/llm-d/llm-d-router-endpoint-picker

这是LLM-D项目下的路由端点选择器镜像，用于在LLM-D系统中处理请求路由，选择合适的服务端点，支持高效的请求分发与端点管理，助力LLM-D相关服务的负载均衡及端点选择逻辑实现。

下载:5 版本:1

ghcr.io/llm-d/llm-d-model-service

这是一个用于提供大语言模型（LLM）相关功能的模型服务容器镜像，旨在支持LLM模型的部署与服务提供，方便用户快速搭建和使用LLM模型服务。

下载:2 版本:1

ghcr.io/llm-d/llm-d-cuda

这是一个用于大语言模型（LLM）相关任务的Docker容器镜像，基于CUDA技术支持GPU加速，适用于需要利用GPU资源运行大语言模型相关应用或服务的场景。

下载:0 版本:1
检测到您正在使用广告拦截插件，本站为公益站点，依赖广告维持运转 🙏 查看如何关闭 ×