ghcr.io/nvidia-ai-iot/vllm
ghcr.io/nvidia-ai-iot/vllm是NVIDIA AI IoT团队提供的Docker容器镜像,集成了优化后的vLLM推理引擎,旨在支持在具备NVIDIA GPU的设备上高效执行大语言模型(LLM)推理任务,适用于边缘计算与IoT场景下的AI应用部署需求。
ghcr.io/nvidia/openshell/cluster
ghcr.io/nvidia/openshell/cluster是NVIDIA OpenShell项目下的集群相关容器镜像,用于构建和管理基于NVIDIA技术的集群环境,包含集群部署工具、配置脚本及与NVIDIA GPU、网络等集成的组件,可简化集群设置与运维,支持高性能计算或AI工作负载的集群化运行。
ghcr.io/nvidia/openshell/gateway
NVIDIA OpenShell Gateway镜像属于NVIDIA OpenShell项目的组成部分,主要功能是作为网关服务,负责处理和转发相关请求,支持在AI应用、云服务或边缘计算场景中实现通信与数据交互。