docker.io/dustynv/vllm

这是一个提供LLM推理服务的Docker镜像。 它基于VLLM,一个高效的LLM推理引擎,旨在提供快速、低延迟的LLM服务。 该镜像包含了运行VLLM所需的所有依赖项,方便用户快速部署和使用。

下载:11 版本:1

docker.io/dustynv/l4t-pytorch

这是一个基于 NVIDIA Jetson L4T 的 PyTorch 深度学习容器镜像。它预装了 PyTorch 以及其他必要的深度学习库和依赖项,方便开发者在 Jetson L4T 平台上进行深度学习模型的训练和部署。

下载:4 版本:1

docker.io/dustynv/llama_cpp

使用 Docker 镜像 llama_cpp 此镜像基于 C++ 编程语言,用于高性能、高效的编程任务。

下载:1 版本:1