用于文本生成的 Hugging Face Inference 镜像。它旨在提供高性能的文本生成服务,优化了延迟和吞吐量。该镜像支持多种模型,并提供了易于使用的 API,方便部署和扩展。
ghcr.io/huggingface/text-generation-inference:3.2.1
ghcr.io/huggingface/text-generation-inference:3.1.1
ghcr.io/huggingface/text-generation-inference:3.1.0
ghcr.io/huggingface/text-generation-inference:2.4.0
ghcr.io/huggingface/text-generation-inference:2.3.0
ghcr.io/huggingface/text-generation-inference:2.2
ghcr.io/huggingface/text-generation-inference:2.1.1