ghcr.io/huggingface/text-generation-inference
用于文本生成的 Hugging Face Inference 镜像。它旨在提供高性能的文本生成服务,优化了延迟和吞吐量。该镜像支持多种模型,并提供了易于使用的 API,方便部署和扩展。
ghcr.io/huggingface/text-embeddings-inference
文本嵌入推断 Hugging Face 提供了一个用于文本嵌入推断的 Docker 镜像。