这是一个用于运行 litellm 的 Docker 容器镜像,litellm 是一个用于构建和部署轻量级语言模型的框架。
该镜像包含 litellm 的所有必要依赖项,方便用户快速部署和使用。
使用该镜像可以轻松构建和运行各种语言模型,例如:
该镜像由 Berriai 开发维护。
ghcr.io/berriai/litellm:main-stable
ghcr.io/berriai/litellm-non_root:main-v1.48.6