docker.io/mistralllm/vllm_devstral是集成了vllm高效大语言模型推理框架的Mistral系列模型(Devstral版本)的容器镜像,主要用于构建和运行Mistral模型的高效推理环境,支持高吞吐量、低延迟的生成式AI任务处理,适用于需要快速部署Mistral模型进行开发或推理的场景。
docker.io/mistralllm/vllm_devstral:latest