docker.io/hicasper/llama-cpp-cuda

这个Docker镜像是基于llama.cpp项目并集成CUDA加速功能的镜像,用于在支持CUDA的GPU环境中高效运行Llama系列等大语言模型,提供便捷的部署方案,包含运行模型所需的依赖和配置,可帮助用户快速启动模型推理服务。

下载:1 版本:1

docker.io/hicasper/llama-cpp-cuda11

该Docker镜像基于Llama.cpp实现,集成了CUDA 11环境,用于在支持CUDA的GPU上运行Llama系列大语言模型,提供高效的推理能力。

下载:1 版本:1
检测到您正在使用广告拦截插件,本站为公益站点,依赖广告维持运转 🙏 查看如何关闭 ×