该镜像 docker.io/kserve/kserve-localmodelnode-agent 是 KServe 的一部分,用于本地模型节点代理。它负责管理和服务部署在本地机器上的机器学习模型,作为 KServe 模型部署系统的一部分。 具体来说,它接收来自 KServe 模型服务的请求,并将这些请求转发给本地运行的模型,然后将模型的预测结果返回给 KServe。
docker.io/kserve/kserve-localmodelnode-agent
docker.io/kserve/kserve-localmodelnode-agent:v0.15.0