模型服务介绍
模型服务(Model Serving)是指将机器学习模型部署为服务,以便其他应用程序或系统可以调用这些模型进行预测或决策。模型服务是机器学习生命周期中的一个重要环节,它使得模型能够从开发环境顺利过渡到生产环境,从而实现商业价值。
在Versatile中,模型服务为智能体提供了最核心的智能,使智能体能够自主、智能地完成复杂任务。
模型服务分类
为满足不同用户的技术能力、业务场景及需求,Versatile提供了多样化的模型服务模式。以下从模型来源对各类模型服务进行介绍,具体如表1所示。