模型服务介绍
模型服务（Model Serving）是指将机器学习模型部署为服务，以便其他应用程序或系统可以调用这些模型进行预测或决策。模型服务是机器学习生命周期中的一个重要环节，它使得模型能够从开发环境顺利过渡到生产环境，从而实现商业价值。
在Versatile中，模型服务为智能体提供了最核心的智能，使智能体能够自主、智能地完成复杂任务。
模型服务分类
为满足不同用户的技术能力、业务场景及需求，Versatile提供了多样化的模型服务模式。以下从模型来源对各类模型服务进行介绍，具体如表1所示。
|
分类 |
特征 |
使用流程 |
|---|---|---|
|
平台预置的供应商模型服务 |
由供应商部署，平台接入供应商提供的模型服务API。 目前预置了ModelArts Studio (MaaS)供应商的模型服务。目前支持的模型类型为文本对话、图像理解、文本向量化、文本排序。 |
|
|
用户自主接入的模型服务 |
由用户或第三方部署在外部环境，平台调用外部已存在的模型服务API。 |
平台预置的供应商模型服务：这些服务由供应商部署，系统通过接入其API实现对接。用户只需配置模型鉴权参数，即可便捷地调测和使用。具体操作请参考接入预置的供应商模型服务。
用户自主接入的模型服务：为了满足用户对模型的个性化及专业化需求，Versatile支持接入由用户或第三方部署在外部环境的模型服务API。具体操作请参考接入自定义的供应商模型服务。
费用说明
平台预置的供应商模型服务：购买Versatile套餐包，目前支持免费使用2,000,000tokens，具体使用情况可以在我的资源中查看。免费资源使用完后，调用平台预置的模型服务，需要在ModelArts Studio开通对应的模型服务，计费请参考ModelArts Studio（MaaS）模型服务价格。
用户自主接入的模型服务：接入的模型服务，用户在使用时，Versatile侧不计费，模型供应商侧如果计费，计费规则请参考模型供应商侧的计费规则。
