更新时间:2025-01-07 GMT+08:00
分享

使用FunctionGraph部署AI对话ChatGLM3操作流程

表1介绍本实践中使用FunctionGraph部署AI对话ChatGLM3应用的总操作流程与说明,其中进阶使用流程主要面向具体的业务使用需求场景,请参考相关说明选择使用。

表1 部署AI对话ChatGLM3应用操作流程说明

操作流程

说明

部署AI对话ChatGLM3准备工作

在FunctionGraph应用中心部署AI对话ChatGLM3应用前,需完成以下准备工作:

  1. 提交工单申请加入WebSocket白名单
  2. 创建虚拟私有云VPC和子网
  3. 购买专享版APIG实例
  4. 为FunctionGraph创建云服务委托

部署和使用AI对话ChatGLM3应用

使用FunctionGraph应用中心的AI对话ChatGLM3模板创建应用,即可使用内置默认模型和临时域名进行AI对话。

上传与使用自定义模型(可选)

如需使用自定义模型进行AI对话,还需进行以下操作:

  1. 创建SFS Turbo文件系统
  2. 初始化自定义模型挂载文件系统
  3. 上传与使用自定义模型

进阶使用:使用ECS作为NFS服务器实现多用户资源隔离

如需实现多用户使用场景下的资源隔离,FunctionGraph函数支持挂载ECS服务器作为文件系统来源,通过设置共享NFS路径可有效管理多用户模型资源,可通过以下操作实现:

  1. 购买ECS服务器
  2. 设置ECS下的NFS共享
  3. 在AI对话应用中挂载ECS
  4. 上传与使用自定义模型

相关文档