部署和使用AI对话ChatGLM3应用
在FunctionGraph应用中心,使用AI对话ChatGLM3模板创建应用,并配置相关委托和APIG实例。创建成功后,即可使用内置默认模型和临时域名开始AI对话体验。
前提条件
完成部署AI对话ChatGLM3准备工作,委托中包含“SWR Admin”、“VPC Administrator”和“Server Administrator”权限。
步骤一:使用AI对话模板创建应用
- 登录函数工作流控制台,区域选择“华东-上海一”。在左侧导航栏选择“应用中心”,单击“创建应用”,进入模板选择页面。
- 如图1所示,找到“AI对话ChatGLM3”模板,单击“使用模板”,请仔细阅读弹出的说明后进行勾选操作,单击“同意并继续创建”。
如果系统弹出“服务开通”提示弹窗,请阅读说明后单击“立即开通”。
- 进入“应用配置”页面,如图2填写应用基本信息和参数配置信息:
- 应用名称:自定义填写或使用默认名称,本例使用默认名称。
- 委托名称:选择创建的“severless_trust”委托。
- 模式选择:选择“WebUI”。
- APIG实例:选择购买专享版APIG实例创建的APIG实例。
- 等待应用创建完成,创建成功的应用包含函数服务和专享版API网关资源,其中函数服务的关键资源功能说明请参考表1。
为方便快速体验,应用中心会为您分配一个临时域名,此临时域名仅可用于测试使用,有效期30天。若想开放应用长期访问,需在应用总览页面的域名提示信息中单击“去绑定”为应用绑定自定义域名,具体操作方案请参考配置API的调用域名。
步骤二:使用默认模型和临时域名进行AI对话
- 如图3所示,单击应用详情界面的“开始使用”,进入ChatGLM3 WebUI界面。首次加载冷启动时间会持续30s左右,请耐心等待,如遇到加载超时问题,可以通过刷新页面解决。
- 本应用内置模型为ChatGLM3-6B大模型。如图4所示在文本框处输入问题(支持中英双语),单击下方的“Submit”,即可开始与AI进行对话。
通过上述步骤创建的应用,仅可使用应用内置的模型进行AI对话,如果您需要使用更多自定义模型,需要为应用挂载外部文件系统,操作步骤请参考上传与使用自定义模型(可选)。