更新时间:2025-01-07 GMT+08:00
分享

部署和使用AI对话ChatGLM3应用

在FunctionGraph应用中心,使用AI对话ChatGLM3模板创建应用,并配置相关委托和APIG实例。创建成功后,即可使用内置默认模型和临时域名开始AI对话体验。

前提条件

完成部署AI对话ChatGLM3准备工作,委托中包含“SWR Admin”、“VPC Administrator”和“Server Administrator”权限。

步骤一:使用AI对话模板创建应用

  1. 登录函数工作流控制台,区域选择“华东-上海一”。在左侧导航栏选择“应用中心”,单击“创建应用”,进入模板选择页面。
  2. 图1所示,找到“AI对话ChatGLM3”模板,单击“使用模板”,请仔细阅读弹出的说明后进行勾选操作,单击“同意并继续创建”。

    图1 AI对话ChatGLM3模板

    如果系统弹出“服务开通”提示弹窗,请阅读说明后单击“立即开通”。

  3. 进入“应用配置”页面,如图2填写应用基本信息和参数配置信息:

    • 应用名称:自定义填写或使用默认名称,本例使用默认名称。
    • 委托名称:选择创建的“severless_trust”委托。
    • 模式选择:选择“WebUI”。
    • APIG实例:选择购买专享版APIG实例创建的APIG实例。
      图2 AI对话ChatGLM3应用配置

  4. 等待应用创建完成,创建成功的应用包含函数服务和专享版API网关资源,其中函数服务的关键资源功能说明请参考表1

    为方便快速体验,应用中心会为您分配一个临时域名,此临时域名仅可用于测试使用,有效期30天。若想开放应用长期访问,需在应用总览页面的域名提示信息中单击“去绑定”为应用绑定自定义域名,具体操作方案请参考配置API的调用域名
    表1 关键函数服务功能

    函数资源逻辑名称

    功能说明

    chatglm

    对话语言模型功能主体,可通过其APIG触发器访问ChatGLM3 WebUI界面。

    custom_models_tool

    可通过其APIG触发器管理自定义模型资源。

步骤二:使用默认模型和临时域名进行AI对话

  1. 图3所示,单击应用详情界面的“开始使用”,进入ChatGLM3 WebUI界面。首次加载冷启动时间会持续30s左右,请耐心等待,如遇到加载超时问题,可以通过刷新页面解决。

    图3 开始使用

  2. 本应用内置模型为ChatGLM3-6B大模型。如图4所示在文本框处输入问题(支持中英双语),单击下方的“Submit”,即可开始与AI进行对话。

    图4 使用ChatGLM3进行AI对话

    通过上述步骤创建的应用,仅可使用应用内置的模型进行AI对话,如果您需要使用更多自定义模型,需要为应用挂载外部文件系统,操作步骤请参考上传与使用自定义模型(可选)

相关文档