# 开始使用
#### 安全组规则修改（可选）
![](https://support.huaweicloud.com/itsis-aislt/public_sys-resources/notice_3.0-zh-cn.png)
- 该解决方案使用9997端口用来访问Xinference，默认全放通，请参考[修改安全组规则](https://support.huaweicloud.com/usermanual-vpc/vpc_SecurityGroup_0005.html)，配置IP地址白名单。
- 该解决方案使用22端口用来以SSH方式远程登录云服务器，若需远程登录云服务器，请参考[修改安全组规则](https://support.huaweicloud.com/usermanual-vpc/vpc_SecurityGroup_0005.html)，配置IP地址白名单，以便能正常访问服务。
- 该解决方案部署成功后，环境初始化预计10-15分钟，受网络、带宽影响，部署时间会有波动，部署完成之后方可正常访问。
 
安全组实际是网络流量访问策略，包括网络流量入方向规则和出方向规则，通过这些规则为安全组内具有相同保护需求并且相互信任的云服务器、数据仓库等实例提供安全保护。
如果您的实例关联的安全组策略无法满足使用需求，比如需要添加、修改、删除某个TCP端口，请参考以下内容进行修改。
- 添加安全组规则：根据业务使用需求需要开放某个TCP端口，请参考**[添加安全组规则](https://support.huaweicloud.com/usermanual-vpc/zh-cn_topic_0030969470.html)**添加入方向规则，打开指定的TCP端口。
- 修改安全组规则：安全组规则设置不当会造成严重的安全隐患。您可以参考**[修改安全组规则](https://support.huaweicloud.com/usermanual-vpc/vpc_SecurityGroup_0005.html)**，来修改安全组中不合理的规则，保证云服务器等实例的网络安全。
- 删除安全组规则：当安全组规则入方向、出方向源地址/目的地址有变化时，或者不需要开放某个端口时，您可以参考**[删除安全组规则](https://support.huaweicloud.com/usermanual-vpc/vpc_SecurityGroup_0006.html)**进行安全组规则删除。
 
#### Xinference基本使用
1. 部署成功后，通过浏览器访问 http://弹性公网IP:9997/v1/models 即可查看模型列表。如下图所示，model_name 字段即为当前可用的模型标识。 
   图1模型列表
   ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002685709587.png "点击放大")
   
   
#### 对接Dify
1. 参考[快速搭建Dify-LLM应用开发平台](https://www.huaweicloud.com/solution/implementations/building-a-dify-llm-application-development-platform.html)按需部署需要的Dify版本。
2. 参考[快速搭建Dify-LLM应用开发平台部署指南](https://support.huaweicloud.com/dify-aislt/dify_06.html#section2)"Dify登录"和"与Maas服务对接"步骤完成Dify的初步配置。
3. 创建聊天机器人应用：登录Dify后点击"探索"，选择"聊天机器人"，点击"添加到工作区"。 
   图2添加聊天机器人应用   
   ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002645041222.png "点击放大")
   
   
4. 配置聊天机器人节点。 
   图3进入应用编排页面   
   ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002645045634.png "点击放大")
   图4配置模型-参考**步骤二** 配置华为云Maas平台任意大语言模型，推荐DeepSeek-V3.2或DeepSeek-V3   
   ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002645204900.png "点击放大")
   
   
5. 进入Dify-安装Xinference模型插件。 
   图5在 Dify 安装插件
   ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002657291677.png "点击放大")
   
   
6. 在Dify点击头像-"设置"，点击"模型提供商"，找到"Xinference"选择添加模型。 
   图6添加模型位置
   ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002627214872.png "点击放大")
   
   
   
7. 点击Xinference"添加模型"按钮，添加"HuaweiCloud-SIS-TTS"模型，其中服务器URL为Xinference服务器IP:端口（例：http://弹性公网IP:9997），模型UID为"hwc-tts"。 
   图7添加HuaweiCloud-SIS-TTS
   ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002679505371.png "点击放大")
   
   
8. 点击Xinference"添加模型"按钮，添加"HuaweiCloud-SIS-ASR"模型，其中服务器URL为Xinference服务器IP:端口（例：http://弹性公网IP:9997），模型UID为"hwc-asr"。 
   图8添加HuaweiCloud-SIS-ASR   
   ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002679665263.png "点击放大")
   
   
   
9. 开启模型服务。 
   图9开启模型服务
   ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002679505549.png "点击放大")
   
   
10. 配置默认的 TTS 和 ASR 服务。 
    图10配置 TTS 和 ASR
    ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002679665703.png "点击放大")
    
    
11. 在创建的Dify应用里面选择开启文字转语音和语音转文字并使用。 
    图11开启语音功能
    ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002645002636.png "点击放大")
    图12发布运行应用
    ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002675261567.png "点击放大")
    图13使用语音服务
    ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002675261109.png "点击放大")
    注意：
    - 本方案 TTS 仅支持中文，音色列表中的其他语种设置不生效。若语言为 Dify 默认选项，系统将忽略语言配置，按实际文本内容自动播报。
    
    - 本方案 ASR 在谷歌浏览器（Chrome）下仅允许在https或localhost下使用麦克风。如果需要在http下使用麦克风，请按照下述步骤操作：
      - 打开chrome，在地址栏输入：chrome://flags/#unsafely-treat-insecure-origin-as-secure。
      
      - 将该项设置从"已停用"改为"已启用"。
      
      - 在下方的文本框输入你的http网站完整地址。
      
      - 点击右下角出现的"重新启动"按钮重启浏览器即可生效。
        图14启用麦克风   
        ![](https://support.huaweicloud.com/itsis-aislt/zh-cn_image_0000002655810436.png)