开始使用

安全组规则修改（可选）

• 该解决方案使用9997端口用来访问Xinference，默认全放通，请参考修改安全组规则，配置IP地址白名单。
• 该解决方案使用22端口用来以SSH方式远程登录云服务器，若需远程登录云服务器，请参考修改安全组规则，配置IP地址白名单，以便能正常访问服务。
• 该解决方案部署成功后，环境初始化预计10-15分钟，受网络、带宽影响，部署时间会有波动部署完成之后方可正常访问。

安全组实际是网络流量访问策略，包括网络流量入方向规则和出方向规则，通过这些规则为安全组内具有相同保护需求并且相互信任的云服务器、数据仓库等实例提供安全保护。

如果您的实例关联的安全组策略无法满足使用需求，比如需要添加、修改、删除某个TCP端口，请参考以下内容进行修改。

• 添加安全组规则：根据业务使用需求需要开放某个TCP端口，请参考添加安全组规则添加入方向规则，打开指定的TCP端口。
• 修改安全组规则：安全组规则设置不当会造成严重的安全隐患。您可以参考修改安全组规则，来修改安全组中不合理的规则，保证云服务器等实例的网络安全。
• 删除安全组规则：当安全组规则入方向、出方向源地址/目的地址有变化时，或者不需要开放某个端口时，您可以参考删除安全组规则进行安全组规则删除。

Xinference基本使用

对接Dify

1. 在xinference服务安全组上添加dify服务器的公网ip，确保dify可访问xinference
2. 进入Dify-安装Xinference模型插件
   图5 在Dify安装插件

   

3. 在dify模型提供商里找到Xinference选择添加模型
   图6 添加模型位置

   

4. 点击Xinference添加模型按钮，添加CosyVoice-300M模型，其中服务器URL为Xinference服务器ip
   图7 添加CosyVoice-300M

   

5. 点击Xinference添加模型按钮，添加SenseVoiceSmall模型，其中服务器URL为Xinference服务器ip
   图8 添加SenseVoiceSmall

   

6. 开启模型服务
   图9 开启模型服务

   

7. 配置默认的tts和asr服务
   图10 配置tts和asr

   

8. 在dify编排里面选择开启文字转语音和语音转文字并使用
   图11 开启语音功能
   

   图12 使用语音服务