在Dify中配置支持Function Calling的模型使用

Dify是一个能力丰富的开源AI应用开发平台，为大型语言模型（LLM）应用的开发而设计。它巧妙地结合了后端即服务（Backend as Service）和LLMOps的理念，提供了一套易用的界面和API，加速了开发者构建可扩展的生成式AI应用的过程。

操作步骤

在Dify界面右上角单击用户头像，选择“设置”。
在“设置”页面左侧，选择“模型供应商”页签，找到“ OpenAI-API-compatible”供应商，单击添加模型。

在弹窗中，配置MaaS对应的模型名称、API Key、API Endpoint URL、Function calling等信息。

表1 配置说明
配置项	说明
模型名称	MaaS服务调用界面显示的模型名称。
API Key	MaaS鉴权管理界面中创建的API Key。具体操作，请参见步骤1：获取API Key。
API Endpoint URL	服务调用界面中MaaS服务的基础API地址，需要去掉地址尾部的“/chat/completions” 。具体操作，请参见步骤2：调用MaaS模型服务进行预测。
Function calling	设置为“Tool Call”。

在Dify中创建Agent进行编配，在右上角单击“Agent 设置”，选择上一步配置好的模型进行使用。
在Agent设置中可以看到Dify已自动将Agent Mode切换到了Function Calling模式。

图1 Agent设置

在“编排”页面的“提示词”文本框，输入以下信息。

你是一位乐于助人的AI助手。在回答用户问题时，你需要：1. 始终使用自然语言解释你将要采取的行动 2. 在调用工具之前，说明你要使用哪个工具以及原因 3. 在获取信息的过程中，清晰地描述你正在做什么 4. 永远不要返回空的回复 - 确保用自然语言解释你的每个步骤，比如当查询天气时，你应该先说'让我使用天气工具为您查询...'，然后再进行工具调用。记住：先表达你的理解和计划，再使用工具。每次回复都必须包含对用户的清晰解释。

图2 输入提示词