文档首页/ 盘古大模型 PanguLargeModels/ 用户指南/ 盘古应用开发SDK/ Java SDK/ Agent（智能代理）/ 运行Agent

更新时间：2024-10-16 GMT+08:00

运行Agent

在给出的示例中，Agent中预置了2个工具，分别为：

meeting_room_status_query：查询会议室的状态，是否被预定或者正在使用中。

reserve_meeting_room：预定会议室。

单轮执行：

调用run接口运行一个Agent：

panguAgent.run("帮我定个今天下午3点到8点的A02会议室");

Agent的运行时会进行自我迭代，并且选择合适的工具，在日志中打印最终的执行结果：

用户: 帮我定个今天下午3点到8点的A02会议室
助手: A02会议室在今天下午3点到8点已经被预定了。是否需要为您预定其他时间段或者其他会议室？
 - 步骤1:
   思考:好的，我需要先查询A02会议室今天下午3点到8点的预定状态。使用meeting_room_status_query工具进行查询。
   行动:使用工具[meeting_room_status_query],传入参数"{\"start\": \"2024-05-07 15:00\", \"end\": \"2024-05-07 20:00\", \"meetingRoom\": \"A02\"}"
   工具返回:in use
 - 步骤2
   答复:"A02会议室在今天下午3点到8点已经被预定了。是否需要为您预定其他时间段或者其他会议室？"

多轮执行

List<ConversationMessage> messages = new ArrayList<>();
messages.add(ConversationMessage.builder().role(Role.USER).content("定个2点-4点的会议，A01会议室").build());
messages.add(
    ConversationMessage.builder().role(Role.ASSISTANT).content("已为您预定 A01会议室，时间为2024年5月7日下午2点到4点。").build());
messages.add(ConversationMessage.builder().role(Role.USER).content("再定一个明天8点到9点的会议室").build());
panguAgent.run(messages);

运行结果示例：

用户: 定个2点-4点的会议，A01会议室
助手: 已为您预定 A01会议室，时间为2024年5月7日下午2点到4点。
用户: 再定一个明天8点到9点的会议室
助手: 已为您预定 A01会议室，时间为2024年5月8日早上8点到9点。 
 - 步骤1:
   思考:好的，让我先查询一下 A01会议室在2024年5月8日8点到9点的状态。
   行动:使用工具[meeting_room_status_query],传入参数"{\"start\": \"2024-05-08 08:00\", \"end\": \"2024-05-08 09:00\", \"meetingRoom\": \"A01\"}"
   工具返回:available
 - 步骤2:
   思考: A01会议室在2024年5月8日8点到9点是空闲的，可以预定。现在为您预定。
   行动:使用工具[reserve_meeting_room],传入参数"{\"start\": \"2024-05-08 08:00\", \"end\": \"2024-05-08 09:00\", \"meetingRoom\": \"A01\"}"
   工具返回:2024-05-08 08:00到2024-05-08 09:00的A01已预定成功
 - 步骤3
   答复:"已为您预定 A01会议室，时间为2024年5月8日早上8点到9点。 "

多轮执行增强

上述的例子中实际运行时只提供给模型多轮的对话，并没有提供工具执行的过程，有概率会出现模型不实际调用工具的情况。为了让大模型的效果更好，可以传入agentSession。

AgentSession agentSession = AgentSessionHelper.initAgentSession("定个2点-4点的会议，A01会议室");
agentSession = panguAgent.run(agentSession);

agentSession.getMessages()
    .add(ConversationMessage.builder().role(Role.USER).content("再定一个明天8点到9点的会议室").build());
panguAgent.run(agentSession);

第一次运行Agent，panguAgent.run(agentSession)结果：

用户: 定个2点-4点的会议，A01会议室
助手: 已为您预定 A01会议室，时间为2024年5月7日下午2点到4点。 
 - 步骤1:
   思考:好的，我需要先查询 A01会议室在今天下午2点到4点的状态。现在调用 meeting_room_status_query 工具查询会议室状态。
   行动:使用工具[meeting_room_status_query],传入参数"{\"start\": \"2024-05-07 14:00\", \"end\": \"2024-05-07 16:00\", \"meetingRoom\": \"A01\"}"
   工具返回:available
 - 步骤2:
   思考: A01会议室在今天下午2点到4点是空闲的。现在我将为您预定 A01会议室。调用 reserve_meeting_room 工具进行会议室预定。
   行动:使用工具[reserve_meeting_room],传入参数"{\"start\": \"2024-05-07 14:00\", \"end\": \"2024-05-07 16:00\", \"meetingRoom\": \"A01\"}"
   工具返回:2024-05-07 14:00到2024-05-07 16:00的A01已预定成功
 - 步骤3
   答复:"已为您预定 A01会议室，时间为2024年5月7日下午2点到4点。 "

第二次运行Agent，panguAgent.run(agentSession)结果：

用户: 定个2点-4点的会议，A01会议室
助手: 已为您预定 A01会议室，时间为2024年5月7日下午2点到4点。 
 - 步骤1:
   思考:好的，我需要先查询 A01会议室在今天下午2点到4点的状态。现在调用 meeting_room_status_query 工具查询会议室状态。
   行动:使用工具[meeting_room_status_query],传入参数"{\"start\": \"2024-05-07 14:00\", \"end\": \"2024-05-07 16:00\", \"meetingRoom\": \"A01\"}"
   工具返回:available
 - 步骤2:
   思考: A01会议室在今天下午2点到4点是空闲的。现在我将为您预定 A01会议室。调用 reserve_meeting_room 工具进行会议室预定。
   行动:使用工具[reserve_meeting_room],传入参数"{\"start\": \"2024-05-07 14:00\", \"end\": \"2024-05-07 16:00\", \"meetingRoom\": \"A01\"}"
   工具返回:2024-05-07 14:00到2024-05-07 16:00的A01已预定成功
 - 步骤3
   答复:"已为您预定 A01会议室，时间为2024年5月7日下午2点到4点。 "
用户: 再定一个明天8点到9点的会议室
助手: 已为您预定 A01会议室，时间为2024年5月8日早上8点到9点。 
 - 步骤1:
   思考:好的，我需要先查询会议室在明天早上8点到9点的状态。现在调用 meeting_room_status_query 工具查询会议室状态。
   行动:使用工具[meeting_room_status_query],传入参数"{\"start\": \"2024-05-08 08:00\", \"end\": \"2024-05-08 09:00\", \"meetingRoom\": \"A01\"}"
   工具返回:available
 - 步骤2:
   思考: A01会议室在明天早上8点到9点是空闲的。现在我将为您预定 A01会议室。调用 reserve_meeting_room 工具进行会议室预定。
   行动:使用工具[reserve_meeting_room],传入参数"{\"start\": \"2024-05-08 08:00\", \"end\": \"2024-05-08 09:00\", \"meetingRoom\": \"A01\"}"
   工具返回:2024-05-08 08:00到2024-05-08 09:00的A01已预定成功
 - 步骤3
   答复:"已为您预定 A01会议室，时间为2024年5月8日早上8点到9点。 "

在第二次运行Agent时，包含第一次运行的所有工具调用细节。

agentSession相当于Agent的会话Memory。一般情况下，需要将agentSession对象在外部持久化，在每一轮会话传入agentSession对象中的sessionId，下面的示例代码用一个map对象模拟外部的持久化：

/**
 * 在生产环境下，agentSession建议在外部持久化，而不是在内存中
 * 如果使用AssistantAPI，华为会提供持久化能力，不需要自行实现
 */
private static final Map<String, AgentSession> agentSessionMap = new HashMap<>();

@Test
void test() {
    String sessionId = "sessionId_1";
    panguAgent.run(getAgentSession(sessionId, "定个2点-4点的会议，A01会议室"));
    panguAgent.run(getAgentSession(sessionId, "再定一个明天8点到9点的会议室"));
}

AgentSession getAgentSession(String sessionId, String userMessage) {
    AgentSession agentSession = agentSessionMap.get(sessionId);
    if (agentSession == null) {
        agentSession = AgentSessionHelper.initAgentSession(userMessage);
        agentSession.setSessionId(sessionId);
        agentSessionMap.put(sessionId, agentSession);
    } else {
        agentSession.getMessages()
                .add(ConversationMessage.builder().role(Role.USER).content(userMessage).build());
    }
    return agentSession;
}

单步执行

有时并不希望Agent完全自主执行，在某些关键节点，让用户先进行确认，确认后再执行，或者用户对模型的结果有异议或者想法有变化，想对当前结果进行更改。此时可以单步运行Agent：

/**
 * 单步执行Agent，提供干预能力
 *
 * @param agentSession 包括初始状态，以及执行步骤间的agentSession，可以使用AgentSessionHelper类辅助处理
 * @return Agent执行的结果
 */
AgentSession runStep(AgentSession agentSession);

完整示例如下：

AgentSession agentSession = AgentSessionHelper.initAgentSession("定个2点-4点的会议");
agentSession = panguAgent.runStep(agentSession);
log.info(AgentSessionHelper.printPlan(agentSession));

log.info("Agent status = {}, is {}, do not call tool", agentSession.getAgentSessionStatus(),
    AgentSessionStatus.FINISHED);
AgentSessionHelper.updateAssistantMessage(agentSession, true);

// 用户多轮对话
AgentSessionHelper.addUserMessage(agentSession, "A01会议室");
agentSession = panguAgent.runStep(agentSession);
log.info(AgentSessionHelper.printPlan(agentSession));

// 从agentSession中取出要调用的工具
final AgentAction currentAction = agentSession.getCurrentAction();
final String action = currentAction.getActionTools().get(0).getAction();
final Object actionInput = currentAction.getActionTools().get(0).getActionInput();
log.info("Agent status = {}, not {}, call tool {}, input = {}", agentSession.getAgentSessionStatus(),
    AgentSessionStatus.FINISHED, action, actionInput);

// 调用工具，这里为调用示例，由于已经给出tool_id和调用参数，实际调用可以有多种形式
final Tool tool = panguAgent.getTool(action);
final Object result = tool.runFromJson(actionInput.toString());

// 提交工具调用结果，并继续执行
AgentSessionHelper.setFirstToolOutput(agentSession, result.toString());
agentSession = panguAgent.runStep(agentSession);
log.info(AgentSessionHelper.printPlan(agentSession));

// 如果对工具调用参数有调整，可以进行反馈
AgentSessionHelper.setUserFeedback(agentSession, "会议室更换为A02");
agentSession = panguAgent.runStep(agentSession);
log.info(AgentSessionHelper.printPlan(agentSession));

上述例子中，第一次printPlan打印的结果为：

用户: 定个2点-4点的会议
助手: 
 - 步骤1:
   思考:好的，请问您想预定哪一个会议室？

由于缺少参数，因此模型开始追问，此时构造了用户消息，回答了模型追问的问题。可以通过AgentSession的状态来判断是否是追问闲聊，或是发起工具调用，此时AgentSession的状态为FINISHED，所以为追问或闲聊。打印的日志为：

Agent status = FINISHED, is FINISHED, do not call tool

第二次printPlan打印的结果为：

用户: 定个2点-4点的会议
助手: 好的，请问您想预定哪一个会议室？
 - 步骤1:
   思考:好的，请问您想预定哪一个会议室？
用户: A01会议室
助手: 
 - 步骤1:
   思考:请稍等，我需要先查询 A01会议室在今天下午2点到4点的状态。现在调用 meeting_room_status_query 工具查询会议室状态。
   行动:使用工具[meeting_room_status_query],传入参数"{\"start\": \"2024-05-11 14:00\", \"end\": \"2024-05-11 16:00\", \"meetingRoom\": \"A01\"}"

此时，由于采用了单步调用，因此不会自动执行工具，打印的日志为：

Agent status = RUNNING, not FINISHED, call tool meeting_room_status_query, input = {"start": "2024-05-11 14:00", "end": "2024-05-11 16:00", "meetingRoom": "A01"}

同样的，可以通过AgentSession的status判断此时是否需要调用工具，如果需要调用工具，可以从currentAction中获取需要调用的工具信息。

当提交了工具调用结果后，第三次printPlan打印的结果为：

用户: 定个2点-4点的会议
助手: 好的，请问您想预定哪一个会议室？
 - 步骤1:
   思考:好的，请问您想预定哪一个会议室？
用户: A01会议室
助手: 
 - 步骤1:
   思考:请稍等，我需要先查询 A01会议室在今天下午2点到4点的状态。现在调用 meeting_room_status_query 工具查询会议室状态。
   行动:使用工具[meeting_room_status_query],传入参数"{\"start\": \"2024-05-11 14:00\", \"end\": \"2024-05-11 16:00\", \"meetingRoom\": \"A01\"}"
   工具返回:available
 - 步骤2:
   思考: A01会议室在今天下午2点到4点是空闲的。现在为您预定 A01会议室。调用 reserve_meeting_room 工具进行会议室预定。
   行动:使用工具[reserve_meeting_room],传入参数"{\"start\": \"2024-05-11 14:00\", \"end\": \"2024-05-11 16:00\", \"meetingRoom\": \"A01\"}"

可以看到，Agent又向下执行了一步，此时需要提交reserve_meeting_room的调用结果，提交之后，执行预期结束。为了说明用户反馈的功能，选择了调用setUserFeedback，进行反馈，第四次printPlan打印的结果为：

用户: 定个2点-4点的会议
助手: 好的，请问您想预定哪一个会议室？
 - 步骤1:
   思考:好的，请问您想预定哪一个会议室？
用户: A01会议室
助手: 
 - 步骤1:
   思考:请稍等，我需要先查询 A01会议室在今天下午2点到4点的状态。现在调用 meeting_room_status_query 工具查询会议室状态。
   行动:使用工具[meeting_room_status_query],传入参数"{\"start\": \"2024-05-11 14:00\", \"end\": \"2024-05-11 16:00\", \"meetingRoom\": \"A01\"}"
   工具返回:available
 - 步骤2:
   思考: A01会议室在今天下午2点到4点是空闲的。现在为您预定 A01会议室。调用 reserve_meeting_room 工具进行会议室预定。
   行动:使用工具[reserve_meeting_room],传入参数"{\"start\": \"2024-05-11 14:00\", \"end\": \"2024-05-11 16:00\", \"meetingRoom\": \"A01\"}"
   用户反馈:会议室更换为A02
 - 步骤3:
   思考:好的，我将为您更换为 A02会议室。现在查询 A02会议室在今天下午2点到4点的状态。调用 meeting_room_status_query 工具查询会议室状态。
   行动:使用工具[meeting_room_status_query],传入参数"{\"start\": \"2024-05-11 14:00\", \"end\": \"2024-05-11 16:00\", \"meetingRoom\": \"A02\"}"

可以看到，Agent继续向下执行了一步，会议室改为了A02，需要重新查询A02的会议室状态。

Agent结果总结

有时需要Agent对之前的思考、行动回答用户的最终问题，如果对模型返回的结果不满意，可以选择使用AgentSessionSkill解决：

final AgentSession agentSession = agent.run("我的数学成绩和语文成绩分别是多少");
final LLM llm = LLMs.of(LLMs.PANGU, LLMConfig.builder()
    .llmModuleConfig(LLMModuleConfig.builder()
        .url(
            "https://pangu.cn-southwest-2.myhuaweicloud.com/v1/infers/N2-基础模型的调用地址")
        .build())
    .build());
final AgentSessionSkill agentSessionSkill = new AgentSessionSkill(llm);
System.out.println("最终结果: " + agentSessionSkill.summary(agentSession));

运行结果示例：

用户: 我的数学成绩和语文成绩分别是多少
助手：您的语文成绩也是99分
 - 步骤1:
   思考:好的，我需要调用 queryScore 工具来查询您的数学成绩。
   行动:使用工具[queryScore],传入参数"{\"subjectName\":\"数学\"}"
   工具返回:99
 - 步骤2:
   思考:好的，我需要调用 queryScore 工具来查询您的语文成绩。
   行动:使用工具[queryScore],传入参数"{\"subjectName\":\"语文\"}"
   工具返回:99
 - 步骤3
   思考:您的语文成绩也是99分。

最终结果: 您的数学成绩是99分，您的语文成绩也是99分。

AgentSessionSkill使用的大模型建议为N2-基础模型或者其他同等类型的模型。

多Agent组合

有时需要多个Agent配合完成任务，可以通过子Agent作为tool方式实现：

// 定义子Agent（tool形式）
 
import com.huaweicloud.pangu.dev.sdk.agent.ReactPanguAgent;
import com.huaweicloud.pangu.dev.sdk.api.agent.Agent;
import com.huaweicloud.pangu.dev.sdk.api.annotation.AgentTool;
import com.huaweicloud.pangu.dev.sdk.api.llms.LLMs;
import com.huaweicloud.pangu.dev.sdk.api.llms.config.LLMConfig;
import com.huaweicloud.pangu.dev.sdk.api.llms.config.LLMModuleConfig;
import com.huaweicloud.pangu.dev.sdk.api.llms.config.LLMParamConfig;
import com.huaweicloud.pangu.dev.sdk.api.tool.StaticTool;
 
import java.text.SimpleDateFormat;
import java.util.Date;
 
@AgentTool(toolId = "meeting_agent", toolDesc = "预定会议Agent", toolPrinciple = "请在需要预定会议室时调用此工具",
    inputDesc = "预定会议室请求", outPutDesc = "预定会议室的结果")
public class MeetingAgent extends StaticTool<String, String> {
    private static Agent panguAgent;
 
    public MeetingAgent() {
        final String customSystemPrompt = "你是一个会议室预定助手，今天的日期是" + new SimpleDateFormat("yyyy年MM月dd日").format(new Date());
        final LLMConfig config = LLMConfig.builder()
                .llmParamConfig(LLMParamConfig.builder().temperature(0.01).withPrompt(true).build())
                .llmModuleConfig(LLMModuleConfig.builder().systemPrompt(customSystemPrompt).build())
                .build();
 
        panguAgent = new ReactPanguAgent(LLMs.of(LLMs.PANGU, config));
        panguAgent.setMaxIterations(5);
        panguAgent.addTool(new MeetingRoomStatusQuery());
        panguAgent.addTool(new ReserveMeetingRoom());
    }
 
    @Override
    public String run(String input) {
        return panguAgent.run(input).getCurrentMessage().getContent();
    }
}
 
@Test
void test6() {
    final LLMConfig config = LLMConfig.builder()
        .llmParamConfig(LLMParamConfig.builder().temperature(0.01).withPrompt(true).build())
        .build();
 
    // Agent嵌套，将预定会议室Agent作为一个子Agent添加到agent中
    Agent agent = new ReactPanguAgent(LLMs.of(LLMs.PANGU, config));
    agent.addTool(new MeetingAgent());
 
    agent.run("帮我定个今天下午3点到8点的A05会议室");
    // 子agent是实际做事的agent
    /**
     * 用户: 预定今天下午3点到8点的A05会议室
     * 助手: 已为您预定2024年05月10日下午3点到8点的A05会议室。请准时参加会议。
     * - 步骤1:
     * 思考:好的，我需要先查询A05会议室在今天下午3点到8点的状态。如果会议室可用，我将为您预定。现在我将调用meeting_room_status_query工具查询会议室状态。
     * 行动:使用工具[meeting_room_status_query],传入参数"{\"start\": \"2024-05-10 15:00\", \"end\": \"2024-05-10 20:00\",
     * \"meetingRoom\": \"A05\"}"
     * 工具返回:available
     * - 步骤2:
     * 思考:A05会议室今天下午3点到8点是可用的。接下来我将调用reserve_meeting_room工具为您预定A05会议室。
     * 行动:使用工具[reserve_meeting_room],传入参数"{\"start\": \"2024-05-10 15:00\", \"end\": \"2024-05-10 20:00\",
     * \"meetingRoom\": \"A05\"}"
     * 工具返回:2024-05-10 15:00到2024-05-10 20:00的A05已预定成功
     * - 步骤3
     * 答复:"已为您预定2024年05月10日下午3点到8点的A05会议室。请准时参加会议。"
     */
 
    // agent只负责分发任务给子agent
    /**
     * 用户: 帮我定个今天下午3点到8点的A05会议室
     * 助手: 已为您预定2024年05月10日下午3点到8点的A05会议室。请准时参加会议。
     * - 步骤1:
     * 思考:好的，我需要调用meeting_agent工具来预定会议室。该工具需要一个字符串类型的必须参数arg。现在我将调用meeting_agent工具预定会议室。
     * 行动:使用工具[meeting_agent],传入参数"{\"arg\": \"预定今天下午3点到8点的A05会议室\"}"
     * 工具返回:已为您预定2024年05月10日下午3点到8点的A05会议室。请准时参加会议。
     * - 步骤2
     * 答复:"已为您预定2024年05月10日下午3点到8点的A05会议室。请准时参加会议。"
     */
}

父主题： Agent（智能代理）

上一篇：实例化Agent

下一篇：监听Agent

意见反馈

文档内容是否对您有帮助？

有帮助没帮助

提供反馈

提交成功！非常感谢您的反馈，我们会继续努力做到更好！您可在我的云声建议查看反馈及问题处理状态。

系统繁忙，请稍后重试

在使用文档中是否遇到以下问题

内容与产品页面不一致

内容不易理解

缺失示例代码

步骤不可操作

搜不到想要的内容

缺少最佳实践

意见反馈（选填）

0/500

请至少选择一项反馈信息并填写问题反馈

字符长度不能超过500

直接提交取消

如您有其它疑问，您也可以通过华为云社区问答频道来与我们联系探讨

智能客服提问云社区提问

运行Agent

相关文档

意见反馈

文档内容是否对您有帮助？

7*24

备案

专业服务

退订

建议反馈

售前咨询热线