配置智能体调度模式
Versatile为智能体提供了多种调度方式,支持模型优先、知识库优先调度和工具优先方式,使用说明详见表1。
|
调度方式 |
功能说明 |
适用场景 |
优点 |
缺点 |
|---|---|---|---|---|
|
模型优先 |
在处理用户的输入时,结合提示词,先调用模型,由模型来判断是否调用插件或者知识库等。与模型能力有较大关系。 |
适用于需要实时决策、个性化和复杂决策的场景。 |
灵活性高和个性化强,但需要较高的计算资源和频繁更新。 |
计算资源消耗较大,模型更新时要求比较高。 |
|
知识库优先 |
在进行问题答复时,结合提示词,如果配置了知识库和工具,先从知识库进行检索,然后模型再进行综合分析。 |
适用于需要快速响应和高准确性的场景。 |
响应速度快,准确定高,计算资源消耗低。 |
灵活性差、维护成本比较高,同时个性化不足。 |
|
工具优先 |
在处理用户的输入时,结合prompt,系统会优先判断用户添加的工具是否合适的,通过分析工具名称、工具描述、工具参数选择合适的工具来先处理用户的输入,如果系统中未找到合适的工具,则会利用大模型来解决用户的问题。 |
适用于特定任务处理、高效任务执行、工具依赖性高。 |
具有高效性、准确性和可扩展性。 |
灵活性不足,维护成本较大,依赖性较强。 |
- 如果需要实时处理动态数据和个性化需求,请优先选择模型优先。
- 如果需要快速响应和高准确性,请优先选择知识库优先。
- 如果任务依赖特定工具或需要高效完成特定任务,请优先选择工具优先。
- 选择工具优先调度模式时,配置模型页签支持设置模型高级配置,用户可根据业务选择规划与问答模型配置是否合一。