选择并配置模型
在Versatile中,创建智能体后配置模型是构建和优化智能应用的关键操作,用户可以通过可视化配置页面选择和集成多种大语言模型,如盘古、DeepSeek、千问等。通过灵活选择和配置不同大语言模型,确保智能体能够根据业务需求高效、稳定地提供强大的AI能力。
前提条件
Versatile已接入模型。接入模型服务详见接入模型服务。
选择模型
您可以在智能体的编排页面为智能体选择一个合适的大模型。选择模型并完成智能体的技能、知识等设置后,你也可以切换成不同的模型,测评各个模型在同一个智能体中的效果,选择最合适的模型。
- 登录Versatile智能体平台,在左侧导航栏“个人空间”区域,选择进入所需空间。
如果已选择团队空间,界面显示为实际的团队空间名称,而非“个人空间”。
图1 选择团队空间 - 在左侧导航栏中选择开发中心 > 应用管理 > 单智能体应用。
- 在“单智能体应用”页面选择已创建的单智能体。
- 在智能体页面右上角,单击模型模块下拉框,选择模型。
图2 选择模型
模型的标签展示顺序从左到右依次是用户自定义标签、接入模型时的“选择标签”、“模型类型”。
- 接入模型时的“选择标签”:
联网:表示该大模型具备联网搜索能力。
思考:表示该大模型具备思维推理能力。
工具:表示该大模型支持应用调用外部工具,例如,MCP服务、插件、知识库等。
- “模型类型”包含:
文本:表示该大模型是文本对话类型。
视觉:表示该大模型是图像理解类型。
嵌入:表示该大模型是文本向量化类型。
排序:表示该大模型是文本排序类型。
- 接入模型时的“选择标签”:
调整模型生成倾向
可以从多个维度调整不同模型在生成内容时的随机性和多样性。平台提供以下预置的模式供你选择,每个模式的模型参数取值不同。
- 精确模式:模型的输出内容严格遵循指令要求,可能会反复讨论某个主题,或频繁出现相同词汇。
- 平衡模式:平衡模型输出的随机性和准确性。
- 创意性模式:模型输出内容更具多样性和创新性,某些场景下可能会偏离主旨。
- 自定义:你也可以根据需求,选择“自定义设置”,修改每个模式下的具体参数值。建议不要同时调整生成温度和核采样,以免在多参数的影响下难以判断每个参数的调整效果。
配置项 |
说明 |
---|---|
温度 |
即temperature,用于控制结果的随机性。 调高温度会使得模型的输出更多样性和创新性,反之,降低温度会使输出内容更加遵循指令要求但减少多样性。建议不要与核采样同时调整。 |
核采样 |
模型在输出时会从概率最高的词汇开始选择,直到这些词汇的总概率累积达到核采样值,这样可以限制模型选择这些高概率的词汇,从而控制输出内容的多样性。建议不要与温度同时调整。 |
历史对话轮数 |
设置带入模型上下文的对话历史轮数,轮数越多相关性越高。参数取值0~20。 |
最大回复长度 |
用于控制聊天回复的长度和质量。一般来说,最大回复长度值设置较大,生成较长和较完整的回复,同时会增加生成无关或重复内容的风险。较小的最大回复长度值可以生成较短和较简洁的回复,但可能导致生成不完整或不连贯的内容。因此,需要根据不同的场景和需求来选择合适的最大回复长度值。 |
重复语句惩罚 |
用于阻止模型频繁使用相同的词汇和短语,取值范围为-2~2。
|