模型配置
更新时间：2024-12-13
模型选择
你可以在模型配置中选择思考模型和问答模型，思考模型用于任务规划和选择组件，问答模型用于总结生成回复结果，支持选择平台预置模型及用户在千帆ModelBuilder创建的自定义模型（千帆平台精调训练模型+自定义开发或外部下载模型）。你可以参考平台资源大模型服务进行模型的选择和使用。也可以参考模型创建说明直接创建自定义模型——上传场景数据对预置模型进行微调（SFT）或导入自训练大模型，在特定场景下达到极致效果。
模型付费状态默认关闭，开启后，如果你已开通付费模型，免费资源消耗完毕后自动切换到付费资源，保障应用稳定可用，如需开启，请点击【修改配置】按钮前往资源额度页面。
模型效果配置
你可以配置最大思考次数和参考对话轮数，最大思考次数指在一轮对话中，组件调用的最大次数。推荐值为4，数值越大，可以处理更复杂的任务，但会增加响应耗时和Tokens消耗。
参考对话轮数是指传入大模型上下文的最大对话轮数。推荐值为2，数值越大，多轮对话中上下文相关性越强，但Tokens消耗越多。
| 模型 | 说明 | 模型选择 |
|---|---|---|
| 思考模型 | 用于任务规划和选择组件，适用于规划任务和调用能力环节 | ERNIE-4.0-8K：最准 ERNIE-4.0-Turbo-8K：准且快ERNIE-3.5-8K：较均衡 ERNIE Speed- AppBuilder：最高效价比 ERNIE-Lite- AppBuilder-8K：最快 |
| +思考模式 | 用于调整回答速度及回答质量 | 极速：更快响应，隐藏思考过程。建议搭配官方组件以获得最佳效果。思维链：稍慢但可追踪思考过程。适合与多个自定义组件配合，提升输出质量。 |
| 问答模型 | 用于总结生成回复结果，适用于知识问答环节 | 推荐使用ERNIE Speed- AppBuilder模型，性价比高 |
备注：你可以在千帆大模型平台查看各个模型的介绍和版本说明。多样性数值越高，每次输出的内容差异就越大。推荐多样性数值为0，可调节范围为0-1。