资讯 文档
技术能力
语音技术
文字识别
人脸与人体
图像技术
语言与知识
视频技术

模型默认参数说明

开源模型默认参数说明

取值范围及默认值

千帆平台开源模型默认参数,主要由以下几部分因素组成,推理引擎预置的默认参数,模型自身的默认参数,模型技术报告当中推荐的默认配置。

  • 推理引擎默认参数:参数以及默认值如下
字段 类型 默认值 取值范围
temperature Float 1.0 [0,2]
top_p Float 1.0 [0,1]
frequency_penalty Float 0.0 [-2,2]
presence_penalty Float 0.0 [-2,2]
repetition_penalty Float 1.0 (0,2]
  • 模型自身默认参数:当模型具有generation_config.json配置文件,并且在其中设置了默认参数,则以generation_config.json文件中的默认参数为准。对于generation_config.json当中未包含的默认参数,使用推理引擎默认参数。
  • 模型技术报告的推荐默认配置:deepseek-r1的技术报告当中,建议不设置以下参数:temperature、top_p、presence_penalty、frequency_penalty、repetition_penalty、logprobs、top_logprobs。平台为了兼容已有软件,支持入参,但是不生效。

举例说明

DeepSeek-R1

字段 类型 传入后行为
temperature Float 不支持,忽略不报错
top_p Float 不支持,忽略不报错
frequency_penalty Float 不支持,忽略不报错
presence_penalty Float 不支持,忽略不报错
repetition_penalty Float 不支持,忽略不报错

说明:

  1. 没有generation_config.json配置文件
  2. 针对不支持的参数,用户可以不入参。如果入参,则必须符合平台要求的取值范围。

DeepSeek-v3

字段 类型 传入后行为
temperature Float 支持,按照官方论文做了映射,参考文档
top_p Float 支持,使用推理引擎默认值
frequency_penalty Float 支持,使用推理引擎默认值
presence_penalty Float 支持,使用推理引擎默认值
repetition_penalty Float 支持,使用推理引擎默认值

说明:

  1. 没有generation_config.json配置文件
  2. 温度映射逻辑:

image.png

Qwen3-8B

字段 类型 传入后行为
temperature Float 支持,按官方推荐思考模式下默认值为0.6,非思考模式下默认值为0.7,参考文档
top_p Float 支持,按官方推荐思考模式下默认值为0.95,非思考模式下默认值为0.8, 参考文档
frequency_penalty Float 支持,使用推理引擎默认值
presence_penalty Float 支持,使用推理引擎默认值
repetition_penalty Float 支持,使用推理引擎默认值

说明:

  1. 具有generation_config.json配置文件,地址:https://huggingface.co/Qwen/Qwen3-8B/blob/main/generation_config.json

ERNIE模型默认参数说明

ERNIE深度思考模型

模型范围

  • ernie-x1-turbo系列

取值范围及默认值

字段 类型 传入后行为
temperature Float 不支持,忽略不报错
top_p Float 不支持,忽略不报错
frequency_penalty Float 不支持,忽略不报错
presence_penalty Float 不支持,忽略不报错
repetition_penalty Float 不支持,忽略不报错

ERNIE旗舰模型

模型范围

  • ernie-4.5-turbo-vl系列
  • ernie-4.5-turbo系列
  • ernie-4.0-turbo系列
  • ernie-4.0系列
  • ernie-3.5系列

取值范围及默认值

字段 类型 默认值 取值范围
temperature Float 0.8 (0, 1.0]
top_p Float 1.0 [0,1]
frequency_penalty Float 0.0 [-2,2]
presence_penalty Float 0.0 [-2,2]
repetition_penalty Float 1.0 (0,2]

ERNIE主力&轻量模型

模型范围

  • ernie-speed系列
  • ernie-lite系列
  • ernie-tiny系列

取值范围及默认值

字段 类型 默认值 取值范围
temperature Float 0.95 (0, 1.0]
top_p Float 1.0 [0,1]
frequency_penalty Float 0.0 [-2,2]
presence_penalty Float 0.0 [-2,2]
repetition_penalty Float 1.0 (0,2]
上一篇
功能特性
下一篇
平台计费