资讯 文档
技术能力
语音技术
文字识别
人脸与人体
图像技术
语言与知识
视频技术

平台使用指引



本页为您使用本平台提供快速指引,您可先阅读页面提供的简要介绍,快速了解平台功能,然后点击提供的链接,前往具体操作文档。

什么是千帆ModelBuilder

百度智能云千帆大模型服务与开发平台ModelBuilder(千帆ModelBuilder)是面向企业开发者的一站式大模型开发及服务运行平台。千帆ModelBuilder不仅提供了文心一言底层模型和第三方开源大模型,还提供了各种AI开发工具和整套开发环境,能帮助客户轻松使用、开发大模型应用。

文字与视频结合,为您详细介绍产品,包括产品定义与应用场景。

平台使用涉及的概念解释,包括数据服务、模型训练等等。

平台每周功能上新速览,提供快速链接直达新功能文档。

千帆ModelBuilder可以做什么

平台提供模型广场和体验中心,70+模型供您使用。

image

平台提供模型训练全流程工具链,助您开发AI应用。

image

您可以点击本页面顶部的按钮,查看以上特定功能的使用指引。

快速入门

平台使用快速开始:平台操作简单友好,产品界面配备完善操作指引。您可通过创建第一个SFT任务,用六个步骤快速体验平台基本功能。

开发者SDK快速开始:对于开发者,平台支持全栈API和高效SDK。您可通过Python SDK,调用ERNIE-3.5-8K大模型进行对话,快速体验SDK功能。

平台支持设置子用户,让企业内不同员工协同工作,并控制不同员工拥有的产品权限。

了解单位时间段内,用户访问API服务次数/消耗tokens数的限制,以及如何提升速率限制。

SDK支持多种语言,包括Go、Java、Node.js等,每种语言都提供快速入门教程。

模型体验与调用

有哪些模型

平台提供百度自研的文心系列大模型和其他第三方模型。您可以在模型广场筛选查看。

介绍了文心一言系列模型的能力、适用场景,以及提供的预置服务列表。

提供模型广场各项操作说明,以及模型广场接入的全部模型及版本列表。

每周模型上新、更新情况速览,提供快速链接,直达新模型API文档。

在哪使用

平台预置了70+丰富的模型,您可以在体验中心直接体验。也可将平台预置的模型部署为“我的服务”,生成您的专用调用链路。

您可在体验中心选择多个模型进行测试,对比它们的回答,还可以:设置模型参数、使用Prompt模板、快速查看对话背后的API/SDK代码。

支持查询所有平台预置服务,选择开通或终止服务付费。也支持通过“我的服务”创建专属在线服务,并进行发布、监控、下线、扩缩容等操作。

如何计费

对于上文提到的两种模型调用方式,其收费方式不同。

提供千帆价格计算器、平台所有计费项大纲、付费方式简述,以及余额不足提醒、欠费处理方式说明。

提供多种灵活计费方式,助您节约成本:按量后付费Tokens量包预付费TPM配额预付费TPM配额后付费

当前模型部署支持2种计费模式,按资源算力单元计费和按Tokens计费。

数据管理

可以管理哪些数据

您可处理用于模型精调的通用数据集,也可处理常用于模型评估的推理结果集。

用户可以自己创建数据集,也可以选择平台预置的70+各行业数据集。平台提供对数据集进行创建导出版本管理等操作的教程,以及每种格式数据的导入教程

推理结果集存储了模型推理的结果信息。您可以通过发起模型推理或直接导入创建,并可以在平台数据洞察、模型精调、模型评估等环节使用

有哪些数据处理方式

平台支持:数据标注、数据洞察、数据清洗、数据增强等处理方式。

支持在线标注(用大模型对数据集进行自动预标注)、多人标注(多人团队协作标注)、众测标注(由百度众测团队标注)。

帮助您了解已有的数据集质量,比如样本长度分布、字段缺失情况、某些场景的样本数量占比等,从而辅助确定如何提高数据质量。

对数据进行异常清洗、文本过滤、文本去重和去除隐私信息等处理,从而大幅提升数据质量,优化模型训练效果。

当实践中无法收集到数目庞大的高质量数据时,通过数据增强,对数据本身进行一定程度的扰动和扩充,从而产生"新"数据。

同时,平台还支持推理日志挖掘、知识库等数据相关功能。

将在线推理服务的对话数据保存至平台数据集,经进一步的数据洞察、处理、标注后,用于模型的迭代调优。

支持用户上传知识文件,让大模型在回答时依靠知识库进行推断回答,从而具备专业知识和私有知识。平台支持知识库管理命中测试

如何计费

涉及计费的功能主要包含:数据标注、数据增强、知识库相关和FAQ挖掘。

提供千帆价格计算器、平台所有计费项大纲、付费方式简述,以及余额不足提醒、欠费处理方式说明。

根据涉及的功能模块和调用的模型来决定具体计费,计费均照调用按量后付费形式进行,文档提供具体计费示例讲解。

模型精调

有哪些精调方式

平台支持SFT、Post-Pretrain、偏好对齐(DPO、KTO、SimPO、RFT、RLHF)、模型蒸馏等模型训练方式。

SFT,有监督微调,使用您针对特定任务的少量数据,对一个预训练模型进行重新训练,使模型在特定任务上表现更好。

Post-Pretrain,后预训练,基于大量的泛文本无标注数据,训练出一个定制的预训练模型。

直接偏好优化方法,根据用户正向负向反馈进行模型训练,高效对齐用户行为偏好。

直接偏好优化方法,根据用户正向负向反馈进行模型训练,高效对齐用户行为偏好。

简单偏好优化方法,通过简单而高效的方式,调整模型参数,从而在保持模型性能的同时,减少计算资源和内存的消耗。

RFT,通过自动化生成的奖励信号驱动模型优化,让模型通过多轮试错和反馈逐步提升推理能力,适合答案明确的场景。

基于人类反馈的强化学习,先使用人类的直接反馈创建一个奖励模型,然后用该奖励模型做强化学习的奖励参数。

通过调用教师模型产生问答对数据,再将该数据用于精调,得到成本更低、特定任务效果更好的学生模型。

怎么精调

对每种训练方式,平台都提供了详细操作教程,您可点击上方卡片的“操作教程”查看。平台还精选了特定业务场景,提供精调样板,供您一键复刻。

精调样板
文本创作字数控制V2(RLHF) 数据飞轮-「猜你想问」(SFT) 模型蒸馏训练方法(情感分析任务 SFT) 3小时极速蒸馏DeepSeek-R1 劳动合同关键信息提取(SFT) 客服对话多标签生成(SFT)
作文自动点评或批改(SFT) 小说人物角色扮演(SFT&KTO 英语口语练习(SFT) 购物平台客服对话摘要(SFT) 数学判题(SFT) 文本创作字数控制(SFT)

「什么情况下适合精调」 「如何准备有价值的训练数据」 「训练时如何从评估指标判断训练效果」

如何计费

对于模型精调,平台根据使用的精调方式和模型决定具体计费。

提供千帆价格计算器、平台所有计费项大纲、付费方式简述,以及余额不足提醒、欠费处理方式说明。

包括SFT、Post-Pretrain、偏好对齐(DPO、KTO、SimPO、RFT、RLHF)的计费详情,文档提供计费举例。

模型蒸馏在构建蒸馏数据集、进行学生模型训练两个环节涉及计费。

模型评估与优化

模型评估

平台支持对训练后的模型进行人工评估和自动评估,提供丰富的评估指标。

详细介绍了本平台模型评估功能的整体框架,供您快速概览评估功能。

自动评估支持自动规则打分与用模型做自动裁判员打分,支持平台预置指标与用户自定义指标,并提供评估报告供您分析结果。

人工评估支持自定义1-5个评估指标,并提供评估报告供您分析结果。

模型压缩

平台支持模型压缩,用于降低模型使用成本,同时保持性能。

您可先查看支持压缩的模型列表,再了解模型压缩的任务创建日志查看等操作。

模型纳管

对于您训练、压缩后的模型,可在“我的模型”处集中纳管,该模块还支持您导入第三方模型。

支持创建大语言模型、文生图、图像理解等三种模型,模型来源可选择平台训练任务模型或对象存储BOS,创建后支持详情查看、评估、压缩、部署、导出和删除等操作。

如何计费

模型评估涉及计费。模型压缩限时免费。

提供千帆价格计算器、平台所有计费项大纲、付费方式简述,以及余额不足提醒、欠费处理方式说明。

模型评估的计费由您选择的打分模式和评估数据来源等因素来决定。

推理服务部署

在线服务

您可将训练后的模型、平台预置模型等发布为在线服务。

该界面可在“预置服务”下查询所有平台预置服务,选择开通或终止服务付费。也可在“我的服务”下创建专属在线服务,并进行发布、监控、下线、扩缩容等操作。

平台支持投递服务的推理日志到BLS,支持投递日志到指定地域及指定日志组。

批量推理

对于预置模型和您自己的模型,平台都支持使其一次性对大量数据进行统一推理预测。

介绍了如何创建批量推理任务、如何查看批量推理的结果集。

应用接入

您可将服务打包为应用,生成AK/SK供用户调用。

介绍了如何创建应用,以及创建后的详情查看、监控、编辑、删除等操作。

系统管理与统计

统计功能

在调用统计界面,您可以看到服务使用量的统计信息。

支持查看平台预置服务和您自己创建的服务的使用量,可根据时间筛选,还可查看失败调用信息。

在应用接入界面,已创建的应用也提供“监控”按钮,点击可查看使用量。

管理功能

平台支持您进行资源、配额、API Key等方面的管理。

管理服务部署和模型调优相关资源,可进行算力单元的购买、续费、变配以及释放等操作。

对Tokens配额和RPM&TPM配额的概览查看、快速购买、续购。

支持百度智能云千帆ModelBuilder、百度智能云千帆AppBuilder、AI开放能力API Key的管理。

Prompt工程

什么是Prompt工程

Prompt是输入给大模型的指令。Prompt工程会对Prompt进行结构、内容等维度的优化,从而引导模型生成高相关、高准确且高质量的回答。

详细介绍Prompt工程涉及的概念与应用场景。

Prompt使用的三点基本原则和四条进阶技巧。

有哪些Prompt功能

平台支持Prompt模板、Prompt评估、Prompt优化等功能。

平台支持制作Prompt模板,并预置了200余款Prompt模板供您使用。制作的模板可在体验中心直接测试使用。

支持对Prompt进行打分及问题诊断,并提供修改建议,结合Prompt优化功能,可帮助您获得高质量Prompt。

支持对Prompt进行内容、质量、结构优化,包括在线优化和批量优化。

API与SDK相关

API相关

平台提供推理服务API和平台功能相关API。

提供丰富的推理服务API能力,包括调用对话Chat、续写Completions、向量Embeddings、图像Images、重排序Reranker、自定义模型、Token计算、批量预测等。有V1和V2两个版本,各版本支持的具体能力见API列表

image

提供丰富的平台功能OpenAPI能力,包括调用TPM配额管理、私有资源池服务付费、模型服务、管理、调优、数据管理、Prompt工程、系统记忆、实例资源自动续费、用户记忆等。

image

SDK相关

平台提供多种语言的SDK,供开发者快捷地开发功能。平台SDK支持推理服务API、平台功能相关API调用。

SDK总体介绍,包括支持的语言及版本、安装和使用说明、支持的功能、命令行CLI工具等等。

平台SDK支持的具体功能列表,分推理服务API(V1版本和V2版本)和平台功能OpenAPI两类。

常见问题

产品使用相关

如您有产品使用相关问题,可先阅读:「常见问题-产品使用相关」

计费相关

如您有计费相关问题,可先阅读:「常见问题-计费相关」

API&SDK相关

如您有API&SDK相关问题,可先阅读:「常见问题-API&SDK相关」

本页为您使用本平台提供快速指引,您可先阅读页面提供的简要介绍,快速了解平台功能,然后点击提供的链接,前往具体操作文档。

什么是千帆ModelBuilder

百度智能云千帆大模型服务与开发平台ModelBuilder(千帆ModelBuilder)是面向企业开发者的一站式大模型开发及服务运行平台。千帆ModelBuilder不仅提供了文心一言底层模型和第三方开源大模型,还提供了各种AI开发工具和整套开发环境,能帮助客户轻松使用、开发大模型应用。

文字与视频结合,为您详细介绍产品,包括产品定义与应用场景。

平台使用涉及的概念解释,包括数据服务、模型训练等等。

平台每周功能上新速览,提供快速链接直达新功能文档。

千帆ModelBuilder可以做什么

平台提供模型广场和体验中心,70+模型供您使用。

image

平台提供模型训练全流程工具链,助您开发AI应用。

image

您可以点击本页面顶部的按钮,查看以上特定功能的使用指引。

快速入门

平台使用快速开始:平台操作简单友好,产品界面配备完善操作指引。您可通过创建第一个SFT任务,用六个步骤快速体验平台基本功能。

开发者SDK快速开始:对于开发者,平台支持全栈API和高效SDK。您可通过Python SDK,调用ERNIE-3.5-8K大模型进行对话,快速体验SDK功能。

平台支持设置子用户,让企业内不同员工协同工作,并控制不同员工拥有的产品权限。

了解单位时间段内,用户访问API服务次数/消耗tokens数的限制,以及如何提升速率限制。

SDK支持多种语言,包括Go、Java、Node.js等,每种语言都提供快速入门教程。

模型体验与调用

有哪些模型

平台提供百度自研的文心系列大模型和其他第三方模型。您可以在模型广场筛选查看。

介绍了文心一言系列模型的能力、适用场景,以及提供的预置服务列表。

提供模型广场各项操作说明,以及模型广场接入的全部模型及版本列表。

每周模型上新、更新情况速览,提供快速链接,直达新模型API文档。

在哪使用

平台预置了70+丰富的模型,您可以在体验中心直接体验。也可将平台预置的模型部署为“我的服务”,生成您的专用调用链路。

您可在体验中心选择多个模型进行测试,对比它们的回答,还可以:设置模型参数、使用Prompt模板、快速查看对话背后的API/SDK代码。

支持查询所有平台预置服务,选择开通或终止服务付费。也支持通过“我的服务”创建专属在线服务,并进行发布、监控、下线、扩缩容等操作。

如何计费

对于上文提到的两种模型调用方式,其收费方式不同。

提供千帆价格计算器、平台所有计费项大纲、付费方式简述,以及余额不足提醒、欠费处理方式说明。

提供多种灵活计费方式,助您节约成本: 按量后付费Tokens量包预付费TPM配额预付费TPM配额后付费

当前模型部署支持2种计费模式,按资源算力单元计费和按Tokens计费。

数据管理

可以管理哪些数据

您可处理用于模型精调的通用数据集,也可处理常用于模型评估的推理结果集。

用户可以自己创建数据集,也可以选择平台预置的70+各行业数据集。平台提供如何对数据集进行创建导出版本管理等操作的教程,以及每种格式数据的导入教程

推理结果集存储了模型推理的结果信息。您可以通过发起模型推理或直接导入创建,并可以在平台数据洞察、模型精调、模型评估等环节使用

有哪些数据处理方式

平台支持:数据标注、数据洞察、数据清洗、数据增强等处理方式。

支持在线标注(用大模型对数据集进行自动预标注)、多人标注(多人团队协作标注)、众测标注(由百度众测团队标注)。

帮助您了解已有的数据集质量,比如样本长度分布、字段缺失情况、某些场景的样本数量占比等,从而辅助确定如何提高数据质量。

对数据进行异常清洗、文本过滤、文本去重和去除隐私信息等处理,从而大幅提升数据质量,优化模型训练效果。

当实践中无法收集到数目庞大的高质量数据时,通过数据增强,对数据本身进行一定程度的扰动和扩充,从而产生"新"数据。

同时,平台还支持推理日志挖掘、知识库等数据相关功能。

将在线推理服务的对话数据保存至平台数据集,经进一步的数据洞察、处理、标注后,用于模型的迭代调优。

支持用户上传知识文件,让大模型在回答时依靠知识库进行推断回答,从而具备专业知识和私有知识。平台支持知识库管理命中测试

如何计费

涉及计费的功能主要包含:数据标注、数据增强、知识库相关和FAQ挖掘。

提供千帆价格计算器、平台所有计费项大纲、付费方式简述,以及余额不足提醒、欠费处理方式说明。

根据涉及的具体数据功能模块、调用的模型来决定具体计费,计费均照调用按量后付费形式进行,文档提供具体计费示例讲解。

模型精调

有哪些精调方式

平台支持SFT、Post-Pretrain、偏好对齐(DPO、KTO、SimPO、RFT、RLHF)、模型蒸馏等模型训练方式。

SFT,有监督微调,使用您针对特定任务的少量数据,对一个预训练模型进行重新训练,使模型在特定任务上表现更好。

Post-Pretrain,后预训练,基于大量的泛文本无标注数据,训练出一个定制的预训练模型。

直接偏好优化方法,根据用户正向负向反馈进行模型训练,高效对齐用户行为偏好。

直接偏好优化方法,根据用户正向负向反馈进行模型训练,高效对齐用户行为偏好。

简单偏好优化方法,通过简单而高效的方式,调整模型参数,从而在保持模型性能的同时,减少计算资源和内存的消耗。

RFT,通过自动化生成的奖励信号驱动模型优化,让模型通过多轮试错和反馈逐步提升推理能力,适合答案明确的场景。

基于人类反馈的强化学习,先使用人类的直接反馈创建一个奖励模型,然后用该奖励模型做强化学习的奖励参数。

通过调用教师模型产生问答对数据,再将该数据用于精调,得到成本更低、特定任务效果更好的学生模型。

怎么精调

对每种训练方式,平台都提供了详细操作教程,您可点击上方卡片的“操作教程”查看。平台还精选了特定业务场景,提供精调样板,供您一键复刻。

精调样板
文本创作字数控制V2(RLHF) 数据飞轮-「猜你想问」(SFT) 模型蒸馏训练方法(情感分析任务 SFT) 3小时极速蒸馏DeepSeek-R1 劳动合同关键信息提取(SFT) 客服对话多标签生成(SFT)
作文自动点评或批改(SFT) 小说人物角色扮演(SFT&KTO 英语口语练习(SFT) 购物平台客服对话摘要(SFT) 数学判题(SFT) 文本创作字数控制(SFT)

「什么情况下适合精调」 「如何准备有价值的训练数据」 「训练时如何从评估指标判断训练效果」

如何计费

对于模型精调,平台根据使用的精调方式和模型决定具体计费。

提供千帆价格计算器、平台所有计费项大纲、付费方式简述,以及余额不足提醒、欠费处理方式说明。

包括SFT、Post-Pretrain、偏好对齐(DPO、KTO、SimPO、RFT、RLHF)的计费详情,文档提供计费举例。

模型蒸馏在构建蒸馏数据集、进行学生模型训练两个环节涉及计费。

模型评估与优化

模型评估

平台支持对训练后的模型进行人工评估和自动评估,提供丰富的评估指标。

详细介绍了本平台模型评估功能的整体框架,供您快速概览评估功能。

自动评估支持自动规则打分与用模型做自动裁判员打分,支持平台预置指标与用户自定义指标,并提供评估报告供您分析结果。

人工评估支持自定义1-5个评估指标,并提供评估报告供您分析结果。

模型压缩

平台支持模型压缩,用于降低模型使用成本,同时保持性能。

您可先查看支持压缩的模型列表,再了解模型压缩的任务创建日志查看等操作。

模型纳管

对于您训练、压缩后的模型,可在“我的模型”处集中纳管,该模块还支持您导入第三方模型。

支持创建大语言模型、文生图、图像理解等三种模型,模型来源可选择平台训练任务模型或对象存储BOS,创建后支持详情查看、评估、压缩、部署、导出和删除等操作。

如何计费

模型评估涉及计费。模型压缩限时免费。

提供千帆价格计算器、平台所有计费项大纲、付费方式简述,以及余额不足提醒、欠费处理方式说明。

模型评估的计费由您选择的打分模式和评估数据来源等因素来决定。

推理服务部署

在线服务

您可将训练后的模型、平台预置模型等发布为在线服务。

该界面可在“预置服务”下查询所有平台预置服务,选择开通或终止服务付费。也可在“我的服务”下创建专属在线服务,并进行发布、监控、下线、扩缩容等操作。

平台支持投递服务的推理日志到BLS,支持投递日志到指定地域及指定日志组。

批量推理

对于预置模型和您自己的模型,平台都支持使其一次性对大量数据进行统一推理预测。

介绍了如何创建批量推理任务、如何查看批量推理的结果集。

应用接入

您可将服务打包为应用,生成AK/SK供用户调用。

介绍了如何创建应用,以及创建后的详情查看、监控、编辑、删除等操作。

系统管理与统计

统计功能

在调用统计界面,您可以看到服务使用量的统计信息。

支持查看平台预置服务和您自己创建的服务的使用量,可根据时间筛选,还可查看失败调用信息。

在应用接入界面,已创建的应用也提供“监控”按钮,点击可查看使用量。

管理功能

平台支持您进行资源、配额、API Key等方面的管理。

管理服务部署和模型调优相关资源,可进行算力单元的购买、续费、变配以及释放等操作。

对Tokens配额和RPM&TPM配额的概览查看、快速购买、续购。

支持百度智能云千帆ModelBuilder、百度智能云千帆AppBuilder、AI开放能力API Key的管理。

Prompt工程

什么是Prompt工程

Prompt是输入给大模型的指令。Prompt工程会对Prompt进行结构、内容等维度的优化,从而引导模型生成高相关、高准确且高质量的回答。

详细介绍Prompt工程涉及的概念与应用场景。

Prompt使用的三点基本原则和四条进阶技巧。

有哪些Prompt功能

平台支持Prompt模板、Prompt评估、Prompt优化等功能。

平台支持制作Prompt模板,并预置了200余款Prompt模板供您使用。制作的模板可在体验中心直接测试使用。

支持对Prompt进行打分及问题诊断,并提供修改建议,结合Prompt优化功能,可帮助您获得高质量Prompt。

支持对Prompt进行内容、质量、结构优化,包括在线优化和批量优化。

API与SDK相关

API相关

平台提供推理服务API和平台功能相关API。

提供丰富的推理服务API能力,包括调用对话Chat、续写Completions、向量Embeddings、图像Images、重排序Reranker、自定义模型、Token计算、批量预测等。有V1和V2两个版本,各版本支持的具体能力见API列表

image

提供丰富的平台功能OpenAPI能力,包括调用TPM配额管理、私有资源池服务付费、模型服务、管理、调优、数据管理、Prompt工程、系统记忆、实例资源自动续费、用户记忆等。

image

SDK相关

平台提供多种语言的SDK,供开发者快捷地开发功能。平台SDK支持推理服务API、平台功能相关API调用。

SDK总体介绍,包括支持的语言及版本、安装和使用说明、支持的功能、命令行CLI工具等等。

平台SDK支持的具体功能列表,分推理服务API(V1版本和V2版本)和平台功能OpenAPI两类。

常见问题

产品使用相关

如您有产品使用相关问题,可先阅读:「常见问题-产品使用相关」

计费相关

如您有计费相关问题,可先阅读:「常见问题-计费相关」

API&SDK相关

如您有API&SDK相关问题,可先阅读:「常见问题-API&SDK相关」

下一篇
平台动态