平台使用快速指引 方案一
本文为您使用产品与阅读产品文档提供快速指引。文中指引已按信息类别分为六部分, 您可先阅读每部分的简单介绍,了解该部分文档有哪些内容,然后点击下方的直达链接,查询更详细的文档。如果您只想阅读特定类别信息的指引,可点击页面上方的按钮,让页面只展示该部分信息。
快速了解千帆ModelBuilder
① 千帆ModelBuilder介绍
百度智能云千帆大模型服务与开发平台ModelBuilder(千帆ModelBuilder)是面向企业开发者的一站式大模型开发及服务运行平台。支持数据管理、自动化模型SFT以及推理服务云端部署的一站式大模型定制服务,助力各行业的生成式AI应用需求落地。
② 千帆ModelBuilder产品优势
平台具有基础强大、流程完善、运行稳定、安全可靠等优势。
③ 千帆ModelBuilder常用概念
平台使用涉及的概念包含数据服务、模型训练、模型管理、模型服务、Prompt工程等。
费用说明
提前了解平台各项服务费用,方便您掌握平台使用成本。
① 计费概述
平台提供了详细的计费大纲与辅助计算费用的工具,您可点击下方对应链接查看具体内容。
② 预置服务调用价格
平台预置推理服务支持多种灵活的计费方式,包括按量后付费、Tokens量包预付费、TPM配额预付费、TPM配额后付费等。
③ 部署模型服务调用价格
当前模型部署支持2种计费模式,按资源算力单元计费和按Tokens计费计费。
新手指南
快速上手平台使用。以最佳实践为例,铺设平台使用前提,节约学习成本。
① 平台使用快速开始
平台使用快速开始、SFT调优快速手册、文生图大模型快速调优手册,以及SFT垂直领域任务说明与示例。
② SFT最佳实践
本内容为您提供了SFT的支持文档,引导并指引市面上聚焦问题,帮助您方便并快速应用SFT。
③ 平台流量限制说明
什么是限制速率、为什么要限制速率以及如何限制速率。
④ 账号创建与权限分配
该部分包括账号创建与权限分配、添加消息接收人操作指南、角色与权限控制列表、通过子账户隔离实现账单隔离。
平台操作功能速览
平台支持丰富的模型训练方式,包括Post-Pretrain、SFT和偏好对齐(KTO、SimPO、RLHF、DPO)。同时,还提供精调样板功能,该功能精选特定业务场景,从训练数据至最佳训练参数都已准备好,您只需点击“去精调”按钮,即可一键复刻训练。
① 精调技巧
平台提供精调技巧指导,包括什么情况适合精调、如何准备数据、如何评估效果等。
② 精调样板
精调样板功能精选特定业务场景,从训练数据至最佳训练参数都已准备好,您只需点击“去精调”按钮,即可一键复刻训练。
③ Post-Pretrain
Post-pretrain是一种预训练的模型训练方法。在本平台中,我们需要先对泛文本无标注数据进行预训练,得到一个强大的通用语言模型。然后,在此预训练模型的基础上进行SFT,调整部分参数后,得到一个更强大的模型。
④ SFT
SFT实际上是Fine-Tuning的训练模式,开发者可以选择适合自己任务场景的训练模式并加以调参训练,从而实现理想的模型效果。
⑤ 偏好对齐
偏好对齐技术旨在让机器通过接收人类的反馈来不断优化其行为,从而更好地满足人类的期望。平台支持KTO、SimPO、DPO、RLHF。
常见问题
高频常见问题,在您平台使用过程中提供高优解决方案。
① 产品使用问题
该部分文档罗列了用户在使用产品时遇见的常见问题,如训练效果不佳如何处理等。
② 计费常见问题
该部分文档罗列了用户在产品计费方面提出的高频问题。
③ API/SDK相关问题
该部分文档罗列了用户在使用API/SDK时遇见的常见问题。
API调用&SDK相关
大模型的API调用接口及SDK介绍。
① 推理服务API
千帆ModelBuilder提供了丰富的推理服务API,包括对话Chat、续写Completions、向量Embeddings、批量预测等API能力。平台提供了不同版本内容,供开发者使用。
② 平台功能OpenAPI
千帆ModelBuilder提供了丰富的平台功能OpenAPI能力,包括TPM配额管理、私有资源池服务付费、Prompt工程、模型服务、模型管理、模型调优、数据管理、系统记忆等。
③ SDK参考
千帆ModelBuilder提供了多种语言的SDK,如Python、Go、Java和Node.js SDK。开发者可使用 SDK,快捷地开发功能,提升开发效率。SDK 支持推理服务API调用,如对话Chat、续写Completions、向量Embeddings等;也支持平台功能相关API调用,如模型管理、模型服务、模型调优等。
快速了解千帆ModelBuilder
① 千帆ModelBuilder介绍
百度智能云千帆大模型服务与开发平台ModelBuilder(千帆ModelBuilder)是面向企业开发者的一站式大模型开发及服务运行平台。支持数据管理、自动化模型SFT以及推理服务云端部署的一站式大模型定制服务,助力各行业的生成式AI应用需求落地。
② 千帆ModelBuilder产品优势
平台具有基础强大、流程完善、运行稳定、安全可靠等优势。
③ 千帆ModelBuilder常用概念
平台使用涉及的概念包含数据服务、模型训练、模型管理、模型服务、Prompt工程等。
费用说明
提前了解平台各项服务费用,方便您掌握平台使用成本。
① 计费概述
平台提供了详细的计费大纲与辅助计算费用的工具,您可点击下方对应链接查看具体内容。
② 预置服务调用价格
平台预置推理服务支持多种灵活的计费方式,包括按量后付费、Tokens量包预付费、TPM配额预付费、TPM配额后付费等。
③ 部署模型服务调用价格
当前模型部署支持2种计费模式,按资源算力单元计费和按Tokens计费计费。
新手指南
快速上手平台使用。以最佳实践为例,铺设平台使用前提,节约学习成本。
① 平台使用快速开始
平台使用快速开始、SFT调优快速手册、文生图大模型快速调优手册,以及SFT垂直领域任务说明与示例。
② SFT最佳实践
本内容为您提供了SFT的支持文档,引导并指引市面上聚焦问题,帮助您方便并快速应用SFT。
③ 平台流量限制说明
什么是限制速率、为什么要限制速率以及如何限制速率。
④ 账号创建与权限分配
该部分包括账号创建与权限分配、添加消息接收人操作指南、角色与权限控制列表、通过子账户隔离实现账单隔离。
平台操作功能速览
平台支持丰富的模型训练方式,包括Post-Pretrain、SFT和偏好对齐(KTO、SimPO、RLHF、DPO)。同时,还提供精调样板功能,该功能精选特定业务场景,从训练数据至最佳训练参数都已准备好,您只需点击“去精调”按钮,即可一键复刻训练。
① 精调技巧
平台提供精调技巧指导,包括什么情况适合精调、如何准备数据、如何评估效果等。
② 精调样板
精调样板功能精选特定业务场景,从训练数据至最佳训练参数都已准备好,您只需点击“去精调”按钮,即可一键复刻训练。
③ Post-Pretrain
Post-pretrain是一种预训练的模型训练方法。在本平台中,我们需要先对泛文本无标注数据进行预训练,得到一个强大的通用语言模型。然后,在此预训练模型的基础上进行SFT,调整部分参数后,得到一个更强大的模型。
④ SFT
SFT实际上是Fine-Tuning的训练模式,开发者可以选择适合自己任务场景的训练模式并加以调参训练,从而实现理想的模型效果。
⑤ 偏好对齐
偏好对齐技术旨在让机器通过接收人类的反馈来不断优化其行为,从而更好地满足人类的期望。平台支持KTO、SimPO、DPO、RLHF。
常见问题
高频常见问题,在您平台使用过程中提供高优解决方案。
① 产品使用问题
该部分文档罗列了用户在使用产品时遇见的常见问题,如训练效果不佳如何处理等。
② 计费常见问题
该部分文档罗列了用户在产品计费方面提出的高频问题。
③ API/SDK相关问题
该部分文档罗列了用户在使用API/SDK时遇见的常见问题。
API调用&SDK相关
大模型的API调用接口及SDK介绍。
① 推理服务API
千帆ModelBuilder提供了丰富的推理服务API,包括对话Chat、续写Completions、向量Embeddings、批量预测等API能力。平台提供了不同版本内容,供开发者使用。
② 平台功能OpenAPI
千帆ModelBuilder提供了丰富的平台功能OpenAPI能力,包括TPM配额管理、私有资源池服务付费、Prompt工程、模型服务、模型管理、模型调优、数据管理、系统记忆等。
③ SDK参考
千帆ModelBuilder提供了多种语言的SDK,如Python、Go、Java和Node.js SDK。开发者可使用 SDK,快捷地开发功能,提升开发效率。SDK 支持推理服务API调用,如对话Chat、续写Completions、向量Embeddings等;也支持平台功能相关API调用,如模型管理、模型服务、模型调优等。