功能特性
更新时间：2025-04-23
千帆ModelBuilder平台提供以下核心功能特性，您可通过对应链接快速体验：
模型能力
- 函数调用（Function Calling）：支持通过自然语言描述触发预定义函数，实现结构化数据交互
- 结构化输出：根据用户定义的JSON Schema格式生成规范化输出
- 联网搜索：实时获取网络信息并生成摘要结果
- 阅读助手插件：支持长文档/网页内容的摘要生成、结构化分析与信息提炼
- 对话前缀续写：根据用户提供的assistant消息前缀自动生成完整对话内容
推理优化
- 批量推理：支持大规模数据集的批量处理与统一推理，结果自动导出至指定位置
- 时延优化：提供大模型请求时延优化的最佳实践方案
- Prompt Cache：通过缓存机制降低首Token延迟，提升推理效率