资讯 社区 文档
技术能力
语音技术
文字识别
人脸与人体
图像技术
语言与知识
视频技术

应用回复


【应用回复设置】支持配置组件知识库内容直接作为应用的最终回复,开启该功能后,当思考模型命中该组件或知识库后,将不再使用大模型进行二次总结,会直接输出组件输出或知识库切片。请注意,该功能同样会影响思考轮数,当命中该组件或知识库后,也将不会继续思考。

组件作为应用回复

1. 适用场景

  • 期望应用回复能够严格按照工作流组件规范的格式和内容输出:通过工作流创建了自定义组件后,已经规范了组件的输出格式,将组件添加到应用中后,希望能够延续组件的输出规范作为应用回复,便于后续二次开发和应用调用。
  • 期望减少应用的大模型调用从而缩短端到端耗时:组件输出结果已经满足业务诉求,不需要大模型做总结后回复,可以减少应用端到端耗时以及tokens消耗。
  • 期望应用回复能够以结构化JSON格式返回:在应用api和SDK调用过程中,便于解析应用回复字段,便于二次开发和应用集成。

2. 功能描述

  1. 应用配置页,点击【应用回复设置】,请注意,该功能使用请提前添加组件或知识库。

image.png image.png

  1. 目前支持作为应用回复的组件如下:

    1. 官方组件:百度搜索总结、相似问生成、风格转写、风格写作、文生图、必应图片搜索、天气查询、网页内容总结、周公解梦大师、彩票开奖结果、百度小说、长文档内容理解
    2. 自定义组件:全部已发布的自定义组件
    3. 第三方组件:其他开发者发布到组件广场的组件
    4. 特殊情况

      • 【百度搜索】组件不可作为终止节点
      • 含有【百度搜索】组件节点的自定义组件不可作为终止节点
      • 若有诉求,建议使用【百度搜索总结】组件,该组件兼容【百度搜索】组件的基本能力,并新增大模型总结后的text输出变量,支持配置模型及prompt。
  2. 组件回复模式支持【按模板配置格式回复】和【按原始JSON回复】。
    1. 如果选择【按模板配置格式回复】,可以在组件输出变量的前后进行固定话术配置,适用于智能客服等场景。
    2. 如果选择【按原始JSON回复】,将按照组件的输出变量进行原始输出,适用于API和SDK二次开发应用的场景。
    image.png

image.png

注意:

  • 如果选择【按模板配置格式回复】,输出内容将是text文本格式,在AppBuilder各分发渠道的前端渲染上,暂不支持多模态渲染
  • 若有诉求,可以使用MD语法在模板中输入,如下图所示 image.png image.png
  1. 开启终止节点后,可能会对多轮效果有影响:

    1. 如果选择【按模板配置格式回复】,对多轮对话效果影响不大,大模型可以理解上下文内容。
    2. 如果选择【按原始JSON回复】,则建议您将模型配置中的「参考对话轮数」更改为1,减少JSON格式对多轮对话的效果影响。
      image.png

知识库作为应用回复

1. 适用场景:

  • 严肃回复场景:需要应用严格按切片内容回复,不需要大模型改动切片内容。
  • 通过API和SDK获取知识库检索结果:仅需要使用知识库检索结果以及其中的具体字段,不需要大模型总结。

2. 功能描述

  1. 添加知识库后,点击顶部 【应用回复设置】,开启【组件/知识库结论可直接作为回复】,添加知识库作为 【回复节点】 。 screenshot-20240910-200911.png

image (6).png

  1. 知识库回复模式支持【按固定模版回复】和【按原始 JSON 回复】:
  • 按固定模版回复:答复时,应用将按照固定排版,展示检索到的切片内容。调试界面可以通过点击标题进入切片详情页面。分享页面不支持通过标题跳转。
  • 按原始JSON回复:答复时,应用以JSON格式返回切片内容。适用于API和SDK二次开发应用的场景

screenshot-20240910-211520.png

示例:按固定模版回复

screenshot-20240910-211603.png

示例:按原始JSON回复

上一篇
模型配置
下一篇
组件