资讯 文档
技术能力
语音技术
文字识别
人脸与人体
图像技术
语言与知识
视频技术

规则干预

在工作流Agent中,点击调优按钮,即可进入到应用调优的界面,调优功能支持通过规则干预的形式对应用对话中的问答进行干预,让应用可以输出开发者期望的标准答案。

功能示例

在“金融agent应用”中,如果用户提问了高风险内容,模型可能被诱导回复不良信息,如:

1.png

这个回答可能涉及法律风险,如果你希望模型可以自动识别用户提问,模型思考和回复过程中的关键词并按照规定的标准答案回复,就可以开启规则干预功能,在调优界面手动上传标准答案,作为干预数据:

2.png

即可实现对回答的干预,让应用可以输出预设的标准答案。

3.png

设置界面

4.png

【调优-规则干预】界面中支持干预规则的创建、编辑和删除等处理方式,通过维护和调整干预数据,你可以实现应用对话效果的调优。干预规则以关键词和标准回答的形式储存,关键词对应对话中终端用户的输入,模型思考及模型输出。

规则干预开启后,当⽤户问题或模型输出匹配关键词时,会⾃动调取标准回答答案输出,不再做其他分析,在【配置-预览与调试】界面可以测试数据干预的干预效果。

5.png

编辑干预规则

在规则启用后,您仍然可以点击编辑按钮对规则名词,触发条件,关键词固定回答等内容进行编辑。

6.png 7.png

数据干预敬请期待...

上一篇
背景图片
下一篇
应用发布