资讯 社区 文档
技术能力
语音技术
文字识别
人脸与人体
图像技术
语言与知识
视频技术

配置文档审核策略

使用前须知

如果您还未阅读文档审核接口简介建议先阅读,本章节将会指导您如何在内容审核平台配置文档审核策略。

创建策略

策略是包含了用户审核规则的一条配置集合。一个应用(appid)下可以包含多条策略,如果您还未创建过应用,您可以在登录内容审核平台时按照引导创建应用。

填写策略基本信息

1.创建完应用后回到内容审核平台在策略中心选择对应的应用,并在右侧点击创建策略。
2.填写策略的基本信息后点击保存并继续

策略名称 appid 策略生效时间 联系人信息
在同一个应用下不能重名的策略名称 如果您发现之前选错了应用,可以在这里更换本策略归属的应用 选择策略启用和停用的时间,可以是长期有效,也可以是精确到分钟的时间段 策略可能会因为有效期等原因自动启停,届时将通过邮件通知联系人

编辑文档审核策略

1.勾选您需要审核的维度,这里包含了色情、暴恐等多个维度。这里需要特别向您介绍的是"百度官方违禁图库"这里包含了百度历史上所有审核为违规的视频,借助专业团队的视频审核能力帮助您的业务远离违规风险。
2.点击维度后的展开进行审核标签选择和松紧度设置,例如您可以点击色情识别后面的展开按钮,您将看到色情识别(审核维度)下面包含了18个子项(审核标签),您可以精确的选择需要过滤哪些标签,这么做的意义在于有些标签如‘儿童裸露'是否算违规在不同的业务场景中的判断是不同的。同时您也可以通过审核标签后面的滑动条调整审核的松紧度,松紧度的调整策略为:每个审核标签都有一个滑动条和两个调整审核松紧度的滑块,两个滑块将整个区域分为白色合规区、淡红色疑似区、红色违规区,红色区域越大越多的视频会落在这个区域,审核约严格,反之亦然。

如下图所示:

默认审核松紧度:

Alt text

审核更严格:

Alt text

审核更松:

Alt text

更多文档中的图像会被认为是疑似违规:

Alt text

注意点:只有您勾选了审核维度,对应审核维度下的审核标签才会起作用。例如:您未勾选色情识别(审核维度)前面的勾选框,即使您把一般色情、卡通色情等所有审核标签都勾选上,我们也会把命中这些标签的视频算作是审核通过。

策略验证与启用

策略验证

当您完成文档的审核规则配置后,点击生成策略,即可对策略的配置进行保存,此时您可以上传一些文档验证刚才您配置的策略。如下图所示: Alt text

策略启用(重要操作!)

验证效果满足需求后关闭验证页面,点击返回策略中心。

1.启用策略:鼠标悬停在对应策略上以后,在‘状态’栏下点击三角形启用按钮,将策略置为启用。
2.确认生效时间:确认您在创建策略时设置的生效时间,如果您需要修改,可以点击操作栏中的编辑,进入策略进行修改。
3.修改优先级:当一个应用下有多条策略时,线上的审核规则只会参照优先级最高的策略进行审核,正在生效的策略名称后会有绿色标识。具体优先级策略:在所有状态为启用,并且处于生效时间内的策略中挑选优先级最高的策略「P0最高、P1第二,以此类推」

调用策略

您可以通过API/SDK的方式调用审核策略,您使用哪个应用的aksk/token就会调用该应用下正在生效的策略。具体调用方法参加下方章节

上一篇
简介
下一篇
高级功能