资讯 社区 文档
技术能力
语音技术
文字识别
人脸与人体
图像技术
语言与知识
视频技术

高级功能

自定义数据集

如果您还不了解内容审核平台是做什么的,或者您还不知道应该怎样去创建一个审核策略,请先阅读接口简介配置文本审核策略
我们深知简单的策略配置可能无法满足您业务的审核需求,您可能已经有属于自己的图片黑库、文本黑库,以及在业务中您可能需要快速地对某些人物进行过滤,因此我们提供了自定义数据集功能,方便用户自定义额外需要拦截的人物、自定义图像、文本的黑/白名单。 所有自定义数据集的功能都在内容审核平台顶部的‘数据集中心'标签页中进行管理,完成添加后,您需要在对应策略的图像、文本黑/白名单的审核维度中添加对应数据集,从而对数据集中的内容进行拦截

自定义文本黑/白名单

点击自定义文本黑名单后点击[+自定义文本黑名单],输入数据集名称后点击上传文本黑名单,完成后点击保存,即可完成数据集创建。 后续需要添加词语时,可以直接在黑名单数据集列表中点击编辑进行txt文档上传或逐个增加词语。 文本白名单的使用方式和此流程一致。 请注意:单次词库上传仅支持扩展名为:.txt且文件大小不超过1M的文档

场景切换

为适配不同行业场景的审核标准,提供了严格/宽松两种场景供您选择使用。目前支持文本色情、敏感内容、低俗辱骂三个维度的场景切换功能。可根据您的实际业务需求来选择使用,合适的策略配置将有效提升内容审核的召回率和精确率。
切换方法:策略管理中选择需要编辑的策略,点击相应审核维度的“展开”按钮,选择严格或宽松场景(注:系统默认为严格场景)。如下图所示:
场景切换.png
严格/宽松场景应用范围介绍
(1)文本色情
严格场景:适合教育、金融等行业,对于色情违规内容要求严格的场景
宽松场景:适合私聊社交等,对于色情违规内容要求较宽松的场景
(2)敏感内容
严格场景:识别客观描述、正向或负向描述在内的敏感内容,适合游戏、金融等要求严格的场景
宽松场景:识别负向内容为主,适合新闻资讯等包含较多合规敏感内容的场景
(3)低俗辱骂
严格场景:适合社区论坛等,对于低俗辱骂违规内容要求严格的场景
宽松场景:适合私聊社交等,对于低俗辱骂违规内容要求较宽松的场景

多策略自动调度切换

我们深知单条策略无法满足用户日新月异的审核需求,比如在一些敏感时期、电商促销活动期,用户的审核规则都会有所调整,用户希望这个调整可以是自动的、平滑切换的,因此我们推出了单应用下多策略自动调度切换功能,用户可以为未来某个时间指定单独的审核策略,在预定的时间自动生效替换现有策略,并邮件通知相关人员,运筹帷幄,轻松掌控。 1.为未来某个时期创建单独的审核策略:在您正在使用的应用下点击[+创建策略],并对其中的图像、文本部分设置符合该时期需求的审核配置。 2.让该策略到期自动生效、失效:启用该策略,并且将该策略的生效、失效时间按需求进行调整,然后拖动该策略到最高优先级。这样操作不会影响目前生效的审核策略,因为新的策略还没有到达您设定的启用时间。 效果:当到达预定启用的时间,因为该策略为已启用的状态,并且优先级高于原有策略的优先级,则会自动替换原有策略,成为正在生效的策略,超过生效时间后,该策略会自动下线,审核策略自动切换回原有策略。两次切换的过程都会有邮件通知到您在创建策略时留下的邮箱地址。 正确的配置示例如下图: 7d4f6064829edfe4e93e66f96.png

上一篇
配置文本审核策略
下一篇
请求说明