【案例】作业帮：内容审核为K12教育类软件保驾护航

价值成果

1、内容质量方面：作业帮通过接入百度AI文本审核服务，实时监控用户提交的违规内容；在文本审核与人工审核共同作用下，有效净化了平台浏览环境，树立良好企业品牌形象；
2、时效方面：全量先审后发的机制对时效要求较高，百度AI文本审核服务可高效对文本的内容进行识别，提升了超过30%审核效率，给平台提供可靠的安全保障，帮助作业帮搭建更安全的网络使用环境。

案例故事

核心诉求

作业帮致力于为K12领域中小学生提供全学段的服务，随着业务的发展，现阶段UGC提交量级不断攀升，用户提交的内容中不可避免地存在一些违规信息，同时，针对这类信息的召回率与【审核】准确率方面，要求策略的筛查能力必须【稳定保持】在98%以上，并且还需尽可能将召回内容的范围不断扩大；其次，人工审核面临巨大的压力，随着互联网的飞速发展，违规信息的展现形式千变万化，需更全面实时的审核策略，紧跟动态及热点，帮助平台净化网络环境，保障内容安全。

解决方案

作业帮整体业务流程，执行全量先审后发，全面防护青少年信息安全。

1、用户提交的ugc内容，实时请求百度AI文本审核服务；

2、根据文本审核服务返回结果，当提交的内容被策略命中后，执行删除操作；其余的提交内容将进入审核区，进行人工判定；

3、经过人工审核，被判定正常的内容进行展现。

业务流程图如下：

本案例中使用产品：文本审核

文本审核：https://ai.baidu.com/tech/textcensoring