资讯 社区 文档
【案例】纵横文学:文本审核技术助力打造绿色小说社区
发布日期:2018-04-15 15:52浏览量:2096次

概要:纵横小说通过接入百度AI文本审核技术对评论内容进行初步过过滤,之后只需人工对过滤后疑似有问题的评论进行二次审核即可,大大降低了人工成本,提高了审核效率。

 

客户简介

纵横文学为一家专注于内容消费和阅读的公司,旗下拥有产品:熊猫看书和纵横小说,公司立志于为广大内容消费用户提供更便利的工具和内容生产服务,此外随着内容消费市场的发展,目前针对IP运营,原创内容生产均有涉猎。

 

核心诉求

随着读者之间以及书迷与作者之间的交流互动需求愈发强烈,纵横小说圈子社区的使用频次和频度也迅速提升。除了优质的UGC内容之外,其中也充斥着一些垃圾信息,包括言语辱骂,色情广告,恶意推广等。虽已有敏感词屏蔽等处理手段,但人工审核数据量依旧很大,存在周期长,时效性差等问题。

 

 解决方案

纵横小说采取的策略是先让用户正常发送帖子或评论,后台异步将原帖子内容通过百度AI文本审核接口进行初步判断,然后把过滤后的疑似有问题的帖子放到待审核列表中,进入后续人工审核阶段。审核列表中包括百度AI判断后给出的问题类别,包括涉黄涉政,广告推广等,方便人工核实。除此之外,如果因为文字中出现敏感词,百度AI会返回具体哪个词有问题,在待审核列表中也会直接将该词标红,以便审核人员准确定位问题。

审核人员将待审核列表中的帖子一一浏览,如果确有问题则进行删帖处理,如果没有问题,则人工审核通过,前台依旧保留,用户可见。

流程示例如下:

社区内容审核流程

合作成果

通过接入百度文本审核技术,能准确的排查出广告推广等原人工审核容易遗漏的问题。在能实时保证纵横小说圈子社区内容安全的同时,降低了人工审核的工作量约80%。 

 

本案例中使用产品:文本审核

如需合作咨询可点击屏幕右下角标志,提交具体咨询信息;或可进入AI开发者社区,进行沟通交流。

技术能力
语音技术
文字识别
人脸与人体
图像技术
语言与知识
视频技术