核心诉求
随着读者之间以及书迷与作者之间的交流互动需求愈发强烈,纵横小说圈子社区的使用频次和频度也迅速提升。除了优质的UGC内容之外,其中也充斥着一些垃圾信息,包括言语辱骂,色情广告,恶意推广等。虽已有敏感词屏蔽等处理手段,但人工审核数据量依旧很大,存在周期长,时效性差等问题。
解决方案
纵横小说采取的策略是先让用户正常发送帖子或评论,后台异步将原帖子内容通过百度AI文本审核接口进行初步判断,然后把过滤后的疑似有问题的帖子放到待审核列表中,进入后续人工审核阶段。审核列表中包括百度AI判断后给出的问题类别,包括涉黄涉政,广告推广等,方便人工核实。除此之外,如果因为文字中出现敏感词,百度AI会返回具体哪个词有问题,在待审核列表中也会直接将该词标红,以便审核人员准确定位问题。
审核人员将待审核列表中的帖子一一浏览,如果确有问题则进行删帖处理,如果没有问题,则人工审核通过,前台依旧保留,用户可见。
流程示例如下: