核心诉求
旺彩是一款广受彩民喜爱的彩票行业社区工具产品,积累用户总数已经超过500万。作为一个非常活跃的彩票社区,每天有大量的用户发帖讨论,每日用户产生的文本内容量接近一万条。然而彩票行业的部分用户在网络上的自我保护意识缺乏,很容易在网络社区中上当受骗。上当受骗的第一步一般是添加了网上陌生人的联系方式开始的。因此,我们的业务需求要求能够识别各式各样的留联系方式的帖子或评论,在潜在的欺诈信息尚未扩散开之前就发现并进行审核。旺彩最核心的诉求在于,提高人工审核效率,加快帖子审核速度。
解决方案
在业务流程上面,旺彩的流程是先发后审,用户发表信息后,先经过百度AI进行机器判定,如果确定是欺诈信息,就直接做删除处理,如果是疑似,就进入人工审核池,如果正常则保持帖子可见状态不动。人工审核池里的帖子经人工审核后如果是正常内容的,将在前台可见,如果是违规帖,会做相应的处理(删帖、警告、禁言等)。另外,用户举报的帖子也会根据一定算法判断依据而进入人工审核池。