【案例】内容审核技术帮助社区识别垃圾内容
AI最前线 发布于2019-03-05 浏览:5686 回复:6
0
收藏

价值成果

百度内容审核技术中的图文审核服务让美柚APP具备准确识别各类带文字广告图片的能力,强力打击了黑产团伙,使得整个美柚APP的平台内容更加整洁干净,有效提升了13.4%的审核效率,节约了3.6%的审核成本。

 

案例故事

核心诉求

美柚APP的她她圈社区中,允许用户发布带图的话题和回复,但这也给了某些黑产团伙发布人工生产的各类复杂背景文字广告的机会。由于这些广告属于人工生成,自身带有字体变种多、内容变化快的特点,大量此类型的广告图片将会影响整个美柚APP的社区运营成本。如何有效地识别各种带文字图片的能力,是社区的核心诉求。

解决方案

当用户从美柚APP上传一张图片时,美柚会调用百度的图文审核服务,准确提取图片中的文字内容,并将识别的文字通过算法服务进行检测,将含有违规内容的图片进行删除。

具体实现流程如下:

文本审核:https://ai.baidu.com/tech/textcensoring

图像审核:https://ai.baidu.com/tech/imagecensoring

收藏
点赞
0
个赞
共6条回复 最后由Randcase回复于2020-08-05
#7Randcase回复于2020-08-05

这模型训练的时候 是用的二分类吧

0
#6wangwei8638回复于2020-07-18

有些广告过滤不了

0
#5wangwei8638回复于2020-07-18

AI社区也在用吗

0
#4痛了会哭的骚年回复于2020-01-08

0
#3wangwei8638回复于2019-11-23

魔高一尺,道高一丈

0
#2笔墨哥回复于2019-03-06

AI社区也是棒棒哒~

0
TOP
切换版块