百度的内容审核技术中图文审核服务准确的识别各种带文字的广告图片,打击了黑产团伙,使得整个平台的内容更加干净,节约了1/6的审核时间,有效提升了审核效率,节约了大量审核成本。
核心诉求
美柚APP的她她圈社区中,允许用户发布带图的话题和回复,但某些黑产团伙却会借机发布一些人工生产的带有各种复杂背景的文字广告。由于广告属于人工生成,所以有着字体变种多、内容变化快的特点,大量的人工生成的的广告图片会影响整个社区的运营。如何有效地过滤各种带有广告文字的图片,是美柚她她圈社区的核心诉求。
解决方案
当用户使用美柚APP她她圈发布内容时,美柚会调用百度内容审核的图文审核和文本审核接口。
(1)图文审核服务能够准确提取用户上传图片中的文字内容,并审核图片上文字的的合规性,判断文字是否有恶意推广倾向,高效及时地将含有违规内容的图片进行自动删除,24小时保障社区内容安全。
(2)文本审核接口能够判断文本内容是否符合网络发文规范,实现自动化、智能化的文本审核,大幅节省审核的人力成本,为社区的内容安全保驾护航。