核心诉求
在社交应用中内容审核是行业的一个痛点,色情信息和恶意广告会导致产品的用户体验极差。聊客是一款拥有3000万的注册用户的社交APP,为了保障良好的用户体验,提升内容审核的工作效率,聊客对审核技术的诉求如下:
1.针对文本的审核要能够对色情、恶意推广、低俗辱骂等文本进行快速处理,准确率需要达到95%以上;
2.针对聊天中的图片进行审核,尤其是针对广告的检测准确率需要达到95%以上;
3.图像审核技术需要支持自定义,让审核标准更贴合聊客的实际业务场景。
解决方案
接入百度AI文本审核和图像审核接口后,聊客平台可对用户上传的头像图片,以及在聊天互动中的文字进行高效审核。结合聊客本身业务场景,支持自定义其图像和文本审核的维度、阈值、文本黑库,准确地将违规的色情、涉政、恶意推广、广告等内容进行过滤,避免不良信息的传播。