AI加速器
资讯
社区
百度AI内容审核系列 解决内容安全监管难题
发布日期:2017-12-15 16:07:49浏览量:7015次

近年来,移动社交、直播平台、图片社交等网络平台兴起,用户生产内容成为这些企业核心发展模式,但随之而来的涉黄、涉暴、涉政、广告等内容安全问题也日益凸显。数个知名平台和企业因涉黄被关闭或处罚,部分企业甚至雇佣数百人进行内容人工审核,企业的内容监管风险及成本之高让人咋舌。如何解决内容安全问题成为行业最大的痛点。

近日,百度AI开放平台上线全面的内容审核产品,支持图像、文本、音频、视频等多形式的审核。用户登录百度AI开放平台即可获取这些技术,实现对上传的图片、文本(包含评论、自制歌单)、视频等内容的有效审核,提升效率并降低人工审核成本,进行全面内容把控,防止多形式的垃圾信息传播扩散,规避企业运营风险。

据介绍,针对图片和视频形态的内容,百度推出的图像审核方案,基于深度学习技术,使用精准的算法模型,可快速精准识别图片和视频中的涉黄、涉暴涉恐、政治敏感、微商广告及令用户不适的内容和事件场景等,从而帮助开发者规避相关风险。

同时,百度图像审核具有用户头像审核功能,能从是否合规、是否存在人脸、图片清晰度、图片美观度等维度进行检测,有效提升产品内容品质。

图像审核

百度图像审核方案还能协助企业审核人员进行个性化审核规则配置,用户可以根据自己的业务情况,对各个审核维度的默认报警阈值进行调整,使得产品更贴合实际的需求。目前,该方案可以实现24小时不间断服务,单图毫秒级响应,准确率达99.7%以上,大大提升网络平台内容审核的效率以及准确度,真正实现为开发者产品保驾护航。

  除了图像视频外,用户评论、聊天内容、网络文字、注册信息等文本内容也是安全问题的重灾区,百度文本审核则重点解决这一问题。据了解,百度文本审核技术运用业界领先的深度学习技术,经过大规模样本训练,可以一站式准确检测识别文本中夹杂的色情内容、恶意推广URL、低俗辱骂、政治敏感等垃圾内容,从而自动化、智能化判断一段文本内容是否规范,极大减少人工审核工作量,降低内容风险。

文本审核

在社交、游戏等场景中,针对用户语音转文字的聊天内容,通过百度语音识别技术与文本审核技术的结合,可以进行不良信息过滤,在前端页面显示中不予显示,达到净网的作用。

截止目前,百度AI内容审核产品已经应用于百度网盘、百度贴吧等百度各类内容产品中,并与云净网、齐家网等企业达成了深度合作。其中,第三方网络内容安全服务商云净网运用百度图像审核技术,为中国移动飞信、融云等客户提供定制化的内容安全解决方案,帮助客户智能检测图像中的文字、水印、二维码、条形码等各种广告内容,发现图片中存在的敏感脸、音视频、广告色情等内容,很好地规避了内容安全风险,获得客户的高度认可。从云净网后台客户数据反馈的结果来看,百度AI技术让云净网审核效果得到了非常的大的提升,目前所有内容形态的识别准确率均已达到95%以上。

在网络内容安全领域,随着百度开放人工智能技术,未来这一行业问题有望得到更好的解决。随着越来越多的网络平台和企业应用百度AI内容审核技术产品,百度的技术模型有望越来越智能和精准,更多的企业都将从中获利,从而形成内容安全领域的良性生态循环。

 

查看内容审核系列产品详细介绍:图像审核文本审核视频审核