产品服务
语音技术
图像技术
人脸与人体识别
视频技术
AR与VR
自然语言处理
数据智能
知识图谱
软硬一体产品
定制化训练平台
深度学习开放平台
内置离线识别SDK,5分钟快速搭建人脸识别业务应用
硬件开源,软件开放,为机器人打造软硬一体的视觉方案
看得准、听得懂、说得明、交互好的一体化服务机器人
可视化训练模型服务平台,获取高精度定制图像识别、声音识别服务
自助定制专属模板,实现海量单据卡证的结构化识别
智能对话系统开发平台,让产品快速拥有对话交互能力
集合代码环境、算法算力和数据集的线上一站式开发平台
提供深度学习系列公开课与商业案例
最符合中国开发者需要的深度学习框架
基于真实样本的超大规模的开放数据集
AI加速器
AI市场
资讯
社区
百度AI内容审核系列 解决内容安全监管难题
发布日期:2017-12-15 16:07:49浏览量:7919次

近年来,移动社交、直播平台、图片社交等网络平台兴起,用户生产内容成为这些企业核心发展模式,但随之而来的涉黄、涉暴、涉政、广告等内容安全问题也日益凸显。数个知名平台和企业因涉黄被关闭或处罚,部分企业甚至雇佣数百人进行内容人工审核,企业的内容监管风险及成本之高让人咋舌。如何解决内容安全问题成为行业最大的痛点。

近日,百度AI开放平台上线全面的内容审核产品,支持图像、文本、音频、视频等多形式的审核。用户登录百度AI开放平台即可获取这些技术,实现对上传的图片、文本(包含评论、自制歌单)、视频等内容的有效审核,提升效率并降低人工审核成本,进行全面内容把控,防止多形式的垃圾信息传播扩散,规避企业运营风险。

据介绍,针对图片和视频形态的内容,百度推出的图像审核方案,基于深度学习技术,使用精准的算法模型,可快速精准识别图片和视频中的涉黄、涉暴涉恐、政治敏感、微商广告及令用户不适的内容和事件场景等,从而帮助开发者规避相关风险。

同时,百度图像审核具有用户头像审核功能,能从是否合规、是否存在人脸、图片清晰度、图片美观度等维度进行检测,有效提升产品内容品质。

图像审核

百度图像审核方案还能协助企业审核人员进行个性化审核规则配置,用户可以根据自己的业务情况,对各个审核维度的默认报警阈值进行调整,使得产品更贴合实际的需求。目前,该方案可以实现24小时不间断服务,单图毫秒级响应,准确率达99.7%以上,大大提升网络平台内容审核的效率以及准确度,真正实现为开发者产品保驾护航。

  除了图像视频外,用户评论、聊天内容、网络文字、注册信息等文本内容也是安全问题的重灾区,百度文本审核则重点解决这一问题。据了解,百度文本审核技术运用业界领先的深度学习技术,经过大规模样本训练,可以一站式准确检测识别文本中夹杂的色情内容、恶意推广URL、低俗辱骂、政治敏感等垃圾内容,从而自动化、智能化判断一段文本内容是否规范,极大减少人工审核工作量,降低内容风险。

文本审核

在社交、游戏等场景中,针对用户语音转文字的聊天内容,通过百度语音识别技术与文本审核技术的结合,可以进行不良信息过滤,在前端页面显示中不予显示,达到净网的作用。

截止目前,百度AI内容审核产品已经应用于百度网盘、百度贴吧等百度各类内容产品中,并与云净网、齐家网等企业达成了深度合作。其中,第三方网络内容安全服务商云净网运用百度图像审核技术,为中国移动飞信、融云等客户提供定制化的内容安全解决方案,帮助客户智能检测图像中的文字、水印、二维码、条形码等各种广告内容,发现图片中存在的敏感脸、音视频、广告色情等内容,很好地规避了内容安全风险,获得客户的高度认可。从云净网后台客户数据反馈的结果来看,百度AI技术让云净网审核效果得到了非常的大的提升,目前所有内容形态的识别准确率均已达到95%以上。

在网络内容安全领域,随着百度开放人工智能技术,未来这一行业问题有望得到更好的解决。随着越来越多的网络平台和企业应用百度AI内容审核技术产品,百度的技术模型有望越来越智能和精准,更多的企业都将从中获利,从而形成内容安全领域的良性生态循环。

 

查看内容审核系列产品详细介绍:图像审核文本审核视频审核