产品服务
语音技术
图像技术
人脸与人体识别
视频技术
AR与VR
自然语言处理
数据智能
知识图谱
软硬一体产品
专项解决方案
定制化训练平台
深度学习开放平台
内置离线识别SDK,5分钟快速搭建人脸识别业务应用
硬件开源,软件开放,为机器人打造软硬一体的视觉方案
看得准、听得懂、说得明、交互好的一体化服务机器人
快速完成用户身份核实,确保真人且为本人
在复杂环境下自动识别特定人员及异常行为
针对准入场景,提供行业定制的全流程方案
辅助坐席人员实时了解客户意图,推荐话术应答
参会人邀请注册、刷脸签到、与会人统计管理平台
提供自研的数据仓库、日志分析、数据挖掘等方案
人脸注册、人脸捕获、会员识别整套解决方案
可视化训练模型服务平台,获取高精度的定制图像识别服务
自助定制专属模板,实现海量单据卡证的结构化识别
智能对话系统开发平台,让产品快速拥有对话交互能力
集合代码环境、算法算力和数据集的线上一站式开发平台
提供深度学习系列公开课与商业案例
最符合中国开发者需要的深度学习框架
基于真实样本的超大规模的开放数据集
AI加速器
AI市场
资讯
社区
百度AI内容审核系列 解决内容安全监管难题
发布日期:2017-12-15 16:07:49浏览量:7580次

近年来,移动社交、直播平台、图片社交等网络平台兴起,用户生产内容成为这些企业核心发展模式,但随之而来的涉黄、涉暴、涉政、广告等内容安全问题也日益凸显。数个知名平台和企业因涉黄被关闭或处罚,部分企业甚至雇佣数百人进行内容人工审核,企业的内容监管风险及成本之高让人咋舌。如何解决内容安全问题成为行业最大的痛点。

近日,百度AI开放平台上线全面的内容审核产品,支持图像、文本、音频、视频等多形式的审核。用户登录百度AI开放平台即可获取这些技术,实现对上传的图片、文本(包含评论、自制歌单)、视频等内容的有效审核,提升效率并降低人工审核成本,进行全面内容把控,防止多形式的垃圾信息传播扩散,规避企业运营风险。

据介绍,针对图片和视频形态的内容,百度推出的图像审核方案,基于深度学习技术,使用精准的算法模型,可快速精准识别图片和视频中的涉黄、涉暴涉恐、政治敏感、微商广告及令用户不适的内容和事件场景等,从而帮助开发者规避相关风险。

同时,百度图像审核具有用户头像审核功能,能从是否合规、是否存在人脸、图片清晰度、图片美观度等维度进行检测,有效提升产品内容品质。

图像审核

百度图像审核方案还能协助企业审核人员进行个性化审核规则配置,用户可以根据自己的业务情况,对各个审核维度的默认报警阈值进行调整,使得产品更贴合实际的需求。目前,该方案可以实现24小时不间断服务,单图毫秒级响应,准确率达99.7%以上,大大提升网络平台内容审核的效率以及准确度,真正实现为开发者产品保驾护航。

  除了图像视频外,用户评论、聊天内容、网络文字、注册信息等文本内容也是安全问题的重灾区,百度文本审核则重点解决这一问题。据了解,百度文本审核技术运用业界领先的深度学习技术,经过大规模样本训练,可以一站式准确检测识别文本中夹杂的色情内容、恶意推广URL、低俗辱骂、政治敏感等垃圾内容,从而自动化、智能化判断一段文本内容是否规范,极大减少人工审核工作量,降低内容风险。

文本审核

在社交、游戏等场景中,针对用户语音转文字的聊天内容,通过百度语音识别技术与文本审核技术的结合,可以进行不良信息过滤,在前端页面显示中不予显示,达到净网的作用。

截止目前,百度AI内容审核产品已经应用于百度网盘、百度贴吧等百度各类内容产品中,并与云净网、齐家网等企业达成了深度合作。其中,第三方网络内容安全服务商云净网运用百度图像审核技术,为中国移动飞信、融云等客户提供定制化的内容安全解决方案,帮助客户智能检测图像中的文字、水印、二维码、条形码等各种广告内容,发现图片中存在的敏感脸、音视频、广告色情等内容,很好地规避了内容安全风险,获得客户的高度认可。从云净网后台客户数据反馈的结果来看,百度AI技术让云净网审核效果得到了非常的大的提升,目前所有内容形态的识别准确率均已达到95%以上。

在网络内容安全领域,随着百度开放人工智能技术,未来这一行业问题有望得到更好的解决。随着越来越多的网络平台和企业应用百度AI内容审核技术产品,百度的技术模型有望越来越智能和精准,更多的企业都将从中获利,从而形成内容安全领域的良性生态循环。

 

查看内容审核系列产品详细介绍:图像审核文本审核视频审核