百度AI打假:年清理有害信息451亿
秘密花园jay 发布于2018-03 浏览:8279 回复:46
1
收藏

    随着互联网的迅猛发展,网络在给人们的生活带来便利的同时,爆炸的信息量也给信息安全治理带来难题。近日,两会和315的举办,让网络安全话题再度成为焦点。

  PC和移动互联网时代有具备完备功能的安全防卫产品,进入AI时代面临全新的安全问题。“我们发现很多黑灰产现在也开始应用AI的一些技术,其实它就是一种生产力,我们把AI的能力落实到安全治理上,去改善安全的效率,提升网络安全防护能力。”百度安全事业部产品总经理韩祖利曾透露,同时呼吁社会各界共同建设AI安全生态。

  近年来,百度通过AI技术打击网络黑产,拦截不良信息,成果颇丰。去年底,百度发布了《2017年度信息安全综合治理报告》,报告显示,2017全年百度安全共拦截恶意网页202.9亿个,处置有害信息451.2亿条。庞大的数字再次敲响了网络安全的警钟。

    面对日趋严重的网络安全威胁,百度将大数据、人工智能等核心技术展开多维度的赋能:利用多项AI技术,如自然语言处理、深度学习技术、图像识别技术等搭建内容风控一体化服务解决方案,通过风险策略模型、平台服务、服务应用,三个层次的全面防御。同时,百度对全网网址安全进行智能建模,进行7*24小时实时动态监控,对恶意网址采取风险标注、搜索降权、广告下线等多种拦截措施,有效降低了违法违规信息的风险威胁。

  从百度提供的资料看,2017年百度累计处理“涉嫌窃取用户隐私”恶意网站20.8万个,拒绝不良广告数21.3亿条。这意味着,不法分子正借助互联网展开了更迅猛的“攻击”。对此,百度通过机器策略与人工干预技术的迭代升级,在上线前,机器就已拦截超过99%的有害信息。

  互联网信息的指数增长对互联网平台责任提出的挑战更在于如何用技术解决巨量的内容审核。通常,审核包括资格审查、内容审查,以及内容上线后的动态审核。显然,后者是压力是巨大的。每天,百度的推广内容审核数量高达4.7亿条,百度利用机器系统实现95%以上的信息的审核,并建立了上千人的审查团队以加强审查力度,严格把控内容审核质量。

  值得注意的是,百度AI技术将安全防护触角从线上延伸到线下,对盘踞在网上的黑产全链条全盘铲除。去年12月,百度的“滤网行动”协助北京市公安局海淀分局,破获国内首例手机营销的新型侵犯用户隐私的黑产案件。

  百度公司CEO李彦宏称,每个公司都有属于自己的DNA,百度的DNA就是一家科技公司。据了解,百度每年有将近15%的收入投入技术研发,居全球前列。这些巨大的投入收获了诸多安全领域的技术专利,如“一种授权信息的识别方法及装置”的国家技术专利,通过自动化手段判断网站信息的合法性,减少变体词等侵权事件的发生。

  目前,百度已联合华为、中国信息通信研究院成立了国内首个“AI智能终端安全生态联盟”,开放了包括四项关键技术的全面的安全方案。这将更利于百度打击网络黑产、维护信息安全,打造清朗、安全的互联网环境。

收藏
点赞
1
个赞
共46条回复 最后由jyblbq1314回复于2018-11
#27秘密花园jay回复于2018-04
#23 笔墨哥回复
还是触发了敏感词,发不出去的话可以给论坛的小姐姐发邮件哟

小姐姐的邮箱好像有点不好用 hhh

0
#26人间月天回复于2018-04
#23 笔墨哥回复
还是触发了敏感词,发不出去的话可以给论坛的小姐姐发邮件哟

好的,确实是一不留神就带上,下次再没法通过,就给小姐姐发邮件。

0
#25秘密花园jay回复于2018-04
#24 笔墨哥回复
有时候一不留神带上了……

哇 已经是7级大神了 恭喜

0
#24笔墨哥回复于2018-04
#21 秘密花园jay回复
是 尤其敏感词或者推销性质的词 不容易通过

有时候一不留神带上了……

0
#23笔墨哥回复于2018-04
#20 人间月天回复
审核是严格,但是也有点太严格了,有的合规的也发不了。。

还是触发了敏感词,发不出去的话可以给论坛的小姐姐发邮件哟

0
#22酩酊醉酉回复于2018-04

网络安全问题值得花大力气去做,也不能矫枉过正

0
#21秘密花园jay回复于2018-04
#20 人间月天回复
审核是严格,但是也有点太严格了,有的合规的也发不了。。

是 尤其敏感词或者推销性质的词 不容易通过

0
#20人间月天回复于2018-04
#19 秘密花园jay回复
我觉的审核从源头就开始治理,比如咱们论坛发帖审核就很严格,不合规的信心是发不了的。
展开

审核是严格,但是也有点太严格了,有的合规的也发不了。。

0
#19秘密花园jay回复于2018-04
#18 人间月天回复
是的,所以才需要人工审核。

我觉的审核从源头就开始治理,比如咱们论坛发帖审核就很严格,不合规的信心是发不了的。

0
#18人间月天回复于2018-04
#15 笔墨哥回复
所以有一些时候会误判~

是的,所以才需要人工审核。

0
#17蓝兰兰111回复于2018-04
#16 秘密花园jay回复
目前就是缩小人工审核的范围

电脑审核就是减轻人工工作量

0
#16秘密花园jay回复于2018-04
#15 笔墨哥回复
所以有一些时候会误判~

目前就是缩小人工审核的范围

0
#15笔墨哥回复于2018-04
#13 秘密花园jay回复
哈哈 人脑的分析它们是做不到的

所以有一些时候会误判~

0
#14蓝兰兰111回复于2018-04
#13 秘密花园jay回复
哈哈 人脑的分析它们是做不到的

能把人脑分析过程模拟出来,这就太厉害了,估计到时候就没人类什么事了

0
#13秘密花园jay回复于2018-04
#12 笔墨哥回复
有时候和算法,感觉讲不出道理。。。

哈哈 人脑的分析它们是做不到的

0
#12笔墨哥回复于2018-04
#11 秘密花园jay回复
做一个智能审核机器人

有时候和算法,感觉讲不出道理。。。

0
#11秘密花园jay回复于2018-04
#10 蓝兰兰111回复
人工是最后一道防护了

做一个智能审核机器人

0
#10蓝兰兰111回复于2018-04

人工是最后一道防护了

0
#9笔墨哥回复于2018-03
#8 蓝兰兰111回复
嗯,现在向百度百家号什么的,应该都是AI和人工结合的

感觉如果到封号这个档次,审核还是要走下人工~ 

0
#8蓝兰兰111回复于2018-03
#7 笔墨哥回复
就怕误封、误删,不过确实能减少很多工作量~

嗯,现在向百度百家号什么的,应该都是AI和人工结合的

0
快速回复
小编推荐
AI的思维
Baidu Create 2018全程回顾
TOP
切换版块