网络空间安全:行业资讯、技术分享、法规研讨、趋势分析……

“游侠安全网”创建了网络安全从业者的2000人超级QQ大群(群号:1255197) ,欢迎各位同仁加入!有其它问题如合作等,请联系站长“网路游侠”,QQ:55984512


AI筑起信息安全大坝 百度2017年处置451.2亿条有害信息

2018-01-03 07:40 推荐: 浏览: 44 views 字号:

摘要: 中新网1月2日电 随着互联网渗透到全民生活的方方面面,网络安全隐患成为当下备受关注的问题。在网络为人们打开获取信息的方便之门时,互联网企业既要架好桥梁,又须做好“守门人”。 近日,全球最大的中文搜索引擎公司百度发布2017年度信息安全综合治理报告。报告显示,百...

中新网1月2日电 随着互联网渗透到全民生活的方方面面,网络安全隐患成为当下备受关注的问题。在网络为人们打开获取信息的方便之门时,互联网企业既要架好桥梁,又须做好“守门人”。

近日,全球最大的中文搜索引擎公司百度发布2017年度信息安全综合治理报告。报告显示,百度全年处置有害信息高达451.2亿余条。该报告成为观察中国互联网信息安全发展趋势的重要窗口。

10类有害信息泛滥,淫秽色情类占近7成

该信息安全报告中统计了淫秽色情类、毒品类、赌博类、非法信息交易类、危险物品类、制假贩假类、诈骗类、暴恐类、侵权类、其他等10类危害社会安全及公民人身财产安全相关的有害信息。其中,2017年全年百度通过全方面手段处置的有害信息共达451.2亿余条,仅仅在上线前,机器就已拦截超过99%的有害信息。值得关注的是,所有类型中淫秽色情类占比高达68%,制假贩假类、赌博类紧随其后位列前三,占比分别为8.6%和7.2%。

信息安全治理是一项系统性工程,报告披露,百度内容安全中心采取“两拦一三”手段综合治理违法有害信息,即:第一次拦截操作,利用已有机器策略针对未上线的海量数据进行高速甄别并将有害信息大量剔除;第二次拦截操作,对上线后的展现信息,人工协同机器进行二次巡查;同时百度已在全产品范围内开放多类渠道接入来自个人、企业、政府职能部门等其他第三方的反馈。

针对10种不同类型的有害信息,防范拦截方法也各有不同:

淫秽色情类、赌博类、制假贩假类等有害信息,主要通过“主动巡查“策略进行拦截;

主动巡查-拦截有害信息分布情况

主动巡查-拦截有害信息分布情况

  其余有害信息如危险物品类、毒品类及非法信息交易类等,需要进行进一步的详细评估、判断,因此需要机器+人工的“自主清理”操作,百度2017全年利用自主清理共处置有害信息1.16亿条。

此外,通过用户、企业和政府机构各个渠道的第三方反馈收集处理,百度全年共清理有害信息高达4211539条。

人工智能威力显现,上线前拦截率超99%

2017年,人工智能不仅是火爆的业界概念,还上升为国家战略。百度拥有国内较为先进的AI技术能力,并将其应用在信息安全领域。报告指出,百度在2017年拓展出以百度内容安全中心为保障平台,以大数据、人工智能等为核心技术的全新安全整治领域。

AI应用建设三层风控一体化解决方案

AI应用建设三层风控一体化解决方案

  其中,百度内容安全中心基于百度AI能力,通过三层内容风控体系建设风险策略+模型、平台服务、服务应用,解决黄赌毒等违法信息存在的风险威胁。具体来看,百度利用自然语言处理、深度学习技术、图像识别技术等多项AI技术在内容类别上、网络架构上及后续迭代上实现增量训练;基于百度深度学习,利用千万级业务训练有害样本。

信息安全领域与AI技术的初步融合,让信息安全处置能力产生质的飞跃,目前,在上线之前百度机器人就已能拦截超过99%的有害信息。数据显示,经过内容安全领域与AI技术的初步融合,百度2017年相较于2016年的整体清理能力成倍增长,尤其在第四季度增长幅度尤为明显。

联合多方力量,共创信息安全建设生态

随着互联网的进一步发展,网络生态对全民生活的影响将持续加深,网络信息安全关乎每个人的权益,不仅要依靠政府或企业的干预,更应成为全社会共同努力的事业。百度报告指出,其开展的“净网2017”专项行动,从法制框架、技术管控、宣传和举报投诉等多方发力,给有害信息布上借助社会力量的“天罗地网”。

2017年,百度多次参与相关部门打击侵犯公民个人信息违法范围的专项行动,内容安全中心已打击上亿条公民个人隐私违法有害信息。

在6.26国际禁毒日期间,百度和相关机构合作,开展打击毒品违法有害信息的“天眼”专项行动,通过深入分析毒品的作弊特征,引入逆向溯源的反作弊手段,实现对源头内容、源头帐号、源头吧等原始内容的全量清除。11月22日,百度联合阿里巴巴、腾讯,牵头互联网企业群体力量,建立“打击网络野生动植物非法贸易”联盟,共同打击网络野生物贸易犯罪。

一方面,国家对信息安全的重视,以及相关立法、执法工作的不断完善,让相关企业能够在信息安全领域获得更多助力,另一方面,企业之间的合作营造信息安全行业生态,让互联网黑产在阳光之下无所遁形。

作为全球最大的中文搜索引擎公司和信息入口,百度承担着守卫信息安全的重要使命。人工智能技术的融入和发展、对有害信息特点的深刻认识以及全社会力量的汇聚,为提升中文互联网信息安全带来新的可能性,这让我们更有理由期待天朗气清的未来。

联系站长租广告位!

中国首席信息安全官


关闭


关闭