戴上“白帽子” 人工智能投身网络安全攻防战

时间:2019-04-15 10:14:04  来源:科技日报

分享到微信朋友圈

打开微信,点击 “ 发现 ” ,使用 “ 扫一扫 ” 即可将网页分享至朋友圈。

戴上“白帽子” 人工智能投身网络安全攻防战

据报道,近日美国市场调研公司CB Insights发布报告预测了2019年人工智能行业的发展趋势,其中一个趋势便是用人工智能发现网络威胁。


面对计算机系统和网络的缺陷和漏洞,黑客们找准机会实施攻击,白帽黑客则利用黑客技术来测试网络和系统的性能以判定它们能够承受入侵的强弱程度。短短几年时间,人工智能已进驻多个行业,落地无数场景。其中一些行业和场景已为大家所熟知,还有一些正在进入我们的视野,在网络安全领域,AI“白帽”正成为网络安全工程师的得力助手。

据报道,近日美国市场调研公司CB Insights发布报告预测了2019年人工智能行业的发展趋势,其中一个趋势便是用人工智能发现网络威胁。

正在赋能网络安全

“人工智能技术的蓬勃发展,为网络安全攻防带来的,不仅有机遇,也有挑战。”北京理工大学网络攻防对抗技术研究所所长闫怀志接受科技日报记者采访时说。

先说好的一面。360安全研究院邹权臣博士告诉科技日报记者,目前人工智能已经应用于恶意代码检测、恶意流量检测、威胁情报收集、软件漏洞挖掘等网络安全领域。

“例如在恶意代码检测方面,人工智能通过对恶意程序的API调用序列、系统CPU利用率、收发的数据包等信息,自动识别恶意代码的特征,进而判定分类。”邹权臣介绍,相比于传统的基于动静态分析的特征检测、启发式检测技术,人工智能可以大幅度提升检测的准确率。

360安全研究院研究员张德岳介绍,在软件漏洞挖掘方面,采用人工智能技术从漏洞相关的数据中提取经验和知识,并用训练好的模型提高漏洞挖掘的精度和效率,可以缓解当前该领域研究遇到的一些瓶颈问题,具体应用场景包括漏洞程序筛选、源代码漏洞点预测等。

“人工智能在网络安全领域的应用日益广泛,运用人工智能赋能网络空间安全,主要体现在主动防御、威胁分析、策略生成、态势感知、攻防对抗等诸多方面。”闫怀志说,其中包括采用人工神经网络技术,来检测入侵行为、蠕虫病毒等安全风险源;采用专家系统技术,进行安全规划、安全运行中心管理等;此外人工智能方法还有助于网络空间安全环境的治理,比如打击网络诈骗。

具备明显“过人之处”

与传统的应对网络安全的方式相比,人工智能确实展示了其“过人之处”。

在闫怀志看来,人工智能方法在解决人力所不及的安全大数据和抽取规律方面具备天然优势,它能够全面提高威胁攻击的识别、响应和反制速度,提升风险防范的预见性和准确性。特别是在异常行为检测等应用场景模糊的非精确识别和匹配方面,更是如此。

“人工智能针对未知威胁和攻击的检测也更出色。因为传统的特征匹配方法对未知威胁几乎无能为力,而人工智能方法有时不需要先验知识,对未知威胁的检测能力较强。”闫怀志说。

不得不说,人工智能系统还具备成本效益优势。闫怀志认为,人工智能可以在第一时间发现和识别预防威胁,并立即启动应急响应,高效的智能检测流程有助于减少人工参与、简化流程、降低成本、减小损失。

“传统的应对网络安全的方法依赖于人工硬编码定义、提取特征的方式完成相关任务,而人工智能可以直接对原始数据进行训练,从大量的数据中提取特征,自动完成分类判定的工作。”张德岳说,如此一来后者既可以提高网络安全中预测、防范、检测、销控等各个风险环节的自动化和智能化程度,又能提升响应速度和判定的准确率。

不能靠它包打天下

“虽然人工智能搅动了网络安全领域的一池春水,但是应该理性看待人工智能在应对网络安全方面的优缺点,不能指望全靠人工智能来包打天下。”闫怀志说,人工智能在应对网络安全问题时,也有较强的局限性。

邹权臣分析,这一方面受限于人工智能算法本身的能力。因为传统的机器学习技术依赖特征提取,而算法的效果和性能又依赖识别和提取特征的准确性。深度学习具有在高维数据中自动提取特征的能力,同时面临着持续学习、数据饥饿、可解释性等问题。

“另一方面机器学习、特别是深度学习过分依赖数据,但在恶意代码检测、软件漏洞挖掘等领域,目前仍然存在数据收集困难的问题,缺少较好的数据集用于训练,影响对相关领域的研究。”邹权臣补充说,另外人工智能严重依赖于耗费计算资源,复杂的深度学习网络需要同时计算成百上千万次的计算,需要强大的人工智能芯片计算力的支撑。

闫怀志则从不同方面总结了人工智能的不足。比如,易于忽视或者抛弃人类专家在网络安全领域的知识和经验积累,对网络安全的复杂应用场景考虑不足,对于已知威胁的检测效率远低于传统的精确特征识别方法等。

“使用神经网络和深度学习等算法,能够较好地识别出未知攻击威胁风险,达到‘知其然’的目的,但是这些算法通常无法揭示产生这种安全风险的基本机理,也就是‘不知其所以然’,从而为从源头防御这种攻击风险带来极大障碍。”闫怀志说。

脆弱面带来安全风险

人工智能在应对网络安全问题时,有时甚至会展现出脆弱的一面。

“一个真实环境中的人工智能系统,会面临数据安全、模型/算法安全、实现安全等多方面的安全威胁。”张德岳告诉科技日报记者。

张德岳举例说,在数据安全方面,在数据收集与标注时出现错误或注入恶意数据,将导致数据污染攻击;在模型/算法安全方面,针对人工智能算法存在黑盒和白盒对抗样本攻击,可导致识别系统出现混乱;在实现安全方面,除了人工智能系统本身的代码实现,其所基于的人工智能框架以及所依赖的第三方软件库中的软件实现漏洞,也都可能导致严重安全问题。

“人工智能对现有网络安全格局的影响,离不开算法、数据和计算能力3个方面,其容易遭受攻击的弱点也来自于此。”闫怀志总结说。

对于防范人工智能的脆弱性所带来的安全风险,闫怀志指出:首先要从体系架构、系统算法容错容侵设计、漏洞检测和修复、安全配置等方面来增强人工智能系统自身的安全性;其次,要用其所长,尽量减小其暴露给外界的潜在攻击面;最后要构建网络空间安全综合防御体系,从安全技术和安全管理等层面来协同防范安全攻击,间接减缓攻击者直接针对人工智能系统发起攻击以及攻击成功的可能性。

来自360安全研究院的专家也给出多个建议,其中包括:在数据获取过程中,要加强对数据来源的控制与过滤,在一定程度上保证数据安全可靠;在数据传输过程中,要使用更加安全的传输协议与加密算法;在人工智能系统的实现中,要保证代码质量并进行完善的测试,此外还要及时更新或修补框架或依赖库中存在的漏洞等。(记者 刘园园)

编辑:塞班岛娱乐网站谢珊


分享到微信朋友圈

打开微信,点击 “ 发现 ” ,使用 “ 扫一扫 ” 即可将网页分享至朋友圈。
  • 了解陕西大事 关注陕西头条
  • 陕西本地最火图片社交APP
  • 世界级舞团Kinjaz成员Jawn Ha亮相西安SKP

    娱乐 今年春夏,杰尼亚XXX系列再度来袭,更是推出了系列经典之作个性化定制球鞋My Cesare 2019-04-23

  • “抖音”爆款《丽人行》亮相西安大雁塔快闪

    娱乐 据重庆市文化和旅游发展委员会相关负责人称,本次重庆《丽人行》走进西安,以重庆人演绎西安大唐的故事,是网红城市重庆向邻居西安发出的旅行邀请,欢迎西安市民到重庆体验“山水之城 美丽之地”的风采 2019-04-23

  • 林志颖晒双胞胎儿子近照 萌娃学认车笑容超软萌

    娱乐 “身为一个爱车的老爸,特别做了车标背板让他们认logo,老二对车特别有兴趣,学起来特别认真特别开心,老三比较特别喜欢ABC和数字,两个虽然是双胞胎但兴趣完全不一样,好有趣!”照片中的萌娃看着车的logo,笑得软萌可爱 2019-04-23

  • “拜师”综艺热播 情感类节目聚焦“师徒关系”

    娱乐 朴鹤冉认为,每个师父带来的形式不同,所以每期节目流程也不一样,“每次录制之前,我们都不会跟徒弟做录前沟通,所以他们更能真实地体会这个过程,真心感悟到一些东西,他们可以感悟到,才能带领观众感悟到 2019-04-23

  • 北影节天坛奖揭晓 窦靖童首次触电获最佳女配

    娱乐 在随后进行的颁奖典礼上,第九届北京国际电影节天坛奖各大奖项揭晓,天坛奖大奖颁发给丹麦电影、比利·奥古斯特执导的《幸运儿比尔》,陈建斌执导的华语片《第十一回》收获最佳编剧奖,而出演该片的窦靖童则获最佳女配角奖,《流浪地球》收获最佳视觉效果奖 2019-04-23

  • 真人版《阿拉丁》定档 威尔·史密斯化身灯神

    娱乐 影星威尔·史密斯(Will Smith)化身幽默诙谐、无所不能的灯神,带观众和阿拉丁与茉莉公主一起踏上魔毯御风翱翔 2019-04-23

  • 孙俪工作回家获儿子手写信 文笔稚嫩温馨有爱

    娱乐 4月21日晚,孙俪通过微博曝儿子等等给他的英文手写信,并幸福的写道 2019-04-22

  • 《复仇者4》这么强势 同档片会成炮灰吗?

    娱乐 作为现场唯一伴随漫威电影宇宙走过整整10年的主创,漫威影业总裁凯文·费奇也回忆起在2008年推出第一部《钢铁侠》时的心情 2019-04-22

  • 跨界如隔山 演员当导演,突破还是“车祸”?

    娱乐 其实投资方只要稍微有点判断力,稍微清醒一点,就不会鼓励演员转型当导演,明知失败还要这么做,只能说资本太盲目了,以为凭借自己对电影业一点粗浅的认识,就能手舞足蹈地大干一场 2019-04-22

  • 田海蓉获青年电影手册杰出表演奖 引发讨论

    娱乐 “田海蓉在女性励志大剧《正阳门下小女人》中饰演女主角陈雪茹,将近40年的时代风云变幻里,她出色的演绎了一个有着生存智慧,为自己而活的女性形象 2019-04-22

  • 修炼“内功”的韩城 用文化创意推介城市之美

    娱乐 从文创产业发展的角度来看,一些小城市也在试图打破了文创产业最有实力的一线城市垄断,韩城正在抓紧文创产业新业态的发展机遇,在文化创意产业推进城市软实力方面,对标一线大城市西安,开始动了 2019-04-19

  • 秒变迷弟!张智霖晒与钟楚红聚餐晒合影

    娱乐 “终于可以请到女神吃饭,好开心!”照片中,张智霖身穿黑色T恤配蓝色牛仔裤,一手插在裤兜,一手将搭在钟楚红肩膀上,钟楚红扎着丸子头,身穿条纹衬衫,头靠在张智霖肩膀上,露出甜美迷人的笑容,两人很是亲密 2019-04-19

网站简介 版权声明 我要投稿 联系塞班岛在线娱乐 服务 友情链接 工作邮箱 陕西不良信息举报

Copyright ©2006-2019 西部网(陕西新闻网) WWW.westapan.com, All Rights Reserved.
本网站法律顾问:陕西洪振律师事务所主任 王洪
陕ICP备07012147号 互联网新闻信息服务许可证: 61120170002 信息网络传播视听节目许可证:2706142