永利皇宫登录网址:当AI试图成为黑客,网络安全

2019-11-16 06:51栏目:财经资讯
TAG:

作者:百度安全 韦韬

科技云报道原创。

9月16日,第三届“国家网络安全宣传周”在上海拉开帷幕。在本届大会上,我们看到了众多厂商的全新安全解决方案。而作为全球人工智能创新技术的代表厂商,百度安全生态体系则尤为令人瞩目。

永利皇宫登录网址 1

在刚刚落幕的第20届Blackhat大会上,“机器学习”被反复提及,人工智能在网络安全各个领域得到广泛探索和应用尝试。人工智能在网络安全领域已经从早期的概念炒作,向方案落地转变。

网络安全一直以来是人类智慧和经验高度凝结的领域,也是很多科幻电影中人类对抗外星种族或邪恶机器最后的防线。当有一天人工智能开始获得了人类黑客的行为方式后会发生什么?

安全的意义已发生了巨大的变化

面对计算机系统和网络的缺陷和漏洞,黑客们找准机会实施攻击,白帽黑客则利用黑客技术来测试网络和系统的性能以判定它们能够承受入侵的强弱程度。短短几年时间,人工智能已进驻多个行业,落地无数场景。其中一些行业和场景已为大家所熟知,还有一些正在进入我们的视野,在网络安全领域,AI“白帽”正成为网络安全工程师的得力助手。

当人工智能遇上网络安全,在纷繁复杂的技术与应用方案背后,可以归纳成执行层、感知层、任务层和战略层四大层面的智能化,不仅帮助解决现有的一些安全难题,未来的发展也非常有想象空间。

永利皇宫登录网址 2

本次展会,百度的展位总计可分为9大板块,分别展示了:百度安全应急响应中心,GPS定位安全,公共Wi-Fi安全,百度内容安全,AI安全,和智能驾驶安全以及人脸识别等技术演示。从百度安全旗下的参展产品和技术来看,当下的安全市场早已不是简单的杀毒软件,而是覆盖到生活的方方面面。

据报道,近日美国市场调研公司CB Insights发布报告预测了2019年人工智能行业的发展趋势,其中一个趋势便是用人工智能发现网络威胁。

网络安全新战场需要AI填补人才紧缺

谷歌的机器学习系统最近创建了属于自己的加密算法,这是AI在网络安全中获得的最新成功。

今年6月,《中国人民共和国网络安全法》正式实施,这是我国第一部关于网络安全工作的基本大法。安全法的出台,则是因为新挑战的出现。根据高德纳咨询的报告预测,到 2020 年,全世界将有 200亿的物联网设备相互连接,如此海量的终端设备通过互联网连接在一起,安全问题其实也会同时与日俱增。

正在赋能网络安全

目前网络安全已经进入了一个崭新的时代,面向各种新战场,需要新的架构、新的方法、新的编程语言来支撑我们应对越来越艰巨的战斗。新战场以黑产对抗、反勒索软件、反Insider-based APT、物联网/车联网这些新方向为代表。比如很多摄像头、智能门锁、儿童手表,都是成批次的被攻破,车联网与智能车的安全问题也引起业界的严重关注和顾虑。

据New Scientist报道,谷歌机器学习研发部门Google Brain不久前成功通过三个神经网络之间的相互攻击,成功让系统创建了属于自己的算法。

事实上,经过20多年的发展,互联网不再只是一个行业,如今整个社会都运转在互联网上、运转在软件上,再加上现在物联网、车联网、工业互联网的发展,真实物理世界和网络虚拟世界的界限早已被打破,线上线下全都连通。

“人工智能技术的蓬勃发展,为网络安全攻防带来的,不仅有机遇,也有挑战。”北京理工大学网络攻防对抗技术研究所所长闫怀志接受科技日报记者采访时说。

众所周知,在移动互联网时代,安卓的碎片化生态几乎已经失控了。不少手机厂商对某些低版本的手机系统都不再进行升级,尽管还有很多用户在用,这就带来了严重的安全隐患,恶意代码可以轻易通过攻击几年前的安卓漏洞来获利。进入物联网时代,这种情况会更加严重。很多硬件厂商在开发产品的时候完全没有考虑引入专业安全服务,最终面临严峻的安全漏洞时却难以应对。

名为Bob和Alice的两个神经系统会向彼此收发消息,而第三个神经系统Eve则会试图窃取并解码消息。没人告诉它们如何加密信息,但Bob和Alice自行开发出共享的安全密匙,让Eve无法访问具体内容。

WannaCry勒索病毒的全球爆发可能是近两年安全世界的一个分水岭,这让我们意识到,安全问题已不仅仅只是影响网络世界,还切切实实给正常的社会秩序带来了极大的破坏。而在可预见的未来里,每个大城市都有一个庞大的基础设施,连接着市民与水、电、交通和其他重要资源,这些系统正通过网络越来越多地连接起来,一旦黑客入侵这个系统,很有可能在短时间内让整座城市瘫痪。

先说好的一面。360安全研究院邹权臣博士告诉科技日报记者,目前人工智能已经应用于恶意代码检测、恶意流量检测、威胁情报收集、软件漏洞挖掘等网络安全领域。

一方面是新的攻击不断涌现,另一方面防守方却显得捉襟见肘了。安全的核心是对抗,而对抗是多维度的、持续的。为了进行有威慑力的对抗,最大的挑战还是缺少高素质安全专业人才。在这种情况下,我们只能靠AI,也就是靠人工智能来填补人才空缺。

在大多数测试中,Bob与Alice可以很快找出安全的通讯方式,让Eve无法破译密码。有趣的是,这些神经系统使用了一些特别的方法,在我们人类开发的加密系统中很少出现。这些方法很有可能比人类所设计的最好方法还要复杂,但由于神经网络会以不透明的方式来解决问题,很难破解他们的具体运作方式。

如今的网络安全已上升到了国家安全层面,如果再像以前孤立地站在信息系统安全,或者网络空间安全的角度谈安全,那样的角度已经不能够真正地去评估在下一个5年到10年,我们所面临的真正的风险和挑战。

“例如在恶意代码检测方面,人工智能通过对恶意程序的API调用序列、系统CPU利用率、收发的数据包等信息,自动识别恶意代码的特征,进而判定分类。”邹权臣介绍,相比于传统的基于动静态分析的特征检测、启发式检测技术,人工智能可以大幅度提升检测的准确率。

对于人工智能的看法业界出现两极分化:一种观点认为AI可以帮人类完成一切工作,另一种认为AI会毁灭人类。事实上没有绝对的黑白,AI的作用也远远没有这么极端。AI能做什么?吴恩达教授给出了很好的解释:一方面,正常人类1秒内能做出的判断,AI也能做的很好。比如无人驾驶时代已经悄然来临,人脸识别、语音识别,现在机器也能够做到很高的准确率。另一方面,通过大量已经发生过的具体重复事件,AI能很好的预测即将发生的事情。

这提出了一系列的问题:人类破译AI生成的加密到底有多难呢,而由AI加密的这种系统到底有多安全?AI为人类带来的是更安全的网络,还是令网络安全问题变得更加复杂?

人工智能为何是百度安全的突破口?

360安全研究院研究员张德岳介绍,在软件漏洞挖掘方面,采用人工智能技术从漏洞相关的数据中提取经验和知识,并用训练好的模型提高漏洞挖掘的精度和效率,可以缓解当前该领域研究遇到的一些瓶颈问题,具体应用场景包括漏洞程序筛选、源代码漏洞点预测等。

当AI遇到网络安全

永利皇宫登录网址 3

与往年的网络安全周不同,百度安全在此次展会上真实给我们演绎了人工智能技术在全新应用领域中的智能解决方案。百度安全正借助底层人工智能技术,将百度安全能力与客户场景深入结合。

“人工智能在网络安全领域的应用日益广泛,运用人工智能赋能网络空间安全,主要体现在主动防御、威胁分析、策略生成、态势感知、攻防对抗等诸多方面。”闫怀志说,其中包括采用人工神经网络技术,来检测入侵行为、蠕虫病毒等安全风险源;采用专家系统技术,进行安全规划、安全运行中心管理等;此外人工智能方法还有助于网络空间安全环境的治理,比如打击网络诈骗。

当AI遇到网络安全时,又会发生什么样的化学反应呢?

AI显著提升网络安全运维效率

安全的新挑战,很显然给百度这样的科技创新公司带来了新的机会。由于网络威胁特性的演化,在今天的网络空间安全对抗过程需要重构和进化,打造新的网络安全生态体系已迫在眉睫。而人工智能很可能就是百度的突破口。

具备明显“过人之处”

网络安全是一个非常复杂的体系,可以分为执行层、感知层、任务层和战略层。现在AI已经可以在执行层和感知层有不错的应用,同时在任务层和战略层已经开始摸索,但还处于比较初期的阶段。

虽然Eve的表现似乎证明了神经系统并不擅长破译加密信息,但研究人员表示,神经网络在理解通信元数据方面和计算机网络流量分析上相当有效。许多人认为机器学习在这些领域上可为网络安全作出贡献,因为现代AI很擅长发现模式,而且跟人类相比,AI还可以处理更多的数据。

1、安全隐患升级对技术有了新要求

与传统的应对网络安全的方式相比,人工智能确实展示了其“过人之处”。

执行层:显著提高安全运维效率

在执行层,AI可以显著提升安全工具的规则运维效率。规则体系的触角在整个安全网络体系里面的延伸非常广泛,包括像杀毒、WAF、反SPAM、反欺诈等。

人脸认证是目前人工智能在安全领域最成功的一个应用,生物特征的唯一性这彻底解决了密码泄露带来的潜在威胁。但想要实现顺滑的人脸认证体验,必须要有人工智能技术和系统化安全技术做全面支撑。

在闫怀志看来,人工智能方法在解决人力所不及的安全大数据统计和抽取规律方面具备天然优势,它能够全面提高威胁攻击的识别、响应和反制速度,提升风险防范的预见性和准确性。特别是在异常行为检测等应用场景模糊的非精确识别和匹配方面,更是如此。

在执行层,AI可以显著提升安全工具的规则运维效率。规则体系的触角在整个安全网络体系里面的延伸非常广泛,包括像杀毒、WAF、反SPAM、反欺诈等。这些领域在传统模式中需要大量的人力来维护,比如像反欺诈系统里面可能有上千条规则,这些规则之间存在着很多的冲突,某些规则组合甚至超出了人的理解能力,人在维护这些规则的时候也常常会出现问题。

这些领域在传统模式中需要大量的人力来维护,比如像反欺诈系统里面可能有上千条规则,这些规则之间存在着很多的冲突,某些规则组合甚至超出了人的理解能力,人在维护这些规则的时候也常常会出现问题。

百度安全在这次展会上给大家演示了百度人脸认证的应用。如今百度的人脸认证已经能够在秒级内完成超过90%的高可信验证比率,显著高于业界平均水平,除此之外,百度在声纹识别、用户行为识别等领域做了很多应用探索和尝试。值得一提的是,百度在最近与首都机场正式签署了战略合作协议,协助机场打造智慧运行、智慧安全等建设工作,在更多的实际场景中百度正在输出自己的能力。

“人工智能针对未知威胁和攻击的检测也更出色。因为传统的特征匹配方法对未知威胁几乎无能为力,而人工智能方法有时不需要先验知识,对未知威胁的检测能力较强。”闫怀志说。

而依靠AI,就可以很好的解决这些情况,机器学习已经展示出非常强大的价值。它可以自动生成规则,不用依靠庞大的人力资源来维护。而且安全事件通常是大量发生的,所以AI能够比较好的识别判断下一次事件。

而依靠AI,就可以很好的解决这些情况,机器学习已经展示出非常强大的价值。它可以自动生成规则,不用依靠庞大的人力资源来维护。

而随着物联网和车联网的应用,很多摄像头、智能门锁、儿童手表,都是成批次的被攻破,车联网与智能车的安全问题也引起业界的严重关注和顾虑。百度在这次展会上则为我们介绍了智能驾驶安全业务板块,这为百度智能驾驶提供了安全护航的保障。此外,百度安全还通过现场所演示的对智能汽车的破解,清晰的传达出当前网络安全企业在攻防两段应有的能力。

不得不说,人工智能系统还具备成本效益优势。闫怀志认为,人工智能可以在第一时间发现和识别预防威胁,并立即启动应急响应,高效的智能检测流程有助于减少人工参与、简化流程、降低成本、减小损失。

AI是如何做到的呢?机器学习能自动生成规则,但是其中的学习深度还是有一定的区分。“浅学习”以SVM、Random Forrest、GBDT等算法为代表,它还需要很多的人工特征工程来准备特征向量,然后由算法自动完成分类识别。在风控领域,运用最广泛的是GBDT(很多比赛的冠军都是用GBDT),但是当特征维度上升到数千维后,深度学习的优势就开始慢慢展现出来。深度学习和“浅学习”存在一个很大的区别,就是深度学习对特征工程的依赖减弱很多,它能比较好的自动提取特征,可以生成深度学习模型,比如CNN和RNN技术等。

安全事件通常是大量发生的,借助AI的强大计算能力,可以实时处理数以百万计的数据点,同时生成预测,所以AI能够比较好的识别判断下一次事件,帮助企业和网络保险公司获得最精确的网络风险评估。

永利皇宫登录网址:当AI试图成为黑客,网络安全的四层智能化革命。无论是人脸识别还是智能驾驶的安全,其实都离不开人工智能技术的运用,这显然也会给安全企业带来新的挑战。

“传统的应对网络安全的方法依赖于人工硬编码定义、提取特征的方式完成相关任务,而人工智能可以直接对原始数据进行训练,从大量的数据中提取特征,自动完成分类判定的工作。”张德岳说,如此一来后者既可以提高网络安全中预测、防范、检测、销控等各个风险环节的自动化和智能化程度,又能提升响应速度和判定的准确率。

举例而言,AI在移动杀毒引擎的应用效果明显。众所周知,现在病毒种类的变形越来越多,大多数黑产都会进行不同的尝试。如果用人工来构建那些恶意代码的识别特征,就需要构建一套非常庞大的体系,不仅慢而且难以维护。百度利用深度学习技术在这方面取得了非常出色的成果,在历次AV Test测试中长期保持第一。去年百度安全在顶级安全工业界会议 Blackhat Europe 上就此成果做了专题报告,也是目前全球安全工业界第一个有实质性进展的深度学习应用技术报告。

除此之外,检测异常流量对安全公司来说也是个巨大的挑战,因为每家公司都有不同的流量消耗方式。不过,通过寻找跨协议相关性,不依赖侵入性的深度数据包检查,分析内外部网络流量中无穷无尽的元数据相关性,AI技术就能检查异常网络流量。

2、企业处理危机的应急能力需要提升

不能靠它包打天下

另一个例子是AI在网页安全中的应用,效果也非常显著。目前网页安全的威胁主要包括三类:第一种欺诈类网站,包括虚假高校、虚假药品、假冒贷款、仿冒火车票、虚假金融证券、仿冒飞机票、虚假中奖、仿冒登录、虚假招聘等;第二类是存在风险的网站,主要包括网页挂马、恶意代码、隐私窃取、恶意跳转、僵尸网络通信、木马下载主机等;第三类是违法网站,包括色情和博彩等。

智能化的网络安全道路且长

安全的核心是对抗。没有对抗和威慑的防守,是注定失败的防守,而面对日趋严峻的安全威胁,安全企业需要不断升级自身的技术实力。实际上,在新型互联网环境下,网络黑产的犯罪行为并非是固定的木马或病毒攻击,多为黑客通过挖掘数据端口漏洞,再通过特定的攻击手段实施攻击行为。

“虽然人工智能搅动了网络安全领域的一池春水,但是应该理性看待人工智能在应对网络安全方面的优缺点,不能指望全靠人工智能来包打天下。”闫怀志说,人工智能在应对网络安全问题时,也有较强的局限性。

百度每天爬取索引的数据中,有1%~5%的URL包含不同程度的恶意信息,如果不加防护将会对网民带来巨大的伤害。百度安全通过规则体系、机器学习、深度学习、深度学习以及威胁情报挖掘等网址安全复合检测算法来保障网站的安全。目前,百度安全利用机器学习进行网页检测,对恶意信息的防护已经取得了很好的成果。单条样本检测时延已经小于10ms,对非法网站的识别准确率已经超过99%。百度安全团队也受国际安全学术泰斗 UC Berkley Prof. Dawn Song 邀请,在 Singapore Cyber security Consortium 上就此成果做了专题报告。

网络安全是一个非常复杂的体系,现在AI已经可以在执行层有不错的应用,但是想让AI学习一个高水平的白帽黑客,将AI应用于网络安全任务层和战略层,还在向智能化的方向摸索。

这就需要安全企业具备高于黑客的攻防能力,网络对抗的意义就是攻防,只有先于黑客发现存在的安全漏洞,才能提供针对性的解决方案。但企业来说,当威胁来临之际的应对能力也至关重要。

邹权臣分析,这一方面受限于人工智能算法本身的能力。因为传统的机器学习技术依赖特征提取,而算法的效果和性能又依赖识别和提取特征的准确性。深度学习具有在高维数据中自动提取特征的能力,同时面临着持续学习、数据饥饿、可解释性等问题。

感知层:生物特征识别与对抗的兴起

比如最著名的就是DARPA主办的CGC大赛,比赛让7个顶级团队构建自动化系统,对有缺陷的服务程序做自动加固,然后相互攻击,不仅要抵抗外来攻击,同时还要反击对手。但是,所有的逻辑都是人预先设定好的,也就是说,目前仍然停留在自动化阶段。

永利皇宫登录网址:当AI试图成为黑客,网络安全的四层智能化革命。进入物联网时代,「碎片化」其实比移动时代还要严重。很多硬件厂商在开发产品的时候,在生命周期中完全没有考虑引入专业安全服务,最终面临严峻的安全漏洞时却难以应对。这些安全隐患必然会带来强大的网络攻击,就像今天的很多摄像头带来的危险一样。

“另一方面机器学习、特别是深度学习过分依赖数据,但在恶意代码检测、软件漏洞挖掘等领域,目前仍然存在数据收集困难的问题,缺少较好的数据集用于训练,影响对相关领域的研究。”邹权臣补充说,另外人工智能严重依赖于耗费计算资源,复杂的深度学习网络需要同时计算成百上千万次的计算,需要强大的人工智能芯片计算力的支撑。

在感知层,当下最重要的应用就是生物特征认证。人脸认证是目前AI在安全领域最成功的一个应用。整个认证流程看起来简单,其实里面的技术相当复杂:首先需要在各种环境下准确追踪人脸,如果有偏差能够给予及时有效的提示;其次要在最小用户打扰的情况下完成可靠的活体识别,而不被虚假照片或化妆欺骗,能高速完成可信人脸数据对比。第三,设备和应用的安全状态也需要可靠的保障,一旦发现恶意攻击可以即时进行取证。最后,还必须要在云端对用户隐私信息有着严格的保护。因此,要实现顺滑的人脸认证体验,必须要有AI技术和系统化安全技术做全面支撑。

在感知层,人脸认证是AI在安全领域最成功的一个应用,然而谷歌的研究员已经在研究中发现攻击者可以欺骗AI系统,让它们以为自己看到了别的东西。

正是这种碎片化,使得互联网参与企业安全能力薄弱,缺乏应急响应能力,并最终没办法及时有效的对平台用户信息进行保护,最终成为网络黑产攻击的首要目标。这意味着企业需要有及时的响应能力。

闫怀志则从不同方面总结了人工智能的不足。比如,易于忽视或者抛弃人类专家在网络安全领域的知识和经验积累,对网络安全的复杂应用场景考虑不足,对于已知威胁的检测效率远低于传统的精确特征识别方法等。

为什么要在安全过程中用AI感知来做人脸识别?因为银行或者运营商对于客户的实名认证环节,传统上是要靠人来完成的。但是人其实是在整个安全过程中最容易被攻破的一环,攻击者可以找到很多理由,比如最近胖了/瘦了/病了等来蒙混过关。如果是AI来做这件事,反而铁面无私,能够把这个体系构建的更加标准化,并随着技术的进步不断完善。

比如对一张大象照片里面的某些像素做改动以后,就可以让神经网络把它识别成一辆汽车。当神经网络用在安防摄像头中的时候,这就会成为实实在在的麻烦。根据研究员们所说,在脸上画几个记号就可以让摄像头以为你是别的人。

永利皇宫登录网址 4

“使用神经网络和深度学习等算法,能够较好地识别出未知攻击威胁风险,达到‘知其然’的目的,但是这些算法通常无法揭示产生这种安全风险的基本机理,也就是‘不知其所以然’,从而为从源头防御这种攻击风险带来极大障碍。”闫怀志说。

目前,百度的人脸认证已经能够在秒级内完成超过90%的高可信验证比率,显著高于业界平均水平,并且已经在实战中积累了很多活体识别对抗的经验和能力。除此之外,我们也在声纹识别、用户行为识别等领域做了很多应用探索和尝试。

因此,要实现顺滑的人脸认证体验,必须要有AI技术和系统化安全技术做全面支撑,以避免攻击者和其它怀有恶意的人发现系统中的漏洞。

在本次安全周大会上,百度安全就将企业安全应急响应中心搬入了体验展。百度应急响应中心不仅为企业提供了安全的运营平台,可以实时了解安全状态,处理安全事件,同时还帮助企业建立了完善完整的安全防御体系,解决方案包括覆盖网络安全的监控、对抗电信诈骗等14项主要功能和服务。

脆弱面带来安全风险

任务层和战略层:尚处在初级探索阶段

更为恐怖的是,随着利用物联网发动DDoS攻击日益猖獗,黑客可以对任何企业或个人发动攻击。

作为全球四大人工智能巨头之一,目前百度安全已经拥有全网安全监测、安全告警、安全攻防、攻击溯源等一系列安全能力。此外百度安全还拥有百度安全OASES开放自适应安全扩展系统(百度在业界首创用于解决Android生态安全问题的解决方案)、百度昊天镜威胁情报平台(百度安全业务下一代大数据智能情报分析平台)和AVP移动应用分析平台(新一代综合性移动安全服务SaaS平台)等一众安全平台产品。

人工智能在应对网络安全问题时,有时甚至会展现出脆弱的一面。

将AI应用于网络安全任务层和战略层,在某些国际大赛上已经开始尝试,但目前还只是封闭空间的自动对抗。其中最著名的就是 DARPA 主办的 CGC 大赛,比赛让7个顶级团队构建自动化系统,对有缺陷的服务程序做自动加固,然后相互攻击,不仅要抵抗外来攻击,同时还要反击对手。但是,这个还不能说是人工智能,因为所有的逻辑都是人预先设定好的。也就是说,目前仍然停留在自动化阶段,还在向AI方向摸索。

据思科预测,到2020年全球联网设备数量将从今天的150亿部上升到500亿部。由于受到软硬件资源限制,许多联网设备都不具备基本的安全防护措施。越来越多的智能设备连接入网,意味着潜在的攻击点也被扩大了,网络安全成为这个时代最大的问题之一。

3、人工智能具有可预知能力

“一个真实环境中的人工智能系统,会面临数据安全、模型/算法安全、实现安全等多方面的安全威胁。”张德岳告诉科技日报记者。

在安全的任务层和战略层要真正达到人工智能的高级阶段,首先要解决人工智能对开放空间的认知问题,包括世界认知、人性弱点、创造力、跨维打击等方面,其实还有很长一段距离。不过最近在相对封闭的任务空间中的人工智能探索研究,已经取得了很好的进展,相信在不远的将来会有一些颠覆性的应用产生。

永利皇宫登录网址 5

长久以来,企业的安全运营都是在用规则系统和自动化的流程来解决问题,但如今这个系统在大数据之下变得很不友好,因为数据量太过庞大,处理的过程也越来越繁杂。

张德岳举例说,在数据安全方面,在数据收集与标注时出现错误或注入恶意数据,将导致数据污染攻击;在模型/算法安全方面,针对人工智能算法存在黑盒和白盒对抗样本攻击,可导致识别系统出现混乱;在实现安全方面,除了人工智能系统本身的代码实现,其所基于的人工智能框架以及所依赖的第三方软件库中的软件实现漏洞,也都可能导致严重安全问题。

总结

因此,AI时代的防御机制已经演变成一个“云-管-端”的体系。云,就是大数据,可以认为是这个防御体系的大脑;管,就是管道,也就是网络边界;端,就是端点。利用云的存储和计算能力,再应用一些人工智能的算法来处理。

而依靠人工智能,就可以很好的解决这些情况,机器学习已经在安全领域展示出非常强大的价值。安全事件通常是大量发生的,借助人工智能能够比较好的识别判断下一次事件,不论是杀毒,还是反欺诈,都是很好的应用场景。

“人工智能对现有网络安全格局的影响,离不开算法、数据和计算能力3个方面,其容易遭受攻击的弱点也来自于此。”闫怀志总结说。

人工智能在网络安全领域的应用,执行层上面已经实用化,可以显著的提升规则化安全工作的效率,弥补专业人员人手的不足;在感知层面,可以把原本依赖于人的安全体系标准化,现在已经开始实现大规模的推广,包括人脸识别和图象识别等等;AI在任务层上的摸索刚刚开始,在某些封闭任务领域已经展现出很好的潜力;在战略层,由于开放空间的特性,AI的路还比较遥远,所以大家还不用担心“天啊,人类要毁灭了”这样的问题。同时,随着人工智能在安全领域的应用,围绕着人工智能技术本身的攻防对抗也成为学术界的研究热点,相信其中的研究成果很快也会在安全实践中得到应用。

当网络服务、安全设备和机器人都开始用上AI技术以后,这些担忧的确无法忽视。AI相关技术的运用可能会成为被攻击的点或者攻击手段。但是反过来说,这些新技术也能作为新的防御手段。

众所周知,百度正是人工智能领域的佼佼者。基于行业领先的人工智能安全技术,百度已经构建起了从手机、PC到云端三位一体的完整安全生态体系,并形成联动。在手机端,百度手机卫士提供的手机安全全面支持;PC端的百度杀毒和百度卫士,让电脑更安全也更快;云端安全技术则让网站的速度更快,让用户找到最短的上网路径。

对于防范人工智能的脆弱性所带来的安全风险,闫怀志指出:首先要从体系架构、系统算法容错容侵设计、漏洞检测和修复、安全配置等方面来增强人工智能系统自身的安全性;其次,要用其所长,尽量减小其暴露给外界的潜在攻击面;最后要构建网络空间安全综合防御体系,从安全技术和安全管理等层面来协同防范安全攻击,间接减缓攻击者直接针对人工智能系统发起攻击以及攻击成功的可能性。

对此,DeepMind 的AI安全研究负责人Shane Legg给出了他的看法:“AI发展得这么快,未来到底怎么样还很难说。这些技术可能被滥用、被攻破的方式有很多,负责任的做法就是要尝试理解这些方法,并且设计各种解决方法。”

如今百度利用深度学习技术在网络安全方面取得了非常出色的成果。通过规则体系、机器学习(浅层模型)、深度学习(文本)、深度学习(图片)以及威胁情报挖掘等网址安全复合检测算法,百度来保障网站的安全。目前,百度安全利用机器学习进行网页检测,对恶意信息的防护已经取得了很好的成果。单条样本检测时延已经小于10ms,对非法网站的识别准确率已经超过99%。

来自360安全研究院的专家也给出多个建议,其中包括:在数据获取过程中,要加强对数据来源的控制与过滤,在一定程度上保证数据安全可靠;在数据传输过程中,要使用更加安全的传输协议与加密算法;在人工智能系统的实现中,要保证代码质量并进行完善的测试,此外还要及时更新或修补框架或依赖库中存在的漏洞等。

虽然AI在安全方面多数的研究还是理论性的,但从AI技术的飞速发展和在许多工业应用中越来越重要的地位看来,相关研究还是开始得越早越好。

这种预测和防御体系对企业可以说至关重要,如今,人工智能被应用于各个垂直领域,为各个行业的发展带来了新的契机。同样,在安全领域,基于人工智能自主学习以及强大的数据库分析能力,越来越多的企业开始利用其对抗网络安全威胁,优化安全防护体系。在未来,基于人工智能的自主学习以及强大的数据库分析能力,人们有可能提前预知危险,真正做到将威胁扼杀在摇篮中,进而大大提高网络安全防御的敏捷性。

随着网络安全日益成为AI之间的战争,我们应该尽早开始思考这些问题的答案。毕竟,AI的操作方式会变得越来越难以捉摸,我们可能会不知道它们到底是我们的朋友还是敌人。

新技术、新形势为百度安全带来了什么样的机遇与挑战?

【科技云报道原创】

永利皇宫登录网址 6

我们必须要承认百度安全在网络安全能力方面的建设有目共睹,尤其是在内容安全领域。

去年7月,当网络黑产针对百度网盘进行撞库攻击时。百度安全不仅第一时间上线防护策略,并通过大数据分析进行攻击溯源,成功保护了用户账号安全的同时,更协助海淀网安部门抓获制造撞库工具、实施撞库犯罪的犯罪嫌疑人。

据百度安全官方披露的数据,截止2017年6月30日,百度风险词汇黑名单共收录有害信息样本36万多,不仅如此,有赖于黑名单的机器策略完善,最终有机会展现给网民的有害信息数量较2016年同期有所下降,降幅达25.92%。

在企业客户深恶痛绝但又往往无可奈何的DDoS攻击行为方面,百度安全借助建立的两大硬件、三大软件为核心的ADS中心,成功为联众游戏、百度云加速解决和防御了DDoS的攻击。

在移动端,百度为用户积极打造“移动安全生活”,百度手机卫士通过不断创新和细分产品功能,已集防吸费、智能防电信诈骗、省流量、安全支付和病毒查杀等多重功能于一体,安全服务已经覆盖用户移动生活的各个场景。

此外,百度伪基站智能识别和云查杀等高科技技术已被运用到移动安全服务当中。其中,伪基站识别是百度基于百度大数据打造的智能识别技术,能够对由伪基站发出的诈骗短信进行智能精准识别和拦截,识别率已高达96%。

而在追求安全技术创新的同时,百度安全实验室也早就开始布局人才长期储备“战略”,提供更多国际参赛及学习的机会,吸引并鼓励着广大黑客白帽人才。百度安全在中国、美国硅谷组建了数百人的安全专家团队,自主培养了多位漏洞挖掘专家。

随着《网络安全法》的正式颁布与实施,网络安全和信息化成为事关国家安全和国家发展、事关广大人民群众工作生活的重大战略问题。韩国产业研究院曾在一份调查研究中表示,“到2020年,因为信息安全问题导致的经济损失将达到180亿美元。”

未来涉及汽车、零售贩卖机、ATM机、安保摄像机、智能手机、VR眼镜和机器人等各种应用场景都可能会产生安全隐患,而在2015年,为解决物联网安全问题而产生的安全费用还不足行业年度预算的1%。根据Gartner预测,这一比例到2020年需要提高到20%。信息安防工作才刚刚开始,很多现有的成熟技术都会失去效用,这个行业将会诞生大量创新的机会。

万物互联的时代,这意味着联网设备的数量将会是移动互联网的十倍甚至上百倍,这也意味着整个信息安全市场也会被扩大数十倍。信息安全即将巨大的挑战,但这也带来了新机遇,而百度安全已做好了准备。

版权声明:本文由永利皇宫登录网址发布于财经资讯,转载请注明出处:永利皇宫登录网址:当AI试图成为黑客,网络安全