本文2751字阅读约需8钟
美国清静和新兴手艺中心近期宣布《机械学习与网络清静——猖獗炒作背后的真相》报告，，，，，，就机械学习手艺前进可能对网络清静爆发的潜在影响举行深入研究 。 。。。。。。。
一、摘要
近年来，，，，，，网络攻击的比重和规模都有所增添 。 。。。。。。。政府、媒体、学术和工业界的许多谈论人士都想知道：网络清静专业职员怎样能够使用机械学习来举行防御 。 。。。。。。。唬�；；；笛澳芊袢梅朗胤礁斓丶觳狻⒆璧补セ鳎� ？？？？？使用机械学习手艺的Agent能否自动寻找误差，，，，，，或者在爆发攻击时自动与敌手征战？ ？？？？？决议者应该将机械学习视为网络防御的厘革实力，，，，，，照旧仅仅看成是一场炒作？ ？？？？？
报告对网络清静和人工智能（AI）团结应用的潜力举行了中肯的评价，，，，，，将网络清静实践分成四个阶段的模子，，，，，，研究了近期的机械学习立异在每个阶段可能爆发的影响，，，，，，并将这些应用与现状举行比照 。 。。。。。。。
报告提出了四个结论：
机械学习可资助防守方更准确地检测、区分潜在的攻击 。 。。。。。。。许多情形下，，，，，，这些手艺仅是对已有旧要领的细化（而非根天性立异），，，，，，却引入了新的攻击面 。 。。。。。。。
机械学习可以使大宗特定使命实现完全或部分自动化，，，，，，包括某些误差发明、诱骗和攻击阻断 。 。。。。。。。但许多最具厘革性的要领，，，，，，仍有待于机械学习的重大突破 。 。。。。。。。
总的来说，，，，，，机械学习将会给网络防守方带来渐进式的前进 。 。。。。。。。但除非未来能够实现更多突破，，，，，，不然不太可能对整个行业爆发根天性厘革 。 。。。。。。。最具厘革性的影响，，，，，，充其量是让更多组织使用以前未使用或未充分使用的防御战略 。 。。。。。。。
机械学习既不偏向进攻，，，，，，也不偏向防御，，，，，，但某些类型的战略对攻击方或防守方更有吸引力，，，，，，使机械学习能玄妙地改变威胁名堂 。 。。。。。。。
二、简介
电子邮箱、网站浏览器这些效劳都使用机械学习来保唬�；；；び没馐芡绻セ� 。 。。。。。。。已往十年中，，，，，，随着组织面临的威胁愈发严重、手艺越来越成熟，，，，，，机械学习在网络清静中的作用也逐渐增强 。 。。。。。。。网络行动日益成为普遍的地缘政治工具，，，，，，这意味着许多组织将面临危害，，，，，，成为资源富厚攻击者的目的 。 。。。。。。。与此同时，，，，，，训练有素的网络清静专业职员设置缺乏，，，，，，难以知足日益增添的专业需求 。 。。。。。。。别的，，，，，，越来越多的研究机构推测，，，，，，不久的未来人工智能将被用来进一步加剧网络攻击 。 。。。。。。。
这种情形下，，，，，，研究职员、决议者和从业职员无一破例都在思索：机械学习是否能资助扭转网络攻击的战局 。 。。。。。。。公共媒体经常放纵报道机械学习可能极大地改善攻击检测能力，，，，，，而国防界人士则竞相谈论未来可以自主征采和驱赶入侵者的人工智能系统 。 。。。。。。。
"人工智能"已经成为网络清静营销质料的焦点支柱，，，，，，广告将人工智能产品吹捧成为上至生物种群、下到免疫系统等种种事物 。 。。。。。。。若是仅看这些外貌说法，，，，，，那些不太关注人工智能研究现状的决议者可能会得出这样的结论：最多只需要几年时间，，，，，，机械学习算法就将会彻底改变网络清静行业 。 。。。。。。。
若是决议者相识到，，，，，，机械学习系统被普遍用于要害的网络清静使命长达20年之久时，，，，，，可能会感应难以想象 。 。。。。。。。已往五年的突破理所虽然地引起了人们对人工智能和机械学习研究领域的关注，，，，，，但人们很容易忽视，，，，，，这些希望背后的算法在许多情形下已经保存了几十年 。 。。。。。。。� ？？？？Ｋ剂康秸庖坏�，，，，，，该决议者在看到最近一连串备受瞩目的黑客攻击时，，，，，，可能会忍不住完全否定否定机械学习的潜力 。 。。。。。。。
评估机械学习在网络清静方面潜力的部分难题在于，，，，，，差别方面有差别的乐成准则 。 。。。。。。。就意昂体育-科技赋能场景,让娱乐更有趣!目的而言，，，，，，我们应当区分两种用来评估新手艺影响的准则：反事实准则和历史准则 。 。。。。。。。
使用反事实准则意味着一个问题——在其他条件稳固的情形下，，，，，，若是没有机械学习，，，，，，意昂体育-科技赋能场景,让娱乐更有趣!现状会是怎样？ ？？？？？从这个角度切入问题，，，，，，就会让我们对机械学习有更多的欣喜相识：在一些行业中，，，，，，可能的网络攻击事务数目已经从天天几百个暴增至几百万个，，，，，，令人惊讶的是，，，，，，维护IT基础设施清静的事情并没有拖垮大大都公司 。 。。。。。。。在很洪流平上，，，，，，这种乐成要归功于机械学习系统，，，，，，它可以自动筛选潜在攻击，，，，，，天生可疑行为警报，，，，，，或对异常唬�；；Ｔ硕傩幸恍┗熘拔� 。 。。。。。。。
反事实准则对网络清静从业者来说至关主要--他们相识威胁形式，，，，，，并必需以某种方法做出响应 。 。。。。。。。但决议者也需要深入相识一系列更普遍的问题：天下是变得更清静了，，，，，，照旧更不清静了？ ？？？？？关于网络清静人才的恒久欠缺，，，，，，我们应该有多担心？ ？？？？？机械学习能否让我们在绝对意义上不再容易受到仇人的攻击？ ？？？？？为了回覆这些问题，，，，，，我们需要使用历史准则 。 。。。。。。。与其将有机械学习的天下与没有机械学习的设想天下举行较量，，，，，，不如将已往与现在以及（最有可能的）未来举行较量 。 。。。。。。。
机械学习可以为网络清静从业者带来显著的益处，，，，，，这一点获得了大大都人的认同，，，，，，但这些益处能否可以组成网络清静的"革命"，，，，，，尚存较大争议 。 。。。。。。。
在本文中，，，，，，"革命性影响"是指凭证历史准则（而不但仅是反事实准则）爆发的影响 。 。。。。。。。在网络清静的配景下，，，，，，这意味着一项手艺应该做的不但仅是资助防守方跟上日益增添的威胁形势：若是想要成为革命性手艺，，，，，，该手艺应当镌汰需要人工响应的威胁总数，，，，，，并使其坚持在较低的数目上，，，，，，或者它应该切实改变网络清静实践 。 。。。。。。。
关于决议者来说，，，，，，更主要的是明确机械学习将怎样改变网络清静，，，，，，而不是争论它是否会带来转变 。 。。。。。。。为此，，，，，，本文探讨了多种机械学习手艺的前进可能对网络清静爆发的潜在影响 。 。。。。。。。关于网络清静中一些倍受炒作的机械学习应用，，，，，，我们向读者批注晰适度的嫌疑，，，，，，同时也提议让读者注重一些未获得普遍关注的潜在应用 。 。。。。。。。
为了坚持我们对乐成历史准则的重视，，，，，，我们试图通过研究早期的机械学习是怎样被应用到网络清静领域的，，，，，，以期相识近期人们对网络清静机械学习兴趣增添的缘故原由 。 。。。。。。。
这是一项难题的使命，，，，，，并且本报告无法涵盖所有与机械学习在网络清静中施展日益主要作用有关的内容 。 。。。。。。。意昂体育-科技赋能场景,让娱乐更有趣!重点完全集中在手艺方面--机械学习能做什么 。 。。。。。。。
三、网络清静的四阶段模子
最著名的网络清静看法化模子是由美国国家标准与手艺研究院(NIST)设计的网络清静框架（CybersecurityFramework） 。 。。。。。。。
为了资助防守方评估其危害水平，，，，，，该框架将网络清静大致分为五项功效：识别、保唬�；；；ぁ⒓觳狻⑾煊突指� 。 。。。。。。。
本文使用NIST模子的改编版本，，，，，，强调略有差别的四个种别：预防、检测、响应和恢复以及自动防御 。 。。。。。。。
偏离NIST框架有两个主要缘故原由：首先，，，，，，虽然有许多关于机械学习被用于网络攻击检测的实例，，，，，，但在NIST框架的其他四个种别中，，，，，，机械学习手艺的使用仍然相当不可熟，，，，，，这证实将多个种别组合在一起举行剖析是合理的；；；；；其次，，，，，，人们对“自动防御”（我们将在下面详述）这个领域的关注日益增添，，，，，，从手艺和操作角度看，，，，，，它在看法上有别于其他种别，，，，，，因此值得单独讨论 。 。。。。。。。
在此模子中，，，，，，预防是指清静专家为只管镌汰其组织的误差而接纳的所有行动 。 。。。。。。。预防要求防守方至少做到对网络设置和用户权限做出清静决议，，，，，，对其网络和软件的依赖项坚持一连关注，，，，，，并实时修补已知误差 。 。。。。。。。关于软件公司来说，，，，，，最好的预防事情是在产品上市之前评估自己的产品是否保存误差 。 。。。。。。。关于中型或大型组织来说，，，，，，预防通常需要审计自身整体清静态势，，，，，，以及按期举行渗透测试（对网络提倡良性攻击，，，，，，以发明和袒露懦弱点） 。 。。。。。。。这个种别大致对应于NIST的识别和保唬�；；；ぶ直�，，，，，，前者强调资产治理和清静战略，，，，，，后者则着重于用于保唬�；；；ぷ什氖忠蘸驼呖刂� 。 。。。。。。。
再多的前期事情也无法使组织免受网络攻击 。 。。。。。。。当攻击爆发时，，，，，，需要检测系统来迅速提醒防守方，，，，，，使他们能够做出响应 。 。。。。。。。周全的检测系统必需监控从网络流量到电子邮件附件以及员工行为的所有内容，，，，，，以识别异常情形和潜在威胁 。 。。。。。。。由于在入侵网络后的数月内，，，，，，攻击方往往会隐藏自身，，，，，，因此有用的检测系统可以资助组织显著降低网络攻击的影响 。 。。。。。。。
一旦检测到攻击，，，，，，清静专家必需确定怎样响应和恢复 。 。。。。。。。关于某些类型的威胁，，，，，，响应简朴直接：例如，，，，，，检测到垃圾邮件时，，，，，，电子邮件效劳只需将疑似不法的邮件重定向到一个垃圾邮件文件夹即可 。 。。。。。。。然而，，，，，，关于许多其他类型的攻击，，，，，，很难做出合理的响应 。 。。。。。。。面临正在举行的攻击，，，，，，网络清静职员往往必需当机立断：决议是否需要关闭机械、隔离部分网络，，，，，，或者接纳一些其他可能严重扰乱组织运营的步伐，，，，，，例如 。 。。。。。。。一个有用的响应必需确定攻击的规模和规模，，，，，，阻断攻击方的会见，，，，，，并完全消除攻击方可能拥有的任何驻足点 。 。。。。。。。做完这些后，，，，，，主要的是将系统恢复到攻击前的初始状态 。 。。。。。。。
预防、检测、响应和恢复三要素组成了网络清静的焦点 。 。。。。。。。关于大大都组织来说，，，，，，有用优异地执行这些使命是优异网络清静实践的最高境界 。 。。。。。。。然而，，，，，，某些组织可能碰面临来自兵精粮足的威胁者的攻击，，，，，，因此仅仅遵照预先界说好的框架可能还远远不敷 。 。。。。。。。这些组织还必需确保自身能够无邪地顺应威胁情形的转变 。 。。。。。。。
思量到组织需要无邪地应对重大威胁，，，，，，本报告引入了特另外阶段：自动防御 。 。。。。。。。该术语接纳SANS研究所的界说：滋扰、归因或直接还击等一系列运动 。 。。。。。。。自动防御可以被看作是一个"其他"种别，，，，，，包括所有刻意加入或研究外部行为者的实验，，，，，，而不是简朴地在问题泛起后做出反应 。 。。。。。。。该种别可以细分为几个更明确的子种别，，，，，，本报告强调其中的三个：(1)诱骗，，，，，，试图误导和拖延敌手；；；；；(2)威胁情报，，，，，，试图起劲研究潜在的敌手，，，，，，以更好地展望他们的行动；；；；；(3)归因，，，，，，试图将多个事务与某个简单实体联系起来，，，，，，然后可以举行更详细地研究 。 。。。。。。。若是将自动防御做好，，，，，，可以让防守方领先敌手，，，，，，有备无患 。 。。。。。。。
四、古板机械学习与网络清静
在已往的十年里，，，，，，人工智能和机械学习研究取得了重大希望，，，，，，但将机械学习要领用于网络清静的做法由来已久 。 。。。。。。。直到最近，，，，，，这些应用仍险些完全属于网络防御的检测阶段，，，，，，其中对垃圾邮件检测、入侵检测和恶意软件检测的关注最为显著 。 。。。。。。。本节讨论了那些简朴易行且由来悠久的机械学习要领在历史上是怎样适配这三种应用的 。 。。。。。。。图1展示了网络威胁领域主要希望的简陋时间表，，，，，，以及为了应对这些威胁机械学习是怎样进化的 。 。。。。。。。
这里的"古板机械学习"指的是最近5-10年深度学习（deeplearning）取得重大希望之前，，，，，，在机械学习研究中占主导职位、已有数十年历史的一系列算法 。 。。。。。。。古板机械学习算法的一些例子包括质朴贝叶斯分类器、随机森林、K-means聚类、逻辑回归模子和支持向量机 。 。。。。。。。值得注重的是，，，，，，只管我们使用了"古板机械学习"这个名字，，，，，，但其自己并不是一个障碍不前的领域 。 。。。。。。。
为了叙述这些古板的机械学习要领在网络清静中应用的历史，，，，，，我们先来看看垃圾邮件检测的例子 。 。。。。。。。
4.1垃圾邮件检测
自21世纪初以来，，，，，，机械学习一直是垃圾邮件检测的主要组成部分，，，，，，其中许多早期的机械学习要领至今仍在使用 。 。。。。。。。在引入机械学习手艺之前，，，，，，垃圾邮件检测依赖于黑名单列表，，，，，，屏障来自（已知的）恶意IP地点的邮件；；；；；或依赖于要害词检测，，，，，，阻止含有手工致理的垃圾邮件词汇（如"免费"或"性感"）的邮件 。 。。。。。。。然而，，，，，，由于这些要领经常唬�；；；岜焕挠�，，，，，，往往会导致正当的电子邮件被阻止 。 。。。。。。。为相识决这个问题，，，，，，盘算机科学家在本世纪初最先提出基于机械学习的解决计划 。 。。。。。。。
早期的要领相对简朴明晰 。 。。。。。。。首先网络大宗的电子邮件，，，，，，将它们标记为垃圾邮件或正当邮件，，，，，，并将它们拆分成各个单词 。 。。。。。。。关于每个单词，，，，，，盘算包括该单词的电子邮件是垃圾邮件的概率 。 。。。。。。。当一封新的电子邮件到送达时，，，，，，可以使用凭证每个词与垃圾邮件相关的概率来盘算该电子邮件是垃圾邮件的危害，，，，，，危害分数凌驾预设阈值的邮件会被自动阻止 。 。。。。。。。
自21世纪初以来，，，，，，只管研究职员已经做出了刷新，，，，，，但垃圾邮件检测的焦点要素仍没有太大转变 。 。。。。。。。通过从邮件问题中提取更多的手艺细节（如IP地点和效劳器信息），，，，，，或将泛起在主题中的词语与泛起在邮件正文中的词语区别看待，，，，，，可以建设更好的垃圾邮件分类器 。 。。。。。。。更好的算法能识别出短语或同义词，，，，，，而不是将所有的单词伶仃看待 。 。。。。。。。一些公司已经开发出极其重大的垃圾邮件检测器，，，，，，除上述步伐之外，，，，，，还可以凭证用户以往的电子邮件互动、标记异常的联系人，，，，，，或使用深度学习模子，，，，，，来确定含有品牌的电子邮件是否来自其真实公司 。 。。。。。。。
然而，，，，，，即即是像谷歌等公司所使用的最先进的垃圾邮件分类器，，，，，，大多也是从上述早期要领缓慢完善和演变而来 。 。。。。。。。虽然，，，，，，关于认真保唬�；；；な诜獾缱佑始拇笮凸纠此�，，，，，，纵然是准确性的些许提高，，，，，，也会爆发重大影响 。 。。。。。。。可是，，，，，，若是把机械学习垃圾邮件检测系统近期的立异，，，，，，描绘成对已往做法的根天性转变，，，，，，那就大错特错了：现实上，，，，，，近二十年来机械学习一直是这项使命的焦点 。 。。。。。。。
4.2入侵检测
入侵检测系统通过关注行为特征，，，，，，并搜索恶意运动的迹象，，，，，，以检测盘算机网络上是否保存未经授权的运动 。 。。。。。。。入侵检测系统通常分为基于误用（misuse-based）或基于异常（anomaly-based）的系统 。 。。。。。。。在基于误用的检测中，，，，，，攻击是基于它们与以前看到的攻击的相似性来识别的；；；；；而在基于异常的检测中，，，，，，先构建一个“正常”行为的基线，，，，，，然后将所有不匹配基线的行为标记为潜在的攻击 。 。。。。。。。这两种要领都可以使用差别的机械学习要领 。 。。。。。。。
最简朴的基于误用的检测形式依赖于已知的失陷指标（indicatorsofcompromise）来检测以前遇到的威胁 。 。。。。。。。例如，，，，，，若是组织发明某个恶意软件试图会见特定的网站，，，，，，那么网络防守方就可以编写一个简朴的检测系统，，，，，，当网络中的机械试图会见该网站时发出警报 。 。。。。。。。
基于误用的检测通常兼具较高的处置惩罚速率和较低的误报率，，，，，，尤其是基于上述简朴要领时，，，，，，这使其能够快速准确地识别恶意事务 。 。。。。。。。然而，，，，，，这种检测形式只能监测已知威胁，，，，，，对新型攻击无法提供切实保唬�；；；� 。 。。。。。。。
通过允许系统“学习”差别类型的攻击是什么样的，，，，，，机械学习可用于自动执行某些形式的基于误用的检测 。 。。。。。。。参考许多已往攻击的（标记）示例，，，，，，则可以训练监视学习分类器来识别差别类型攻击的迹象，，，，，，而无需人工天生会触发警报的特定规则列表 。 。。。。。。。
一些研究职员倾向于将基于误用的检测更精准地界说为严酷基于全心策划的失陷指标清单，，，，，，而不是基于概率模子 。 。。。。。。。凭证这一界说，，，，，，机械学习不可用于执行基于误用的检测，，，，，，由于机械学习在实质上是概率性的 。 。。。。。。。然而，，，，，，许多机械学习分类器相似于基于误用的检测系统，，，，，，由于它们使用以往攻击的标记实例来检测未来的攻击，，，，，，很难用于0day攻击，，，，，，并且不追求识别“正常”行为的基线模子 。 。。。。。。。因此，，，，，，我们以为将具有这些特征的机械学习分类器归入“基于误用的检测”的标签下是最合理的 。 。。。。。。。
至少从1999年最先，，，，，，研究职员就试图天生差别类型攻击的网络流量档案，，，，，，以便机械学习分类器可以学习怎样识别以前看到的攻击 。 。。。。。。。这项研究最初是由美国国防部高级研究妄想局(DARPA)推动的，，，，，，研究效果批注，，，，，，机械学习能够胜任基于误用的检测事情 。 。。。。。。。
只管人们很容易以为较新的机械学习要领（如深度学习的兴起）大大增强了检测工具的功效，，，，，，但2018年对几十项实验效果的审查批注，，，，，，在基于误用的检测方面，，，，，，深度学习并不比几十年前的机械学习要领更准确 。 。。。。。。。由于没有一种类型的模子始终是基于误用的检测的最佳选择，，，，，，研究职员经常发明，，，，，，最乐成的机械学习系统是荟萃模子，，，，，，或通过使用多个分类器对分类举行“投票”来对新输入举行分类的模子 。 。。。。。。。这种要领被普遍使用，，，，，，阻止了对任何特定模子的太过依赖（每种模子都可能有自己的盲点），，，，，，但它也同时批注没有哪个架构显着优于其他架构 。 。。。。。。。
与基于误用的检测相比，，，，，，基于异常的检测通过标记可疑的行为，，，，，，无需与已往的攻击举行详细较量 。 。。。。。。。这种类型的检测系统更可能使用无监视的学习要领来聚类网络中的“正常”流量，，，，，，并对任何偏离该模式的可疑行为发出忠言 。 。。。。。。。理论上，，，，，，基于异常的检测可以识别新型攻击——这是网络清静最难题的领域之一 。 。。。。。。。为了实现这种能力，，，，，，该领域的研究集中在寻找一种要领，，，，，，为给定的网络确定适当的“正常”流量基线，，，，，，由于纵然是正常的流量也可能是高度可变的 。 。。。。。。。一个参数不当的入侵检测系统将爆发许多误报，，，，，，而视察这些误报耗时耗力 。 。。。。。。。
遗憾的是，，，，，，只管在跟踪单个机械或用户时，，，，，，基于异常的检测很是有用，，，，，，但它通常难以有用识别整个网络中的可疑行为 。 。。。。。。。别的，，，，，，人们恒久诉苦异常检测系统会爆发许多误报，，，，，，这说明，，，，，，很难界说"正常"流量，，，，，，做到足够严酷以检测出所有异常情形，，，，，，同时又足够宽松以使没有正当行为被标记为异常 。 。。。。。。。别的，，，，，，若是组织的标准程序爆发转变，，，，，，就会大大削弱异常检测的作用，，，，，，至少在新的基线形成之前是这样的--许多企业去年受到了这个教训，，，，，，其时为应对新冠疫情，，，，，，数百万员工突然最先在家事情 。 。。。。。。。由于与异常检测相关的难题重重，，，，，，许多组织仅将其用作更标准的基于误用的检测系统的增补 。 。。。。。。。
上述讨论说明，，，，，，机械学习在入侵检测领域历史悠久，，，，，，涵盖众多方面 。 。。。。。。。在二十多年的研究历程中，，，，，，差别的机械学习要领已经适用于多种类型的入侵检测 。 。。。。。。。别的，，，，，，实证研究和荟萃模子的一连主要性批注，，，，，，较新的立异并没有完全取代这些旧模子 。 。。。。。。。与垃圾邮件检测一样，，，，，，若是以为已往十年机械学习研究的生长，，，，，，特殊是深度学习的兴起，，，，，，已经完全改变了入侵检测，，，，，，那就大错特错了 。 。。。。。。。在第三节，，，，，，我们将再次回到这个话题，，，，，，讨论一些新的机械学习立异显著改变了入侵检测的方法 。 。。。。。。。
4.3恶意软件检测
入侵检测系统监测系统或网络的行为，，，，，，以识别网络受到攻击的迹象，，，，，，而恶意软件检测系统则检查特定文件，，，，，，以确定它们是否是恶意的 。 。。。。。。。在早期杀毒软件产品中，，，，，，最简朴的恶意软件检测形式是监测机械的特定失陷指标（indicatorsofcompromise），，，，，，如确切的文件名或署名（从文件内容提取的特定字节或字符串序列） 。 。。。。。。。通过维护一长串恶意软件署名列表并举行按期扫描，，，，，，这些反病毒产品实验确定机械上是否保存与这些已知界说相关的文件 。 。。。。。。。
遗憾的是，，，，，，这些检测要领很容易被多态或变形病毒轻松规避，，，，，，这类恶意软件每次撒播时都会改变自己的代码，，，，，，从而确保差别的版本会有差别的署名 。 。。。。。。。多态代码指的是以多种形式泛起的任何类型的代码，，，，，，例如，，，，，，攻击方创立了多种变体，，，，，，或者代码每次撒播时可以使用差别的密钥来加密自己；；；；；相比之下，，，，，，变形代码在保存了相同功效的同时，，，，，，从基础上重写了其底层代码 。 。。。。。。。据预计，，，，，，2018年高达94%的恶意可执行文件体现出多态特征 。 。。。。。。。虽然古板的检测手艺仍可用于检测多态或变形的恶意软件（例如，，，，，，通过审查恶意软件执行时的行动序列，，，，，，而不是凭证原始代码举行匹配），，，，，，但随着攻击方的刷新，，，，，，这些古板要领变得越来越重大，，，，，，盘算量也越来越大 。 。。。。。。。
然而，，，，，，机械学习善于识别那些无法用简朴规则分类的样本之间的配合特征 。 。。。。。。。早在1996年，，，，，，IBM的研究职员就最先探索使用神经网络对指导扇区病毒（这是一种针对机械启动指令的特殊类型病毒）举行分类 。 。。。。。。。整个21世纪初的其他研究探索了使用统计模子和标准机械学习分类器来检测恶意软件 。 。。。。。。。近年来，，，，，，人们对使用较新的、基于深度学习的要领举行恶意软件检测的兴趣激增，，，，，，这些要领有许多优势，，，，，，例如能够在较少的人为指导下从原始数据中提取相关特征 。 。。。。。。。然而，，，，，，与入侵检测一样，，，，，，一些实验效果批注，，，，，，至少在某些数据集上，，，，，，经由相同的训练，，，，，，已有数十年历史的机械学习分类器仍然与更先进的深度学习要领难分昆季 。 。。。。。。。
值得注重的是，，，，，，只管多态和变形病毒一直涌现，，，，，，许多不使用机械学习的手艺在检测和剖析恶意软件方面仍然有用 。 。。。。。。。例如，，，，，，网络防守方可以在沙盒（隔离的虚拟情形，，，，，，可以允许文件在没有任何与真实系统和数据交互能力的情形下执行）中执行未被识别的文件 。 。。。。。。。沙箱网络有关文件的信息，，，，，，例如它试图执行什么类型的函数，，，，，，以确定它是否为恶意的 。 。。。。。。。这种要领允许反病毒产品在不依赖机械学习的情形下检测多态或变形代码，，，，，，批注机械学习绝不是网络防守方应对网络攻击智能进化的唯一要领 。 。。。。。。。然而，，，，，，纵然是沙箱，，，，，，也可以用机械学习来增强，，，，，，以识别与已往的恶意软件相似、但纷歧定试图执行完全相偕行为的文件 。 。。。。。。。
本节强调了两个要点 。 。。。。。。。首先，，，，，，纵然重点都放在检测使命上，，，，，，研究职员将古板机械学习手艺应用于主要的网络清静使命已长达几十年之久 。 。。。。。。。其次，，，，，，只管现在保存着更强盛的要领，，，，，，但通常仅是古板要领的自然进化 。 。。。。。。。
在确定最近的机械学习手艺对网络清静的“厘革性”影响时，，，，，，必需切记这些主要事实 。 。。。。。。。
五、网络清静与人工智能研究前沿手艺
近年来，，，，，，人工智能的立异为我们带来了汽车的自动驾驶、准确的语言翻译、逾越人类的游戏竞技 。 。。。。。。。虽然还无法确定这些成绩能否转移到网络空间领域，，，，，，但我们有充分的理由以为，，，，，，若是这种转移得以实现，，，，，，机械学习很可能会成为网络防守方的得力助手 。 。。。。。。。
本节探讨了怎样将较新的机械学习架构应用于网络清静 。 。。。。。。。随着讨论的深入，，，，，，本文特殊关注四种类型的机械学习要领，，，，，，这些要领在已往五年中促成了许多人工智能突破：1.深度学习；；；；；2.强化学习；；；；；3.天生对抗网络（GANs）；；；；；4.大规模自然语言模子 。 。。。。。。。在这些突破中，，，，，，深度学习系统的生长在许多方面都是最基础性的 。 。。。。。。。正是深度学习架构与其他类型的要领（如GANs、强化学习系统或自然语言模子）的团结，，，，，，促成了已往5年的大部分希望，，，，，，如图2所示 。 。。。。。。。
深度学习是一种以神经网络为模子的通用Al架构 。 。。。。。。。它可以适用于许多使命，，，，，，从强化学习系统，，，，，，其中Al署理学习怎样与他们的情形互动；；；；；到天生对抗网络，，，，，，其中天生器学习怎样爆发可以骗绕/躲过判别器的输出；；；；；到大规模自然语言模子，，，，，，可以执行普遍的语言相关使命 。 。。。。。。。
图2前沿人工智能架构之间的关系
在对每个阶段的讨论最先之前，，，，，，我们提供了一个图示，，，，，，列出了防守方在该阶段可以使用的一些潜在的机械学习工具 。 。。。。。。。这些图示还列出了为实现每个工具可能会依赖的机械学习架构类型，，，，，，并简陋评估了机械学习能在多洪流平上改变使命自己 。 。。。。。。。所有这些都只是大致评估，，，，，，并参考了后文讨论得出的结论 。 。。。。。。。
5.1预防
*NLP指的是自然语言处置惩罚 。 。。。。。。。本图只列出了每个应用最常见和最详细的底层手艺；；；；；例如，，，，，，基于深度学习的GAN会被简朴地列为"GAN" 。 。。。。。。。
意昂体育-科技赋能场景,让娱乐更有趣!网络清静模子的第一阶段是预防——防守方为消除潜在弱点而举行的误差发明和修复事情 。 。。。。。。。恒久以来，，，，，，人们致力于打造能够自主发明和修复新误差的工具，，，，，，但直到最近，，，，，，机械学习的兴起才使之变为可能 。 。。。。。。。在2016年美国国防高级研究妄想局（DARPA）赞助的网络超等挑战赛（CyberGrandChallenge）中，，，，，，最有希望自动发明误差的蹊径仍然依赖于全心编码的系统，，，，，，而不是使用机械学习要领 。 。。。。。。。
近年来，，，，，，研究模糊测试工具的研究职员越来越多地将深度学习作为一种手段，，，，，，从乐成的输入参数中有用地学习，，，，，，进而发明更多的误差 。 。。。。。。。唬�；；；谏疃妊暗哪：馐怨ぞ咄ǔ１染赡Ｗ痈杏茫壕倮此�，，，，，，基于深度学习的程序NeuFuzz能够在种种文件类型中找到的导致瓦解的输入的数目，，，，，，是一个领先的开源模糊测试工具修改版本的三倍之多 。 。。。。。。。在学术界之外，，，，，，微软也研究了使用深度学习来增强自己的模糊测试工具 。 。。。。。。。
模糊测试工具寻找代码中的误差，，，，，，但网络防守方也可以使用渗透测试（或简称为pentesting）来寻找网络中果真已知的误差和不清静的设置 。 。。。。。。。在渗透测试中，，，，，，履历富厚的黑客会系统地探测网络中的误差，，，，，，以确定潜在的弱点 。 。。。。。。。
除了使用自动模糊测试工具和渗透测试工具发明误差外，，，，，，机械学习可能很快就能提供工具，，，，，，资助防守方将优化时间和注重力设置分派给最紧迫的误差 。 。。。。。。。
一旦发明误差，，，，，，防守方必需在有限的时间和资源内完成修复 。 。。。。。。。只管尚存争议，，，，，，但通用误差评分系统（CVSS）是资助防守方确定误差严重性的主要指标，，，，，，它依赖专家剖析来给新的误差分派严重性分数 。 。。。。。。。一些研究职员以为，，，，，，通过智能剖析误差形貌，，，，，，机械学习和文本挖掘手艺可用于自动分派CVSS分数 。 。。。。。。。
其他研究职员使用视察到的在野攻击数据构建了机械学习系统，，，，，，展望某些误差被现实使用的可能性 。 。。。。。。。有证据批注，，，，，，当这些基于机械学习的危害评估与CVSS团结使用时，，，，，，组织可以优先修复最有可能被使用的误差，，，，，，在显著镌汰事情量的同时，，，，，，抵达与之前相似的危害修复水平 。 。。。。。。。综上所述，，，，，，使用机械学习来刷新模糊测试、渗透测试、误差报告剖析和严重水平评估，，，，，，可以使组织提高识别误差和优先处置惩罚误差的能力 。 。。。。。。。
5.2检测
至少在众多盛行领域中，，，，，，检测仍然是深度学习和较新的机械学习要领被以为是潜在的厘革实力的要害所在 。 。。。。。。。但很遗憾，，，，，，到现在为止，，，，，，深度学习还没有实现革命性突破，，，，，，未能抵达人们的期望 。 。。。。。。。总的来说：只管深度学习在已往50年的机械学习前进中施展了根天性的作用，，，，，，但许多网络清静公司至今仍在大规模使用较简朴的模子 。 。。。。。。。
有时盛行的报道会忽略，，，，，，基于机械学习的检测保存一个问题：机械学习系统容易受到几类特定攻击，，，，，，这些攻击在其他类型检测系统中则不保存 。 。。。。。。。许多机械学习系统做出决议的历程往往不为人所知，，，，，，并且关于人类剖析师察觉不到的细微转变高度敏感，，，，，，这往往使攻击方有可能找到"对抗样本"——只管人类无法察觉，，，，，，但对输入稍加改变就会极大地改变模子的反应 。 。。。。。。。唬�；；；笛澳Ｗ拥氖褂靡部⒘诵碌墓セ魍揪叮耗Ｗ幼约罕匦杓岢智寰�，，，，，，同时防守方也必需确保他们的数据没有被下毒，，，，，，且他们使用的（通常是开源的）算法和统计软件包没有被改动 。 。。。。。。。
只管我们对深度学习改变检测能力的潜力感应气馁，，，，，，但对抗性攻击的一直增添和威胁规模的一直扩大，，，，，，使防守方不可无视机械学习的前进 。 。。。。。。。
由于天生对抗网络允许攻击方倾覆基于机械学习和规则的检测系统，，，，，，我们无法坐视不管，，，，，，最好的防御可能至少部分依赖于机械学习要领的使用 。 。。。。。。。然而，，，，，，纵然在这里也必需强调，，，，，，在使机械学习系统面对抗样本的鲁棒性方面，，，，，，一些研究职员不以为机械学习领域取得了切实希望 。 。。。。。。。虽然对抗性训练对防御系统仍然至关主要，，，，，，但它可能缺乏以有用抗衡越来越多的对抗性攻击威胁--这是嫌疑机械学习能否为网络防守方提供灵丹妙药的另一个缘故原由 。 。。。。。。。
5.3响应和恢复
现在已对机械学习驱动的检测系统的举行了大宗研究，，，，，，但有人提出了更雄心壮志的设想，，，，，，以为有朝一日人工智能系统可以在网络中自主移动、修补误差并与攻击方动态对抗 。 。。。。。。。响应和恢复是一个动态和一连的历程，，，，，，禁止易被剖析成离散的结构，，，，，，这使得构建能够充分自动化人类决议的机械学习工具越发难题 。 。。。。。。。
近年来，，，，，，一些研究职员逐渐确定人工智能/机械学习系统在响应和恢复历程中可以施展的更有针对性的作用 。 。。。。。。。例如，，，，，，一份来自美国国家科学与手艺委员会的2020年报告指出，，，，，，人工智能至少可以通过两种详细方法来资助响应和恢复历程：1.准确地对正在举行的攻击举行分类，，，，，，并接纳适当的起源响应战略；；；；；2.自动决议将机械从网络中隔离或对用户施加限制，，，，，，以阻止熏染 。 。。。。。。。第一种类型的工具可以使网络防守方自动对种种常见类型的攻击做出起源反应，，，，，，而第二种类型通常有助于阻止清静误差扩散到网络的其他部分 。 。。。。。。。在图5中，，，，，，我们把第一个应用称为"与敌手征战"，，，，，，这将是一个能够明确正在举行的攻击并作出响应反应的机械学习系统的最终目的 。 。。。。。。。第二个目的是移动目的防御的一个简朴例子 。 。。。。。。。
5.4自动防御
为应对新的威胁，，，，，，具有重大网络清静需求的组织通常必需接纳自动步伐来制订网络清静战略 。 。。。。。。。本报告将这些行动归入"自动防御"的普遍框架之下 。 。。。。。。。
虽然这个术语有一个详细的国家清静界说，，，，，，但在这里的使用方法与美国系统网络清静协会（SANSInstitute）研究职员的使用方法类似：从滋扰到归因到彻底还击的一系列运动 。 。。。。。。。
人工智能在这三种战术中潜在的应用规模很广，，，，，，批注自动防御这个网络清静模子阶段或允许以从最近的人工智能突破中获益良多 。 。。。。。。。
5.4.1诱骗
网络防守方可选用的最基本的自动防御步伐之一是诱骗：居心伪造一些工具来误导和延缓攻击方 。 。。。。。。。虽然这种战略看起来很简朴，，，，，，但它却可以带来重大的运营效益 。 。。。。。。。
天生逼真的文件或运动资料是机械学习善于的领域 。 。。。。。。。像GPT-3这样的大规模自然语言模子的兴起，，，，，，可能会使自动化天生诱骗性文本文件（如马克龙竞选团队的假电子邮件）的历程更容易实现 。 。。。。。。。虽然这项手艺可能会被滥用，，，，，，但防守方可以合理地将其用于诱骗性目的，，，，，，天生大宗诱骗性内部文件来误导攻击方 。 。。。。。。。
除了伪造之外，，，，，，蜜罐（一种旨在将网络攻击方引诱到看似有吸引力的假目的的清静机制）是网络防守方恒久使用的诱骗性工具 。 。。。。。。。蜜罐可以提供虚伪文件和数据形式的"诱饵"，，，，，，运行预先编写的剧本互动以挫败敌手，，，，，，或使攻击方误以为自己已经“乐成”入侵 。 。。。。。。。然而，，，，，，为了使攻击方深陷其中，，，，，，蜜罐需要看起来像真实的生产网络，，，，，，因此通常需要手动设置、安排和维护，，，，，，这可能本钱高昂，，，，，，小型组织难以胜任其维护使命 。 。。。。。。。
至少从21世纪初最先，，，，，，研究职员就最先探索怎样使用机械学习来建设越发真实和动态的蜜罐，，，，，，包括通过使用相对简朴的聚类要领 。 。。。。。。。最近几年，，，，，，研究职员实验使用基于强化学习的蜜罐，，，，，，这些蜜罐可以学习怎样尽可能长时间地吸引攻击方，，，，，，同时也可以有用地诱使他们将定制软件下载到自己的机械上 。 。。。。。。。现在就说强化学习的使用改变了这一领域的游戏规则还为时过早，，，，，，但它至少可以将大部分维护动态蜜罐的重大操作自动化，，，，，，使更多的组织能够使用这些类型的蜜罐 。 。。。。。。。
5.4.2威胁情报
理论上说，，，，，，通过网络有关潜在敌手的威胁情报，，，，，，防守方可以展望未来的攻击，，，，，，并建设起更强盛的防御系统；；；；；但对大大都组织来说，，，，，，网络、处置惩罚和剖析威胁情报需要泯灭重大人力物力 。 。。。。。。。然而，，，，，，在海量数据中寻找模式是机械学习的焦点优势，，，，，，一些研究职员已经最先探索怎样使用机械学习和文本挖掘来刷新威胁情报剖析 。 。。。。。。。例如，，，，，，可以用机械学习要领来对暗网用户举行聚类，，，，，，或者使用文本挖掘要领来自动网络、分类和剖析暗网论坛和市场上的帖子，，，，，，使研究职员能够在0day误差安排之前识别它们 。 。。。。。。。不难想象，，，，，，在给定公司名称或其产品清单后，，，，，，一个完全自动化的机械学习系统可以在暗网上搜索潜在误差的线索，，，，，，然后剖析它们，，，，，，最后天生一份形貌预期攻击载体的报告 。 。。。。。。。
其他作为诱骗战术引入的工具也可以被使用来网络关于潜在敌手的威胁情报 。 。。。。。。。例如，，，，，，可以剖析和整理从蜜罐系统中网络的数据，，，，，，从而确定组织是否面临一个一连的威胁行为者，，，，，，然后可以为清静战略提供信息 。 。。。。。。。甚至像垂纶邮件这样简朴的工具也可以成为网络敌手威胁情报的时机 。 。。。。。。。一些研究职员提出了可以对垂纶邮件天生误导回应的系统，，，，，，以从攻击方那里获得信息，，，，，，例如，，，，，，外貌上愿意给诈骗者送钱，，，，，，但要求攻击方提供支票路由中转代码，，，，，，然后就可以追踪和识别这些信息 。 。。。。。。。事实上，，，，，，这是美国国防高级研究妄想局DARPA的自动社会工程防御妄想的一个主要研究偏向，，，，，，该妄想现在正实验建设能够检测社会工程攻击并自主响应的系统，，，，，，以诱骗敌手袒露身份信息 。 。。。。。。。这些战术跨越了威胁情报网络和直接归因（本节讨论的第三种自动防御战术）之间的界线 。 。。。。。。。
5.4.3归因
扑面临高级一连性威胁（ATP）攻击时，，，，，，联邦机构和网络清静公司通常唬�；；；崾笛榻セ鞴橐蛴谝桓鎏囟ǖ牡惺� 。 。。。。。。。这样有助于确定应该接纳什么类型的应对步伐，，，，，，并资助网络清静公司确定仇人的可能念头，，，，，，以便最好地保唬�；；；に堑目突� 。 。。。。。。。
当试图对多个攻击举行归因时，，，，，，最简朴的要领是依赖人工剖析通过网络日志、防火墙或蜜罐获得的攻击指标 。 。。。。。。。然而，，，，，，由于大大都的一连网络攻击方会阻止留下显着的模式，，，，，，因此归因也依赖于人工剖析和对潜在敌手及其总体目的的明确；；；；；因此，，，，，，归因不但依赖于手艺指标，，，，，，也依赖于战略指标，，，，，，甚至还可能依赖于对相关地缘政治时势的相识 。 。。。。。。。唬�；；；笛安痪弑刚庋钠饰鏊�，，，，，，以是机械学习仍然不太可能乐成地将整个归因历程自动化 。 。。。。。。。
只管云云，，，，，，机械学习仍然可能在归因历程中提供资助 。 。。。。。。。例如，，，，，，若是研究剖析职员首先提取攻击的高级形貌--包括使用的战术、攻击的国家等--机械学习要领可能能够对这些信息举行聚类以识别类似的攻击 。 。。。。。。。自然语言处置惩罚可能资助归因系统从博客、研究论文和事务响应报告中自动提取与归因有关的信息，，，，，，镌汰乐成归因所需的人工事情量 。 。。。。。。。
六.结论
机械学习对网络清静的实践事实意味着什么，，，，，，报告提出了四个主要结论：
1.检测阶段：机械学习将允许对现有检测工具举行一连刷新，，，，，，特殊是关于具有普遍大数据能力的公司 。 。。。。。。。但这些希望是渐进式前进，，，，，，并引入了新的攻击面 。 。。。。。。。
2.预防、响应和恢复以及自动防御阶段：机械学习没有被普遍使用，，，，，，但也在逐渐取得希望 。 。。。。。。。振奋人心的希望仍有待于机械学习的重大突破，，，，，，才华实现周全安排 。 。。。。。。。
3.总体而言，，，，，，机械学习将继续爆发渐进式的收益，，，，，，而没有对网络清静行业爆发革命性影响 。 。。。。。。。除非机械学习取得重大突破，，，，，，不然最具厘革性的影响可能是来自于通过机械学习，，，，，，使众多组织容易获得以前未使用或未充分使用的防御战略能力 。 。。。。。。。
4.现在，，，，，，机械学习不太可能从基础上突破网络清静的战略平衡，，，，，，使其向攻击方或防守方倾斜 。 。。。。。。。
在关注机械学习的基本手艺能力时，，，，，，报告弃捐了许多其他问题，，，，，，例如防守方是否能乐成实验机械学习系统并充分使用其潜力 。 。。。。。。。
以上结论都是起源的，，，，，，不是展望性的：它们是否建设将取决于攻击方和防守方怎样选择投资和安排这项手艺 。 。。。。。。。
相比空谈机械学习怎样从整体上改变网络清静，，，，，，决议者和网络清静从业者更需要思索，，，，，，机械学习将会怎样改变网络清静中的特定使命 。 。。。。。。。
别的，，，，，，网络清静使命自上世纪90年月起就最先使用机械学习，，，，，，通过关注这种一连性，，，，，，我们旨在证实较新的突破将带来网络清静方面的前进（evolutionary），，，，，，但这并不会是行业革命性的厘革（revolutionary） 。 。。。。。。。
机械学习有一天会彻底将整个网络清静模子自动化，，，，，，无缝地完成多个阶段的事情，，，，，，而不是仅仅作为工具，，，，，，协助完成现有的、界说明确的使命 。 。。。。。。。在中短期内，，，，，，这种可能性微乎其微 。 。。。。。。。
对决议者和从业者来说，，，，，，更务实的做法是更起劲详尽相识哪些使命类型可以从机械学习中受益，，，，，，哪些使命类型不可 。 。。。。。。。有用的政策将需要思量这些细微差别，，，，，，以增进有用的研究，，，，，，使组织能够充分使用新的机械学习工具，，，，，，并资助防守方为迎接一连精进的敌手做好准备 。 。。。。。。。
关于作者
美国清静和新兴手艺研究中心(CSET)
本文节选自美国清静和新兴手艺中心《机械学习与网络清静——猖獗炒作背后的真相》报告 。 。。。。。。。加入虎符智库会员，，，，，，按期获取专业研究报告 。 。。。。。。。
连忙拨打
京公网安备11000002002064号