本文4986字阅读约需11分钟
犹如其他人工智能模子一样，，， ，，，ChatGPT对网络清静是把双刃剑，，， ，，，既可以是网络垂纶、恶意软件天生、社工攻击的强盛工具，，， ，，，也成为网络防御者的有力助手。。。。。。 。
2022年底，，， ，，，OpenAI宣布了人工智能谈天机械人ChatGPT，，， ，，，连忙引起惊动，，， ，，，一周内获得凌驾注册100万用户。。。。。。 。作为一款免费的谈天机械人，，， ，，，ChatGPT险些可以回覆任何问题。。。。。。 。与其他类似产品差别，，， ，，，能够以惊人的准确性加入对话并完成重大使命，，， ，，，同时提供连贯且类似人类的响应，，， ，，，完成从撰写婚礼致辞、嘻哈歌词到撰写大学水平的学术论文、编写代码等种种事项，，， ，，，被《纽约时报》称为有史以来果真宣布的最好AI谈天机械人。。。。。。 。
ChatGPT等天生式人工智能(AI)基于深度学习的交互性和类人类能力，，， ，，，代表创立新内容的算法，，， ，，，可输出能与人类创立无法区分的内容，，， ，，，有可能改变众多事情的完成方法，，， ，，，让许多领域遭受挑战：纽约一家学校因担心可能用于作弊而禁用ChatGPT；；；；；；数字媒体公司BuzzFeed妄想接纳ChatGPT协助内容创作，，， ，，，撰稿人面临下岗的逆境；；；；；；ChatGPT还引发对谷歌搜索引擎未来的忧虑。。。。。。 。《纽约时报》报道，，， ，，，ChatGPT全球爆红、替换谷歌搜索引擎的危害，，， ，，，令谷歌感应震惊，，， ，，，其CEO桑达尔·皮查伊宣布“红色警报”(CodeRed)，，， ，，，以确保公司搜索营业的生涯。。。。。。 。
受ChatGPT影响的尚有对新手艺敏感的网络清静行业。。。。。。 。一方面，，， ，，，众多清静专家忠言，，， ，，，由OpenAI开发并免费在线提供的ChatGPT，，， ，，，隐藏着众多潜在网络清静危害，，， ，，，可能组成严重的网络清静威胁。。。。。。 。网络攻击者已最先使用ChatGPT来建设恶意软件、暗网站点和其他实验网络攻击的工具。。。。。。 。同时有越来越多的证据批注，，， ，，，ChatGPT也可以成为网络防御者的强盛武器。。。。。。 。
ChatGPT：改变网络威胁名堂的黑客新工具？？？？？？？？
恒久以来，，， ，，，许多网络清静专业人士一直对人工智能的作用持嫌疑态度，，， ，，，习惯于讥笑相关企业关于人工智能作用的放纵宣传（强调）。。。。。。 。人工智能手艺在识别清静威胁方面施展了主要的价值，，， ，，，但事实证实，，， ，，，许多解决计划远没有宣传的那么适用，，， ，，，而是被营销团队强调了。。。。。。 。
关于火热的ChatGPT，，， ，，，网络清静专业人士给予了亘古未有的关注。。。。。。 。ChatGPT亮相仅数周，，， ，，，网络清静公司CheckPoint就使用谈天机械人ChatGPT，，， ，，，团结OpenAI的代码编写系统Codex，，， ，，，天生了能携带恶意载荷、编写巧妙的网络垂纶邮件。。。。。。 。CheckPoint建设的网络垂纶电子邮件，，， ，，，附有Excel文档，，， ，，，其中包括将反向shell下载到受害者系统的恶意代码。。。。。。 。
CheckPoint清静专家以为，，， ，，，这批注ChatGPT有“显著改变网络威胁名堂的潜力”，，， ，，，代表着“日益重大的网络能力在危险演化上又向前迈进了一步”。。。。。。 。
使用ChatGPT天生的垂纶邮件
威胁情报公司RecordedFuture的研究职员在最新报告中体现，，， ，，，使用ChatGPT编写用于网络攻击的恶意软件代码，，， ，，，降低了攻击者的编程或手艺能力门槛。。。。。。 。凭证报告，，， ，，，“只要对网络清静和盘算机科学的基础知识有基真相识，，， ，，，就可借助ChatGPT实验网络攻击。。。。。。 。PaloAltoNetworks公司的清静专家SeanDuca也以为：“ChatGPT降低了网络犯法的门槛”——纵然没有手艺，，， ，，，也能成为攻击者。。。。。。 。其带来的网络威胁尚有可能伸张到异次元。。。。。。 。
现在网络垂纶即效劳(PhaaS)和勒索软件即效劳(RaaS)可以向攻击者提供收费工具包，，， ，，，使其可以轻松实验攻击。。。。。。 。而现在ChatGPT则使网络犯法运动正履历另一种演变：使用ChatGPT面向公众免费开放的效劳，，， ，，，更多危险正在萌芽，，， ，，，这加剧了关于未来清静危害的忧虑。。。。。。 。
RecordedFuture在报告中体现，，， ，，，网络犯法分子使用ChatGPT造成的“最紧迫和常见的威胁”主要包括网络垂纶、社会工程和恶意软件开发。。。。。。 。
（1）网络垂纶
凭证HPWolfSecurity的研究，，， ，，，网络垂纶占恶意软件攻击的近90%。。。。。。 。ChatGPT使情形变得更糟：它在模拟人类誊写方面的专长，，， ，，，使其可能成为强盛的网络垂纶工具，，， ，，，尤其对英语不流利的攻击者特殊有用。。。。。。 。
撰写精彩的网络垂纶电子邮件是一门艺术和科学。。。。。。 。借助ChatGPT，，， ，，，编写垂纶邮件会变得更容易，，， ，，，且没有任何拼写过失或希奇的名堂，，， ，，，而这些通常是区分垂纶与正当邮件的要害。。。。。。 。攻击者可以借助ChatGPT创立多种垂纶邮件，，， ，，，例如“使邮件看起来很紧迫”、“收件人点击链接的可能性很高的邮件”、“请求汇款的社工邮件”等。。。。。。 。
AkamaiTechnologies首席手艺官兼执行副总裁RobertBlumofe体现：“ChatGPT使攻击者能有用地将通俗垂纶的数目与鱼叉式网络垂纶（定向）的高收益团结起来。。。。。。 。”通俗网络垂纶的规模很大，，， ，，，以电子邮件、短信和社交媒体帖子的形式发送数百万个诱饵。。。。。。 。但这类通用的形式，，， ，，，容易被发明，，， ，，，往往回报较低。。。。。。 。鱼叉式网络垂纶使用社会工程，，， ，，，建设具有更高回报的针对性和定制化的诱饵，，， ，，，但因需要大宗的人工投入，，， ，，，因而数目较少。。。。。。 。借助ChatGPT天生网络诱饵，，， ，，，攻击者就可以实现事半功倍的效果。。。。。。 。
（2）恶意软件天生
现在清静职员已发明网络攻击者使用ChatGPT来开发恶意软件。。。。。。 。只管ChatGPT的设置阻止其直接做恶，，， ，，，好比详细说明怎样制造炸弹或编写恶意代码，，， ，，，但多个研究职员已经找到要领，，， ，，，能绕开和规避ChatGPT为避免滥用而设置的规则。。。。。。 。BugCrowd首席手艺官、首创人兼董事长CaseyJohnEllis将ChatGPT的泛起称为对抗性AI/机械学习知识领域的“糟糕”时刻。。。。。。 。
在地下黑客论坛上，，， ，，，网络攻击者展示怎样使用ChatGPT建设新的木马。。。。。。 。只要简要地形貌所需的功效（“将所有密码生涯在文件X中，，， ，，，并通过HTTPPOST发送到效劳器Y”），，， ，，，就可以获得简朴的信息窃取器，，， ，，，而不需要任何编程手艺。。。。。。 。�？？？？？？Ｋ剂康揭丫蟹阜盘峁┒褚馊砑葱Ю停� ，，，在ChatGPT等人工智能程序的资助下，，， ，，，攻击者借助人工智能天生的代码提倡网络攻击可能会变得更快、更容易。。。。。。 。ChatGPT付与甚至履历缺乏的攻击者编写更准确的恶意软件代码的能力，，， ，，，而这在以前只能由专家来完成。。。。。。 。ChatGPT的代码编写质量优劣各半，，， ，，，但无疑可以加速恶意软件的开发。。。。。。 。
RecordedFuture在暗网和关闭论坛发明了1,500多条关于在恶意软件开发和看法验证代码建设中使用ChatGPT的资料。。。。。。 。其中包括使用开源库发明的恶意代码对ChatGPT举行培训，，， ，，，以天生可逃避病毒检测的恶意代码差别变体，，， ，，，以及使用ChatGPT建设恶意软件设置文件并设置下令和控制系统。。。。。。 。值得注重的是，，， ，，，凭证RecordedFuture研究职员的说法，，， ，，，ChatGPT还可以用于天生恶意软件有用载荷。。。。。。 。研究团队已经确定了ChatGPT可以有用天生的几种恶意软件有用负载，，， ，，，包括信息窃取器、远程会见木马和加密钱币窃取器。。。。。。 。
虽然ChatGPT并不是编写恶意软件的专家，，， ，，，它天生的恶意代码可能保存细微的过失和逻辑缺陷，，， ，，，从而降低其有用性。。。。。。 。这意味着天生高质量的恶意代码显然离不开攻击者专业知识的支持。。。。。。 。
（3）社会工程
ChatGPT作为由OpenAI训练的大型语言模子，，， ，，，能够天生可用于多种用途的类人文本。。。。。。 。其中一种用途是在社会工程攻击领域。。。。。。 。社会工程攻击是一种依赖心理使用来诱骗人们泄露敏感信息或执行某些操作的战略。。。。。。 。这可以通过种种方法完成，，， ，，，包括网络垂纶诈骗、捏词和其他形式的诱骗。。。。。。 。
ChatGPT和其他基于GPT-3的工具使社会工程攻击能够从其“创立力和对话要领”中受益。。。。。。 。就像互联网为网络犯法分子消除物理障碍一样，，， ，，，这些工具的修辞能力可以消除文化障碍。。。。。。 。
研究职员发明，，， ，，，ChatGPT等GPT-3工具使犯法分子能够逼真地模拟种种社会情形，，， ，，，从而使任何针对性的通讯攻击都越发有用。。。。。。 。GPT-3这类语言模子提供支持的工具，，， ，，，使攻击者更易诱骗受害者提供敏感信息或下载恶意软件，，， ，，，加速从网络垂纶到撒播恼恨言论的所有级别和目的的社会工程攻击。。。。。。 。
总的来说，，， ，，，ChatGPT天生类人文本的能力可以成为社会工程攻击的强盛工具。。。。。。 。通过建设令人信服的新闻，，， ，，，ChatGPT可用于使用小我私家泄露敏感信息或执行某些操作。。。。。。 。未来需要更多人意识到ChatGPT的这种潜在用途，，， ，，，在与未知泉源互动时坚持审慎。。。。。。 。
ChatGPT同样是清静防护的福音
与所有手艺一样，，， ，，，ChatGPT自己是一把双刃剑。。。。。。 。只管越来越多的研究职员以为ChatGPT可能成为黑客的盟友，，， ，，，但这一可天生不良内容的工具，，， ，，，也可以用来资助清静职员提高效率，，， ，，，提高恶意信息识别、抵御网络攻击的能力，，， ，，，这主要包括垂纶检测、误差发明和清静事务响应。。。。。。 。
（1）网络垂纶检测
2022年11月，，， ，，，着名《清静杂志》报告称，，， ，，，2022年前11个月爆发2.55亿次垂纶攻击，，， ，，，同比2021年激增了61%。。。。。。 。人是清静链中最薄弱的环节，，， ，，，掌握着会见敏感数据的密钥。。。。。。 。攻击者往往使用定制的垂纶邮件来获取对敏感数据的会见权限。。。。。。 。
ChatGPT可以被攻击者创立垂纶邮件，，， ，，，同样可以从大型语言模子中学习，，， ，，，资助组织识别和标记垂纶邮件，，， ，，，在邮件进入收件人的收件箱之前就可以举行标记，，， ，，，从而显著降低网络垂纶运动乐成的时机。。。。。。 。网络清静专业职员还可以使用ChatGPT来训练网络垂纶检测系统，，， ，，，以识别与这些攻击相关的模式和语言。。。。。。 。以便提高网络垂纶检测系统的效率和有用性。。。。。。 。
（2）误差发明
ChatGPT可用于资助发明组织使用软件和系统中的新误差。。。。。。 。网络清静行业已经面临控制大宗清静误差的挑战。。。。。。 。人工智能将会把清静误差数字推得更高，，， ，，，由于它可以更快、更智能地发明误差。。。。。。 。
清静职员可以使用ChatGPT快速天生大宗奇异的输入，，， ，，，使网络清静专业职员能够识别以前未检测到和未知的误差。。。。。。 。同时，，， ，，，还使用新获得的知识和信息来提高软件和系统的清静性，，， ，，，实验更有用的清静控制，，， ，，，或刷新目今的清静步伐和实践。。。。。。 。
ChatGPT它与用户的专业水平相团结，，， ，，，可以使用户能够快速学习并有用地接纳行动。。。。。。 。就像应用程序的在线资助可以解决问题一样，，， ，，，用户可以从ChatGPT获得特定误差的更多信息以及怎样缓解步伐。。。。。。 。
未来随着，，， ，，，ChatGPT模子代码明确能力的提高，，， ，，，清静防护职员可以询问软件代码的副作用，，， ，，，将其作为开发同伴，，， ，，，可以显著提升软件代码的清静水平。。。。。。 。
随着ChatGPT人工智能模子的演进，，， ，，，有可能实现误差检测和修复的自动化和/或半自动化，，， ，，，以及基于危害的优先级。。。。。。 。这关于面临资源限制的IT和清静团队来说将是很是有吸引力的应用。。。。。。 。
（3）事务剖析与响应
ChatGPT还可以在检测和响应网络攻击，，， ，，，以及改善组织内部的相同方面施展要害作用。。。。。。 。
埃森哲的清静研究职员一直在实验使用ChatGPT的功效，，， ，，，实现网络防御自动化的事情。。。。。。 。熟练的清静专业职员，，， ，，，网络清静专业职员肩负过重，，， ，，，ChatGPT实现一些清静事情的自动化将会给不堪重负的清静团队带来福音，，， ，，，同时尚有助于“消除信号中的一些噪音”
多年来，，， ，，，清静运营领域在许多方面一直障碍不前，，， ，，，剖析师收到了大宗、过载的信息。。。。。。 。通常，，， ，，，清静剖析师收到潜在清静事务的警报后，，， ，，，会提取数据以便能“讲出故事”，，， ，，，同时判读是否为真正的攻击。。。。。。 。这通常需要大宗手动事情，，， ，，，或者需要使用SOAR（清静编排、自动化和响应）工具将相关事情举行整合。。。。。。 。
ChatGPT在这方面展示奇异的优势：在从清静运营平台获取数据后，，， ，，，ChatGPT会天生很是好的摘要，，， ，，，险些就像人类剖析师在审查后所形成的报告。。。。。。 。埃森哲的研究批注，，， ，，，ChatGPT从清静信息和事务治理(SIEM)工具中获取数据输出并举行处置惩罚可以快速天生清静事务的“故事”。。。。。。 。相比人类剖析师，，， ，，，ChatGPT可以更快地从数据中建设有关清静事务的清晰画面。。。。。。 。最终，，， ，，，这些可以资助清静团队做出更好的清静决议。。。。。。 。
ChatGPT的未来：以人工智能对抗人工智能
对ChatGPT未来在网络清静中饰演什么角色、有什么影响，，， ，，，我们很难举行准确的展望。。。。。。 。这取决于它的使用方法以及使用的意图。。。。。。 。来自人工智能的威胁并不是新问题，，， ，，，只是ChatGPT展示了一些看起来很恐怖的应用。。。。。。 。关于网络清静人士来说，，， ，，，主要的是要实时意识到ChatGPT的潜在危害并实时接纳适当的步伐来应对。。。。。。 。
清静专家展望，，， ，，，国家配景的黑客将率先在网络攻击中使用ChatGPT，，， ，，，而该手艺最终会在更多的攻击组织获得大规模的使用。。。。。。 。信息清静专家需要最先开发能够抵御此类攻击的系统。。。。。。 。
从网络清静防护的角度来看，，， ，，，机构可以接纳针对性的应对步伐。。。。。。 。对ChatGPT等类似模子举行培训，，， ，，，标记恶意的运动和恶意代码；；；；；；同时对其设置难以绕过护栏。。。。。。 。关于ChatGPT引发的威胁，，， ，，，可以向员工提供新型的网络意识培训，，， ，，，掌握识别社会工程攻击的知识，，， ，，，以便识别ChatGPT等人工智能工具所创立的垂纶攻击。。。。。。 。
虽然仅仅是这样还不敷。。。。。。 。ChatGPT等人工智能工具会以比人类罪犯更快的速率制造出新的、日益智能的威胁，，， ，，，撒播威胁的速率也会将凌驾网络清静职员的反应速率。。。。。。 。关于机构来说，，， ，，，跟上这一转变速率的唯一要领是通过使用人工智能来应对人工智能。。。。。。 。
一方面，，， ，，，网络清静行业的研究职员、从业者、学术和企业可以使用ChatGPT的实力举行立异和协作，，， ，，，包括误差发明、事务响应和垂纶检测。。。。。。 。别的，，， ，，，随着ChatGPT等类似工具的生长，，， ，，，未来开发新的网络清静工具越发主要。。。。。。 。清静企业应更起劲地开发和安排基于行为（而非规则）的AI清静工具，，， ，，，来检测人工智能天生的攻击。。。。。。 。网络清静仅使用规则驱动的框架来检测潜在的网络威胁。。。。。。 。行为剖析通过使用重大的机械学习算法来剖析整个企业的用户和实体数据，，， ，，，识别具有危害的外行为，，， ，，，从而实现以人为本的防御。。。。。。 。为了更好地�；；；；；；せ姑馐苷庑┬滦凸セ鳎� ，，，是时间生长和安排基于行为的AI检测工具了。。。。。。 。
清静研究职员以为，，， ，，，展望未来，，， ，，，ChatGPT也可能是一个信号，，， ，，，批注距离网络防御决议的更高自动化不再遥远。。。。。。 。
参考资料
https://www.helpnetsecurity.com/2023/01/26/chatgpt-cybersecurity-threat/
https://www.crn.com/news/security/5-big-pros-and-cons-of-chatgpt-for-cybersecurity
https://www.scmagazine.com/analysis/emerging-technology/how-chatgpt-is-changing-the-way-cybersecurity-practitioners-look-at-the-potential-of-ai
https://www.rsa.com/products-and-solutions/cybersecurity-and-chatgpt-use-bots-to-fight-bots/
https://www.techrepublic.com/article/cybersecurity-blade-chatgpt-can-cut-both-ways/
https://techcrunch.com/2023/01/11/chatgpt-cybersecurity-threat/
https://www.darkreading.com/omdia/chatgpt-artificial-intelligence-an-upcoming-cybersecurity-threat-
https://www.crn.com/news/security/accenture-exec-chatgpt-may-have-big-upside-for-cybersecurity?itc=refresh
连忙拨打
京公网安备11000002002064号