人们对GenAI的信任好坏参半。VentureBeat最近与制造业和服务业的几家CISO进行了交谈，了解到尽管营销、运营，特别是安全方面的生产率有提高的潜力，但对知识产权和数据保密性的担忧是董事会成员最常询问的风险之一。

在新技术的军备竞赛中保持同步

研究发现，虽然69%的企业采用了GenAI工具，但46%的网络安全专业人员认为GenAI使企业更容易受到攻击，88%的CISO和安全负责人表示，武器化的AI攻击是不可避免的。

85%的人认为GenAI可能为最近的攻击提供了动力，理由是WormGPT的卷土重来，这是一种新的GenAI，在地下论坛上向有兴趣发动钓鱼和商业电子邮件妥协攻击的攻击者做广告。武器化的GenAI工具在黑暗网络和Telegram上出售，很快成为畅销书。一个例子是，到7月份，FraudGPT的订阅量很快就达到了3000。

CrowdStrike首席科学家兼高级副总裁Sven Krasser告诉VentureBeat，攻击者正在加快努力，将大型语言模型(LLM)和GenAI武器化。Krasser强调，网络犯罪分子正在采用LLM技术进行网络钓鱼和恶意软件，但“虽然这提高了对手可以发动的攻击的速度和数量，但它并没有显著改变攻击的质量。”

Krasser继续说，“使用AI将来自全球各地的信号关联起来的基于云的安全也是对这些新威胁的有效防御。”他观察到，“当涉及到这些恶意技术时，GenAI并没有提高标准，但它提高了平均水平，并使技能较低的对手更容易变得更有效。”

“在进攻性AI成为主流之前，企业必须实施网络AI来防御。当这成为一场算法与算法的战争时，只有自主反应才能以机器的速度反击，以阻止AI增强的攻击。”Darktrace威胁狩猎主管Max Heinmeyer说。

GenAI用例正在推动市场不断增长

GenAI不断学习的能力是一个引人注目的优势，尤其是在解密终端创建的海量数据时，不断更新的威胁评估和风险优先级算法也推动了引人注目的新用例，CISO和CIO预计这些用例将改善行为并预测威胁。Ivanti最近与Securin的合作旨在提供更精确和实时的风险优先级算法，同时实现其他几个关键目标，以加强其客户的安全状况。

Ivanti和Securin正在合作更新风险优先排序算法，将Securin的漏洞智能(VI)和Ivanti漏洞知识库神经元相结合，以提供近乎实时的漏洞威胁情报，以便其客户的安全专家能够加快漏洞评估和优先排序。Ivanti的首席产品官斯里尼瓦斯·穆卡马拉博士说：“通过与Securin合作，我们能够使用AI增强人类智能，为客户提供强大的情报和风险优先级，以应对所有漏洞，无论其来源如何。”

Gen AI的许多潜在用例是推动市场增长的令人信服的催化剂，即使CISO社区对当前一代技术的信任存在分歧。基于AI的生产性网络安全平台、系统和解决方案的市场价值预计将从2022年的16亿美元上升到2032年的112亿美元，年复合增长率为22%。Canalys预计，GenAI将在五年内支持超过70%的企业网络安全运营。

Forrester将GenAI用例定义为三类：内容创建、行为预测和知识表达。在安全工具中使用AI和ML并不是什么新鲜事。在过去十年中开发的几乎每个安全工具都以某种形式使用ML，例如，自适应和情景身份验证已被用于基于启发式规则、朴素贝叶斯分类和逻辑回归分析构建风险评分逻辑“，Forrester的首席分析师Allie Mellen写道。

GenAI需要灵活地适应不同的业务

CISO和CIO如何就如何平衡GenAI的风险和好处向董事会提供建议，将决定这项技术在未来几年的未来。Gartner预测，到2026年，80%的应用程序将包括GenAI功能，这一采用率在大多数企业中已经开创了先例。

CISO表示，他们正从第一代GenAI应用程序中获得最大价值，他们表示，一个平台或应用程序对他们团队的工作方式有多大的适应性是关键，这延伸到基于GenAI的技术如何支持和加强它们正在构建的更广泛的零信任安全框架。

以下是试行GenAI的CISO的用例和指导，以及他们期望看到的最大价值：

确保每一代AI应用程序、平台、工具和终端都作为零信任框架的一部分得到保护

对与GenAI工具、应用程序、平台和端点进行的每一次交互都采取零信任方法是任何CISO剧本的必备条件，这必须包括对用户、设备及其在静止和传输中使用的数据进行持续监控、动态访问控制和始终在线验证。

CISO最担心的是GenAI如何带来他们没有准备好防御的新攻击载体。对于构建LLMS的企业来说，防止查询攻击、及时注入、模型操纵和数据中毒是首要任务。

使用Gen AI管理知识

最流行的用例是使用Gen AI跨安全团队和大型企业管理知识，以替代成本更高、耗时更长的系统集成项目。今年，基于ChatGPT的副驾驶主导了RSAC 2023。推出ChatGPT解决方案的供应商包括谷歌安全AI工作台、微软安全Copilot(在展会前推出)、Recorded Future、Security Scorecard和SentinelOne。

Ivanti在这一领域发挥了领导作用，因为他们对客户的IT服务管理(ITSM)、网络安全和网络安全需求有深入的了解，他们提供了一个主题为如何用GenAI转变IT服务管理的网络研讨会，由IvantiAL/ML首席产品经理苏珊·冯担任主讲。

今年早些时候，在CrowdStrike Fal.Con 2023上，这家网络安全提供商在他们的年度活动上发布了12项新声明。Charlotte AI将对话式AI的力量带到了Falcon平台上，通过自然语言交互来加速威胁检测、调查和响应。Charlotte AI生成LLM支持的事件摘要，以帮助安全分析师节省分析漏洞的时间。

Charlotte AI将在明年向所有CrowdStrike Falcon客户发布，初步升级将于2023年9月下旬在Raptor平台上开始。CrowdStrike的首席产品官Raj Rajamani表示，CharlotteAI通过自动化重复性任务，帮助安全分析师“提高两到三倍的工作效率”。Rajamani向VentureBeat解释说，CrowdStrike在其图形数据库架构上投入了大量资金，以支持Charlotte跨越终端、云和身份的能力。

识别和修复云配置错误

云攻击攻击同比增长95%，因为攻击者不断努力改进他们的交易技巧并破坏云错误配置，这是企业需要防范的增长最快的威胁之一。

VentureBeat预测，2024年将出现合并、收购和更多合资企业，旨在缩小多云和混合云安全差距。CrowdStrike今年早些时候收购了Bionic，这只是一个更广泛趋势的开始，旨在帮助企业加强他们的应用安全和状态管理。之前旨在提高云安全的收购包括微软收购CloudKnox Security，CyberArk收购C3M，Snyk收购Fugue，Rubrik收购Lamina。

此次收购还有助于增强CloudStrikes在统一平台上销售整合的云本地安全的能力，Bionic非常适合CrowdStrikes的云优先企业客户群，它反映了收购将如何被用来进一步加强Gen AI在网络安全方面的潜力。