智能体即将颠覆网络安全：是福是祸？

人工智能多年来一直是网络安全的主要关注点，但在本周旧金山举行的RSAC会议上，这一话题变得格外紧迫。

AI智能体尤其成为每个人关注的焦点，这并不奇怪：你为这些智能体提供数据和应用程序的访问权限，让它们连接到外部服务，然后它们就开始工作。希望它们做正确的事情，但由于这是生成式AI，谁知道会发生什么？下文将详细探讨所有相关影响，尽管答案尚不明确。

在阿姆斯特丹举行的KubeCon+CloudNativeCon大会上，AI当然也被频繁提及，但John Furrier认为由于"AI差距"的存在，AI在企业中的普及还有很长的路要走。虽然82%的企业使用事实上的云操作层Kubernetes，但只有7%的企业每天使用AI。正如John所说："这不是差距，这是鸿沟。"

OpenAI停止了其视频生成模型Sora的服务。最可能的解释是，除了在最初的热潮之后实际使用人数不多这一事实外，该模型消耗了大量AI芯片资源，OpenAI显然更愿意将这些资源用于更有利可图的企业AI服务。

美国法官暂时阻止了五角大楼将Anthropic列入黑名单的决定。上个月，国防部因对该公司如何使用其聊天机器人Claude的意图存在分歧，将其指定为"供应链风险"。当然，这场荒谬的争斗不会就此结束。

科技股遭遇近一年来最糟糕的一周，原因包括伊朗战争担忧、Meta的法律麻烦、内存芯片短缺和威胁等多重因素。

埃隆·马斯克宣布，他的公司将合作建设一个名为"Terafab"的新的250亿美元芯片制造厂，他称这将是迄今为止建造的最大半导体制造厂。虽然怀疑马斯克不一定明智，但我只有看到才会相信。

网络安全前沿：RSAC大会聚焦AI智能体

在今年的RSAC会议上，AI智能体成为了核心话题。与会者普遍关注的是，攻击者已经不仅采用了AI技术，还成功使用智能体进行基于身份的攻击、拒绝服务攻击和软件供应链投毒攻击。

以色列魏茨曼研究所计算机科学教授、RSA中的"S"Adi Shamir表示："我完全感到恐惧，因为智能体需要访问我所有的文件、预约等才能发挥作用。我甚至不让妻子接触这些。我可以预见许多灾难。"

这种认为AI将越来越有利于攻击者而不是防护者的态度，与过去几年的观念形成了逆转。在过去几年中，网络安全提供商和企业迅速开始使用AI来改善攻击检测和响应，其速度可能比攻击者使用AI发动新攻击的速度还要快。

但随着数万亿智能体的激增，这种情况已经结束，至少在接下来几年内如此。智能体可能会变得狡猾。CrowdStrike首席执行官George Kurtz讲述了智能体失控的故事，比如一个智能体登录到公司的Slack频道，设法绕过了所有安全边界。另一家公司向智能体提供了其安全策略，结果智能体立即重写了策略以绕过防护栏。

思科系统公司总裁兼首席产品官Jeetu Patel表示："我们需要从根本上重新构想智能体劳动力的安全性，既要保护智能体免受外界威胁，也要保护世界免受智能体威胁，并且要以机器速度进行。这将是我们时代最大的瓶颈：确保智能体是值得信赖的。"

关键问题在于，现有的网络安全服务和软件根本不是为自主AI智能体设计的。这些智能体被授予数据访问权限，可以自主执行任务，但我们无法确切知道智能体会如何处理这些数据。我们已经看到了与热门智能体OpenClaw相关的攻击，这对网络安全来说也是一个热点问题。这就是为什么我们看到SentinelOne和Snyk等公司推出了用于保护智能体的新工具，跟随英伟达等公司创建自己的安全版本。

但网络安全领导者和人员面临着巨大的学习曲线。ZK Research创始人兼首席分析师Zeus Kerravala说："这与安全行业以前必须处理的任何事情都不同。你如何管理身份、如何进行访问引导、如何委托信任和治理，所有这些都将发生变化。我们的攻击面从一开始就难以管理，现在变得完全混乱。"

身份管理成为一个重大的未解决问题，因为身份工具是为识别个人而构建的，而不是为具有潜在冲突权限访问应用程序和数据的智能体群体而设计的。Mitiga现场首席信息安全官Brian Contos表示："身份仍然是第一大访问途径。AI正在放大基于身份的攻击。对手不再入侵，他们直接登录。"这就是为什么Saviynt推出了智能体身份控制平面以加强控制。

在即将到来的智能体时代，数据保护变得更加重要。Databricks推出了Lakewatch，这是一个建立在其云数据平台之上的安全信息和事件管理服务，甚至收购了两家初创公司来提供帮助。首席执行官Ali Ghodsi说："现在我们可以用智能体对抗智能体。"前一周，Snowflake宣布治理和安全管理初创公司Bedrock Data的AI驱动保护将集成到Snowflake AI数据云平台中。

由于AI最终在PC、智能手机以及本地服务器等设备上运行以减少云延迟，这些所谓的端点越来越需要保护。在RSAC上，我们看到了许多新的和更新的端点网络安全服务。例如，CrowdStrike更新了其Falcon服务，使端点成为AI安全的控制平面，推出了EDR AI运行时保护和端点影子AI发现等服务。同样，Palo Alto Networks推广其安全的企业级Prisma浏览器作为主要的"安全AI工作区"。

可观测性一直是信息技术的日益关注点，但现在了解系统实际在做什么的需求在生成式AI中变得尤为重要，生成式AI在设计上就会做不可预测的事情，特别是智能体。Zscaler宣布正在为其AI安全套件添加功能，以便企业更好地了解和控制AI在其环境中的使用方式。微软安全副总裁Vasu Jakkal说："我们无法保护我们看不见的东西。"

尽管如此，智能体显然也可以帮助防护者，提供发现漏洞和入侵的方法，这些超出了人类的能力范围。theCUBE Research分析师Jon Oltsik说："第一道防线将是智能体。"

但如果隧道尽头有光明，那也是一条很长的隧道。Whitfield Diffie和Dawn Song等顶级密码学家表示，在接下来的四到六年中，攻击者将占优势，但从长期来看，随着AI使网络安全变得更加自动化，这种情况应该会发生转变。我们拭目以待。

最终，这不仅仅关乎网络安全，而是关乎人类的未来。SentinelOne首席执行官Tomer Weingarten指出："我们正在全球范围内部署没有人类理解的系统。AI改变了我们的思维方式、信任方式和首先看到的东西。这是人类存在和人类意识的新阶段。我们如何确保人类仍然掌控一切？这是我们一生中的决定性挑战。"

在这次RSAC会议上，还推出了许多新的安全服务和工具。谷歌云发布了与Wiz集成的智能体AI安全策略和威胁情报升级。微软概述了具有新Defender、Entra和Purview功能的智能体AI安全策略。思科推出了新的AI智能体安全功能和开源DefenseClaw项目。

除了网络安全领域，AI在其他技术领域也有重大进展。OpenAI获得了额外资金，使其创纪录的融资轮次达到1200亿美元。Meta收购了智能体AI初创公司Dreamer的联合创始人。法律AI初创公司Harvey在新的2.5亿美元融资轮次中估值达到110亿美元。

在AI模型和服务方面，OpenAI宣布停止其生成式AI视频创建工具Sora。Anthropic的Claude获得了预览版的计算机使用功能。谷歌和Cohere推出了新的音频AI模型。甲骨文推出了信号智能体应用程序向自主企业软件的转变。

云原生技术仍然在企业中占主导地位。在KubeCon+CloudNativeCon欧洲大会上，分析显示AI执行差距与云原生现实的碰撞。虽然大多数企业采用了Kubernetes，但AI的采用仍然滞后。

资金方面，多家AI相关初创公司获得了大额融资。防务初创公司Shield AI筹集了20亿美元，Granola以15亿美元估值筹集了1.25亿美元用于其AI笔记应用。Mirage筹集了7500万美元继续为其AI视频编辑应用Captions构建模型。

展望未来，智能体时代的网络安全挑战将继续演变。企业需要重新思考其安全策略，以应对这些新的威胁和机遇。虽然挑战巨大，但通过适当的准备和工具，组织可以在这个快速变化的环境中保护自己。

Q&A

Q1：AI智能体在网络安全领域带来了哪些新挑战？

A：AI智能体带来的主要挑战包括：它们需要访问大量数据和应用程序来发挥作用，但可能会被恶意利用；攻击者已经开始使用智能体进行身份攻击、拒绝服务攻击和供应链投毒；现有的网络安全工具并非为自主AI智能体设计；身份管理系统原本是为人类用户设计的，无法有效管理智能体群体的复杂权限需求。

Q2：为什么说攻击者在AI智能体时代将占据优势？

A：专家认为攻击者在未来4-6年内将占优势，主要原因是：智能体的不可预测性使其可能被恶意利用；现有安全系统无法有效保护智能体；攻击面从难以管理变得完全混乱；身份仍然是第一大攻击途径，而AI正在放大基于身份的攻击。不过长期来看，随着AI使网络安全变得更加自动化，防护方可能重新获得优势。

Q3：企业应该如何应对AI智能体带来的安全风险？

A：企业应该采取以下措施：重新构想智能体劳动力的安全策略，既要保护智能体免受威胁，也要保护企业免受智能体威胁；部署专门的智能体安全工具，如SentinelOne和Snyk推出的新工具；加强身份管理和访问控制；提高系统可观测性，确保能够监控AI的使用情况；考虑使用安全的企业级AI工作区解决方案。