智能体和恶意国家行为体扩大网络攻击面引发新警报

随着全球人工智能引擎持续加速发展，对支撑其基础设施的威胁担忧也在不断增长。

智能体的兴起带来了关于控制其访问权限和行为所需安全级别的新问题。围绕智能体间通信安全协议以及能够让中国等国家在AI领域实现更快速发展的技术，正在引发更多质疑。

网络安全社区在OpenAI公司的ChatGPT于2022年底爆红后不久就对AI风险上升表达了担忧。三年多后，在AI广泛应用的情况下，智能体的普及让一些网络安全研究人员怀疑危险区域是否已经进一步扩大。

Darktrace公司安全和AI策略副总裁玛格丽特·坎宁安博士在本周由非营利组织云安全联盟主办的为期两天虚拟简报会上表示："我们开始在智能体AI中看到的行为类型正在真正改变我们的环境。随着我们进行这种采用，它正在迅速扩大我们的攻击面。"

MCP服务器受到攻击

这个攻击面包括当今网络上一些使用最广泛的模型上下文协议或MCP服务器。它们为大语言模型提供连接外部数据源、其他模型和软件应用程序的能力。

安全研究人员注意到，当Anthropic公司在2024年11月引入MCP开放标准时，它将正确保护它的责任放在了用户身上。此后，来自Red Hat公司和IANS Research的安全专业人员在最近几个月记录了MCP的安全问题。Anthropic本身在11月发布了额外的MCP指导，涉及在为智能体使用MCP时涉及代码执行的安全技术。

IANS的教师亚伦·特纳在CSA活动期间的演讲中说："我没有在MCP中发现真正的原生全栈安全。我们必须为一些真正糟糕的事情做好准备。"

MCP安全挑战延伸到CI管道、云工作负载和员工终端。在Clutch Security公司最近发布的企业环境MCP服务器部署分析中，研究人员发现95%的MCP部署在员工终端上运行，安全工具无法看到这些部署。

特纳说："我的意见是，如果MCP试图在终端上运行，你应该把它们当作恶意软件对待。"

跌破安全贫困线

与AI部署相关的挑战重新关注了小型企业保护其关键资产的能力。埃森哲公司报告称，虽然43%的网络攻击影响小企业，但这些公司中只有14%有能力保护自己。

CSA的里奇·莫格尔和1Password的温迪·纳瑟在CSA活动期间谈论了不断扩大的安全差距。

这催生了"安全贫困线"一词，该术语归因于1Password公司高级研究倡议总监温迪·纳瑟。网络安全社区越来越相信，AI可能会扩大资源丰富的公司与那些无法负担员工或工具来保护自己的公司之间的鸿沟。

纳瑟在CSA活动期间露面时说："如果你是一家利润率只有1%的零售店，你很难花费你需要的安全资金。仅仅培训是不够的。"

这种动态的另一面是，资源较少的恶意行为者今天更有能力利用AI。迹象开始表明他们正在大量针对大语言模型基础设施。

网络安全公司GreyNoise Intelligence设置的蜜罐记录了从10月开始的三个月内对大语言模型基础设施的超过91000次攻击会话，其中近81000次发生在11天期间。这些攻击旨在探测大语言模型端点，如OpenAI兼容API和Google Gemini格式。

云安全联盟的首席分析师里奇·莫格尔在与纳瑟的同一会话中出现时说："我看到资源较少的攻击者能够扩大规模。他们可以自动化很多流程。从脚本小子到国家行为体的每个人现在都在使用AI开发漏洞利用。这真的让我害怕。"

中国和伊朗的进步

国家行为体参与漏洞利用开发和针对AI基础设施的活动为不可避免攻击的网络安全准备增加了新元素。特拉维夫大学高级研究员阿维·达维迪博士最近发布了对伊朗寻求建立涵盖网络战争和与以色列及西方国家未来冲突的主权AI能力的分析。

达维迪强调了伊朗集团使用商业AI工具扫描工业控制系统和探测其他国家防御系统的情况。伊朗黑客集体APT-42试图欺骗AI系统提供"红队"式攻击指导，然后可被恶意行为者使用。

网络安全专业人员更担心的可能是中国AI能力的预期加强。这一情景最近得到了Anthropic首席执行官达里奥·阿莫迪的加强，他发表了一篇最新文章，指出中国是最有可能在AI能力方面超越美国的国家。

中国也在美国国防界许多主要声音的心中。在本周TED AI在旧金山安排的小组讨论中，一位前政府官员表达了对全球AI力量平衡的担忧。

前国防部官员梅纳德·霍利迪和科林·卡尔在旧金山的TED AI活动上谈论了AI和国家行为体。

据斯坦福大学弗里曼·斯波格利国际研究所高级研究员、前美国国防部副部长科林·卡尔说，中国在产生人工超级智能的竞赛中正在获得进展。

卡尔说："我们仍然拥有世界上最好的AI实验室，我们的模型仍然是世界上最好的。但中国几乎拥有成为真正接近的快速跟随者所需的一切。"

卡尔指出，前一届政府在两年时间里对中国实施了逐步更严格的出口控制，旨在限制该国获得用于AI的先进半导体的能力。现任政府已允许出口英伟达公司的H200 AI处理器，据卡尔称，预计中国科技公司将有超过200万个该芯片的订单。

卡尔说："我们不想用美国制造的最好技术淹没极权主义对手国家。从国家安全角度来看，允许中国缩小技术差距并不划算。"

Q&A

Q1：什么是MCP服务器？为什么它们面临安全威胁？

A：MCP服务器是模型上下文协议服务器，为大语言模型提供连接外部数据源、其他模型和软件应用程序的能力。安全威胁来自于Anthropic公司将保护责任放在用户身上，而95%的MCP部署在员工终端上运行，安全工具无法监控。

Q2：什么是安全贫困线？它如何影响小企业？

A：安全贫困线是指企业无法承担足够的网络安全防护成本的状态。小企业特别受影响，虽然43%的网络攻击针对小企业，但只有14%的小企业有能力保护自己，像利润率只有1%的零售店很难投入必要的安全资金。

Q3：中国在人工智能领域构成什么威胁？

A：据前美国国防部副部长科林·卡尔表示，中国在人工超级智能竞赛中正在获得进展，几乎拥有成为快速跟随者所需的一切。中国预计将订购超过200万个英伟达H200 AI处理器，这可能让中国缩小与美国的技术差距。