网络安全公司Snyk今天宣布以未披露的价格收购瑞士人工智能安全研究公司Invariant Labs AG。
Invariant Labs于2024年从苏黎世联邦理工学院分拆成立,专门构建工具和框架来帮助开发者构建安全、稳健和可靠的AI智能体。该公司也是开发针对新兴AI威胁(如工具中毒和模型上下文协议漏洞)防护措施的早期先驱,致力于上下文化AI安全。
Invariant Labs提供一套旨在帮助开发者观察、审计和保护AI智能体及应用程序的工具。该公司的主要产品Explorer是一个运行时可观测性仪表板,让团队能够实时检查大型语言模型和智能体系统的行为,捕获工具使用情况、决策过程和上下文信息。
另一个名为Gateway的工具与Explorer相辅相成,它是一个轻量级代理,可以路由应用程序编程接口流量并执行安全策略,无需更改代码,从而实现快速部署和监控。
该公司还提供Guardrails,这是一个策略引擎,允许开发者定义和执行围绕AI行为的上下文规则,如限制数据流、限制工具访问或标记异常决策。另一个关键产品MCP-Scan专门针对MCP漏洞,通过检测工具中毒和"MCP欺诈"等威胁来保护AI智能体在工具调用或提示链接过程中免受损害。
"我们花费多年时间研究和构建确保AI原生未来安全所需的框架,"Invariant联合创始人兼首席执行官Marc Fisher表示。"我们将智能体系统理解为一种新型软件,需要新颖和创新的方法来提供强有力的安全保障。"
此次收购将推进Snyk保护下一代AI原生和智能体应用程序的使命,包括大型语言模型集成和驱动现代软件开发的自主智能体。虽然这不仅仅是人才收购,Snyk还将受益于Invariant Labs的研究团队,该公司表示这些研究人员在智能体攻击向量、MCP工具和实时检测技术方面拥有行业首创的情报记录,Snyk称这些技术正在塑造整个行业的安全标准。
"通过Invariant Labs,我们正在加速识别、压力测试和中和下一代AI威胁的能力,防止它们进入生产环境,"Snyk首席创新官Manoj Nair表示。"这项投资深化了我们在AI安全创新方面的领导地位,植根于原创研究、技术严谨性和开发者信任。"
去年,Nair与theCUBE联合主持人兼theCUBE Research首席分析师Dave Vellante就云计算如何影响安全进行了交流。
好文章,需要你的鼓励
CoreWeave发布AI对象存储服务,采用本地对象传输加速器(LOTA)技术,可在全球范围内高速传输对象数据,无出口费用或请求交易分层费用。该技术通过智能代理在每个GPU节点上加速数据传输,提供高达每GPU 7 GBps的吞吐量,可扩展至数十万个GPU。服务采用三层自动定价模式,为客户的AI工作负载降低超过75%的存储成本。
IDEA研究院等机构联合开发了ToG-3智能推理系统,通过多智能体协作和双重进化机制,让AI能像人类专家团队一样动态思考和学习。该系统在复杂推理任务上表现优异,能用较小模型达到卓越性能,为AI技术的普及应用开辟了新路径,在教育、医疗、商业决策等领域具有广阔应用前景。
谷歌DeepMind与核聚变初创公司CFS合作,运用先进AI模型帮助管理和改进即将发布的Sparc反应堆。DeepMind开发了名为Torax的专用软件来模拟等离子体,结合强化学习等AI技术寻找最佳核聚变控制方式。核聚变被视为清洁能源的圣杯,可提供几乎无限的零碳排放能源。谷歌已投资CFS并承诺购买其200兆瓦电力。
上海人工智能实验室提出SPARK框架,创新性地让AI模型在学习推理的同时学会自我评判,通过回收训练数据建立策略与奖励的协同进化机制。实验显示,该方法在数学推理、奖励评判和通用能力上分别提升9.7%、12.1%和1.5%,且训练成本仅为传统方法的一半,展现出强大的泛化能力和自我反思能力。