网络安全公司Snyk今天宣布以未披露的价格收购瑞士人工智能安全研究公司Invariant Labs AG。
Invariant Labs于2024年从苏黎世联邦理工学院分拆成立,专门构建工具和框架来帮助开发者构建安全、稳健和可靠的AI智能体。该公司也是开发针对新兴AI威胁(如工具中毒和模型上下文协议漏洞)防护措施的早期先驱,致力于上下文化AI安全。
Invariant Labs提供一套旨在帮助开发者观察、审计和保护AI智能体及应用程序的工具。该公司的主要产品Explorer是一个运行时可观测性仪表板,让团队能够实时检查大型语言模型和智能体系统的行为,捕获工具使用情况、决策过程和上下文信息。
另一个名为Gateway的工具与Explorer相辅相成,它是一个轻量级代理,可以路由应用程序编程接口流量并执行安全策略,无需更改代码,从而实现快速部署和监控。
该公司还提供Guardrails,这是一个策略引擎,允许开发者定义和执行围绕AI行为的上下文规则,如限制数据流、限制工具访问或标记异常决策。另一个关键产品MCP-Scan专门针对MCP漏洞,通过检测工具中毒和"MCP欺诈"等威胁来保护AI智能体在工具调用或提示链接过程中免受损害。
"我们花费多年时间研究和构建确保AI原生未来安全所需的框架,"Invariant联合创始人兼首席执行官Marc Fisher表示。"我们将智能体系统理解为一种新型软件,需要新颖和创新的方法来提供强有力的安全保障。"
此次收购将推进Snyk保护下一代AI原生和智能体应用程序的使命,包括大型语言模型集成和驱动现代软件开发的自主智能体。虽然这不仅仅是人才收购,Snyk还将受益于Invariant Labs的研究团队,该公司表示这些研究人员在智能体攻击向量、MCP工具和实时检测技术方面拥有行业首创的情报记录,Snyk称这些技术正在塑造整个行业的安全标准。
"通过Invariant Labs,我们正在加速识别、压力测试和中和下一代AI威胁的能力,防止它们进入生产环境,"Snyk首席创新官Manoj Nair表示。"这项投资深化了我们在AI安全创新方面的领导地位,植根于原创研究、技术严谨性和开发者信任。"
去年,Nair与theCUBE联合主持人兼theCUBE Research首席分析师Dave Vellante就云计算如何影响安全进行了交流。
好文章,需要你的鼓励
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
数据分析平台公司Databricks完成10亿美元K轮融资,公司估值超过1000亿美元,累计融资总额超过200亿美元。公司第二季度收入运营率达到40亿美元,同比增长50%,AI产品收入运营率超过10亿美元。超过650家客户年消费超过100万美元,净收入留存率超过140%。资金将用于扩展Agent Bricks和Lakebase业务及全球扩张。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。