网络安全公司Snyk今天宣布以未披露的价格收购瑞士人工智能安全研究公司Invariant Labs AG。
Invariant Labs于2024年从苏黎世联邦理工学院分拆成立,专门构建工具和框架来帮助开发者构建安全、稳健和可靠的AI智能体。该公司也是开发针对新兴AI威胁(如工具中毒和模型上下文协议漏洞)防护措施的早期先驱,致力于上下文化AI安全。
Invariant Labs提供一套旨在帮助开发者观察、审计和保护AI智能体及应用程序的工具。该公司的主要产品Explorer是一个运行时可观测性仪表板,让团队能够实时检查大型语言模型和智能体系统的行为,捕获工具使用情况、决策过程和上下文信息。
另一个名为Gateway的工具与Explorer相辅相成,它是一个轻量级代理,可以路由应用程序编程接口流量并执行安全策略,无需更改代码,从而实现快速部署和监控。
该公司还提供Guardrails,这是一个策略引擎,允许开发者定义和执行围绕AI行为的上下文规则,如限制数据流、限制工具访问或标记异常决策。另一个关键产品MCP-Scan专门针对MCP漏洞,通过检测工具中毒和"MCP欺诈"等威胁来保护AI智能体在工具调用或提示链接过程中免受损害。
"我们花费多年时间研究和构建确保AI原生未来安全所需的框架,"Invariant联合创始人兼首席执行官Marc Fisher表示。"我们将智能体系统理解为一种新型软件,需要新颖和创新的方法来提供强有力的安全保障。"
此次收购将推进Snyk保护下一代AI原生和智能体应用程序的使命,包括大型语言模型集成和驱动现代软件开发的自主智能体。虽然这不仅仅是人才收购,Snyk还将受益于Invariant Labs的研究团队,该公司表示这些研究人员在智能体攻击向量、MCP工具和实时检测技术方面拥有行业首创的情报记录,Snyk称这些技术正在塑造整个行业的安全标准。
"通过Invariant Labs,我们正在加速识别、压力测试和中和下一代AI威胁的能力,防止它们进入生产环境,"Snyk首席创新官Manoj Nair表示。"这项投资深化了我们在AI安全创新方面的领导地位,植根于原创研究、技术严谨性和开发者信任。"
去年,Nair与theCUBE联合主持人兼theCUBE Research首席分析师Dave Vellante就云计算如何影响安全进行了交流。
好文章,需要你的鼓励
邻里社交应用Nextdoor推出重新设计版本,新增本地新闻、实时警报和名为"Faves"的AI功能,用于发现本地商户和地点。该应用与3500家本地出版商合作提供新闻内容,通过Samdesk和Weather.com提供天气、交通、停电等实时警报。Faves功能利用15年邻里对话数据训练的大语言模型,为用户提供本地化AI推荐服务,帮助用户找到最佳餐厅、徒步地点等本地信息。
Skywork AI推出的第二代多模态推理模型R1V2,通过创新的混合强化学习方法,成功解决了AI"慢思考"策略在视觉推理中的挑战。该模型在保持强大推理能力的同时有效控制视觉幻觉,在多项权威测试中超越同类开源模型,某些指标甚至媲美商业产品,为开源AI发展树立了新标杆。
英国生物银行完成了世界上最大规模的全身成像项目,收集了10万名志愿者的超过10亿次扫描数据,用于研究人体衰老和疾病过程。该项目历时11年,每次扫描耗时5小时,投资6200万英镑。目前已有8万人的成像数据供全球研究人员使用,剩余数据将于年底前发布。项目已开发出能预测38种常见疾病的AI工具,并在心脏病、痴呆症和癌症诊断方面取得突破。
这项由北京大学等多所高校联合完成的研究,首次对OpenAI GPT-4o的图像生成能力进行了全面评估。研究团队设计了名为GPT-ImgEval的综合测试体系,从文本转图像、图像编辑和知识驱动创作三个维度评估GPT-4o,发现其在所有测试中都显著超越现有方法。研究还通过技术分析推断GPT-4o采用了自回归与扩散相结合的混合架构,并发现其生成图像仍可被现有检测工具有效识别,为AI图像生成领域提供了重要的评估基准和技术洞察。