思科周一表示,该公司正在敲定对一家名为Robust Intelligence Inc.的人工智能安全初创公司的收购,收购价格尚未披露。
Robust Intelligence创建了一个平台,在从开发到生产的整个生命周期中保护人工智能模型及其所依赖的数据。几年前,这家公司首次引起了思科的注意,当时这家网络巨头通过思科投资部门对其进行了投资。
思科高级副总裁兼安全业务总经理Tom Gillis在一篇博文中写道,这家初创公司在人工智能模型安全和治理方面的专长与思科自身的安全产品相辅相成。
他承诺道:“思科与Robust Intelligence的结合意味着,我们可以将先进的人工智能安全处理融入思科安全和网络产品,在现有的数据流中无缝提供。”Gillis补充表示,思科相信,这种整合会为人工智能流量带来极强的可见性,因此客户将能够以更安全的方式构建并部署人工智能应用。
此外,思科认为Robust Intelligence的工具还有助于为人工智能应用和模型提供威胁防护。该公司表示,它将有助于降低提示注入攻击等风险,提示注入攻击指的是恶意用户试图诱使人工智能模型做出不良行为的事件。Gillis表示,它还可以帮助防范数据中毒、越狱和无意的模型结果。它还可以帮助用户简化配置和用户体验、预测攻击并执行自适应策略。
该公司表示,它计划将Robust Intelligence的自动模型评估和风险降低功能纳入思科安全云(Cisco Security Cloud),这样客户就能在同一个地方确保其网络、人工智能应用、模型和用户的安全。
Gillis表示,客户越来越重视信息技术现代化和网络安全,以保护他们的人工智能投资。他援引了思科公司的“2024 年人工智能就绪指数”(2024 AI Readiness Index)来证明这一说法。该研究发现,95%的企业认为人工智能将“对IT基础设施和安全产生重大影响”。
因此,Gillis表示企业将需要更强大的安全措施。Gillis写道:“随着企业越来越依赖人工智能应用来实现创新和效率,保护这些应用及其底层模型变得至关重要。”“传统的安全工具往往无法应对人工智能带来的独特挑战,因此迫切需要专门的解决方案。”
对 Robust Intelligence 的收购加速了思科向安全业务的转型,这也是该公司实现收入来源多元化和创造更多经常性销售努力的一部分。思科曾经是世界上最有价值的公司,但近年来一直在苦苦挣扎,其核心网络硬件业务的收入一直在下滑,而该业务主要是为数据中心销售以太网交换机和路由器等产品。思科的客户正逐步将工作负载迁移到公共云,因此他们对自己硬件的投资也在减少。
为此,思科更加关注网络安全,特别是斥资280亿美元收购了网络安全和可观察性公司Splunk。与此同时,人工智能的蓬勃发展也给思科带来了更大的紧迫感,因为企业仍在努力解决如何保护他们的人工智能投资的问题。
为了抓住这一机遇,思科今年早些时候宣布成立一个10亿美元的基金,投资人工智能初创企业,并已在 Cohere、Mistral和Scale AI等人工智能模型制造商身上下了重注。
好文章,需要你的鼓励
Liquid AI发布了新一代视觉语言基础模型LFM2-VL,专为智能手机、笔记本电脑和嵌入式系统等设备高效部署而设计。该模型基于独特的LIV系统架构,GPU推理速度比同类模型快2倍,同时保持竞争性能。提供450M和1.6B两个版本,支持512×512原生分辨率图像处理,采用模块化架构结合语言模型和视觉编码器。模型已在Hugging Face平台开源发布。
AIM Intelligence联合多所知名大学揭示了音频AI系统的重大安全漏洞,开发出名为WhisperInject的攻击方法。这种攻击能让看似无害的音频指令操控AI生成危险内容,成功率超过86%,完全绕过现有安全机制。研究暴露了多模态AI系统的系统性安全风险,对全球数十亿智能设备构成潜在威胁。
阿里团队推出首个AI物理推理综合测试平台DeepPHY,通过六个物理环境全面评估视觉语言模型的物理推理能力。研究发现即使最先进的AI模型在物理预测和控制方面仍远落后于人类,揭示了描述性知识与程序性控制间的根本脱节,为AI技术发展指明了重要方向。
新加坡国立大学研究团队系统梳理了视觉强化学习领域的最新进展,涵盖超过200项代表性工作。研究将该领域归纳为四大方向:多模态大语言模型、视觉生成、统一模型框架和视觉-语言-动作模型,分析了从RLHF到可验证奖励范式的政策优化策略演进,并识别出样本效率、泛化能力和安全部署等关键挑战,为这一快速发展的交叉学科提供了完整的技术地图。