Netskope本周宣布在其NewEdge私有云中更新了AI Fast Path解决方案,帮助企业在保持安全控制的同时降低AI应用的延迟。
随着企业持续采用生成式AI工具,安全团队正在努力解决如何在不导致终端用户绕过安全措施的情况下执行AI治理控制的问题。
Netskope产品和解决方案营销负责人Robert Arandjelovic表示:"AI应用正在发送大量流量并交换大量数据,这自然会产生延迟。如果安全措施在此基础上增加更多延迟,用户将试图绕过它。"
AI Fast Path专注于优化企业用户、Netskope云和主要AI提供商之间的流量。Netskope表示,其120个NewEdge数据中心中超过90%现在可以在5毫秒内从Netskope云连接到领先的AI应用,这一努力旨在最大限度地减少流量在接受数据丢失防护、威胁防护和策略执行检查时的额外延迟。
Arandjelovic说:"客户意识到,如果他们不采用这些AI应用,几年后可能就会被淘汰。同时,我们不能在安全性上妥协。因此,通过NewEdge和AI Fast Path,我们创建了一条超优化路径,几乎不会产生任何延迟。同时,他们不会在安全性上妥协,因为流量仍然通过我们的云,获得我们数据保护和威胁防护的所有优势。"
作为NewEdge中的一组功能,AI Fast Path为AI应用提供更好的性能和效率。据Netskope介绍,AI Fast Path为企业提供:
更快的推理结果:从提示到响应为企业用户提供更快的结果,最大限度地减少对话AI的"首Token时间"。
智能体AI优化:通过高速处理加速复杂的多提示智能体工作流程,满足快速迭代AI子任务的需求。
大语言模型性能优化:当访问大量分布式数据时(例如通过模型上下文协议网关)优化大语言模型性能。
检索增强生成支持:加速大语言模型与外部数据源之间的连接,实现实时输出。
NewEdge是Netskope私有构建的全球网络,在客户流量到达云和AI服务之前,通过全球120多个数据中心传输客户流量。它是Netskope One安全访问服务边缘产品的基础组成部分。当客户部署Netskope时,用户设备上的代理会自动将其网络、SaaS、私有应用和AI流量路由到Netskope云中。AI Fast Path优化为AI工作负载提供了到Google Gemini、ChatGPT和Claude等服务的直接、低延迟路由,这部分归功于Netskope将对等关系从10000个扩展到11000个。
该公司表示,AI Fast Path功能作为NewEdge基础设施的一部分包含在内,现有客户无需额外许可即可使用。
Q&A
Q1:AI Fast Path是什么?它解决了什么问题?
A:AI Fast Path是Netskope在其NewEdge私有云中推出的新解决方案,专门解决企业在使用生成式AI工具时面临的网络延迟问题。它能在保持安全控制的同时,优化企业用户、Netskope云和主要AI提供商之间的流量,让90%以上的数据中心能在5毫秒内连接到主流AI应用。
Q2:AI Fast Path如何提升AI应用的性能?
A:AI Fast Path通过多种方式提升性能:减少对话AI的"首Token时间"、加速智能体工作流程、优化大语言模型访问分布式数据的性能,以及加速检索增强生成中大语言模型与外部数据源的连接。同时通过扩展对等关系网络,为AI工作负载提供直接、低延迟的路由。
Q3:使用AI Fast Path需要额外付费吗?
A:不需要。AI Fast Path功能作为NewEdge基础设施的一部分包含在内,Netskope的现有客户可以直接使用这些功能,无需购买额外的许可证或付费升级。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。