Netskope本周宣布在其NewEdge私有云中更新了AI Fast Path解决方案,帮助企业在保持安全控制的同时降低AI应用的延迟。
随着企业持续采用生成式AI工具,安全团队正在努力解决如何在不导致终端用户绕过安全措施的情况下执行AI治理控制的问题。
Netskope产品和解决方案营销负责人Robert Arandjelovic表示:"AI应用正在发送大量流量并交换大量数据,这自然会产生延迟。如果安全措施在此基础上增加更多延迟,用户将试图绕过它。"
AI Fast Path专注于优化企业用户、Netskope云和主要AI提供商之间的流量。Netskope表示,其120个NewEdge数据中心中超过90%现在可以在5毫秒内从Netskope云连接到领先的AI应用,这一努力旨在最大限度地减少流量在接受数据丢失防护、威胁防护和策略执行检查时的额外延迟。
Arandjelovic说:"客户意识到,如果他们不采用这些AI应用,几年后可能就会被淘汰。同时,我们不能在安全性上妥协。因此,通过NewEdge和AI Fast Path,我们创建了一条超优化路径,几乎不会产生任何延迟。同时,他们不会在安全性上妥协,因为流量仍然通过我们的云,获得我们数据保护和威胁防护的所有优势。"
作为NewEdge中的一组功能,AI Fast Path为AI应用提供更好的性能和效率。据Netskope介绍,AI Fast Path为企业提供:
更快的推理结果:从提示到响应为企业用户提供更快的结果,最大限度地减少对话AI的"首Token时间"。
智能体AI优化:通过高速处理加速复杂的多提示智能体工作流程,满足快速迭代AI子任务的需求。
大语言模型性能优化:当访问大量分布式数据时(例如通过模型上下文协议网关)优化大语言模型性能。
检索增强生成支持:加速大语言模型与外部数据源之间的连接,实现实时输出。
NewEdge是Netskope私有构建的全球网络,在客户流量到达云和AI服务之前,通过全球120多个数据中心传输客户流量。它是Netskope One安全访问服务边缘产品的基础组成部分。当客户部署Netskope时,用户设备上的代理会自动将其网络、SaaS、私有应用和AI流量路由到Netskope云中。AI Fast Path优化为AI工作负载提供了到Google Gemini、ChatGPT和Claude等服务的直接、低延迟路由,这部分归功于Netskope将对等关系从10000个扩展到11000个。
该公司表示,AI Fast Path功能作为NewEdge基础设施的一部分包含在内,现有客户无需额外许可即可使用。
Q&A
Q1:AI Fast Path是什么?它解决了什么问题?
A:AI Fast Path是Netskope在其NewEdge私有云中推出的新解决方案,专门解决企业在使用生成式AI工具时面临的网络延迟问题。它能在保持安全控制的同时,优化企业用户、Netskope云和主要AI提供商之间的流量,让90%以上的数据中心能在5毫秒内连接到主流AI应用。
Q2:AI Fast Path如何提升AI应用的性能?
A:AI Fast Path通过多种方式提升性能:减少对话AI的"首Token时间"、加速智能体工作流程、优化大语言模型访问分布式数据的性能,以及加速检索增强生成中大语言模型与外部数据源的连接。同时通过扩展对等关系网络,为AI工作负载提供直接、低延迟的路由。
Q3:使用AI Fast Path需要额外付费吗?
A:不需要。AI Fast Path功能作为NewEdge基础设施的一部分包含在内,Netskope的现有客户可以直接使用这些功能,无需购买额外的许可证或付费升级。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。