互联网历经23年进入主流,移动互联网把时间缩短为了16年,预计人工智能将在未来7年内迎来使用高峰,新技术从诞生到广泛普及的速度正在不断加快。
从AI应用数量的变化可以明显地看出这一趋势,AI应用从2023年的1600个增加到如今超过2000个,预计到2030年将达到12000个,增长幅度高达5倍。
AI应用的激增也将彻底改变企业的运营模式,调研显示,43%的用户正在使用AI,96%的用户可能在未来12个月使用AI。这些数字在派拓网络大中华区售前总经理董春涛看来还相对保守,尤其是大型企业在AI APP、大模型、AI数据集上正在巨量成长。
AI快速应用的过程中,也伴随着一些隐患,比如50%员工在无批准的情况下使用AI APP、80%公开AI模型可以被越狱、100+恶意模型在野传播。
新一轮的AI变革给整个安全态势提出了新的挑战和新的要求。
所以AI应用的广泛使用在安全领域催生出两个新兴市场,一个是对访问AI的用户场景保护,将产生250亿美金的规模;一个是企业AI应用的保护,包括自研、第三方等,将产生150亿美元的规模。
“从源头开始规划部署AI安全将成为企业必然。”董春涛说,AI让安全被提到了更高的角度,派拓网络希望跟踪并了解员工使用AI的情况,确保AI APP开发生命周期及供应链的每个环节都是安全的,在任何时候都确保AI数据不被未授权访问,防止数据泄露。
想要立竿见影看到成效,利用现有安全平台的扩展能力来交付是一个有效途径。派拓网络正聚焦从源头设计上保护AI、全平台内置Precision AI、彻底简化安全运营与管理三大AI安全发展方向,助力企业AI安全之旅。
派拓网络大中华区售前总经理董春涛
从源头设计上保护AI
从设计之初确保AI安全主要是清查AI采用情况、保护数据、应用控制策略并保护基于AI模型的应用,具体分为AI访问控制、AI安全态势管理、AI运行时防护三部分。
AI访问控制:AI Access Security可以确保员工安全使用AI,提供实时全面AI使用的可视化能力、数据保护和管理访问控制。
AI安全态势管理:Prisma Cloud AI安全态势管理(AI-SPM)保护AI Apps 远离恶意代码环境,实现对整体AI生态的全面发现及感知能力、实时评估与风险识别、风险分级和处理建议。
AI运行时防护:AI Runtime Security保护Apps、模型与数据,防范不断演变的零日威胁和特定AI威胁,防止模型被滥用和攻击。
全平台内置Precision AI
用AI防御AI是现在安全圈子里都在做的一件事,因为利用AI的攻击让整个安全态势发生了改变,AI可以轻松攻击更多目标、以闪电般的速度扩大攻击范围、每次攻击都像零日攻击。
派拓网络平均每天会发现230万个前一天未出现过的新型独特威胁,平均每天阻止113亿个在线威胁。德勤预测到2032年,AI网络安全市场将达到1027.8亿美元。
董春涛认为,AI时代的安全需要实时性和自动化,必须与威胁竞速,通过持续监测和检测异常及破坏行为,实现即时响应与事件实时处置。通过高度自动化手段抑制并消除威胁,减少人工干预已成为必然。
派拓网络最近推出了一项自主研发创新技术Precision AI,它让实时安全响应与处置变为可能,这也是派拓网络主动防御的基石。
基于十余年积累的机器学习和深度学习经验,并结合最新的Precision AI技术,派拓网络构建起更精准的攻击检测与识别能力,实现了更高可信度的实时检测与响应。
“Precision AI基于长期积累的大量数据,包括持续在线运行的防火墙、终端防护以及云端防护所生成的数据,凭借这些丰富且精准的数据,让我们的训练模型更为精准,使我们在AI应用和防范未知威胁的过程中抢占了先机。”董春涛说。
派拓网络已经在全平台内置Precision AI,包括零信任网络平台AIStrata、CODE TO CLOUD 平台Prisma和AI-驱动SOC平台Cortex,满足关键企业用例需求。
彻底简化安全运营与管理
复杂的配置、数量繁杂的定制化工具、工作流之间频繁转换、多次返工,试错、多个GUI之间切换都是安全运营管理实践者面临的挑战。
用AI改变安全从业人员与AI技术的交互成为迫切需求,派拓网络在今年6月推出了三款助手Strata Copilot、Prisma Cloud Copilot和Cortex Copilot,它们分别被无缝嵌入派拓网络的各个安全平台。
Strata Copilot可与Strata Network Security平台协同工作,包括SASE和NGFW部署,并可通过Strata Cloud Manager访问;
Prisma Cloud Copilot支持整个Prisma Cloud, Code to Cloud平台,协助开展风险优先级别排序、修复、威胁检测和报告;
Cortex Copilot通过Cortex XSIAM平台提供,使SOC更加高效和有效。
应对日益复杂的网络威胁,利用人工智能简化安全已成为一个必经的过程,Copilot只是迈出的第一步,未来还将朝着自主运营,乃至实现完全自主安全的终极目标不断前进。
好文章,需要你的鼓励
UniR(Universal Reasoner)是一种创新的推理增强方法,可为冻结的大语言模型提供即插即用的推理能力。由韩国科学技术院研究团队开发,该方法将推理能力分解为独立的轻量级模块,无需改变主模型结构。UniR的核心优势在于高效训练(仅更新小型推理模块)、出色的模型间迁移能力(小模型可指导大模型)以及模块组合能力(多个专用模块可通过logits相加组合使用)。在数学推理和翻译测试中,UniR显著超越现有微调方法,展示了轻量级模块如何有效增强大语言模型的推理能力。
Nebius团队开发了SWE-rebench,一个自动化管道用于从GitHub收集软件工程任务并进行去污染评估。该系统解决了两大挑战:高质量训练数据稀缺和评估基准容易被污染。通过四阶段处理(初步收集、自动安装配置、执行验证和质量评估),SWE-rebench构建了包含超过21,000个Python交互式任务的数据集,并提供持续更新的评估基准。研究发现部分语言模型在传统基准上的表现可能被污染效应夸大,而DeepSeek模型在开源模型中表现最为稳健。
这项研究提出了JQL(发音为"Jackal"),一种通过多语言方法提升大型语言模型预训练数据质量的创新系统。研究团队从拉马尔研究所等机构通过四阶段方法解决了多语言数据筛选的难题:先由人类评估内容教育价值创建基准数据,然后评估大型语言模型作为"评判者"的能力,接着将这些能力提炼到轻量级评估器中,最后应用于大规模数据筛选。实验表明,JQL在35种语言上显著优于现有方法,甚至能泛化到未见过的语言如阿拉伯语和中文,为多语言AI发展提供了高效可靠的数据筛选方案。
浙江大学和西湖大学研究团队开发的Styl3R实现了艺术风格化3D重建的重大突破,能在不到一秒内从少量未标定照片和任意风格图像创建具有多视角一致性的3D艺术场景。通过创新的双分支网络架构将结构建模与外观着色分离,系统不仅保持了原始场景结构,还准确捕捉了参考风格特征。与现有方法相比,Styl3R在处理速度和视觉质量上均显著领先,为创意内容制作开辟了全新可能。