你正在用的大语言模型,可能正被黑客随意进出、删改数据——这不是危言耸听,而是真实发生的安全危机!
今年3月,国家网络安全通报中心发布了一则风险预警,清华大学网络空间测绘团队研究发现,开源大模型Llama存在严重安全隐患。由于是开源模型,很多端口没有健全的机制,相当于“大门敞开”,攻击者可以轻松入侵,甚至直接删除模型里的数据和文件!
这意味着,黑客不仅能偷走数据,还能改变模型的输出内容,比如让AI生成错误信息、泄露隐私。更可怕的是,全球无数企业和开发者可能都在“裸奔”使用,却浑然不知风险已至。
在AI安全威胁日益复杂的今天,传统的单点防护已力不从心。企业需要一套覆盖全流程的平台级安全方案,让大模型在释放价值的同时,守住AI安全防线。
从分散到统一的方法论
生成式AI的流行程度已经远超想象,一些数字可见一斑:
未来3年AI基础设施的投资规模,是3年前的整整2倍,达到2700亿美元;
2024年开源模型数量,相比2022年的6万个暴涨13倍,达到81万个;
原生AI应用在12个月内从1600个激增近2倍,达到3000个;
企业AI采用率在一年内从43%增长2倍,达到96%。
AI是把“双刃剑”已是不争的事实,企业使用AI提升效率,改善运营的同时,攻击者正用同样的技术寻找漏洞向企业发起攻击。
所以在任何情况下,都必须在保证安全的前提下使用AI。但这确实是一件不小的工程,预计到2030年每天使用AI的知识型员工将达到4亿。“因为企业不仅要保护每一位员工,同时要保护每一个AI应用。”派拓网络大中华区总裁陈文俊说道。
派拓网络大中华区总裁陈文俊
从实际情况看来,分散性降低了企业抵御网络威胁的能力。派拓网络联合IBM商业价值研究院(IBV)研究发现,中国企业平均要应对来自31家供应商的96种安全方案,48%的中国企业认为复杂性是网络安全运营的最大障碍,平台化是落实有效安全措施的必要条件。
网络安全复杂性已成为一个严峻的现实问题,企业需要通过统一的工具和解决方案,提高运营水平和实现规模经济效益。采用统一方案可以提高运营效率和协调性;简化管理、决策和资本配置;能够专注于核心能力和问题,消除冗余;提高治理水平、透明度和加强责任制度,在更大程度上降低风险。
陈文俊给出了三个关键词,“平台化、实时、AI驱动”。第一,零信任网络安全,领先的网络安全平台能在整个企业范围内实现零信任安全;第二,AI驱动的安全运营,采用新一代AI和自动化技术可以改变安全运营方式;第三,端到端云安全,通过从代码到云再到SOC的实时保护确保云安全;第四,事件响应、咨询服务和威胁情报,通过提供托管和主动安全服务以及全球权威情报成为企业的战略安全合作伙伴。
精准AI让攻击无处遁形
去年5月,派拓网络推出了平台级解决方案Precision AI,其汇集了各种AI技术,包括机器学习、深度学习和生成式AI。
派拓网络大中华区售前总经理董春涛指出,派拓网络从早期就引入了机器学习,构建了数百个小模型,并逐步引入深度学习,2022年后进一步整合生成式AI,优化整体架构,应对快速发展的威胁态势。
派拓网络大中华区售前总经理董春涛
何为精准AI?Precision AI解决方案包含三大核心套件,共同构建完整的安全防护体系。
AI Access(AI访问控制)可以确保员工安全使用AI,提供实时全面AI使用的可视化能力、数据保护和管理访问控制。
AI Runtime(AI运行时防护)保护Apps、模型与数据,防范不断演变的零日威胁和特定AI威胁,防止模型被滥用和攻击。
AI-SPM(AI安全态势管理)保护AI Apps 远离恶意代码环境,实现对整体AI生态的全面发现及感知能力、实时评估与风险识别、风险分级和处理建议。
三个组件协同运作,形成覆盖AI应用全生命周期的安全防护方案。企业可根据实际业务场景需求,灵活配置部署方案,有效防范各类AI环境安全风险。所有功能模块均采用成熟可靠的安全技术实现,确保防护效果达到预期水平。
Precision AI解决方案已被众多企业采用,覆盖数字化转型中的多样化场景,包括数据中心、云端到终端防护,客户可根据需求灵活选择网络防护、云端SASE服务、防火墙等模块。
派拓网络拥有二十年来持续收集的业界最纯净攻击样本库,并作为CSA(云安全联盟)主要创办成员之一,定期与行业安全厂商交换攻击数据。此外,近十万企业客户在合规协议框架下可自愿提供匿名攻击样本(不含任何个人或敏感数据),这些高质量数据显著提升了AI安全解决方案的检测速度和准确性。
当黑客在暗处摩拳擦掌时,Precision AI就是照亮AI安全盲区的那盏灯,精准锁定威胁,让攻击无处遁形。
好文章,需要你的鼓励
美国连锁超市巨头Albertsons正在基于Databricks构建商品智能平台,整合产品、定价、促销与陈列等决策功能,目标是在2026年底前全面向门店运营商落地。该平台以Databricks Lakehouse存储零售数据,通过Unity Catalog与AI Gateway实现数据治理,并借助AI智能体Genie支持自然语言查询,帮助商家洞察销售趋势,提升决策效率。此举是Albertsons今年四项AI核心战略投资之一。
阿里Qwen团队通过引入强化学习和在线策略蒸馏,将Qwen-Image-2.0升级为Qwen-Image-2.0-RL,让图像生成模型真正学会人类审美,文生图Elo评分提升78分,图像编辑提升93分。
微软正将Windows 11打造成真正的AI操作系统。在Build大会上,微软展示了AI模型与智能代理如何深度融合进Windows 11,让用户通过自然语言完成系统操作。借助Windows ML框架,超过5亿台PC已可在本地离线运行AI任务,无需联网、无token费用、数据不离设备。Office、Photos、Teams等应用已支持本地AI能力,Adobe、WhatsApp、Canva等第三方也在积极跟进,企业级AI PC采购需求有望加速。
港科大与快手联合提出NormGuard,针对流匹配模型强化学习训练中速度范数膨胀问题,通过训练时单向惩罚约束,在保留奖励的同时改善图像真实感。