AI正在驱动一切,重构一切,网络安全也不例外。AI的介入会进一步升级目前的网络犯罪与网络安全体系,进而成为攻击者与防御者之间的军备竞赛。
派拓网络看到,当前威胁格局中主要有三个问题,包括网络犯罪分子与高级持续威胁(APT) 团伙之间的界限正在变得模糊、事故对目标企业产生的影响更广泛、检测和缓解攻击需要多种防御途径。
“在生成式AI出现后,某种层面加速了攻击者的能力。”派拓网络新加坡,日本及亚太地区咨询总监刘俊佃说。
派拓网络新加坡,日本及亚太地区咨询总监刘俊佃
AI对抗AI,未来网络安全的关键策略
我们已经发现犯罪分子正在使用一些AI开源技术绕过这些安全监测,所以用AI来赋能网络安全防御已经成为未来的趋势。
目前利用生成式AI助长的攻击有三大类,第一,使用AI生成木马程序,变种恶意软件克服了基于特征码的检测;第二,使用AI生成钓鱼软件,精心制作电子邮件提高信任度;第三,使用AI执行机器速度/创造性攻击。
IBM研究院制造的恶意软件Deep Locker,就展示了使用深度神经网络(DNN))人工智能模型,将其攻击有效载荷隐藏在良性载体应用程序中,而有效载荷只有在达到预定目标时才会解锁。
Deep Locker利用多种属性进行目标识别,包括视觉、音频、地理位置和系统级特征。与现有的规避性和针对性恶意软件相比,这种方法将使逆向工程良性载体软件和恢复任务关键机密(包括攻击有效载荷和目标的具体情况)变得极具挑战性。
刘俊佃强调,AI让我们看到更快、更强、更精准的攻击模式,所以用AI对抗AI是唯一出路。
派拓网络建议企业要做好6件事,第一,改变对成功的看法,包括响应,而不仅仅是预防;第二,优先考虑能限制攻击者并为防御者提供回旋空间和时间的防御;第三,精简防御,实现可重复性和自动化;第四,24/7全天候监控,增加攻击者的时间压力;第五,测量并减少外部攻击面;第六,过渡到零信任企业,增强安全措施。
零信任+平台=前瞻性:派拓网络的安全公式
一个企业持续、长期、安全的运行,在于它能够很好的防御自身所有的信息,这是最基础首要的。
企业需要主动去预测和前瞻性地出击,分析企业所运营整个环境的风险点,并识别出这些风险点。随着AI攻击的加剧,需要调整对于自己企业所运行的风险、环境的假设。当然企业要采取的是一个平衡的战略,不能走极端,将策略完全放在主动出击,或完全被动防御。
派拓网络一直在进行威胁信息方面的研究,目的是通过研究以及措施,能够真正地关注到这个问题,并且为企业提供他们所想要的防御和保护。刘俊佃也谈到,AI本身是中立的,现在研究的方向是AI如何在被滥用或错误使用时的用例,因为这些用例正在成规模增加。
由于现在生成式AI所引发的新威胁有三个特点,更加可规模化、视角不同、本身攻击的本质发生了变化,所以这导致派拓网络在收集威胁情报的时候,与从前相比会有一个完全不同的视角。
从工具上讲,相比单点安全产品的大量叠加,平台化的解决方案可以实现全面、自动化的安全防御,真正做到主动有效地保护企业的网络安全。派拓网络有一个安全公式:零信任+平台=前瞻性。零信任指杜绝任何隐含信任并以持续验证为基础的策略;平台指根据需求连接不同类型的最佳功能,实现最大的可见性、控制和效率;前瞻性指轻松安全转型,让企业在安全的环境下高效地运营和创新。
派拓网络的下一代网络安全平台可以从网络、云、端点三个维度应对数字经济时代的安全挑战,并在所有安全方案之上提供一套自动化安全运营分析系统。这一切都是依托于派拓网络在全球的安全威胁情报网络——一个由顶级安全分析专家组成的专业安全团队Unit 42,对全球发生的安全事件和情报进行及时的分析和响应。
好文章,需要你的鼓励
这项来自苹果公司的研究揭示了视频大语言模型评测的两大关键问题:许多测试问题不看视频就能回答正确,且打乱视频帧顺序后模型表现几乎不变。研究提出VBenchComp框架,将视频问题分为四类:语言模型可回答型、语义型、时序型和其他类型,发现在主流评测中高达70%的问题实际上未测试真正的视频理解能力。通过重新评估现有模型,研究团队证明单一总分可能掩盖关键能力差距,并提出了更高效的评测方法,为未来视频AI评测提供了新方向。
这篇来自KAIST AI研究团队的论文提出了"差分信息分布"(DID)这一创新概念,为理解直接偏好优化(DPO)提供全新视角。研究证明,当偏好数据编码了从参考策略到目标策略所需的差分信息时,DPO中的对数比率奖励形式是唯一最优的。通过分析DID熵,研究解释了对数似然位移现象,并发现高熵DID有利于通用指令跟随,而低熵DID适合知识密集型问答。这一框架统一了对DPO目标、偏好数据结构和策略行为的理解,为语言模型对齐提供理论支持。
VidText是一个全新的视频文本理解基准,解决了现有评估体系的关键缺口。它涵盖多种现实场景和多语言内容,提出三层评估框架(视频级、片段级、实例级),并配对感知与推理任务。对18个先进多模态模型的测试显示,即使最佳表现的Gemini 1.5 Pro也仅达46.8%平均分,远低于人类水平。研究揭示输入分辨率、OCR能力等内在因素和辅助信息、思维链推理等外部因素对性能有显著影响,为未来视频文本理解研究提供了方向。
ZeroGUI是一项突破性研究,实现了零人工成本下的GUI代理自动化在线学习。由上海人工智能实验室和清华大学等机构联合开发,这一框架利用视觉-语言模型自动生成训练任务并提供奖励反馈,使AI助手能够自主学习操作各种图形界面。通过两阶段强化学习策略,ZeroGUI显著提升了代理性能,在OSWorld环境中使UI-TARS和Aguvis模型分别获得14%和63%的相对改进。该研究彻底消除了传统方法对昂贵人工标注的依赖,为GUI代理技术的大规模应用铺平了道路。