AI正在驱动一切,重构一切,网络安全也不例外。AI的介入会进一步升级目前的网络犯罪与网络安全体系,进而成为攻击者与防御者之间的军备竞赛。
派拓网络看到,当前威胁格局中主要有三个问题,包括网络犯罪分子与高级持续威胁(APT) 团伙之间的界限正在变得模糊、事故对目标企业产生的影响更广泛、检测和缓解攻击需要多种防御途径。
“在生成式AI出现后,某种层面加速了攻击者的能力。”派拓网络新加坡,日本及亚太地区咨询总监刘俊佃说。
派拓网络新加坡,日本及亚太地区咨询总监刘俊佃
AI对抗AI,未来网络安全的关键策略
我们已经发现犯罪分子正在使用一些AI开源技术绕过这些安全监测,所以用AI来赋能网络安全防御已经成为未来的趋势。
目前利用生成式AI助长的攻击有三大类,第一,使用AI生成木马程序,变种恶意软件克服了基于特征码的检测;第二,使用AI生成钓鱼软件,精心制作电子邮件提高信任度;第三,使用AI执行机器速度/创造性攻击。
IBM研究院制造的恶意软件Deep Locker,就展示了使用深度神经网络(DNN))人工智能模型,将其攻击有效载荷隐藏在良性载体应用程序中,而有效载荷只有在达到预定目标时才会解锁。
Deep Locker利用多种属性进行目标识别,包括视觉、音频、地理位置和系统级特征。与现有的规避性和针对性恶意软件相比,这种方法将使逆向工程良性载体软件和恢复任务关键机密(包括攻击有效载荷和目标的具体情况)变得极具挑战性。
刘俊佃强调,AI让我们看到更快、更强、更精准的攻击模式,所以用AI对抗AI是唯一出路。
派拓网络建议企业要做好6件事,第一,改变对成功的看法,包括响应,而不仅仅是预防;第二,优先考虑能限制攻击者并为防御者提供回旋空间和时间的防御;第三,精简防御,实现可重复性和自动化;第四,24/7全天候监控,增加攻击者的时间压力;第五,测量并减少外部攻击面;第六,过渡到零信任企业,增强安全措施。
零信任+平台=前瞻性:派拓网络的安全公式
一个企业持续、长期、安全的运行,在于它能够很好的防御自身所有的信息,这是最基础首要的。
企业需要主动去预测和前瞻性地出击,分析企业所运营整个环境的风险点,并识别出这些风险点。随着AI攻击的加剧,需要调整对于自己企业所运行的风险、环境的假设。当然企业要采取的是一个平衡的战略,不能走极端,将策略完全放在主动出击,或完全被动防御。
派拓网络一直在进行威胁信息方面的研究,目的是通过研究以及措施,能够真正地关注到这个问题,并且为企业提供他们所想要的防御和保护。刘俊佃也谈到,AI本身是中立的,现在研究的方向是AI如何在被滥用或错误使用时的用例,因为这些用例正在成规模增加。
由于现在生成式AI所引发的新威胁有三个特点,更加可规模化、视角不同、本身攻击的本质发生了变化,所以这导致派拓网络在收集威胁情报的时候,与从前相比会有一个完全不同的视角。
从工具上讲,相比单点安全产品的大量叠加,平台化的解决方案可以实现全面、自动化的安全防御,真正做到主动有效地保护企业的网络安全。派拓网络有一个安全公式:零信任+平台=前瞻性。零信任指杜绝任何隐含信任并以持续验证为基础的策略;平台指根据需求连接不同类型的最佳功能,实现最大的可见性、控制和效率;前瞻性指轻松安全转型,让企业在安全的环境下高效地运营和创新。
派拓网络的下一代网络安全平台可以从网络、云、端点三个维度应对数字经济时代的安全挑战,并在所有安全方案之上提供一套自动化安全运营分析系统。这一切都是依托于派拓网络在全球的安全威胁情报网络——一个由顶级安全分析专家组成的专业安全团队Unit 42,对全球发生的安全事件和情报进行及时的分析和响应。
好文章,需要你的鼓励
Helios Towers供应链总监Dawn McCarroll在采访中分享了公司的数字化转型经验。作为一家在非洲和中东地区运营近15000个移动通信塔站的公司,Helios正通过SAP S/4Hana系统升级、AI技术应用和精益六西格玛方法论来优化供应链管理。McCarroll特别强调了公司Impact 2030战略中的数字包容性目标,计划在未来五年内培训60%的合作伙伴员工掌握精益六西格玛原则,并利用大数据和AI技术实现端到端的供应链集成。
德国弗劳恩霍夫研究院提出ViTNT-FIQA人脸质量评估新方法,无需训练即可评估图像质量。该方法基于Vision Transformer层间特征稳定性原理,通过测量图像块在相邻层级间的变化幅度判断质量。在八个国际数据集上的实验显示其性能可媲美现有最先进方法,且计算效率更高,为人脸识别系统提供了即插即用的质量控制解决方案,有望广泛应用于安防监控和身份认证等领域。
威胁行为者在npm注册表上传8个恶意包,伪装成n8n工作流自动化平台的集成组件来窃取开发者OAuth凭据。其中一个名为"n8n-nodes-hfgjf-irtuinvcm-lasdqewriit"的包模仿Google Ads集成,诱导用户在看似合法的表单中关联广告账户,然后将凭据传输到攻击者控制的服务器。这种攻击利用了工作流自动化平台作为集中凭据库的特点,能够获取多个服务的OAuth令牌和API密钥。
布朗大学联合图宾根大学的研究团队通过系统实验发现,AI医疗助手的角色设定会产生显著的情境依赖效应:医疗专业角色在急诊场景下表现卓越,准确率提升20%,但在普通医疗咨询中反而表现更差。研究揭示了AI角色扮演的"双刃剑"特性,强调需要根据具体应用场景精心设计AI身份,而非简单假设"更专业等于更安全",为AI医疗系统的安全部署提供了重要指导。