"Vibe黑客攻击"的阴暗面正在浮现。McAfee和Bitdefender等网络安全公司近期观测到通过Vibe编程生成的恶意软件(也称"Vibeware")数量激增,这类软件带有明显特征,例如代码注释说明或模板占位符,与Vibe编程应用程序的风格如出一辙。面对这种新兴网络攻击方式,如何遏制其蔓延成为业界亟待解决的难题。
爱尔兰科克大学(UCC)的研究人员发现,借助生成式AI生成的恶意软件具有多样化的代码结构,能够绕过静态恶意软件检测机制,但其恶意行为和意图与传统恶意软件并无二致。该团队于今年5月在意大利举办的第23届ACM国际计算前沿会议上发布了研究成果。
黑客正在利用生成式AI的概率性特质,批量制造出具有多种变体的Vibeware。"使用AI编程工具,你可以指令它'实现相同功能,但换一种方式来写',由此就能创建出针对特定攻击场景定制化的恶意软件,"领导该研究的UCC计算机科学教授Utz Roedig说道。
传统杀毒软件通常结合静态分析与动态分析工具来筛查新下载的软件。静态分析采用模式匹配技术,将文件的加密哈希值与已知恶意软件签名数据库进行比对,或使用YARA等基于规则的引擎——这是一款根据特定二进制模式或字符串识别和分类恶意软件的开源工具。动态分析则在受控的沙箱环境中运行恶意软件,监控其行为是否存在可疑活动。
在实验中,UCC团队生成了一系列旨在从Linux系统中窃取敏感数据的恶意Shell脚本,每次迭代都专门针对绕过YARA规则进行了设计。尽管这些脚本在代码语法上各有差异,但功能上完全等效。
"即便程序实现目标的方式不同,其行为本质是相同的,"Roedig说,"结构看起来不同,但恶意行为无法掩盖。"
这一发现表明,网络安全防御必须向更具动态性、以行为分析为核心的检测策略转型。
"现在任何人都可以生成数百个独特变体,所以哈希匹配已经毫无意义,"开源网络安全公司ProjectDiscovery的研究负责人Prince Chaddha表示,"真正有效的仍然是行为分析。防御方必须全面转向行为分析,并自己借助AI来识别这类恶意软件。"AI能够帮助网络安全专业人员快速发现软件漏洞,但专业判断、人工监督以及多重验证机制必须贯穿整个防御流程。
UCC研究人员还发现,仅需两个提示词就能完成Vibe恶意软件的编写。"生成式AI降低了门槛,这意味着此类恶意软件的数量可能会大幅增加,因为创建恶意软件的壁垒已经大大降低,"Roedig说。
弗吉尼亚州托管安全服务提供商UltraViolet Cyber的威胁情报与检测工程团队总监Dan Gittis对此深有同感,"现在不需要精通编程就能构建恶意软件。没有经验或技能的威胁行为者可以开始涉足这一领域,而那些已有相关技能的人则很可能开发出更具威胁性的恶意软件。"
更值得关注的是,UCC团队所使用的AI编程工具Cursor,对其恶意软件相关提示词既未拒绝也未加以限制。这凸显了建立安全防护机制以防止恶意使用的迫切性。不过Roedig也警示道,攻击者"很可能会尝试篡改AI模型以去除其安全护栏",因此AI编程工具的开发者还必须考虑如何防范护栏被绕过的情况。
展望未来,Gittis认为AI生成的恶意软件将持续进化扩散。"有能力实施网络攻击的个体正在增多,这意味着网络攻击总量可能上升。同时,已有能力的攻击者也很可能以更快的速度、更高的效率开展行动,威胁行为者或许还能开发出具有自我进化能力的动态恶意软件。"
他以谷歌发现的PROMPTFLUX恶意软件为例加以说明。该软件在运行时调用Gemini API,按需重写自身源代码以逃避检测。这种自适应和自我再生能力"很可能对防御方未来的运营方式产生深远影响",Gittis说。
这种持续的攻防博弈在网络安全领域并非新鲜事。"攻击者与防御者相互较量,这种情况一直都有。一方有所创新,另一方就设法绕过,双方都在动用一切可用手段,"Roedig说。
如今,这场博弈在Vibe黑客攻击与Vibeware领域再度上演。但据Gittis分析,好消息是"防御方拥有同等甚至更多的资源,这意味着我们能够持续提升应对能力、运营效率以及对响应措施的认知与掌握。"
Q&A
Q1:什么是Vibeware,它和普通恶意软件有什么不同?
A:Vibeware是指利用生成式AI(即Vibe编程方式)创建的恶意软件。与传统恶意软件相比,Vibeware的代码结构多样,能够规避基于哈希匹配或YARA规则的静态检测机制,且可快速生成大量变体。但其核心恶意行为与意图与传统恶意软件本质上没有区别,因此行为分析仍然能够识别它。
Q2:传统杀毒软件能检测出Vibeware吗?
A:传统静态检测方法(如哈希匹配、YARA规则)对Vibeware效果有限,因为每次生成的变体代码结构不同,难以通过固定签名匹配识别。动态行为分析则仍然有效,因为无论代码结构如何变化,恶意软件的行为特征不会改变。安全专家建议防御方全面转向行为分析,并结合AI技术来提升检测能力。
Q3:Vibe编程工具有没有对恶意软件生成进行限制?
A:科克大学研究团队在实验中使用了AI编程工具Cursor,发现该工具对恶意软件相关的提示词既未拒绝也未加以限制,这暴露出当前AI编程工具在安全防护方面存在明显不足。研究人员呼吁AI编程工具开发者建立更完善的安全护栏,同时也指出攻击者可能会尝试绕过或去除这些护栏,因此防护机制本身也需要持续强化。
好文章,需要你的鼓励
牛津大学提出PHYSIFORMER,一种扩散变换器模型,通过三维网格顶点轨迹直接在世界坐标空间预测刚性与弹性物体的物理运动,一次性生成全序列轨迹,超越自回归基线。
随着医疗数据数字化与互操作性的进步,跨机构纵向患者数据的研究应用成为可能。本研究通过对20位领域专家的访谈,识别出8种数据收集方法,涵盖智能手机应用、结构化数据导出、区域/全国研究查询及聚合数据源等。研究发现,各方法均有其优缺点,无单一最优方案。参与者中介交换方式可绕过复杂治理安排,但存在数据缺口;全国性网络尚不支持研究查询。公共政策的持续推进将对该领域发展起关键作用。
研究发现主流奖励模型对同等质量答案给出差异悬殊的分数,并提出"奖励聚类"算法通过蒙特卡洛随机失活将连续分数离散化,在不重训模型的前提下有效减少AI训练中的奖励作弊现象。