"Vibe黑客攻击"的阴暗面正在浮现。McAfee和Bitdefender等网络安全公司近期观测到通过Vibe编程生成的恶意软件(也称"Vibeware")数量激增,这类软件带有明显特征,例如代码注释说明或模板占位符,与Vibe编程应用程序的风格如出一辙。面对这种新兴网络攻击方式,如何遏制其蔓延成为业界亟待解决的难题。
爱尔兰科克大学(UCC)的研究人员发现,借助生成式AI生成的恶意软件具有多样化的代码结构,能够绕过静态恶意软件检测机制,但其恶意行为和意图与传统恶意软件并无二致。该团队于今年5月在意大利举办的第23届ACM国际计算前沿会议上发布了研究成果。
黑客正在利用生成式AI的概率性特质,批量制造出具有多种变体的Vibeware。"使用AI编程工具,你可以指令它'实现相同功能,但换一种方式来写',由此就能创建出针对特定攻击场景定制化的恶意软件,"领导该研究的UCC计算机科学教授Utz Roedig说道。
传统杀毒软件通常结合静态分析与动态分析工具来筛查新下载的软件。静态分析采用模式匹配技术,将文件的加密哈希值与已知恶意软件签名数据库进行比对,或使用YARA等基于规则的引擎——这是一款根据特定二进制模式或字符串识别和分类恶意软件的开源工具。动态分析则在受控的沙箱环境中运行恶意软件,监控其行为是否存在可疑活动。
在实验中,UCC团队生成了一系列旨在从Linux系统中窃取敏感数据的恶意Shell脚本,每次迭代都专门针对绕过YARA规则进行了设计。尽管这些脚本在代码语法上各有差异,但功能上完全等效。
"即便程序实现目标的方式不同,其行为本质是相同的,"Roedig说,"结构看起来不同,但恶意行为无法掩盖。"
这一发现表明,网络安全防御必须向更具动态性、以行为分析为核心的检测策略转型。
"现在任何人都可以生成数百个独特变体,所以哈希匹配已经毫无意义,"开源网络安全公司ProjectDiscovery的研究负责人Prince Chaddha表示,"真正有效的仍然是行为分析。防御方必须全面转向行为分析,并自己借助AI来识别这类恶意软件。"AI能够帮助网络安全专业人员快速发现软件漏洞,但专业判断、人工监督以及多重验证机制必须贯穿整个防御流程。
UCC研究人员还发现,仅需两个提示词就能完成Vibe恶意软件的编写。"生成式AI降低了门槛,这意味着此类恶意软件的数量可能会大幅增加,因为创建恶意软件的壁垒已经大大降低,"Roedig说。
弗吉尼亚州托管安全服务提供商UltraViolet Cyber的威胁情报与检测工程团队总监Dan Gittis对此深有同感,"现在不需要精通编程就能构建恶意软件。没有经验或技能的威胁行为者可以开始涉足这一领域,而那些已有相关技能的人则很可能开发出更具威胁性的恶意软件。"
更值得关注的是,UCC团队所使用的AI编程工具Cursor,对其恶意软件相关提示词既未拒绝也未加以限制。这凸显了建立安全防护机制以防止恶意使用的迫切性。不过Roedig也警示道,攻击者"很可能会尝试篡改AI模型以去除其安全护栏",因此AI编程工具的开发者还必须考虑如何防范护栏被绕过的情况。
展望未来,Gittis认为AI生成的恶意软件将持续进化扩散。"有能力实施网络攻击的个体正在增多,这意味着网络攻击总量可能上升。同时,已有能力的攻击者也很可能以更快的速度、更高的效率开展行动,威胁行为者或许还能开发出具有自我进化能力的动态恶意软件。"
他以谷歌发现的PROMPTFLUX恶意软件为例加以说明。该软件在运行时调用Gemini API,按需重写自身源代码以逃避检测。这种自适应和自我再生能力"很可能对防御方未来的运营方式产生深远影响",Gittis说。
这种持续的攻防博弈在网络安全领域并非新鲜事。"攻击者与防御者相互较量,这种情况一直都有。一方有所创新,另一方就设法绕过,双方都在动用一切可用手段,"Roedig说。
如今,这场博弈在Vibe黑客攻击与Vibeware领域再度上演。但据Gittis分析,好消息是"防御方拥有同等甚至更多的资源,这意味着我们能够持续提升应对能力、运营效率以及对响应措施的认知与掌握。"
Q&A
Q1:什么是Vibeware,它和普通恶意软件有什么不同?
A:Vibeware是指利用生成式AI(即Vibe编程方式)创建的恶意软件。与传统恶意软件相比,Vibeware的代码结构多样,能够规避基于哈希匹配或YARA规则的静态检测机制,且可快速生成大量变体。但其核心恶意行为与意图与传统恶意软件本质上没有区别,因此行为分析仍然能够识别它。
Q2:传统杀毒软件能检测出Vibeware吗?
A:传统静态检测方法(如哈希匹配、YARA规则)对Vibeware效果有限,因为每次生成的变体代码结构不同,难以通过固定签名匹配识别。动态行为分析则仍然有效,因为无论代码结构如何变化,恶意软件的行为特征不会改变。安全专家建议防御方全面转向行为分析,并结合AI技术来提升检测能力。
Q3:Vibe编程工具有没有对恶意软件生成进行限制?
A:科克大学研究团队在实验中使用了AI编程工具Cursor,发现该工具对恶意软件相关的提示词既未拒绝也未加以限制,这暴露出当前AI编程工具在安全防护方面存在明显不足。研究人员呼吁AI编程工具开发者建立更完善的安全护栏,同时也指出攻击者可能会尝试绕过或去除这些护栏,因此防护机制本身也需要持续强化。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。