勒索病毒、恶意软件、网络钓鱼攻击……科技头条每天都充斥着各种网络威胁的故事。同时,AI大模型等技术的加快发展,让网络威胁花样百出,有些明目张胆,有些则“锦衣夜行”,愈发难以识别和防范,为方兴未艾的数字经济带来重大挑战。
AI时代的到来,不仅是一场科技盛宴,更是对网络威胁的一次攻坚战。近日,IDC发布的《AI助力下的中国在线反欺诈市场洞察(2024)》报告显示,网络欺诈对于企业的损害尤为严重。据美国认证欺诈审查员协会(ACPE)估计,全球企业每年因欺诈而损失高达5%的收入,平均每个案件的损失金额达到178.3万美元。
随着网络犯罪门槛越来越低、损失越来越高昂,打击网络欺诈成为全球共同关注的重要议题。
近日,IDC发布《AI助力下的中国在线反欺诈市场洞察(2024)》报告,瑞数信息入选2024年IDC在线反欺诈领域代表厂商。
AI高歌猛进,暗藏多重欺诈风险
欺诈技术的发展对任何基于信任的商业系统都是一个明显的威胁。为了应对这一挑战,各国政府、企业和银行都在积极探索反欺诈技术。
聚焦到中国,在线反欺诈市场正处于一个动态变化与持续演进的过程中,面临着一些亟待解决的问题和挑战。
IDC认为,一方面,伴随在线反欺诈应用场景持续演变、在线交易数据量剧增、欺诈团伙逐步智能化等多重因素的推动,以及政策法规的不断完善,中国用户对于反欺诈技术需求越来越迫切。
另一方面,反欺诈技术更新换代的时效性、数据隐私和安全、欺诈行为识别的算法和模型的准确性、跨平台技术整合,以及全球化和跨境欺诈等挑战不容忽视。
例如,利用AI技术换脸进行会议或是视频聊天进行诈骗的方式已经出现,这要求反欺诈技术需要持续创新,及时跟进最新的技术趋势,包括成本投入、技术兼容性等。
在线反欺诈过程中,涉及大量用户的数据收集、存储和处理。如何确保用户数据的安全性和隐私性,避免数据泄露和滥用,是在线反欺诈技术面临的又一重要挑战。
此外,在线反欺诈技术的核心在于算法和模型的准确性,只有准确地识别出欺诈行为,才能有效防止损失的发生。但由于欺诈行为的多样性和复杂性,算法和模型的准确性往往受多种因素的影响,因此提高算法和模型的准确性是反欺诈技术发展的关键挑战之一。
但值得庆幸的是,随着反欺诈市场规模的持续增长、技术供应商能力的不断提升、行业数据共享的实现,以及AI智能化水平的进一步提高,中国在线反欺诈市场将迎来广阔的发展前景。
IDC指出,为了实现更有效的反欺诈,各行业之间开始尝试建立反欺诈数据共享机制,通过共享黑名单、风险信息、交易数据等,不同行业的企业可以共同应对跨行业的欺诈风险。同时,企业对专业反欺诈运营团队的需求也将不断提升,为市场的长期稳定发展提供有有力保障。
以AI对抗AI,“动态安全+AI”助力在线反欺诈
在AI时代,如何更好地检测出数字渠道中的在线欺诈是一项巨大挑战。尽管企业始终在反击在线欺诈行为,但效果却不尽人意,“难发现、难打击、难根除”成为反欺诈工作的痛点。
为了有效对抗愈演愈烈的网络欺诈,以瑞数信息为代表的众多技术和服务提供商正在积极应对,如:通过引入先进的大数据分析和AI等手段,通过实时监控、行为分析、设备指纹等手段,努力提升反欺诈效能,以确保用户的数字化业务顺利开展,并将网络安全风险降至最低。
IDC报告指出,AI在一定程度上为在线反欺诈技术带来新的价值,通过提升数据分析与威胁识别能力、采用适应性与定制化防护策略、加强智能决策支持与业务优化、提高反欺诈系统开发效率与代码质量等方式,有效应对网路攻击升级,为反欺诈领域注入了新的活力。
作为此次入选2024年IDC在线反欺诈领域的代表厂商,瑞数信息针对传统安全和风控产品的弊端,自主研发“动态安全+AI”解决方案,涵盖了机器学习、智能人机识别、智能威胁检测、全息设备指纹、智能响应等多项AI技术,彻底变革了传统安全基于攻击特征与行为规则的被动式防御技术,提供面向应用和业务层面的主动防御能力。
瑞数信息董事长、CEO余亮曾表示:“以AI对抗AI正在成为数字化时代下的网络安全新趋势。瑞数信息在秉承‘动态安全’和‘主动防御’安全理念的同时,进一步加强AI、大模型和大数据分析技术,助力用户搭建更加智能化的网络主动防御安全体系。”
瑞数信息通过动态安全和AI引擎,将风险防控进一步前置,帮助企业深入了解欺诈事件的事前、事中、事后的不同阶段表现,并为企业事前的欺诈风险主动进行及时感知,对事中的实时识别与决策效果提供参考。
从技术层面看,瑞数信息在终端采用动态验证以及动态混淆,部署在终端与Web服务器之间的动态服务与业务感知系统采用动态封装以及动态令牌。其中,动态验证确保运行环境,进行人机识别,对抗浏览器模拟化以及自动化攻击;动态混淆将敏感数据混淆变化,防止中间人攻击;动态封装隐藏攻击入口,防止一般扫描以及爬虫;动态令牌则防止重放攻击和越权,确保业务逻辑正常进行。
通过综合运用AI技术,瑞数信息的动态安全还可根据威胁态势对各类网站应用及业务交易的全过程进行动态感知、分析与预测,即时追溯与阻断恶意攻击来源,打击伪装正常交易的业务作弊、利用合法账号窃取敏感数据,以及假冒合法终端应用的各类网络欺诈与攻击行为,从而最大限度地主动透视风险,实现业务风险防护。
相比与传统安全厂商,瑞数信息所提供的数据采集点也更加丰富,可同时覆盖Web、H5、APP、小程序、API等多种业务渠道,实现线上业务全渠道以及客户端、数据传输、服务器端全方位的数据关联。通过对数据的有效采集,补充安全威胁数据与人机识别数据,企业能够具备针对已知和未知自动化攻击的防御能力。
通过将风险控制前置,企业可以不依赖传统风控规则的实时人机识别和拦截,不依赖定制的业务逻辑欺诈识别,以及对业务异常行为的实时识别和阻拦,在安全防护方面将更主动和灵活。
可以看到,瑞数信息将“动态安全+AI”作为重要技术基石,提供面向应用和业务层面的主动防御能力,高效甄别伪装和假冒正常行为的已知和未知自动化攻击,有效打击伪装成正常交易的业务作弊、利用合法账号窃取敏感数据及假冒终端应用的各类网络欺诈,对在线交易、数据与企业网站的安全保驾护航。
在欺诈攻击愈演愈烈的环境中,瑞数动态安全解决方案恰恰就是在欺诈攻击对企业产生负面影响之前实现快速检测、响应和阻挡,充分保护企业网络、业务、应用和数据的安全。
目前,瑞数信息反欺诈业务已覆盖三大运营商、金融、政府、制造、能源、交通、医疗、教育、电商互联网等众多行业上千家头部客户。
结语
数字化时代,在线反欺诈面临更大的挑战,而技术的日趋成熟为企业提高风控能力带来了新契机。从事后到事前、从被动防御到主动安全、从静态特征分析到深度欺诈行为分析和溯源,瑞数信息创新探索的脚步从未停止。未来,瑞数信息也将进一步加强在反欺诈领域的技术革新和实践,助力企业全方位筑牢网络安全防线,努力实现“御敌于千里之外”。
好文章,需要你的鼓励
这项研究提出了ORV(占用中心机器人视频生成)框架,利用4D语义占用作为中间表示来生成高质量的机器人操作视频。与传统方法相比,ORV能提供更精确的语义和几何指导,实现更高的时间一致性和控制精度。该框架还支持多视角视频生成(ORV-MV)和模拟到真实的转换(ORV-S2R),有效弥合了虚拟与现实之间的差距。实验结果表明,ORV在多个数据集上的表现始终优于现有方法,为机器人学习和模拟提供了强大工具。
这项研究由Writer公司团队开发的"反思、重试、奖励"机制,通过强化学习教导大型语言模型生成更有效的自我反思内容。当模型回答错误时,它会生成反思并二次尝试,若成功则奖励反思过程。实验表明,该方法在函数调用和数学方程解题上带来显著提升,最高分别改善18.1%和34.7%。令人惊讶的是,经训练的小模型甚至超越了同家族10倍大的模型,且几乎不存在灾难性遗忘问题。这种自我改进技术为资源受限环境下的AI应用开辟了新方向。
FuseLIP是一项突破性研究,提出了通过早期融合离散标记实现多模态嵌入的新方法。与传统CLIP模型使用独立编码器不同,FuseLIP采用单一编码器同时处理图像和文本标记,实现了更自然的模态交互。研究证明,这种早期融合方法在多种多模态任务上表现优异,特别是在需要理解图像结构而非仅语义内容的任务上。研究还开发了创新的数据集和评估任务,为多模态嵌入研究提供了宝贵资源。
ByteDance与浙江大学合作开发的MERIT是首个专为多语言多条件语义检索设计的基准数据集,包含320,000条跨5种语言的查询和135,000个产品。研究发现现有模型在处理多条件查询时过度关注全局语义而忽略特定条件元素,为此提出CORAL框架,通过嵌入重建和对比学习相结合的方式,使检索性能提升45.9%。这项研究不仅识别了现有方法的关键局限性,还为多条件交错语义检索领域的未来研究奠定了基础。