国际货币基金组织(IMF)近日警告称,由人工智能驱动的网络攻击可能引发全球性金融危机。
IMF在一篇博客文章中指出:"如果不加以妥善管控,AI驱动的网络风险可能动摇整个金融体系的稳定。"此类攻击可能导致支付系统中断、企业偿付能力受损,并对流动性造成严重冲击。
IMF高级官员表示,金融系统对共享云服务的高度依赖,使得网络攻击的威胁更加令人担忧——一处漏洞便可能在多个机构之间产生连锁反应。
此次警告的导火索,是Anthropic推出的AI模型Mythos。该模型因具备大规模识别软件漏洞的潜力,在全球范围内引发广泛关注。
面临风险的不止金融行业。金融服务与能源、电信和公共部门共享"数字基础设施",而这些领域均受到该模型快速演进能力的威胁。共用基础设施意味着漏洞可能被跨行业利用。
IMF指出,该模型即便由非专业人员使用,也能识别并利用系统漏洞。
今年4月,英格兰银行行长安德鲁·贝利在哥伦比亚大学的演讲中警告称,Anthropic最新发布的模型可能会"彻底颠覆整个网络风险领域"。
对此,Anthropic专门设立了"玻璃翼计划"(Project Glasswing),将Mythos模型提供给英伟达、苹果、亚马逊云服务(AWS)和微软等40家被认定为重要保护对象的企业,而非向公众开放。
Anthropic首席执行官达里奥·阿莫迪表示,公司还计划与政府官员合作,帮助美国及其盟友抵御AI带来的潜在威胁。
4月底,该公司向英国各银行开放了模型访问权限,金融监管机构也随即展开风险评估。
跨境风险
IMF警告称,"网络风险不受国境限制",新兴经济体面临的攻击威胁尤为突出,可能波及国际服务体系。IMF呼吁各国加强国际合作、推进更严格的监管机制。
上月,英国AI安全研究所(ASI)发布了一份关于Mythos能力的独立报告。报告认为,尽管该AI是网络风险检测的有力工具,但最令人忧虑的是"未来还将有更多具备类似能力的模型被开发出来"。
研究人员写道:"未来的前沿模型将更加强大,因此现在就投入网络防御建设至关重要。"
随着AI模型能力不断增强,专家们正敦促企业借助Mythos排查安全隐患,同时加强自身网络防御能力建设。
IMF表示,要使Mythos真正发挥作用,各机构必须重点关注"系统集成、治理机制与人工监督",并建立"业务连续性与灾难恢复方案、网络及质量保障体系,以及良好的网络安全卫生习惯"。
网络弹性平台Absolute Security国际高级副总裁安迪·沃德表示:"如果缺乏完善的网络弹性策略和实时可视化能力,金融行业将在不知不觉中陷入更深的安全漏洞之中。"
他补充道:"攻击者已在借助AI加速和扩大威胁规模,这可能给企业带来严重后果。网络防御必须以同等紧迫性加速演进,否则将面临极度危险的暴露风险。"
Q&A
Q1:IMF为何警告AI网络攻击会引发全球金融危机?
A:IMF指出,AI驱动的网络攻击可能干扰支付系统、导致企业偿付危机并冲击流动性。金融系统对共享云服务的高度依赖,意味着一处漏洞便可能在多个机构间产生连锁反应,进而动摇整个金融体系的稳定。
Q2:Anthropic的Mythos模型为什么引发全球关注?
A:Mythos模型具备大规模识别软件漏洞的能力,且即便由非专业人员使用也能发现并利用漏洞。英格兰银行行长曾警告该模型可能"颠覆整个网络风险领域"。目前该模型仅向英伟达、苹果、微软等40家重要机构开放,并未面向公众发布。
Q3:金融机构应如何应对AI网络安全威胁?
A:IMF建议各机构重点关注系统集成、治理机制与人工监督,同时建立业务连续性与灾难恢复方案、网络质量保障体系及良好的网络安全卫生习惯。专家也强调,网络防御需随AI威胁的演进同步升级,否则将面临严重的安全风险。
好文章,需要你的鼓励
大众汽车旗下ID. Polo与Cupra Raval已在西班牙马托雷尔工厂正式下线投产。两款车型起售价分别为24,995欧元和26,000欧元,均基于MEB+平台打造,搭载37kWh或52kWh电池组,续航里程最高可达454公里。这是大众"电动城市车家族"系列的首批产品,预计今年夏末秋初开始交付。大众集团通过跨品牌资源整合,实现约6亿欧元的成本节约,后续还将推出ID. Cross等新成员。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
三星宣布将于6月8日起为Samsung Health应用推出重磅功能更新,赶在Galaxy Watch 9传闻发布之前落地。新版本将引入多项AI驱动的生物特征分析功能,包括:综合心率、血氧、皮肤温度等数据的每日活力评分(Vitals)、结合体成分数据评估长期心脏健康的心脏健康评分、优化训练强度的每日有氧负荷追踪,以及横向对比用户群体的健身指数。此外,应用界面将重新划分为睡眠、营养、活动、正念和体征五大板块,并新增抗氧化指数、年龄指数和听力保护等个性化功能。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。