Anthropic计划最早于下周向英国银行开放其Mythos AI模型的预览访问权限,使各银行有机会修复该模型已发现的安全漏洞。
Anthropic表示,Mythos已在所有主流操作系统和网络浏览器中发现了安全漏洞。
英国各银行将加入一批率先获得该AI模型访问权限的美国企业行列,这一早期访问计划隶属于Anthropic发起的"玻璃翼计划"(Project Glasswing)。在该计划中,Anthropic表示亚马逊云服务(AWS)、苹果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金会、微软、英伟达以及Palo Alto Networks将"把Mythos预览版纳入各自的防御性安全工作"。
据Anthropic欧洲区负责人皮普·怀特(Pip White)透露,英国银行将成为下一批获得访问权限的机构。她在接受彭博社采访时表示,公司最早将于下周向英国银行开放Mythos访问权限。
"我们已向多家机构开放了这一权限,包括微软、AWS、部分金融机构,目前仍是规模非常小的一批用户,"她告诉彭博社。
"从本质上来看,Mythos确实让我们意识到,当前存在大量极为严重的安全漏洞。"
漏洞无处不在
怀特补充说,Mythos在每一款主流操作系统和每一款主流网络浏览器中都发现了安全漏洞。"我们希望先建立这一小批用户群,在严格可控的环境下从他们的发现中学习,"她表示,"但我们的目标确实是以一种有针对性的方式逐步扩大覆盖范围。"
目前英国金融服务机构尚未参与其中,但这一局面即将改变。"我认为这会在非常近的将来发生,大概就是下周,"怀特说道。
Mythos本周引发广泛关注,起因是英国各银行相继被监管机构紧急约谈,原因是该模型识别出了数以千计的软件漏洞。
Anthropic发起"玻璃翼计划",旨在帮助各机构建立防范该模型遭滥用的防御体系。
Mythos能够识别出多年来未被发现的软件安全缺陷——尽管各大银行等机构长期持续进行安全排查——这一能力警示世人:一旦AI落入不法分子之手,后果将不堪设想。
怀特表示,Anthropic本周已与多位银行高层保持积极沟通。"正如外界所预期的那样,过去一周我在英国收到的来自各大企业CEO的关注和联络非常密集,"她说道,"客户首先希望表达对我们发布Mythos方式的认可,认为我们的做法非常审慎;其次,他们自然也希望了解如何以可控的方式获得使用该模型的机会。"
"因此,我们与多位CEO进行了深入交流,重点阐释了我们发起'玻璃翼计划'的初衷,以及我们在设计这一计划时的深思熟虑。"
迫切需要
AI采用情况追踪机构Evident在一篇博文中写道:"各大银行已获得优先机会,率先测试Anthropic旗下这款因被认定风险过高而未对外公开发布的新型网络安全模型Mythos。目前已获访问权限的银行所反馈的发现,充分说明了这一工具对它们而言有多么迫切需要。"
"这并非是新模型首次在企业界引发震动,但顶级监管机构在去年夏天GPT-5发布时,并没有将银行高管紧急召集起来开会,"Evident在博文中指出,"外界对Mythos的担忧在于,它可能让任何人都成为银行有史以来面临过的最厉害的黑客——不仅因为它能嗅探出数十年前沿用至今、始终未被人类察觉的软件弱点,还因为它能自动生成用于利用这些漏洞的攻击代码。"
一位银行业IT专业人士表示:"我认为,各银行已获得了一个难得的窗口期,可以在这项技术落入不法分子手中之前,率先发现并修复自身的安全漏洞。它们得到了一个在更大范围发布之前整顿自身安全状况的机会。"
Q&A
Q1:Mythos模型是什么,它有哪些能力?
A:Mythos是Anthropic开发的一款AI网络安全模型,因被认定存在较高风险而未对外公开发布。它的核心能力是识别软件中长期未被发现的安全漏洞,能够在所有主流操作系统和网络浏览器中找到安全缺陷,并自动生成用于利用这些漏洞的代码,被认为可能将普通人变成极具威胁的黑客。
Q2:Anthropic发起"玻璃翼计划"的目的是什么?
A:"玻璃翼计划"(Project Glasswing)是Anthropic发起的一项防御性安全合作计划,旨在帮助受信任的机构利用Mythos预览版开展防御性安全工作。参与机构包括AWS、苹果、微软、谷歌、英伟达、摩根大通等,这些机构可以借助Mythos主动发现并修复自身系统中的安全漏洞,从而在该模型更大范围发布前建立必要的安全防线。
Q3:英国银行为何被监管机构紧急约谈?
A:本周Mythos模型识别出了数以千计的软件安全漏洞,引发监管机构高度警惕,随即将英国各银行高管召集起来进行紧急会议。监管机构和业界的核心担忧在于:这些漏洞多年来一直未被发现,一旦Mythos的能力被不法分子掌握,后果将极为严重,因此银行业需要尽快在技术扩散前完成自身的安全修复工作。
好文章,需要你的鼓励
FORTIS是专门测量AI代理"越权行为"的基准测试,研究发现十款顶尖模型普遍选择远超任务需要的高权限技能,端到端成功率最高仅14.3%。
谷歌在Android Show发布会上宣布,将Gemini更深度整合至Android系统,推出名为"Gemini Intelligence"的升级功能。该功能可跨应用处理日常任务,包括自动填写表单、安排日程、生成购物清单及自定义小组件等,无需用户频繁切换应用。此外,Gboard新增"Rambler"功能,可自动过滤语音输入中的口误和填充词。Gemini Intelligence将率先登陆三星Galaxy和谷歌Pixel手机,并支持Android Auto、Wear OS及智能眼镜。
荷兰Nebius团队提出SlimSpec,通过低秩分解压缩草稿模型LM-Head的内部表示而非裁剪词汇,在保留完整词汇表的同时将LM-Head计算时间压缩至原来的五分之一,端到端推理速度超越现有方法最高达9%。