Anthropic本月早些时候宣布利用AI提升网络安全水平,此消息一经发布便引发广泛质疑。然而,Mozilla随即分享了一些具体细节,证实了Anthropic旗下特殊模型Claude Mythos Preview在保护关键服务方面的实际价值。借助Mythos,Mozilla团队在最新版Firefox浏览器中成功发现并修复了271个安全漏洞。Mozilla基金会表示:"迄今为止,我们尚未发现任何人类能够找到、而该模型无法识别的漏洞类型或复杂程度。"
Mozilla发布的这篇博客文章,对Anthropic的Project Glasswing计划而言无疑是一个积极信号。当然,AI公司在推介自身项目时自然希望呈现最佳形象,但来自第三方机构的正面评价更具说服力。Mozilla同时指出,在使用Claude Mythos的过程中,该AI并未发现任何人类在充足时间和资源条件下无法找到的漏洞,这也说明AI目前在突破网络安全防护方面并不具备超越人类的能力。
一个组织切实将AI用于正向目的,在当下的科技新闻中着实令人耳目一新。对于那些不希望在浏览器中接触任何生成式AI功能的Firefox用户,Mozilla在过去数月间已提供了关闭相关功能的选项。
Q&A
Q1:Claude Mythos是什么模型?它在Firefox安全测试中发挥了什么作用?
A:Claude Mythos Preview是Anthropic专门用于网络安全领域的AI模型。Mozilla将其应用于Firefox浏览器的安全检测工作,结果帮助团队发现并修复了271个安全漏洞。Mozilla表示,目前尚未发现人类能找到而该模型无法识别的漏洞,显示出其在安全扫描方面的高效性。
Q2:Claude Mythos的漏洞检测能力是否超越了人类安全工程师?
A:根据Mozilla的测试结果,Claude Mythos目前并未展现出超越人类的能力。Mozilla明确指出,该AI发现的所有漏洞,人类安全工程师在拥有足够时间和资源的情况下同样能够找到,说明AI目前仍处于辅助角色,而非完全替代人工安全审查。
Q3:不想使用生成式AI功能的Firefox用户该怎么办?
A:Mozilla已为用户提供了关闭生成式AI相关功能的选项,该功能已上线数月。用户可以根据个人偏好选择是否启用AI功能,不必担心被强制接入生成式AI体验。
好文章,需要你的鼓励
FORTIS是专门测量AI代理"越权行为"的基准测试,研究发现十款顶尖模型普遍选择远超任务需要的高权限技能,端到端成功率最高仅14.3%。
谷歌在Android Show发布会上宣布,将Gemini更深度整合至Android系统,推出名为"Gemini Intelligence"的升级功能。该功能可跨应用处理日常任务,包括自动填写表单、安排日程、生成购物清单及自定义小组件等,无需用户频繁切换应用。此外,Gboard新增"Rambler"功能,可自动过滤语音输入中的口误和填充词。Gemini Intelligence将率先登陆三星Galaxy和谷歌Pixel手机,并支持Android Auto、Wear OS及智能眼镜。
荷兰Nebius团队提出SlimSpec,通过低秩分解压缩草稿模型LM-Head的内部表示而非裁剪词汇,在保留完整词汇表的同时将LM-Head计算时间压缩至原来的五分之一,端到端推理速度超越现有方法最高达9%。