英国NHS因AI安全忧虑，计划关闭数百个GitHub开源仓库

英国国家医疗服务体系（NHS）正要求其所有技术负责人，以人工智能安全风险为由，暂时将该组织的开源项目转为私有，此举与Anthropic旗下AI模型Mythos的出现密切相关。

据《The Register》获得的一份NHS内部指导文件显示，所有GitHub仓库须在5月11日前由公开状态切换为私有状态。

文件指出："公开仓库会显著增加源代码、架构决策、配置细节及上下文信息被无意泄露的风险，尤其是在AI模型快速发展的背景下，这些模型已具备大规模代码摄取、推理和分析能力（例如Mythos模型的出现）。"

文件还强调，除非有明确且特殊的需求，否则GitHub仓库不应设为公开状态。该决定已获NHS工程委员会批准。

NHS英格兰发言人向《The Register》表示，此举仅为临时性措施，旨在加强网络安全防护。

"我们正在临时限制对部分NHS英格兰源代码的访问权限，以在评估AI模型快速发展影响的同时，进一步强化网络安全。"该发言人表示，"我们将在有明确必要性的情况下继续公开源代码。"

NHS内部人士透露，在数百个开源仓库中，涉及敏感内容的其实极少。这些公开仓库大多用于存放文档、架构图，以及管理诊所时间等内部工具的代码，例如相关Web应用程序。

尽管Mythos这类前沿AI模型确实可能挖掘出潜在漏洞，但外界普遍认为这对医疗服务构成的实际风险很低。

不过，NHS此次将代码转为私有的决定，标志着其长期以来偏向开源政策的重大转向，尽管属于临时举措。

与英国政府整体政策一致，NHS服务手册明确规定，所有新源代码均应在适当许可证下开源共享，背后逻辑在于其资金来源性质。

手册写道："公共服务由公共资金构建，因此除非有充分理由，否则相关代码应对外公开，供他人复用和进一步开发。开源代码可以避免团队重复劳动，帮助他们更快构建更优质的服务。采用开放许可证发布源代码，也有助于避免被单一供应商锁定。"

去年底，曾有报道称NHS删除了多个介绍其开源理念的网页，引发外界对其政策转向的猜测。但NHS对此回应称，这只是将NHSX和NHS Digital并入NHS英格兰后的例行内容整理工作。

NHS英格兰未透露此次临时关闭开源仓库的截止时间，也未回应关于其认为前沿AI模型对开源仓库最大威胁是什么的问题。

Mythos：真实威胁还是夸大其词？

相信不少读者已听闻围绕Anthropic最新AI模型Mythos的种种说法。Anthropic将其定位为一款能够快速发现资深人类团队所遗漏漏洞的模型，但也有人认为其被过度炒作。

英国AI安全研究所和国家网络安全中心等国家权威机构，在一定程度上认可了Anthropic的说法，认为Mythos代表了超越预期AI发展周期的技术进步。

然而，也有人对其漏洞挖掘能力持怀疑态度。Anthropic迄今尚未公布Mythos在执行漏洞扫描时产生误报的数量，而误报问题在当前AI应用中十分普遍。

此外，将Mythos与开源模型进行对比的测试也表明，两者之间的能力差距并没有Anthropic所暗示的那么悬殊。

目前，Mythos受Project Glasswing项目限制，仅向特定机构开放。但Forrester分析师警告，一旦此类强大模型向公众乃至攻击者开放，开源软件将面临真实威胁，而Anthropic向Project Glasswing捐赠的400万美元恐怕难以从根本上解决这一问题。

NHSX前开放技术负责人Terence Eden认为，将开源仓库转为私有，对于应对先进AI能力并不能提供实质性防护。

"那些开源代码早在数年前就以'训练目的'为由被批量抓取了，"他在近期的一篇博客中写道，"如果内容稍微有点价值，就会被数字囤积者备份，被各类数字档案馆存档。任何想研究你代码库的人都可以找到它。现在关闭，并不能真正保护你。"

他还补充说，机构面临的许多严重漏洞，并不一定藏在自身代码库中，而是来自软件供应链——操作系统、第三方库等环节。

"更大的风险来自网络钓鱼、薄弱的密码管理习惯和内部威胁，而非隐蔽的逻辑漏洞。加固现有系统所提供的保护，远比仓促关闭开源代码更有价值。"

Q&A

Q1：NHS为什么要把GitHub开源仓库转为私有？

A：NHS此举主要源于对AI安全风险的担忧，尤其是Anthropic的Mythos模型被认为具备大规模代码分析和漏洞挖掘能力。NHS担心公开的源代码、架构信息等可能被利用，因此工程委员会批准了这一临时措施，要求在5月11日前将GitHub仓库由公开转为私有，同时评估AI快速发展带来的安全影响。

Q2：Mythos模型真的对开源代码构成很大威胁吗？

A：目前看法不一。Anthropic声称Mythos能发现人类团队忽视的漏洞，英国AI安全研究所和国家网络安全中心对此有一定认可。但也有专家质疑，Anthropic未公布误报率数据，且与开源模型对比测试显示能力差距没有宣传中那么大。NHSX前负责人Terence Eden更指出，开源代码多年前已被AI训练数据抓取，现在关闭仓库并不能提供实质保护。

Q3：NHS关闭开源仓库会影响其一贯的开源政策吗？

A：会带来一定冲击，但NHS强调这是临时措施。NHS一直遵循英国政府的开源原则，认为由公共资金构建的服务代码应当公开共享，以避免重复开发和供应商锁定。此次关闭行动与该政策存在明显矛盾，NHS表示将在有明确必要性时继续公开源代码，但未说明何时恢复正常状态。