OpenAI宣布与网络安全公司Trail of Bits合作,推出一项名为"Patch the Planet"的计划,旨在利用AI发现并修复广泛使用的开源软件中的安全漏洞。此举背景是企业面临软件供应链深层漏洞带来的日益严峻的安全威胁。
该计划将AI辅助漏洞研究与人工审查相结合,帮助将安全发现转化为经过测试的补丁,并通过各项目现有渠道进行披露。
首批参与项目包括Python、Go、cURL、Sigstore、NATS Server、aiohttp、freenginx、pyca/cryptography以及python.org,这些项目广泛支撑着各类企业应用和服务中的软件开发、网络通信、加密技术及供应链基础设施。
OpenAI表示,每次参与都将首先与项目维护者协商,明确最需要安全支持的领域。研究人员随后将排查潜在漏洞、验证有效问题、开发或完善补丁、支持测试,并通过项目现有渠道协调披露流程。
参与计划的安全研究人员将使用OpenAI旗下模型及Codex Security分析代码,推动修复方案走向落地。Trail of Bits的工程师将在结果提交给维护者之前进行审查,以过滤误报和重复报告,避免给开源项目带来额外负担。
OpenAI还与HackerOne及Calif合作,随着计划扩展,为漏洞分类、协调披露及额外发现工作提供支持。
OpenAI表示,该计划已识别出"数百个安全问题,并合并了数十个补丁,更多补丁仍在协调披露流程中"。此外,该计划还产出了用于模糊测试、历史CVE分析和差异测试的工具,以及在生成补丁前过滤误报的系统。
聚焦开源安全的背景,是Log4Shell和XZ Utils后门等事件的深刻教训——这些案例揭示了共享组件中的漏洞如何迅速蔓延至企业软件中。
分析师指出,"Patch the Planet"只有在企业将AI辅助漏洞研究视为更广泛软件供应链风险管理计划的输入,而非替代品时,才能真正改变风险格局。
Forrester首席分析师Biswajeet Mahapatra表示:"关键转变在于速度:AI辅助研究可以更快地发现、验证、修补、测试和记录问题,而人工审查员则在维护者承压之前降低误报率。但对稀缺专业知识的依赖并不会消失,它只是转移到了分类、可利用性判断、补丁安全性、披露时机和生产部署等环节。"
开源网络安全架构师Devashri Datta建议,CISO应在将AI辅助漏洞研究应用于企业安全流程之前建立治理控制,以防止未经验证的发现压垮工程团队。
"CISO应在风险建模中引入'安全相关性层'——一个结构化框架,要求每项AI生成的发现在到达人工分析师之前,须通过自动验证,包括动态概念验证和严格的误报过滤。"Datta说。
Datta还指出,这些控制措施还应涵盖披露环节,尤其是当AI工具在企业无法控制的第三方开源组件中发现漏洞时。组织需要预先定义好升级路径、通知时间表及角色分工,一旦在外部依赖中发现确认问题即可立即启动。
"在AI加速的环境下,临时性披露不仅是流程缺口,更是法律责任,"Datta说,"在生产流程中信任AI,需要可验证的可审计性:组织必须能够追溯AI标记某行代码的原因、验证漏洞利用的方式,以及确认补丁不会破坏下游生产系统的依据。"
分析师认为,AI辅助漏洞研究可能推动企业从周期性补丁管理转向更持续的风险评估。如果变体分析和差异测试能够从数周压缩至数天,安全团队将需要更快速的方式来判断哪些发现在自身环境中最为关键。
Datta表示,这一转变也意味着企业不能再仅凭通用CVSS评分来确定修复优先级。发现的问题需要结合受影响系统、其业务角色、运行时暴露程度以及漏洞被利用的可能性进行综合评估。
"我们必须迈向基于上下文的、安全关键型优先级排序,"Datta说,"企业的SBOM与VEX项目必须从被动的合规表格演进为实时、机器可读的数据流。对于AI辅助流程而言,这意味着需要将VEX模型扩展以覆盖AI引入的新风险面。"
Mahapatra则表示,漏洞管理项目也需要与软件所有权、供应商响应和业务影响更紧密地结合。
"安全团队应从周期性漏洞处理转向持续暴露缩减,"Mahapatra说。
这意味着,软件物料清单(SBOM)应被视为与运行时暴露和供应商响应挂钩的实时资产清单,而非静态合规文件。补丁决策也应综合考量资产重要性、可利用性、补偿控制措施及业务影响。
Q&A
Q1:Patch the Planet计划是什么?主要解决什么问题?
A:Patch the Planet是OpenAI与网络安全公司Trail of Bits联合发起的开源软件安全修复计划,旨在利用AI辅助漏洞研究,帮助发现并修复广泛使用的开源项目中的安全漏洞。该计划将AI分析与人工审查相结合,过滤误报后再提交给项目维护者,目前已识别数百个安全问题并合并了数十个补丁。
Q2:Patch the Planet目前覆盖哪些开源项目?
A:首批参与项目包括Python、Go、cURL、Sigstore、NATS Server、aiohttp、freenginx、pyca/cryptography以及python.org,涵盖软件开发、网络通信、加密技术及供应链基础设施等多个领域,广泛支撑企业级应用和服务。
Q3:企业在使用AI辅助漏洞研究时需要注意哪些风险?
A:分析师建议企业将AI辅助漏洞研究视为供应链风险管理的辅助工具,而非替代方案。CISO需建立治理控制机制,确保AI发现经过自动验证和误报过滤后再到达人工分析师;同时需预设披露流程、升级路径和角色分工,并保证AI决策全程可审计,避免临时性处置带来法律责任。
好文章,需要你的鼓励
火箭实验室(Rocket Lab)宣布计划以现金加股票方式,斥资80亿美元收购主要卫星运营商铱星通信(Iridium Communications),交易预计于2027年中完成。铱星目前运营着由66颗活跃低轨卫星组成的星座网络,拥有约255万活跃用户,2024年营收达8.717亿美元。收购完成后,Rocket Lab计划借助其新型重型运载火箭Neutron及Lightning卫星平台,扩大铱星星座规模,开拓未被覆盖的市场并降低发射成本。
香港大学与武汉大学联合开发的EO-WM系统,将地球观测卫星图像预测重新定义为天气驱动的世界建模问题,通过把气象信号拆解为气候基线、天气异常和累积压力三层,显著提升了对极端干旱和热浪事件下植被退化的预测准确性。
音乐流媒体平台Tidal宣布,将于7月中旬启用自动化工具,对完全由AI生成的音乐添加"AI"标识,并移除具有欺诈性质的曲目。平台还将取消AI生成音乐的版税资格,仅向真人创作、演唱的原创音乐开放变现渠道。此外,Tidal明确将高频异常上传、干扰真实艺术家等行为列为欺诈活动。Deezer、Spotify等竞争对手此前已推出类似检测机制,流媒体行业正加速构建AI内容治理体系。
腾讯等机构提出ViQ框架,通过两阶段渐进量化训练,让离散视觉编码在多模态理解和图像重建上同时追平连续特征编码器,训练速度最高提升70%。