在本周举行的谷歌云虚拟安全峰会上,该公司分享了其在人工智能安全防护方面的扩展愿景的更多细节,包括部署AI能力来改进弹性,推出新的智能体安全运营中心(SOC)功能,以及保护客户未来的AI开发项目。
谷歌领导层表示,这是终端用户组织重新定义其安全态势并降低AI投资风险的"前所未有"的机会。
该公司对智能体SOC的愿景是一种"集成体验",其中基于AI智能体优化数据管道来简化检测工程工作流程,自动化警报分类、调查和响应,在这一系统中,智能体能够协调其行为以支持共同目标。
谷歌今年4月在谷歌云Next大会上首次宣布的新警报调查智能体今天为部分用户进入预览阶段,据称该智能体将丰富事件信息,分析命令行界面(CLI),并基于谷歌云Mandiant部门人类分析师的工作构建进程树。
生成的警报摘要将附带为人类防护者提供的建议,谷歌相信这可能有助于防护者大幅减少手动工作和响应时间。
"我们对在整个安全产品组合中向市场推出的新功能感到兴奋,这些功能不仅帮助组织继续利用AI进行创新,还能利用AI保护组织安全,"谷歌云安全AI产品负责人Naveed Makhani告诉《计算机周刊》。
"我们宣布的最大安全改进之一是在AI保护解决方案内部。随着组织快速采用AI,我们正在开发新功能来帮助他们保持项目安全,"Makhani补充说。
在这一领域,谷歌今天在其Agentspace和Agent Builder工具中宣布了三项新功能,希望能保护客户开发的AI智能体。
这些功能包括新的智能体清单和风险识别功能,帮助安全团队更好地发现其智能体中的潜在漏洞、配置错误或可疑交互;更好地防护提示注入和越狱攻击;以及在安全指挥中心内增强威胁检测。
此外,谷歌还增强了今年早些时候推出的统一安全(GUS)产品,包括安全运营实验室功能,为威胁解析、检测和响应提供实验性AI工具的早期访问权限;仪表板以更好地可视化、分析和处理安全数据;以及将Chrome浏览器Android版本中的安全功能移植到苹果的iOS系统。同时,Trusted Cloud在合规性、态势管理、风险报告、智能体身份和访问管理(IAM)、数据保护和网络安全方面获得了多项更新。
AI咨询服务
基于Mandiant数据显示其人类分析师越来越多地看到客户对AI应用网络安全指导的需求,谷歌还将在Mandiant顾问提供的整体解决方案集中引入更多AI特定产品。
"Mandiant咨询现在提供基于风险的AI治理、AI环境加固的部署前指导,以及AI威胁建模。与Mandiant合作可以使组织在拥抱AI技术的同时降低安全风险,"谷歌表示。
Q&A
Q1:谷歌的智能体SOC系统有什么特点?
A:谷歌的智能体SOC系统是一种"集成体验",通过AI智能体优化数据管道来简化检测工程工作流程,能够自动化警报分类、调查和响应,智能体之间可以协调行动以支持共同的安全目标。
Q2:新的警报调查智能体能做什么?
A:该智能体能够丰富事件信息,分析命令行界面,基于谷歌云Mandiant部门人类分析师的工作构建进程树,并生成包含建议的警报摘要,帮助防护者大幅减少手动工作和响应时间。
Q3:谷歌如何保护客户开发的AI智能体安全?
A:谷歌在Agentspace和Agent Builder工具中推出三项新功能:智能体清单和风险识别功能帮助发现潜在漏洞和配置错误;更好地防护提示注入和越狱攻击;以及在安全指挥中心内增强威胁检测能力。
好文章,需要你的鼓励
很多人担心被AI取代,陷入无意义感。按照杨元庆的思路,其实无论是模型的打造者,还是模型的使用者,都不该把AI放在人的对立面。
MIT研究团队提出递归语言模型(RLM),通过将长文本存储在外部编程环境中,让AI能够编写代码来探索和分解文本,并递归调用自身处理子任务。该方法成功处理了比传统模型大两个数量级的文本长度,在多项长文本任务上显著优于现有方法,同时保持了相当的成本效率,为AI处理超长文本提供了全新解决方案。
谷歌宣布对Gmail进行重大升级,全面集成Gemini AI功能,将其转变为"个人主动式收件箱助手"。新功能包括AI收件箱视图,可按优先级自动分组邮件;"帮我快速了解"功能提供邮件活动摘要;扩展"帮我写邮件"工具至所有用户;支持复杂问题查询如"我的航班何时降落"。部分功能免费提供,高级功能需付费订阅。谷歌强调用户数据安全,邮件内容不会用于训练公共AI模型。
华为研究团队推出SWE-Lego框架,通过混合数据集、改进监督学习和测试时扩展三大创新,让8B参数AI模型在代码自动修复任务上击败32B对手。该系统在SWE-bench Verified测试中达到42.2%成功率,加上扩展技术后提升至49.6%,证明了精巧方法设计胜过简单规模扩展的技术理念。