在本周举行的谷歌云虚拟安全峰会上,该公司分享了其在人工智能安全防护方面的扩展愿景的更多细节,包括部署AI能力来改进弹性,推出新的智能体安全运营中心(SOC)功能,以及保护客户未来的AI开发项目。
谷歌领导层表示,这是终端用户组织重新定义其安全态势并降低AI投资风险的"前所未有"的机会。
该公司对智能体SOC的愿景是一种"集成体验",其中基于AI智能体优化数据管道来简化检测工程工作流程,自动化警报分类、调查和响应,在这一系统中,智能体能够协调其行为以支持共同目标。
谷歌今年4月在谷歌云Next大会上首次宣布的新警报调查智能体今天为部分用户进入预览阶段,据称该智能体将丰富事件信息,分析命令行界面(CLI),并基于谷歌云Mandiant部门人类分析师的工作构建进程树。
生成的警报摘要将附带为人类防护者提供的建议,谷歌相信这可能有助于防护者大幅减少手动工作和响应时间。
"我们对在整个安全产品组合中向市场推出的新功能感到兴奋,这些功能不仅帮助组织继续利用AI进行创新,还能利用AI保护组织安全,"谷歌云安全AI产品负责人Naveed Makhani告诉《计算机周刊》。
"我们宣布的最大安全改进之一是在AI保护解决方案内部。随着组织快速采用AI,我们正在开发新功能来帮助他们保持项目安全,"Makhani补充说。
在这一领域,谷歌今天在其Agentspace和Agent Builder工具中宣布了三项新功能,希望能保护客户开发的AI智能体。
这些功能包括新的智能体清单和风险识别功能,帮助安全团队更好地发现其智能体中的潜在漏洞、配置错误或可疑交互;更好地防护提示注入和越狱攻击;以及在安全指挥中心内增强威胁检测。
此外,谷歌还增强了今年早些时候推出的统一安全(GUS)产品,包括安全运营实验室功能,为威胁解析、检测和响应提供实验性AI工具的早期访问权限;仪表板以更好地可视化、分析和处理安全数据;以及将Chrome浏览器Android版本中的安全功能移植到苹果的iOS系统。同时,Trusted Cloud在合规性、态势管理、风险报告、智能体身份和访问管理(IAM)、数据保护和网络安全方面获得了多项更新。
AI咨询服务
基于Mandiant数据显示其人类分析师越来越多地看到客户对AI应用网络安全指导的需求,谷歌还将在Mandiant顾问提供的整体解决方案集中引入更多AI特定产品。
"Mandiant咨询现在提供基于风险的AI治理、AI环境加固的部署前指导,以及AI威胁建模。与Mandiant合作可以使组织在拥抱AI技术的同时降低安全风险,"谷歌表示。
Q&A
Q1:谷歌的智能体SOC系统有什么特点?
A:谷歌的智能体SOC系统是一种"集成体验",通过AI智能体优化数据管道来简化检测工程工作流程,能够自动化警报分类、调查和响应,智能体之间可以协调行动以支持共同的安全目标。
Q2:新的警报调查智能体能做什么?
A:该智能体能够丰富事件信息,分析命令行界面,基于谷歌云Mandiant部门人类分析师的工作构建进程树,并生成包含建议的警报摘要,帮助防护者大幅减少手动工作和响应时间。
Q3:谷歌如何保护客户开发的AI智能体安全?
A:谷歌在Agentspace和Agent Builder工具中推出三项新功能:智能体清单和风险识别功能帮助发现潜在漏洞和配置错误;更好地防护提示注入和越狱攻击;以及在安全指挥中心内增强威胁检测能力。
好文章,需要你的鼓励
随着员工自发使用生成式AI工具,CIO面临影子AI的挑战。报告显示43%的员工在个人设备上使用AI应用处理工作,25%在工作中使用未经批准的AI工具。专家建议通过六项策略管理影子AI:建立明确规则框架、持续监控和清单跟踪、加强数据保护和访问控制、明确风险承受度、营造透明信任文化、实施持续的角色化AI培训。目标是支持负责任的创新而非完全禁止。
哈佛、MIT联合研究揭示人类语言理解的神经机制,发现大脑通过"信息出口"将语言从核心系统传递至专业脑区实现深度理解。研究提出浅层与深层理解的区别,为人工智能发展提供重要启示,表明真正智能需要多系统协作而非单一优化。该发现可能改变我们对语言认知的理解。
英国正式推出DaRe2THINK数字平台,旨在简化NHS全科医生参与临床试验的流程。该平台由伯明翰大学和MHRA临床实践研究数据链开发,能够安全传输GP诊所与NHS试验研究人员之间的健康数据,减少医生的管理负担。平台利用NHS现有健康信息,安全筛查来自450多家诊所的1300万患者记录,并使用移动消息系统保持试验对象参与度,为传统上无法参与的人群开辟了研究机会。
腾讯混元等团队开发出革命性的AI视频生成自我评判系统PAVRM和训练方法PRFL,让AI能在创作过程中实时评估和改进视频质量,无需等到完成才反馈。该技术使视频动态表现提升56%,人体结构准确性提升21.5%,训练效率提升1.4倍,为AI视频生成质量带来质的飞跃。