在本周举行的谷歌云虚拟安全峰会上,该公司分享了其在人工智能安全防护方面的扩展愿景的更多细节,包括部署AI能力来改进弹性,推出新的智能体安全运营中心(SOC)功能,以及保护客户未来的AI开发项目。
谷歌领导层表示,这是终端用户组织重新定义其安全态势并降低AI投资风险的"前所未有"的机会。
该公司对智能体SOC的愿景是一种"集成体验",其中基于AI智能体优化数据管道来简化检测工程工作流程,自动化警报分类、调查和响应,在这一系统中,智能体能够协调其行为以支持共同目标。
谷歌今年4月在谷歌云Next大会上首次宣布的新警报调查智能体今天为部分用户进入预览阶段,据称该智能体将丰富事件信息,分析命令行界面(CLI),并基于谷歌云Mandiant部门人类分析师的工作构建进程树。
生成的警报摘要将附带为人类防护者提供的建议,谷歌相信这可能有助于防护者大幅减少手动工作和响应时间。
"我们对在整个安全产品组合中向市场推出的新功能感到兴奋,这些功能不仅帮助组织继续利用AI进行创新,还能利用AI保护组织安全,"谷歌云安全AI产品负责人Naveed Makhani告诉《计算机周刊》。
"我们宣布的最大安全改进之一是在AI保护解决方案内部。随着组织快速采用AI,我们正在开发新功能来帮助他们保持项目安全,"Makhani补充说。
在这一领域,谷歌今天在其Agentspace和Agent Builder工具中宣布了三项新功能,希望能保护客户开发的AI智能体。
这些功能包括新的智能体清单和风险识别功能,帮助安全团队更好地发现其智能体中的潜在漏洞、配置错误或可疑交互;更好地防护提示注入和越狱攻击;以及在安全指挥中心内增强威胁检测。
此外,谷歌还增强了今年早些时候推出的统一安全(GUS)产品,包括安全运营实验室功能,为威胁解析、检测和响应提供实验性AI工具的早期访问权限;仪表板以更好地可视化、分析和处理安全数据;以及将Chrome浏览器Android版本中的安全功能移植到苹果的iOS系统。同时,Trusted Cloud在合规性、态势管理、风险报告、智能体身份和访问管理(IAM)、数据保护和网络安全方面获得了多项更新。
AI咨询服务
基于Mandiant数据显示其人类分析师越来越多地看到客户对AI应用网络安全指导的需求,谷歌还将在Mandiant顾问提供的整体解决方案集中引入更多AI特定产品。
"Mandiant咨询现在提供基于风险的AI治理、AI环境加固的部署前指导,以及AI威胁建模。与Mandiant合作可以使组织在拥抱AI技术的同时降低安全风险,"谷歌表示。
Q&A
Q1:谷歌的智能体SOC系统有什么特点?
A:谷歌的智能体SOC系统是一种"集成体验",通过AI智能体优化数据管道来简化检测工程工作流程,能够自动化警报分类、调查和响应,智能体之间可以协调行动以支持共同的安全目标。
Q2:新的警报调查智能体能做什么?
A:该智能体能够丰富事件信息,分析命令行界面,基于谷歌云Mandiant部门人类分析师的工作构建进程树,并生成包含建议的警报摘要,帮助防护者大幅减少手动工作和响应时间。
Q3:谷歌如何保护客户开发的AI智能体安全?
A:谷歌在Agentspace和Agent Builder工具中推出三项新功能:智能体清单和风险识别功能帮助发现潜在漏洞和配置错误;更好地防护提示注入和越狱攻击;以及在安全指挥中心内增强威胁检测能力。
好文章,需要你的鼓励
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。