机器人和自动化工具已成为云环境中最大的安全风险,网络犯罪分子在应用自动化决策来窃取凭证、转移资金和实施其他恶意活动方面处于领先地位。
Sysdig首席信息安全官(CISO) Sergej Epp表示,虽然现阶段很少有威胁是完全自动化的,且主要攻击错误配置,但它们正在慢慢发展以实施更高级的攻击,如安装加密挖矿程序或在系统间横向移动。
这种自动化导致攻击者驻留时间大幅缩短,传统攻击的驻留时间通常以天为单位计算。相比之下,自动化攻击已知可在5分钟内泄露数据,Epp说道。
他预测攻击将变得越来越自动化,现有的"攻击机器人"将通过使用更新的大语言模型而得到改进。这带来了挑战——网络安全专家知道需要做什么来保护他们的组织,但问题是他们是否能够足够快速地采取必要行动。
Epp认为,还会有大量针对"网络贫困线以下公司"的攻击,这些公司缺乏资源来采取足够的防御措施。
他建议采取与端点安全措施发展并行的必要步骤,首先创建所有云资产的清单并识别任何错误配置,其中可能会有很多。
下一步是优先处理并修复这些问题。然而,由于每日扫描不足以应对实时威胁,这个资产清单和漏洞识别过程必须持续重复。最后,组织应该采用云检测和响应系统来识别和应对异常活动。
**采用AI的压力**
业务压力要求快速采用AI,这使问题更加复杂,但Epp表示大多数人对AI安全的理解是错误的,因为他们关注模型,而实际上重点应该是基础设施。
他指出,Hugging Face库中有超过180万个模型,组织不能简单地信任它们,因为传统扫描对不透明模型不起作用。此外,目前还没有针对提示注入攻击的技术解决方案,而且防火墙也无效,因为与AI相关的网络流量是概率性的而非确定性的。
Epp警告说,这些攻击不仅限于攻击者直接访问聊天机器人的情况。恶意提示可能隐藏在共享文档或上传处理的PDF发票中。
他说,解决方案是通过应用运行时安全最佳实践,将AI工作负载视为任何其他云工作负载。
假设已发生违规、零信任和纵深防御等基本原则仍然适用,但必须在每个容器中增加运行时安全智能体,以检测不当设置或活动,如具有过度权限的应用程序接口(API)或试图移出容器的尝试。
尽管安全运营中心(SOC)拥有必要的数据,但挑战在于将正确的数据子集提供给正确的智能体以实现正确的行动。障碍包括人才短缺和开发所需软件的时间。
云的短暂性质(60%的容器运行时间少于一分钟)使自动化变得至关重要。从这些容器收集安全数据并不容易,Epp说存储超过20%的可用数据可能是不切实际的。
关键问题是收集哪20%。据Epp介绍,Sysdig的方法是采用自上而下的视角。他承认这并不容易,但表示公司广泛的Kubernetes背景使其成为可能,并指出创始人兼首席技术官Loris Degioanni创建了开源容器安全工具Falco,Sysdig平台就是基于此构建的。
虽然大多数安全运营仍然依赖人员来分析数据并采取行动,但Epp表示Sysdig Sage AI分析师将数据转化为实时建议。他将公司定位为自主云安全之旅的领导者,尽管他承认完全自主的系统需要高度信任不会破坏任何东西。
这揭示了一个关键的不对称性。对于网络犯罪分子来说,AI触发错误的成本很低——可能会暴露他们的存在或仅仅意味着他们必须重试。然而,对于防御者来说,错误在财务和声誉方面都可能代价高昂。例如,意外使主要在线银行或零售商宕机会成为头条新闻并失去业务。
"我们需要加快采用安全控制,"Epp说。"要在业务中快速发展,我们在安全方面也需要快速发展。"
好文章,需要你的鼓励
机器人和自动化工具已成为云环境中最大的安全威胁,网络犯罪分子率先应用自动化决策来窃取凭证和执行恶意活动。自动化攻击显著缩短了攻击者驻留时间,从传统的数天减少到5分钟内即可完成数据泄露。随着大语言模型的发展,"黑客机器人"将变得更加先进。企业面临AI快速采用压力,但多数组织错误地关注模型本身而非基础设施安全。解决方案是将AI工作负载视为普通云工作负载,应用运行时安全最佳实践。
MBZUAI研究团队发布了史上最大的开源数学训练数据集MegaMath,包含3716亿个Token,是现有开源数学数据集的数十倍。该数据集通过创新的数据处理技术,从网页、代码库和AI合成等多个来源收集高质量数学内容。实验显示,使用MegaMath训练的AI模型在数学推理任务上性能显著提升,为AI数学能力发展提供了强大支撑。
面对心理健康专业人士短缺问题,谷歌、麦肯锡和加拿大重大挑战组织联合发布《心理健康与AI现场指南》,提出利用AI辅助任务分担模式。该指南构建了包含项目适应、人员选择、培训、分配、干预和完成六个阶段的任务分担模型,AI可在候选人筛选、培训定制、客户匹配、预约调度和治疗建议等环节发挥作用。该方法通过将部分治疗任务分配给经过培训的非专业人员,并运用AI进行管理支持,有望缓解治疗服务供需失衡问题。
这项由多个知名机构联合开展的研究揭示了AI系统的"隐形思维"——潜在推理。不同于传统的链式思维推理,潜在推理在AI内部连续空间中进行,不受语言表达限制,信息处理能力提升约2700倍。研究将其分为垂直递归和水平递归两类,前者通过重复处理增加思考深度,后者通过状态演化扩展记忆容量。