机器人和自动化工具已成为云环境中最大的安全风险,网络犯罪分子在应用自动化决策来窃取凭证、转移资金和实施其他恶意活动方面处于领先地位。
Sysdig首席信息安全官(CISO) Sergej Epp表示,虽然现阶段很少有威胁是完全自动化的,且主要攻击错误配置,但它们正在慢慢发展以实施更高级的攻击,如安装加密挖矿程序或在系统间横向移动。
这种自动化导致攻击者驻留时间大幅缩短,传统攻击的驻留时间通常以天为单位计算。相比之下,自动化攻击已知可在5分钟内泄露数据,Epp说道。
他预测攻击将变得越来越自动化,现有的"攻击机器人"将通过使用更新的大语言模型而得到改进。这带来了挑战——网络安全专家知道需要做什么来保护他们的组织,但问题是他们是否能够足够快速地采取必要行动。
Epp认为,还会有大量针对"网络贫困线以下公司"的攻击,这些公司缺乏资源来采取足够的防御措施。
他建议采取与端点安全措施发展并行的必要步骤,首先创建所有云资产的清单并识别任何错误配置,其中可能会有很多。
下一步是优先处理并修复这些问题。然而,由于每日扫描不足以应对实时威胁,这个资产清单和漏洞识别过程必须持续重复。最后,组织应该采用云检测和响应系统来识别和应对异常活动。
**采用AI的压力**
业务压力要求快速采用AI,这使问题更加复杂,但Epp表示大多数人对AI安全的理解是错误的,因为他们关注模型,而实际上重点应该是基础设施。
他指出,Hugging Face库中有超过180万个模型,组织不能简单地信任它们,因为传统扫描对不透明模型不起作用。此外,目前还没有针对提示注入攻击的技术解决方案,而且防火墙也无效,因为与AI相关的网络流量是概率性的而非确定性的。
Epp警告说,这些攻击不仅限于攻击者直接访问聊天机器人的情况。恶意提示可能隐藏在共享文档或上传处理的PDF发票中。
他说,解决方案是通过应用运行时安全最佳实践,将AI工作负载视为任何其他云工作负载。
假设已发生违规、零信任和纵深防御等基本原则仍然适用,但必须在每个容器中增加运行时安全智能体,以检测不当设置或活动,如具有过度权限的应用程序接口(API)或试图移出容器的尝试。
尽管安全运营中心(SOC)拥有必要的数据,但挑战在于将正确的数据子集提供给正确的智能体以实现正确的行动。障碍包括人才短缺和开发所需软件的时间。
云的短暂性质(60%的容器运行时间少于一分钟)使自动化变得至关重要。从这些容器收集安全数据并不容易,Epp说存储超过20%的可用数据可能是不切实际的。
关键问题是收集哪20%。据Epp介绍,Sysdig的方法是采用自上而下的视角。他承认这并不容易,但表示公司广泛的Kubernetes背景使其成为可能,并指出创始人兼首席技术官Loris Degioanni创建了开源容器安全工具Falco,Sysdig平台就是基于此构建的。
虽然大多数安全运营仍然依赖人员来分析数据并采取行动,但Epp表示Sysdig Sage AI分析师将数据转化为实时建议。他将公司定位为自主云安全之旅的领导者,尽管他承认完全自主的系统需要高度信任不会破坏任何东西。
这揭示了一个关键的不对称性。对于网络犯罪分子来说,AI触发错误的成本很低——可能会暴露他们的存在或仅仅意味着他们必须重试。然而,对于防御者来说,错误在财务和声誉方面都可能代价高昂。例如,意外使主要在线银行或零售商宕机会成为头条新闻并失去业务。
"我们需要加快采用安全控制,"Epp说。"要在业务中快速发展,我们在安全方面也需要快速发展。"
好文章,需要你的鼓励
英国研究人员开发出一项名为Fastball的三分钟检测技术,通过脑电图头戴设备分析大脑对图像的识别能力,能够在认知衰退早期发现记忆问题。研究涉及107名参与者,发现该技术可有效识别轻度认知障碍患者的记忆缺陷,比现有诊断工具提前10-20年发现阿尔茨海默病征象。该技术可在家中使用,为早期干预治疗提供可能。
伊斯法罕医科大学研究团队开发出DrugReasoner,这是首个能够像人类专家一样"推理"的药物审批预测AI系统。该系统基于LLaMA架构,不仅能预测新药是否会被批准,更重要的是能详细解释推理过程。在多项测试中表现优异,AUC值达0.732,明显超越传统方法,为制药行业提供了前所未有的透明化决策工具,有望显著提高药物研发效率。
随着智能代理AI的兴起,CIO必须调整IT战略重点、降低新安全风险并为员工重新培训技能。75%的CIO将在AI和机器学习项目上投入更多时间。IT部门需要从管理基础设施转向编排智能化,在每个业务流程中嵌入AI代理。CIO应重新考虑人机协作模式、多学科敏捷团队演进、IT治理职能重新定位,以及培养AI数据质量专家、AI诊断师等新兴角色技能。
这项由南京大学团队开发的FASB技术让AI学会了"察言观色"和"知错能改"。通过实时监控AI内部状态并动态调整干预强度,该方法在多个测试中将AI回答准确率提升了近50%。研究团队创新性地引入了回退机制,让AI能在发现问题时"重新来过",显著提升了回答质量。该技术在教育、客服、内容创作等领域具有广阔应用前景。