CrowdStrike Holdings Inc. 今日发布了全新功能,能够帮助企业保护员工免受恶意人工智能模型及其他威胁的侵害。
这些功能正在发布于该公司旗舰级 Falcon 网络安全平台。
首项新功能 — AI 模型扫描 — 承诺能够检测所谓的木马模型。这些 AI 模型在大多数情况下都能正常运作,但当受到某些特定提示时,会生成恶意输出。例如,黑客可能配置一个编程助手,在开发者询问如何从代码中移除漏洞时生成错误建议。
网络犯罪分子通过将恶意记录注入训练数据来制造木马模型。通过修改神经网络的权重— 即决定如何处理提示的配置设置— 也可能产生有害输出。
除了木马模型外,新的 AI 模型扫描还能够识别后门及其他威胁。它使用一种名为 ExPRT.AI 的技术按严重性对发现的问题进行排序。根据 CrowdStrike 的说法,ExPRT.AI 利用有关黑客攻击活动的威胁情报来判断漏洞被利用的可能性。
AI 模型扫描与另一项新功能 — AI 安全仪表板 — 同时推出。该仪表板旨在帮助管理员发现影子 AI,即指员工在未获许可的情况下使用潜在不安全的 AI 应用程序的情况。此外,该功能还能监控公司内部 AI 训练数据的使用情况。
CrowdStrike 的 Falcon 平台还有另一组件用于检测数据滥用。该模块被称为 Falcon Data Protection,能够检测诸如试图将敏感记录下载到不安全设备上的风险。此次更新中,该模块获得了数项新功能。
公司表示,Falcon Data Protection 现已能够检测 Mac 上未经授权的数据移动。此外,新版本对检测文件外泄企图的掩饰措施明显更为出色。
黑客常常通过侵入公司后将记录复制到公司网络之外的服务器来窃取数据。将文件移动到公司网络之外的企图通常较容易被网络安全工具发现。因此,黑客有时会尝试通过将窃取的数据封装成加密 ZIP 文件再进行传输来掩盖行踪,而此类文件让网络安全工具难以扫描。
根据 CrowdStrike 的说法,Falcon Data Protection 的最新版本在加密 ZIP 文件 “创建时” 就开始扫描,而非事后扫描。这使其能够扫描文件内容以查找被窃数据。此外,CrowdStrike 表示,即使数据在上传前经过修改,Falcon Data Protection 也能检测到敏感数据被上传到生成式 AI 工具的企图。
此次更新还包括一款新版本工具,名为 Falcon Data Protection for Cloud。它旨在识别公有云环境中的未经授权数据移动。该软件能够在应用程序、数据库及其他云外资产中发现未经授权的活动。
产品更新还伴随着一项全新的专业服务 — SaaS Threat Services。注册该服务的公司可以由 CrowdStrike 专业人员对其软件即服务(SaaS)应用程序进行扫描,查找不安全的配置设置、与外部应用程序的风险集成及相关问题。
好文章,需要你的鼓励
是德科技高级副总裁兼通信解决方案事业部总裁Kailash Narayanan现场指出,算力固然重要,但如果能耗过高,技术的实用性将大打折扣,因此,所有的高速、高性能计算,都必须在极低的功耗下实现,这是AI等技术能否大规模落地的核心前提。
DeepSeek-AI团队通过创新的软硬件协同设计,仅用2048张GPU训练出性能卓越的DeepSeek-V3大语言模型,挑战了AI训练需要海量资源的传统观念。该研究采用多头潜在注意力、专家混合架构、FP8低精度训练等技术,大幅提升内存效率和计算性能,为AI技术的民主化和可持续发展提供了新思路。
来自上海交通大学和浙江大学等机构的研究团队开发出首个AI"记忆操作系统"MemOS,解决了AI系统无法实现人类般持久记忆和学习的根本限制。该系统将记忆视为核心计算资源进行调度、共享和演化,在时间推理任务中相比OpenAI记忆系统性能提升159%。MemOS采用三层架构设计,通过标准化记忆单元实现跨平台记忆迁移,有望改变企业AI部署模式。
加拿大女王大学研究团队首次系统评估了大型视频语言模型的因果推理能力,发现即使最先进的AI在理解视频中事件因果关系方面表现极差,大多数模型准确率甚至低于随机猜测。研究创建了全球首个视频因果推理基准VCRBench,并提出了识别-推理分解法(RRD),通过任务分解显著提升了AI性能,最高改善幅度达25.2%。