CrowdStrike Holdings Inc. 今日发布了全新功能,能够帮助企业保护员工免受恶意人工智能模型及其他威胁的侵害。
这些功能正在发布于该公司旗舰级 Falcon 网络安全平台。
首项新功能 — AI 模型扫描 — 承诺能够检测所谓的木马模型。这些 AI 模型在大多数情况下都能正常运作,但当受到某些特定提示时,会生成恶意输出。例如,黑客可能配置一个编程助手,在开发者询问如何从代码中移除漏洞时生成错误建议。
网络犯罪分子通过将恶意记录注入训练数据来制造木马模型。通过修改神经网络的权重— 即决定如何处理提示的配置设置— 也可能产生有害输出。
除了木马模型外,新的 AI 模型扫描还能够识别后门及其他威胁。它使用一种名为 ExPRT.AI 的技术按严重性对发现的问题进行排序。根据 CrowdStrike 的说法,ExPRT.AI 利用有关黑客攻击活动的威胁情报来判断漏洞被利用的可能性。
AI 模型扫描与另一项新功能 — AI 安全仪表板 — 同时推出。该仪表板旨在帮助管理员发现影子 AI,即指员工在未获许可的情况下使用潜在不安全的 AI 应用程序的情况。此外,该功能还能监控公司内部 AI 训练数据的使用情况。
CrowdStrike 的 Falcon 平台还有另一组件用于检测数据滥用。该模块被称为 Falcon Data Protection,能够检测诸如试图将敏感记录下载到不安全设备上的风险。此次更新中,该模块获得了数项新功能。
公司表示,Falcon Data Protection 现已能够检测 Mac 上未经授权的数据移动。此外,新版本对检测文件外泄企图的掩饰措施明显更为出色。
黑客常常通过侵入公司后将记录复制到公司网络之外的服务器来窃取数据。将文件移动到公司网络之外的企图通常较容易被网络安全工具发现。因此,黑客有时会尝试通过将窃取的数据封装成加密 ZIP 文件再进行传输来掩盖行踪,而此类文件让网络安全工具难以扫描。
根据 CrowdStrike 的说法,Falcon Data Protection 的最新版本在加密 ZIP 文件 “创建时” 就开始扫描,而非事后扫描。这使其能够扫描文件内容以查找被窃数据。此外,CrowdStrike 表示,即使数据在上传前经过修改,Falcon Data Protection 也能检测到敏感数据被上传到生成式 AI 工具的企图。
此次更新还包括一款新版本工具,名为 Falcon Data Protection for Cloud。它旨在识别公有云环境中的未经授权数据移动。该软件能够在应用程序、数据库及其他云外资产中发现未经授权的活动。
产品更新还伴随着一项全新的专业服务 — SaaS Threat Services。注册该服务的公司可以由 CrowdStrike 专业人员对其软件即服务(SaaS)应用程序进行扫描,查找不安全的配置设置、与外部应用程序的风险集成及相关问题。
好文章,需要你的鼓励
初创公司Positron获得5160万美元A轮融资,推出专门针对AI推理的Atlas芯片。该公司声称其芯片在性能功耗比和成本效益方面比英伟达H100高出2-5倍,并已获得Cloudflare等企业客户采用。Positron专注于内存优化设计,无需液体冷却,可直接部署在现有数据中心。公司计划2026年推出支持16万亿参数模型的下一代Titan平台。
这项由Midjourney团队主导的研究解决了AI创意写作中的关键问题:如何让AI既能写出高质量内容,又能保持创作的多样性和趣味性。通过引入"偏差度"概念和开发DDPO、DORPO两种新训练方法,他们成功让AI学会从那些被传统方法忽视的优秀独特样本中汲取创意灵感,最终训练出的模型在保持顶级质量的同时,创作多样性接近人类水平,为AI创意写作开辟了新方向。
忽视智能体AI的潜力,特别是其对现代化数据基础设施的需求,面临着与忽视互联网的零售商相同的生存风险。关键不在于是否投资,而在于如何确保投资转化为可衡量的现实收益。企业需要超越AI试验阶段,明确业务目标,从治理开始构建ROI模型。成功的组织在整个技术栈中嵌入智能体,从面向客户的应用到内部治理系统。通过强化数据治理、减少重复工具和统一平台,AI的ROI将从理论变为现实。
上海AI实验室联合多所高校开发出VisualPRM系统,这是首个专门用于多模态推理的过程奖励模型。该系统能像老师批改作业一样逐步检查AI的推理过程,显著提升了AI在视觉推理任务上的表现。研究团队构建了包含40万样本的训练数据集和专门的评估基准,实现了在七个推理基准上的全面性能提升,即使是最先进的大型模型也获得了5.9个百分点的改进。