CrowdStrike Holdings Inc. 今日发布了全新功能,能够帮助企业保护员工免受恶意人工智能模型及其他威胁的侵害。
这些功能正在发布于该公司旗舰级 Falcon 网络安全平台。
首项新功能 — AI 模型扫描 — 承诺能够检测所谓的木马模型。这些 AI 模型在大多数情况下都能正常运作,但当受到某些特定提示时,会生成恶意输出。例如,黑客可能配置一个编程助手,在开发者询问如何从代码中移除漏洞时生成错误建议。
网络犯罪分子通过将恶意记录注入训练数据来制造木马模型。通过修改神经网络的权重— 即决定如何处理提示的配置设置— 也可能产生有害输出。
除了木马模型外,新的 AI 模型扫描还能够识别后门及其他威胁。它使用一种名为 ExPRT.AI 的技术按严重性对发现的问题进行排序。根据 CrowdStrike 的说法,ExPRT.AI 利用有关黑客攻击活动的威胁情报来判断漏洞被利用的可能性。
AI 模型扫描与另一项新功能 — AI 安全仪表板 — 同时推出。该仪表板旨在帮助管理员发现影子 AI,即指员工在未获许可的情况下使用潜在不安全的 AI 应用程序的情况。此外,该功能还能监控公司内部 AI 训练数据的使用情况。
CrowdStrike 的 Falcon 平台还有另一组件用于检测数据滥用。该模块被称为 Falcon Data Protection,能够检测诸如试图将敏感记录下载到不安全设备上的风险。此次更新中,该模块获得了数项新功能。
公司表示,Falcon Data Protection 现已能够检测 Mac 上未经授权的数据移动。此外,新版本对检测文件外泄企图的掩饰措施明显更为出色。
黑客常常通过侵入公司后将记录复制到公司网络之外的服务器来窃取数据。将文件移动到公司网络之外的企图通常较容易被网络安全工具发现。因此,黑客有时会尝试通过将窃取的数据封装成加密 ZIP 文件再进行传输来掩盖行踪,而此类文件让网络安全工具难以扫描。
根据 CrowdStrike 的说法,Falcon Data Protection 的最新版本在加密 ZIP 文件 “创建时” 就开始扫描,而非事后扫描。这使其能够扫描文件内容以查找被窃数据。此外,CrowdStrike 表示,即使数据在上传前经过修改,Falcon Data Protection 也能检测到敏感数据被上传到生成式 AI 工具的企图。
此次更新还包括一款新版本工具,名为 Falcon Data Protection for Cloud。它旨在识别公有云环境中的未经授权数据移动。该软件能够在应用程序、数据库及其他云外资产中发现未经授权的活动。
产品更新还伴随着一项全新的专业服务 — SaaS Threat Services。注册该服务的公司可以由 CrowdStrike 专业人员对其软件即服务(SaaS)应用程序进行扫描,查找不安全的配置设置、与外部应用程序的风险集成及相关问题。
好文章,需要你的鼓励
Docker公司通过增强的compose框架和新基础设施工具,将自己定位为AI智能体开发的核心编排平台。该平台在compose规范中新增"models"元素,允许开发者在同一YAML文件中定义AI智能体、大语言模型和工具。支持LangGraph、CrewAI等多个AI框架,提供Docker Offload服务访问NVIDIA L4 GPU,并与谷歌云、微软Azure建立合作。通过MCP网关提供企业级安全隔离,解决了企业AI项目从概念验证到生产部署的断层问题。
中科院联合字节跳动开发全新AI评测基准TreeBench,揭示当前最先进模型在复杂视觉推理上的重大缺陷。即使OpenAI o3也仅获得54.87%分数。研究团队同时提出TreeVGR训练方法,通过要求AI同时给出答案和精确定位,实现真正可追溯的视觉推理,为构建更透明可信的AI系统开辟新路径。
马斯克的AI女友"Ani"引爆全球,腾讯RLVER框架突破情感理解边界:AI下半场竞争核心已转向对人性的精准把握。当技术学会共情,虚拟陪伴不再停留于脚本应答,而是通过"心与心的循环"真正理解人类孤独——这背后是强化学习算法与思考模式的化学反应,让AI从解决问题转向拥抱情感。
PyVision是上海AI实验室开发的革命性视觉推理框架,让AI系统能够根据具体问题动态创造Python工具,而非依赖预设工具集。通过多轮交互机制,PyVision在多项基准测试中实现显著性能提升,其中在符号视觉任务上提升达31.1%。该框架展现了从"工具使用者"到"工具创造者"的AI能力跃迁,为通用人工智能的发展开辟了新路径。