据 The Information 今天报道,微软的工程师正在为其数据中心开发一种定制网卡。
一位消息人士向该刊透露,这项开发工作可能需要一年多的时间。据悉,该项目目前由Pradeep Sindhu领导,他是网络设备制造商Juniper Networks的共同创始人及前首席执行官。作为一笔价值140亿美元的交易的一部分,该公司目前正在被惠普收购。
数据中心的服务器通过网络连接在一起,这让它们可以相互共享信息。流量并不直接从服务器传输到其所连接的数据中心网络,而是要经过一个称为网卡或适配器的中介。这是一种专用芯片,可以帮助将每个数据包路由到目的地,并经常执行优化连接速度等相关任务。
据报道,微软计划在其人工智能基础设施中使用该定制网卡。其中,重点是管理配备了英伟达显卡的服务器的网络流量。据报道,微软希望该定制网卡能帮助加快人工智能工作负载的处理速度,并在此过程中降低硬件采购成本。
The Information的消息来源称,该卡类似于英伟达的ConnectX-7系列网络适配器。后者每秒可处理高达400千兆比特的流量。它同时支持以太网和InfiniBand,这两种通信标准是大多数数据中心网络的基础。
为了协同工作,组成人工智能集群的服务器需要能够共享各自内存池中存储的数据。数据共享请求通常必须通过服务器的中央处理单元。英伟达的ConnectX-7适配器包含一种名为RDMA的技术,可以绕过CPU,从而大大加快数据检索速度。
该设备还具有其他一些性能优化功能。值得注意的是,它可以执行网络安全任务,如加密原本由服务器CPU处理的数据流量,从而将更多的CPU容量留给应用程序。ConnectX-7还能解放检测数据传输错误的部分计算。
微软可能会通过该定制网卡来实现这些功能。微软于2023年收购了Sindhu创办的一家名为Fungible初创公司,他随之加入微软,据传他在负责该网卡的开发。Fungible开发的芯片与英伟达的ConnectX-7 类似,可以将CPU从某些网络安全任务和相关的计算中解放出来,从而提高应用性能。
据报道,微软的网卡将加入该公司内部开发的众多数据中心组件的行列。该公司最近详细介绍了一款定制的人工智能加速器Maia 100,以及配套的服务器机架和液冷系统。微软计划在其数据中心部署该加速器,同时部署Cobalt 100——这是该公司的工程师基于Arm Holdings plc设计的一款CPU。
好文章,需要你的鼓励
Docker公司通过增强的compose框架和新基础设施工具,将自己定位为AI智能体开发的核心编排平台。该平台在compose规范中新增"models"元素,允许开发者在同一YAML文件中定义AI智能体、大语言模型和工具。支持LangGraph、CrewAI等多个AI框架,提供Docker Offload服务访问NVIDIA L4 GPU,并与谷歌云、微软Azure建立合作。通过MCP网关提供企业级安全隔离,解决了企业AI项目从概念验证到生产部署的断层问题。
中科院联合字节跳动开发全新AI评测基准TreeBench,揭示当前最先进模型在复杂视觉推理上的重大缺陷。即使OpenAI o3也仅获得54.87%分数。研究团队同时提出TreeVGR训练方法,通过要求AI同时给出答案和精确定位,实现真正可追溯的视觉推理,为构建更透明可信的AI系统开辟新路径。
马斯克的AI女友"Ani"引爆全球,腾讯RLVER框架突破情感理解边界:AI下半场竞争核心已转向对人性的精准把握。当技术学会共情,虚拟陪伴不再停留于脚本应答,而是通过"心与心的循环"真正理解人类孤独——这背后是强化学习算法与思考模式的化学反应,让AI从解决问题转向拥抱情感。
PyVision是上海AI实验室开发的革命性视觉推理框架,让AI系统能够根据具体问题动态创造Python工具,而非依赖预设工具集。通过多轮交互机制,PyVision在多项基准测试中实现显著性能提升,其中在符号视觉任务上提升达31.1%。该框架展现了从"工具使用者"到"工具创造者"的AI能力跃迁,为通用人工智能的发展开辟了新路径。