今天,Broadcom推出一款搭载 StrataXGS Trident 4(BCM56690)的下一代Trident X7 。这是Broadcom公司的新一代企业交换平台,旨在将50E和100GbE网络引入服务器节点,并将400GbE引入更多数据中心。
预计新的Broadcom Trident 4-X7将被用作企业网络环境中的顶级机架交换机(ToR)。它被设计用于处理50GbE或100GbE连接到服务器,然后通过聚合交换层进行400GbE上行连接。
尽管我们在AI训练服务器领域中看到400GbE变得非常普遍,但企业服务器的成本往往是这些服务器的十分之一,并且由于VMware和Microsoft的许可模型核心数量往往较低,并不像云环中那样高。这意味着企业服务器互连的25GbE接口将在不久的将来转变为50GbE和100GbE,现在已经出现了NVIDIA BlueField-2 DPU和AMD Pensando DSC2-100G Elba DPU在运行VMware ESXi的情况。
NVIDIA正在开始推出与AMD相匹配的针对VMware企业级100GbE解决方案。这将有助于推动新的服务到企业VM部署中,从而更需要100GbE ToR交换机,Trident X7的出现将会很好满足这部分企业客户的需求。此外,鉴于SONiC在重塑行业的方式上非常重要,Broadcom表示将在Trident 4 上支持Enterprise SONiC。
最后的话
Broadcom仍将该产品列为“初步”,因此在交换机产品中可能还需要几个季度才能看到。与此同时,Trident已经存在多年,所以我们期待新一代产品的推出,令人兴奋的是,预计像Arista这样的公司将采用新的交换芯片进行生产。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。