ZDNET网络频道 03月20日 综合消息: Mellanox今天宣布,在近日公布的Tolly性能测试报告中,对比博通StrataXGS Trident II 40Gb/s以太网交换机ASIC的表现,基于Mellanox SwitchX-2 ASIC的40 Gb/s以太网交换机能提供更低的延迟并保持零丢帧。该报告明确显示,Mellanox的以太网产品组合拥有高可靠性和出众的性能,并突出了SwitchX-2芯片的特性以及其在Web 2.0、云计算和存储环境中,为数据中心提供零丢包、高帧率的性能表现。
“云计算的普及和企业级工作负载的日趋复杂,让用户对以太网交换机的要求也随之提升。以太网交换机不仅要在确保零丢包的情况下保持网络的高可靠性,还需保证服务水平协议(SLA)”,Tolly Group机构创始人Kevin Tolly表示。“Mellanox公司委托Tolly Group评测机构对Mellanox SwitchX-2 ASIC的40Gb以太网性能和特性进行评估。测试表明,Mellanox解决方案在高达36个端口、帧大小不同的测试平台下,依然能保持零丢帧,并且取得了40GbE线速的不俗成绩。”
Mellanox公司市场部副总裁Kevin Deierling表示:“一直以来,Mellanox的以太网交换机都是市场公认的旗舰产品,能够为数据中心提供最低的网络延迟。同时,我们也深知数据零丢帧对于企业的重要性。对于先进的计算环境来说,实时的系统分析和操作至关重要,也就是说, 这样的环境不能容忍任何丢帧情况的出现。Tolly Group的报告再一次清楚地证明了Mellanox以太网交换机的高可靠性。另外该报告也表明,在云计算和Web 2.0环境下,只要选对了合适的交换机,就能轻松消除应用性能的痛点。”
企业级应用的性能,在很大程度上都取决于所使用的交换机将数据帧转发至其目的地的能力。在Tolly的性能对比测试中,Mellanox的芯片在64字节数据帧和网络混合讯务(IMIX,由70%的64字节帧和30%的1518字节帧混合组成)的测试条件下都能保证不丢包,战胜了友商博通的产品。其中,博通在64字节数据帧的环境下丢包率达到了19%,而在IMIX环境下,丢包率为4.3%。在随后基于双方芯片的40Gb/s以太网交换机的延迟测试中,Arista/博通解决方案在某大型数据帧条件下,延迟高于96,000纳秒。而Mellanox解决方案在所有帧大小的测试中,延迟均低于前者。在其中的一个测试中,延迟更是比对方低了96%。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。