在如今竞争激烈的计算机行业,大家都期望获得竞争优势,无论是在性能方面、效率方面还是成本方面。由于许多公司寻求进一步的改进,数据中心架构不断受到审视。虽然许多数据中心的整改侧重于网络适配器和交换机配置,但有一种极其基础、却同样有效的方法可以改进部署的数据中心,那就是重新思考互连线缆。
光缆的传输距离更远,而且减少了电磁干扰,它的问世带来了这种误解:网络的方方面面都应该采用这种更新颖的技术。然而在数据中心里面,使用铜缆却常常最为明智,因为铜缆在资本支出、经营支出、性能和可靠性等方面提供了显著的优势。下面是铜缆相比光缆具有的一些优势:
距离
铜缆可扩展至几米,长短取决于网络速度,这对数据中心内部的互连而言通常绰绰有余。无论是在单个机架里面的服务器之间连接还是在集群里面的交换机之间连接,铜缆都提供了这种功能:以最高的可用带宽实现可靠又实惠的传输。
说到资本成本,铜缆提供了大幅节省的好处。通常来说,无源铜缆的成本比同等长度的光缆要便宜2倍到5倍。在一个拥有1000个节点的集群中,可能需要数百条铜缆,这意味着可以节省数十万美元。要是换成规模更庞大的数据中心,节省的成本高达数百万美元。
然而,节省并不仅限于此。由于铜缆并不耗电,又由于其热设计对冷却的需求较低,可以大幅节省数据中心的经营支出。如果使用铜缆而不是光缆,可以节省数百千瓦的电。
可靠性和速度
铜缆的最大优势之一在于可靠性,可靠性用平均无故障时间(MTBF)来衡量。无源铜缆的MTBF大约为50000万小时――通常比光缆的行业标准高出一个数量级。铜缆为可靠的数据传输至关重要的企业数据中心提供了一大好处:避免停运时间。
由于数据持续增加,以及数据用于各种各样的应用,包括药物发现、交通管理、汽车和飞机设计、社交媒体、金融交易和国家安全,数据中心内部更快速地传输数据的需求已大幅增长。高性能计算、Web 2.0、云计算和存储基础设施使用10 Gbps、40 Gbps和56 Gbps等互连速度,现在已经开始向100 Gbps迁移。
厂商们已经演示了传输距离从4米到8米不等的铜缆,它们提供的带宽最高可达100 Gbps,这让数据中心得以享有之前闻所未闻的互连性能和效率。能够继续使用铜缆,而不是使用基于垂直腔面发射激光器(VCSEL)或基于硅光学技术的全光缆获得此类速度提供了竞争优势。
在一点点优势对公司的盈利能力而言都大有影响的环境下,CIO和网络管理员需要注意数据中心架构能够提供优势的方方面面,这点至关重要。铜缆能够在最远8米的距离支持100 Gbps,这对数据中心部署环境而言再理想不过,同时又提供了更低的延迟、更佳的可靠性和更低的耗电量,而成本远低于光缆。
虽然交换机配置和网络适配器是规划数据中心架构时要考虑的两个主要因素,线缆却是一个常常被遗忘的环节,可是它能带来巨大的性能好处和更高的效率,同时通过资本支出和经营支出节省了预算。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。