东数为什么要去西算?东数如何才能西算?当记者从工信部公布的数据中了解到,2021年全国数据中心耗电量,相当于1.3个上海市的社会用电总量时,就对将数据中心安置到电力充沛的西部有了充分的认同。但东数如何才能实现西算,这个问题直到第六届未来网络发展大会上,才获得了解答。
近期,第六届未来网络发展大会在江苏省南京市举办。大会以“网络全球决胜未来”为主题,围绕确定性网络、6G通信、算力网络、工业互联网、网络智能等话题,聚集了超1000位未来网络领域专家、行业代表共话未来网络发展。在会后的采访中,新华三集团副总裁、技术战略部总裁刘新民,新华三集团江苏代表处总经理谢莉,新华三集团2029研究院技术总监朱仕银,介绍了新华三如何与江苏省未来网络创新研究院合作,共同研发确定性网络,并由新华三承建了全球首张确定性网络试验网的具体情况。
承载算力的确定性网络
通常算力需要尽量的与数据靠近,这样才能获得更高的计算效率。比如在一台电脑中,与CPU距离最近的,必然会是内存,这样才可以在更短的时间内,将数据更高效的向CPU进行传输。可是在实施东数西算时,距离这个鸿沟又将如何跨越过去呢?
对此,刘新民的回答是“网络传输优化”。
新华三集团在近两年中,始终在与科研院所合作,研究如何攻克远程数据传输的链路损耗问题。通常100G的带宽,大概可以实现60G左右的流量传输。但在远程数据转输时,受到多条路由、时延、抖动的影响,60G流量的有效传输率只有30%。这也是为什么以前数据中心都尽力在东部进行建设的一个主要原因。因为那里的数据产生的最多,为了避免数据传输损耗,算力只能被迫向数据中心靠近。
如今通过网络传输优化技术,可以通过确定性网络使得100G带宽的传输效率提升2-3倍,达到90G的有效传输。如此一来,距离将不会再成为建立数据中心的主要制约因素。我们自然可以去环境更适宜、绿色能源更加丰富的西部地区去建立数据中心,从而令东数西算的目标得以实现。
确定性网络的实现原理
远距离传输损耗的难题,确定性网络又是如何加以克服的,对于这个问题朱仕银为我们更加深入的进行了讲解。
要想实现确定性网络的高性能数据传输,首先是要让数据不用“等”。数据在光纤中进行传输,速度基本上就是光速,传输距离实际上对数据传输的影响并不是很大,但是在远距离传输时会经过多个路由转发设备,在每次经过的时候,都要进行相应的网络协商,传输速率也就这样被降下来了。于是确定性网络的首要目标,就是让远距离传输的数据不用“等”。通过统一的管理控制机制,为数据事先建立好一条顺畅的通道,在经过每个路由设备时,都可以直接进行通过。
其次是利用新协议,现在主流传输协议是TCP,但TCP协议的拥塞控制并不理想,导致传输带宽利用率并不理想,从而会导致传输效率降低。在本次大会上,新华三集团就向外发布了利用RDMA方式替代TCP协议的确定性网络传输方案。RDMA协议要求零丢包、低延迟,以往只能在局域的数据中心内采用,如今有了不用“等”的确定性网络,也就可以让RDMA从局域网扩展到了广域网进行使用。网络带宽利用率,也提升到了现在的80-90%。
在会场外,新华三还搭建起了确定性网络的测试展示平台,利用思博伦测试仪表向发出确定性网络和背景数据传输流量,并通过以上图中所示的两个加载多跳路由的路由器进行数据转发,为了模拟远距离数据传输,还通过链路损耗测试仪表,为其添加上了相当于1000公里的延迟。
在实时测试结果中我们可以看到,其最小和平均延时只达到一百多微秒,双向传输速率也分别达到89和87Gbps。
通过新华三集团各位技术专家深入浅出的讲解,以及现场的实际测试展示,我们切实体验到了确定性网络在远距离数据传输时的神奇之处,也更加有理由相信,通过确定性网络对算力的承载,东数西算的宏伟目标必然会更加顺利的得到实现。
好文章,需要你的鼓励
这项研究由德累斯顿工业大学等机构的研究团队完成,旨在解决主动学习未被广泛应用的问题。研究者构建了包含460万种超参数组合的实验网格,系统分析了各参数对主动学习性能的影响。研究发现,不同策略实现间存在显著差异,基于边缘的不确定性策略整体表现最佳,随机选择约4000个超参数组合即可获得可靠结果。这些发现为设计可重现、可信赖的主动学习实验提供了明确指导,有助于降低入门门槛,促进技术在实际应用中的普及。
这项由英国爱丁堡大学和上海人工智能实验室研究者共同完成的工作提出了LongBioBench,一种用于评估长文本语言模型的新型基准测试框架。通过使用人工生成的虚构人物传记作为测试环境,该框架在保持可控性的同时,提供了更真实的评估场景。研究对18个长文本模型的测试表明,即使最先进的模型在检索、推理和可信任性方面仍存在显著挑战,特别是上下文长度增加时。研究还揭示了现有合成基准测试的设计缺陷和长上下文预训练的局限性,为未来模型开发提供了重要指导。
SuperWriter是一项来自新加坡科技设计大学和清华大学的突破性研究,通过模仿人类"先思考后写作"的过程,彻底改良了AI长文生成能力。该研究团队开发的框架包含三个关键阶段:规划、写作和修改,使AI能像专业作家一样进行结构化思考。实验结果表明,经过训练的SuperWriter-LM模型不仅超越同等规模的所有AI模型,甚至在某些领域表现优于规模更大的顶级模型,为AI辅助写作开创了新的可能性。
香港大学与阿里巴巴达摩院合作开发的LayerFlow是一种突破性的层级视频生成技术,能同时生成透明前景、完整背景和混合场景视频。该技术通过创新的框架设计将不同视频层级作为子片段连接,并引入层级嵌入使模型区分各层级。面对高质量训练数据稀缺的挑战,研究团队设计了三阶段训练策略,结合Motion LoRA和Content LoRA,实现了图像和视频数据的联合训练。LayerFlow不仅支持多层视频生成,还能实现视频分解和条件层生成,为视频创作领域带来革命性变革。