中国燕融将 KVCache 集成到文件系统以加速 AI 推理
中国存储软件供应商燕融科技将KVCache整合到其文件系统中,显著提升了KV缓存命中率和长上下文处理能力,降低了AI推理成本。通过在GPU服务器集群中部署分布式内存层存储元数据,燕融的YRCloudFile系统实现了高并...
中国存储软件供应商燕融科技将KVCache整合到其文件系统中,显著提升了KV缓存命中率和长上下文处理能力,降低了AI推理成本。通过在GPU服务器集群中部署分布式内存层存储元数据,燕融的YRCloudFile系统实现了高并...
Google宣布第七代张量处理单元(TPU)芯片即将向云客户开放租用,可提供256或9216芯片的集群。新一代TPU在内存带宽、算力和能效方面都有显著提升,专为大语言模型推理设计,每个芯片具有192GB高带宽内存。Goo...
MediaTek 推出新一代 Kompanio Ultra 芯片,专为 Chromebook 设计。这款芯片不仅提升了性能和电池续航,更重要的是增强了生成式 AI 能力,使得价格亲民的 ChromeOS 笔记本电脑也能运...
Nvidia 推出全新 AI 工具套件 NIM 微服务,让拥有 RTX 显卡的用户能够在本地轻松运行 AI 模型。这套工具支持文本、图像和代码生成等多种功能,不仅可以节省长期使用成本,还能确保数据安全性。该举措体现了 A...
AMD 发布第五代 Epyc 嵌入式处理器,采用 Zen 5 架构,专为网络、存储和工业边缘计算优化。新处理器在性能、能效和嵌入式特性方面均有提升,可支持高达 192 核心,内存容量达 6TB,并提供 7 年产品制造支持...
Meta公司通过使用基于eBPF的Strobelight性能分析套件,成功将其主要服务的CPU使用率降低20%。这一成果不仅大幅减少了服务器需求,还展示了eBPF在系统优化和效率提升方面的巨大潜力。eBPF作为一种创新技...
Apple 最新推出的 M3 Ultra 芯片 GPU 性能表现出色,比 M4 Max 快 38%,比上一代 M2 Ultra 快 16%。在 Metal 测试中得分高达 259668。CPU 性能方面,M3 Ultra...
OpenAI 已开始向其 ChatGPT Plus 用户推出最新的 AI 模型 GPT-4.5。OpenAI 在 X 平台上发布的一系列帖子中表示,此次推出将持续“1-3 天”,并预计速率限制会有所变化。
PEAK:AIO推出了一款新的2RU 1.5 PB AI 数据服务器产品,使用戴尔硬件,数据传输速率达到120 GBps。PEAK:AIO是一家专注于人工智能的英国存储初创公司,提供基于第三方硬件的软件定义存储,密切管理...
OpenAI 最近推出了 GPT-4.5,这款新模型在准确性测试中表现优于之前的版本,能够更好地理解细微差别。尽管面临 GPU 短缺的挑战,OpenAI 仍然致力于将这一模型推向市场,并计划在未来推出更先进的推理能力模型...
Inception Labs 于周四发布了 Mercury Coder,这是一种新的 AI 语言模型,利用扩散技术比传统模型更快地生成文本。与逐字生成文本的传统模型(如 ChatGPT)不同,基于扩散的模型(如 Merc...
Inception是一家位于帕洛阿尔托的新公司,由斯坦福大学计算机科学教授Stefano Ermon创立,声称开发了一种基于“扩散”技术的新型AI模型,称为扩散基础的大型语言模型(DLM)。目前备受关注的生成AI模型大致...
高通和诺基亚贝尔实验室成功展示了多厂商AI模型在无线网络中的互操作性。通过序列学习技术,他们实现了编码器和解码器模型的无缝协作,提高了网络效率和用户体验。这项突破性成果为AI在无线通信领域的应用开辟了新的可能性,有望显著...
随着生成式人工智能和 GPU 加速 AI 训练与推理的兴起,数据中心仍需关注 CPU 的重要性。现代化 CPU 不仅可以提升传统工作负载性能,还能帮助企业为昂贵的 AI 基础设施投资节省成本。高性能 CPU 可以显著提升...
Intel 发布新一代 Xeon 6 处理器,采用性能核心设计,大幅提升数据中心工作负载性能,AI 处理性能最高提升 2 倍。新处理器还集成了 vRAN Boost 技术,可将无线接入网络处理能力提升至 2.4 倍。此次...
Voltron Data 与埃森哲建立战略合作,推出 GPU 加速分析引擎 Theseus,旨在解决 AI 数据处理的瓶颈问题。该技术能以更快速度处理海量数据,显著提升 AI 项目效率,降低基础设施成本。这一合作将帮助企...
DDN 发布新一代 Infinia 2.0 对象存储系统,专为 AI 训练和推理设计。该系统号称可将 AI 数据加速提升 100 倍,数据中心和云计算成本效率提高 10 倍。Infinia 2.0 采用键值对架构,集成多...
美光发布新一代PCIe 5.0 SSD - 4600系列,性能翻倍,主打AI PC、游戏玩家和专业用户市场。采用276层TLC NAND和PCIe 5.0接口,读写速度分别达14.5GB/s和12GB/s,随机读写IOP...
高通推出骁龙 6 Gen 4 移动处理器平台,旨在提升游戏和生产力性能。该平台具备强大性能、长续航和超快 5G 连接,首次支持 Gen AI。预计多家知名手机厂商将在未来几个月推出搭载该芯片的智能手机,为中端市场带来全面...
HPE 的 Alletra MP X10000 对象存储系统代表了一种新型的可扩展存储硬件,采用了 VAST Data 首创的解耦共享一切(DASE)架构。HPE 的全球技术与战略架构师 Dimitris Krekouk...