服务公告
昇腾384超节点被评选为WAIC 2025镇馆之宝!
发布时间:2025-07-31 11:40
三大技术优势,入选WAIC 2025镇馆之宝
昇腾384超节点Atlas 900 SuperPoD被评选为本次WAIC 2025镇馆之宝!
它通过高速互联总线,突破互联瓶颈,让超节点像一台计算机一样工作。相比传统集群,主要有以下3大优势:
① 超大带宽:
超节点内任意两个AI处理器之间通信带宽,相较于传统架构提升15倍,超节点内单跳时延降低10倍。
② 超低时延:
昇腾超节点支持全局内存统一编址,具备更高效的内存语义通信能力。通过更低时延指令级内存语义通信,可满足大模型训练/推理中的小包通信需求,提升专家网络小包数据传输及离散随机访存通信效率。昇腾384超节点Atlas 900 SuperPoD是业界唯一突破Decode时延15ms的方案,满足实时深度思考下的用户体验需求。
③超强性能:
经过实际测试,在昇腾超节点集群上,LLaMA3等千亿稠密模型训练性能可达传统集群的2.5倍以上。在通信占比更高的Qwen、DeepSeek等多模态、MoE模型上,可以达到3倍以上的提升。