华为盘古大模型首次打榜：昇腾原生 72B MoE 模型登顶 SuperCLUE 千亿内模型榜首|算法|算子|top|仿真器|知名...
其中，混合专家模型（Mixture of Experts,MoE）凭借“低计算开销实现强能力”的特性，已成为这场竞赛中的“潜力黑马”，备受瞩目。传统的 MoE 架构，虽有着理论上的优势，却在实际落地中遭遇“滑铁卢”。专家激活频次不均衡，...
2025-06-08
计算机行业周报：计算机行业“一周解码”华为盘古团队推出全新Pangu Ultra MoE模型
华为盘古团队推出Pangu Ultra MoE并发布模型架构与训练方法中文技术报告，解决了超大规模和极高稀疏性MoE模型训练中的稳定性难题。...DeepSeek-R1-0528的升级将收窄国产大模型与国际领先模型的差距削弱产业对海外技术的依赖壁垒；...
2025-06-08
华为算力炼出业界一流大模型 推出参数规模7180亿的盘古Ultra MoE
此外，近期发布的盘古Pro MoE大模型，在参数量仅为720亿，激活160亿参数量的情况下，通过动态激活专家网络的创新设计，实现了以小打大的优异性能，甚至可以媲美千亿级模型的性能表现。在业界权威大模型榜单SuperCLUE最新公布的...
2025-06-08
上帝视角的昇腾MoE训练智能交通系统，Adaptive Pipe&EDPB让训练效率提升70%
随着大模型的迅猛发展，混合专家（MoE）模型凭借其独特的架构优势，成为扩展模型能力的重要方向。...通过计算/通信/内存三维度的多层级建模、昇腾硬件系统的高精度映射、全局化算法加速运行等技术，能在1小时内模拟百万次训练场景...
2025-06-08