跳到正文
东方财富 · 上市公司· 财联社·· 9 天前

摩尔线程开源Megatron-MUSA-Titan

内容摘要

原文摘录:【摩尔线程开源Megatron-MUSA-Titan】近日,摩尔线程开源大模型训练基础设施项目Megatron-MUSA-Titan。该项目基于摩尔线程全功能GPU,聚焦万卡级集群的万亿参数MoE模型训练需求,覆盖预训练与强化学习两大场景,为开发者提供面向MUSA平台的训练适配与系统优化能力。

正文

  近日,摩尔线程开源大模型训练基础设施项目Megatron-MUSA-Titan。该项目基于摩尔线程全功能GPU,聚焦万卡级集群的万亿参数MoE模型训练需求,覆盖预训练与强化学习两大场景,为开发者提供面向MUSA平台的训练适配与系统优化能力。

来源:东方财富 · 上市公司 · finance.eastmoney.com