本技术成果包含以下核心技术点:(1)考虑硬件拓扑结构和性能特点的并行训练软件系统搭建与调优技术;(2)针对具有动态性的模型的高性能并行训练系统;(3)向国产算力系统移植并行训练系统的能力。基于上述核心技术,本技术成果可支撑大模型并行训练解决方案。为有大模型训练需求的客户,如中小型企业、科研院校,提供高效的大模型并行训练资源。从超算中心、数据中心、云厂商等处获取大规模计算资源,并根据客户的需求部署效率最佳的并行训练软件系统,从而支持客户进行高效的大规模大模型分布式训练,降低大模型训练成本。
所属领域
未知项目类型
未知项目年份
2025项目状态
可产业化合作方式
未知本技术成果包含以下核心技术点:(1)考虑硬件拓扑结构和性能特点的并行训练软件系统搭建与调优技术;(2)针对具有动态性的模型的高性能并行训练系统;(3)向国产算力系统移植并行训练系统的能力。基于上述核心技术,本技术成果可支撑大模型并行训练解决方案。为有大模型训练需求的客户,如中小型企业、科研院校,提供高效的大模型并行训练资源。从超算中心、数据中心、云厂商等处获取大规模计算资源,并根据客户的需求部署效率最佳的并行训练软件系统,从而支持客户进行高效的大规模大模型分布式训练,降低大模型训练成本。
全部评论