针对中文到斯拉夫语系翻译过程中存在的翻译质量不稳定、领域适应性差等问题,提出了一套基于底座预训练语言模型、语言聚类训练策略、多语言优化目标、模型架构等四个维度的综合解决方案。通过分析斯拉夫语言的内在语言特性及翻译语料的统计特征,提出了多目标自蒸馏策略,解决了多语言数据不均衡带来的收敛不一致性问题;发明了帕累托互蒸馏训练算法,突破了多语言帕累托优化困境;实现了基于梯度冲突的自适应参数分配策略,有效缓解多语言参数冲突问题。
所属领域
新一代信息技术项目类型
信息传输、计算机服务和软件业项目年份
2025项目状态
可产业化合作方式
其它针对中文到斯拉夫语系翻译过程中存在的翻译质量不稳定、领域适应性差等问题,提出了一套基于底座预训练语言模型、语言聚类训练策略、多语言优化目标、模型架构等四个维度的综合解决方案。通过分析斯拉夫语言的内在语言特性及翻译语料的统计特征,提出了多目标自蒸馏策略,解决了多语言数据不均衡带来的收敛不一致性问题;发明了帕累托互蒸馏训练算法,突破了多语言帕累托优化困境;实现了基于梯度冲突的自适应参数分配策略,有效缓解多语言参数冲突问题。
全部评论