2024年3月23日，国家知识产权局公开了一项OPPO广东移动通信有限公司申请的专利，名为“模型训练方法、翻译方法、装置、电子设备及存储介质”，公开号CN117744669A，申请日期为2023年12月。
该专利的实施例公开了一种模型训练方法、翻译方法、装置、电子设备及存储介质。涉及的训练数据包括文本数据或语音数据。首先，将训练数据输入编码器，得到原始表示向量。然后，对原始表示向量施加扰动，得到有噪表示向量。接下来，将原始表示向量和有噪表示向量输入解码器，获取训练数据的第一概率分布和第二概率分布。基于这两个概率分布，对模型进行迭代训练，直至满足训练结束条件，从而得到目标翻译模型。
采用这种方法，能够有效提高训练得到的翻译模型的鲁棒性。