首页 / 专利库 / 人工智能 / 候选译文 / 平行语料数据的获取方法、装置、电子设备和存储介质

平行语料数据的获取方法、装置、电子设备和存储介质

阅读:484发布:2020-05-08

专利汇可以提供平行语料数据的获取方法、装置、电子设备和存储介质专利检索,专利查询,专利分析的服务。并且本 申请 公开了平行语料数据的获取方法、装置、 电子 设备和存储介质,涉及 自然语言处理 技术领域。具体实现方案为:获取 源语言 的单语语料,并通过第一翻译模型将单语语料从源语言翻译为 目标语言 ,得到前M个第一 候选译文 ,并从M个第一候选译文中选择出长度最短的第一候选译文作输入到第二翻译模型中,以得到第二翻译模型输出的翻译结果,并通过第一翻译模型继续对输入的当前输入内容进行翻译,直到确定满足预设的 迭代 结束条件时,获取整个翻译过程中第一翻译模型所输出的所有翻译结果,从所有翻译结果中选择长度最短的候选译文作为单语语料的目标译文。由此,准确得到了源语言语句对应的简洁目标译文,减少了人工构建双语料的麻烦。,下面是平行语料数据的获取方法、装置、电子设备和存储介质专利的具体信息内容。

1.一种平行语料数据的获取方法,其特征在于,所述方法包括:
获取源语言的单语语料,并通过第一翻译模型将所述单语语料从源语言翻译为目标语言,得到所述第一翻译模型输出的翻译结果,所述第一翻译模型输出的翻译结果包括翻译准确度高的前M个第一候选译文,其中,所述M为大于1的正整数;
从M个第一候选译文中,选择出长度最短的第一候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到所述第二翻译模型输出的翻译结果,所述第二翻译模型输出的翻译结果包括翻译准确度的前M个第三候选译文;
从所述M个第三候选译文中,选择出长度最短的第三候选译文作为所述第一翻译模型的当前输入内容,并通过所述第一翻译模型继续对输入的当前输入内容进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中所述第一翻译模型所输出的所有翻译结果;
从所有翻译结果中选择长度最短的候选译文作为所述单语语料的目标译文。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
将所述单语语料作为所述第一翻译模型的输入特征,并将所述目标译文作为所述第一翻译模型的输出特征,对所述第一翻译模型进行重新训练。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述单语语料以及所述目标译文,对所述第一翻译模型的模型参数进行调整,从而得到更新后的所述第一翻译模型。
4.根据权利要求1所述的方法,其特征在于,所述确定满足预设的迭代结束条件,包括:
在监控到所述第一翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,则确定满足预设的迭代结束条件;或者,
在监控到第二翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,则确定满足预设的迭代结束条件。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
对所述第一翻译模型每一次翻译结果中长度最短的候选译文进行标注;
所述从所有翻译结果中选择长度最短的候选译文作为所述单语语料的目标译文,包括:
从所有翻译结果中获取携带有标注的候选译文;
从获取到的候选译文中,选择长度最短的候选译文作为所述单语语料的目标译文。
6.一种平行语料数据的获取装置,其特征在于,所述装置包括:
第一翻译模,用于获取源语言的单语语料,并通过第一翻译模型将所述单语语料从源语言翻译为目标语言,得到所述第一翻译模型输出的翻译结果,所述第一翻译模型输出的翻译结果包括翻译准确度高的前M个第一候选译文,其中,所述M为大于1的正整数;
第二翻译模块,用于从M个第一候选译文中,选择出长度最短的第一候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到所述第二翻译模型输出的翻译结果,所述第二翻译模型输出的翻译结果包括翻译准确度的前M个第三候选译文;
处理模块,用于从所述M个第三候选译文中,选择出长度最短的第三候选译文作为所述第一翻译模型的当前输入内容,并通过所述第一翻译模型继续对输入的当前输入内容进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中所述第一翻译模型所输出的所有翻译结果;
确定模块,用于从所有翻译结果中选择长度最短的候选译文作为所述单语语料的目标译文。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
训练模块,用于将所述单语语料作为所述第一翻译模型的输入特征,并将所述目标译文作为所述第一翻译模型的输出特征,对所述第一翻译模型进行重新训练。
8.根据权利要求6所述的装置,其特征在于,所述装置还包括:
模型调整模块,用于根据所述单语语料以及所述目标译文,对所述第一翻译模型的模型参数进行调整,从而得到更新后的所述第一翻译模型。
9.根据权利要求6所述的装置,其特征在于,所述确定满足预设的迭代结束条件,包括:
在监控到所述第一翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,则确定满足预设的迭代结束条件;或者,
在监控到第二翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,则确定满足预设的迭代结束条件。
10.根据权利要求6所述的装置,其特征在于,所述装置还包括:
标注模块,用于对所述第一翻译模型每一次翻译结果中长度最短的候选译文进行标注;
所述确定模块,具体用于:
从所有翻译结果中获取携带有标注的候选译文;
从获取到的候选译文中,选择长度最短的候选译文作为所述单语语料的目标译文。
11.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器,其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。
13.一种平行语料数据的获取方法,其特征在于,所述方法包括:
获取源语言的单语语料,并通过第一翻译模型将所述单语语料从源语言翻译为目标语言,得到所述第一翻译模型输出的翻译结果,所述第一翻译模型输出的翻译结果包括翻译准确度高的前M个候选译文,其中,所述M为大于1的正整数;
从所述M个候选译文中,选择出长度最短的候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到所述第二翻译模型输出的翻译结果;
通过所述第一翻译模型继续对所述第二翻译模型输出的翻译结果进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中所述第一翻译模型所输出的所有翻译结果;
从所有翻译结果中选择长度最短的候选译文作为所述单语语料的目标译文。

说明书全文

平行语料数据的获取方法、装置、电子设备和存储介质

技术领域

[0001] 本申请涉及计算机技术领域,具体涉及自然语言处理技术领域,尤其涉及平行语料数据的获取方法、装置、电子设备和存储介质。

背景技术

[0002] 为了向用户提供简练的翻译结果,相关技术中,通常基于人工标注简洁翻译的双语语料,对应的翻译模型进行训练,从而使得训练后的翻译模型可以向用户提供简练的翻译结果。然而,在训练翻译模型的过程中,通常需要海量的双语语料,通过人工方式标注获取简洁翻译双语语料要耗费极大的人成本,因此,如何方便地获得简洁双语翻译语料是目前亟需解决的技术问题。发明内容
[0003] 本申请提出一种平行语料数据的获取方法、装置、电子设备和存储介质,准确得到了源语言语句对应的简洁目标译文,提供了一种获取双语语料的方式,方便获取参与翻译模型的双语料,减少了人工构建双语料的麻烦,方便了后续基于所确定出的双语料对相应的翻译模型进行翻译。
[0004] 本申请第一方面实施例提出了一种平行语料数据的获取方法,包括:获取源语言的单语语料,并通过第一翻译模型将所述单语语料从源语言翻译为目标语言,得到所述第一翻译模型输出的翻译结果,所述第一翻译模型输出的翻译结果包括翻译准确度高的前M个第一候选译文,其中,所述M为大于1的正整数;从M个第一候选译文中,选择出长度最短的第一候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到所述第二翻译模型输出的翻译结果,所述第二翻译模型输出的翻译结果包括翻译准确度的前M个第三候选译文;从所述M个第三候选译文中,选择出长度最短的第三候选译文作为所述第一翻译模型的当前输入内容,并通过所述第一翻译模型继续对输入的当前输入内容进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中所述第一翻译模型所输出的所有翻译结果;从所有翻译结果中选择长度最短的候选译文作为所述单语语料的目标译文。
[0005] 在本申请一个实施例中,所述方法还包括:将所述单语语料作为所述第一翻译模型的输入特征,并将所述目标译文作为所述第一翻译模型的输出特征,对所述第一翻译模型进行重新训练。
[0006] 在本申请一个实施例中,所述方法还包括:根据所述单语语料以及所述目标译文,对所述第一翻译模型的模型参数进行调整,从而得到更新后的所述第一翻译模型。
[0007] 在本申请一个实施例中,所述确定满足预设的迭代结束条件,包括:在监控到所述第一翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,则确定满足预设的迭代结束条件;或者,在监控到第二翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,则确定满足预设的迭代结束条件。
[0008] 在本申请一个实施例中,所述方法还包括:对所述第一翻译模型每一次翻译结果中长度最短的候选译文进行标注;所述从所有翻译结果中选择长度最短的候选译文作为所述单语语料的目标译文,包括:从所有翻译结果中获取携带有标注的候选译文;从获取到的候选译文中,选择长度最短的候选译文作为所述单语语料的目标译文。
[0009] 本申请实施例的平行语料数据的获取方法,获取源语言的单语语料,并通过第一翻译模型将单语语料从源语言翻译为目标语言,得到第一翻译模型输出的前M个第一候选译文,并从M个第一候选译文中,选择出长度最短的第一候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到第二翻译模型输出的翻译结果,并从准确度高的前M个翻译结果中,确定出长度最短的翻译结果作为第一翻译模型的当前输入内容,并通过第一翻译模型继续对输入的当前输入内容进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中第一翻译模型所输出的所有翻译结果;从所有翻译结果中选择长度最短的候选译文作为单语语料的目标译文。由此,准确得到了源语言语句对应的简洁目标译文,提供了一种获取双语语料的方式,方便获取参与翻译模型的双语料,减少了人工构建双语料的麻烦,方便了后续基于所确定出的双语料对相应的翻译模型进行翻译。
[0010] 本申请第二方面实施例提出了一种平行语料数据的获取装置,包括:第一翻译模,用于获取源语言的单语语料,并通过第一翻译模型将所述单语语料从源语言翻译为目标语言,得到所述第一翻译模型输出的翻译结果,所述第一翻译模型输出的翻译结果包括翻译准确度高的前M个第一候选译文,其中,所述M为大于1的正整数;第二翻译模块,用于从M个第一候选译文中,选择出长度最短的第一候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到所述第二翻译模型输出的翻译结果,所述第二翻译模型输出的翻译结果包括翻译准确度的前M个第三候选译文;处理模块,用于从所述M个第三候选译文中,选择出长度最短的第三候选译文作为所述第一翻译模型的当前输入内容,并通过所述第一翻译模型继续对输入的当前输入内容进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中所述第一翻译模型所输出的所有翻译结果;确定模块,用于从所有翻译结果中选择长度最短的候选译文作为所述单语语料的目标译文。
[0011] 本申请实施例的平行语料数据的获取装置,获取源语言的单语语料,并通过第一翻译模型将单语语料从源语言翻译为目标语言,得到第一翻译模型输出的前M个第一候选译文,并从M个第一候选译文中,选择出长度最短的第一候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到第二翻译模型输出的翻译结果,并从准确度高的前M个翻译结果中,确定出长度最短的翻译结果作为第一翻译模型的当前输入内容,并通过第一翻译模型继续对输入的当前输入内容进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中第一翻译模型所输出的所有翻译结果;从所有翻译结果中选择长度最短的候选译文作为单语语料的目标译文。由此,准确得到了源语言语句对应的简洁目标译文,提供了一种获取双语语料的方式,方便获取参与翻译模型的双语料,减少了人工构建双语料的麻烦,方便了后续基于所确定出的双语料对相应的翻译模型进行翻译。
[0012] 在本申请的一个实施例中,所述装置还包括:第四确定模块,用于根据所述位置坐标信息,确定所述终端所在的城市信息;所述第二确定模块,具体用于:若所述稀疏位图集合为多个,根据所述城市信息,从多个所述稀疏位图集合中,确定出所述城市信息对应的稀疏位图集合;根据所述目标位置区域和所述城市信息对应的稀疏位图集合,确定所述目标位置区域对应的目标比例尺。
[0013] 在本申请的一个实施例中,所述装置还包括:训练模块,用于将所述单语语料作为所述第一翻译模型的输入特征,并将所述目标译文作为所述第一翻译模型的输出特征,对所述第一翻译模型进行重新训练。
[0014] 在本申请的一个实施例中,所述装置还包括:模型调整模块,用于根据所述单语语料以及所述目标译文,对所述第一翻译模型的模型参数进行调整,从而得到更新后的所述第一翻译模型。
[0015] 在本申请的一个实施例中,所述确定满足预设的迭代结束条件,包括:在监控到所述第一翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,则确定满足预设的迭代结束条件;或者,在监控到第二翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,则确定满足预设的迭代结束条件。
[0016] 在本申请的一个实施例中,所述装置还包括:标注模块,用于对所述第一翻译模型每一次翻译结果中长度最短的候选译文进行标注;所述确定模块,具体用于:从所有翻译结果中获取携带有标注的候选译文;从获取到的候选译文中,选择长度最短的候选译文作为所述单语语料的目标译文。
[0017] 本申请第三方面实施例提出了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本申请实施例的平行语料数据的获取方法。
[0018] 本申请第四方面实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行本申请实施例公开的平行语料数据的获取方法。
[0019] 本申请第五方面实施例提出了一种平行语料数据的获取方法,包括:获取源语言的单语语料,并通过第一翻译模型将所述单语语料从源语言翻译为目标语言,得到所述第一翻译模型输出的翻译结果,所述第一翻译模型输出的翻译结果包括翻译准确度高的前M个候选译文,其中,所述M为大于1的正整数;从所述M个候选译文中,选择出长度最短的候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到所述第二翻译模型输出的翻译结果;通过所述第一翻译模型继续对所述第二翻译模型输出的翻译结果进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中所述第一翻译模型所输出的所有翻译结果;从所有翻译结果中选择长度最短的候选译文作为所述单语语料的目标译文。
[0020] 上述申请中的一个实施例具有如下优点或有益效果:能够准确得到了源语言语句对应的简洁目标译文,提供了一种获取双语语料的方式,方便获取参与翻译模型的双语料,减少了人工构建双语料的麻烦,方便了后续基于所确定出的双语料对相应的翻译模型进行翻译。因为采用结合已有的第一翻译模型和第二翻译模型准确确定出源语言单语语料所对应的目标语言的目标译文技术手段,所以克服了相关技术中需要人工获取双语平行语料的技术问题,从而达到了避免了方便获取参与翻译模型的双语料,减少了人工构建双语料的麻烦的技术效果。
[0021] 上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。附图说明
[0022] 附图用于更好地理解本方案,不构成对本申请的限定。其中:
[0023] 图1是根据本申请第一实施例的示意图;
[0024] 图2是根据本申请第二实施例的示意图;
[0025] 图3是根据本申请第三实施例的示意图;
[0026] 图4是用来实现本申请实施例的电子设备的框图
[0027] 图5是根据本申请第四实施例的示意图。

具体实施方式

[0028] 以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
[0029] 下面参考附图描述本申请实施例的平行语料数据的获取方法、装置、电子设备和存储介质。
[0030] 图1是根据本申请第一实施例的示意图。其中,需要说明的是,本实施例的平行语料数据的获取方法的执行主体为平行语料数据的获取装置,该装置可以由软件和/或硬件的方式实现,该装置可以配置在电子设备中,电子设备可以包括但不限于终端设备、服务器等,该实施例对此不作具体限定。
[0031] 如图1所示,该平行语料数据的获取方法可以包括:
[0032] 步骤101,获取源语言的单语语料,并通过第一翻译模型将单语语料从源语言翻译为目标语言,得到第一翻译模型输出的翻译结果,第一翻译模型输出的翻译结果包括翻译准确度高的前M个第一候选译文,其中,M为大于1的正整数。
[0033] 其中,本实施例中的M为预先设置的值,例如,M可以为2,即,获取第一翻译模型输出的准确度高的前2个翻译结果。
[0034] 其中,本实施例中的源语言和目标语言为不同的语言。
[0035] 例如,源语言为中文,目标语言为英文,中文单语句子“有一只小鹿吧,它迷失在森林里,失去了方向。”,在将中文单语句子输入到第一翻译模型后,其输出的两个概率最高的英文翻译可以:第一个候选译文:There’s a deer.It lost in the forest and lost its way.第二个候选译文:There is a deer lost in the forest and lost its way.。
[0036] 步骤102,从M个第一候选译文中,选择出长度最短的第一候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到第二翻译模型输出的翻译结果,第二翻译模型输出的翻译结果包括翻译准确度的前M个第三候选译文。
[0037] 步骤103,从M个第三候选译文中,选择出长度最短的第三候选译文作为第一翻译模型的当前输入内容,并通过第一翻译模型继续对输入的当前输入内容进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中第一翻译模型所输出的所有翻译结果。
[0038] 其中,需要说明的是,在不同应用场景下,确定满足预设的迭代结束条件的方式不同,示例说明如下:
[0039] 作为一种示例,在监控到第一翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,则确定满足预设的迭代结束条件。
[0040] 作为另一种示例,在监控到第二翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,则确定满足预设的迭代结束条件。
[0041] 为了方便可快速确定出对应翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,作为一种示例性的实施方式,在对应翻译模型每次输出翻译结果后,可确定当前输出翻译结果中的翻译结果是否在之前的翻译结果中出现过,如果对应翻译结果在之前的翻译结果中出现过,则可通过预设标注方式对对应翻译结果进行标注。
[0042] 对应地,在确定是否满足预设的迭代条件时,可确定当前输出的翻译结果中是否存在被标注的翻译结果,如果存在被标注的翻译结果,则进一步确定被标注的翻译结果是否为长度最短的翻译结果,如果是,则确定满足迭代结束条件。
[0043] 作为另一种示例,在通过翻译模型进行翻译的总次数达到预设迭代次数时,确定满足预设的迭代结束条件。
[0044] 其中,预设迭代次数是预先设置的通过翻译模型进行翻译的翻译累积次数的上限值。例如,预设迭代次数为5次,即,第一翻译模型与第二翻译模型进行交替翻译的翻译总数5次后,即,满足了预设的迭代结束条件。
[0045] 例如,源语言为中文,目标语言为英文,第一翻译模型为中译英翻译模型,第二翻译模型为中译英翻译模型,在中文的单语语句输入到中译英翻译模型,得到准确度高的2个英文译文后,可将2个英文译文中长度较短的英文译文输入到英译中翻译模型进行翻译,之后,在从选择准确高的两个中文译文中选择长度较短的中文译文输入到中译英,进而再继续通过上述类似的过程通过中译英对当前输入内容进行翻译,直至两个翻译模型累积的总翻译次数为5次时结束,在整个翻译过程中,中译英翻译模型使用了3次,英译中翻译模型使用了2次。
[0046] 步骤104,从所有翻译结果中选择长度最短的候选译文作为单语语料的目标译文。
[0047] 本申请提供的平行语料数据的获取方法,获取源语言的单语语料,并通过第一翻译模型将单语语料从源语言翻译为目标语言,得到第一翻译模型输出的前M个第一候选译文,并从M个第一候选译文中,选择出长度最短的第一候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到第二翻译模型输出的翻译结果,并从准确度高的前M个翻译结果中,确定出长度最短的翻译结果作为第一翻译模型的当前输入内容,并通过第一翻译模型继续对输入的当前输入内容进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中第一翻译模型所输出的所有翻译结果;从所有翻译结果中选择长度最短的候选译文作为单语语料的目标译文。由此,准确得到了源语言语句对应的简洁目标译文,提供了一种获取双语语料的方式,方便获取参与翻译模型的双语料,减少了人工构建双语料的麻烦,方便了后续基于所确定出的双语料对相应的翻译模型进行翻译。
[0048] 在本申请的一个实施例中,在获取与源语言的单语语料对应的目标译文后,可将单语语料作为第一翻译模型的输入特征,并将目标译文作为第一翻译模型的输出特征,对第一翻译模型进行重新训练。由此,使得重新训练后的第一翻译模型准确获取待处理的源语言语句所对应的简洁且准确的目标语言译文。
[0049] 举例而言,源语言为中文,目标语言为英文,此时,第一翻译模型即为中译英翻译模型,假设当前待处理的源语言语句为“有一只小鹿吧,它迷失在森林里,失去了方向”,在将当前待处理的源语言语言输入到更新后的中译英翻译模型后,中译英翻译模型输出的简洁英文翻译结果为:A deer got lost in the forest。
[0050] 在本申请的另一个实施例中,重新训练第一翻译模型所需要时间较长,为了提高第一翻译模型的更新效率,在本实施例中,可根据单语语料以及目标译文,对第一翻译模型的模型参数进行调整,从而得到更新后的第一翻译模型。
[0051] 具体地,在通过上述实施例的方式,获得双语平行语料数据后,模型训练器可通过双语平行语料数据对第一翻译模型进行微调,以实现对第一翻译模型的更新。
[0052] 基于上述实施例的基础上,为了方便可从第一翻译模型的多次翻译结果中快速确定出长度最短的候选译文,作为一种示例性的实施方式,在第一翻译模型每次输出翻译结果后,可对第一翻译模型每一次翻译结果中长度最短的候选译文进行标注。
[0053] 在本实施例中,可通过预设标注方式,对第一翻译模型每一次翻译结果中长度最短的候选译文进行标注。
[0054] 其中,预设标注方式可以采用各种符号、颜色等方式,该实施例对此不作限定。
[0055] 例如,可通过红颜色,对第一翻译模型每一次翻译结果中长度最短的候选译文进行标注。
[0056] 对应地,在本实施例中,从所有翻译结果中选择长度最短的候选译文作为单语语料的目标译文的具体实现方式为:从所有翻译结果中获取携带有标注的候选译文;从获取到的候选译文中,选择长度最短的候选译文作为单语语料的目标译文。
[0057] 图2是根据本申请第二实施例的示意图。其中,需要说明的是,本实施例的平行语料数据的获取方法的执行主体为平行语料数据的获取装置,该装置可以由软件和/或硬件的方式实现,该装置可以配置在电子设备中,电子设备可以包括但不限于终端设备、服务器等,该实施例对此不作具体限定。其中,需要说明的是,在本实施例中,为了使得本领域技术人员清楚理解本方案,本实施例以源语言中文,目标语言为英文,第一翻译语言为中译英翻译模型,第二翻译模型为英译中翻译模型为例进行描述,下面结合图2对本实施例的平行语料数据的获取方法进行进一步描述。
[0058] 其中,需要说明的是,图2中的“Zh2EN”表示中译英翻译模型,“En2Zh”表示英译中翻译模型。
[0059] 其中,本实施例中的英译中翻译模型是已有的英译中翻译模型,且该英译中翻译模型设置在英译中模块中,中译英翻译模型也是已有的中译英翻译模型,并且该中译英翻译模型设置在中译英模块。
[0060] 其中,本实施例中的英译中翻译模型给定一个英文句子,输出两个最可能的中文翻译。
[0061] 中译英翻译模型给定一个中文句子,输出两个最可能的英文翻译(英文译文)。
[0062] 如图2所示,随机选取源语言单语句子,对于任一个句子(如“有一只小鹿吧,它迷失在森林里,失去了方向。”),第①步,首先将其输入中译文翻译模型,得到两个概率最高的英文翻译:
[0063] There’s a deer.It lost in the forest and lost its way.
[0064] There is a deer lost in the forest and lost its way.
[0065] 在其中选取一个较短的翻译,即上面两句中的第二句。
[0066] 第②步,将上一步选出的句子”There is a deer lost in the forest and lost its way.”输入英译中翻译模型,得到两个概率最高的中文翻译:
[0067] 有一只鹿在森林里迷路了。
[0068] 有一只鹿,在森林里迷路了。
[0069] 在其中选取一个较短的翻译,即上面两句中的第一句。
[0070] 同理,第③步,将上一步选出的句子输入中译文翻译模型,得到两个概率最高的英文翻译:
[0071] In the forest,a deer lost its way.
[0072] A deer got lost in the forest.
[0073] 在其中选取一个较短的翻译,继续上述类似的过程。
[0074] 经过五次迭代后,如图2所示,此时,中译文翻译模型当前输出的英文翻译结果为:
[0075] A deer got lost in the forest。
[0076] A deer lost its way in the forest。
[0077] 译文翻译模型当前输出的英文翻译结果的第一个英文译文A deer got lost in the forest,曾在之前的迭代输出中出现过,满足了预设的迭代结束条件。
[0078] 此时,可获取中译文翻译模型所有输出的英文候选(6句),选择最短的一个作为源语言句子“有一只小鹿吧,它迷失在森林里,失去了方向”对应的简洁翻译,即“A deer got lost in the forest.”。
[0079] 其中,需要说明的是,在实际应用中,采用红色标注每一次输出的两个候选翻译中较短的翻译。
[0080] 在实际应用中,可灰色标注曾经出现过的句子进行标注,图2中的第④步输出的两个句子中,有一句“有一只鹿在森林里迷路了。”曾在之前的迭代(第②步)输出中出现过,可采用灰色标注,这种曾经出现过的句子。
[0081] 在获取中文单语句子对应的简洁英文译文,可基于中文单语句子和其对应的简洁英文译文,建立双语平行语料,然后,可通过得到的平行语料进行中译文翻译模型微调,从而使得调整后的中译英翻译模型可输出简洁的英文译文。
[0082] 基于上述实施例的基础上,在需要对英译中翻译模型进行调整时,可可输入英文单语数据,并通过与上述类似的方式,获取英文单语数据对应的简洁中文译文,并基于得到的英文单语数据及其对应的简洁中文译文,对英译中翻译模型进行微调,从而使得调整后的英译中翻译模型可输出简洁的中文译文。
[0083] 为了实现上述实施例,本申请实施例还提供一种平行语料数据的获取装置。
[0084] 图3是根据本申请第三实施例的示意图。如图3所示,该平行语料数据的获取装置100包括第一翻译模块110、第二翻译模块120、处理模块130和确定模块140,其中:
[0085] 第一翻译模块110,用于获取源语言的单语语料,并通过第一翻译模型将单语语料从源语言翻译为目标语言,得到第一翻译模型输出的翻译结果,第一翻译模型输出的翻译结果包括翻译准确度高的前M个第一候选译文,其中,M为大于1的正整数。
[0086] 第二翻译模块120,用于从M个第一候选译文中,选择出长度最短的第一候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到第二翻译模型输出的翻译结果,第二翻译模型输出的翻译结果包括翻译准确度的前M个第三候选译文。
[0087] 处理模块130,用于从M个第三候选译文中,选择出长度最短的第三候选译文作为第一翻译模型的当前输入内容,并通过第一翻译模型继续对输入的当前输入内容进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中第一翻译模型所输出的所有翻译结果。
[0088] 确定模块140,用于从所有翻译结果中选择长度最短的候选译文作为单语语料的目标译文。
[0089] 基于上述实施例的基础上,在本申请的一个实施例中,该装置还可以包括:
[0090] 训练模块,用于将单语语料作为第一翻译模型的输入特征,并将目标译文作为第一翻译模型的输出特征,对第一翻译模型进行重新训练。
[0091] 基于上述实施例的基础上,在本申请的一个实施例中,该装置还包括:
[0092] 模型调整模块,用于根据单语语料以及目标译文,对第一翻译模型的模型参数进行调整,从而得到更新后的第一翻译模型。
[0093] 在本申请的一个实施例中,确定满足预设的迭代结束条件可以包括:在监控到第一翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,则确定满足预设的迭代结束条件。或者,在监控到第二翻译模型当前输出的翻译结果中,长度最短的候选译文曾在之前的翻译结果中出现过,则确定满足预设的迭代结束条件。
[0094] 在本申请的一个实施例中,该装置还包括:
[0095] 标注模块,用于对第一翻译模型每一次翻译结果中长度最短的候选译文进行标注。
[0096] 确定模块,具体用于:从所有翻译结果中获取携带有标注的候选译文。从获取到的候选译文中,选择长度最短的候选译文作为单语语料的目标译文。
[0097] 其中,需要说明的是,前述对平行语料数据的获取方法的解释说明也适用于本实施例的平行语料数据的获取装置,此处不再赘述。
[0098] 本申请实施例的平行语料数据的获取装置,获取源语言的单语语料,并通过第一翻译模型将单语语料从源语言翻译为目标语言,得到第一翻译模型输出的前M个第一候选译文,并从M个第一候选译文中,选择出长度最短的第一候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到第二翻译模型输出的翻译结果,并从准确度高的前M个翻译结果中,确定出长度最短的翻译结果作为第一翻译模型的当前输入内容,并通过第一翻译模型继续对输入的当前输入内容进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中第一翻译模型所输出的所有翻译结果;从所有翻译结果中选择长度最短的候选译文作为单语语料的目标译文。由此,准确得到了源语言语句对应的简洁目标译文,提供了一种获取双语语料的方式,方便获取参与翻译模型的双语料,减少了人工构建双语料的麻烦,方便了后续基于所确定出的双语料对相应的翻译模型进行翻译。
[0099] 根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
[0100] 如图4所示,是根据本申请实施例的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
[0101] 如图4所示,该电子设备包括:一个或多个处理器401、存储器402,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图4中以一个处理器401为例。
[0102] 存储器402即为本申请所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本申请所提供的平行语料数据的获取方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的平行语料数据的获取方法。
[0103] 存储器402作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的平行语料数据的获取方法对应的程序指令/模块。处理器401通过运行存储在存储器402中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的平行语料数据的获取方法。
[0104] 存储器402可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据电子设备的使用所创建的数据等。此外,存储器402可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器402可选包括相对于处理器401远程设置的存储器,这些远程存储器可以通过网络连接至电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
[0105] 电子设备还可以包括:输入装置403和输出装置404。处理器401、存储器402、输入装置403和输出装置404可以通过总线或者其他方式连接,图4中以通过总线连接为例。
[0106] 输入装置403可接收输入的数字或字符信息,以及产生与电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置404可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
[0107] 此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
[0108] 这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
[0109] 为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
[0110] 可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
[0111] 计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
[0112] 图5是根据本申请第四实施例的示意图。其中,需要说明的是,本实施例提供的平行语料数据的获取方法的执行主体为平行语料数据的获取装置,该装置可以由软件和/或硬件的方式实现,该装置可以配置在电子设备中,电子设备可以包括但不限于终端设备、服务器等,该实施例对此不作具体限定。
[0113] 如图5所示,该平行语料数据的获取方法可以包括:
[0114] 步骤501,获取源语言的单语语料,并通过第一翻译模型将单语语料从源语言翻译为目标语言,得到第一翻译模型输出的翻译结果,第一翻译模型输出的翻译结果包括翻译准确度高的前M个候选译文,其中,M为大于1的正整数。
[0115] 步骤502,从M个候选译文中,选择出长度最短的候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到第二翻译模型输出的翻译结果。
[0116] 可以理解的是,第二翻译模型输出的翻译结果为多个,在本实施例中,可将第二翻译模型输出的每个翻译结果均分别作为第一翻译模型的输入内容。
[0117] 在本实施例中,为了降低计算量,以及保障所建立的评语语料的质量,可获得第二翻译模型输出的翻译结果后,从对应翻译结果中获取翻译准确度的前M个第三候选译文,并从M个第三候选译文中,选择出长度最短的第三候选译文作为第一翻译模型的当前输入内容。
[0118] 步骤503,通过第一翻译模型继续对第二翻译模型输出的翻译结果进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中第一翻译模型所输出的所有翻译结果。
[0119] 步骤504,从所有翻译结果中选择长度最短的候选译文作为单语语料的目标译文。
[0120] 其中,需要说明的是,前述对上述平行语料数据的获取方法的解释说明也适用于本实施例的平行语料数据的获取方法,相关描述可参见相关部分,此处步骤赘述。
[0121] 本申请实施例的平行语料数据的获取方法,获取源语言的单语语料,并通过第一翻译模型将单语语料从源语言翻译为目标语言,得到第一翻译模型输出的前M个第一候选译文,并从M个第一候选译文中,选择出长度最短的第一候选译文作为第二翻译模型的当前输入内容,并通过第二翻译模型将输入的当前输入内容从目标语言翻译为源语言,以得到第二翻译模型输出的翻译结果,并通过第一翻译模型继续对输入的当前输入内容进行翻译,直到确定满足预设的迭代结束条件时,获取整个翻译过程中第一翻译模型所输出的所有翻译结果;从所有翻译结果中选择长度最短的候选译文作为单语语料的目标译文。由此,准确得到了源语言语句对应的简洁目标译文,提供了一种获取双语语料的方式,方便获取参与翻译模型的双语料,减少了人工构建双语料的麻烦,方便了后续基于所确定出的双语料对相应的翻译模型进行翻译。
[0122] 应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
[0123] 上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈