CN108932326B

CN108932326B - 一种实例扩展方法、装置、设备和介质

Info

Publication number: CN108932326B
Application number: CN201810714308.0A
Authority: CN
Inventors: 王一鸣; 姜文斌; 孙珂
Original assignee: Beijing Baidu Netcom Science and Technology Co Ltd
Current assignee: Beijing Baidu Netcom Science and Technology Co Ltd
Priority date: 2018-06-29
Filing date: 2018-06-29
Publication date: 2021-02-19
Anticipated expiration: 2038-06-29
Also published as: CN108932326A

Abstract

本发明实施例公开了一种实例扩展方法、装置、设备和介质，涉及自然语言处理技术领域。本发明实施例提供了一种实例扩展方法，该方法包括：获取包括关键词信息的待扩展实例规则；将获取的待扩展实例规则输入实例扩展模型，生成扩展实例。本发明实施例提供了一种实例扩展方法、装置、设备和介质，从而生成比待扩展实例的句式更丰富的扩展实例。

Description

一种实例扩展方法、装置、设备和介质

技术领域

本发明实施例涉及自然语言处理技术领域，尤其涉及一种实例扩展方法、装置、设备和介质。

背景技术

针对于搜索项(query)理解任务，较普遍的方式是采用将query解析为意图和槽位的形式，即将query中的关键信息标注为槽位，将query的目的标注为意图。比如“明天天气怎么样”，意图为天气查询，槽位信息为明天。

在机器学习中，通常基于序列标注模型对query进行理解和应答。然而，序列标注模型的训练需要大量的有标注意图和槽位信息的实例数据作为训练样本。目前，实例数据获取主要方法是：对人工标注的少量待扩展实例进行识别，对识别到的关键信息进行替换，以获取更多扩展实例。

但是，因为仅是对待扩展实例中的关键信息的替换，所以生成的扩展实例的句式与待扩展实例的句式相同，从而导致生成的扩展实例的句式单一。然而单一句式的扩展实例对序列标注模型训练的提升有限。

发明内容

本发明实施例提供一种实例扩展方法、装置、设备和介质，以生成比待扩展实例的句式更丰富的扩展实例。

第一方面，本发明实施例提供了一种实例扩展方法，该方法包括：

获取包括关键词信息的待扩展实例规则；

将获取的待扩展实例规则输入实例扩展模型，生成扩展实例。

进一步地，将获取的待扩展实例规则输入实例扩展模型，生成扩展实例包括：

将获取的待扩展实例规则和随机种子输入实例扩展模型，生成扩展实例。

进一步地，在将获取的待扩展实例规则输入实例扩展模型，生成扩展实例之前，还包括：

确定待扩展实例关联的待扩展实例规则；

将所述待扩展实例和所述待扩展实例关联的待扩展实例规则作为样本，对初始模型进行训练得到所述实例扩展模型。

进一步地，确定待扩展实例关联的待扩展实例规则包括：

对待扩展实例进行文本分析，根据文本分析结果从待扩展实例中提取待扩展实例规则。

进一步地，确定待扩展实例关联的待扩展实例规则包括：

对获取的待扩展实例进行文本分析；

将文本分析结果与获取的待扩展实例规则进行匹配，将匹配一致的待扩展实例规则作为所述待扩展实例关联的待扩展实例规则。

第二方面，本发明实施例还提供了一种实例扩展装置，该装置包括：

规则获取模块，用于获取包括关键词信息的待扩展实例规则；

实例生成模块，用于将获取的待扩展实例规则输入实例扩展模型，生成扩展实例。

进一步地，实例生成模块包括：

实例生成单元，用于将获取的待扩展实例规则和随机种子输入实例扩展模型，生成扩展实例。

进一步地，所述的装置还包括：

样本规则确定模块，用于在将获取的待扩展实例规则输入实例扩展模型，生成扩展实例之前，确定待扩展实例关联的待扩展实例规则；

模型训练模块，用于将所述待扩展实例和所述待扩展实例关联的待扩展实例规则作为样本，对初始模型进行训练得到所述实例扩展模型。

进一步地，样本规则确定模块包括：

规则提取单元，用于对待扩展实例进行文本分析，根据文本分析结果从待扩展实例中提取待扩展实例规则。

进一步地，样本规则确定模块包括：

文本分析单元，用于对获取的待扩展实例进行文本分析；

规则匹配单元，用于将文本分析结果与获取的待扩展实例规则进行匹配，将匹配一致的待扩展实例规则作为所述待扩展实例关联的待扩展实例规则。

第三方面，本发明实施例还提供了一种设备，所述设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明实施例中任一所述的实例扩展方法。

第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例中任一所述的实例扩展方法。

本发明实施例通过将待扩展实例规则输入实例扩展模型，从而生成扩展实例。因为待扩展实例规则仅对扩展实例进行关键信息的限定，而并不对扩展实例的句式限定，所以生成的扩展实例的句式一般不同于待扩展实例，从而生成具有丰富句式的扩展实例。

同时，因为待扩展实例规则对扩展实例进行关键信息的限定，所以可以基于关键信息对扩展实例语义进行控制，避免生成转义的扩展实例。

附图说明

图1为本发明实施例一提供的一种实例扩展方法的流程图；

图2是本发明实施例二提供的一种实例扩展方法的流程图；

图3a是本发明实施例三提供的一种实例扩展方法的流程图；

图3b是本发明实施例三提供的一种实例扩展模型训练方法的流程图

图4是本发明实施例四提供的一种实例扩展装置的结构示意图；

图5为本发明实施例五提供的一种设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

图1为本发明实施例一提供的一种实例扩展方法的流程图。本实施例可适用于基于提供的少量实例进行实例扩展的情况。该方法可以由一种实例扩展装置来执行，该装置可以由软件和/或硬件的方式实现。参见图1，本实施例提供的实例扩展方法包括：

S110、获取包括关键词信息的待扩展实例规则。

其中，关键词信息可以是描述扩展实例的任意信息。待扩展实例规则用于对扩展实例进行任意部分的限定。具体的，关键词信息可以是关键词或关键词间的关系。典型的，关键词信息可以是文本的意图、槽位以及槽位的顺序中的至少一种。

示例性的，待扩展实例规则可以是：“从”后面是起始地(start)。待扩展实例规则也可以是：“到”后面是终止地(end)。待扩展实例规则还可以是：起始地(start)在终止地(end)前面。

在此基础上，本领域技术人员还可以想到很多待扩展实例规则，本实施例对此并不进行任何限定。

可选地，待扩展实例规则可以由用户输入，也可以从用户输入的一个示例性的句子中提取。

具体地，从用户输入的一个示例性的句子中提取待扩展实例规则包括:

识别句子中的意图、槽位和各槽位的顺序；

将识别到的意图、槽位和各槽位的顺序中的至少一种作为待扩展实例规则。

S120、将获取的待扩展实例规则输入实例扩展模型，生成扩展实例。

其中，实例扩展模型预先训练完成，用于根据输入的待扩展实例规则，生成符合待扩展实例规则的扩展实例。

可选的，扩展实例可以是一个短语，也可以是包括多个句子的文本段落。典型的，扩展实例可以是一个句子。

本发明实施例的技术方案，通过将待扩展实例规则输入实例扩展模型，从而生成扩展实例。因为待扩展实例规则仅对扩展实例进行关键信息的限定，而并不对扩展实例的句式限定，所以生成的扩展实例的句式一般不同于待扩展实例，从而生成具有丰富句式的扩展实例。

为依据一个待扩展实例规则获取多个扩展实例，以实现实例的扩展。将获取的待扩展实例规则输入实例扩展模型，生成扩展实例包括：

具体的，为实现设定需求数量的扩展实例的生成，将获取的待扩展实例规则和随机种子输入实例扩展模型，生成扩展实例包括：

将获取的一个待扩展实例规则和一个随机种子输入实例扩展模型，生成一个扩展实例；

若基于所述待扩展实例规则生成的扩展实例数量小于设定需求数量阈值，则调整随机种子，将调整后的随机种子和所述待扩展实例规则输入实例扩展模型生成扩展实例，直至基于所述待扩展实例规则生成的扩展实例数量等于设定需求数量阈值。

实施例二

图2是本发明实施例二提供的一种实例扩展方法的流程图。本实施例是在上述实施例的基础上提出的一种可选方案。参见图2，本实施例提供的实例扩展方法包括：

S210、确定待扩展实例关联的待扩展实例规则。

具体地，确定待扩展实例关联的待扩展实例规则包括：

上述待扩展实例规则的确定可以实现如下效果：仅根据用户提供的少量待扩展实例，就可以训练出满足用户需求的实例扩展模型。

然而，根据对待扩展实例的文本分析结果从待扩展实例中提取的待扩展实例规则较多，提取得到的较多待扩展实例规则其中可能包括了部分待扩展实例规则是用户不关心的。采用用户不关心的待扩展实例规则作为样本进行训练，不仅会降低实例扩展模型的准确率，而且浪费资源。

因此，确定待扩展实例关联的待扩展实例规则还可以包括：

对获取的待扩展实例进行文本分析；

其中，将文本分析结果与获取的待扩展实例规则进行匹配包括:

根据文本分析结果从待扩展实例中提取待扩展实例规则；

将提取的待扩展实例规则与获取的待扩展实例规则进行匹配。

该待扩展实例规则的确定可以实现如下效果：为用户提供的少量待扩展实例和用户提供的待扩展实例规则建立关联，将关联的待扩展实例和待扩展实例规则作为样本训练出满足用户需求的实例扩展模型。

其中，通过利用用户提供的待扩展实例规则对作为训练样本的待扩展实例规则进行限定，使得作为训练样本的待扩展实例规则均是用户关心的待扩展实例规则。

S220、将所述待扩展实例和所述待扩展实例关联的待扩展实例规则作为样本，对初始模型进行训练得到所述实例扩展模型。

S230、将获取的待扩展实例规则输入实例扩展模型，生成扩展实例。

本发明实施例的技术方案，通过根据待扩展实例确定待扩展实例关联的待扩展实例规则，将待扩展实例和待扩展实例关联的待扩展实例规则作为样本，训练得到实例扩展模型。从而实现对实例扩展模型的训练。

实施例三

图3a是本发明实施例三提供的一种实例扩展方法的流程图。本实施例是在上述实施例的基础上提出的一种可选方案。参见图3a，本实施例提供的实例扩展方法包括：

线下模型生成和线上实例生成。

具体地，参见图3b，线下模型生成包括：

在存储有大量数据的数据库中抽取出若干待扩展实例；

从待扩展实例中提取出若干待扩展实例规则；

其中，待扩展实例规则包括关键词或关键词间的关系，例如关键词A要在关键词B之前。

将一个待扩展实例规则和符合该待扩展实例规则的待扩展实例作为一对训练样本，放入机器学习模型进行训练，得到实例扩展模型。

其中，该实例扩展模型的输入为待扩展实例规则，输出为扩展实例。

具体地，线上实例生成包括：

输入待扩展实例规则至训练完成的实例扩展模型，由实例扩展模型输出扩展实例。

本发明实施例的技术方案，通过基于少量待扩展实例训练得到实例扩展模型，利用实例扩展模型生成扩展实例，从而降低人力成本。又因为待扩展实例规则仅对扩展实例进行关键信息的限定，所以生成的扩展实例的句式一般不同于待扩展实例，从而生成具有丰富句式的扩展实例。

同时，因为待扩展实例规则对扩展实例进行关键信息的限定，所以可以基于关键信息对扩展实例进行控制，避免生成转义的扩展实例。

需要说明的是，经过本实施例的技术教导，本领域技术人员有动机将上述实施例中描述的任一种实施方式进行方案的组合，以实现对待扩展实例的实例扩展。

实施例四

图4是本发明实施例四提供的一种实例扩展装置的结构示意图。参见图4，本实施例提供的一种实例扩展装置包括：规则获取模块10和实例生成模块20.

其中，获取模块10，用于获取包括关键词信息的待扩展实例规则；

实例生成模块20，用于将获取的待扩展实例规则输入实例扩展模型，生成扩展实例。

进一步地，实例生成模块包括：实例生成单元。

其中，实例生成单元，用于将获取的待扩展实例规则和随机种子输入实例扩展模型，生成扩展实例。

进一步地，所述的装置还包括：样本规则确定模块和模型训练模块。

其中，样本规则确定模块，用于在将获取的待扩展实例规则输入实例扩展模型，生成扩展实例之前，确定待扩展实例关联的待扩展实例规则；

进一步地，样本规则确定模块包括：规则提取单元。

其中，规则提取单元，用于对待扩展实例进行文本分析，根据文本分析结果从待扩展实例中提取待扩展实例规则。

进一步地，样本规则确定模块包括：文本分析单元和规则匹配单元。

其中，文本分析单元，用于对获取的待扩展实例进行文本分析；

实施例五

图5为本发明实施例五提供的一种设备的结构示意图。图5示出了适于用来实现本发明实施方式的示例性设备12的框图。图5显示的设备12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图5所示，设备12以通用计算设备的形式表现。设备12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。

总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。

设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被设备12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图5未显示，通常称为“硬盘驱动器”)。尽管图5中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。

设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该设备12交互的设备通信，和/或与使得该设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与设备12的其它模块通信。应当明白，尽管图中未示出，可以结合设备12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现本发明实施例所提供的实例扩展方法，该方法包括:

获取包括关键词信息的待扩展实例规则；

实施例六

本发明实施例六还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例中任一所述的实例扩展方法。该方法包括：

获取包括关键词信息的待扩展实例规则；

本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims

1.一种实例扩展方法，其特征在于，包括：

获取包括关键词信息的待扩展实例规则，其中所述关键词信息包括文本的意图、槽位以及槽位的顺序中的至少一种；

将获取的待扩展实例规则输入实例扩展模型，生成扩展实例；

在将获取的待扩展实例规则输入实例扩展模型，生成扩展实例之前，还包括：

确定待扩展实例关联的待扩展实例规则；

2.根据权利要求1所述的方法，其特征在于，将获取的待扩展实例规则输入实例扩展模型，生成扩展实例包括：

3.根据权利要求1所述的方法，其特征在于，确定待扩展实例关联的待扩展实例规则包括：

4.根据权利要求1所述的方法，其特征在于，确定待扩展实例关联的待扩展实例规则包括：

对获取的待扩展实例进行文本分析；

5.一种实例扩展装置，其特征在于，包括：

规则获取模块，用于获取包括关键词信息的待扩展实例规则，其中所述关键词信息包括文本的意图、槽位以及槽位的顺序中的至少一种；

实例生成模块，用于将获取的待扩展实例规则输入实例扩展模型，生成扩展实例；

6.根据权利要求5所述的装置，其特征在于，实例生成模块包括：

7.根据权利要求6所述的装置，其特征在于，样本规则确定模块包括：

8.根据权利要求6所述的装置，其特征在于，样本规则确定模块包括：

文本分析单元，用于对获取的待扩展实例进行文本分析；

9.一种实例扩展设备，其特征在于，所述设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-4中任一所述的实例扩展方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-4中任一所述的实例扩展方法。