CN112347739A - 适用规则分析方法、装置、电子设备及存储介质 - Google Patents
适用规则分析方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN112347739A CN112347739A CN202011221079.2A CN202011221079A CN112347739A CN 112347739 A CN112347739 A CN 112347739A CN 202011221079 A CN202011221079 A CN 202011221079A CN 112347739 A CN112347739 A CN 112347739A
- Authority
- CN
- China
- Prior art keywords
- keyword
- fact
- rule
- description set
- word segmentation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004458 analytical method Methods 0.000 title claims abstract description 110
- 230000011218 segmentation Effects 0.000 claims abstract description 77
- 238000000034 method Methods 0.000 claims abstract description 48
- 238000012545 processing Methods 0.000 claims abstract description 46
- 238000006243 chemical reaction Methods 0.000 claims abstract description 20
- 238000001914 filtration Methods 0.000 claims description 35
- 238000013145 classification model Methods 0.000 claims description 25
- 238000004422 calculation algorithm Methods 0.000 claims description 14
- 238000012549 training Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 5
- 238000012952 Resampling Methods 0.000 claims description 4
- 238000005516 engineering process Methods 0.000 abstract description 3
- 238000013473 artificial intelligence Methods 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 12
- 238000007726 management method Methods 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000013179 statistical model Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/12—Use of codes for handling textual entities
- G06F40/126—Character encoding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
- G06N5/022—Knowledge engineering; Knowledge acquisition
- G06N5/025—Extracting rules from data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/18—Legal services
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Business, Economics & Management (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Tourism & Hospitality (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Technology Law (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Economics (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及人工智能技术,揭露了一种适用规则分析方法,包括:获取事实描述集及对应的规则描述集,对所述事实描述集进行分词及数据增强处理得到标准事实描述集,对所述规则描述集进行分词处理得到关键词集,根据所述关键词集得到关键词标签,对所述标准事实描述集及所述关键词标签分别进行编码转换,得到事实编码集及关键词编码集,利用所述事实编码集及关键词编码集训练出来的分析模型对待检测事实描述集进行规则分析,得到最终规则分析结果。此外,本发明还涉及区块链技术,所述最终规则分析结果可存储于区块链的节点。本发明还提出一种适用规则分析装置、电子设备以及计算机可读存储介质。本发明可以解决适用规则分析准确性较低的问题。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种适用规则分析方法、装置、电子设备及计算机可读存储介质。
背景技术
大数据背景下,数据规模急剧扩大,数据分析预测广泛应用于不同的领域。其中,对于定义或规则描述较强的数据进行适用规则分析比较困难。比如,在司法领域,法官/律师/当事人会根据一段事实描述判断查找该段描述所涉及的法律法规。现有技术下,对此种规则性较强的数据进行适用规则分析主要有以下方法:1、基于法理推理获取事实陈述所涉及的法条,先利用模型判断一段事实描述的文本所涉及的争议焦点,再推断争议焦点指向涉及的法律法规,但是这种方法争议焦点之间可能存在交叉标签,故可能影响模型的准确性。2、采用多个二分类方法学习事实描述与法规之间的关系,但在案例文书中,很多案情描述具有很高的相似性,但是涉及的法规不同,分类模型对此分类的效果较差。
发明内容
本发明提供一种适用规则分析方法、装置及计算机可读存储介质,其主要目的在于解决适用规则分析准确性较低的问题。
为实现上述目的,本发明提供的一种适用规则分析方法,包括:
获取事实描述集及对应的规则描述集;
对所述事实描述集进行分词及数据增强处理得到标准事实描述集,对所述规则描述集进行分词处理得到关键词集,根据所述标准事实描述集及所述关键词集得到关键词标签;
对所述标准事实描述集及所述关键词标签分别进行编码转换,得到事实编码集及关键词编码集,汇总所述事实编码集及所述关键词编码集得到编码集合;
通过所述编码集合对预构建的分类模型进行训练,得到分析模型;
利用所述分析模型对待检测事实描述集进行规则分析,得到最终规则分析结果。
可选地,所述对所述事实描述集进行分词及数据增强处理,得到标准事实描述集,包括:
利用预设的分词算法对所述事实描述集中的事实描述文本进行分词及过滤处理,得到分词结果集;
对所述分词结果集中的词进行特征选择,得到特征结果集;
对所述特征结果集中预设比例的词进行重抽样,对重抽样后的事实描述文本再次进行分词及过滤,得到增强特征结果集;
汇总所述增强特征结果集及所述特征结果集中未进行重抽样的词得到所述标准事实描述集。
可选地,所述利用预设的分词算法对所述事实描述集中的事实描述文本进行分词及过滤处理,得到分词结果集,包括:
获取预设的专有词汇词表,基于所述专有词汇词表对所述事实描述集中的事实描述文本进行分词,得到初始分词结果;
除去所述初始分词结果中的停用词,并过滤掉预设长度的字符,得到所述分词结果集。
可选地,所述对所述规则描述集进行分词处理,得到关键词集,并根据所述标准事实描述集及所述关键词集得到关键词标签,包括:
利用所述预设的分词算法对所述规则描述集中的规则描述文本进行分词及过滤处理,得到关键词集;
利用预构建的多标签模型对所述标准事实描述集进行分析,从所述关键词集中分析出与所述事实描述文本对应的关键词标签。
可选地,所述对所述标准事实描述集及所述关键词标签分别进行编码转换,得到事实编码集及关键词编码集,包括:
利用预设的第一编码方法对所述标准事实描述集进行编码处理,得到所述事实编码集;
利用预设的第二编码方法对所述关键词标签进行编码处理,得到所述关键词编码集。
可选地,所述利用预设的第二编码方法对所述关键词标签进行编码处理,得到所述关键词编码集,包括:
获取预构建的关键词库,计算所述关键词标签中的文本与所述关键词库中的词的相似度,将所述相似度作为关键词编码时关键词的权重;
基于所述权重,利用所述第二编码方法对所述关键词标签中的文本进行编码处理,得到所述关键词编码集。
可选地,所述利用所述分析模型对待检测事实描述集进行规则分析,得到最终规则分析结果,包括:
利用所述分析模型对所述待检测事实描述集进行分析,得到预测候选集;
通过预设的过滤规则对所述预测候选集进行规则过滤,得到所述最终规则分析结果。
为了解决上述问题,本发明还提供一种适用规则分析装置,所述装置包括:
文本获取模块,用于获取事实描述集及对应的规则描述集;
文本处理模块,用于对所述事实描述集进行分词及数据增强处理得到标准事实描述集,对所述规则描述集进行分词处理得到关键词集,并根据所述标准事实描述集及所述关键词集得到关键词标签;
编码转换模块,用于对所述标准事实描述集及所述关键词标签分别进行编码转换,得到事实编码集及关键词编码集,汇总所述事实编码集及所述关键词编码集得到编码集合;
模型训练模块,用于通过所述编码集合对预构建的分类模型进行训练,得到分析模型;
规则分析模块,用于利用所述分析模型对待检测事实描述集进行规则分析,得到最终规则分析结果。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现上述所述的适用规则分析方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现上述所述的适用规则分析方法。
本发明通过对所述规则描述集进行数据处理形成关键词集,并根据所述关键词集为相应的事实描述打上关键词标签,可以提高模型整体的分析准确率,并且利用不同的编码方法对所述标准事实描述集及所述关键词标签进行编码处理,编码转化效率较高,同时通过所述编码集合对预构建的分类模型进行训练,得到分析模型,可以提高模型分析的准确率。因此本发明提出的适用规则分析方法、装置、电子设备及计算机可读存储介质,可以解决适用规则分析准确性较低的问题。
附图说明
图1为本发明一实施例提供的适用规则分析方法的流程示意图;
图2为图1中其中一个步骤的详细实施流程示意图;
图3为图1中另一个步骤的详细实施流程示意图;
图4为图1中另一个步骤的详细实施流程示意图;
图5为图1中另一个步骤的详细实施流程示意图;
图6为本发明一实施例提供的适用规则分析装置的功能模块图;
图7为本发明一实施例提供的实现所述适用规则分析方法的电子设备的结构示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例提供一种适用规则分析方法。所述适用规则分析方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述适用规则分析方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。
参照图1所示,为本发明一实施例提供的适用规则分析方法的流程示意图。在本实施例中,所述适用规则分析方法包括:
S1、获取事实描述集及对应的规则描述集。
本发明实施例中,所述事实描述集包括对不同领域中各种事物的事实描述文本;以及所述规则描述集包括对所述各种事物的定义及概念的规则描述文本。例如,在司法领域,所述事实描述集中的事实描述文本可以为案件描述文本,对应的所述规则描述可以为法条描述文本。
本发明实施通过获取事实描述集及对应的规则描述集,以组成用于模型训练的原始数据集合。
S2、对所述事实描述集进行分词及数据增强处理,得到标准事实描述集,及对所述规则描述集进行分词处理,得到关键词集,并根据所述标准事实描述集及所述关键词集得到关键词标签。
参考图2所示,所述对所述事实描述集进行分词及数据增强处理,得到标准事实描述集,包括:
S20、利用预设的分词算法对所述事实描述集中的事实描述文本进行分词及过滤处理,得到分词结果集;
S21、对所述分词结果集中的词进行特征选择,得到特征结果集;
S22、对所述特征结果集中预设比例的词进行重抽样,对重抽样后的事实描述文本再次进行分词及过滤,得到增强特征结果集;
S23、汇总所述增强特征结果集及所述特征结果集中未进行重抽样的词得到所述标准事实描述集。
本发明其中一个实施例中,所述利用预设的分词算法对所述事实描述集中的事实描述文本进行分词及过滤处理,得到分词结果集,包括:
获取预设的专有词汇词表,基于所述专有词汇词表对所述事实描述集中的事实描述文本进行分词,得到初始分词结果;
除去所述初始分词结果中的停用词,并过滤掉预设长度的字符,得到所述分词结果集。
其中,所述专有词汇表可以为包含法律专家整理出的法律专有词汇的词表。
其中,所述停用词可以包括助词、介词、数量词等,以及所述预设长度可以为1字符。
进一步地,所述特征选择是指在过滤后得到的所述分词结果集中计算每个词的重要度,并根据所述重要度选择预设数量的词。本发明实施例中可以使用tf-idf算法计算所述重要度。所述数据增强是指对于重要度的计算结果中,当大于预设阈值的重要度的词较少时,在所述重要度从大到小的排序中,选取预设比例的词,重抽样所述词对应的事实描述文本,并对所述事实描述文本进行分词及过滤,本发明实施例中,所述重抽样的比例不超过原来事实描述文本的十倍。
进一步地,所述对所述规则描述集进行分词处理,得到关键词集,并根据所述标准事实描述集及所述关键词集得到关键词标签,包括:
利用所述预设的分词算法对所述规则描述集中的规则描述文本进行分词及过滤处理,得到关键词集;
利用预构建的多标签模型对所述标准事实描述集进行分析,从所述关键词集中分析出与所述事实描述文本对应的关键词标签。
其中,所述预构建的多分类模型可以为svm多标签模型。所述svm多标签模型的核函数可以采用径向基函数。本发明实施例中,利用通过训练之后的svm多标签模型可以从所述关键词集中分析出与所述事实描述对应的关键词标签。
本发明实施例中,通过将所述规则描述集进行分词处理形成关键词集,并根据所述关键词集为相应的事实描述打上关键词标签,可以提高模型整体的分析准确率。
S3、对所述标准事实描述集及所述关键词标签分别进行编码转换,得到事实编码集及关键词编码集,汇总所述事实编码集及所述关键词编码集得到编码集合。
本发明其中一个实施例中,参考图3所示,所述对所述标准事实描述集及所述关键词标签分别进行编码转换,得到事实编码集及关键词编码集,包括:
S30、利用预设的第一编码方法对所述标准事实描述集进行编码处理,得到所述事实编码集;
S31、利用预设的第二编码方法对所述关键词标签进行编码处理,得到所述关键词编码集。
其中,所述第一编码方法可以为统计模型的tf-idf方法及bert_tokenizer 编码。
详细地,所述利用预设的第二编码方法对所述关键词标签进行编码处理,得到所述关键词编码集,包括:
获取预构建的关键词库,计算所述关键词标签中的文本与所述关键词库中的词的相似度,将所述相似度作为关键词编码时关键词的权重;
基于所述权重,利用所述第二编码方法对所述关键词标签中的文本进行编码处理,得到所述关键词编码集。
其中,所述第二编码方法可以为含有注意(attention)机制的word2vec 编码。所述预设的关键词库可以采用对法条内容描述抽取关键词,组成关于法条的关键词库。本发明实施例中,利用所述attention机制,计算关键词标签文本与关键词库中的词的相似度,作为对关键词编码时关键词的权重。
本发明实施例利用不同的编码方法对所述标准事实描述集及所述关键词标签进行编码处理,编码转化效率较高。
S4、通过所述编码集合对预构建的分类模型进行训练,得到分析模型。
本发明实施例中,所述预构建的分类模型可以采用基于bert的单句分类任务的fine-tune后的bert模型、TextCNN模型及残差CNN模型三个分类模型的融合,同时三个模型的输出层拼接后通过全连接层连接sigmiod函数作类别输出,通过所述sigmiod函数输出所述分析结果。
参考图4所示,本发明其中一个实施例中,所述通过所述编码集合对预构建的分类模型进行训练,得到分析模型,包括:
S40、利用所述预构建的分类模型对所述编码集合进行分析计算,得到分析结果;
S41、计算所述分析结果与事实描述对应标签的相似度;
S42、判断所述相似度是否小于预设的阈值,当所述相似度小于预设的阈值时,调整所述预构建的分类模型的参数,并重新返回上述的S40;
当所述准确度大于等于所述预设的阈值时,执行S43、将对应的分类模型作为分析模型。
本发明实施例中,所述分析模型中包含多个分类模型,可以提高模型分析的准确率。
S5、利用所述分析模型对待检测事实描述集进行规则分析,得到最终规则分析结果。
参阅图5所示,本发明其中一个实施例中,所述S5包括:
S50、利用所述分析模型对所述待检测事实描述集进行分析,得到预测候选集;
S51、通过预设的过滤规则对所述预测候选集进行规则过滤,得到所述最终规则分析结果。
本发明实施例中,所述预测候选集可以包括用户根据实践人为预先定义的规则,以对所述分析模型得到的预测候选集进行校正。
比如,利用本发明实施例所述分析模型对待检测事实描述进行分析时,得到的预测候选集可能是“盗窃罪”或“抢劫罪”。本发明实施例利用预设的过滤规则(比如,“盗窃罪”需包含”窃”字)来筛选出最后事实描述的罪名“抢劫罪”。本发明实施例通过所述预设的过滤规则对所述预测候选集进一步过滤筛选,进一步提高了模型分析准确率。
本发明通过对所述规则描述集进行数据处理形成关键词集,并根据所述关键词集为相应的事实描述打上关键词标签,可以提高模型整体的分析准确率,并且利用不同的编码方法对所述标准事实描述集及所述关键词标签进行编码处理,编码转化效率较高,同时通过所述编码集合对预构建的分类模型进行训练,得到分析模型,可以提高模型分析的准确率。因此,本发明实施例可以解决适用规则分析准确性较低的问题。
如图6所示,是本发明一实施例提供的适用规则分析装置的功能模块图。
本发明所述适用规则分析装置100可以安装于电子设备中。根据实现的功能,所述适用规则分析装置100可以包括文本获取模块101、文本处理模块 102、编码转换模块103、模型训练模块104及规则分析模块105。本发明所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述文本获取模块101,用于获取事实描述集及对应的规则描述集。
本发明实施例中,所述事实描述集包括对不同领域中各种事物的事实描述文本;以及所述规则描述集包括对所述各种事物的定义及概念的规则描述文本,例如,在司法领域,所述事实描述集中的事实描述文本可以为案件描述文本,对应的所述规则描述可以为法条描述文本。
本发明实施通过获取事实描述集及对应的规则描述集,以组成用于模型训练的原始数据集合。
所述文本处理模块102,用于对所述事实描述集进行分词及数据增强处理,得到标准事实描述集,及对所述规则描述集进行分词处理,得到关键词集,并根据所述标准事实描述集及所述关键词集得到关键词标签。
较佳地,所述文本处理模块102通过下述操作得到所述标准事实描述集:
利用预设的分词算法对所述事实描述集中的事实描述文本进行分词及过滤处理,得到分词结果集;
对所述分词结果集中的词进行特征选择,得到特征结果集;
对所述特征结果集中预设比例的词进行重抽样,对重抽样后的事实描述文本再次进行分词及过滤,得到增强特征结果集;
汇总所述增强特征结果集及所述特征结果集中未进行重抽样的词得到所述标准事实描述集。
本发明其中一个实施例中,所述文本处理模块102通过下述操作得到所述分词结果集:
获取预设的专有词汇词表,基于所述专有词汇词表对所述事实描述集中的事实描述文本进行分词,得到初始分词结果;
除去所述初始分词结果中的停用词,并过滤掉预设长度的字符,得到所述分词结果集。
其中,所述专有词汇表可以为包含法律专家整理出的法律专有词汇的词表。
其中,所述停用词可以包括助词、介词、数量词等,以及所述预设长度可以为1字符。
进一步地,所述特征选择是指在过滤后得到的所述分词结果集中计算每个词的重要度,并根据所述重要度选择预设数量的词。本发明实施例中可以使用tf-idf算法计算所述重要度。所述数据增强是指对于重要度的计算结果中,当大于预设阈值的重要度的词较少时,在所述重要度从大到小的排序中,选取预设比例的词,重抽样所述词对应的事实描述文本,并对所述事实描述文本进行分词及过滤,本发明实施例中,所述重抽样的比例不超过原来事实描述文本的十倍。
进一步地,所述文本处理模块102通过下述操作得到关键词标签:
利用所述预设的分词算法对所述规则描述集中的规则描述文本进行分词及过滤处理,得到关键词集;
利用预构建的多标签模型对所述标准事实描述集进行分析,从所述关键词集中分析出与所述事实描述文本对应的关键词标签。
其中,所述预构建的多分类模型可以为svm多标签模型。所述svm多标签模型的核函数可以采用径向基函数。本发明实施例中,利用通过训练之后的svm多标签模型可以从所述关键词集中分析出与所述事实描述对应的关键词标签。
本发明实施例中,通过将所述规则描述集进行分词处理形成关键词集,并根据所述关键词集为相应的事实描述打上关键词标签,可以提高模型整体的分析准确率。
所述编码转换模块103,用于对所述标准事实描述集及所述关键词标签分别进行编码转换,得到事实编码集及关键词编码集,汇总所述事实编码集及所述关键词编码集得到编码集合。
较佳地,所述编码转换模块103通过下述操作得到所述事实编码集及关键词编码集:
利用预设的第一编码方法对所述标准事实描述集进行编码处理,得到所述事实编码集;
利用预设的第二编码方法对所述关键词标签进行编码处理,得到所述关键词编码集。
其中,所述第一编码方法可以为统计模型的tf-idf方法及bert_tokenizer 编码。
详细地,所述编码转换模块103通过下述操作得到所述关键词编码集:
获取预构建的关键词库,计算所述关键词标签中的文本与所述关键词库中的词的相似度,将所述相似度作为关键词编码时关键词的权重;
基于所述权重,利用所述第二编码方法对所述关键词标签中的文本进行编码处理,得到所述关键词编码集。
其中,所述第二编码方法可以为含有注意(attention)机制的word2vec 编码。所述预设的关键词库可以采用对法条内容描述抽取关键词,组成关于法条的关键词库。本发明实施例中,利用所述attention机制,计算关键词标签文本与关键词库中的词的相似度,作为对关键词编码时关键词的权重。
本发明实施例利用不同的编码方法对所述标准事实描述集及所述关键词标签进行编码处理,编码转化效率较高。
所述模型训练模块104,用于通过所述编码集合对预构建的分类模型进行训练,得到分析模型。
本发明实施例中,所述预构建的分类模型可以采用基于bert的单句分类任务的fine-tune后的bert模型、TextCNN模型及残差CNN模型三个分类模型的融合,同时三个模型的输出层拼接后通过全连接层连接sigmiod函数作类别输出,通过所述sigmiod函数输出所述分析结果。
本发明其中一个实施例中,所述模型训练模块104包括:
第一计算单元,用于利用所述预构建的分类模型对所述编码集合进行分析计算,得到分析结果;
第二计算单元,用于计算所述分析结果与事实描述对应标签的相似度;
模型调整单元,用于判断所述相似度是否小于预设的阈值,当所述相似度小于预设的阈值时,调整所述预构建的分类模型的参数,并重新返回上述的第一计算单元;
模型生成单元,用于当所述准确度大于等于所述预设的阈值时,将对应的分类模型作为分析模型。
本发明实施例中,所述分析模型中包含多个分类模型,可以提高模型分析的准确率。
所述规则分析模块105,用于利用所述分析模型对待检测事实描述集进行规则分析,得到最终规则分析结果。
本发明其中一个实施例中,所述规则分析模块105通过下述操作得到所述最终规则分析结果:
利用所述分析模型对所述待检测事实描述集进行分析,得到预测候选集;
通过预设的过滤规则对所述预测候选集进行规则过滤,得到所述最终规则分析结果。
本发明实施例中,所述预测候选集可以包括用户根据实践人为预先定义的规则,以对所述分析模型得到的预测候选集进行校正。
比如,利用本发明实施例所述分析模型对待检测事实描述进行分析时,得到的预测候选集可能是“盗窃罪”或“抢劫罪”。本发明实施例利用预设的过滤规则(比如,“盗窃罪”需包含”窃”字)来筛选出最后事实描述的罪名“抢劫罪”。本发明实施例通过所述预设的过滤规则对所述预测候选集进一步过滤筛选,进一步提高了模型分析准确率。
如图7所示,是本发明一实施例提供的实现适用规则分析方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如适用规则分析程序12。
其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字 (SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器 11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如适用规则分析程序12的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10 是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块 (例如适用规则分析程序等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图7仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图7 示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源 (比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10 逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器 (Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED 显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的适用规则分析程序12是多个指令的组合,在所述处理器10中运行时,可以实现:
获取事实描述集及对应的规则描述集;
对所述事实描述集进行分词及数据增强处理,得到标准事实描述集,及对所述规则描述集进行分词处理,得到关键词集,并根据所述标准事实描述集及所述关键词集得到关键词标签;
对所述标准事实描述集及所述关键词标签分别进行编码转换,得到事实编码集及关键词编码集,汇总所述事实编码集及所述关键词编码集得到编码集合;
通过所述编码集合对预构建的分类模型进行训练,得到分析模型;
利用所述分析模型对待检测事实描述集进行规则分析,得到最终规则分析结果。
具体地,所述处理器10对上述指令的具体实现方法可参考图1至图5对应实施例中相关步骤的描述,在此不赘述。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。所述计算机可读存储介质可以是易失性的,也可以是非易失性的。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器 (ROM,Read-Only Memory)。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种适用规则分析方法,其特征在于,所述方法包括:
获取事实描述集及对应的规则描述集;
对所述事实描述集进行分词及数据增强处理,得到标准事实描述集;对所述规则描述集进行分词处理,得到关键词集;
根据所述标准事实描述集及所述关键词集得到关键词标签;
对所述标准事实描述集及所述关键词标签分别进行编码转换,得到事实编码集及关键词编码集,汇总所述事实编码集及所述关键词编码集得到编码集合;
通过所述编码集合对预构建的分类模型进行训练,得到分析模型;
利用所述分析模型对待检测事实描述集进行规则分析,得到最终规则分析结果。
2.如权利要求1所述的适用规则分析方法,其特征在于,所述对所述事实描述集进行分词及数据增强处理,得到标准事实描述集,包括:
利用预设的分词算法对所述事实描述集中的事实描述文本进行分词及过滤处理,得到分词结果集;
对所述分词结果集中的词进行特征选择,得到特征结果集;
对所述特征结果集中预设比例的词进行重抽样,对重抽样后的事实描述文本再次进行分词及过滤,得到增强特征结果集;
汇总所述增强特征结果集及所述特征结果集中未进行重抽样的词得到所述标准事实描述集。
3.如权利要求2所述的适用规则分析方法,其特征在于,所述利用预设的分词算法对所述事实描述集中的事实描述文本进行分词及过滤处理,得到分词结果集,包括:
获取预设的专有词汇词表,基于所述专有词汇词表对所述事实描述集中的事实描述文本进行分词,得到初始分词结果;
除去所述初始分词结果中的停用词,并过滤掉预设长度的字符,得到所述分词结果集。
4.如权利要求1所述的适用规则分析方法,其特征在于,所述对所述规则描述集进行分词处理,得到关键词集,并根据所述标准事实描述集及所述关键词集得到关键词标签,包括:
利用所述预设的分词算法对所述规则描述集中的规则描述文本进行分词及过滤处理,得到关键词集;
利用预构建的多标签模型对所述标准事实描述集进行分析,从所述关键词集中分析出与所述事实描述文本对应的关键词标签。
5.如权利要求1所述的适用规则分析方法,其特征在于,所述对所述标准事实描述集及所述关键词标签分别进行编码转换,得到事实编码集及关键词编码集,包括:
利用预设的第一编码方法对所述标准事实描述集进行编码处理,得到所述事实编码集;
利用预设的第二编码方法对所述关键词标签进行编码处理,得到所述关键词编码集。
6.如权利要求5所述的适用规则分析方法,其特征在于,所述利用预设的第二编码方法对所述关键词标签进行编码处理,得到所述关键词编码集,包括:
获取预构建的关键词库,计算所述关键词标签中的文本与所述关键词库中的词的相似度,将所述相似度作为关键词编码时关键词的权重;
基于所述权重,利用所述第二编码方法对所述关键词标签中的文本进行编码处理,得到所述关键词编码集。
7.如权利要求1至6中任意一项所述的适用规则分析方法,其特征在于,所述利用所述分析模型对待检测事实描述集进行规则分析,得到最终规则分析结果,包括:
利用所述分析模型对所述待检测事实描述集进行分析,得到预测候选集;
通过预设的过滤规则对所述预测候选集进行规则过滤,得到所述最终规则分析结果。
8.一种适用规则分析装置,其特征在于,所述装置包括:
文本获取模块,用于获取事实描述集及对应的规则描述集;
文本处理模块,用于对所述事实描述集进行分词及数据增强处理,得到标准事实描述集,对所述规则描述集进行分词处理得到关键词集,根据所述标准事实描述集及所述关键词集得到关键词标签;
编码转换模块,用于对所述标准事实描述集及所述关键词标签分别进行编码转换,得到事实编码集及关键词编码集,汇总所述事实编码集及所述关键词编码集得到编码集合;
模型训练模块,用于通过所述编码集合对预构建的分类模型进行训练,得到分析模型;
规则分析模块,用于利用所述分析模型对待检测事实描述集进行规则分析,得到最终规则分析结果。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至7中任意一项所述的适用规则分析方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任意一项所述的适用规则分析方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011221079.2A CN112347739A (zh) | 2020-11-05 | 2020-11-05 | 适用规则分析方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011221079.2A CN112347739A (zh) | 2020-11-05 | 2020-11-05 | 适用规则分析方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112347739A true CN112347739A (zh) | 2021-02-09 |
Family
ID=74428743
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011221079.2A Pending CN112347739A (zh) | 2020-11-05 | 2020-11-05 | 适用规则分析方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112347739A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114386496A (zh) * | 2021-12-30 | 2022-04-22 | 深圳前海微众银行股份有限公司 | 一种数据处理方法、装置、设备及存储介质 |
CN118364105A (zh) * | 2024-04-26 | 2024-07-19 | 武汉数博科技有限责任公司 | 一种用于文件合规性审计的审计线索确定方法及装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110610005A (zh) * | 2019-09-16 | 2019-12-24 | 哈尔滨工业大学 | 基于深度学习的盗窃罪辅助量刑方法 |
CN110750635A (zh) * | 2019-10-21 | 2020-02-04 | 南京大学 | 一种基于联合深度学习模型的法条推荐方法 |
CN111651594A (zh) * | 2020-05-15 | 2020-09-11 | 上海交通大学 | 基于键值记忆网络的案件案由分类方法及介质 |
-
2020
- 2020-11-05 CN CN202011221079.2A patent/CN112347739A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110610005A (zh) * | 2019-09-16 | 2019-12-24 | 哈尔滨工业大学 | 基于深度学习的盗窃罪辅助量刑方法 |
CN110750635A (zh) * | 2019-10-21 | 2020-02-04 | 南京大学 | 一种基于联合深度学习模型的法条推荐方法 |
CN111651594A (zh) * | 2020-05-15 | 2020-09-11 | 上海交通大学 | 基于键值记忆网络的案件案由分类方法及介质 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114386496A (zh) * | 2021-12-30 | 2022-04-22 | 深圳前海微众银行股份有限公司 | 一种数据处理方法、装置、设备及存储介质 |
CN118364105A (zh) * | 2024-04-26 | 2024-07-19 | 武汉数博科技有限责任公司 | 一种用于文件合规性审计的审计线索确定方法及装置 |
CN118364105B (zh) * | 2024-04-26 | 2024-10-08 | 武汉数博科技有限责任公司 | 一种用于文件合规性审计的审计线索确定方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112597312A (zh) | 文本分类方法、装置、电子设备及可读存储介质 | |
CN113157927A (zh) | 文本分类方法、装置、电子设备及可读存储介质 | |
CN113360654B (zh) | 文本分类方法、装置、电子设备及可读存储介质 | |
CN112883190A (zh) | 文本分类方法、装置、电子设备及存储介质 | |
CN113704429A (zh) | 基于半监督学习的意图识别方法、装置、设备及介质 | |
CN112988963A (zh) | 基于多流程节点的用户意图预测方法、装置、设备及介质 | |
CN112528013A (zh) | 文本摘要提取方法、装置、电子设备及存储介质 | |
CN113064994A (zh) | 会议质量评估方法、装置、设备及存储介质 | |
CN114398557A (zh) | 基于双画像的信息推荐方法、装置、电子设备及存储介质 | |
CN112347739A (zh) | 适用规则分析方法、装置、电子设备及存储介质 | |
CN115471775A (zh) | 基于录屏视频的信息验证方法、装置、设备及存储介质 | |
CN114880449A (zh) | 智能问答的答复生成方法、装置、电子设备及存储介质 | |
CN114840684A (zh) | 基于医疗实体的图谱构建方法、装置、设备及存储介质 | |
CN114708073B (zh) | 一种围标串标智能检测方法、装置、电子设备及存储介质 | |
CN114625340B (zh) | 基于需求分析的商用软件研发方法、装置、设备及介质 | |
CN115146064A (zh) | 意图识别模型优化方法、装置、设备及存储介质 | |
CN114943306A (zh) | 意图分类方法、装置、设备及存储介质 | |
CN115203364A (zh) | 软件故障反馈处理方法、装置、设备及可读存储介质 | |
CN113706207A (zh) | 基于语义解析的订单成交率分析方法、装置、设备及介质 | |
CN114385815A (zh) | 基于业务需求的新闻筛选方法、装置、设备及存储介质 | |
CN114780688A (zh) | 基于规则匹配的文本质检方法、装置、设备及存储介质 | |
CN113806540A (zh) | 文本打标签方法、装置、电子设备及存储介质 | |
CN114219367A (zh) | 用户评分方法、装置、设备及存储介质 | |
CN114006986A (zh) | 外呼合规预警方法、装置、设备及存储介质 | |
CN113626605A (zh) | 信息分类方法、装置、电子设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |