CN110532561B - 数据检测方法及装置、存储介质、电子装置 - Google Patents
数据检测方法及装置、存储介质、电子装置 Download PDFInfo
- Publication number
- CN110532561B CN110532561B CN201910819021.9A CN201910819021A CN110532561B CN 110532561 B CN110532561 B CN 110532561B CN 201910819021 A CN201910819021 A CN 201910819021A CN 110532561 B CN110532561 B CN 110532561B
- Authority
- CN
- China
- Prior art keywords
- field
- sequence
- word
- detected
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/90335—Query processing
- G06F16/90344—Query processing by using string matching techniques
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Machine Translation (AREA)
Abstract
本发明提供了一种数据检测方法及装置、存储介质、电子装置,该方法包括:对待检测字段进行第一目的语言的分词处理,得到组成待检测字段的词语序列;将词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果,其中,N个匹配结果中包括各个词语是否包含在N个字段字符串中的每个字段字符串中,N是自然数;统计各个词语包含在每个字段字符串的数量,得到数值序列,其中,数值序列中包括N个数值;根据数值序列对待检测字段对应的数据进行检测。通过本发明,解决了对错误数据的检测的问题,达到准确检测出错误数据的效果。
Description
技术领域
本发明涉及通信领域,具体而言,涉及一种数据检测方法及装置、存储介质、电子装置。
背景技术
随着信息技术的发展,大规模数据的治理工作成为亟待解决的问题,其中错误数据的检测是数据治理中一个非常重要的任务。错误数据给数据分析和数据应用往往带来致命的影响。比如原始数据中,“实体人”数据表由性别、民族等字段。性别字段一般会有由“男”和“女”,或“male”和“female”组成,但是由于原始数据表中的数据是未经过处理的,在数据录入、传输、存储过程可能引入很多噪声,导致该字段的不止含有“男”和“女”两个值,而包含其他的错误数据。错误数据的存在是低质量数据的主要产生原因。因此,高效的错误数据检查方法是数据治理必须重视的一环。
错误数据检测方法是指对数据表字段中的不合规数据进行检测,进而保证后续数据的正确应用。目前大多数错误数据检测方法主要集中在对字段空值检测或者对有特定规则的字段进行检测(如“身份证号”字段)。其检测方法简单有效,但是这种方法存在两个明显的缺陷。第一,该方法必须建立在已知字段类型的前提下,即必须事先知道该字段是性别字段、或身份证号字段,才能使用相应的规则进行错误数据检测;第二,该方法仅仅适用于在具体规则约束下的字段。如性别字段一般是“男”和“女”的枚举。
针对上述技术问题,相关技术中尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种数据检测方法及装置、存储介质、电子装置,以至少解决相关技术中对错误数据的检测的问题。
根据本发明的一个实施例,提供了一种数据检测方法,包括:对待检测字段进行第一目的语言的分词处理,得到组成上述待检测字段的词语序列;将上述词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果,其中,上述N个匹配结果中包括上述各个词语是否包含在上述N个字段字符串中的每个字段字符串中,上述N是自然数;统计上述各个词语包含在上述每个字段字符串的数量,得到数值序列,其中,上述数值序列中包括N个数值;根据上述数值序列对上述待检测字段对应的数据进行检测。
可选地,将上述词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到上述N个匹配结果之前,上述方法还包括:确定出字段数据库,其中,上述字段数据库中包括上述N个字段字符串中每个字段字符串的以下信息至少之一:字段名称,字段类型,上述字段字符串对应的字典表,上述字典表用于存储上述字段字符串的取值;从上述字段数据库中确定出上述字段字符串。
可选地,将上述词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到上述N个匹配结果,包括:将上述词语序列中的各个词语分别与上述N个字段字符串中每个字段字符串进行迭代匹配,得到上述N个匹配结果。
可选地,统计上述各个词语包含在上述每个字段字符串的数量,得到数值序列,包括:迭代获取上述各个词语包含在上述每个字段字符串中的数量,得到上述数值序列,其中,上述数值序列中包括上述各个词语中包含在每一个字段字符串中的数量。
可选地,根据上述数值序列对上述待检测字段进行检测,包括:将上述数值序列中的第一最大值所对应的字段字符串的字段类型确定为上述待检测字段的字段类型,其中,上述第一最大值不等于0,上述第一最大值大于第一预设阈值;遍历上述待检测字段中的数据;将上述待检测字段中的数据与上述待检测字段对应的数据字典进行比对,得到第一比对结果,其中,上述第一比对结果中包括上述待检测字段中的异常数据。
根据本发明的另一个实施例,提供了一种数据检测装置,包括:第一确定模块,用于对待检测字段进行第一目的语言的分词处理,得到组成上述待检测字段的词语序列;第二确定模块,用于将上述词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果,其中,上述N个匹配结果中包括上述各个词语是否包含在上述N个字段字符串中的每个字段字符串中,上述N是自然数;第三确定模块,用于统计上述各个词语包含在上述每个字段字符串的数量,得到数值序列,其中,上述数值序列中包括N个数值;第一检测模块,用于根据上述数值序列对上述待检测字段对应的数据进行检测。
根据本发明的又一个实施例,还提供了一种存储介质,所述存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。
根据本发明的又一个实施例,还提供了一种电子装置,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。
通过本发明,由于对待检测字段进行第一目的语言的分词处理,得到组成待检测字段的词语序列;将词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果,其中,N个匹配结果中包括各个词语是否包含在N个字段字符串中的每个字段字符串中,N是自然数;统计各个词语包含在每个字段字符串的数量,得到数值序列,其中,数值序列中包括N个数值;根据数值序列对待检测字段对应的数据进行检测。可以实现对待检测字段中的错误数据进行检测。因此,可以解决对错误数据的检测的问题,达到准确检测出错误数据的效果。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是本发明实施例的一种数据检测方法的移动终端的硬件结构框图;
图2是根据本发明实施例的数据检测方法的流程图;
图3是本实施例中的错误数据的自动检测方法的流程图(一);
图4是本实施例中的错误数据的自动检测方法的流程图(二);
图5是根据本发明实施例的数据检测装置的结构框图。
具体实施方式
下文中将参考附图并结合实施例来详细说明本发明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
本申请实施例所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。以运行在移动终端上为例,图1是本发明实施例的一种数据检测方法的移动终端的硬件结构框图。如图1所示,移动终端10可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)和用于存储数据的存储器104,可选地,上述移动终端还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解,图1所示的结构仅为示意,其并不对上述移动终端的结构造成限定。例如,移动终端10还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。
存储器104可用于存储计算机程序,例如,应用软件的软件程序以及模块,如本发明实施例中的数据检测方法对应的计算机程序,处理器102通过运行存储在存储器104内的计算机程序,从而执行各种功能应用以及数据处理,即实现上述的方法。存储器104可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器104可进一步包括相对于处理器102远程设置的存储器,这些远程存储器可以通过网络连接至移动终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括移动终端10的通信供应商提供的无线网络。在一个实例中,传输装置106包括一个网络适配器(Network Interface Controller,简称为NIC),其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中,传输装置106可以为射频(Radio Frequency,简称为RF)模块,其用于通过无线方式与互联网进行通讯。
在本实施例中提供了一种数据检测方法,图2是根据本发明实施例的数据检测方法的流程图,如图2所示,该流程包括如下步骤:
步骤S202,对待检测字段进行第一目的语言的分词处理,得到组成待检测字段的词语序列;
可选地,在本实施例中,待检测字段包括但不限于是数据表中的字段名称,例如,“出入境车辆信息表”。对“出入境车辆信息表”进行第一目的语言的分词处理,可以得到“出入、入境、车、车辆、信息、表”,可以用符号表示为:W=(w1,w2,K,ww)。第一目的语言可以是中文,也可以是其他语言。
步骤S204,将词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果,其中,N个匹配结果中包括各个词语是否包含在N个字段字符串中的每个字段字符串中,N是自然数;
可选地,例如,利用字段Ki=(Ai,Ti,Ci),i∈(1,N)与待检测字段中文分词进行比较。其中,N表示字段数量,Ai表示字段名,Ti表示字段类型,Ci表示字段对应的字典表,字典表用以存储该字段的所有取值。
可选地,迭代待检测字段分词序列W=(w1,w2,K,ww),检测是否属于字段名Ai的子字符串。
步骤S206,统计各个词语包含在每个字段字符串的数量,得到数值序列,其中,数值序列中包括N个数值;
可选地,统计字段分词序列W=(w1,w2,K,ww)中属于字段名Ai的单词个数ti。迭代地获取待检测字段在所有数据库中字段中的值t,最终得到N个数值(t1,t2,K,tN)。
步骤S208,根据数值序列对待检测字段对应的数据进行检测。
通过上述步骤,由于对待检测字段进行第一目的语言的分词处理,得到组成待检测字段的词语序列;将词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果,其中,N个匹配结果中包括各个词语是否包含在N个字段字符串中的每个字段字符串中,N是自然数;统计各个词语包含在每个字段字符串的数量,得到数值序列,其中,数值序列中包括N个数值;根据数值序列对待检测字段对应的数据进行检测。可以实现对待检测字段中的错误数据进行检测。因此,可以解决对错误数据的检测的问题,达到准确检测出错误数据的效果。
可选地,上述步骤的执行主体可以为终端等,但不限于此。
可选地,上述实施例包括但不限于应用于对数据进行检测的场景中。
在一个可选的实施例中,将词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果之前,方法还包括:
S1,确定出字段数据库,其中,字段数据库中包括N个字段字符串中每个字段字符串的以下信息至少之一:字段名称,字段类型,字段字符串对应的字典表,字典表用于存储字段字符串的取值;
S2,从字段数据库中确定出字段字符串。
可选地,在本实施例中,字段数据库中包括多个字段,例如,根据项目积累收集字段数据库K,数据库中包含一系列字段名和字段类型K=((A1,T1,C1),(A2,T2,C2),K,(An,Tn,Cn))(n∈[1,N]),N表示数据库字段数量,An表示字段名,Tn表示字段类型,Cn表示字段对应的字典表,字典表用以存储该字段的所有取值。
在一个可选的实施例中,将词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果,包括:
S1,将词语序列中的各个词语分别与N个字段字符串中每个字段字符串进行迭代匹配,得到N个匹配结果。
可选地,在本实施例中,迭代匹配,可以确定出各个词语是否出现在每个字段字符串中。
在一个可选的实施例中,统计各个词语包含在每个字段字符串的数量,得到数值序列,包括:
S1,迭代获取各个词语包含在每个字段字符串中的数量,得到数值序列,其中,数值序列中包括各个词语中包含在每一个字段字符串中的数量。
可选地,在本实施例中,迭代匹配,可以确定出每个词语是否出现在每个字段字符串中,以统计出词语序列包括在每个字段字符串的词语数量。
在一个可选的实施例中,根据数值序列对待检测字段进行检测,包括:
S1,将数值序列中的第一最大值所对应的字段字符串的字段类型确定为待检测字段的字段类型,其中,第一最大值不等于0,第一最大值大于第一预设阈值;
S2,遍历待检测字段中的数据;
S3,将待检测字段中的数据与待检测字段对应的数据字典进行比对,得到第一比对结果,其中,第一比对结果中包括待检测字段中的异常数据。
可选地,在本实施例中,例如,遍历待检测字段的所有值,依次与数据字典C中的值进行比对,获得匹配计数v,表示待测字段有多少值可以与选择的基础字段字典C相匹配。最终得到(v1,v2,K,vN)。
在一个可选的实施例中,根据数值序列对待检测字段进行检测,包括:
S1,在数值序列中的值均为0的情况下,将数值序列中的值依次与预设字段字典中的值进行比对,得到第二比对结果;
S2,将第二比对结果中的第二最大值对应的字段类型确定对待检测字段的字段类型,其中,第二最大值不等于0,第二最大值大于第二预设阈值;
S3,遍历待检测字段中的数据;
S4,将待检测字段中的数据与待检测字段对应的数据字典进行比对,得到第三比对结果,其中,第三比对结果中包括待检测字段中的异常数据。
可选地,可以从(t1,t2,K,tN)中选择最大值tM,即字段(AM,TM,CM)的类型TM识别为待测字段的类型。如果(t1,t2,K,tN)中值全为0,说明该字段名未能在字段数据库中找到阈值匹配的类型,需根据字段值匹配方式识别待测字段类型。
下面结合具体实施例对本发明进行详细说明:
本实施例主要应用在数据治理对字段错误数据进行检测的场景中,对字段进行自动识别,并对字段中错误数据进行自动检测,从而自动化错误数据检测过程。
图3是本实施例中的错误数据的自动检测方法的流程图(一),如图3所示,包括以下步骤:
S301:收集各项目中字段数据库,包括字段名、字段类型、字段字典表,转到S302;
S302:获取待测字段中文名,并且进行细粒度分词,转到S303;
S303:遍历所有分词中的单词w,转到S304;
S304:循环获取字段数据库中的一个基础字段名Ai,转到S305;
S305:如果基础字段名Ai包含单词w,转到S306,否则转到S303;
S306:基础字段对应的统计值加一,转到S303;
S307:获得计数列表(t1,t2,K,tN),转到S308;
S308:确定待测字段类型,转到S309;
S309:检测错误数据。
图4是本实施例中的错误数据的自动检测方法的流程图(二),如图4所示,包括以下步骤:
S401:收集各项目中字段数据库,包括字段名、字段类型、字段字典表,转到S402;
S402:遍历待测字段所有数据,转到S403;
S403:获取基础字段的数据,转到S404;
S404:两条数据是否匹配,如果匹配,转到S405,否则转到S403;
S405:该基础字段对应的统计值加一,转到S403;
S406:结束遍历,统计待测字段中正确数据占所有数据的比例,转到S407;
S407:获取上一步的比例,如果大于阈值,转到S409,否则转到S408;
S408:人工检测错误数据,并将该待检测字段添加到数据库;
S409:确定待测字段类型,转到S410;
S410:检测错误数据.
综上所述,本实施例集成字段检测和错误数据检测两个过程,首先对待测字段中文名进行细粒度分词、统计所有分词在其他每个基础字段中出现的个数,然后如果能确定待测字段类型,则进行数据全量匹配以检测错误数据;如果尚不能确定待测字段类型,需要根据待测字段数据进行字段类型的识别,如果最终可以确定字段类型,则进行数据全量匹配以检测错误数据,否则转向人工检测错误数据,同时将该字段存入字段数据库。这种方法可以降低错误数据检测的步骤,优化错误数据检测流程,实现错误数据自动检测。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
在本实施例中还提供了一种数据检测装置,该装置用于实现上述实施例及优选实施方式,已经进行过说明的不再赘述。如以下所使用的,术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现,但是硬件,或者软件和硬件的组合的实现也是可能并被构想的。
图5是根据本发明实施例的数据检测装置的结构框图,如图5所示,该装置包括:
第一确定模块52,用于对待检测字段进行第一目的语言的分词处理,得到组成待检测字段的词语序列;
第二确定模块54,用于将词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果,其中,N个匹配结果中包括各个词语是否包含在N个字段字符串中的每个字段字符串中,N是自然数;
第三确定模块56,用于统计各个词语包含在每个字段字符串的数量,得到数值序列,其中,数值序列中包括N个数值;
第一检测模块58,用于根据数值序列对待检测字段对应的数据进行检测。
可选地,上述装置还包括:
第四确定模块,用于将词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果之前,确定出字段数据库,其中,字段数据库中包括N个字段字符串中每个字段字符串的以下信息至少之一:字段名称,字段类型,字段字符串对应的字典表,字典表用于存储字段字符串的取值;
第五确定模块,用于从字段数据库中确定出字段字符串。
可选地,上述第二确定模块,包括:
第一确定单元,用于将词语序列中的各个词语分别与N个字段字符串中每个字段字符串进行迭代匹配,得到N个匹配结果。
可选地,上述第三确定模块,包括:
第二确定单元,用于迭代获取各个词语包含在每个字段字符串中的数量,得到数值序列,其中,数值序列中包括各个词语中包含在每一个字段字符串中的数量。
可选地,上述第一检测模块,包括:
第三确定单元,用于将数值序列中的第一最大值所对应的字段字符串的字段类型确定为待检测字段的字段类型,其中,第一最大值不等于0,第一最大值大于第一预设阈值;
第一遍历单元,用于遍历待检测字段中的数据;
第四确定单元,用于将待检测字段中的数据与待检测字段对应的数据字典进行比对,得到第一比对结果,其中,第一比对结果中包括待检测字段中的异常数据。
可选地,上述第一检测模块,包括:
第五确定单元,用于在数值序列中的值均为0的情况下,将数值序列中的值依次与预设字段字典中的值进行比对,得到第二比对结果;
第六确定单元,用于将第二比对结果中的第二最大值对应的字段类型确定对待检测字段的字段类型,其中,第二最大值不等于0,第二最大值大于第二预设阈值;
第二遍历单元,用于遍历待检测字段中的数据;
第七确定单元,用于将待检测字段中的数据与待检测字段对应的数据字典进行比对,得到第三比对结果,其中,第三比对结果中包括待检测字段中的异常数据。
需要说明的是,上述各个模块是可以通过软件或硬件来实现的,对于后者,可以通过以下方式实现,但不限于此:上述模块均位于同一处理器中;或者,上述各个模块以任意组合的形式分别位于不同的处理器中。
本发明的实施例还提供了一种存储介质,该存储介质中存储有计算机程序,其中,该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。
可选地,在本实施例中,上述存储介质可以被设置为存储用于执行以下步骤的计算机程序:
S1,对待检测字段进行第一目的语言的分词处理,得到组成待检测字段的词语序列;
S2,将词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果,其中,N个匹配结果中包括各个词语是否包含在N个字段字符串中的每个字段字符串中,N是自然数;
S3,统计各个词语包含在每个字段字符串的数量,得到数值序列,其中,数值序列中包括N个数值;
S4,根据数值序列对待检测字段对应的数据进行检测。
可选地,在本实施例中,上述存储介质可以包括但不限于:U盘、只读存储器(Read-Only Memory,简称为ROM)、随机存取存储器(Random Access Memory,简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。
本发明的实施例还提供了一种电子装置,包括存储器和处理器,该存储器中存储有计算机程序,该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。
可选地,上述电子装置还可以包括传输设备以及输入输出设备,其中,该传输设备和上述处理器连接,该输入输出设备和上述处理器连接。
可选地,在本实施例中,上述处理器可以被设置为通过计算机程序执行以下步骤:
S1,对待检测字段进行第一目的语言的分词处理,得到组成待检测字段的词语序列;
S2,将词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果,其中,N个匹配结果中包括各个词语是否包含在N个字段字符串中的每个字段字符串中,N是自然数;
S3,统计各个词语包含在每个字段字符串的数量,得到数值序列,其中,数值序列中包括N个数值;
S4,根据数值序列对待检测字段对应的数据进行检测。
可选地,本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例,本实施例在此不再赘述。
显然,本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,并且在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (7)
1.一种数据检测方法,其特征在于,包括:
对待检测字段进行第一目的语言的分词处理,得到组成所述待检测字段的词语序列;
将所述词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果,其中,所述N个匹配结果中包括所述各个词语是否包含在所述N个字段字符串中的每个字段字符串中,所述N是自然数;
统计所述各个词语包含在所述每个字段字符串的数量,得到数值序列,其中,所述数值序列中包括N个数值;
根据所述数值序列对所述待检测字段对应的数据进行检测;
根据所述数值序列对所述待检测字段进行检测,包括:
将所述数值序列中的第一最大值所对应的字段字符串的字段类型确定为所述待检测字段的字段类型,其中,第一最大值不等于0,所述第一最大值大于第一预设阈值;
遍历所述待检测字段中的数据;
将所述待检测字段中的数据与所述待检测字段对应的数据字典进行比对,得到第一比对结果,其中,所述第一比对结果中包括所述待检测字段中的异常数据;
在数值序列中的值均为0的情况下,将数值序列中的值依 次与预设字段字典中的值进行比对,得到第二比对结果。
2.根据权利要求1所述的方法,其特征在于,将所述词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到所述N个匹配结果之前,所述方法还包括:
确定出字段数据库,其中,所述字段数据库中包括所述N个字段字符串中每个字段字符串的以下信息至少之一:字段名称,字段类型,所述字段字符串对应的字典表,所述字典表用于存储所述字段字符串的取值;
从所述字段数据库中确定出所述字段字符串。
3.根据权利要求1所述的方法,其特征在于,将所述词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到所述N个匹配结果,包括:
将所述词语序列中的各个词语分别与所述N个字段字符串中每个字段字符串进行迭代匹配,得到所述N个匹配结果。
4.根据权利要求1所述的方法,其特征在于,统计所述各个词语包含在所述每个字段字符串的数量,得到数值序列,包括:
迭代获取所述各个词语包含在所述每个字段字符串中的数量,得到所述数值序列,其中,所述数值序列中包括所述各个词语中包含在每一个字段字符串中的数量。
5.一种数据检测装置,其特征在于,包括:
第一确定模块,用于对待检测字段进行第一目的语言的分词处理,得到组成所述待检测字段的词语序列;
第二确定模块,用于将所述词语序列中的各个词语分别与确定的N个字段字符串进行匹配,得到N个匹配结果,其中,所述N个匹配结果中包括所述各个词语是否包含在所述N个字段字符串中的每个字段字符串中,所述N是自然数;
第三确定模块,用于统计所述各个词语包含在所述每个字段字符串的数量,得到数值序列,其中,所述数值序列中包括N个数值;
第一检测模块,用于根据所述数值序列对所述待检测字段对应的数据进行检测;
所述第一检测模块,还用于将所述数值序列中的第一最大值所对应的字段字符串的字段类型确定为所述待检测字段的字段类型,其中,第一最大值不等于0,所述第一最大值大于第一预设阈值;遍历所述待检测字段中的数据;将所述待检测字段中的数据与所述待检测字段对应的数据字典进行比对,得到第一比对结果,其中,所述第一比对结果中包括所述待检测字段中的异常数据;在数值序列中的值均为0的情况下,将数值序列中的值依 次与预设字段字典中的值进行比对,得到第二比对结果。
6.一种存储介质,其特征在于,所述存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行所述权利要求1至4任一项中所述的方法。
7.一种电子装置,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行所述权利要求1至4任一项中所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910819021.9A CN110532561B (zh) | 2019-08-30 | 2019-08-30 | 数据检测方法及装置、存储介质、电子装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910819021.9A CN110532561B (zh) | 2019-08-30 | 2019-08-30 | 数据检测方法及装置、存储介质、电子装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110532561A CN110532561A (zh) | 2019-12-03 |
CN110532561B true CN110532561B (zh) | 2022-12-09 |
Family
ID=68665812
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910819021.9A Active CN110532561B (zh) | 2019-08-30 | 2019-08-30 | 数据检测方法及装置、存储介质、电子装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110532561B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106649251A (zh) * | 2015-10-30 | 2017-05-10 | 北京国双科技有限公司 | 一种中文分词的方法及装置 |
CN106776573A (zh) * | 2016-12-27 | 2017-05-31 | 努比亚技术有限公司 | 一种词库生成方法及装置 |
CN107145571A (zh) * | 2017-05-05 | 2017-09-08 | 广东艾檬电子科技有限公司 | 一种搜索方法及装置 |
CN108256074A (zh) * | 2018-01-17 | 2018-07-06 | 链家网(北京)科技有限公司 | 校验处理的方法、装置、电子设备和存储介质 |
CN108363729A (zh) * | 2018-01-12 | 2018-08-03 | 中国平安人寿保险股份有限公司 | 一种字符串比较方法、装置、终端设备及存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB0413743D0 (en) * | 2004-06-19 | 2004-07-21 | Ibm | Method and system for approximate string matching |
-
2019
- 2019-08-30 CN CN201910819021.9A patent/CN110532561B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106649251A (zh) * | 2015-10-30 | 2017-05-10 | 北京国双科技有限公司 | 一种中文分词的方法及装置 |
CN106776573A (zh) * | 2016-12-27 | 2017-05-31 | 努比亚技术有限公司 | 一种词库生成方法及装置 |
CN107145571A (zh) * | 2017-05-05 | 2017-09-08 | 广东艾檬电子科技有限公司 | 一种搜索方法及装置 |
CN108363729A (zh) * | 2018-01-12 | 2018-08-03 | 中国平安人寿保险股份有限公司 | 一种字符串比较方法、装置、终端设备及存储介质 |
CN108256074A (zh) * | 2018-01-17 | 2018-07-06 | 链家网(北京)科技有限公司 | 校验处理的方法、装置、电子设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110532561A (zh) | 2019-12-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11475321B2 (en) | Automated extraction of rules embedded in software application code using machine learning | |
CN107819627B (zh) | 系统故障处理方法及服务器 | |
US10243967B2 (en) | Method, apparatus and system for detecting fraudulant software promotion | |
CN110427375B (zh) | 字段类别的识别方法及装置 | |
CN110457704B (zh) | 目标字段的确定方法、装置、存储介质及电子装置 | |
CN112364014A (zh) | 数据查询方法、装置、服务器及存储介质 | |
CN112347100B (zh) | 数据库索引优化方法、装置、计算机设备和存储介质 | |
CN114461644A (zh) | 一种数据采集方法、装置、电子设备及存储介质 | |
CN111400448A (zh) | 对象的关联关系分析方法及装置 | |
CN110990350A (zh) | 日志的解析方法及装置 | |
CN112069052A (zh) | 一种异常对象检测方法、装置、设备及存储介质 | |
CN110532561B (zh) | 数据检测方法及装置、存储介质、电子装置 | |
CN110807104B (zh) | 异常信息的确定方法及装置、存储介质、电子装置 | |
CN116074183B (zh) | 一种基于规则引擎的c3超时分析方法、装置及设备 | |
CN112035286A (zh) | 故障原因的确定方法及装置、存储介质、电子装置 | |
CN112434049A (zh) | 表格数据存储方法、装置、存储介质及电子装置 | |
CN110705258A (zh) | 文本实体识别方法及装置 | |
CN105573984A (zh) | 社会经济指标的识别方法及装置 | |
CN116257404A (zh) | 一种日志解析方法及计算设备 | |
CN113535458B (zh) | 异常误报的处理方法及装置、存储介质、终端 | |
CN115344627A (zh) | 数据筛选方法、装置、电子设备及存储介质 | |
CN110427558B (zh) | 资源处理事件的推送方法及装置 | |
CN114595136A (zh) | 一种日志解析方法、装置及设备 | |
CN115080417A (zh) | 一种测试用例自动化生成方法、电子设备及存储介质 | |
CN114090014A (zh) | 程序拆分方法、装置、设备及计算机存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |