CN115049546A - 样本数据处理方法、装置、电子设备及存储介质 - Google Patents
样本数据处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN115049546A CN115049546A CN202210637331.0A CN202210637331A CN115049546A CN 115049546 A CN115049546 A CN 115049546A CN 202210637331 A CN202210637331 A CN 202210637331A CN 115049546 A CN115049546 A CN 115049546A
- Authority
- CN
- China
- Prior art keywords
- sample
- data set
- processed
- image
- sample data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 22
- 238000012549 training Methods 0.000 claims abstract description 168
- 238000012360 testing method Methods 0.000 claims abstract description 89
- 238000013145 classification model Methods 0.000 claims abstract description 85
- 238000012545 processing Methods 0.000 claims abstract description 52
- 238000000034 method Methods 0.000 claims abstract description 45
- 238000004590 computer program Methods 0.000 claims description 4
- 230000000694 effects Effects 0.000 description 16
- 230000008569 process Effects 0.000 description 12
- 208000026350 Inborn Genetic disease Diseases 0.000 description 11
- 208000016361 genetic disease Diseases 0.000 description 11
- 208000026928 Turner syndrome Diseases 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 6
- 238000007781 pre-processing Methods 0.000 description 6
- 238000013136 deep learning model Methods 0.000 description 5
- 230000001815 facial effect Effects 0.000 description 5
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 4
- 238000012790 confirmation Methods 0.000 description 4
- 230000004927 fusion Effects 0.000 description 4
- 230000003044 adaptive effect Effects 0.000 description 3
- 239000002131 composite material Substances 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- 230000007423 decrease Effects 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 235000017965 Asarum canadense Nutrition 0.000 description 1
- 235000000385 Costus speciosus Nutrition 0.000 description 1
- 241000606265 Valeriana jatamansi Species 0.000 description 1
- 235000014687 Zingiber zerumbet Nutrition 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000007500 overflow downdraw method Methods 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
本发明实施例公开了一种样本数据处理方法、装置、电子设备及存储介质,该方法包括:获取样本医学图像以及与样本医学图像相对应的样本原始标签;对分辨率低于预设分辨率的样本医学图像进行超分辨率处理,根据超分辨率处理后的样本医学图像更新样本医学图像;确定至少两个目标类别,分别根据与每个目标类别对应的样本医学图像和与每个样本医学图像对应的样本原始标签确定与每个目标类别相对应的子样本数据集;确定子样本数据集中的待处理样本数据集,对每个待处理样本数据集,通过两阶段分类模型训练和测试,更新待处理样本数据集;基于更新后的子样本数据集确定样本数据集。本发明实施例提高了样本医学图像的图像质量以及样本原始标签的准确度。
Description
技术领域
本发明实施例涉及数据处理技术,尤其涉及一种样本数据处理方法、装置、电子设备及存储介质。
背景技术
在图像分类领域,基于深度学习模型进行分类已经得到广泛的应用。在进行深度学习模型训练时,样本数据的质量对模型的效果有较大的影响。
在对深度学习模型进行训练时,通常会出现样本图像质量较差,或者出现样本标签不准确的问题。若基于这些原始样本对深度学习模型进行训练,得到的图像分类模型可能存在泛化能力差以及分类准确率低的问题。
发明内容
本发明实施例提供了一种样本数据处理方法、装置、电子设备及存储介质,以实现提高样本医学图像的图像质量以及样本原始标签的准确度的效果,以便后续能够更好的进行模型训练。
第一方面,本发明实施例提供了一种样本数据处理方法,该方法包括:
获取样本医学图像以及与所述样本医学图像相对应的样本原始标签;
针对分辨率低于预设分辨率的所述样本医学图像进行超分辨率处理,根据超分辨率处理后的样本医学图像更新所述样本医学图像;
确定至少两个目标类别,并分别根据与每个目标类别对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,确定与每个目标类别相对应的子样本数据集;
确定所述子样本数据集中的待处理样本数据集,针对每个待处理样本数据集,通过两阶段分类模型训练和测试,更新所述待处理样本数据集;
基于更新后的子样本数据集,确定样本数据集。
第二方面,本发明实施例还提供了一种样本数据处理装置,该装置包括:
样本原始数据获取模块,用于获取样本医学图像以及与所述样本医学图像相对应的样本原始标签;
样本医学图像更新模块,用于针对分辨率低于预设分辨率的所述样本医学图像进行超分辨率处理,根据超分辨率处理后的样本医学图像更新所述样本医学图像;
子样本数据集拆分模块,用于确定至少两个目标类别,并分别根据与每个目标类别对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,确定与每个目标类别相对应的子样本数据集;
待处理样本数据集更新模块,用于确定所述子样本数据集中的待处理样本数据集,针对每个待处理样本数据集,通过两阶段分类模型训练和测试,更新所述待处理样本数据集;
样本数据集确定模块,用于基于更新后的子样本数据集,确定样本数据集。
第三方面,本发明实施例还提供了一种电子设备,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明实施例任一所述的样本数据处理方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明实施例任一所述的样本数据处理方法。
本发明实施例的技术方案,通过获取样本医学图像以及与样本医学图像相对应的样本原始标签,针对分辨率低于预设分辨率的样本医学图像进行超分辨率处理,根据超分辨率处理后的样本医学图像更新样本医学图像,以提高样本医学图像质量,确定至少两个目标类别,并分别根据与每个目标类别对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,确定与每个目标类别相对应的子样本数据集,确定子样本数据集中的待处理样本数据集,针对每个待处理样本数据集,通过两阶段分类模型训练和测试,更新待处理样本数据集,以提高样本原始标签的准确性,基于更新后的子样本数据集,确定样本数据集,解决了样本医学图像质量差和样本原始标签不准确导致的样本数据无法用于模型训练的问题,实现了提高样本医学图像的图像质量以及样本原始标签的准确度的效果,以便后续能够更好的进行模型训练。
附图说明
为了更加清楚地说明本发明示例性实施例的技术方案,下面对描述实施例中所需要用到的附图做一简单介绍。显然,所介绍的附图只是本发明所要描述的一部分实施例的附图,而不是全部的附图,对于本领域普通技术人员,在不付出创造性劳动的前提下,还可以根据这些附图得到其他的附图。
图1为本发明实施例一所提供的一种样本数据处理方法的流程示意图;
图2为本发明实施例二所提供的一种样本数据处理方法的流程示意图;
图3为本发明实施例二所提供的SRGAN示意图;
图4为本发明实施例三所提供的一种遗传病面部识别方法的流程示意图;
图5为本发明实施例四所提供的一种样本数据处理装置的结构示意图;
图6为本发明实施例五所提供的一种电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一所提供的一种样本数据处理方法的流程示意图,本实施例可适用于在进行模型训练之前,对样本数据的质量进行提高的情况,该方法可以由样本数据处理装置来执行,该装置可以通过软件和/或硬件的形式实现,该硬件可以是电子设备,可选的,电子设备可以是移动终端、PC端、服务器等。
如图1所述,本实施例的方法具体包括如下步骤:
S110、获取样本医学图像以及与样本医学图像相对应的样本原始标签。
其中,样本医学图像可以是包含面部区域的图像,用于根据面部区域进行医学分类。样本原始标签可以是与样本医学图像相对应的标签,即标注样本医学图像所属类别的标签。
具体的,可以是通过公开数据库获取样本医学图像以及与样本医学图像对应的样本原始标签,也可以是将日常诊断中已经确认的图像作为样本医学图像,并将针对该样本医学图像的诊断结果确定为与样本原始图像相对应的样本原始标签。
S120、针对分辨率低于预设分辨率的样本医学图像进行超分辨率处理,根据超分辨率处理后的样本医学图像更新样本医学图像。
其中,预设分辨率可以是根据后续模型需求确定的样本医学图像所需的分辨率。超分辨率处理可以是将低分辨率图像处理为高分辨率图像的方式。
需要说明的是,样本医学图像的分辨率较低会影响图像质量,导致图像中的特征不明显。利用分辨率低的样本医学图像对后续模型进行训练,会造成模型难以学习到样本医学图像的特征,造成模型分类效果差的问题,因此,调整图像分辨率可以提升样本医学图像质量,以便后续使用。
具体的,针对每一张样本医学图像,可以识别该样本医学图像的图像分辨率,并将该图像分辨率与预设分辨率进行比较。若图像分辨率大于或等于预设分辨率,则可以认为该样本医学图像的图像质量能够满足后续待训练的模型的需求,无需进行处理;若图像分辨率小于预设分辨率,则可以认为该样本医学图像的图像质量无法满足后续待训练的模型的需求,因此,对该样本医学图像进行超分辨率处理,以提高该样本医学图像的分辨率,并将处理后的高分辨率的图像作为新的样本医学图像以对样本医学图像进行更新。
S130、确定至少两个目标类别,并分别根据与每个目标类别对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,确定与每个目标类别相对应的子样本数据集。
其中,目标类别可以是各样本医学图像所属的类别,即样本原始标签对应的类别。每个目标类别对应一种样本原始标签,每一个样本原始标签都有与其对应的目标类别。子样本数据集可以是目标类别对应的样本数据集,即每个子样本数据集对应一个类别。
具体的,确定全部的目标类别,针对每个目标类别,可以获取与该目标类别相对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,并将获取的样本医学图像与样本原始标签进行组合,确定为与目标类别相对应的子样本数据集。
S140、确定子样本数据集中的待处理样本数据集,针对每个待处理样本数据集,通过两阶段分类模型训练和测试,更新待处理样本数据集。
其中,待处理样本数据集可以是待进行标签重新确认的一个或多个子样本数据集,例如:可以是各样本原始标签对应的类别中的任一子样本数据集,也可以是识别效果较差子样本数据集,还可以是样本原始标签效果存在错误的子样本数据集。两阶段分类模型可以是通过两次数据划分,三次模型训练进行分类的模型,用于确定样本原始标签是否正确。
具体的,从子样本数据集中确定出一个或多个待处理样本数据集,以进行样本原始标签的重新确认。针对每个待处理样本数据集,通过两阶段分类模型对待处理样本数据集进行处理,重新确定待处理样本数据集中的样本原始标签,并根据重新确定的样本原始标签更新待处理样本数据集。
S150、基于更新后的子样本数据集,确定样本数据集。
具体的,由于对各待处理样本数据集进行了更新,也就是对子样本数据集进行了更新,因此,更新后的子样本数据集可以包括更新后的待处理样本数据集和未确定为待处理样本数据集的子样本数据集。进而,将更新后的子样本数据集组合确定为样本数据集。
在上述各实施例的基础上,可选的,可以使用样本数据集进行模型训练:
根据样本数据集中的样本医学图像以及与样本医学图像对应样本原始标签对初始图像识别模型进行训练,将训练完成的初始图像识别模型作为目标图像识别模型。
其中,初始图像识别模型基于同时兼顾速度与精度的模型放缩方法构建。
具体的,根据样本数据集中的样本医学图像以及与样本医学图像对应样本原始标签对初始图像识别模型进行训练,以训练得到合适的参数和/或超参数。例如,当达到收敛条件时停止训练,确定目标图像识别模型。
需要说明的是,同时兼顾速度与精度的模型放缩方法可以是EfficientNet,EfficientNet通过复合系数来从网络深度、网络宽度、图像分辨率三个维度放大网络,从而增加了网络的层数,还获取到更多的信息并提取更多的特征。
可选的,在使用样本数据集进行模型训练之前,还可以针对样本数据集中的样本医学图像进行图像预处理。
其中,图像预处理包括数据清洗和图像裁剪中的至少一种。
具体的,对样本数据集中的样本医学图像进行图像预处理以提高样本质量,便于后续提高模型训练的准确度。数据清洗可以是去除尺寸较小、图像模糊的样本医学图像。图像裁剪可以是对样本医学图像中的面部区域进行裁剪,以排除冗余信息的干扰。
需要说明的是,图像预处理后的图形尺寸需要调整为与初始图像识别模型相适配的尺寸。
可选的,在使用样本数据集进行模型训练之前,还可以针对样本数据集中的样本医学图像进行图像增强处理。
其中,图像增强处理包括旋转、镜像、锐化、平移、色彩增强、亮度、饱和度以及缩放中的至少一种。
具体的,对样本数据集中的样本医学图像进行图像增强,以进行数据扩增,来增加样本数据集中的样本量。
需要说明的是,样本数据集中各目标类别的样本数目差距较大,例如:少的只有几十张,多的有一千多张。样本不均衡会造成部分目标类别的准确率很低的问题。并且,图像数据的分辨率、大小、颜色、人脸姿态也有很大的差距。因此,可以通过使用旋转、镜像、锐化、平移、色彩增强、亮度、饱和度等十多种图像处理方法解决样本不均衡问题。
示例性的,样本量少的样本医学图像可以多使用这些图像增强方法,样本量多的样本医学图像可以少使用些图像增强方法,以使最终每种目标类别对应的样本量相同或相差数量在预设范围内,例如,达到2500±50张。通过图像增强方法,一方面可以增加样本数据集的样本量,另一方面可以减少模型过拟合程度,增强模型的泛化能力。
可选的,在使用样本数据集进行模型训练时,进行训练的方式为:基于训练热身方法以及预先设置的学习率的下降方式对初始图像识别模型进行训练。
具体的,采用warmup策略进行学习率的训练。在开始训练时以很小的学习率进行训练,使得网络模型熟悉数据,随着训练的进行,学习率慢慢变大,到了一定程度,以设置的初始学习率进行训练,接着学习率再慢慢变小。并且,选择预先设置的学习率下降方式进行训练,示例性的,可以使用余弦衰减(cosine_decay),使用该学习率下降方式无需调整超参数,鲁棒性也比较高,收敛效果较好。
可选的,在使用样本数据集进行模型训练时,模型训练的批量大小值与学习率呈线性关系。
具体的,批量大小值(Batch size)的设置与学习率的值呈线性关系,以避免模型训练时的收敛精度受到影响。
可选的,在使用样本数据集进行模型训练时,使用的模型优化器为Adam。
具体的,在模型优化过程中可以使用Adam作为模型优化器,以使损失函数尽可能的小,收敛速度相对更快。Adam模型优化器的优点在于计算效率高、内存需求低、适合数据和/或参数较大的问题、适用于非常嘈杂和/或稀疏梯度的问题,并且超参数具有直观的解释,通常需要很少的调整。
可选的,在使用样本数据集进行模型训练之前,可以对初始图像识别模型进行预训练,可以是:基于人脸数据集对初始图像识别模型进行预训练,基于预训练完成的初始图像识别模型更新初始图像识别模型。
其中,人脸数据集可以是用于对模型进行预训练的数据集,可以包括各种角度、光照条件等的人脸图像。
具体的,使用人脸数据集训练初始图像识别模型进行预训练,得到预训练模型,基于预训练完成的初始图像识别模型更新初始图像识别模型,以加快后续模型训练时的收敛速度,并提升模型的精度,也能够提高模型的泛化效果。
可选的,在使用样本数据集进行模型训练时,运用标签平滑,来对损失函数的修正,产生更好的校准网络,从而提高泛化能力,以对不可见的数据产生准确的预测。
在上述各实施例的基础上,目标图像识别模型基于EfficientNet构建或基于ResNeSt269、EfficientNet-B7以及EfficientNet-B8中的至少两个模型加权融合确定。
具体的,目标图像识别模型可以是基于EfficientNet构建的,也可以是选用模型ResNeSt269、EfficientNet-B7以及EfficientNet-B8分别进行多次训练,最终,选择准确率最高的预设数量的模型(如:3个模型等),通过加权平均法进行模型融合得到目标图像识别模型。
需要说明的是,使用加权融合方法确定目标图像识别模型时所选择的预设数量的模型可以是同一类别的模型也可以是不同类别的模型,具体需要根据模型准确率确定。
还需要说明的是,ResNeSt269、EfficientNet-B7以及EfficientNet-B8只是示例性说明,若根据使用需求,也可以其他类型的深度学习模型进行融合。
在上述各实施例的基础上,可选的,可以使用目标图像识别模型进行识别,可以是:
获取待识别图像;其中,待识别图像包括面部区域;
将待识别图像输入至目标图像识别模型中,得到与待识别图像对应的识别类别。
其中,待识别图像可以是基于拍摄装置对目标对象拍摄得到的图像,拍摄装置可以是如照相机、摄像机等装置,目标对象可以是待进行图像识别的人,待处理图像包括面部区域,即目标对象的面部区域。
具体的,获取待处理图像,并将待处理图像输入至目标图像识别模型中,通过目标图像识别模型对待处理图像进行处理可以得到处理结果,即识别类别。
示例性的,若目标图像识别模型的应用场景为遗传病识别,则可以通过目标图像识别模型对待处理图像进行处理确定待处理图像对应的遗传病类别。相应的,可以对各样本医学图像进行超分辨率处理,还可以进行标签重新确认。例如:目标类别可以是特纳综合征,针对特纳综合征对应的待处理样本数据集可以进行标签的重新确认,以提高特纳综合征的识别效果。
本发明实施例的技术方案,通过获取样本医学图像以及与样本医学图像相对应的样本原始标签,针对分辨率低于预设分辨率的样本医学图像进行超分辨率处理,根据超分辨率处理后的样本医学图像更新样本医学图像,以提高样本医学图像质量,确定至少两个目标类别,并分别根据与每个目标类别对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,确定与每个目标类别相对应的子样本数据集,确定子样本数据集中的待处理样本数据集,针对每个待处理样本数据集,通过两阶段分类模型训练和测试,更新待处理样本数据集,以提高样本原始标签的准确性,基于更新后的子样本数据集,确定样本数据集,解决了样本医学图像质量差和样本原始标签不准确导致的样本数据无法用于模型训练的问题,实现了提高样本医学图像的图像质量以及样本原始标签的准确度的效果,以便后续能够更好的进行模型训练。
实施例二
图2为本发明实施例二所提供的一种样本数据处理方法的流程示意图,本实施例在上述各实施例的基础上,针对样本医学图像的超分辨率处理方式以及通过两阶段分类模型更新待处理样本数据集的方式,具体可参见本实施例的技术方案。其中,与上述各实施例相同或相应的术语的解释在此不再赘述。
如图2所述,本实施例的方法具体包括如下步骤:
S201、获取样本医学图像以及与样本医学图像相对应的样本原始标签。
S202、将分辨率低于预设分辨率样本医学图像确定为样本待处理图像,通过图像超分辨率生成对抗网络对样本待处理图像进行处理,得到与样本待处理图像相对应的样本已处理图像,基于样本已处理图像更新样本医学图像。
其中,样本待处理图像为分辨率低于预设分辨率样本医学图像,以在后续处理过程中针对样本待处理图像进行处理。图像超分辨率生成对抗网络可以是SRGAN(Super-Resolution Generative Adversarial Networks,超分辨率生成对抗网络)。简单的来说,如图3所示的SRGAN示意图,SRGAN就是将一个低分辨率图片,即样本待处理图像,作为噪声的输入,通过生成器(生成模型)的变换把噪声的概率分布空间尽可能的去拟合真实数据的分布空间。样本已处理图像可以是进行超分辨率处理后的样本待处理图像。
具体的,从样本医学图像中确定出分辨率低于预设分辨率的样本待处理图像,通过图像超分辨率生成对抗网络对样本待处理图像进行处理,将处理得到的高分辨率图像作为样本已处理图像,使用样本已处理图像替换样本待处理图像,以更新样本医学图像。
S203、确定至少两个目标类别,并分别根据与每个目标类别对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,确定与每个目标类别相对应的子样本数据集。
S204、确定子样本数据集中的待处理样本数据集。
S205、针对每个待处理样本数据集,将与待处理样本数据集分为第一训练集和第一测试集。
其中,第一训练集为待处理样本数据集中的部分样本医学图像。第一测试集为待处理样本数据集中除第一训练集之外的样本医学图像。
具体的,针对每个待处理样本数据集,可以将一半的样本医学图像确定为第一训练集中的样本图像,将剩下一半的样本医学图像确定为第一测试集中的样本图像。
需要说明的是,可以按照1:1对待处理样本数据集进行划分,也可以按照其他比例进行划分,在本实施例中不做具体限定。
S206、基于第一训练集对初始分类模型进行训练得到第一分类模型,基于第一测试集对初始分类模型进行训练得到第二分类模型。
其中,初始分类模型可以是二分类模型,用于判断样本医学图像是否属于待处理样本数据集对应的目标类别。
具体的,将第一训练集作为初始分类模型的训练数据,将训练得到的模型作为第一分类模型。将第一测试集作为初始分类模型的训练数据,将训练得到的模型作为第二分类模型。
S207、基于第一训练集、第一测试集、第一分类模型以及第二分类模型,确定第二训练集和第二测试集。
其中,第二训练集和第二测试集为后续对初始分类模型进行重新训练的训练集和测试集。
具体的,将第一测试集输入至第一分类模型中,得到第一分类结果,将第一训练集输入至第二分类模型中,得到第二分类结果。将第一分类结果为目标类别的样本医学图像和第二分类结果为目标类别的样本医学图像整合为第二训练集,并将待处理样本数据集中除第二训练集之外的样本医学图像确定为第二测试集。
可选的,可以通过下述步骤确定第二训练集和第二测试集:
步骤一、将第一测试集输入至第一分类模型中,确定第一测试集中输出结果为待处理样本数据集对应的目标类别的样本医学图像为第二训练集中的第一部分。
步骤二、将第一训练集输入至第二分类模型中,确定第一训练集中输出结果为目标类别的样本医学图像为第二训练集中的第二部分。
步骤三、根据第一部分和第二部分确定第二训练集,根据待处理样本数据集中除第二训练集之外的部分确定第二测试集。
示例性的,待处理样本数据集共包含200张样本医学图像,将其中100张作为第一训练集训练初始分类模型到第一分类模型,将剩下的100张作为第一测试集训练初始分类模型到第二分类模型。使用第一分类模型对第一测试集进行测试,得到输出结果为目标类别的样本医学图像90张,即第二训练集中的第一部分,得到输出结果为非目标类别的样本医学图像10张,第二测试集中的第一部分。使用第二分类模型对第一训练集进行测试,得到输出结果为目标类别的样本医学图像85张,即第二训练集中的第二部分,得到输出结果为非目标类别的样本医学图像15张,第二测试集中的第二部分。因此,可以确定第二训练集中的样本医学图像共有90+85=175张,第二测试集中的样本医学图像共有10+15=25张,或200-175=25张。
S208、基于第二训练集对初始分类模型进行训练得到第三分类模型,将第二测试集输入至第三分类模型中,确定第二测试集中的输出结果。
具体的,将第二训练集作为初始分类模型的训练数据,将训练得到的模型作为第三分类模型。将第二测试集输入至第三分类模型中,得到第二测试集中的输出结果。
在上述示例的基础上,示例性的,第二训练集中的样本医学图像共175张,第二测试集中的样本医学图像共有25张。使用第二训练集训练初始分类模型到第三分类模型,使用第三分类模型对第二测试集进行测试,得到第二测试集中的输出结果为目标类别的样本医学图像20张,第二测试集中的输出结果为非目标类别的样本医学图像5张。
S209、根据第二训练集以及第二测试集中的输出结果,更新待处理样本数据集。
具体的,可以将第二测试集中的输出结果不是待处理样本数据集对应的目标类别的样本原始图像从待处理样本数据集中剔除,以更新待处理样本数据集。
可选的,可以通过下述步骤更新待处理样本数据集:
步骤一、基于第二训练集中的样本医学图像以及第二测试集中的输出结果为目标类别的样本医学图像,更新待处理样本数据集中的样本医学图像。
具体的,将第二训练集中的样本医学图像作为待处理样本数据集中样本医学图像的第一部分。将第二测试集中的输出结果为待处理样本数据集对应的目标类别的样本医学图像作为待处理样本数据集中样本医学图像的第二部分。基于第一部分和第二部分,更新待处理样本数据集中的样本医学图像。
步骤二、基于更新后的样本医学图像以及目标类别,更新待处理样本数据集。
具体的,根据目标类别确定更新后的待处理样本数据集中的各样本医学图像的样本原始类别,进而,更新待处理样本数据集。
在上述示例的基础上,示例性的,可以是将第二训练集中的175张样本医学图像以及第二测试集中的输出结果为目标类别的20张样本医学图像,组合得到195张样本医学图像,即更新后的待处理样本数据集中的样本医学图像,并为这些样本医学图像赋予与目标类别相对应的样本原始标签。也可以是从待处理样本数据对应中的200张样本医学图像中剔除第二测试集中的输出结果为非目标类别的5张样本医学图像,将剩余的195张样本医学图像作为更新后的待处理样本数据集中的样本医学图像,并为这些样本医学图像赋予与目标类别相对应的样本原始标签。
S210、基于更新后的子样本数据集,确定样本数据集。
本发明实施例的技术方案,通过获取样本医学图像以及与样本医学图像相对应的样本原始标签,将分辨率低于预设分辨率样本医学图像确定为样本待处理图像,通过图像超分辨率生成对抗网络对样本待处理图像进行处理,得到与样本待处理图像相对应的样本已处理图像,基于样本已处理图像更新样本医学图像,以提高样本医学图像质量,确定至少两个目标类别,并分别根据与每个目标类别对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,确定与每个目标类别相对应的子样本数据集,确定子样本数据集中的待处理样本数据集,针对每个待处理样本数据集,将与待处理样本数据集分为第一训练集和第一测试集,基于第一训练集对初始分类模型进行训练得到第一分类模型,基于第一测试集对初始分类模型进行训练得到第二分类模型,基于第一训练集、第一测试集、第一分类模型以及第二分类模型,确定第二训练集和第二测试集,基于第二训练集对初始分类模型进行训练得到第三分类模型,将第二测试集输入至第三分类模型中,确定第二测试集中的输出结果,根据第二训练集以及第二测试集中的输出结果,更新待处理样本数据集,以提高样本原始标签的准确性,基于更新后的子样本数据集,确定样本数据集,解决了样本医学图像质量差和样本原始标签不准确导致的样本数据无法用于模型训练的问题,实现了提高样本医学图像的图像质量以及样本原始标签的准确度的效果,以便后续能够更好的进行模型训练。
实施例三
在上述各实施例的基础上,以遗传病面部识别为例,图4为本发明实施例三所提供的一种遗传病面部识别方法的流程示意图。
如图4所示,本实施例的遗传病面部方法包括:
(1)图像预处理
训练数据(训练样本集)对模型的影响是决定性的,将收集到的数据(样本原始图像)进行清洗,去除尺寸较小、图像模糊的数据,然后进行人脸裁剪,排除冗余信息的干扰,同时,裁剪之后图像的尺寸要和模型(如:EficientNet)要求的尺寸一致。
(2)图像超分辨率
通过SRGAN(Super-Resolution Generative Adversarial Networks,图像超分辨率生成对抗网络),一种用于图像超分辨率(Super Resolution,SR)的生成对抗网络(Generative Adversarial Networks,GAN),将低分辨率图像重建出相应的高分辨率图像。
(3)通过模型确认标签
由于某些遗传病对应的图像(样本医学图像)的收集过程中,部分图像标签(样本原始标签)不准确,会导致模型准确率低。因此,需要对标签进行确认。针对每一种遗传病都可以使用相同的方式来确认标签,以特纳综合征为例,首先,拿一半图像数据作为训练集(第一训练集),另一半作为测试集(第一测试集),做第一次模型训练,然后,将原来的训练集和测试集反过来,做第二次模型训练,两次模型测试出的特纳综合征作为训练数据集(第二训练集),测试错误的作为测试数据集(第二测试集),做第三次模型训练,第三次模型训练的训练数据集加上第三次模型测试得出的特纳综合征,即为理论上为标签正确的数据集。
(4)图像增强
由于训练样本集各类样本数目差距较大,少的只有几十张,多的有一千多张,会造成部分类别的准确率很低。因此,使用旋转、镜像、锐化、平移、色彩增强、亮度、饱和度等十多种图像处理方法解决数据不平衡问题。原则上,数据少的多使用些图像处理方法,数据多的少使用些图像处理方法,使每种遗传病的数量达到2500左右。图像增强方法增强了训练数据量,减少了网络过拟合程度,增强了模型的泛化能力。
(5)模型选择
使用卷积神经网络EfficientNet,即一个简单而高效的复合系数来从网络深度、网络宽度、图像分辨率三个维度放大网络,从而增加了网络的层数,还获取到更多的信息和提取更多的特征。通过卷积神经网络EfficientNet不会像传统深度学习方法任意缩放网络的维度,而是基于神经结构搜索技术可以获得最优的一组参数,即复合系数。
(6)调参
采用warmup策略(训练热身方法),选择的学习率下降方式是cosine_decay,无需调整超参数,鲁棒性高,收敛效果好。Batch size(批量大小值)的设置与学习率的值呈线性关系,避免收敛精度受到影响。优化器的选择,选择自适应学习率的优化器Adam,让损失函数尽可能的小,收敛速度相对更快,以找到合适的参数来完成分类识别任务。
(7)训练模型
在多分类模型(目标遗传病识别模型)训练之前,先使用海量人脸数据集(人脸数据集)训练出EfficientNet预训练模型(预训练完成的初始遗传病识别模型),以后续加快多分类模型训练时的收敛速度并提升模型的精度,获得更好的泛化效果。在训练过程中,运用了标签平滑来对损失函数的修正,产生更好的校准网络,以更好泛化,来对不可见的数据产生更准确的预测。进而,将训练完成的多分类模型确定为预测模型(目标遗传病识别模型)。
可选的,可以选用分类识别效果较好的ResNeSt269、EfficientNet-B7和EfficientNet-B8分别进行多次训练,最终,选择准确率最高的三个(预设数量)模型,进行加权平均法模型融合,以得到预测模型。
需要说明的是,以特纳综合征为例,未进行图像超分辨率处理和标签确认的情况下,对特纳综合征的识别准确率为53.2%,在进行图像超分辨率处理和标签确认的情况下,对特纳综合征的识别准确率为88.6%。
本发明实施例的技术方案,通过对目标类别对应的数据进行预处理、图像超分辨率、图像标签确认,并对模型不断训练从而对参数进行的针对性调整、合理运用标签平滑、预训练模型、以及模型的选择和模型的融合,以提高对目标类别的识别以及多分类模型的准确度,并且避免了模型训练过程中出现过拟合和欠拟合的问题,增强了模型的泛化能力。
实施例四
图5为本发明实施例四所提供的一种样本数据处理装置的结构示意图,该装置包括:样本原始数据获取模块310、样本医学图像更新模块320、子样本数据集拆分模块330、待处理样本数据集更新模块340和样本数据集确定模块350。
其中,样本原始数据获取模块310,用于获取样本医学图像以及与所述样本医学图像相对应的样本原始标签;样本医学图像更新模块320,用于针对分辨率低于预设分辨率的所述样本医学图像进行超分辨率处理,根据超分辨率处理后的样本医学图像更新所述样本医学图像;子样本数据集拆分模块330,用于确定至少两个目标类别,并分别根据与每个目标类别对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,确定与每个目标类别相对应的子样本数据集;待处理样本数据集更新模块340,用于确定所述子样本数据集中的待处理样本数据集,针对每个待处理样本数据集,通过两阶段分类模型训练和测试,更新所述待处理样本数据集;样本数据集确定模块350,用于基于更新后的子样本数据集,确定样本数据集。
可选的,样本医学图像更新模块320,具体用于将分辨率低于预设分辨率样本医学图像确定为样本待处理图像,通过图像超分辨率生成对抗网络对所述样本待处理图像进行处理,得到与所述样本待处理图像相对应的样本已处理图像;基于所述样本已处理图像更新所述样本医学图像。
可选的,待处理样本数据集更新模块340,具体用于针对每个待处理样本数据集,将与所述待处理样本数据集分为第一训练集和第一测试集;基于所述第一训练集对初始分类模型进行训练得到第一分类模型,基于所述第一测试集对所述初始分类模型进行训练得到第二分类模型;基于所述第一训练集、所述第一测试集、所述第一分类模型以及所述第二分类模型,确定第二训练集和第二测试集;基于所述第二训练集对所述初始分类模型进行训练得到第三分类模型,将所述第二测试集输入至所述第三分类模型中,确定所述第二测试集中的输出结果;根据所述第二训练集以及所述第二测试集中的输出结果,更新所述待处理样本数据集。
可选的,待处理样本数据集更新模块340,具体用于将所述第一测试集输入至所述第一分类模型中,确定所述第一测试集中输出结果为所述待处理样本数据集对应的目标类别的样本医学图像为第二训练集中的第一部分;将所述第一训练集输入至所述第二分类模型中,确定所述第一训练集中输出结果为所述目标类别的样本医学图像为第二训练集中的第二部分;根据所述第一部分和所述第二部分确定第二训练集,根据所述待处理样本数据集中除第二训练集之外的部分确定第二测试集。
可选的,待处理样本数据集更新模块340,具体用于基于所述第二训练集中的样本医学图像以及所述第二测试集中的输出结果为所述目标类别的样本医学图像,更新所述待处理样本数据集中的样本医学图像;基于更新后的样本医学图像以及所述目标类别,更新所述待处理样本数据集。
可选的,所述装置还包括:模型训练模块,用于根据所述样本数据集中的样本医学图像以及与所述样本医学图像对应样本原始标签对初始图像识别模型进行训练,将训练完成的初始图像识别模型作为目标图像识别模型,其中,所述初始图像识别模型基于同时兼顾速度与精度的模型放缩方法构建。
可选的,所述装置还包括:图像识别模块,用于获取待识别图像;其中,所述待识别图像包括面部区域;将所述待识别图像输入至所述目标图像识别模型中,得到与所述待识别图像对应的识别类别。
本发明实施例的技术方案,通过获取样本医学图像以及与样本医学图像相对应的样本原始标签,针对分辨率低于预设分辨率的样本医学图像进行超分辨率处理,根据超分辨率处理后的样本医学图像更新样本医学图像,以提高样本医学图像质量,确定至少两个目标类别,并分别根据与每个目标类别对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,确定与每个目标类别相对应的子样本数据集,确定子样本数据集中的待处理样本数据集,针对每个待处理样本数据集,通过两阶段分类模型训练和测试,更新待处理样本数据集,以提高样本原始标签的准确性,基于更新后的子样本数据集,确定样本数据集,解决了样本医学图像质量差和样本原始标签不准确导致的样本数据无法用于模型训练的问题,实现了提高样本医学图像的图像质量以及样本原始标签的准确度的效果,以便后续能够更好的进行模型训练。
本发明实施例所提供的样本数据处理装置可执行本发明任意实施例所提供的样本数据处理方法,具备执行方法相应的功能模块和有益效果。
值得注意的是,上述装置所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明实施例的保护范围。
实施例五
图6为本发明实施例五所提供的一种电子设备的结构示意图。图6示出了适于用来实现本发明实施例实施方式的示例性电子设备40的框图。图6显示的电子设备40仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,电子设备40以通用计算设备的形式表现。电子设备40的组件可以包括但不限于:一个或者多个处理器或者处理单元401,系统存储器402,连接不同系统组件(包括系统存储器402和处理单元401)的总线403。
总线403表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
电子设备40典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备40访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器402可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)404和/或高速缓存405。电子设备40可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统406可以用于读写不可移动的、非易失性磁介质(图6未显示,通常称为“硬盘驱动器”)。尽管图6中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线403相连。系统存储器402可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块407的程序/实用工具408,可以存储在例如系统存储器402中,这样的程序模块407包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块407通常执行本发明所描述的实施例中的功能和/或方法。
电子设备40也可以与一个或多个外部设备409(例如键盘、指向设备、显示器410等)通信,还可与一个或者多个使得用户能与该电子设备40交互的设备通信,和/或与使得该电子设备40能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过I/O接口(输入/输出接口)411进行。并且,电子设备40还可以通过网络适配器412与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器412通过总线403与电子设备40的其它模块通信。应当明白,尽管图6中未示出,可以结合电子设备40使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元401通过运行存储在系统存储器402中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的样本数据处理方法。
实施例六
本发明实施例六还提供一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行一种样本数据处理方法,该方法包括:
获取样本医学图像以及与所述样本医学图像相对应的样本原始标签;
针对分辨率低于预设分辨率的所述样本医学图像进行超分辨率处理,根据超分辨率处理后的样本医学图像更新所述样本医学图像;
确定至少两个目标类别,并分别根据与每个目标类别对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,确定与每个目标类别相对应的子样本数据集;
确定所述子样本数据集中的待处理样本数据集,针对每个待处理样本数据集,通过两阶段分类模型训练和测试,更新所述待处理样本数据集;
基于更新后的子样本数据集,确定样本数据集。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明实施例操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种样本数据处理方法,其特征在于,包括:
获取样本医学图像以及与所述样本医学图像相对应的样本原始标签;
针对分辨率低于预设分辨率的所述样本医学图像进行超分辨率处理,根据超分辨率处理后的样本医学图像更新所述样本医学图像;
确定至少两个目标类别,并分别根据与每个目标类别对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,确定与每个目标类别相对应的子样本数据集;
确定所述子样本数据集中的待处理样本数据集,针对每个待处理样本数据集,通过两阶段分类模型训练和测试,更新所述待处理样本数据集;
基于更新后的子样本数据集,确定样本数据集。
2.根据权利要求1所述的方法,其特征在于,所述针对分辨率低于预设分辨率的所述样本医学图像进行超分辨率处理,根据超分辨率处理后的样本医学图像更新所述样本医学图像,包括:
将分辨率低于预设分辨率样本医学图像确定为样本待处理图像,通过图像超分辨率生成对抗网络对所述样本待处理图像进行处理,得到与所述样本待处理图像相对应的样本已处理图像;
基于所述样本已处理图像更新所述样本医学图像。
3.根据权利要求1所述的方法,其特征在于,所述针对每个待处理样本数据集,通过两阶段分类模型训练和测试,更新所述待处理样本数据集,包括:
针对每个待处理样本数据集,将与所述待处理样本数据集分为第一训练集和第一测试集;
基于所述第一训练集对初始分类模型进行训练得到第一分类模型,基于所述第一测试集对所述初始分类模型进行训练得到第二分类模型;
基于所述第一训练集、所述第一测试集、所述第一分类模型以及所述第二分类模型,确定第二训练集和第二测试集;
基于所述第二训练集对所述初始分类模型进行训练得到第三分类模型,将所述第二测试集输入至所述第三分类模型中,确定所述第二测试集中的输出结果;
根据所述第二训练集以及所述第二测试集中的输出结果,更新所述待处理样本数据集。
4.根据权利要求3所述的方法,其特征在于,所述基于所述第一训练集、所述第一测试集、所述第一分类模型以及所述第二分类模型,确定第二训练集和第二测试集,包括:
将所述第一测试集输入至所述第一分类模型中,确定所述第一测试集中输出结果为所述待处理样本数据集对应的目标类别的样本医学图像为第二训练集中的第一部分;
将所述第一训练集输入至所述第二分类模型中,确定所述第一训练集中输出结果为所述目标类别的样本医学图像为第二训练集中的第二部分;
根据所述第一部分和所述第二部分确定第二训练集,根据所述待处理样本数据集中除第二训练集之外的部分确定第二测试集。
5.根据权利要求3所述的方法,其特征在于,所述根据所述第二训练集以及所述第二测试集中的输出结果,更新所述待处理样本数据集,包括:
基于所述第二训练集中的样本医学图像以及所述第二测试集中的输出结果为所述目标类别的样本医学图像,更新所述待处理样本数据集中的样本医学图像;
基于更新后的样本医学图像以及所述目标类别,更新所述待处理样本数据集。
6.根据权利要求1所述的方法,其特征在于,还包括:
根据所述样本数据集中的样本医学图像以及与所述样本医学图像对应样本原始标签对初始图像识别模型进行训练,将训练完成的初始图像识别模型作为目标图像识别模型,其中,所述初始图像识别模型基于同时兼顾速度与精度的模型放缩方法构建。
7.根据权利要求6所述的方法,其特征在于,还包括:
获取待识别图像;其中,所述待识别图像包括面部区域;
将所述待识别图像输入至所述目标图像识别模型中,得到与所述待识别图像对应的识别类别。
8.一种样本数据处理装置,其特征在于,包括:
样本原始数据获取模块,用于获取样本医学图像以及与所述样本医学图像相对应的样本原始标签;
样本医学图像更新模块,用于针对分辨率低于预设分辨率的所述样本医学图像进行超分辨率处理,根据超分辨率处理后的样本医学图像更新所述样本医学图像;
子样本数据集拆分模块,用于确定至少两个目标类别,并分别根据与每个目标类别对应的样本医学图像以及与每个样本医学图像相对应的样本原始标签,确定与每个目标类别相对应的子样本数据集;
待处理样本数据集更新模块,用于确定所述子样本数据集中的待处理样本数据集,针对每个待处理样本数据集,通过两阶段分类模型训练和测试,更新所述待处理样本数据集;
样本数据集确定模块,用于基于更新后的子样本数据集,确定样本数据集。
9.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的样本数据处理方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一所述的样本数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210637331.0A CN115049546A (zh) | 2022-06-07 | 2022-06-07 | 样本数据处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210637331.0A CN115049546A (zh) | 2022-06-07 | 2022-06-07 | 样本数据处理方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115049546A true CN115049546A (zh) | 2022-09-13 |
Family
ID=83160598
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210637331.0A Pending CN115049546A (zh) | 2022-06-07 | 2022-06-07 | 样本数据处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115049546A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117115568A (zh) * | 2023-10-24 | 2023-11-24 | 浙江啄云智能科技有限公司 | 数据筛选方法、装置、设备及存储介质 |
-
2022
- 2022-06-07 CN CN202210637331.0A patent/CN115049546A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117115568A (zh) * | 2023-10-24 | 2023-11-24 | 浙江啄云智能科技有限公司 | 数据筛选方法、装置、设备及存储介质 |
CN117115568B (zh) * | 2023-10-24 | 2024-01-16 | 浙江啄云智能科技有限公司 | 数据筛选方法、装置、设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
RU2699687C1 (ru) | Обнаружение текстовых полей с использованием нейронных сетей | |
RU2695489C1 (ru) | Идентификация полей на изображении с использованием искусственного интеллекта | |
CN111738169B (zh) | 一种基于端对端网络模型的手写公式识别方法 | |
US9208374B2 (en) | Information processing apparatus, control method therefor, and electronic device | |
CN110796108B (zh) | 一种人脸质量检测的方法、装置、设备及存储介质 | |
CN111311613A (zh) | 图像分割模型训练方法、图像分割方法及装置 | |
CN113254654A (zh) | 模型训练、文本识别方法、装置、设备和介质 | |
CN115861462B (zh) | 图像生成模型的训练方法、装置、电子设备及存储介质 | |
CN114445904A (zh) | 基于全卷积神经网络的虹膜分割方法和装置、介质和设备 | |
CN111046771A (zh) | 用于恢复书写轨迹的网络模型的训练方法 | |
CN118133971A (zh) | 基于大语言模型的医疗问答方法和装置 | |
CN117746186A (zh) | 低秩自适应模型的训练方法、文本生成图像方法、系统 | |
CN117437423A (zh) | 基于sam协同学习和跨层特征聚合增强的弱监督医学图像分割方法及装置 | |
EP4060526A1 (en) | Text processing method and device | |
CN113780326A (zh) | 一种图像处理方法、装置、存储介质及电子设备 | |
CN111753736A (zh) | 基于分组卷积的人体姿态识别方法、装置、设备和介质 | |
CN114241411B (zh) | 基于目标检测的计数模型处理方法、装置及计算机设备 | |
CN115049546A (zh) | 样本数据处理方法、装置、电子设备及存储介质 | |
CN112307769B (zh) | 一种自然语言模型的生成方法和计算机设备 | |
Li et al. | SCD-YOLO: a lightweight vehicle target detection method based on improved YOLOv5n | |
CN115565186B (zh) | 文字识别模型的训练方法、装置、电子设备和存储介质 | |
CN113343979B (zh) | 用于训练模型的方法、装置、设备、介质和程序产品 | |
CN116503953A (zh) | 基于二分自注意力的人体姿态估计方法、系统及装置 | |
CN116030295A (zh) | 物品识别方法、装置、电子设备及存储介质 | |
CN114842251A (zh) | 图像分类模型的训练及图像处理方法、装置和计算设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |