CN113570586A - 神经网络系统的创建、处理ct图像的方法及其装置 - Google Patents
神经网络系统的创建、处理ct图像的方法及其装置 Download PDFInfo
- Publication number
- CN113570586A CN113570586A CN202110880305.6A CN202110880305A CN113570586A CN 113570586 A CN113570586 A CN 113570586A CN 202110880305 A CN202110880305 A CN 202110880305A CN 113570586 A CN113570586 A CN 113570586A
- Authority
- CN
- China
- Prior art keywords
- image
- projection
- domain
- metal
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 93
- 238000012545 processing Methods 0.000 title claims abstract description 52
- 238000000034 method Methods 0.000 title claims abstract description 37
- 239000002184 metal Substances 0.000 claims abstract description 132
- 229910052751 metal Inorganic materials 0.000 claims abstract description 132
- 239000004576 sand Substances 0.000 claims abstract description 27
- 238000012549 training Methods 0.000 claims abstract description 26
- 238000000605 extraction Methods 0.000 claims description 7
- 230000008439 repair process Effects 0.000 claims description 6
- 230000004927 fusion Effects 0.000 claims description 5
- 125000004122 cyclic group Chemical group 0.000 claims description 4
- 238000002591 computed tomography Methods 0.000 description 30
- 230000006870 function Effects 0.000 description 12
- 230000000694 effects Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 5
- 230000006872 improvement Effects 0.000 description 5
- 210000001519 tissue Anatomy 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000004088 simulation Methods 0.000 description 3
- 239000000654 additive Substances 0.000 description 2
- 230000000996 additive effect Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- JHKXZYLNVJRAAJ-WDSKDSINSA-N Met-Ala Chemical compound CSCC[C@H](N)C(=O)N[C@@H](C)C(O)=O JHKXZYLNVJRAAJ-WDSKDSINSA-N 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000003042 antagnostic effect Effects 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 238000013170 computed tomography imaging Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 239000007943 implant Substances 0.000 description 1
- 238000002513 implantation Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 150000002739 metals Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011309 routine diagnosis Methods 0.000 description 1
- 210000004872 soft tissue Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10081—Computed x-ray tomography [CT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Biology (AREA)
- Biomedical Technology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Bioinformatics & Computational Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Image Processing (AREA)
Abstract
本发明提供了一种神经网络系统的创建、处理CT图像的方法及其装置,该创建方法包括:获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia‑aS‑aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI;创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;基于图像Ia和图像Ic、对所述神经网络系统进行训练;所述神经网络系统能够进行CT图像处理。
Description
技术领域
本发明涉及CT图像处理技术领域,尤其涉及神经网络系统的创建、处理CT图像的方法及其装置。
背景技术
断层成像(Computed Tomography,CT)检查是现代一种较先进的医学影像检查技术,其成像过程如下:X射线球管绕着人体做圆周运动,并且在多个不同角度、该X射线管曝光发出X射线,X射线经过人体组织吸收后衰减,剩余的X射线到达探测器,探测器采集投影数据,探测器利用图像重建算法对该投影数据进行处理、并得到CT图像。
在实际中,人体中有可能存在有高密度的金属物体,此时,该金属物体就有可能出现在CT成像视野范围内,重建图像内就会出现条纹状和带状金属伪影。其成因主要是:X射束硬化,散射效应,光子完全衰减和金属的部分容积效应。,可以理解的是,金属伪影的存在严重干扰了日常诊断和手术规划,尤其是当医生需要观察金属植入物或者介入物周围的组织完整度时。
因此,如何在CT的重建图像中去除金属伪影,就成为一个亟待解决的问题。
发明内容
本发明的目在于提供神经网络系统的创建、处理CT图像的方法及其装置。
为了实现上述发明目的之一,本发明一实施例提供了一种用于CT图像处理的神经网络系统的创建方法,包括以下步骤:获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI;创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;所述正投影模块FPM用于对图像Ia进行正投影处理得到正投影数据Sa;所述先验子网络ΦP用于对正投影数据Sa进行修复处理、并得到其中,Mt=δ(FP(M)),Mt是二值化的金属投影数据,M是二值化的金属图,δ()是二值化算子,FP()为正投影算子;所述投影域子网络ΦS用于对Sa进行增强处理、并得到使用滤波反投影算子FBP()提取投影域伪影分量:所述图像域子网络ΦI能够提取图像域伪影分量,且用于执行以下操作:aI=ΦI(Ia-aS);基于图像Ia和图像Ic、对所述神经网络系统进行训练。
作为本发明实施方式的进一步改进,所述先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI均为U-Net。
作为本发明实施方式的进一步改进,所述先验子网络ΦP为采用融合掩膜的U-Net,投影域子网络ΦS的深度为2,图像域子网络ΦI的深度为5。
作为本发明实施方式的进一步改进,所述“基于图像Ia和图像Ic、对所述神经网络系统进行训练”包括:使用所述神经网络系统对图像Ia进行处理、得到投影域的金属伪影分量aS以及图像域的金属伪影分量aI,输出减弱伪影后的图像Iac,结合Ic输出含有伪影的伪图片Ica,使用所述神经网络系统对图像Ica进行处理、再次提取伪影分量;对图像Ica进行正投影处理得到正投影数据Sca;利用所述投影域子网络ΦS对Sca进行增强处理、并得到使用滤波反投影算子FBP()提取投影域伪影分量a′S:利用图像域子网络ΦI提取图像域的金属伪影分量a′I,a′I=ΦI(Ica-a′S),再次进行金属伪影消除和叠加,得到重建的图像,Iaca=Iac+a′S+a′I,Icac=Ica-a′S-a′I;基于损失函数、图像Ia和图像Ic所述神经网络系统进行训练。
本发明实施例还提供了一种用于CT图像处理的神经网络系统的创建装置,包括以下模块:
第一数据获取模块,用于获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI;
神经网络系统创建模块,用于创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;所述正投影模块FPM用于对图像Ia进行正投影处理得到正投影数据Sa;所述先验子网络ΦP用于对正投影数据Sa进行修复处理、并得到其中,Mt=δ(FP(M)),Mt是二值化的金属投影数据,M是二值化的金属图,δ()是二值化算子,FP()为正投影算子;所述投影域子网络ΦS用于对Sa进行增强处理、并得到使用滤波反投影算子FBP()提取投影域伪影分量:所述图像域子网络ΦI能够提取图像域伪影分量,即执行以下操作:aI=ΦI(Ia-aS);
训练模块,用于基于图像Ia和图像Ic、对所述神经网络系统进行训练。
作为本发明实施方式的进一步改进,所述先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI均为U-Net。
作为本发明实施方式的进一步改进,所述训练模块还用于:
使用所述神经网络系统对图像Ia进行处理、得到投影域的金属伪影分量aS以及图像域的金属伪影分量aI,输出减弱伪影后的图像Iac,结合Ic输出含有伪影的伪图片Ica,使用所述神经网络系统对图像Ica进行处理、再次提取伪影分量;对图像Ica进行正投影处理得到正投影数据Sca;利用所述投影域子网络ΦS对Sca进行增强处理、并得到使用滤波反投影算子FBP()提取投影域伪影分量a′S:利用图像域子网络ΦI提取图像域的金属伪影分量a′I,a′I=ΦI(Ica-a′S),再次进行金属伪影消除和叠加,得到重建的图像,Iaca=Iac+a′S+a′I,Icac=Ica-a′S-a′I;基于损失函数、图像Ia和图像Ic所述神经网络系统进行训练。
本发明实施例还提供了一种处理CT图像的方法,包括以下步骤:获取包含有金属伪影的图像Ia;执行上述创建方法创建神经网络系统,控制所述神经网络系统对所述图像Ia进行处理、并得到投影域上的金属伪影分量aS和图像域上的金属伪影分量aI,CT图像Iac=Ia-aS-aI。
本发明实施例还提供了一种处理CT图像的装置,包括以下模块:第二数据获取模块,用于获取包含有金属伪影的图像Ia;图像处理模块,用于执行上述创建方法创建神经网络系统,控制所述神经网络系统对所述图像Ia进行处理、并得到投影域上的金属伪影分量aS和图像域上的金属伪影分量aI,CT图像Iac=Ia-aS-aI。
相对于现有技术,本发明的技术效果在于:本发明实施例提供了一种神经网络系统的创建、处理CT图像的方法及其装置,该创建方法包括:获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI;创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;基于图像Ia和图像Ic、对所述神经网络系统进行训练;所述神经网络系统能够进行CT图像处理。
附图说明
图1是本发明实施例中的神经网络系统的创建方法的流程示意图;
图2是本发明实施例中的神经网络系统的结构图;
图3是本发明实施例中的神经网络系统的训练原理图;
图4和图5是本发明实施例中的神经网络系统的实验结果图。
具体实施方式
以下将结合附图所示的各实施方式对本发明进行详细描述。但这些实施方式并不限制本发明,本领域的普通技术人员根据这些实施方式所做出的结构、方法、或功能上的变换均包含在本发明的保护范围内。
本文使用的例如“上”、“上方”、“下”、“下方”等表示空间相对位置的术语是出于便于说明的目的来描述如附图中所示的一个单元或特征相对于另一个单元或特征的关系。空间相对位置的术语可以旨在包括设备在使用或工作中除了图中所示方位以外的不同方位。例如,如果将图中的设备翻转,则被描述为位于其他单元或特征“下方”或“之下”的单元将位于其他单元或特征“上方”。因此,示例性术语“下方”可以囊括上方和下方这两种方位。设备可以以其他方式被定向(旋转90度或其他朝向),并相应地解释本文使用的与空间相关的描述语。
并且,应当理解的是尽管术语第一、第二等在本文中可以被用于描述各种元件或结构,但是这些被描述对象不应受到这些术语的限制。这些术语仅用于将这些描述对象彼此区分开。例如,第一数据获取模块可以被称为第二数据获取模块,并且类似地第二数据获取模块也可以被称为第一数据获取模块,这并不背离本申请的保护范围。
本发明实施例一提供了一种用于CT(Computed Tomography,电子计算机断层扫描)成像的神经网络系统的创建方法,如图1所示,包括以下步骤:
步骤101:获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI;
步骤102:创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;所述正投影模块FPM用于对图像Ia进行正投影处理得到正投影数据Sa;所述先验子网络ΦP用于对正投影数据Sa进行修复处理、并得到其中,Mt=δ(FP(M)),Mt是二值化的金属投影数据,M是二值化的金属图,δ()是二值化算子,FP()为正投影算子;所述投影域子网络ΦS用于对Sa进行增强处理、并得到使用滤波反投影算子FBP()提取投影域伪影分量:所述图像域子网络ΦI能够提取图像域伪影分量,即执行以下操作:aI=ΦI(Ia-aS);
这里,正投影数据Sa为受损的投影数据,其中,先验子网络ΦP的详细结构已经由论文《Generative mask pyramid network for ct/cbct metal artifact reduction withjoint projection-sinogram correction》公开,投影域子网络ΦS和图像域子网络ΦI都采用了U-Net结构,已经由论文《U-net:Convolutional networks for biomedical imagesegmentation.》公开。
在该步骤中,使用先验子网络ΦP来引导投影数据的恢复,该先验子网络ΦP是一个图像修补(inpainting)网络,该网络认为受到金属影响的投影数据是缺失的、并试图去补全它,即可以理解的是,在使用时,需要预先对先验子网络ΦP进行训练,可以通过在不包含有金属伪影的投影数据上使用Mt进行遮挡,然后再训练该网络。在发明人的长期实践中,发现这会比较容易。可选的,该ΦP采用融合掩膜(mask)的U-Net作为网络架构。
这里,在该步骤中,使用投影域子网络ΦS来纠正受到金属影响的投影数据,即Mt中的投影数据,并且使用重建后的输入图和重建后的增强的投影数据之间的差异图像作为投影域的伪影分量,可以理解的是,这能够避免连续的离散数值操作(正投影和滤波反投影)带来的信息丢失。
这里,在该步骤中,投影域数据的不一致会在整幅图像中带来条纹状金属伪影,因此,使用图像域子网络ΦI来抑制残留的和新产生的条纹状伪影,其操作如下所示:首先,通过在含有金属伪影的图像上减去投影域子网络ΦS提取出的投影域伪影分量,得到经过投影域增强的图像,然后,图像域子网络ΦI以或者为输入,输出图像域的伪影分量aI,a′ I,
可选的,图像域子网络ΦI的网络结构是一个深度为5的U-Net。
步骤103:基于图像Ia和图像Ic、对所述神经网络系统进行训练。
本实施例中,所述先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI均为U-Net。
本实施例中,所述先验子网络ΦP为采用融合掩膜的U-Net,投影域子网络ΦS的深度为2,图像域子网络ΦI的深度为5。
本实施例中,所述“基于图像Ia和图像Ic、对所述神经网络系统进行训练”包括:
使用所述神经网络系统对图像Ia进行处理、得到投影域的金属伪影分量aS以及图像域的金属伪影分量aI,输出减弱伪影后的图像Iac,结合Ic输出含有伪影的伪图片Ica,使用所述神经网络系统对图像Ica进行处理、再次提取伪影分量;对图像Ica进行正投影处理得到正投影数据Sca;利用所述投影域子网络ΦS对Sca进行增强处理、并得到使用滤波反投影算子FBP()提取投影域伪影分量a′S:利用图像域子网络ΦI提取图像域的金属伪影分量a′I,a′I=ΦI(Ica-a′S),再次进行金属伪影消除和叠加,得到重建的图像,Iaca=Iac+a′S+a′I,Icac=Ica-a′S-a′I;基于损失函数、图像Ia和图像Ic所述神经网络系统进行训练。
这里,首先给出证明,即在特定条件下,金属伪影是可加的。可以理解的是,CT图像的像素值描述了被成像物体的衰减系数。让Xc(E)表示不含金属的CT图像在能量E下的衰减系数图。在一个多能的X光成像系统中,理想的干净投影数据可以表示为其中,FP()为正投影算子,η(E)代表E能级下的能量分数。相对于金属,人体内正常组织(例如,空气、软组织和骨头等)的衰减系数相对于能量E几乎是不变的,因此,Xc=Xc(E)和在不存在金属物体的情况下,滤波反投影(Filtered Back Projection,FBP)能够准确地从Sc中重建图像Ic,即其中,FBP()代表滤波反投影算子。
金属伪影的成因主要是由于射束硬化,一个含有金属的衰减系数图像Xa(E)可以分解为一个相对于能量E不变的不含金属的常数图像Xac和一个随着能量E快速变化的金属图像Xm(E),Xa(E)=Xac+Xm(E)。Xm(E)通常局限在部分区域,即,图像上大部分像素值为0。采集到的含有金属伪影的投影数据Sa可以写成
同时,重建的含有金属伪影的图像Ia可以表示为 其中,FBP(FP(Xac))是消除金属伪影的重建图像Iac,而在重建图像中引入了放射状或者带状的金属伪影,可以表示为金属图像Xm(E)的一个函数。因此,金属伪影仅与Xm(E)有关,因此,可以在任意一个不包含有金属伪影的CT图像上叠加分离出的金属伪影分量来制造一张含有同样金属伪影的图像Ica,即,Ica=Ic+F(Xm(E))。
这里,图3中展示了该神经网络系统的训练流程图。在阶段Ⅰ中,神经网络系统输入带有金属伪影的CT图像Ia,顺序地从投影域和图像域分别提取出金属伪影分量aS和aI。在阶段Ⅱ中,基于金属伪影的可加性原理,可以基于任意一张不配对的干净CT图像Ic,生成看起来带有金属伪影的伪CT图像Ica,即Ica=Ic+aS+aI。同时,将金属伪影分量从原图Ia上减去,得到消除金属伪影的图像Iac,即Iac=Ia-aS-aI。随后,使用神经网络系统从Ica上再次分离金属伪影分量,分别得到投影域和图像域的伪影分量a′S和a′I。最后,将阶段Ⅱ中生成的图像Iac和Ica,与二次提取的伪影分量a′S和a′I相加或者相减,得到原图的重建图像Iaca和Icac,即,Iaca=Iac+a′S+a′I,Iczc=Icz-a′S-a′I。
本实施例中,所述神经网络系统的损失函数包括:
对抗损失函数 这里,通过伪影相加得到生成图像Ica,通过伪影相减得到生成图像Iac,生成图像Ica应该与输入的原图Ia不可区分,生成图像Iac应该与输入的原图Ic不可区分。因为配对的标签是不存在的,使用判别器Da和Dc来施加对抗学习,含有金属伪影的图片中通常包含条纹状伪影,因此将图片的梯度图作为第二个通道的数据输入Da和Dc,梯度图像使用Sobel算子计算得到。
先验损失函数投影数据修补网络ΦP能够对Mt内的数据提供一个准确的平滑估计,因此,使用一个参数为σS的高斯平滑操作对和进行模糊,并使用L2损失来最小化他们之间的距离;同时,模糊的投影域增强后的图片能够给模糊的伪影消除图片提供一个良好的估计;使用一个参数为σI的高斯平滑操作对和Iac进行模糊,最小化他们之间的距离来稳定无监督的学习。
这里,在训练该神经网络系统时,需要提供足够数量的图像Ia和图像Ic,在实际训练时,发明人使用了Adam优化器来训练该神经网络系统,共迭代100000次,学习率设为1e-4,batch size设为2。的权重设为1,和的权重设为10,和的权重设为100。σS设为1,σI设为3。
发明人基于仿真数据定量地测试了伪影处理方法的性能。在实验中,基于不含伪影的CT图像,生成了358560张含有金属伪影的图片Ia、以及原来的不含有金属伪影的图片Ic,将Ia和Ic用于训练该神经网络系统,另外生成2000张有伪影图片用于测试神经网络系统的性能。并且,在实验中,发明人对比了DuDoNet,DuDoNet++,DSCIP,DAN-Net,RCN和AND等方法。使用峰值信噪比(peak to noise retio,PSNR)和结构相似度(structural similarityindex,SSIM)指标衡量消除伪影的效果。越高的PSNR和越高的SSIM代表了更好的图像质量。
结果如下表所示,本发明实施例中的神经网络系统在无监督的方法中取得了最好的效果(34.54/0.934),对比目前最好的无监督算法,该神经网络系统将PSNR提高了0.73dB。图4展示了不同算法在仿真数据上消除金属伪影的效果图,其中,放大的细节图中展示了,两侧金属物体在金属中间引入了黑色的带状金属伪影,在全图引入了剧烈的条纹状伪影。可以看出,基于监督学习的算法均能有效的恢复黑色带状伪影内的组织细节,有效地减弱条纹状伪影。而在无监督学习的算法中,只有本发明提出的神经网络系统能够恢复出黑色带状伪影内的细节,并且去除了最多的条纹状伪影。
为了在真实数据下测试图像处理算法的性能,发明人选取了脊椎CT中6146张含金属伪影和21002张不含金属伪影的图片训练网络。锥体融合术需要在锥体内植入螺钉来固定脊椎,金属螺钉在CT图像中引入了金属伪影。对于监督学习的算法,发明人直接使用仿真数据上训练的模型进行测试。图5展示了真实数据上的消除伪影的效果图。原图上一共包含四个金属物体,这些金属物体在相互之间的连线上产生了黑色带状/放射状的金属伪影。监督学习的方法(DuDoNet,DuDoNet++,DSCIP,DAN-Net)均不能保持原始图像的特性,都输出了过于平滑的图像,同时,这些算法虽然能够部分消除黑色带状伪影,但是都不同程度地引入了条纹状的二次伪影。监督算法的效果差与模型过拟合到仿真数据上有关。另一方面,非监督的算法(ADN和RCN,其中,AND的全拼为:Artifact Disentanglement Network,RCN的全拼为:Reused convolutional network)均不能完全消除伪影。本发明中的神经网络系统能够在保持原图特性的情况下最大程度地消除金属伪影。
图5展示了用来输入网络的不配对的有金属伪影的CT图片Ia和无金属伪影的图片Ic,以及去除伪影方法的中间结果图。Ia内包含两个螺钉,螺钉之间形成了剧烈的带状伪影,从Ia对应的投影数据Sa来看,可以看到有两条值很大的带状异常值。在阶段Ⅰ,Ia通过该神经网络系统得到投影域的金属伪影分量aS和图像域的伪影分量aI。对比Sa,P-Net输出的已不包含异常值,同样地,S-Net输出的也不存在异常值,提取出的aS主要包含了剧烈的带状金属伪影,因此,去除了投影域伪影分量的中的带状金属伪影已经被消除,但是投影域的处理引入了一些新的伪影。进一步地,I-Net提取的伪影分量aI中主要包括条纹状的伪影,用来补偿aS中引入的新伪影和提取残留的伪影。在阶段Ⅱ,Ia与伪影分量aS和aI相减得到的Iac是该神经网络系统输出的结果,Iac内的金属伪影被完全消除并且图像中不存在S-Net引入的新伪影。Ic与伪影分量相加生成有伪影的伪图片Ica。Ica上的伪影看起来与Ia类似。使用该神经网络系统再次消除Ica的伪影,提取出伪影分量a′S和a′I。从结果上来看,a′S与aS类似,a′I与aI类似,重建的图像Iaca和Icac也与原图类似。网络的中间结果图说明了该神经网络系统的有效性。
本发明实施例二提供了一种用于CT图像处理的神经网络系统的创建装置,包括以下模块:
第一数据获取模块,用于获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI;
神经网络系统创建模块,用于创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;所述正投影模块FPM用于对图像Ia进行正投影处理得到正投影数据Sa;所述先验子网络ΦP用于对正投影数据Sa进行修复处理、并得到 其中,Mt=δ(FP(M)),Mt是二值化的金属投影数据,M是二值化的金属图,δ()是二值化算子,FP()为正投影算子;所述投影域子网络ΦS用于对Sa进行增强处理、并得到 使用滤波反投影算子FBP提取投影域伪影分量:所述图像域子网络ΦI能够提取图像域伪影分量,即执行以下操作:aI=ΦI(Ia-aS);
训练模块,用于基于图像Ia和图像Ic、对所述神经网络系统进行训练。
本实施例中,所述先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI均为U-Net。
本实施例中,所述训练模块还用于:
使用所述神经网络系统对图像Ia进行处理、得到投影域的金属伪影分量aS以及图像域的金属伪影分量aI,输出减弱伪影后的图像Iac,结合Ic输出含有伪影的伪图片Ica,使用所述神经网络系统对图像Ica进行处理、再次提取伪影分量;对图像Ica进行正投影处理得到正投影数据Sca;利用所述投影域子网络ΦS对Sca进行增强处理、并得到使用滤波反投影算子FBP()提取投影域伪影分量a′S:利用图像域子网络ΦI提取图像域的金属伪影分量a′I,a′I=ΦI(Ica-a′S),再次进行金属伪影消除和叠加,得到重建的图像,Iaca=Iac+a′S+a′I,Icac=Ica-a′S-a′I;基于损失函数、图像Ia和图像Ic所述神经网络系统进行训练。
本实施例三提供了一种处理CT图像的方法,包括以下步骤:
获取包含有金属伪影的图像Ia;
执行实施例一中的创建方法创建神经网络系统,控制所述神经网络系统对所述图像Ia进行处理、并得到投影域上的金属伪影分量aS和图像域上的金属伪影分量aI,CT图像Iac=Ia-aS-aI。
本实施例三提供了一种生成CT图像的装置,包括以下模块:
第二数据获取模块,用于获取包含有金属伪影的图像Ia;
图像生成模块,用于执行实施例一中的创建方法创建神经网络系统,控制所述神经网络系统对所述图像Ia进行处理、并得到投影域上的金属伪影分量aS和图像域上的金属伪影分量aI,CT图像Iac=Ia-aS-aI。
应当理解,虽然本说明书按照实施方式加以描述,但并非每个实施方式仅包含一个独立的技术方案,说明书的这种叙述方式仅仅是为清楚起见,本领域技术人员应当将说明书作为一个整体,各实施方式中的技术方案也可以经适当组合,形成本领域技术人员可以理解的其他实施方式。
上文所列出的一系列的详细说明仅仅是针对本发明的可行性实施方式的具体说明,它们并非用以限制本发明的保护范围,凡未脱离本发明技艺精神所作的等效实施方式或变更均应包含在本发明的保护范围之内。
Claims (10)
1.一种用于CT图像处理的神经网络系统的创建方法,其特征在于,包括以下步骤:
获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI;
创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络Φp、投影域子网络ΦS和图像域子网络ΦI;所述正投影模块FPM用于对图像Ia进行正投影处理得到正投影数据Sa;所述先验子网络Φp用于对正投影数据Sa进行修复处理、并得到其中,Mt=δ(FP(M)),Mt是二值化的金属投影数据,M是二值化的金属图,δ()是二值化算子,FP()为正投影算子;所述投影域子网络ΦS用于对Sa进行增强处理、并得到 使用滤波反投影算子FBP()提取投影域伪影分量:所述图像域子网络ΦI能够提取图像域伪影分量,且用于执行以下操作:aI=ΦI(Ia-aS);
基于图像Ia和图像Ic、对所述神经网络系统进行训练。
2.根据权利要求1所述的创建方法,其特征在于:
所述先验子网络Φp、投影域子网络ΦS和图像域子网络ΦI均为U-Net。
3.根据权利要求2所述的创建方法,其特征在于:
所述先验子网络Φp为采用融合掩膜的U-Net,投影域子网络ΦΦS的深度为2,图像域子网络ΦI的深度为5。
4.根据权利要求1所述的创建方法,其特征在于,所述“基于图像Ia和图像Ic、对所述神经网络系统进行训练”包括:
使用所述神经网络系统对图像Ia进行处理、得到投影域的金属伪影分量aS以及图像域的金属伪影分量aI,输出减弱伪影后的图像Iac,结合Ic输出含有伪影的伪图片Ica,使用所述神经网络系统对图像Ica进行处理、再次提取伪影分量;对图像Ica进行正投影处理得到正投影数据Sca;利用所述投影域子网络ΦS对Sca进行增强处理、并得到使用滤波反投影算子FBP()提取投影域伪影分量a′S:利用图像域子网络ΦI提取图像域的金属伪影分量a′I,a′I=ΦI(Ica-a′S),再次进行金属伪影消除和叠加,得到重建的图像,Iaca=Iac+a′S+a′I,Icac=Ica-a′S-a′I;基于损失函数、图像Ia和图像Ic所述神经网络系统进行训练。
6.一种用于CT图像处理的神经网络系统的创建装置,其特征在于,包括以下模块:
第一数据获取模块,用于获取包含有金属伪影的图像Ia、以及不包含有金属伪影的图像Ic,提取所述图像Ia在投影域的金属伪影分量aS、以及在图像域的金属伪影分量aI,生成减弱伪影后的图像Iac=Ia-aS-aI,将伪影分量添加到图像Ic上生成含有伪影的合成图像Ica,Ica=Ic+aS+aI;
神经网络系统创建模块,用于创建神经网络系统,所述神经网络系统包括正投影模块FPM、反投影模块FBPM、先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI;所述正投影模块FPM用于对图像Ia进行正投影处理得到正投影数据Sa;所述先验子网络ΦP用于对正投影数据Sa进行修复处理、并得到其中,Mt=δ(FP(M)),Mt是二值化的金属投影数据,M是二值化的金属图,δ()是二值化算子,FP()为正投影算子;所述投影域子网络ΦS用于对Sa进行增强处理、并得到使用滤波反投影算子FBP()提取投影域伪影分量:所述图像域子网络ΦI能够提取图像域伪影分量,即执行以下操作:aI=ΦI(Ia-aS);
训练模块,用于基于图像Ia和图像Ic、对所述神经网络系统进行训练。
7.根据权利要求6所述的创建装置,其特征在于:
所述先验子网络ΦP、投影域子网络ΦS和图像域子网络ΦI均为U-Net。
8.根据权利要求6所述的创建装置,其特征在于,所述训练模块还用于:
使用所述神经网络系统对图像Ia进行处理、得到投影域的金属伪影分量aS以及图像域的金属伪影分量aI,输出减弱伪影后的图像Iac,结合Ic输出含有伪影的伪图片Ica,使用所述神经网络系统对图像Ica进行处理、再次提取伪影分量;对图像Ica进行正投影处理得到正投影数据Sca;利用所述投影域子网络ΦS对Sca进行增强处理、并得到使用滤波反投影算子FBP()提取投影域伪影分量a′S:利用图像域子网络ΦI提取图像域的金属伪影分量a′I,a′I=ΦI(Ica-aS),再次进行金属伪影消除和叠加,得到重建的图像,Iaca=Iac+a′S+a′I,Icac=Ica-a′S-a′I;基于损失函数、图像Ia和图像Ic所述神经网络系统进行训练。
9.一种处理CT图像的方法,其特征在于,包括以下步骤:
获取包含有金属伪影的图像Ia;
执行权利要求1-5任一项的创建方法创建神经网络系统,控制所述神经网络系统对所述图像Ia进行处理、并得到投影域上的金属伪影分量aS和图像域上的金属伪影分量aI,CT图像Iac=Ia-aS-aI。
10.一种处理CT图像的装置,其特征在于,包括以下模块:
第二数据获取模块,用于获取包含有金属伪影的图像Ia;
图像处理模块,用于执行权利要求1-5任一项的创建方法创建神经网络系统,控制所述神经网络系统对所述图像Ia进行处理、并得到投影域上的金属伪影分量aS和图像域上的金属伪影分量aI,CT图像Iac=Ia-aS-aI。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110880305.6A CN113570586A (zh) | 2021-08-02 | 2021-08-02 | 神经网络系统的创建、处理ct图像的方法及其装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110880305.6A CN113570586A (zh) | 2021-08-02 | 2021-08-02 | 神经网络系统的创建、处理ct图像的方法及其装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113570586A true CN113570586A (zh) | 2021-10-29 |
Family
ID=78169907
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110880305.6A Withdrawn CN113570586A (zh) | 2021-08-02 | 2021-08-02 | 神经网络系统的创建、处理ct图像的方法及其装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113570586A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114219820A (zh) * | 2021-12-08 | 2022-03-22 | 苏州工业园区智在天下科技有限公司 | 神经网络的生成方法、去噪方法及其装置 |
CN114820844A (zh) * | 2022-04-11 | 2022-07-29 | 苏州工业园区智在天下科技有限公司 | Ct图像的减弱金属伪影的方法、装置、终端和存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112085809A (zh) * | 2020-09-16 | 2020-12-15 | 苏州工业园区智在天下科技有限公司 | 神经网络的训练方法、消除金属伪影的方法及其装置 |
CN112508808A (zh) * | 2020-11-26 | 2021-03-16 | 中国人民解放军战略支援部队信息工程大学 | 基于生成对抗网络的ct双域联合金属伪影校正方法 |
-
2021
- 2021-08-02 CN CN202110880305.6A patent/CN113570586A/zh not_active Withdrawn
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112085809A (zh) * | 2020-09-16 | 2020-12-15 | 苏州工业园区智在天下科技有限公司 | 神经网络的训练方法、消除金属伪影的方法及其装置 |
CN112508808A (zh) * | 2020-11-26 | 2021-03-16 | 中国人民解放军战略支援部队信息工程大学 | 基于生成对抗网络的ct双域联合金属伪影校正方法 |
Non-Patent Citations (1)
Title |
---|
YUANYUAN LYU ET AL.: "U-DuDoNet: Unpaired dual-domain network for CT metal artifact reduction", 《ARXIV.ORG》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114219820A (zh) * | 2021-12-08 | 2022-03-22 | 苏州工业园区智在天下科技有限公司 | 神经网络的生成方法、去噪方法及其装置 |
CN114820844A (zh) * | 2022-04-11 | 2022-07-29 | 苏州工业园区智在天下科技有限公司 | Ct图像的减弱金属伪影的方法、装置、终端和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11727569B2 (en) | Training a CNN with pseudo ground truth for CT artifact reduction | |
Zhang et al. | Convolutional neural network based metal artifact reduction in X-ray computed tomography | |
Lyu et al. | Encoding metal mask projection for metal artifact reduction in computed tomography | |
CN106683144B (zh) | 一种图像迭代重建方法及装置 | |
US11839501B2 (en) | Image creation device | |
Chak et al. | Subsampled turbulence removal network | |
KR101018051B1 (ko) | 엑스선 촬영 영상에서 메탈 아티팩트를 감소시키는 방법 | |
CN112822982B (zh) | 图像制作装置、图像制作方法以及学习完毕模型的制作方法 | |
CN112017131B (zh) | Ct图像金属伪影去除方法、装置及计算机可读存储介质 | |
JP6071444B2 (ja) | 画像処理装置及びその作動方法、プログラム | |
Stille et al. | Augmented likelihood image reconstruction | |
CN106530236B (zh) | 一种医学图像处理方法及系统 | |
CN111223156A (zh) | 一种用于牙科锥束ct系统的金属伪影消除方法 | |
CN115131452A (zh) | 用于伪影去除的图像处理方法及装置 | |
Sahu et al. | Using virtual digital breast tomosynthesis for de-noising of low-dose projection images | |
CN113570586A (zh) | 神经网络系统的创建、处理ct图像的方法及其装置 | |
KR20090078665A (ko) | 엑스 레이 씨티 촬영 영상의 메탈 아티팩트를 제거하는방법 | |
CN113706409A (zh) | 基于人工智能的cbct图像增强方法、装置和存储介质 | |
CN112330565A (zh) | 基于改善的U-net的低剂量CT投影域中图像去噪方法 | |
CN110599530A (zh) | 基于双正则约束的mvct图像纹理增强方法 | |
CN109074635A (zh) | 用于对向量值图像去噪的设备和方法 | |
Stayman et al. | Overcoming nonlinear partial volume effects in known-component reconstruction of cochlear implants | |
Li et al. | A prior-based metal artifact reduction algorithm for x-ray CT | |
CN117197270A (zh) | 非线性投影分解的金属伪影校正方法、装置及成像设备 | |
Mai et al. | Metal Artifacts Reduction in CT Scans using Convolutional Neural Network with Ground Truth Elimination |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20211029 |