JP7019104B2 - 閾値の学習方法 - Google Patents
閾値の学習方法 Download PDFInfo
- Publication number
- JP7019104B2 JP7019104B2 JP2021532563A JP2021532563A JP7019104B2 JP 7019104 B2 JP7019104 B2 JP 7019104B2 JP 2021532563 A JP2021532563 A JP 2021532563A JP 2021532563 A JP2021532563 A JP 2021532563A JP 7019104 B2 JP7019104 B2 JP 7019104B2
- Authority
- JP
- Japan
- Prior art keywords
- mammary gland
- pixel
- region
- estimation
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 48
- 210000005075 mammary gland Anatomy 0.000 claims description 624
- 238000009607 mammography Methods 0.000 claims description 132
- 230000006870 function Effects 0.000 claims description 68
- 210000000481 breast Anatomy 0.000 claims description 36
- 238000004364 calculation method Methods 0.000 description 190
- 238000012805 post-processing Methods 0.000 description 27
- 230000010365 information processing Effects 0.000 description 26
- 238000000605 extraction Methods 0.000 description 25
- 238000010586 diagram Methods 0.000 description 21
- 210000003205 muscle Anatomy 0.000 description 20
- 210000000062 pectoralis major Anatomy 0.000 description 19
- 238000013528 artificial neural network Methods 0.000 description 11
- 238000012986 modification Methods 0.000 description 11
- 230000004048 modification Effects 0.000 description 11
- 238000012545 processing Methods 0.000 description 7
- 238000007781 pre-processing Methods 0.000 description 6
- 239000000284 extract Substances 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000002308 calcification Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000002950 deficient Effects 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 206010006187 Breast cancer Diseases 0.000 description 1
- 208000026310 Breast neoplasm Diseases 0.000 description 1
- 206010028980 Neoplasm Diseases 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000001965 increasing effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/143—Segmentation; Edge detection involving probabilistic approaches, e.g. Markov random field [MRF] modelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/28—Quantising the image, e.g. histogram thresholding for discrimination between background and foreground patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/758—Involving statistics of pixels or of feature values, e.g. histogram matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10116—X-ray image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30068—Mammography; Breast
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Radiology & Medical Imaging (AREA)
- Databases & Information Systems (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Geometry (AREA)
- Quality & Reliability (AREA)
- Optics & Photonics (AREA)
- High Energy & Nuclear Physics (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Probability & Statistics with Applications (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Description
好ましくは、乳腺密度取得ステップを更に備え、前記取得ステップでは、前記乳腺領域の正解乳腺密度を更に取得し、前記乳腺密度取得ステップでは、前記マンモグラフィ画像と、前記乳腺画素推定閾値とに基づいて前記乳腺領域の算出乳腺密度を取得し、前記学習ステップでは、前記正解乳腺密度と前記算出乳腺密度とに基づいて前記関係を学習する、方法が提供される。
好ましくは、前記学習ステップでは、前記マンモグラフィ画像と、乳腺画素推定傾きとの関係を更に学習し、前記乳腺画素推定閾値は、予め定められている閾値関数の閾値であり、前記乳腺画素推定傾きは、前記閾値関数の前記乳腺画素推定閾値における傾きであり、前記閾値関数は、前記乳腺領域の各画素の画素値と、当該各画素の前記乳腺画素面積とが関連付けられた関数であり、前記乳腺密度取得ステップでは、前記閾値関数と前記乳腺画素推定閾値と前記乳腺画素推定傾きとに基づいて、前記乳腺領域の各画素の前記乳腺画素面積を算出し、前記乳腺画素面積の総和に基づいて前記算出乳腺密度を取得する、方法が提供される。
好ましくは、ヒストグラム生成ステップを更に備え、前記ヒストグラム生成ステップでは、第1~第3ヒストグラムが生成され、第1ヒストグラムは、前記マンモグラフィ画像の各画素の画素値のヒストグラムであり、第2ヒストグラムは、前記乳腺領域の各画素の画素値のヒストグラムであり、第3ヒストグラムは、前記マンモグラフィ画像の各画素の乳腺領域確率のヒストグラムであり、前記乳腺領域確率は、前記マンモグラフィ画像中の各画素が乳腺領域である確率を示し、前記学習ステップでは、第1~第3ヒストグラムと、前記乳腺画素推定閾値との前記関係を学習する、方法が提供される。
好ましくは、前記乳腺領域は、前記マンモグラフィ画像に含まれる乳房全体よりも狭い領域である、方法が提供される。
本発明の実施形態の別の観点によれば、マンモグラフィ画像中の画素に適用される閾値の学習方法であって、取得ステップと、学習ステップとを備え、前記取得ステップでは、前記マンモグラフィ画像を取得し、前記学習ステップでは、前記マンモグラフィ画像と乳腺領域推定閾値との関係を学習し、前記乳腺領域推定閾値は、前記マンモグラフィ画像の乳腺領域の各画素の乳腺領域面積を算出するときに用いられる閾値であり、前記乳腺領域面積は、前記マンモグラフィ画像の画素が乳腺領域を構成するか否かの度合いを示す値である、方法が提供される。
第1実施形態の情報処理装置1は、図1に示すように、乳腺領域抽出部3と、乳腺画素面積算出部4と、乳腺密度算出部5と、閾値推定部11とを備える。
1-1-1 乳腺領域抽出部3
乳腺領域抽出部3は、図4Aに示すようなマンモグラフィ画像における乳腺領域Rを抽出する。マンモグラフィ画像は、多数の画素で構成されたデジタル画像である。各画素は、輝度値を有する。マンモグラフィ画像には、通常、大胸筋領域Gと、乳房領域Bが含まれている。大胸筋領域Gは、大胸筋に相当する領域であり、乳房領域Bは、乳房全体に相当する領域である。乳房領域Bには、乳腺領域Rが含まれている。乳腺領域Rは、乳房領域Bよりも狭い領域である。乳腺領域Rには、乳腺画素と脂肪画素が含まれている。乳腺画素は、乳腺に相当する画素であり、脂肪画素は、脂肪に相当する画素であり、乳腺領域R内の、乳腺画素以外の画素である。乳腺領域Rは、乳腺画素を大まかに囲った領域である。
前処理部6は、マンモグラフィ画像に対して、種々の前処理を行う。前処理は、マンモグラフィ画像を乳腺領域確率算出部7での処理に適した状態にするために行う処理である。前処理済みの画像もマンモグラフィ画像と称する。
サイズ合わせ部は、マンモグラフィ画像のサイズ合わせを行う。マンモグラフィ画像は撮像機材や設定によって解像度が異なる。これは1画素あたりの実サイズ(mm)が入力画像によって異なるということを表わす。サイズ合わせ部は、1画素あたりのサイズ違いによる検出精度の揺らぎを無くすため、1画素あたり、例えば0.2mmになるようにリサイズを行う。なお、前処理部6の例えば演算量や処理速度に制限がある場合、サイズ合わせ部は、各画像を予め定められた一律の画像サイズにリサイズすることもできる。
ウィンドウレベル調整部は、マンモグラフィ画像のウィンドウレベル調整を行う。ウィンドウレベル調整とは、幅広いレンジの階調値を持った画像のある特定の階調域のコントラストを向上させる処理である。ウィンドウレベル調整を行うことによってマンモグラフィ画像の視認性を向上させることができる。これによって、乳腺領域Rの抽出精度を向上させることができる。
ノイズ除去部は、マンモグラフィ画像のノイズ除去を行う。マンモグラフィ画像の中には、乳腺領域Rの抽出精度を低下させるものが存在している場合があり、それをノイズとして除去する。ノイズとしては、人工ラベルや大胸筋領域Gが挙げられる。人工ラベルは、人工的に付されたラベルであり、マスク処理によって除去可能である。大胸筋領域Gは、公知の領域拡張法によって除去可能である。但し、第1実施形態では、大胸筋領域Gが含まれた状態でも乳腺領域Rを抽出することが可能であるので、大胸筋領域Gをノイズとして扱わなくてもよい。
乳腺領域確率算出部7は、マンモグラフィ画像中の分割された複数の領域に対し、乳腺領域Rである確率Pをそれぞれ算出する。具体的には、乳腺領域確率算出部7は、乳腺領域Rである確率Pが当該領域ごとに特定された確率マップを生成する。第1実施形態において、確率マップの範囲は、マンモグラフィ画像の全域にわたっている。第1実施形態では、サイズ合わせ部がマンモグラフィ画像をリサイズし(第1実施形態では縮小し)、このリサイズされたマンモグラフィ画像が乳腺領域確率算出部7に入力されるため、上述したマンモグラフィ画像中の分割された各領域は、マンモグラフィ画像の各画素よりも粗い。つまり、この各領域の範囲は、マンモグラフィ画像の各画素よりも広い。このように、第1実施形態において、乳腺領域確率算出部7で処理されるマンモグラフィ画像は、マンモグラフィ測定によって取得されたマンモグラフィ画像の縮小画像であってもよい。
後処理部8は、確率Pに基づいて乳腺領域Rを抽出する。後処理部8は、候補画素抽出部9と、領域形成部10を備える。
候補画素抽出部9は、確率Pが乳腺領域推定閾値Th2を超える画素を候補画素として抽出して候補画素マップを生成し、出力する。第1実施形態において、乳腺領域推定閾値Th2は、予め定められた値である。乳腺領域推定閾値Th2は、固定された値であってもよく、ユーザーが適宜変更可能な値であってもよい。候補画素マップは、確率マップの画素と対応した画素を有する。候補画素マップでは、確率Pが乳腺領域推定閾値Th2以上の画素の値が例えば1で、乳腺領域推定閾値Th2未満の画素の値が例えば0となる。
領域形成部10は、候補画素マップに対してノイズ除去及び欠損領域穴埋めを行って乳腺領域Rを形成する。
乳腺画素面積算出部4は、図7Bに示すような乳腺画素面積マップを生成する。乳腺画素面積マップは、乳腺領域R中の各画素に対して乳腺画素面積Laが算出されているマップである。乳腺画素面積Laは、画素の乳腺画素らしさの度合いを示す値である。
乳腺画素面積算出部4がマンモグラフィ画像中の画素の画素値Pvに基づいて乳腺画素面積Laを算出するにあたり、乳腺画素面積算出部4は図8に示す第1閾値関数を用いている。第1閾値関数は、乳腺領域Rの各画素の画素値Pvと、乳腺領域Rの各画素の乳腺画素面積と、が関連付けられた関数である。また、第1閾値関数は、乳腺画素推定閾値Th1で急激に立ち上がる関数である。つまり、第1閾値関数において、乳腺画素推定閾値Th1より小さい画素値Pvの範囲では乳腺画素面積Laは0又は0に近い値となり、乳腺画素推定閾値Th1より大きい画素値Pvの範囲では乳腺画素面積Laは1又は1に近い値となる。このように、乳腺画素推定閾値Th1は、第1閾値関数における閾値である。第1実施形態の第1閾値関数(シグモイド関数)は図8に示すような式で表され、第1実施形態の第1閾値関数(シグモイド関数)は乳腺画素推定閾値Th1及び乳腺画素推定傾きa1が定められることで曲線形状が決定される。乳腺画素推定傾きa1は、第1閾値関数の画素値Pvが乳腺画素推定閾値Th1のときにおける第1閾値関数の傾きに相当する。
なお、第1実施形態において、第1閾値関数はシグモイド関数であるが、その他の関数も採用可能である。例えば、第1閾値関数には、関数値が0から1になるような連続関数を採用可能である。具体的には、第1閾値関数にはf(x)=(tanh(x)+1)/2を採用可能である。
乳腺画素面積Laは、上述したように、乳腺画素らしさの度合いを示す値である。例えば、任意の画素の乳腺画素面積Laが1である場合には、当該任意の画素は乳腺画素そのものであるとみなすことができ、また、任意の画素の乳腺画素面積Laが0である場合には当該任意の画素は乳腺画素ではないとみなすことができる。加えて、乳腺画素面積Laは、0より大きく1より小さい中間的な値もとり得る。
つまり、乳腺画素面積算出部4は、マンモグラフィ画像中の画素が、乳腺画素である又は乳腺画素ではない、といったいずれか一方の画素に該当するか否かを判定しているわけではない。換言すると、乳腺画素面積Laは、任意の画素が乳腺画素であるか、それとも、乳腺画素でないか、を明確に切り分けるための値ではない。
実施形態では、乳腺画素面積Laは、任意の画素に対して算出されるのではなく、乳腺領域R中の画素に対して算出される。つまり、乳腺画素面積算出部4は、マンモグラフィ画像の乳腺領域R中の画素の画素値Pvに基づいて乳腺領域R中の乳腺画素面積Laを算出する。
乳腺画素面積算出部4は、閾値推定部11から乳腺画素推定閾値Th1及び乳腺画素推定傾きa1を受け取る。そして、乳腺画素面積算出部4は、乳腺領域R中の画素の画素値Pvと、乳腺画素推定閾値Th1及び乳腺画素推定傾きa1が代入された第1閾値関数と、に基づいて、乳腺領域R中の画素の乳腺画素面積Laを算出する。なお、第1実施形態では、乳腺画素推定傾きa1が閾値推定部11で算出され、この算出された乳腺画素推定傾きa1を乳腺画素面積算出部4が受け取る場合を例に説明するが、これに限定されるものではない。例えば、乳腺画素推定傾きa1は、固定された値であってもよく、ユーザーが適宜変更可能な値であってもよい。
乳腺密度算出部5は、乳腺領域R中の全ての画素の乳腺画素面積Laの総和に基づいて乳腺密度を算出する。より具体的には、乳腺密度算出部5は、乳腺領域R中の全ての画素の乳腺画素面積Laの総和と、乳腺領域R中の全ての画素数とを算出し、以下の式に基づいて、乳腺密度を算出する。
乳腺密度(%)=100×(乳腺画素面積Laの総和)/(乳腺領域総画素数)
なお、乳腺密度算出部5が算出する乳腺密度が、算出乳腺密度に対応する。
閾値推定部11は、学習段階及び運用段階において、マンモグラフィ画像等に基づいて乳腺画素推定閾値Th1及び乳腺画素推定傾きa1(図8参照)を算出する機能を有する。閾値推定部11は、図3に示すように、画像生成部12と、ヒストグラム生成部13と、推定閾値算出部14と、誤差算出部15とを備えている。
画像生成部12は、マンモグラフィ画像に基づいて乳腺領域マンモグラフィ画像を生成する。図4Bに示す乳腺領域マンモグラフィ画像は、マンモグラフィ画像のうち乳腺領域Rの画素から構成される。画像生成部12は、乳腺領域マップと、マンモグラフィ画像とに基づいて、乳腺領域マンモグラフィ画像を生成することができる。
ヒストグラム生成部13は、第1~第3ヒストグラムを生成する。具体的には、ヒストグラム生成部13は、マンモグラフィ画像に基づいて第1ヒストグラムを生成し、画像生成部12で生成される乳腺領域マンモグラフィ画像に基づいて第2ヒストグラムを生成し、乳腺領域確率算出部7で生成される確率マップに基づいて第3ヒストグラムを生成する。
第2ヒストグラムは、画像生成部12で生成される乳腺領域マンモグラフィ画像中の各画素の画素値のヒストグラムである。第2ヒストグラムでは、画素値又は画素値の範囲が複数予め定められており、当該予め定められた画素値又は画素値の範囲に属する画素の数が特定される。
第3ヒストグラムは、マンモグラフィ画像中の各画素の確率Pのヒストグラムである。第3ヒストグラムでは、確率P又は確率Pの範囲が複数予め定められており、当該予め定められた確率P又は確率Pの範囲に属する画素の数が特定される。
学習段階において、推定閾値算出部14は、マンモグラフィ画像と、第1閾値関数に関する値(乳腺画素推定閾値Th1及び乳腺画素推定傾きa1)との関係を学習する機能を有する。第1実施形態では、推定閾値算出部14は、学習にあたり、マンモグラフィ画像に加え、マンモグラフィ画像から生成される確率マップと、マンモグラフィ画像から生成される乳腺領域マンモグラフィ画像と、を用いる。
誤差算出部15は、図1及び図3に示すように、情報処理装置1に入力される正解密度データ(正解乳腺密度)と、乳腺密度算出部5が算出する乳腺密度とを比較する。つまり、誤差算出部15は、正解密度と算出された乳腺密度との差(誤差)を算出する。ここで、正解密度データは、医師等によって乳腺密度が判断された正解データである。つまり、正解密度データは、医師等が対応するマンモグラフィ画像を目視することで算出された乳腺密度の値である。誤差算出部15は、算出した差(誤差)を、推定閾値算出部14に出力する。
1-2-1 学習段階
乳腺画素推定閾値Th1の学習段階における動作について図1及び図3を参照して説明する。
第1実施形態の学習方法は、取得ステップと、確率マップ生成ステップと、乳腺領域抽出ステップと、画像生成ステップと、ヒストグラム生成ステップと、学習ステップと、乳腺画素面積マップ生成ステップと、乳腺密度取得ステップと、を備える。
乳腺領域抽出ステップにおいて、候補画素抽出部9は、確率マップに基づいて候補画素マップを生成し、領域形成部10は候補画素マップに基づいて乳腺領域マップを生成する。領域形成部10は、乳腺領域マップを、乳腺画素面積算出部4及び閾値推定部11に出力する。
ヒストグラム生成ステップにおいて、ヒストグラム生成部13は、マンモグラフィ画像に基づいて第1~第3ヒストグラムを生成する。より具体的には、ヒストグラム生成ステップにおいて、ヒストグラム生成部13は、取得ステップで取得したマンモグラフィ画像と、画像生成ステップで生成した乳腺領域マンモグラフィ画像と、確率マップ生成ステップで生成した確率マップとに基づいて、第1~第3ヒストグラムを生成する。ヒストグラム生成部13は、第1~第3ヒストグラムを推定閾値算出部14に出力する。
第1実施形態において、推定閾値算出部14のニューラルネットワークは、演算負荷抑制の観点から、マンモグラフィ画像そのものを処理する構成ではなく、ヒストグラムを処理する構成である。つまり、推定閾値算出部14は、ヒストグラム生成ステップで生成された第1~第3ヒストグラムと、乳腺画素推定閾値Th1等との関係を学習する。
乳腺密度取得ステップにおいて、乳腺密度算出部5は、乳腺画素面積マップに基づいて、乳腺密度を取得する。乳腺密度算出部5は、算出した乳腺密度を閾値推定部11の誤差算出部15に出力する。
運用段階における動作について図2に基づいて説明する。運用段階における動作は、学習段階における動作と異なる部分を説明する。
確率マップ生成ステップ、乳腺領域抽出ステップ、画像生成ステップ、ヒストグラム生成ステップ、乳腺画素面積マップ生成ステップ及び乳腺密度取得ステップについては、学習段階と同様である。
運用段階の乳腺画素を算出する方法は、学習ステップの代わりに閾値・傾き算出ステップを備えている。
1-3-1 変形例1:複数の機能ブロックが並行学習
実施形態では、閾値推定部11の学習段階において、乳腺領域確率算出部7が学習を完了している場合を例に説明したが、これに限定されるものではない。図9に示すように、情報処理装置1は、閾値推定部11及び乳腺領域確率算出部7が並行して学習をするように構成されていてもよい。
実施形態では、閾値推定部11の入力データは、ヒストグラム(第1~第3ヒストグラム)である場合を例に説明したが、これに限定されるものではない。図10に示すように、閾値推定部11の入力データは、マンモグラフィ画像と、乳腺領域マンモグラフィ画像と、確率マップとであってもよい。この場合、閾値推定部11の推定閾値算出部14の構成には、畳み込みネットワークであるCNN(Convolutional Neural Network)を採用することができる。本変形例2では、実施形態と比較すると、推定閾値算出部14の演算負荷が増大するが、算出される乳腺画素推定閾値Th1等の精度が更に上がり、ひいては、算出される乳腺密度の精度も更に上昇する効果を期待することができる。
第1実施形態では、誤差算出部15が算出乳腺密度と正解乳腺密度(正解密度データ)との誤差を算出し、推定閾値算出部14がこの誤差に基づいて、マンモグラフィ画像(実施形態では第1~第3ヒストグラム)と、乳腺画素推定閾値との関係を学習する形態であったが、これに限定されるものではない。換言すると、第1実施形態の学習ステップでは、正解乳腺密度と、算出乳腺密度とに基づいて、マンモグラフィ画像と乳腺画素推定閾値との関係を学習する形態であったが、これに限定されるものではない。
誤差算出部15は、推定閾値算出部14が算出する乳腺画素推定閾値と、正解乳腺画素推定閾値との誤差を算出し、推定閾値算出部14は、この誤差に基づいて、マンモグラフィ画像と、乳腺画素想定閾値との関係を学習してもよい。換言すると、学習ステップでは、上述した正解乳腺画素推定閾値の算出に用いる正解乳腺密度と、学習ステップにおいて出力される乳腺画素推定閾値とに基づいて、マンモグラフィ画像と乳腺画素推定閾値との関係を学習してもよい。
変形例3では、閾値推定部11が正解データ取得部(不図示)を更に備え、正解データ取得部が正解乳腺密度に基づいて正解乳腺画素推定閾値を逆算して正解乳腺画素推定閾値を取得する。そして、誤差算出部15は、推定閾値算出部14が算出する乳腺画素推定閾値と、正解乳腺画素推定閾値が取得した正解乳腺画素推定閾値との誤差を算出し、推定閾値算出部14は、この誤差に基づいて、マンモグラフィ画像と、乳腺画素想定閾値との関係を学習する。
第2実施形態は、第1実施形態と共通する構成については説明を適宜省略し、相違する構成を中心に説明する。
2-1-1 乳腺領域抽出部3
前処理部6及び乳腺領域確率算出部7については、第1実施形態と同様のため、説明を省略する。
後処理部8は、図14Aに示す確率P(確率マップ)に基づいて、図14Bに示す乳腺領域面積Lb(乳腺領域面積マップ)を取得する。そして、後処理部8は、乳腺領域面積Lb(候補画素面積マップ)に基づいて乳腺領域Rを抽出する。後処理部8は、候補画素抽出部9の代わりに、乳腺領域面積算出部9Bを備えている。
乳腺領域面積算出部9Bは、図14Bに示すような乳腺領域面積マップを生成する。乳腺領域面積マップは、確率マップ中の各画素に対して乳腺領域面積Lbが算出されているマップである。図14Bにおいて、略中央の灰色で示した画素は、乳腺領域Rに対応する画素を模式的に示したものである。この灰色で示した画素は、白色で示した画素よりも、乳腺領域面積Lbの値が大きい。
乳腺領域面積算出部9Bが確率Pに基づいて乳腺領域面積Lbを算出するにあたり、乳腺領域面積算出部9Bは図15に示す第2閾値関数を用いている。第2閾値関数は、各画素の確率Pと、各画素の乳腺領域面積Lbと、が関連付けられた関数である。また、第2閾値関数は、乳腺領域推定閾値Th2で急激に立ち上がる関数である。つまり、第2閾値関数において、乳腺領域推定閾値Th2より小さい画素値の範囲では乳腺領域面積Lbは0又は0に近い値となり、乳腺領域推定閾値Th2より大きい画素値の範囲では乳腺領域面積Lbは1又は1に近い値となる。このように、乳腺領域推定閾値Th2は、第2閾値関数における閾値である。第2実施形態においても第2閾値関数はシグモイド関数であるが、その他の関数も採用可能である。第2実施形態の第2閾値関数(シグモイド関数)は図15に示すような式で表され、第2閾値関数は乳腺領域推定閾値Th2及び乳腺領域推定傾きa2が定められることで曲線形状が決定される。乳腺領域推定傾きa2は、第2閾値関数の画素値が乳腺領域推定閾値Th2のときにおける第2閾値関数の傾きに相当する。
乳腺領域面積Lbは、上述したように、確率マップ中の画素が乳腺領域Rに含まれるか否かの度合いを示す値である。例えば、任意の画素の乳腺領域面積Lbが1である場合には、当該任意の画素は乳腺領域の候補画素そのものであるとみなすことができ、また、任意の画素の乳腺領域面積Lbが0である場合には当該任意の画素は候補画素ではないとみなすことができる。加えて、乳腺領域面積Lbは、0より大きく1より小さい中間的な値もとり得る。
つまり、乳腺領域面積算出部9Bは、確率マップ中の画素が、乳腺領域の候補画素である又は乳腺領域の候補画素ではない、といったいずれか一方の画素に該当するか否かを判定しているわけではない。換言すると、乳腺領域面積Lbは、任意の画素が候補画素であるか、それとも、候補画素でないか、を明確に切り分けるための値ではない。実施形態では、乳腺領域面積Lbは、マンモグラフィ画像全体の各画素に対して算出される。
乳腺領域面積算出部9Bは、閾値推定部11から乳腺領域推定閾値Th2及び乳腺領域推定傾きa2を受け取る。そして、乳腺領域面積算出部9Bは、確率マップ中の画素の確率Pと、乳腺領域推定閾値Th2及び乳腺領域推定傾きa2が代入された第2閾値関数と、に基づいて、確率マップ中の画素の乳腺領域面積Lbを算出する。なお、乳腺領域推定傾きa2は、固定された値であってもよく、ユーザーが適宜変更可能な値であってもよい。
領域形成部10は、乳腺領域面積マップに基づいて乳腺領域を形成する。乳腺領域の形成方法は、各種の方法を採用することができる。ここでは一例として以下の(1)(2)を説明する。
(1)例えば、乳腺領域面積算出部9Bが、乳腺領域面積マップの画素のうち、予め定められた閾値よりも乳腺領域面積Lbが大きい画素を第1実施形態で説明した候補画素と判定して候補画素マップを生成し、領域形成部10が、この候補画素マップに対してノイズ除去及び欠損領域穴埋めを行って乳腺領域Rを形成することができる。乳腺領域面積Lbは、閾値関数(第2実施形態ではシグモイド関数)に基づいて算出されるので、乳腺領域面積Lbの多くは、0或いは0に近い値、又は、1或いは1に近い値である。このため、予め定められた閾値が例えば0.5等といった値に設定されていれば、乳腺領域面積算出部9Bは適切に候補画素マップを生成可能である。
(2)また、領域形成部10が乳腺領域面積マップに対して例えばフィルタ処理を実施することで、領域形成部10が乳腺領域面積マップに基づいて乳腺領域Rを形成してもよい。
乳腺画素面積算出部4は、図7Bに示すような乳腺領域面積マップを生成する。乳腺画素面積算出部4は、予め定められた乳腺画素推定閾値Th1及び乳腺画素推定傾きa1を用いて、乳腺領域面積マップを生成する。つまり、第1実施形態において、乳腺画素面積算出部4は、乳腺画素推定閾値Th1及び乳腺画素推定傾きa1を、閾値推定部11から取得していたが、第2実施形態では、予め定められた値である。乳腺画素推定閾値Th1及び乳腺画素推定傾きa1は、固定された値であってもよく、ユーザーが適宜変更可能な値であってもよい。
乳腺密度の算出方法は、第1実施形態と同様である。乳腺密度算出部5は、乳腺領域R中の全ての画素の乳腺画素面積Laの総和に基づいて乳腺密度を算出する。より具体的には、乳腺密度算出部5は、乳腺領域R中の全ての画素の乳腺画素面積Laの総和と、乳腺領域R中の全ての画素数とを算出し、以下の式に基づいて、乳腺密度を算出する。
乳腺密度(%)=100×(乳腺画素面積Laの総和)/(乳腺領域総画素数)
閾値推定部11は、学習段階及び運用段階において、マンモグラフィ画像等に基づいて乳腺領域推定閾値Th2及び乳腺領域推定傾きa2を算出する機能を有する。
学習段階において、推定閾値算出部14は、マンモグラフィ画像と、第2閾値関数に関する値(乳腺領域推定閾値Th2及び乳腺領域推定傾きa2)との関係を学習する機能を有する。第2実施形態では、推定閾値算出部14は、学習にあたり、マンモグラフィ画像に加え、マンモグラフィ画像から生成される確率マップと、マンモグラフィ画像から生成される乳腺領域マンモグラフィ画像と、を用いる。
誤差算出部15は、情報処理装置1に入力される正解乳腺領域データ(正解乳腺領域)と、後処理部8が生成する乳腺領域マップとを比較する。ここで、正解乳腺領域データは、医師等によって乳腺領域であるか否かが判断された正解データである。つまり、正解乳腺領域データは、医師等が対応するマンモグラフィ画像を目視することで、乳腺領域であるか否かが判断されたものである。誤差算出部15は、算出した差(誤差)を、推定閾値算出部14に出力する。
2-2-1 学習段階
乳腺領域推定閾値Th2の学習段階における動作について図11及び図13を参照して説明する。
第2実施形態の学習方法は、取得ステップと、確率マップ生成ステップと、乳腺領域抽出ステップと、画像生成ステップと、ヒストグラム生成ステップと、学習ステップと、乳腺画素面積マップ生成ステップと、乳腺密度取得ステップと、を備える。
乳腺領域抽出ステップは、乳腺領域面積マップ生成ステップと、乳腺領域マップ生成ステップとを有する。乳腺領域面積マップ生成ステップにおいて、後処理部8は確率マップに基づいて乳腺領域面積マップを生成する。そして、乳腺領域マップ生成ステップにおいて、後処理部8は乳腺領域面積マップに基づいて乳腺領域マップを生成し、また、後処理部8は、乳腺領域マップを、乳腺画素面積算出部4及び閾値推定部11に出力する。
ヒストグラム生成ステップにおいて、ヒストグラム生成部13は、マンモグラフィ画像に基づいて第1~第3ヒストグラムを生成する。より具体的には、ヒストグラム生成ステップにおいて、ヒストグラム生成部13は、取得ステップで取得したマンモグラフィ画像と、画像生成ステップで生成した乳腺領域マンモグラフィ画像と、確率マップ生成ステップで生成した確率マップとに基づいて、第1~第3ヒストグラムを生成する。ヒストグラム生成部13は、第1~第3ヒストグラムを推定閾値算出部14に出力する。
乳腺密度取得ステップにおいて、乳腺密度算出部5は、乳腺画素面積マップに基づいて、乳腺密度を算出する。
運用段階における動作について図12に基づいて説明する。運用段階における動作は、学習段階における動作と異なる部分を説明する。
確率マップ生成ステップ、乳腺領域抽出ステップ、乳腺領域抽出ステップ、乳腺領域面積画像生成ステップ、ヒストグラム生成ステップ、乳腺画素面積マップ生成ステップ及び乳腺密度取得ステップについては、学習段階と同様である。
運用段階では、学習ステップの代わりに閾値・傾き算出ステップを備えている。
図16及び図17に示すように、第1実施形態及び第2実施形態の構成を組み合わせてもよい。つまり、推定閾値算出部14が、乳腺画素推定閾値Th1及び乳腺画素推定傾きa1と、乳腺領域推定閾値Th2及び乳腺領域推定傾きa2とを学習するように構成されていてもよい。この場合、図17に示すように、誤差算出部15は、乳腺密度算出部5が算出した乳腺密度と正解密度データとの誤差である第1誤差と、後処理部8が生成した乳腺領域マップと正解乳腺領域データとの誤差である第2誤差とを算出する。そして、推定閾値算出部14のニューラルネットワークのフィルタの重み係数は、誤差算出部15で算出される第1及び第2誤差に基づいて適宜更新される。
Claims (6)
- マンモグラフィ画像中の画素に適用される閾値の学習方法であって、
取得ステップと、学習ステップとを備え、
前記取得ステップでは、前記マンモグラフィ画像を取得し、
前記学習ステップでは、前記マンモグラフィ画像と乳腺画素推定閾値との関係を学習し、
前記乳腺画素推定閾値は、前記マンモグラフィ画像の乳腺領域の各画素の乳腺画素面積を算出するときに用いられる閾値であり、
前記乳腺画素面積は、前記マンモグラフィ画像の画素の乳腺画素らしさの度合いを示す値である、方法。 - 請求項1に記載の方法であって、
乳腺密度取得ステップを更に備え、
前記取得ステップでは、前記乳腺領域の正解乳腺密度を更に取得し、
前記乳腺密度取得ステップでは、前記マンモグラフィ画像と、前記乳腺画素推定閾値とに基づいて前記乳腺領域の算出乳腺密度を取得し、
前記学習ステップでは、前記正解乳腺密度と、前記算出乳腺密度又は前記学習ステップにおいて出力される前記乳腺画素推定閾値とに基づいて前記関係を学習する、方法。 - 請求項2に記載の方法であって、
前記学習ステップでは、前記マンモグラフィ画像と、乳腺画素推定傾きとの関係を更に学習し、
前記乳腺画素推定閾値は、予め定められている閾値関数の閾値であり、
前記乳腺画素推定傾きは、前記閾値関数の前記乳腺画素推定閾値における傾きであり、
前記閾値関数は、前記乳腺領域の各画素の画素値と、当該各画素の前記乳腺画素面積とが関連付けられた関数であり、
前記乳腺密度取得ステップでは、前記閾値関数と前記乳腺画素推定閾値と前記乳腺画素推定傾きとに基づいて、前記乳腺領域の各画素の前記乳腺画素面積を算出し、前記乳腺画素面積の総和に基づいて前記算出乳腺密度を取得する、方法。 - 請求項1~請求項3の何れか1つに記載の方法であって、
ヒストグラム生成ステップを更に備え、
前記ヒストグラム生成ステップでは、第1~第3ヒストグラムが生成され、
第1ヒストグラムは、前記マンモグラフィ画像の各画素の画素値のヒストグラムであり、
第2ヒストグラムは、前記乳腺領域の各画素の画素値のヒストグラムであり、
第3ヒストグラムは、前記マンモグラフィ画像の各画素の乳腺領域確率のヒストグラムであり、
前記乳腺領域確率は、前記マンモグラフィ画像中の各画素が前記乳腺領域である確率を示し、
前記学習ステップでは、第1~第3ヒストグラムと、前記乳腺画素推定閾値との前記関係を学習する、方法。 - 請求項1~請求項4の何れか1つに記載の方法であって、
前記乳腺領域は、前記マンモグラフィ画像に含まれる乳房全体よりも狭い領域である、方法。 - マンモグラフィ画像中の画素に適用される閾値の学習方法であって、
取得ステップと、学習ステップとを備え、
前記取得ステップでは、前記マンモグラフィ画像を取得し、
前記学習ステップでは、前記マンモグラフィ画像と乳腺領域推定閾値との関係を学習し、
前記乳腺領域推定閾値は、前記マンモグラフィ画像の乳腺領域の各画素の乳腺領域面積を算出するときに用いられる閾値であり、
前記乳腺領域面積は、前記マンモグラフィ画像の画素が前記乳腺領域を構成するか否かの度合いを示す値である、方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2019/027709 WO2021009804A1 (ja) | 2019-07-12 | 2019-07-12 | 閾値の学習方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2021009804A1 JPWO2021009804A1 (ja) | 2021-01-21 |
JP7019104B2 true JP7019104B2 (ja) | 2022-02-14 |
Family
ID=74210300
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021532563A Active JP7019104B2 (ja) | 2019-07-12 | 2019-07-12 | 閾値の学習方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220245806A1 (ja) |
JP (1) | JP7019104B2 (ja) |
WO (1) | WO2021009804A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024181083A1 (ja) * | 2023-03-02 | 2024-09-06 | 富士フイルム株式会社 | 超音波診断装置および超音波診断装置の制御方法 |
WO2024203214A1 (ja) * | 2023-03-29 | 2024-10-03 | 富士フイルム株式会社 | 超音波診断装置および超音波診断装置の制御方法 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113393475B (zh) * | 2021-06-30 | 2024-02-20 | 神州医疗科技股份有限公司 | 一种乳腺钼靶图像分割的装置、电子设备、医疗设备和介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015167829A (ja) | 2014-03-10 | 2015-09-28 | 株式会社東芝 | 医用検査管理装置、医用画像診断装置及び医用検査システム |
JP2016206693A (ja) | 2015-04-15 | 2016-12-08 | 東芝メディカルシステムズ株式会社 | 医用情報処理システム |
JP6195511B2 (ja) | 2013-11-28 | 2017-09-13 | 株式会社東海理化電機製作所 | 車両用ミラー装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3248965B2 (ja) * | 1992-12-22 | 2002-01-21 | 株式会社リコー | 2値化しきい値決定装置 |
JP2002051987A (ja) * | 2000-08-10 | 2002-02-19 | Canon Inc | 診断支援方法および装置 |
JP7122918B2 (ja) * | 2017-09-29 | 2022-08-22 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
-
2019
- 2019-07-12 JP JP2021532563A patent/JP7019104B2/ja active Active
- 2019-07-12 WO PCT/JP2019/027709 patent/WO2021009804A1/ja active Application Filing
- 2019-07-12 US US17/622,493 patent/US20220245806A1/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6195511B2 (ja) | 2013-11-28 | 2017-09-13 | 株式会社東海理化電機製作所 | 車両用ミラー装置 |
JP2015167829A (ja) | 2014-03-10 | 2015-09-28 | 株式会社東芝 | 医用検査管理装置、医用画像診断装置及び医用検査システム |
JP2016206693A (ja) | 2015-04-15 | 2016-12-08 | 東芝メディカルシステムズ株式会社 | 医用情報処理システム |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024181083A1 (ja) * | 2023-03-02 | 2024-09-06 | 富士フイルム株式会社 | 超音波診断装置および超音波診断装置の制御方法 |
WO2024203214A1 (ja) * | 2023-03-29 | 2024-10-03 | 富士フイルム株式会社 | 超音波診断装置および超音波診断装置の制御方法 |
Also Published As
Publication number | Publication date |
---|---|
US20220245806A1 (en) | 2022-08-04 |
WO2021009804A1 (ja) | 2021-01-21 |
JPWO2021009804A1 (ja) | 2021-01-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3553742B1 (en) | Method and device for identifying pathological picture | |
CN111784671B (zh) | 基于多尺度深度学习的病理图像病灶区域检测方法 | |
CN110473243B (zh) | 基于深度轮廓感知的牙齿分割方法、装置及计算机设备 | |
US11810293B2 (en) | Information processing device, information processing method, and computer program | |
CN110992377B (zh) | 图像分割方法、装置、计算机可读存储介质和设备 | |
JP7019104B2 (ja) | 閾値の学習方法 | |
CN112132854B (zh) | 图像分割的方法及装置,以及电子设备 | |
Lakshmi et al. | Tooth decay prediction and classification from X-ray images using deep CNN | |
Maitra et al. | Accurate breast contour detection algorithms in digital mammogram | |
CN115546232A (zh) | 一种肝脏超声图像工作区域提取方法、系统及电子设备 | |
CN116758087A (zh) | 一种腰椎ct骨窗侧隐窝间隙检测方法及装置 | |
CN113011450B (zh) | 青光眼识别的训练方法、训练装置、识别方法及识别系统 | |
Rad et al. | Dental x-ray image segmentation and multiple feature extraction | |
US20220138936A1 (en) | Systems and methods for calcium-free computed tomography angiography | |
CN115100494A (zh) | 一种病灶图像的识别方法、装置、设备及可读存储介质 | |
CN113469963B (zh) | 肺动脉图像分割方法及装置 | |
US20160217572A1 (en) | Medical image processing device, operation method therefor, and medical image processing program | |
CN117710317A (zh) | 检测模型的训练方法及检测方法 | |
KR102380560B1 (ko) | 영상 처리를 기반으로 하는 각막궤양 검출 장치 및 그 방법 | |
CN116012269A (zh) | 图像处理装置、模型训练装置以及模型训练方法 | |
CN112949585A (zh) | 一种眼底图像血管的识别方法、装置、电子设备及存储介质 | |
Punitha et al. | Innovations in CT Angiography Image Analysis: Machine Learning Methods for Plaque Segmentation | |
Prakash | Medical image processing methodology for liver tumour diagnosis | |
Mohammadpour et al. | Retinal blood vessel segmentation based on vessel branch width adaptation | |
Anam et al. | Hand bones radiograph segmentation by using novel method based on morphology and fractal |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211202 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20211202 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220124 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220201 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7019104 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |