[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2018038609A - 画像処理装置、その制御方法、およびプログラム - Google Patents

画像処理装置、その制御方法、およびプログラム Download PDF

Info

Publication number
JP2018038609A
JP2018038609A JP2016174964A JP2016174964A JP2018038609A JP 2018038609 A JP2018038609 A JP 2018038609A JP 2016174964 A JP2016174964 A JP 2016174964A JP 2016174964 A JP2016174964 A JP 2016174964A JP 2018038609 A JP2018038609 A JP 2018038609A
Authority
JP
Japan
Prior art keywords
image
point
subject
matching
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016174964A
Other languages
English (en)
Other versions
JP2018038609A5 (ja
JP6886260B2 (ja
Inventor
格 音丸
Itaru Otomaru
格 音丸
遠藤 隆明
Takaaki Endo
隆明 遠藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016174964A priority Critical patent/JP6886260B2/ja
Priority to US15/678,233 priority patent/US10603016B2/en
Publication of JP2018038609A publication Critical patent/JP2018038609A/ja
Publication of JP2018038609A5 publication Critical patent/JP2018038609A5/ja
Application granted granted Critical
Publication of JP6886260B2 publication Critical patent/JP6886260B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • A61B8/5246Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from the same or different imaging techniques, e.g. color Doppler and B-mode
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5229Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
    • A61B6/5247Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from an ionising-radiation diagnostic technique and a non-ionising radiation diagnostic technique, e.g. X-ray and ultrasound
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/337Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • G06T2207/101363D ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20101Interactive definition of point of interest, landmark or seed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Pathology (AREA)
  • Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Optics & Photonics (AREA)
  • Human Computer Interaction (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

【課題】複数の画像中においてユーザにより指定される対応点の組の正確性を向上させる。
【解決手段】画像処理装置は、被検体を異なる条件で撮影することにより得られた第1の画像と第2の画像のそれぞれにおいて当該被検体の対応する特徴部分を取得し、該第1の画像上の第1の点と、該第2の画像上の第2の点を指定し、該第1の画像における該第1の点と該被検体の特徴部分との位置関係、および、該第2の画像における該第2の点と該被検体の特徴部分との位置関係に基づいて、該第1の点と該第2の点との整合度を導出し、該導出された整合度を表示部に表示させる。
【選択図】 図2

Description

本発明は、種々の画像撮像装置(モダリティ)で撮像した画像を処理する技術に関する。
医療の分野において、複数のモダリティで撮像された医用画像や、異なる日時、異なる体位、異なる撮影モードで撮像された医用画像を診断に利用するためには、被検体内の注目点を夫々の医用画像間で同定する(対応付ける)ことが重要である。注目点には、画像処理による自動同定が可能なものがある一方で、モダリティの違いや被検体の変形等の影響で自動同定が困難なものも存在する。そのため、医師等は、画像を見ながら同定作業を目視で行うことが一般的である。
また、同種の目的のために、複数の画像を位置合わせして表示することが試みられている。例えば、非特許文献1には、画像間における被検体の変形を推定する変形位置合わせ技術が開示されている。ここで、より高精度な位置合わせを実現するために、ユーザが目視で同定した対応点を位置合わせ処理に用いることがしばしばなされている。
そこで、一方の画像(以下、参照画像)上で指摘した注目点を他方の画像(以下、対象画像)から探索し同定する作業を支援するための技術が開発されている。例えば、特許文献1の技術によると、参照画像と対象画像に対してそれぞれ入力された点が対応点として正しいか否かが推定され、「整合度」という指標としてユーザに対して提示される。特許文献1の技術では、正しく対応付けられた点が既に多数得られている場合に、それらの点群を用いて算出された変位場からの逸脱度合いを整合度として用いる。
特開2016−21998号公報 特開2015−130972公報
D.Rueckert, L.Sonoda, C.Hayes, D.Hill, M.Leach,and D.Hawkes,"Nonrigid registration using free−form deformations: application to breast MR images",IEEE med. imag.,vol.18(8),pp.712−721,1999.
しかしながら、特許文献1に記載された技術は、既に正しく対応付けられた多数の点が存在することを前提としているため、利用できる場面が限られるという課題があった。
本発明は、上記課題に鑑みてなされたものであり、複数の画像中においてユーザにより指定される対応点の組の正確性を向上させることを目的とする。
上記目的を達成するための一手段として、本発明の画像処理装置は、以下の構成を備える。すなわち、画像処理装置は、被検体を異なる条件で撮影することにより得られた第1の画像と第2の画像のそれぞれにおいて当該被検体の対応する特徴部分を取得する取得手段と、前記第1の画像上の第1の点と、前記第2の画像上の第2の点を指定する指定手段と、前記第1の画像における前記第1の点と前記被検体の特徴部分との位置関係、および、前記第2の画像における前記第2の点と前記被検体の特徴部分との位置関係に基づいて、前記第1の点と前記第2の点との整合度を導出する導出手段と、前記導出された整合度を表示部に表示させる表示制御手段と、を有する。
本発明によれば、複数の画像中においてユーザにより指定される対応点の組の正確性が向上する。
第1の実施形態における画像処理装置の機器構成を示す図である。 第1の実施形態における全体の処理手順を示すフロー図である。 第1の実施形態における整合度算出方法の例を示す図である。 第1の実施形態における整合度を示す図である。 第1の実施形態における整合度の表示の例を示す図である。 第2の実施形態における全体の処理手順を示すフロー図である。 第2の実施形態における整合度算出方法の例を示す図である。 第3の実施形態における整合度の表示の例を示す図である。
以下、添付図面に従って本発明における画像処理装置の実施形態について詳説する。ただし、発明の範囲は図示例に限定されるものではない。
<第1の実施形態>
本実施形態における画像処理装置は、ユーザが指定した2つの画像(第1の画像と第2の画像)間における2つの点(第1の点と第2の点)が対応点の組であることの整合度を導出して表示する。整合度は、第1の点と第2の点の位置と第1の画像と第2の画像からそれぞれ得られる被検体特徴の位置の位置関係に基づいて算出される。具体的には、本実施形態では、整合度は、第1の点と第2の点の、第1の画像と第2の画像からそれぞれ得られる被検体特徴に対する距離値に基づいて算出される。整合度の算出のために、対応付け済みの多数の点を必要としていた特許文献1の技術とは異なり、本画像処理装置は、被検体特徴のみを用いて整合度を算出することが可能である。なお、以降の説明において、「第1の画像上の注目点(第1の点)」と、「該注目点と第2の画像上において対応する点(第2の点)」の2点を「対応点の組」と称する。また、対応点の組の候補としてユーザが指定した2点を、「対応点候補の組」と称する。ユーザは、指定した対応点候補の組の整合度をインタラクティブに確認することができる。このため、不整合と判定された場合は点入力をやり直し、より適切な位置に対応点の組を入力することが可能である。本実施形態において、第1の画像と第2の画像は、同一患者を異なる姿勢で撮像した乳房の画像であるとする。以下、図1から4を用いて本実施形態の構成および処理を説明する。
図1は、本実施形態における画像処理システムの構成を示す。同図に示すように、本実施形態における画像処理装置100は、データサーバ150および操作部160、そして表示部170にと接続されている。
データサーバ150が保持する第1および第2の画像は、異なる条件(異なるモダリティ、撮影モード、日時、体位等)で被検体を予め撮像して得られた3次元断層画像である。3次元断層画像を撮像するモダリティは、MRI装置、X線CT装置、3次元超音波撮影装置、光音響トモグラフィ装置、PET/SPECT、OCT装置などであってもよい。第1および第2の画像は、例えば、異なるモダリティや異なる撮影モードで同時期に撮像されたものであってもよい。また、第1および第2の画像は、経過観察のために同一患者を同一モダリティ、同一体位で異なる日時に撮像した画像であってもよい。なお、第1および第2の画像は、2次元断層画像の集合として構成されており、各2次元断層画像の位置および姿勢は、基準座標系(被検体を基準とした空間中の座標系)に変換した上でデータサーバ150に保持されているものとする。基準座標系で表現された第1および第2の画像は、画像取得部102を介して画像処理装置100に入力される。
操作部160は、ユーザによるマウスやキーボード等の操作を受け付けて、当該操作に応じた入力を画像処理装置100に対して行う。例えば、操作部160は、ユーザが指定する対応点候補の組を、対応点候補取得部104を介して画像処理装置100に入力する。また、操作部160は、対応点の指定処理を終了するか否かの判定を、終了判定部112を介して画像処理装置100に入力する。その他、操作部160は、所定の入力を画像取得部102に対して行う。画像取得部102と対応点候補取得部104はそれぞれ、受け付けた入力に応じた処理を、接続された各機能部に対して行うことができる。
表示部170は、画像処理装置100が生成する表示画像や整合度情報等の各種の情報を表示する。また、表示部170には、ユーザからの指示を取得するためのGUI(Graphical User Interface)も配置されている。
画像処理装置100は、以下に説明する構成要素により構成されている。画像取得部102は、画像処理装置100へと入力される第1および第2の画像を取得する。特徴取得部103は、第1の画像と第2の画像の夫々から、乳頭位置座標や体表面といった被検体特徴を取得する。対応点候補取得部104は、ユーザの指示に従って、第1の画像上と第2の画像上における対応点候補の組(3次元座標の組)を取得する。また、対応点候補取得部104は、ユーザの指示に応じて、対応点候補の組を不図示の記憶部に格納されている対応点群に追加する。距離値計測部106は、第1の画像と第2の画像の夫々において、対応点候補から被検体特徴までの距離値を計測する。この処理の詳細は、図2のS2030の説明で述べる。整合度算出部108は、対応点候補から被検体特徴までの距離値に基づいて、対応点候補の組の整合度を算出する。この処理の詳細は、図2のS2040の説明で述べる。表示制御部110は、第1および第2の画像の断面画像と、整合度に関する情報を、表示部170に表示させる制御を行う。終了判定部112は、ユーザの指示に従って、対応付けを終了するか否かの判定を行う。位置合わせ実行部114は、不図示の記憶部に格納されている対応点群を用いて第1の画像と第2の画像の間の位置合わせを実行する。そして、位置合わせ結果(変形場、変形画像)を不図示の記憶部に格納する。
図2は、画像処理装置100が行う全体の処理手順を示すフローチャートである。
(S2000) (画像の取得)
S2000において、画像取得部102は、データサーバ150から、第1の画像、および第2の画像を取得する。そして、取得した情報を特徴取得部103と表示制御部110へ出力する。
(S2005) (被検体特徴の取得)
S2005において、特徴取得部103は、S2000で取得した第1の画像と第2の画像から、第1の画像と第2の画像それぞれに撮像されている被検体特徴(特徴部分)を取得する。そして、特徴取得部103は、取得した情報を距離値計測部106へと出力する。
ここで被検体特徴の取得方法を説明する。前述した通り、本実施形態における被検体特徴は、乳頭位置座標と体表面という2種類の情報を指す。まず、特徴取得部103は、キャニーエッジ検出器(Canny edge detector)といった公知のエッジ検出アルゴリズムを用いて、画像中の複数のエッジを検出する。そして、検出した複数のエッジのうち、孤立したエッジを除去したものを滑らかに繋いだ曲面を体表面とする。その後、特徴取得部103は、ユーザの指示に従って、体表面上から乳頭位置を選択して取得する。なお、本実施形態で使用する体表面とは、乳房の体表面を一定の間隔でサンプリングした点の集合であるとする。以降、この点群を体表点群と呼ぶ。
本実施形態では、体表面をエッジ検出に基づいて自動的に取得する場合を例に挙げて説明するが、ユーザの指示に従って手動操作に基づいて体表面を取得してもよい。例えば、ユーザの指示により体表面上の点が何点か疎らに入力された場合、特徴取得部103が陰多項式(Implicit fnction:IP)を用いて、それらの点を滑らかに繋ぐ曲面を算出してもよい。なお、乳頭位置の指定や体表面上の点の指定などのユーザ指示は、第1の画像および第2の画像の任意の断面画像を表示部170に表示させた画像上において、操作部160がユーザからマウスクリックなどの操作を受け付けることにより為され得る。なお、被検体特徴の取得方法はこれに限るものではなく、第1の画像および第2の画像の付帯情報としてこれらの情報を予めデータサーバ150に保持させておいて、それを特徴取得部103がデータサーバ150から取得する構成であってもよい。
(S2010) (第1の点を取得)
S2010において、対応点候補取得部104は、ユーザの指示に従って、第1の画像における注目点(第1の点)の位置(3次元座標)を取得する。具体的には、まず、ーザはマウスやキーボードを操作して、着目する断面画像を選択し、表示制御部110が、選択された断面画像を第1の画像の断面画像として表示部170に表示させる。そして、表示された断面画像において、ユーザは、マウスボタンクリックやキーボードキー押下といった操作を行うことによって、注目位置を注目点として画像処理装置100に入力する。対応点候補取得部104は、断面画像上で指定された注目位置を、第1の画像における断層画像の位置および姿勢を利用して、基準座標系における注目点の位置に変換する。なお、インタレストオペレータ等の画像特徴点抽出処理によって第1の画像から注目点候補を自動抽出し、最も特徴量が高く、かつこれまでに一度も第1の点として選択されたことがない点を選択する構成であってもよい。あるいは、同様にして抽出した注目点候補の中から、ユーザが注目点を選択する構成であってもよい。
なお、第1の点がすでに取得済みの場合は、対応点候補取得部104は、ユーザの指示に従って、第1の点の位置を移動させたり、点を削除して第1の点が未取得の状態に戻したりすることが可能である。点の移動や削除は、点を入力する場合と同様に、ユーザがマウスボタンクリックやキーボードキー押下といった操作を行うことで実施する。例えば、マウスを操作して第1の画像上の第1の点をドラッグした場合は、ドラッグ先に第1の点を「移動する」という指示が与えられたものとする。また、マウスを操作して第1の点をクリックし、その後キーボードのDeleteキーを押下した場合は、「削除する」という指示が与えられたものとする。第1の点が削除された場合、処理ステップは、S2010開始時の状態に戻り、対応点候補取得部104は、ユーザの指示を受け付けて、新しい第1の点の位置を取得する。
対応点候補取得部104は、第1の画像上にすでに第1の点が入力されている状態で、マウスカーソルが第2の画像上にある場合には、本ステップの処理を終了する。そして、S2020へと処理を進める。
(S2020) (第2の点を取得)
S2020において、対応点候補取得部104は、ユーザの指示に従って、S2010で取得した注目点(第1の点)と第2の画像上において対応する点の候補(第2の点)の位置(3次元座標)を取得する。S2010とは異なり、第2の点は、ユーザによるマウスクリックやキー押下といった明示的な操作なしに、単に第2の画像上の位置をマウスカーソル(マウスポインタ)やクロスヘアカーソルなどのポインタで指し示すことで取得されるものとする。この場合、指し示されている位置を第2の画像の基準座標系における注目点の位置に変換した座標が、第2の点の座標として取得される。そして、取得した第1の点と第2の点を対応点候補の組(3次元座標の組)として、距離値計測部106へと出力する。なお、本実施形態では、ユーザの指示に従って、マウスカーソル等で指し示された位置を第2の点として取得する場合を例に挙げて説明したが、第2の点を自動的に算出してもよい。この場合、例えば、第1の点を中心とする局所画像(テンプレート)との類似度が最も高い第2の画像上の位置をテンプレートマッチングによって算出し、その位置を第2の点として取得することができる。このようにすることで、ユーザに必要とされる作業を削減することができる。
(S2030) (距離値を計測)
S2030において、距離値計測部106は、S2010およびS2020で取得された第1・第2の点(対応点候補の組)から、S2005で取得された被検体特徴までの距離値を計測する。そして、距離値計測部106は、計測した距離値を、整合度算出部108へと出力する。
本実施形態では、被検体特徴として乳頭位置と体表点群という2種類の情報が取得されている。そこで、本実施形態における距離値計測部106は、第1の画像と第2の画像のそれぞれについて、対応点候補位置から乳頭位置座標まで、対応点候補位置から体表点群まで、という2つの距離値を算出する。
図3を用いて、距離値の算出について説明する。図3は、本実施形態における整合度算出方法の例を示す図である。図3(a)は第1の画像、図3(b)は第2の画像を表すものとする。なお、図3では、紙面上での図示を簡略化するために各点(対応点候補、乳頭位置、体表の最近傍点)が同一平面上に位置しているように記載されているが、実際には、夫々の点は必ずしも同一平面上に存在する必要は無い。
第1の画像において、対応点候補位置から乳頭位置までの距離とは、第1の点303から第1の画像の乳頭位置302までの3次元の距離値を意味する。また、対応点候補位置から体表点群までの距離値は、体表点群のうち対応点候補位置に対して最近傍の点との距離値とする。第1の画像において、対応点候補位置から体表点群までの距離とは、第1の点303から第1の画像における体表点群上の最近傍点301までの3次元の距離値を意味する。第2の画像においても同様である。すなわち、第2の画像において、対応点候補位置から乳頭位置までの距離とは、第2の点306から乳頭位置304までの3次元の距離値であり、対応点候補位置から体表点群までの距離とは、第2の点306から体表点群上の最近傍点305までの距離である。距離値計測部106は、このような2種類の距離値を、第1の画像と第2の画像それぞれにおいて算出する。
(S2040) (整合度を算出)
S2040において、整合度算出部108は、S2030で計測された対応点候補位置から被検体特徴までの距離値を用いて、対応点候補の組の整合度を算出する。そして、整合度算出部108は、算出した整合度を表示制御部110へと出力する。
整合度の算出は、「乳房では、変形状態が変わっても、乳房領域内の任意の位置から乳頭位置までの距離および体表面までの距離の変化が小さい」という事前知識に基づいている。すなわち、整合度算出部108は、対応点候補位置から乳頭や体表面までの距離値が、第1の画像と第2の画像とで略同一の場合は整合度を高く、大きく異なる場合は整合度を低く算出する。整合度算出部108は、整合度として、乳頭位置座標までの距離値に基づいて算出される整合度(乳頭整合度)と、体表点群までの距離値に基づいて算出される整合度(体表整合度)という、2種類の個別整合度を算出する。また、整合度算出部108は、2種類の個別整合度を統合した統合整合度を算出する。
整合度の算出方法を具体的に説明する。まず、整合度算出部108は、第1の画像における距離値と第2の画像における距離値の比を求める。乳頭までの距離値の比と、体表点群までの距離値の比は、それぞれ下式で与えられる。
(数1)
Figure 2018038609
(数2)
Figure 2018038609
ここで、p nippleとp nippleはそれぞれ、第1の画像と第2の画像における乳頭位置座標である(図3の乳頭位置302および305)。s nearestは、体表点群上の点のうち第1の点に対する最近傍点、s nearestは、体表点群上の点のうち第2の点に対する最近傍点である(図3の体表点群上の最近傍点301および304)。p inputとp inputはそれぞれ、第1の点と第2の点である(図3の第1の点303および第2の点306)。distは、S2030で算出された、2つの点の間の距離値を表す。すなわち、これらの式は、第1の画像における第1の点から乳頭までの距離に対する、第2の画像における第2の点から乳頭までの距離の比(数1)、および、第1の画像における第1の点から体表点群までの距離に対する、第2の画像における第2の点から体表点群までの距離の比(数2)であることを意味する。
次に、整合度算出部108は、上式で算出された距離比rnippleおよびrsurfaceを、下式に従って0.0〜1.0の整合度Cにマッピングする。
(数3)
Figure 2018038609
図4に、本実施形態における整合度を示す。すなわち、図4は、上式をグラフ化したものである。同図に示すように、整合度は、乳頭点間距離が等しい(すなわち距離比が1)の時に最大値の1をとり、距離比が1から離れるほどに線形に減少する。そして、距離比が0.5よりも小さい場合、もしくは2.0よりも大きい場合は、整合度の値は0となる。
なお、本実施形態では、図4で示すように、距離比の変化に伴う整合度の変化が直線で結ばれている(すなわち、区間的に線形である)場合を例に挙げて説明したが、曲線で結ばれている(すなわち、非線形の)関係であってもよい。この場合、距離比が1.0の近傍では整合度の減少を緩やかにするといった、より柔軟な関数を設計することができるようになる。また、整合度の算出には、上記のような対応点候補位置から被検体特徴までの距離値の比に基づく方法以外の、対応点候補位置から被検体特徴までの距離値の比較に基づく他の方法を用いてもよい。例えば、該距離値の差に基づいて整合度を求めてもよい。この場合、距離値の差が0の場合に整合度が1、距離値の差が所定の閾値以上の場合に整合度が0となり、その間を線形につなぐような変換関数を用いて、距離値の差を整合度に変換できる。
最後に、整合度算出部108は、算出した夫々の個別の整合度を統合することで、統合整合度を算出する。統合整合度は、例えば、個別整合度の平均や加重平均、あるいは個別整合度の積として算出される。なお、整合度の統合方法はユーザが選択できるようにしてもよい。特に、加重平均を用いる場合には、ユーザが重みを設定できる構成であってもよい。なお、S2050の処理で統合整合度を表示しない場合には、統合整合度の算出は行わなくてもよい。
(S2050) (整合度を表示)
S2050において、表示制御部110は、S2040で算出された整合度を、表示部170に表示する制御を行う。表示制御部110は、複数の整合度表示方法を備え、それら表示方法の中からいずれかを選択し、あるいは複数の表示方法を組み合わせて表示することができる。
図5に、本実施形態における整合度の表示の例を示す。図5には、文字情報と記号情報を組み合わせて整合度を表示する例が示されている。図5における表示の上部における文字列から、乳頭整合度が0.67であり、体表整合度が0.11であることが読み取れる。しかしながら、ユーザがマウスカーソルを動かしながらリアルタイムに整合度の値の変化を観察する場合、より直観的に整合度が確認できる方が、利便性が高い。そのため、文字情報だけではなく、記号情報による表示も行われている。黒丸(●)とバツ印(×)からなる表示が、当該記号情報による表示に相当する。黒丸とバツ印を10目盛りからなるインジケータに見立て、黒丸の数によって整合度が示されている。すなわち、黒丸が6個見えている場合、整合度の値は0.6〜0.7の間であることを示している。図5の例では、黒丸(●)とバツ印(×)を用いて記号情報による表示を行ったが、インジケータをグラフィックとして描画する構成であってもよい。記号情報による表示やグラフィックによる表示を行うことで、単に整合度の数値を示すよりも、ユーザは直観的に、整合度の値を知ることができる。
他にも、文字色によって整合度を表示することも可能である。この場合、整合度の大小と連動させて、図5における、整合度を記述している文字列の文字色を変化させる。整合度が高い(1.0に近い)場合は例えば緑色、低い(0.0に近い)場合は例えば赤色とする。このようにすることで、記号情報(インジケータ)で示すよりも、ユーザは、より直観的に、整合度の値を知ることが可能である。また、マウスカーソルやクロスヘアカーソルの表示色を整合度に応じて変更する構成であってもよい。なお、この場合、どの整合度に基づき表示色を設定するかは、予め(例えば、統合整合度に)定めておいてもよいし、ユーザが設定できるようにしてもよい。また、整合度を画像ではなく音で提示してもよい。
このような整合度の表示方法は、単一のものを用いるのではなく、組み合わせて使用することも可能である。例えば、文字情報、記号情報、そして文字色の3つは重複して使用することが可能である。また、複数の表示方法を組み合わせて使用する場合は、直観的に整合度を知ることができるという効果と、詳細な整合度の値を観察することができるという効果を併せ持つ。
また、図5は、乳頭整合度と体表整合度の2つを同時に表示する例を示しているが、一方を表示しない、または別々に表示する構成としてもよい。また、これらの個別整合度と同時に、統合整合度を組み合わせて表示してもよい。また、統合整合度のみを表示してもよい。いずれの整合度を表示するかは、ユーザが設定できる構成であってもよい。
(S2060) (対応点候補の組を採用するかの判定)
S2060において、対応点候補取得部104は、対応点候補の組を対応点の組として採用するか否かというユーザからの指示を取得し、それに応じて以降の処理を分岐させる処理を行う。対応点候補の組を採用する場合は(S2060でYes)、画像処理装置100は処理ステップをS2070へと進める。対応点候補の組を採用しない場合は(S2060でNo)、処理ステップをS2080へと進める。
対応点候補の組を採用する/しないを指定する方法を、以下に示す。本実施形態では、S2020の処理の説明で述べたとおり、第2の点を取得する方法として、マウスカーソルやクロスヘアカーソルによって第2の画像上の位置を単に指し示す方法を用いている。一例として、ここで、ユーザが、カーソルをその位置から動かさずに、マウスをクリックしたりキーを押下したりした場合は、「採用する」という指示が与えられたものとする。一方、クリックやキー押下を行うことなく、カーソルを別の位置に動かした場合には、「採用しない」という指示が与えられたものとする。
(S2070) (対応点候補の組を対応点群に追加)
S2070において、対応点候補取得部104は、対応点候補の組を対応点として確定し、不図示の記憶部に格納されている対応点群に追加する。そして、処理ステップをS2110へと進める。
(S2080) (第2の点を削除)
S2080において、画像処理装置100は、S2020で取得した第2の点の情報を削除する。これにより、画像処理装置100は、第1の点のみが取得された状態で、第2の点は未取得の状態となる。そして、画像処理装置100は、処理ステップをS2010へと進め、以降の処理を繰り返す。
(S2110) (終了判定)
S2110において、終了判定部112は、対応点候補の指定処理を終了するか否かの判定を行う。例えば、表示部170に配置された終了ボタンをマウスでクリックするなどしてユーザが入力した終了の指示を取得する。終了判定部112が終了すると判定した場合には(S2110でYes)、処理ステップをS2120へと進める。一方、終了判定部112が終了しないと判定した場合には(S2110でNo)、処理ステップをS2010へと戻し、以降の処理が再度実行される。ここで、対応点候補の再指定の入力がない場合には、画像処理装置100は、終了の入力があるまで断面画像が表示された状態で待機状態となる。
(S2120) (位置合わせを実行)
S2120において、位置合わせ実行部114は、S2070の処理で対応点として確定されて不図示の記憶部に格納されている対応点群の情報を用いて、第1の画像と第2の画像の間の位置合わせを実行する。位置合わせのアルゴリズムは、対応点群の距離差をコストとして用いるものであれば、任意の公知の手法を利用することが可能である。例えば、薄板スプライン(Thin plate spline:TPS)に基づく手法や自由変形(Free form deformation:FFD)に基づく手法、あるいは、ランドマークLDDMM(Large Deformation Diffeomorphic Metric Mapping)法を用いる。位置合わせ実行部114は、位置合わせ結果として、第1の画像と第2の画像の間の対応関係を表す変形場を導出する。さらに、位置合わせ実行部114は、第1の画像と第2の画像の少なくともいずれか一方を変形させて他方の画像に位置合わせした変形画像を生成する。位置合わせ実行部114は、これらの情報を不図示の記憶部に格納する。
なお、本実施形態では、不図示の記憶部に格納されている対応点群の情報のみに基づいて位置合わせを行う場合を例に挙げて説明したが、さらに、第1の画像と第2の画像にも基づいて位置合わせを行うことも可能である。この場合、コストとして、対応点群の距離差に加え、画像間の類似度を用いることができる。
(S2130) (位置合わせ結果を出力)
S2130において、表示制御部110は、S2120で得た位置合わせ結果の情報(変形画像や変形場など)を表示部170に表示する制御を行う。以上が、画像処理装置100による処理の流れである。
図2のフローチャートによれば、第1の画像上で第1の点が入力(S2010)された状態で第2の画像上でマウスカーソル動かすと、S2020からS2060、S2080、S2090、S2010、そしてS2020という経路で処理がループする。このように処理が繰り返されることで、画像処理装置100は、リアルタイムに第2の点を更新しながら整合度を再計算し続けることができる。そのため、画像処理装置100は、第2の画像の空間内のどのあたりで整合度が高くなるかをリアルタイムで探索することが可能である。これにより、ユーザは、「対応点はこの辺りにありそうだ」という自身の直観的判断と、整合度という定量的指標をバランスさせて、対応点を入力できるという効果が生じる。
なお、本実施形態では、乳房を被検体として、乳頭位置と体表形状を被検体特徴として用いる場合を例示したが、これに限定されるものではない。例えば、病変の重心位置や主要な血管の分岐点位置を被検体特徴として用いてもよい。また、本実施形態のように、一つの点(乳頭位置)と一つの面形状(体表形状)の組み合わせ以外にも、複数の点や複数の面形状を併用してもよい。このように、2種類以上の被検体特徴を用いることができる。
また、被検体は、乳房以外の他の部位であってもよい。例えば、被検体が骨盤の場合に、上前腸骨棘といった、骨盤表面に存在する解剖学的特徴点を被検体特徴として用いることで同様の効果を得ることができる。なお、画像処理装置100自身は被検体が何かということを知る必要はなく、また、被検体特徴が点であるのか、面形状であるのかさえ与えられれば、何を被検体特徴として用いるかを知る必要もない。すなわち、ユーザは、任意の被検体に対して、変形に対して一定の不変性を有すると判断した(仮定した)被検体特徴を用いて、画像処理装置100を動作させることが可能である。
<第1の実施形態の変形例1>(信頼度を考慮して整合度を算出する)
本実施形態では、S2030で計測される距離値のみに基づいて整合度を算出する場合を例に挙げて説明したが、他の情報も考慮に入れる構成であってもよい。例えば、「信頼度」という要素を導入し、画像領域の中で信頼度が高い領域は整合度を高く、信頼度が低い領域は整合度を低くするように重みづけしてもよい。
信頼度の例としては、体表面からの距離値が挙げられる。整合度算出の前提としている、「乳房においては変形しても乳頭からの距離や体表からの距離は変わらない」という知識は、対応点候補の位置が体表面から離れる(深くなる)につれ、成り立たない場合が生じると考えられる。そこで、体表面からの距離値が小さい領域は信頼度を高く、距離値が大きい領域は信頼度を低く設定する。
この場合、S2005において、特徴取得部103は、第1の画像と第2の画像それぞれにおいて算出されている体表面を用いて、「体表面距離変換画像」をさらに算出する。これは、画像領域における各ボクセルについて、体表面までの最短距離がボクセル値として格納された3次元画像である。そして、S2040で整合度を算出する場合は、まず、整合度算出部108は、第1の画像と第2の画像それぞれに対して、以下の式に従って、信頼度係数RとRを算出する。
(数4)
Figure 2018038609
ここで、dthは体表面までの距離値の閾値であり、距離値がこの値よりも大きい場合、信頼度(係数)は0となる。ここでは、信頼度係数RとRは、体表からの距離値が大きくなるほどに線形に減衰する場合を例に挙げて説明したが、その他の形の関数を用いてもよい。例えば、体表からの距離と信頼度の間の関係が正規分布に従うという事前知識がある場合は、平均値が0である半ガウス関数によって信頼度係数を算出することで、その事前知識を直接的に表現することが可能となる。
そして、整合度算出部108は、数3で得られる整合度Cを、RとRを用いて以下の式に従って重みづけし、C’を算出する。
(数5)
Figure 2018038609
この式は、夫々の画像における信頼度係数(RとR)の積を整合度の信頼度と定義して、この信頼度を、整合度Cに積算する補正係数として用いることで、補正後の整合度C’を求めることを意味する。なお、(数5)では、信頼度の積を用いる場合を例に挙げて説明したが、(数5)以外の定式化を行うことも可能である。例えば、RとRの平均値を整合度の信頼度として用いてもよい。すなわち、RとRの平均値と整合度Cとの積により、補正後の整合度C’を求めるようにしてもよい。(数5)のように信頼度の積を用いる場合、一方の信頼度が0になると、他方の信頼度の値に関係なく整合度が0となるが、平均値を用いることでこのような極端な傾向を緩和することできる。また、RとRのいずれか一方のみを整合度の信頼度として用いてもよい。この場合、RとRのいずれか一方をCに乗算することでC’を算出すればよい。 なお、いずれの信頼度係数を整合度の信頼度として用いるかは、予め定めておいてもよいし、入力画像に応じて選択するようにしてもよい。例えば、体表面抽出の精度が高い方の画像のみを信頼度の算出対象として用いることができる。
このように、本変形例によれば、整合度の信頼性に対する知識を、整合度算出に活用することができるようになる。
<第1の実施形態の変形例2>(乳頭と体表最近傍点の測地線距離に基づく整合度をさらに算出する)
本実施形態では、算出される整合度は、対応点候補から被検体特徴までの距離値に基づくもののみであったが、対応点候補を直接使用せずに算出される整合度をさらに含む構成であってもよい。例えば、図3における体表点群上の最近傍点301(および体表点群上の最近傍点305)と、乳頭位置302(および乳頭位置304)との間の測地線距離(Geodesic distance)を計測し、該距離値に基づいて算出される整合度をさらに含んでもよい。この場合、測定される距離値が、対応点候補の体表からの深さに影響されないため、整合度の信頼性が向上することが期待できる。なお、近似値として、測地線距離の代わりに、体表点群上の最近傍点と乳頭位置の直線距離を用いてもよい。
<第1の実施形態の変形例3>
本実施形態では、取得した対応点群を用いて2枚の画像の位置合わせ処理を行ったが、位置合わせ処理は必須ではなく、画像処理装置100は、対応点の取得と保存のみを行う構成であってもよい。この場合、画像処理装置100は、画像間の対応点や対応部位を探索するあらゆる目的に用いることができる。例えば、画像処理装置100は、第1の画像上における病変位置などの注目点が与えられている場合に、第2の画像上におけるその対応病変を探索する目的に用いることができる。
また、本実施形態では、画像処理装置100は、第1の画像と第2の画像という2枚の画像を用いて、両画像間の整合度を算出する処理を行なったが、本発明の実施に第2の画像は必ずしも必要ではない。この場合、画像処理装置100は、術前に取得された第1の画像上における被検体の注目点と、術中に(画像ではない)実空間を測定して得られる被検体の注目位置との整合度を表示することができる。例えば、術前に撮像した第1の画像上における病変位置などの注目点が与えられている場合に、画像処理装置100は、術中に実空間中のポインタで示された位置(第2の点)が注目点(第1の点)と対応する点であることの整合度を提示するようにできる。このとき、実空間中における被検体の乳頭位置や体表形状は、3次元位置センサ(3次元スタイラスや距離計測カメラ)で計測することができる。また、実空間中のポインタとしては、例えば、穿刺用器具を用いることができる。すなわち、当該器具の位置と姿勢を3次元位置センサで計測し、穿刺針の先端位置を用いることができる。
<第1の実施形態の変形例4>
本実施形態では、第1の点および第2の点を指定する際にユーザが参照する画像と、整合度算出に使用する画像は同一の画像であったが、第1および第2の点を指定する際には、ユーザが対応点を探索しやすい表示形態となるように、第1の画像と第2の画像を変形させて表示する構成であってもよい。例えば、画像処理装置100は、体表面からの深さが同一のボクセルは同一平面に含まれるように画像を変形(以下、矩形変形)させ、これを表示画像として用いるようにすることができる。これには、例えば特許文献2の技術を用いることができる。これによると、乳房画像において、体表面から同一の深さに走行する血管を、画像のスライスを切り替えなくても観察することができるため、対応点候補(第1の点および第2の点)の取得の効率を向上させることができる。
ここで、矩形変形された画像は、対応点の観察には好適であるものの、非線形な変形が適用された歪んだ画像であり、元の画像における物理的な位置関係を保持していない。そこで、本変形例では、対応点候補の取得は矩形変形された画像を用いて行い、整合度算出は変形前の元々の画像で行う。具体的には、対応点候補取得部104は、第1および第2の矩形変形画像上で入力された対応点候補(第3の点および第4の点)を座標変換し、第1の画像および第2の画像上の点(第1の点および第2の点)を算出する。ここで、座標変換は、矩形変形された画像を生成する際に使用した変形関数の逆関数を、第3および第4の点に適用することで行う。そして、変換後の画像空間での座標(すなわち、第1の点および第2の点の座標)を用いて整合度を算出を行う。 なお、変形画像の生成方法は矩形変換に限らず、画像間の対比を容易にするための任意の方法を用いてもよい。例えば、乳頭からの同一距離上の点が同一平面に位置するような変形画像を生成して、これを表示する構成であってもよい。
<第2の実施形態>(整合度マップを算出表示する)
本実施形態における画像処理装置100は、第1の画像で入力された第1の点との整合度の分布を表示することにより、対応点の入力を支援する。本実施形態における画像処理システムの構成は図1と同様である。ただし、以下に説明するように、各部の処理内容の一部は第1の実施形態とは異なっている。以下、本実施形態における画像処理装置100について、第1の実施形態との相違部分について説明する。
図6は、本実施形態において、画像処理装置100が行う全体の処理手順の一例を示すフローチャートである。なお、S6000からS6010、S6040、S6050からS6070の処理は、それぞれ、図2のS2000からS2010、S2070、S2110からS2130の処理と同様であるため、説明を省略する。
(S6015) (整合度画像を生成)
S6015において、画像処理装置100は、第2の画像上の各ボクセル位置について、当該位置を注目点に対応する点の候補と仮定した際の整合度を算出する。すなわち、画像処理装置100は、それぞれのボクセル位置を、第1の点に対応する第2の点と仮定した場合(対応点候補の組と仮定した場合)の整合度を算出する。そして、画像処理装置100は、各ボクセル位置における整合度をボクセル値として有するボリューム画像(以下、整合度画像)を生成する。この整合度画像は、各ボクセル位置における整合度の分布を示すこととなる。以下、図7のフローチャートを用いて、S6015の処理の詳細について説明する。図7は、図6のS6015の詳細な処理手順の一例を示すフローチャートである。
(S7000) (整合度画像を初期化)
S7000において、整合度算出部108は、第2の画像と同サイズの整合度画像を生成して初期化する。例えば、整合度画像のすべてのボクセルに0を与える。
(S7010) (画像中のボクセル位置を取得)
S7010において、対応点候補取得部104は、第2の画像中の各ボクセルのうち、まだ選択していない1つのボクセルを第2の点として選択し、そのボクセル位置(3次元座標値)を取得する。すなわち、本ステップで取得した第2の点と、S6010で取得した第1の点と組み合わせたものを、対応点候補の組とする。そして、対応点候補取得部104は、取得した第1の点と第2の点を対応点候補の組(3次元座標の組)として、距離値計測部106へと出力する。
(S7015) (距離値を計測)
S7015において、距離値計測部106は、S7010で取得した対応点候補の組からS6005で取得した被検体特徴までの距離値を計測する。本処理は、図2のS2030と同様の処理によって実施できる。そして、距離値計測部106は、計測した距離値を整合度算出部108へと出力する。
(S7020) (整合度を算出)
次に、S7020において、整合度算出部108は、S7015で計測した距離値を用いて、対応点候補の組の整合度を算出する。本処理は、図2のS2040と同様の処理によって実施できる。そして、整合度算出部108は、算出した値を、S7010で取得したボクセル位置に対応する整合度画像のボクセルに、該位置における整合度の値として設定する。なお、整合度算出部108は、複数の整合度(夫々の個別整合度や統合整合度)を各ボクセルにベクトル値として保存(設定)してもよいし、事前に選択したいずれかの整合度をスカラー値として保存(設定)してもよい。
(S7030) (全ボクセル位置で整合度の算出の完了の判定)
次に、S7030において、整合度算出部108は、整合度が算出されていないボクセルが存在するか否かを判定する。この判定の結果すべてのボクセルについて整合度の算出が終了している場合は、S6015の処理を終了する。一方、まだ整合度が算出されていないボクセルが存在する場合は(S7030でNo)、処理はS7010に戻り、残されたボクセルに対して同様の処理が実行される。以上の手順により、整合度画像が生成される。
(S6020) (整合度画像を表示)
図6の説明に戻り、続いてS6020において、表示制御部110は、S6015で生成した整合度画像を表示部170に表示する制御を行う。具体的には、表示制御部110は、S6015で生成した整合度画像において、第2の画像の断面画像に対応する断面の整合度を得る。そして、表示制御部110は、表示部170に、第2の画像の断面画像を表示するとともに、当該整合度の分布の情報を表示させる。この表示は、例えば、濃淡で表現した第2の画像の断面画像上に整合度の分布をカラーマップ(整合度マップ)として重畳表示するような形態とすることができる。例えば、表示制御部110は、整合度の値と表示色との対応をあらかじめテーブルで定義しておき、そのテーブルに従って決定した表示色を第2の画像の対応するボクセル位置に重畳してもよい。なお、整合度分布の情報の表示・非表示は、ユーザの指示に応じて選択可能であってもよい。また、夫々の個別整合度や統合整合度のいずれを表示するかについても、ユーザの指示に応じて選択可能であってもよい。
また、整合度分布の表示形態は、整合度を表すカラーマップの重畳表示に限らない。例えば、整合度の等値線が重畳表示されてもよい。整合度分布の表示形態は、第2の画像へ重畳表示する形態に限定されるものではなく、第2の画像と対比しやすいように整合度画像の同一断面を並べて表示する構成であってもよい。これら整合度の分布の表示形態は、ユーザの指示に応じて選択可能であってもよい。
図8には、本実施形態における整合度分布の表示例を示す。ここでは、体表整合度の整合度マップを示している。図8(a)は、第1の点303および第1の画像における体表点群上の最近傍点301示す図である。図8(b)は、整合度マップを第2の断面画像上に重畳表示した結果801を示す図である。図8(b)において、最も太い線で描画されている等値線が、整合度が最も高い領域を表し、細い線、点線の順で整合度が低くなっていることを表す。このように、体表面からの距離が、第1の画像における体表点群上の最近傍点301と第1の点303の間の距離と等しい等値面が最も整合度が高く、その距離値から離れるほどに整合度が低くなっている。
(S6030) (第2の点を取得)
S6030において、対応点候補取得部104は、ユーザによる操作部160の操作に従って、第2の点の位置を取得する。第1の実施形態で説明した図2のS2020では、対応点候補取得部104は、マウスカーソル等で単に指し示した位置を取得していた。それに対して、本ステップでユーザによってマウスのクリックやキーボードの操作が行われて初めて、第2の点の取得処理が行われる。対応点候補取得部104は、第2の点を取得すると、第1の点と第2の点の組を対応点として確定し、不図示の記憶部に格納されている対応点群に追加する。
ユーザの操作によって第2の点の指定が行われる際には、ユーザは、S6020の処理によって表示部に表示されている整合度マップを参照しながら、整合度が高く、かつ、対応すると思われる位置に第2の点を入力する。
以上のように本実施形態によれば、ユーザは、整合度分布を確認することができるため、整合度と画像上の対応関係のバランスとを考慮しながら対応付けを容易に行うことができる。また、仮に整合度が高い位置(局所的最適解)が複数存在したとしても、整合度が最も高い位置(大域的最適解)を見つけることができるため、対応点の誤対応を回避できるという効果がある。
<第2の実施形態の変形例>
上記実施形態では、第2の画像の全てのボクセルに対応するボクセル位置で整合度の算出を行ったが、整合度を算出するボクセル位置はこれに限定されない。例えば、第2の画像を所定の間隔で間引いたボクセル位置においてのみ整合度の算出を行い、整合度の算出を行わなかった(間引かれた)ボクセル位置の整合度は補間によって求めてもよい。これによると、整合度マップの算出を高速に行うことができる。また、被検体の内外が判定できる場合には、被検体内に属するボクセル位置の整合度のみを算出するようにしてもよい。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 画像処理装置、102 画像取得部、103 特徴取得部、104 対応点候補取得部、106 距離値計測部、108 整合度算出部、110 表示制御部、112 終了判定部、114 位置合わせ実行部、150 データサーバ、160 操作部、170 表示部

Claims (15)

  1. 被検体を異なる条件で撮影することにより得られた第1の画像と第2の画像のそれぞれにおいて当該被検体の対応する特徴部分を取得する取得手段と、
    前記第1の画像上の第1の点と、前記第2の画像上の第2の点を指定する指定手段と、
    前記第1の画像における前記第1の点と前記被検体の特徴部分との位置関係、および、前記第2の画像における前記第2の点と前記被検体の特徴部分との位置関係に基づいて、前記第1の点と前記第2の点との整合度を導出する導出手段と、
    前記導出された整合度を表示部に表示させる表示制御手段と、
    を有することを特徴とする画像処理装置。
  2. 前記導出手段は、前記第1の画像における前記第1の点から前記被検体の特徴部分の位置までの第1の距離と、前記第2の画像における前記第2の点から前記被検体の特徴部分の位置までの第2の距離に基づいて、前記整合度を導出することを特徴とする請求項1に記載の画像処理装置。
  3. 前記導出手段は、前記第1の距離と、前記第2の距離と、前記第1の距離または前記第2の距離に基づく重み付け値に基づいて、 前記整合度を導出することを特徴とする請求項2に記載の画像処理装置。
  4. 前記被検体は、乳房であり、前記取得手段は、前記被検体の特徴部分として、乳房の乳頭または乳房の体表面上の点を取得することを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  5. 前記取得手段は、2種類以上の前記被検体の特徴部分を取得し、
    前記導出手段は、当該2種類以上の特徴部分のそれぞれについて前記整合度を導出し、
    前記表示制御手段は、前記導出手段により導出された2種類以上の整合度を組み合わせて前記表示部に表示させることを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  6. 前記被検体は、乳房であり、前記取得手段は、前記被検体の特徴部分として、少なくとも乳房の乳頭と乳房の体表面上の点を取得することを特徴とする請求項5に記載の画像処理装置。
  7. 前記導出手段は、前記第1の画像における、乳房の乳頭と前記第1の点の位置に対して最近傍の乳房の体表面上の点との距離、および、前記第2の画像における、乳房の乳頭と前記第2の点の位置に対して最近傍の乳房の体表面上の点との距離とに基づいて前記整合度を導出することを特徴とする請求項6に記載の画像処理装置。
  8. 前記第1の画像と前記第2の画像をそれぞれ変形させて第1の変形画像と第2の変形画像を導出する変形手段と、
    前記第1の変形画像上の点の位置に対応する前記第1の画像上の点の位置と、前記第2の変形画像上の点の位置に対応する前記第2の画像上の点の位置を算出する座標変換手段と、をさらに備え、
    前記指定手段は、前記第1の変形画像上の第3の点と、前記第2の変形画像上の第4の点をさらに指定し、
    前記導出手段は、前記第3の点に対応する前記第1の画像における第5の点と前記被検体の特徴部分との位置関係、および、前記第4の点に対応する前記第2の画像における第6の点と前記被検体の特徴部分との位置関係に基づいて、前記第5の点と前記第6の点との整合度をさらに導出することを特徴とする請求項1に記載の画像処理装置。
  9. 被検体を所定の条件で撮影することにより得られた第1の画像において当該被検体の特徴部分を取得する第1の取得手段と、
    実空間中で、前記第1の取得手段により取得された特徴部分と対応する、前記被検体の特徴部分を取得する第2の取得手段と、
    前記第1の画像上の第1の点を指定する第1の指定手段と、
    実空間中で前記被検体における第2の点を指定する第2の指定手段と、
    前記第1の画像における前記第1の点と前記第1の取得手段により取得された前記被検体の特徴部分との位置関係、および、実空間中での前記被検体における第2の点と前記第2の取得手段により取得された前記被検体の特徴部分との位置関係に基づいて、前記第1の点と前記第2の点との整合度を導出する導出手段と、
    前記導出された整合度を表示部に表示させる表示制御手段と、
    を有することを特徴とする画像処理装置。
  10. 前記導出手段は、前記第1の画像における前記第1の点から前記被検体の特徴部分の位置までの第1の距離と、前記第2の画像における前記第2の点から前記被検体の特徴部分の位置までの第2の距離に基づいて、前記整合度を導出することを特徴とする請求項9に記載の画像処理装置。
  11. 被検体を異なる条件で撮影することにより得られた第1の画像と第2の画像のそれぞれにおいて当該被検体の対応する特徴部分を取得する取得手段と、
    前記第1の画像上の第1の点を指定する指定手段と、
    前記第1の画像における前記第1の点と前記被検体の特徴部分との位置関係、および、前記第2の画像における各ボクセル位置の点から前記被検体の特徴部分との位置関係に基づいて、前記第1の点と前記第2の画像上における各ボクセル位置における点との整合度を、前記第2の画像の複数のボクセルについて導出する導出手段と、
    前記導出された整合度から前記第2の画像における前記整合度の分布を生成する生成手段と、
    前記生成された整合度の分布を表示部に表示させる表示制御手段と、
    を有することを特徴とする画像処理装置。
  12. 被検体を異なる条件で撮影することにより得られた第1の画像と第2の画像のそれぞれにおいて当該被検体の対応する特徴部分を取得する取得工程と、
    前記第1の画像上の第1の点と、前記第2の画像上の第2の点を指定する指定工程と、
    前記第1の画像における前記第1の点と前記被検体の特徴部分との位置関係、および、前記第2の画像における前記第2の点と前記被検体の特徴部分との位置関係に基づいて、前記第1の点と前記第2の点との整合度を導出する導出工程と、
    前記導出された整合度を表示部に表示させる表示制御工程と、
    を有することを特徴とする画像処理装置の制御方法。
  13. 被検体を所定の条件で撮影することにより得られた第1の画像において当該被検体の特徴部分を取得する第1の取得工程と、
    実空間中で、前記第1の取得工程において取得された特徴部分と対応する、前記被検体の特徴部分を取得する第2の取得工程と、
    前記第1の画像上の第1の点を指定する第1の指定工程と、
    実空間中で前記被検体における第2の点を指定する第2の指定工程と、
    前記第1の画像における前記第1の点と前記第1の取得工程において取得された前記被検体の特徴部分との位置関係、および、実空間中での前記被検体における第2の点と前記第2の取得工程において取得された前記被検体の特徴部分との位置関係に基づいて、前記第1の点と前記第2の点との整合度を導出する導出工程と、
    前記導出された整合度を表示部に表示させる表示制御工程と、
    を有することを特徴とする画像処理装置の制御方法。
  14. 被検体を異なる条件で撮影することにより得られた第1の画像と第2の画像のそれぞれにおいて当該被検体の対応する特徴部分を取得する取得工程と、
    前記第1の画像上の第1の点を指定する指定工程と、
    前記第1の画像における前記第1の点と前記被検体の特徴部分との位置関係、および、前記第2の画像における各ボクセル位置の点と前記被検体の特徴部分との位置関係に基づいて、前記第1の点と前記第2の画像上における各ボクセル位置における点との整合度を、前記第2の画像の複数のボクセルについて導出する導出工程と、
    前記導出された整合度から前記第2の画像における前記整合度の分布を生成する生成工程と、
    前記生成された整合度の分布を表示部に表示させる表示制御工程と、
    を有することを特徴とする画像処理装置の制御方法。
  15. コンピュータを、請求項1から11のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。


JP2016174964A 2016-09-07 2016-09-07 画像処理装置、その制御方法、およびプログラム Active JP6886260B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016174964A JP6886260B2 (ja) 2016-09-07 2016-09-07 画像処理装置、その制御方法、およびプログラム
US15/678,233 US10603016B2 (en) 2016-09-07 2017-08-16 Image processing apparatus, method of controlling the same, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016174964A JP6886260B2 (ja) 2016-09-07 2016-09-07 画像処理装置、その制御方法、およびプログラム

Publications (3)

Publication Number Publication Date
JP2018038609A true JP2018038609A (ja) 2018-03-15
JP2018038609A5 JP2018038609A5 (ja) 2019-09-12
JP6886260B2 JP6886260B2 (ja) 2021-06-16

Family

ID=61281795

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016174964A Active JP6886260B2 (ja) 2016-09-07 2016-09-07 画像処理装置、その制御方法、およびプログラム

Country Status (2)

Country Link
US (1) US10603016B2 (ja)
JP (1) JP6886260B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019084349A (ja) * 2017-11-03 2019-06-06 キヤノンメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理プログラム
KR20190112396A (ko) 2018-03-26 2019-10-07 박종현 복수의 후보 대응점을 이용하는 영상 정합 장치 및 방법
KR20200026851A (ko) 2020-02-26 2020-03-11 (주)레벨소프트 복수의 후보 대응점을 이용하는 영상 정합 장치 및 방법

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6840481B2 (ja) * 2016-07-19 2021-03-10 キヤノン株式会社 画像処理装置および画像処理方法
JP6656207B2 (ja) 2017-05-31 2020-03-04 キヤノン株式会社 情報処理装置、その制御方法、及びプログラム
CN110772280B (zh) * 2018-07-31 2023-05-23 佳能医疗系统株式会社 超声波诊断装置和方法以及图像处理装置和方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008073076A (ja) * 2006-09-19 2008-04-03 Institute Of National Colleges Of Technology Japan 乳房x線画像処理装置
JP2013123528A (ja) * 2011-12-14 2013-06-24 Hitachi Ltd 画像診断支援装置、画像診断支援方法
JP2016021998A (ja) * 2014-07-16 2016-02-08 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2016097014A (ja) * 2014-11-20 2016-05-30 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7783094B2 (en) * 2005-06-02 2010-08-24 The Medipattern Corporation System and method of computer-aided detection
US8194947B2 (en) * 2006-11-21 2012-06-05 Hologic, Inc. Facilitating comparison of medical images
US20090154782A1 (en) * 2007-12-17 2009-06-18 Three Palm Software Dual-magnify-glass visualization for soft-copy mammography viewing
JP5523791B2 (ja) * 2008-10-27 2014-06-18 株式会社東芝 X線診断装置および画像処理装置
CN102197412B (zh) * 2008-10-28 2014-01-08 日本电气株式会社 伪装检测系统和伪装检测方法
US8475377B2 (en) * 2009-09-28 2013-07-02 First Sense Medical, Llc Multi-modality breast cancer test system
US8903144B2 (en) * 2010-12-01 2014-12-02 Olympus Corporation Endoscope apparatus and method of measuring object
US9378550B2 (en) * 2011-03-02 2016-06-28 Mevis Medical Solutions Ag Image processing device for finding corresponding regions in two image data sets of an object
JP2012213558A (ja) * 2011-04-01 2012-11-08 Canon Inc 画像処理装置、画像処理方法およびプログラム
US9420973B1 (en) * 2013-04-01 2016-08-23 Alon Konchitsky Apparatus, device and method for validating electrocardiogram
JP6197340B2 (ja) * 2013-04-05 2017-09-20 オムロン株式会社 画像処理装置、画像処理方法、およびプログラム
US9129362B2 (en) * 2013-05-22 2015-09-08 Siemens Aktiengesellschaft Semantic navigation and lesion mapping from digital breast tomosynthesis
WO2014210430A1 (en) * 2013-06-27 2014-12-31 Tractus Corporation Systems and methods for tissue mapping
WO2015002256A1 (ja) * 2013-07-03 2015-01-08 株式会社東芝 医用情報処理システム、医用情報処理プログラム及び超音波診断装置
KR20150074304A (ko) * 2013-12-23 2015-07-02 삼성전자주식회사 의료 영상 정보를 제공하는 방법 및 그 장치
JP6346445B2 (ja) 2014-01-10 2018-06-20 キヤノン株式会社 処理装置、処理装置の制御方法、およびプログラム
JP6238755B2 (ja) * 2014-01-10 2017-11-29 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
US10531840B2 (en) * 2015-03-19 2020-01-14 Panasonic Intellectual Property Management Co., Ltd. Image display device, image display system, image display method, and program
JP6768389B2 (ja) * 2015-08-07 2020-10-14 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
US20170055844A1 (en) * 2015-08-27 2017-03-02 Canon Kabushiki Kaisha Apparatus and method for acquiring object information
WO2017054775A1 (en) * 2015-09-30 2017-04-06 Shanghai United Imaging Healthcare Co., Ltd. System and method for determining a breast region in a medical image
US10318102B2 (en) * 2016-01-25 2019-06-11 Adobe Inc. 3D model generation from 2D images
KR20180066781A (ko) * 2016-12-09 2018-06-19 삼성전자주식회사 의료 영상을 표시하는 방법 및 장치

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008073076A (ja) * 2006-09-19 2008-04-03 Institute Of National Colleges Of Technology Japan 乳房x線画像処理装置
JP2013123528A (ja) * 2011-12-14 2013-06-24 Hitachi Ltd 画像診断支援装置、画像診断支援方法
JP2016021998A (ja) * 2014-07-16 2016-02-08 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2016097014A (ja) * 2014-11-20 2016-05-30 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019084349A (ja) * 2017-11-03 2019-06-06 キヤノンメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理プログラム
JP7214434B2 (ja) 2017-11-03 2023-01-30 キヤノンメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理プログラム
KR20190112396A (ko) 2018-03-26 2019-10-07 박종현 복수의 후보 대응점을 이용하는 영상 정합 장치 및 방법
KR102084256B1 (ko) * 2018-03-26 2020-03-03 (주)레벨소프트 복수의 후보 대응점을 이용하는 영상 정합 장치 및 방법
KR20200026851A (ko) 2020-02-26 2020-03-11 (주)레벨소프트 복수의 후보 대응점을 이용하는 영상 정합 장치 및 방법

Also Published As

Publication number Publication date
US20180064422A1 (en) 2018-03-08
JP6886260B2 (ja) 2021-06-16
US10603016B2 (en) 2020-03-31

Similar Documents

Publication Publication Date Title
JP6886260B2 (ja) 画像処理装置、その制御方法、およびプログラム
US9480456B2 (en) Image processing apparatus that simultaneously displays two regions of interest on a body mark, processing method thereof and storage medium
JP5995449B2 (ja) 情報処理装置及びその制御方法
CN106061379B (zh) 处理设备、处理方法及程序
JP6971544B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6071282B2 (ja) 情報処理装置、超音波撮影装置および情報処理方法
US20070018975A1 (en) Methods and systems for mapping a virtual model of an object to the object
JP6376873B2 (ja) 画像処理装置、画像処理方法及びプログラム
CN104240180B (zh) 一种实现图像自动调整的方法及装置
CN104586418B (zh) 医用图像数据处理装置和医用图像数据处理方法
JP6541334B2 (ja) 画像処理装置、画像処理方法、およびプログラム
EP2804147A2 (en) Method and apparatus for image registration
JP2015054051A (ja) 情報処理装置、情報処理方法
JP2016147026A (ja) 画像処理装置、画像処理方法およびプログラム
CN107111875A (zh) 用于多模态自动配准的反馈
JP6293619B2 (ja) 画像処理方法および装置並びにプログラム
WO2021234907A1 (ja) 画像処理装置、制御方法及び記憶媒体
JP6905323B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP5925576B2 (ja) 画像処理装置、画像処理方法
KR101028798B1 (ko) 다중 페이즈 간 ct영상들의 정합을 이용한 간세포암 검출방법
US20130332868A1 (en) Facilitating user-interactive navigation of medical image data
JP2018153455A (ja) 画像処理装置、画像処理装置の制御方法およびプログラム
JP7309447B2 (ja) 医用画像診断装置、画像処理装置及び位置合わせ方法
EP3614338B1 (en) Post-mapping automatic identification of pulmonary veins
US11139069B2 (en) Medical image diagnostic apparatus, image processing apparatus, and registration method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190730

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190730

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200730

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201027

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210416

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210514

R151 Written notification of patent or utility model registration

Ref document number: 6886260

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151