[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2017080157A - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP2017080157A
JP2017080157A JP2015212928A JP2015212928A JP2017080157A JP 2017080157 A JP2017080157 A JP 2017080157A JP 2015212928 A JP2015212928 A JP 2015212928A JP 2015212928 A JP2015212928 A JP 2015212928A JP 2017080157 A JP2017080157 A JP 2017080157A
Authority
JP
Japan
Prior art keywords
image
alignment
deformation
regularization
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015212928A
Other languages
English (en)
Inventor
和大 宮狭
Kazuhiro Miyasa
和大 宮狭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015212928A priority Critical patent/JP2017080157A/ja
Publication of JP2017080157A publication Critical patent/JP2017080157A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Apparatus For Radiation Diagnosis (AREA)

Abstract

【課題】正則化を伴う位置合わせの計算に要する時間を短縮することができる画像処理装置を提供する。【解決手段】本発明に係る画像処理装置は、第1の評価関数に基づいて、第1の画像と第2の画像との第1の位置合わせの適切度を評価し、所定の変形モデルにより前記第1の画像を前記第2の画像に変形位置合わせする第1の変形情報を取得する第1の位置合わせ手段と、前記第1の変形情報を初期値として用いて、画像の変形にペナルティを与える正則化項を前記第1の評価関数に追加した第2の評価関数に基づいて、前記第1の画像と前記第2の画像との第2の位置合わせの適切度を評価し、前記変形モデルにより前記第1の画像を前記第2の画像に変形位置合わせする第2の変形情報を取得する第2の位置合わせ手段とを備える。【選択図】 図1

Description

本発明は、核磁気共鳴映像装置(MRI)、X線コンピュータ断層撮影装置(X線CT)、及び超音波画像診断装置(US)などの撮像装置(モダリティ)で撮像した画像を処理する画像処理装置、画像処理方法、及びプログラムに関する。
画像(被検体内部の情報を表す3次元断層画像など)を用いた画像診断において、ユーザ(医師など)は、複数の撮像装置(モダリティ)、異なる体位、異なる時刻、異なる撮像パラメータなどで撮像した画像を対比しながら診断を行う。しかし、複数の画像間で被検体の形状が異なるため、複数の画像間で病変部の同定や対比を行うことが困難である。
そこで、複数の画像間の位置合わせを行うことが試みられている。これにより、一方の画像に変形を施して、画像中に描出されている被検体の位置や形状を他方の画像に略一致させた変形画像を生成することが可能となる。また、一方の画像上における注目点に対応する対応点の位置を他方の画像上において算出して提示することが可能となる。この結果、ユーザは、複数の画像間における病変部の同定や対比を容易に行うことが可能となる。なお、医療以外の分野においても、3次元画像を用いて物体の内部状態を検査する目的において、同様の作業が実施される場合がある。
複数の画像間の位置合わせにおいて、不適切な変形状態を回避するために、正則化により観測データへの過剰なフィッティングを抑制する手法がある。例えば、不適切な変形状態として、通常の人体では起こり得ないような、変形が空間的に急峻に変化したり(変形が複雑になったり)、極端に伸縮したりするような状態が生じる。
非特許文献1には、複雑な変形に対してペナルティを与えるBending Energy Penaltyを位置合わせの拘束条件に含めることで、変形が滑らかになるように位置合わせする手法が開示されている。以下、Bending Energy Penaltyを「滑らかさ正則化」と称する。
また、画像には、様々な臓器や体組織が含まれており、種類によって組織の硬さが異なる。例えば、骨は非常に硬いため、他の部位と比較すると、被検体の姿勢や形状が変わっても、複数の画像間で殆ど形状が変形しない。また、腫瘍などの所定の病変部は、周囲の組織よりも硬く、周辺部位と比較すると、形状の変形が小さい場合がある。したがって、このような硬い組織を周囲の柔らかい組織と同様に扱って位置合わせを行うと、本来変形が小さいはずの領域が位置合わせ後に過剰に変形してしまい、誤った位置合わせ結果が得られてしまう場合がある。この課題は特に、同一被検体に関して異なるモダリティで撮像された画像のように、2つの画像間で容易に画像のマッチングなどで位置合わせができない場合に発生する。
この課題に対する解決手段として、非特許文献2には、局所領域の剛体変換からの逸脱に対するペナルティを拘束条件にすることで、指定された局所領域を剛体に保つように位置合わせする手法が開示されている。以下、Rigidity Penaltyを「剛体正則化」と称する。
D.Rueckert,L.I.Sonoda,C.Hayes,D.L.G.Hill,M.O.Leach,and D.J.Hawkes,"Nonrigid Registration Using Free−Form Deformations: Application to Breast MR Images",IEEE Transactions on Medical Imaging,Vol 18,No.8,Augst 1999. Marius Staring,Stefan Klein,and Josien P.W.Pluim,"A rigidity penalty term for nonrigid registration",Med.Phys.34(11),November 2007.
しかしながら、正則化を導入する場合、計算コストが非常に高くなる(計算量が非常に多くなる)ため、位置合わせの計算に膨大な時間を要するという課題があった。
本発明に係る画像処理装置は、
第1の評価関数に基づいて、第1の画像と第2の画像との第1の位置合わせの適切度を評価し、所定の変形モデルにより前記第1の画像を第2の画像に変形位置合わせする第1の変形情報を取得する第1の位置合わせ手段と、
前記第1の変形情報を初期値として用いて、画像の変形にペナルティを与える正則化項を前記第1の評価関数に追加した第2の評価関数に基づいて、前記第1の画像と前記第2の画像との第2の位置合わせの適切度を評価し、前記変形モデルにより前記第1の画像を第2の画像に変形位置合わせする第2の変形情報を取得する第2の位置合わせ手段とを備える。
本発明によれば、正則化を伴う位置合わせの計算に要する時間を短縮することができる。
第1の実施形態に係る画像処理装置の構成の一例を示す図である。 第1の実施形態における処理手順を示すフロー図である。 第1の画像と第2の画像を示す図である。 第1の画像に対して第1の位置合わせを施した第1の変形画像を示す図である。 第1の変形画像に対して第2の位置合わせを施した第2の変形画像を示す図である。 第2の実施形態に係る画像処理装置の構成の一例を示す図である。 第2の実施形態における処理手順を示すフロー図である。 第3の実施形態に係る画像処理装置の構成の一例を示す図である。 第3の実施形態における処理手順を示すフロー図である。
<第1の実施形態>
図面を参照して、本発明の実施形態の一例を詳しく説明する。図1は、本実施形態に係る画像処理装置の一例を示す図である。
本実施形態に係る画像処理装置100は、3次元画像である第1の画像と第2の画像の変形位置合わせを行う。画像処理装置100は、第1の画像と第2の画像を合致させるための指標(第1の評価関数)に基づいて第1の位置合わせを行い、病変部などの局所領域の不適切な変形状態を回避するための正則化項を指標(第1の評価関数)に追加して第2の位置合わせを行う。このように、画像処理装置100は、2段階の位置合わせ処理を行う。これにより、最初から正則化項を適用して第1の画像と第2の画像を位置合わせする場合に比べ、位置合わせの計算に要する時間を短縮することができる。
本実施形態における位置合わせは、一方の画像(3次元画像など)を他方の画像(3次元画像など)に合致させるように、一方の画像に施す変形を推定することを意味する。本実施の形態では、第1の位置合わせとして、画像処理装置100は、第1の画像と第2の画像の観測データを合致させる指標(データ項)からなる第1の評価関数に基づいて、所定の変形モデルを用いて画像に写る被検体の位置合わせを行う。
また、第2の位置合わせとして、画像処理装置100は、病変部などの局所領域の変形にペナルティを与える正則化項を第1の評価関数に追加した第2の評価関数に基づいて、第1の位置合わせの変形モデルを用いて局所的な位置合わせを行う。この場合、第1の位置合わせの結果を初期値にして、第2の位置合わせが行われる。
ここで、変形モデルとは、位置合わせにおいて画像を変形させるために画像上の各位置の座標を変換させるためのモデルを表す。変形パラメータは、変形モデルによる画像の変形を表現するためのパラメータであり、複数の画像間の位置合わせは、この変形モデルの変形パラメータの値を求めることを意味する。また、局所領域の変形にペナルティを与える正則化を「局所正則化」と称する。
第2の位置合わせにおいて、第1の位置合わせの変形に対して局所正則化によるペナルティを与えることで、第1の位置合わせでは局所領域が不適切な変形状態であっても、第2の位置合わせの結果では局所領域の変形を適切な変形状態に遷移させることができる。
なお、本実施形態では、局所正則化の例として、非特許文献2に記載されている局所領域の剛体正則化を行う場合を説明する。すなわち、変形を制御する病変などの局所領域がユーザによって指定された場合、第1の画像における当該局所領域が剛体性を保つように(第1の画像における当該領域の変形を抑制するように)変形推定を行う。このとき、局所領域が剛体性を保つ度合は、局所正則化の重みとしてユーザにより指定される。
このような処理を行うことにより、次のような効果が得られる。計算コストが高い局所正則化を第1の位置合わせでは導入せずに第2の位置合わせから導入することで、最初から局所正則化を導入する場合に比べ、位置合わせ処理全体における正則化の計算量を削減できる。この結果、位置合わせに要する時間が短縮される。
特に、位置合わせ対象である被検体が2つの画像間で比較的大きく異なる(大きく変形している)場合に、より高い効果を得ることができる。これは、画像全体の位置合わせに必要な変形量が、第2の位置合わせにおける局所正則化の導入により生じる変形量よりも大きい場合に、最初から局所正則化を導入して位置合わせする従来手法に比べて計算量を大幅に削減できるためである。具体的な説明は後述する。
また、局所正則化を行うための局所領域が変形位置合わせを行う被検体領域に対して十分に小さい場合にも、より高い効果を得ることができる。これは、局所領域の変形が影響を及ぼす範囲を限定することで、局所正則化が被検体領域の全体の変形に与える影響を小さくすることができるためである。この場合、局所正則化を適用しても被検体の領域全体の変形は殆ど変わらない。したがって、本実施形態では、最初から局所正則化を導入する場合と比べて、被検体領域全体の位置合わせ結果は変わらず、正則化の計算量を削減しつつ局所的に適切な変形位置合わせを実施することができる。
図1に示すように、本実施形態における画像処理装置100は、データサーバ110及び表示部120に電気的に接続されている。
データサーバ110が保持する第1の画像及び第2の画像は、異なる条件(複数のモダリティ、異なる体位、異なる時刻、異なる撮像パラメータ、及び異なる撮影モードなど)で被検体を予め撮像して得られた3次元断層画像(ボリュームデータ)である。3次元断層画像を撮像するモダリティは、MRI装置、X線CT装置、3次元超音波撮影装置、光音響トモグラフィ装置、PET/SPECT、及びOCT装置などであってもよい。
第1の画像及び第2の画像は、例えば、異なるモダリティや異なる撮像モードで同時期に撮像されたものであってもよい。また、経過観察のために同一患者を同一モダリティ及び同一体位で異なる日時に撮像した画像であってもよい。第1の画像及び第2の画像は、データ取得部1010を介して画像処理装置100に入力される。
表示部120は液晶モニタなどであり、画像処理装置100が生成する表示画像などの各種の情報を表示する。また、表示部120には、ユーザからの指示を取得するためのGUIが配置されている。
画像処理装置100は、データ取得部1010、正則化情報取得部1020、第1の位置合わせ部1030、第2の位置合わせ部1040、画像生成部1050、及び表示制御部1060を備える。正則化情報取得部1020は、領域情報取得部1021及び重み情報取得部1022を備える。
データ取得部1010は、画像処理装置100へ入力される第1の画像及び第2の画像を取得する。そして、データ取得部1010は、第1の画像及び第2の画像を、正則化情報取得部1020、第1の位置合わせ部1030、第2の位置合わせ部1040、画像生成部1050、及び表示制御部1060へ出力する。
正則化情報取得部1020の領域情報取得部1021は、ユーザによる操作部(図示せず)からの入力により、第1の画像における変形を抑制したい病変部などの局所領域の情報を取得する。正則化情報取得部1020の重み情報取得部1022は、ユーザによる操作部(図示せず)からの入力により、局所正則化の重み情報を取得する。そして、正則化情報取得部1020は、取得した局所領域の情報と局所正則化の重み情報を、第2の位置合わせ部1040へ出力する。この他、正則化情報取得部1020は、正則化項の種々の情報(正則化情報)の制御を行う。
第1の位置合わせ部1030は、画像間の一致度を評価する評価関数(第1の評価関数)に基づき、第1の画像と第2の画像との間で変形位置合わせ(第1の位置合わせ)を行う。第1の位置合わせ部1030は、位置合わせ結果として、第1の画像を変形させるための第1の変形パラメータ(第1の変形情報)を生成する。第1の位置合わせ部1030は、第1の変形パラメータ(第1の変形情報)を、第2の位置合わせ部1040及び画像生成部1050へ出力する。
このように、第1の位置合わせ部1030は、第1の評価関数に基づいて、第1の画像と第2の画像との第1の位置合わせの適切度を評価し、所定の変形モデルにより第1の画像を第2の画像に変形位置合わせする第1の変形情報を取得する。
第2の位置合わせ部1040は、第1の位置合わせ部1030から取得した第1の変形パラメータを初期値として用いる。そして、第2の位置合わせ部1040は、局所領域の情報と局所正則化の重み情報による正則化項を第1の評価関数に追加した評価関数(第2の評価関数)に基づき、第1の画像と第2の画像との間で変形位置合わせ(第2の位置合わせ)を行う。第2の位置合わせ部1040は、重み情報により正則化項に重み付けを行う。
第2の位置合わせ部1040は、位置合わせ結果として、第1の画像を変形させるための第2の変形パラメータ(第2の変形情報)を生成する。第2の位置合わせ部1040は、第2の変形パラメータ(第2の変形情報)を画像生成部1050へ出力する。
このように、第2の位置合わせ部1040は、画像の変形にペナルティを与える正則化項を第1の評価関数に追加した第2の評価関数に基づいて、第1の画像と第2の画像との第2の位置合わせの適切度を評価する。そして、第2の位置合わせ部1040は、変形モデルにより第1の画像を第2の画像に変形位置合わせする第2の変形情報を取得する。なお、本実施形態では、局所領域の情報と局所正則化の重み情報が設定されるが、これらの情報が設定されなくても本発明は適用可能である。
画像生成部1050は、第2の位置合わせ部1040から取得された第2の変形パラメータ(第2の変形情報)に基づき、第2の画像に形状が一致するように第1の画像を変形させた第2の変形画像を生成する。そして、第2の変形画像を表示制御部1060へ出力する。また、画像生成部1050は、第1の位置合わせ部1030から取得された第1の変形パラメータ(第1の変形情報)に基づき、第1の画像を変形させた第1の変形画像を生成して、表示制御部1060へ出力する。
表示制御部1060は、第1の画像、第2の画像、第1の変形画像、及び第2の変形画像の断層画像などの情報を、ユーザによる操作部からの入力に応じて表示部120に表示させる制御を行う。
図2は、画像処理装置100が行う処理手順を示すフローチャートである。
(ステップS2000:データの取得)
ステップS2000において、データ取得部1010は、データサーバ110から第1の画像と第2の画像を取得する。
図3は、同一の被検体に関する異なるモダリティで撮像された第1の画像と第2の画像を示す図である。図3の3000は第1の画像、3030は第2の画像を示している。それぞれの画像は、CTやMRI、及び3D超音波画像などの3次元のボリュームデータを表すが、第1の画像3000及び第2の画像3030は、紙面が2次元である都合上、ボリュームデータからx−y平面に平行に切り出された断面画像の形式で示されている。
また、図3の符号3010は、第1の画像3000上の被検体(乳房)の領域を表しており、符号3040は第2の画像3030上の被検体の領域を表している。図3の例では、被検体が人体における乳房である場合を示している。また、図3の符号3020は第1の画像3000上の乳房内の病変領域、符号3050は第2の画像3030上の乳房内の病変領域を表しており、それぞれ解剖学的に対応する領域(病変領域)である。図3の病変領域3020と対応する病変領域3050を比較すると、撮像するモダリティが異なるため、病変領域3020は明るく明瞭に描出されているのに対し、病変領域3050は暗く不明瞭に描出されており、輝度情報が大きく異なることが分かる。
図3では、第1の画像3000と第2の画像3030の間で、被検体(乳房)の領域は大きく変形しているが、病変領域3020,3050は、被検体と比べて解剖学的に硬い領域であるため、被検体(乳房)と比べてあまり変形していない状況が表されている。
(ステップS2010:局所領域の情報の取得)
ステップS2010において、正則化情報取得部1020の領域情報取得部1021は、データ取得部1010から取得した画像上において、変形を抑制したい病変部などの局所領域を表す情報を取得する。例えば、正則化情報取得部1020の領域情報取得部1021は、図3の第1の画像3000上で輪郭が明瞭に描出されている病変領域3020を局所領域として取得する。本実施形態では、ユーザが操作部を操作して画像上の病変部の輪郭形状を手動で抽出することにより、局所領域(病変領域3020)の情報を取得する。
取得された局所領域は、例えば、局所領域内外が2値化されたマスク画像などで表現される。このとき、取得された第1の画像3000の病変領域3020のマスク画像を、局所領域データR1とする。なお、局所領域データR1は、局所領域の内外が区別できる形式であれば、どのような表現方法であってもよい。また、局所領域は必ずしも第1の画像3000から取得される必要はなく、第1の画像3000と第2の画像3030のいずれか一方の局所領域が取得されればよい。
領域情報取得部1021は、第1の画像3000及び第2の画像3030の少なくとも1つにおいて設定された所定の領域の情報を取得する。また、局所領域は必ずしも1箇所である必要はなく、複数の局所領域が取得されてもよい。
また、変形を抑制する局所領域を取得する処理は、一般的に用いられている画像解析技術によって、自動または半自動的に行われてもよい。例えば、変形を抑制する病変領域内の座標をユーザがシード点として与えた後に、領域拡張法によって局所領域が抽出されてもよい。
また、局所領域(病変領域)の抽出方法はこれに限られるものではなく、SNAKESやLevel Set法などの公知の領域分割手法により行われてもよい。また、複数の病変候補領域を検出する一般的な画像処理を第1の画像3000又は第2の画像3030に施した後に、変形を制御する領域をユーザが操作部を操作して指定(選択)してもよい。
(ステップS2020:局所正則化の重み情報の取得)
ステップS2020において、正則化情報取得部1020の重み情報取得部1022は、ユーザが操作部から入力された局所正則化の重み情報を取得する。ここで、局所正則化の重み情報は、後述するステップS2040において算出される第2の評価関数における局所正則化項の重みを表す。つまり、本ステップで取得された局所正則化の重み情報に基づいて、ステップS2040の位置合わせが実施されることになる。この局所正則化の重みをλとする。
重み情報は、予め定められた複数の重みの中からユーザが選択することで取得される。表示部120上に複数の重みのリスト(例えば、{0,0.5,1.0,5.0,10.0})が表示されて、ユーザが操作部を通じて何れかの値(例えば、重み5.0)を選択した場合に、その値をλとして重み情報取得部1022が取得する。なお、重み情報の取得方法はこれに限られるものではなく、どのような方法であってもよい。例えば、ユーザが操作部を通じて直接重みの値を入力し、その値を重み情報取得部1022が取得してもよい。例えば、ユーザが重み10.0と入力すれば、λ=10.0が取得される。
上記のように、本実施形態では、局所正則化として剛体正則化を行う。そのため、剛体正則化の重みに応じて、局所領域の剛体変換からの変形のしにくさ、つまり画像の変形に対する局所領域の硬さを調整することができる。そこで、定性的な「硬さの度合(硬さ情報)」と正則化の「重み」との対応テーブルが予め作成され、ユーザが定性的な硬さの度合を選択することで、重み情報取得部1022が選択された硬さの度合に対応する重み情報を取得してもよい。
例えば、{“柔らかい”=0.0、“やや柔らかい”=0.5、“中間”=1.0、“やや硬い”=5.0、“硬い”=10.0}のようなマッピングを行う対応テーブルがデータサーバ110や記憶部(図示せず)に保持される。そして、表示部120上に定性的な硬さの度合のリスト(例えば、{“柔らかい”、“やや柔らかい”、“中間”、“やや硬い”、“硬い”})が表示される。ユーザが操作部を通じてリストから度合(例えば、“硬い”)を選択し、重み情報取得部1022が対応テーブルを参照して、選択された硬さの度合に対応する重み(例えば、10.0)をλとして取得する。
なお、重みλの取得方法は、ユーザによる手動入力による方法に限らず、例えば、重み情報取得部1022は、画像処理装置100内の記憶部に記憶された所定の値を重みλとして取得してもよい。また、重み情報取得部1022は、データサーバに格納された被検体の臨床情報(硬さ情報)に基づいて、重みλを取得してもよい。
例えば、読影レポートなどの臨床情報に“病変部が硬い”又は“硬癌”といった意味を示す所見や診断名がデータとして記録されている場合は、λ=10.0が設定され、重み情報取得部1022が重みλを取得する。一方、“病変部が周囲の組織と変わらず柔らかい”あるいは“非浸潤性癌”といった意味を示す所見や診断名がデータとして記録されている場合は、λ=0.0が設定され、重み情報取得部1022が重みλを取得する。
また、第1の画像3000における局所領域データR1に相当する領域の画像特徴(輝度や圧迫/非圧迫情報など)を解析することで、局所領域の定性的な硬さの度合(硬さ情報)が判定されてもよい。そしt、重み情報取得部1022が、上記のマッピングに基づいて、硬さの度合に対応する重みλを取得してもよい。また、局所領域データR1に相当する領域の定量的な硬さ情報(弾性情報など)を解析できる場合は、重み情報取得部1022が、定量的な硬さに対応する重みλを取得してもよい。
このように、重み情報取得部1022は、正則化項が適用される領域の硬さ情報に基づいて、重み情報を取得してもよい。
(ステップS2030:第1の評価関数に基づく第1の位置合わせ)
ステップS2030において、第1の位置合わせ部1030は、第1の位置合わせとして、データ取得部1010から取得した第1の画像3000及び第2の画像3030に基づいて、画像内の被検体全体を変形させる位置合わせを行う。このとき、第1の位置合わせ部1030は、変形Φによる位置合わせの適切さを評価する評価関数(コスト関数)を定義し、この評価関数を最小化する変形Φを推定することで、第1の位置合わせの処理を実施する。
ここで、本ステップで定義する評価関数を第1の評価関数E1(Φ)とする。本実施形態では、第1の位置合わせ部1030は、第1の評価関数を構成する指標として、変形による画像間の画像に描出された情報の一致度を適用し、これを最大化する。ここで、画像に描出された情報は、画像の輝度情報や解剖学的特徴などの情報を表し、これを画像情報と称する。言い換えると、本ステップでは画像間の画像情報の乖離度を最小化する。すなわち、一般にデータ項(以下、D(Φ)と表記する)と呼ばれる指標によって、評価関数が構成される。
例えば、第1の位置合わせ部1030は、第1の画像3000と第2の画像3030の間において、血管分岐部、乳頭、乳腺、骨、及び関節などの解剖学的に対応する特徴点(対応点)の位置の乖離度を指標として適用する。第1の位置合わせ部1030は、第1の画像3000と第2の画像3030の対応点の位置を極力一致させるような変形を推定する。ここで、変形Φによる対応点位置の乖離度項をL(Φ)とすると、第1の評価関数E1は以下の式(1)で表される。
(x1i,x2i)は、第1の画像3000と第2の画像3030上におけるi番目の対応点の座標の組を表す。また、Φ(x)は、変形Φによって第1の画像3000の座標xを第2の画像3030の空間に変換する座標変換を表す。また、Nは対応点の組の総数を表す。
対応点の取得方法としては、例えば、第1の位置合わせ部1030は、第1の画像3000と第2の画像3030に、それぞれインタレストオペレータなどの公知の画像特徴点抽出処理を施して、それぞれの画像から血管分岐などの解剖学的な特徴点を抽出する。その後、第1の位置合わせ部1030は、抽出されたそれぞれの特徴点の間で、1対1に対応付けすることによって対応点の組(x1i,x2i)を生成する処理を行う。この処理は、各画像上の特徴点ごとに特徴点近傍に関心領域を設定し、画像間で関心領域の画像類似度が高くなる特徴点同士を対応付けすることで行われる。
画像類似度を計算する手法としては、一般的に用いられているSum of Squared Difference(SSD)や相互情報量や相互相関係数などの公知の手法が用いられる。なお、対応点の取得方法は、上記の方法に限られるものではなく、表示部120上に第1の画像3000と第2の画像3030を表示させ、ユーザが操作部を用いて手動で対応点を入力してもよい。
また、第1の評価関数を構成する指標であるデータ項D(Φ)は、上記に限られるものではなく、例えば、変形させた第1の画像3000と第2の画像3030との間の画像類似度S(Φ)を指標としてもよい。すなわち、D(Φ)=S(Φ)としてもよい。画像類似度を計算する手法としては、上記の関心領域の画像類似度と同様の方法を用いることができる。
ここで、画像類似度項をS(Φ)=S(Φ(I),I)とする。Iは第1の画像3000を表し、Iは第2の画像3030を表す。また、Φ(I)は、変形Φで画像Iを変形させた変形画像(第1の変形画像)を表す。また、データ項D(Φ)として、上記の画像類似度S(Φ)や対応点位置の乖離度項L(Φ)の何れか一方ではなく、両方を利用してもよい。例えば、第1の評価関数E1は以下の式(2)で表されてもよい。
E1(Φ)=D(Φ)=w・L(Φ)+(1−w)・S(Φ) ・・・・・(2)
ここで、wは、対応点位置の乖離度項と画像類似度項をバランスさせるための0から1の重みを表す。本実施形態では、w=0.5を適用する。
さらに、これらのデータ項に加えて、被検体全体の変形が複雑にならないような正則化項を第1の評価関数E1に追加してもよい。例えば、非特許文献1に記載されている滑らかさ正則化項が適用されてもよい。ここで、滑らかさ正則化項をP(Φ)とする。例えば、第1の評価関数E1は以下の式(3)で表されてもよい。
E1(Φ)=D(Φ)+λ・P(Φ) ・・・・・(3)
ここで、λは正則化項Pの重みを表し、本実施形態では、λ=0.5を適用する。
第1の位置合わせ部1030は、第1の評価関数E1を最小化するように、変形Φを表現する所定の変形モデルの変形パラメータの値を最適化する。つまり、第1の位置合わせ部1030は、第1の評価関数E1に基づいて、第1の画像3000と第2の画像3030との第1の位置合わせの適切度を評価し、所定の変形モデルにより第1の画像3000を第2の画像3030に変形位置合わせする第1の変形情報を取得する。第1の位置合わせ部1030は、第1の画像3000と第2の画像3030における画像情報の乖離度を評価する第1の評価関数が最小化するように、第1の変形情報を取得する。
これにより、第1の評価関数E1に基づいて、画像内の被検体全体の位置合わせとして望ましい最適な変形が推定される。ここで、所定の変形モデルで表現された変形パラメータをpとする。本実施形態では、所定の変形モデルとして、Free Form Deformation(FFD)を適用する。FFDにおける変形パラメータpは、画像内に規則的に配置された制御点の制御量で表現される。
なお、本ステップで推定された変形パラメータpの値を第1の変形パラメータ(第1の変形情報)p1と表記する。第1の位置合わせ部1030は、第1の変形パラメータp1を、非線形最適化によって推定する。例えば、最急降下法が適用される。なお、最適化方法はこれに限られるものではなく、例えば、ニュートン法やLevenberg−Marquardt法(LM法)など、どのような最適化方法であってもよい。
(ステップS2040:局所正則化を追加した第2の評価関数に基づく第2の位置合わせ)
ステップS2040において、第2の位置合わせ部1040は、第1の位置合わせ部1030から第1の変形パラメータp1を取得する。また、第2の位置合わせ部1040は、領域情報取得部1021から局所領域データR1を取得し、重み情報取得部1022から局所正則化の重みλを取得する。第2の位置合わせ部1040は、第1の変形パラメータp1を初期値として、局所正則化に関する局所領域データR1及び局所正則化の重みλに基づいて、データ取得部1010から取得した第1の画像3000及び第2の画像3030の変形位置合わせを行う。
このとき、変形Φによる位置合わせの適切さを評価する第2の評価関数を定義し、この第2の評価関数を最小化するような変形Φを推定することで第2の位置合わせの処理を実施する。つまり、第2の位置合わせ部1040は、第2の評価関数に基づいて、第1の画像3000と第2の画像3030との第2の位置合わせの適切度を評価し、変形モデルにより第1の画像3000を第2の画像3030に変形位置合わせする第2の変形情報を取得する。
本ステップでは、ステップS2030で定義した第1の評価関数に局所正則化項(画像の変形にペナルティを与える正則化項)を追加した関数を第2の評価関数とする。これは、ステップS2030で説明した正則化と比べ、本来の人体からかけ離れた過剰な変形が発生するのを抑制する点では共通する。一方で、ステップS2030の正則化は、被検体全体の変形に影響を及ぼすのに対し、局所正則化は局所領域の変形にペナルティを与えるため、被検体全体の変形には殆ど影響を及ぼさない点で異なる。
つまり、第2の位置合わせ部1040は、局所領域の変形にペナルティを与える正則化項を第1の評価関数E1に追加した第2の評価関数に基づいて、第2の変形情報を取得する。
上記のように、本実施形態では、局所正則化として、非特許文献2に記載されている剛体正則化を適用する。剛体正則化は、非特許文献2に記載の通り、指定された局所領域が剛体変換から乖離するとペナルティが発生する正則化である。ここで、剛体正則化における剛体変換のように、正則化において変形にペナルティを与えるためのモデルを、一般化した表現として正則化モデルと称する。
例えば、第1の変形画像と第2の画像3030との局所領域の位置合わせに剛体変換を施した場合、画像間の局所領域の変形が正則化モデルである剛体変換から乖離するとペナルティが発生する。剛体正則化の適用により、局所領域の変形が剛体変換から乖離することに対してペナルティが発生するため、剛体変換からの局所領域の変形を抑制することができる。局所正則化項は、変形Φの局所領域データR1に係る部分についてペナルティを与える。ここで、第2の評価関数をE2(Φ)とし、剛体正則化項をP(Φ)とすると、第2の評価関数E2は、以下の式(4)で表される。
E2(Φ)=E1(Φ)+λ・P(Φ) ・・・・・(4)
ここで、λは、ステップS2010で領域情報取得部1021が取得した剛体正則化項の重みである。上記の通り、重みλの値に応じて、局所領域の剛体変換からの変形のしにくさ、つまり画像の変形に対する局所領域の硬さを調整することができる。例えば、λ=0.0であれば、剛体正則化項は考慮されず、局所領域にペナルティは課されないため、E2=E1となり第1の評価関数に等しくなる。なお、局所領域以外の領域について、剛体正則化項は考慮されず、ペナルティは課されないため、E2=E1となり第1の評価関数に等しくなる。
第2の位置合わせ部1040は、ステップS2030で適用した変形モデルの第1の変形パラメータp1を初期値にして、第2の評価関数E2を最小化するように変形パラメータを最適化することで、位置合わせ結果を推定する。第2の位置合わせ部1040は、第1の変形パラメータp1を初期値として、第1の画像と第2の画像3030における所定領域の所定の正則化モデル(剛体変換)からの乖離度を評価する第2の評価関数E2が最小化するように、第2の変形パラメータ(第2の変形情報)を取得する。
つまり、第2の位置合わせ部1040は、第2の評価関数E2を最小化するように最適化された変形パラメータpの値を推定する。なお、本ステップで推定された変形パラメータpの値を第2の変形パラメータ(第2の変形情報)p2と表記する。
なお、第2の位置合わせ部1040が変形Φの表現に用いる変形モデルは、第1の位置合わせ部1030が用いる変形モデルと同じ変形モデルである。本実施形態では、ステップS2030において変形モデルとしてFFDを適用しているため、本ステップにおいてもFFDを適用する。第2の位置合わせ部1040は、第2の変形パラメータp2を、ステップS2030と同様に非線形最適化によって推定する。
(ステップS2050:変形画像の生成)
ステップS2050において、画像生成部1050は、第2の画像の形状に一致するように第1の画像を変形させた変形画像(第2の変形画像)を、第2の位置合わせ部1040から取得した第2の変形パラメータp2に基づいて生成する。
このとき、画像生成部1050は、第1の位置合わせ部1030から取得した第1の変形パラメータp1に基づいて第1の画像を変形させた変形画像(第1の変形画像)を併せて生成することもできる。また、必要に応じて、画像生成部1050は、第1の画像の形状に一致するように第2の画像を変形させた変形画像(逆変形画像)を、第1の変形パラメータp1や第2の変形パラメータp2に基づいて生成することもできる。
図4は、第1の画像3000と第1の変形画像4000を示す図である。符号4010は第1の位置合わせに基づく変形後の被検体領域(乳房領域)を表し、符号4020は第1の位置合わせに基づく変形後の局所領域(病変領域)を表す。
図4に示すように、第1の評価関数E1に基づく被検体全体の位置合わせにより、乳房全体を乳房領域3010から乳房領域4010に変形させることができる。一方、局所領域(病変領域)は、被検体全体に比べて硬いため、第1の評価関数E1に基づく被検体全体の位置合わせにより実際よりも過剰に変形し、病変領域3020から病変領域4020へと変形する。この結果、被検体の病変領域が被検体全体(又は、周囲領域)に比べて硬い場合には、現実の変形目標である第2の画像3030上の病変領域3050と形状が一致しなくなる。
図3で説明した通り、局所領域である病変領域は乳房全体に対して十分に小さい場合、変形された病変領域が変形目標と一致しなくても、病変領域の不一致が及ぼす乳房全体の変形への影響は小さい。したがって、本ステップで局所領域である病変領域を適切に一致させるような指標を導入しなくても、そのような指標を最初から適用する場合に比べて、乳房全体の位置合わせの結果は殆ど変わらない。
図5は、第1の変形画像4000と第2の変形画像5000を示す図である。符号5010は第2の位置合わせに基づく変形後の被検体領域(乳房領域)を表し、符号5020は第2の位置合わせに基づく変形後の局所領域(病変領域)を表す。
図5に示すように、第2の評価関数E2に含まれる第1の評価関数E1の効果により、第2の位置合わせ部1040は、乳房領域4010を乳房領域5010へと変形し、第1の位置合わせ結果の状態を被検体全体として維持したまま位置合わせすることができる。一方、第2の評価関数E2に含まれる剛体正則化項Pの効果により、第2の位置合わせ部1040は、病変領域4020を病変領域5020へと変形し、第2の画像3030の病変領域3050の形状に近似する方向に変形を生じさせることができる。
このように、第1の位置合わせ結果で得られた乳房全体の位置合わせ状態を保持しつつ、局所的な病変領域を硬い領域として扱った変形位置合わせを行うことができる。
この結果、実際に解剖学的に硬く変形が生じていない第2の画像3030上の病変領域3050に病変領域3020を合致させるような位置合わせを施すことができる。特に、被検体全体の位置合わせに大きな影響を与えない程度の十分に小さい局所領域の変形に関する局所正則化を第2の位置合わせから導入することで、被検体全体的にも局所的にも適切な変形位置合わせを効率よく実施することができる。非特許文献2に記載の従来手法である最初から局所正則化を導入する場合と比べて、被検体全体の変形を維持しつつ高速に変形位置合わせを実施することができる。
(ステップS2060:変形画像の表示)
ステップS2060において、表示制御部1060は、ユーザによるUI(図示せず)の操作に応じて、画像生成部1050で生成された変形画像と第2の画像3030の断面画像を、表示部120へと表示する制御を行う。このとき、変形画像として、第1の位置合わせ結果に基づく第1の変形画像4000、第2の位置合わせ結果に基づく第2の変形画像5000、及び第2の画像3030の同一断面を、並べて表示するように構成することができる。
また、表示制御部1060は、第1の変形画像4000と第2の画像3030を、ユーザの操作に応じて、1つの表示画面領域内で切り替えて表示するような構成であってもよい。なお、表示制御部1060は、第1の変形画像4000の生成や表示を行わない構成であってもよい。以上によって、画像処理装置100の処理が実施される。
次に、非特許文献2に記載の従来手法と比較して、本実施形態に係る画像処理装置100により得られる効果について説明する。まず、本実施形態は、ステップS2030の第1の評価関数E1に基づく第1の位置合わせを行ったのち、ステップS2040において局所正則化を追加した第2の評価関数E2に基づく第2の位置合わせを行う手法である。一方、従来手法は、上記の通り、最初から局所正則化を導入する方法である、つまり最初から第2の評価関数E2に基づいて2つの画像間の位置合わせを施す方法である。
ここで、第1の位置合わせで計算される対応点位置の乖離度項Lは、式(1)に示した通り、変形させた画像の対応点間の距離の平均であり、1回あたりの計算コストは小さい。つまり、第1の評価関数E1は1回あたりの計算コストが比較的小さい。一方、第2の評価関数で導入する剛体正則化は、非特許文献2に記載のように、“affinity”、“orthonormality”、及び“properness”の3つの項で構成されている。
それぞれの項の計算は、計算対象領域に含まれるFFDの制御点の各位置における位置の変位の2次微分、1次微分、及び1次微分を求める必要があるため、1回あたりの計算コストが大きい。つまり、第2の評価関数E2は1回あたりの計算コストが比較的大きい(第1の評価関数E1より大きい)。
局所領域は乳房全体に比べ十分に小さいため、ステップS2040の処理で生じる局所領域の変形量は、乳房全体を変形させる変形量よりも十分に小さい。このとき、変形パラメータpの推定に必要な最適化の繰り返し回数は、位置合わせに必要な変形量に応じて増加する。
したがって、ステップS2040における局所領域の変形(第2の位置合わせ)に要する繰り返し回数は、被検体(乳房)全体の変形(第1の位置合わせ)に要する繰り返し回数よりも十分少なく、位置合わせ全体の繰り返し回数に占める割合も小さい。従来手法では、被検体(乳房)全体の位置合わせを行うため、従来手法の位置合わせに要する繰り返し回数は、第2の位置合わせに要する繰り返し回数より十分多い。
以上のことから、従来手法は、最初から計算コストの大きい第2の評価関数E2を用いて、繰り返し回数の多い被検体(乳房)全体の変形を行う必要があるため、位置合わせの計算に多大な時間を要する。一方、本発明では、最初に計算コストの小さい第1の評価関数E1を用いて繰り返し回数の多い被検体(乳房)全体の変形を行う。その後、計算コストの大きい第2の評価関数E2を用いて繰り返し回数の少ない局所領域(病変領域)の変形を行うため、位置合わせに要する時間を短縮することができる。
例えば、第1の評価関数E1を1回分計算するのに要する時間を100msecとし、第2の評価関数E2を1回分計算するのに要する時間を1000msecとする。そして、従来手法による位置合わせに必要な非線形最適化の繰り返し回数を500回とする。一方、ステップS2030の第1の評価関数E1に基づいて第1の位置合わせを行うのに要する非線形最適化の繰り返し回数を500回とする。そして、ステップS2040の第2の評価関数E2に基づいて第2の位置合わせを行うのに要する非線形最適化の繰り返し回数を100回とする。
このとき、従来手法による位置合わせに要する時間は、1000msec×500回=500secとなる。一方、本発明による第1の位置合わせ(ステップS2030)と第2の位置合わせ(ステップS2040)の位置合わせに要する時間は、(100msec×500回)+(1000msec×100回)=150secとなる。したがって、本実施形態は、従来手法に比べ、位置合わせの所要時間が0.3倍に短縮される。
本実施形態によれば、全体の位置合わせには影響を与えない局所領域の変形に関する局所正則化を位置合わせの途中から導入することで、最初から局所正則化を適用する場合に比べ、位置合わせに要する時間を短縮することができる。これにより、ユーザの待ち時間を減らし、ユーザの負担を減らすことができる。
以上、本発明に係る第1の実施形態について説明したが、本発明はこれらに限定されるものではなく、請求項に記載された範囲内において変更・変形することが可能である。
(変形例1−1:変形モデルに多重解像度FFDを適用)
第1の実施形態では、変形モデルとしてFFDを適用したが、変形モデルはこれに限らない。非特許文献1に記載された、変形の自由度の低い「荒い制御点」で表現されたFFDから変形の自由度の高い「細かい制御点」で表現されるFFDの順に適用する多重解像度FFDを、変形モデルとして適用してもよい。
例えば、ステップS2030において、第1の位置合わせ部1030は、この多重解像度FFDを適用して、第1の評価関数E1に基づき、設定可能な最も細かい制御点で表現されたFFDの第1の変形パラメータp1を得る。そして、ステップS2040において、第2の位置合わせ部1040は、ステップS2030で取得された第1の変形パラメータp1を初期値にする。第2の位置合わせ部1040は、第2の評価関数E2に基づき、設定可能な最も細かい制御点のFFDの変形パラメータを最適化することで、第2の位置合わせ結果(第2の変形パラメータp2)を得る。
このように、第1の位置合わせでは荒いFFDから細かいFFDの順に多重解像度FFDを適用して位置合わせを行った後、第2の位置合わせでは細かいFFDモデルを適用して位置合わせを行う。
また、解像度の異なるFFDの適用方法はこれに限らない。例えば、第1の位置合わせでは最も粗い制御点から最も細かい制御点の1段前までのFFDのみを適用し、第2の位置合わせで最も細かい制御点のFFDを適用するようにしてもよい。
具体的には、ステップS2030において、第1の位置合わせ部1030は、多重解像度FFDを適用して、第1の評価関数E1に基づき、最も細かい制御点の1段前のFFDの変形パラメータを推定する。そして、推定したFFDの変形パラメータを、最も細かい制御点のFFDの変形パラメータに変換する。この処理は、非特許文献1に記載された多重解像度FFDの処理の内部で、異なる解像度間での変形パラメータの変換として実施されており、公知の手法であるため、説明を省略する。
このとき、変換により得られた最も細かい制御点のFFDの第1の変形パラメータをp1とする。そして、ステップS2040において、第2の位置合わせ部1040は、ステップS2030で取得した第1の変形パラメータp1を初期値にして、第2の評価関数E2に基づき、最も細かい制御点のFFDの変形パラメータ最適化する。この結果、第2の位置合わせ部1040は、最終的な位置合わせ結果(第2の変形パラメータp2)を得る。
以上により、最初に変形の自由度を低くすることで被検体全体の変形を推定し、その後、変形の自由度を高くして詳細な変形を推定することができ、誤った局所解に陥らないロバストな変形位置合わせを実施することができる。なお、適用される変形モデルはFFDや多重解像度FFDに限られるものではなく、例えばThin Plate Spline(TPS)などの放射基底関数に基づく変形モデルなど、どのような変形モデルを用いてもよい。
(変形例1−2:局所正則化として局所的な体積保存正則化を適用)
第1の実施形態では、局所正則化として剛体正則化を適用したが、局所正則化の手法はこれに限らず、対象とする領域が局所領域であれば、どのような正則化モデルに基づく、どのような正則化手法であってもよい。例えば、局所正則化は、非特許文献2に記載された剛体正則化を構成する一つの項である、局所的な体積保存正則化であってもよい。
この場合、第1の実施形態において局所正則化に剛体正則化を適用している個所を体積保存正則化に置き換えることで、体積保存正則化を適用した処理を実施することができるため、具体的な説明は省略する。これにより、形状は変形してもその領域を占める体積は変わらないような局所領域の変形を適用することができる。
(変形例1−3:領域全体を対象とする正則化を第2の位置合わせから適用)
第1の実施形態では、第2の位置合わせから導入する正則化として、局所正則化を適用したが、第2の位置合わせから導入する正則化はこれに限らない。例えば、被検体領域の全体を対象とする正則化を第2の位置合わせから導入してもよい。例えば、ステップS2030の第1の位置合わせにおいて、滑らかさ正則化を導入する例を説明したが、第1の位置合わせでは滑らかさ正則化を導入せずに、ステップS2040の第2の位置合わせから滑らかさ正則化を導入するようにしてもよい。
これにより、第1の位置合わせで滑らかさ正則化が行われなくても、被検体の対象領域全体を十分に位置合わせできれば、第2の位置合わせで滑らかさ正則化が行われることにより、十分な位置合わせが実現される。
この結果、滑らかさ正則化を導入するタイミングを遅らせることで、位置合わせに要する計算時間を短縮することができる。なお、被検体全体を対象とする正則化はこれに限らず、変形例1−2で説明した体積保存正則化であってもよい。ただし、変形例1−2では、計算対象領域を局所領域に限定しているが、変形例1−3では、被検体領域の全体を計算対象としている点で異なる。
<第2の実施形態>
図面を参照して、本発明の実施形態の一例を詳しく説明する。図6は、本実施形態に係る画像処理装置の一例を示す図である。
第1の実施形態では、第1の位置合わせと第2の位置合わせを行っていたが、位置合わせ方法はこれに限らない。本実施形態は、第1の位置合わせを行った後に第2の位置合わせを行うか否かを決定し、第2の位置合わせを行うと決定した場合、追加の処理として第2の位置合わせを行い、第2の位置合わせを行わないと決定した場合、第2の位置合わせを行わない。これにより、不要な計算量を削減して、位置合わせの計算時間を短縮することができる。以下、上記の第1の実施形態及びその変形例と同様の構成、機能、及び動作についての説明は省略し、主に本実施形態との差異について説明する。
本実施形態に係る画像処理装置700の正則化情報取得部1020は、第2の位置合わせ部による第2の位置合わせを行うか否かを決定する決定部(第1の決定部)1023を更に備える。
正則化情報取得部1020は、第1の実施形態と同様、ユーザによる操作部からの入力により、局所領域の情報や局所正則化の重み情報を取得する。本実施形態では、決定部1023が、局所領域の情報又はユーザによる不図示の操作部からの入力などに基づいて、局所正則化を適用するか否かを判定する。そして、決定部1023が局所正則化を適用すると決定した場合、正則化情報取得部1020は、取得された局所領域の情報と局所正則化の重み情報を第2の位置合わせ部1040へ出力する。
第2の位置合わせ部1040は、第1の実施形態と同様に、局所領域の変形を考慮した第2の位置合わせを行う。ただし、本実施形態では、決定部1023が、第2の位置合わせ部1040による第2の位置合わせを行わないと決定した場合、第2の位置合わせ部1040は、第2の位置合わせを行わず、第2の変形画像4000の第2の変形情報を取得しない。
画像生成部1050は、第1の実施形態と同様に変形画像を生成して表示制御部1060へと出力する。ただし、本実施形態では、局所正則化を適用するか否かの決定に応じて、生成する変形画像を変更する。すなわち、正則化情報取得部1020の決定部1023が局所正則化を適用すると決定した場合、画像生成部1050は、第2の変形パラメータp2に基づく第2の変形画像5000を生成する。一方、正則化情報取得部1020の決定部1023が局所正則化を適用しないと決定した場、画像生成部1050は、第1の変形パラメータp1に基づく第1の変形画像4000を生成する。
図7は、画像処理装置700が行う全体の処理手順を示すフローチャートである。ステップS8000は第1の実施形態におけるステップS2000に相当し、ステップS8010は第1の実施形態におけるステップS2030に相当し、ステップS8020は第1の実施形態におけるステップS2010に相当するため、説明を省略する。また、ステップS8050は第1の実施形態におけるステップS2020に相当し、ステップS8060は第1の実施形態におけるステップS2040に相当するため、説明を省略する。
(S8030:局所正則化の適用の有無決定)
ステップS8030において、正則化情報取得部1020の決定部1023は、局所正則化の適用の有無を決定する。本実施形態では、例えば、ユーザが局所正則化を適用するか否かを選択して入力することにより、決定部1023が局所正則化の適用の有無を決定する。ここで、局所正則化の適用の有無を表すフラグを、局所正則化適用フラグFとする。ユーザが操作部から、局所正則化を“適用する”か“適用しない”かの情報を入力し、“適用する”が入力された場合は、決定部1023がF=Trueを設定し、“適用しない”が入力された場合は、決定部1023がF=Falseを設定する。
これにより、ユーザが、予め得られた被検体の臨床情報などの硬さ情報に基づいて、局所領域(病変領域)は“周囲の組織と同様に柔らかい”と判断した場合には、“適用しない”を選択することで、局所正則化適用フラグをF=Falseに設定できる。つまり、決定部1023は、上記の定性的又は定量的な硬さ情報から局所正則化の要否を判断し、局所正則化適用フラグFを決定することができる。
したがって、局所正則化適用フラグFの決定方法は手動で決定する方法に限らず、自動で決定してもよい。また、第1実施形態のステップS2020で述べた、臨床情報や画像特徴の解析により自動的に局所正則化の重み情報を取得する方法を適用してもよい。すなわち、決定部1023は、λ>0.0が取得された場合にはF=Trueを設定し、λ=0.0が取得された場合にはF=Falseを設定するようにしてもよい。
また、第1の位置合わせの結果に基づいて自動的に正則化適用の有無を判定してもよい。例えば、第1の位置合わせの結果(第1の変形画像4000の変形情報)に対して、第1の実施形態のステップS2040における、剛体正則化項Pの値を決定部1023が評価する(例えば、第2の位置合わせを1回だけ行い、この結果を評価する)。
そして、剛体正則化項の値が所定の閾値Tより高ければ、決定部1023は、局所領域の変形が不適切な状態であると判断し、局所正則化適用フラグをF=Trueに設定する。一方、剛体正則化項Pの値が所定の閾値T以下ならば、決定部1023は、局所領域の変形が適切な状態であると判断し、局所正則化フラグをF=Falseに設定する。本実施形態では、閾値Tの値をT=0.1とする。これにより、第1の位置合わせの結果における変形の不適切さに基づいて、局所正則化フラグFを決定することができる。
このように、決定部1023は、正則化項が適用される領域の硬さ情報、正則化項の重み情報、正則化項の値、及び第1の変形情報の少なくとも1つに基づいて、第2の位置合わせを行うか否かを決定する。
(ステップS8040:局所正則化の適用の判断)
ステップS8040において、正則化情報取得部1020は、ステップS8030で決定された局所正則化適用フラグの値がF=Trueの場合は、ステップS8050へ処理を移す。一方、正則化情報取得部1020は、局所正則化適用フラグの値がF=Falseの場合は、処理をステップS8070へ処理を移す。
(ステップS8070:変形画像の生成)
ステップS8070において、ステップS8040から遷移してきた場合は、画像生成部1050は、第1の位置合わせ部1030から取得した第1の変形パラメータp1に基づいて、第1の変形画像4000を生成する。一方、ステップS8060から遷移してきた場合は、画像生成部1050は、第2の位置合わせ部から取得した第2の変形パラメータp2に基づいて、第2の変形画像5000を生成する。
(ステップS8080:変形画像の表示)
ステップS8080において、表示制御部1060は、ユーザによるUI(図示せず)の操作に応じて、画像生成部1050で生成された変形画像と第2の画像の断面画像を、表示部120へと表示する制御を行う。このとき、変形画像として、ステップS8040から遷移してきた場合は、第1の変形画像4000が表示され、ステップS8060から遷移してきた場合は、第1の変形画像4000及び第2の変形画像5000が表示されるように構成することができる。
以上によって、画像処理装置700の処理が実施される。本処理フローにより、局所正則化を含まない第1の位置合わせを行った後、局所正則化を適用するか否かが決定される。適用すると決定された場合は、局所正則化を含む第2の位置合わせを行い、第2の変形画像が生成されて、位置合わせ結果が出力される。一方、適用しないと決定された場合は、第1の位置合わせの第1の変形画像が生成されて、位置合わせ結果が出力される。これにより、局所正則化が必要ない場合には、局所正則化を含む位置合わせを計算せずに結果を出力することができる。
本実施形態によれば、予め局所正則化を適用するか否かを決定し、適用すると決定された場合に第2の位置合わせを実施するようにすることで、局所正則化が必要ない場合に、局所正則化を含む位置合わせの不要な演算を回避することができる。この結果、計算量を削減できるため、位置合わせの計算時間を短縮することができる。
以上、本発明に係る第2の実施形態について説明したが、本発明はこれらに限定されるものではなく、請求項に記載された範囲内において変更・変形することが可能である。
(変形例2−1:第1の位置合わせ後に第1の変形画像を表示)
本実施形態では、変形画像が表示されるのは、ステップS8080のタイミングであったが、変形画像が表示されるタイミングはこれに限らない。例えば、ステップS8010において第1の位置合わせが行われた後に、画像生成部1050が第1の変形画像4000を生成し、表示制御部1060が第1の変形画像4000を表示部120に表示させてもよい。
具体的には、ステップS8010の処理の後、画像生成部1050が取得された変形パラメータp1と第1の画像3000に基づいて、第1の変形画像4000を生成する。次に、表示制御部1060が第1の変形画像4000を表示部120に出力する。つまり、表示制御部1060は、決定部1023が第2の位置合わせ部1040による第2の位置合わせを行うか否かを決定する前に、第1の変形画像4000を表示部120に表示させる。
これにより、ユーザは、ステップS8030における局所正則化の適用の有無の決定の前に、第1の位置合わせによる第1の変形画像4000を表示部120上で観察することができる。第1の位置合わせによる第1の変形画像4000と第2の画像3030を並べて観察できるようにすることで、第1の変形画像4000の局所領域(病変領域)がどの程度第2の画像3030の局所領域に合致しているか否かを観察することができる。
例えば、第1の画像3000の局所領域3020と第2の画像3030の局所領域3050の形状があまり変わっていない(局所領域が硬くて変形していない)。この場合、表示部120に表示された第1の変形画像4000では局所領域4020が過剰に変形してしまっており、第2の画像3030の局所領域3050とのずれが大きくなっていることが観察されたとする。その場合、ユーザは局所正則化を“適用する”と判断し、ステップS8030において、局所正則化適用フラグをF=Trueに手動設定して、以降の処理を行わせることができる。
<第3の実施形態>
図面を参照して、本発明の実施形態の一例を詳しく説明する。図8は、本実施形態に係る画像処理装置の一例を示す図である。
第1の実施形態では、局所正則化を第1の位置合わせの後から導入する位置合わせを行っていたが、位置合わせ方法はこれに限らない。本実施形態では、位置合わせの性能への影響の観点から、局所正則化を第1の位置合わせの後に適用するか、局所正則化を最初から適用するかを決定する。
そして、局所正則化を第1の位置合わせの後に適用すると決定された場合は、第1の実施形態と同様、第1の位置合わせを行った後に第2の位置合わせを行う。一方、局所正則化を最初から適用すると決定された場合は、第1の位置合わせを行わずに、正則化項を追加した第2の評価関数E2に基づいて、第1の画像3000と第2の画像3030との位置合わせを行う。
これにより、局所正則化を最初から適用することで位置合わせ精度が向上する場合は、最初から局所正則化を導入し、そうではない場合は、第1の位置合わせの後から局所正則化を導入することで、位置合わせ精度の低下を防ぐことができる。以下、上記の第1の実施形態及びその変形例と同様の構成、機能、及び動作についての説明は省略し、主に本実施形態との差異について説明する。
本実施形態に係る画像処理装置900の正則化情報取得部1020は、第1の位置合わせ部1030による第1の位置合わせを行うか否かを決定する決定部1024(第2の決定部)を備える。決定部1024が、第1の位置合わせ部1030による第1の位置合わせを行わないと決定した場合、正則化情報取得部1020から第1の位置合わせ部1030に命令が入力され、第1の位置合わせ部1030は、第1の位置合わせを行わない。つまり、第1の位置合わせ部1030は、第1の変形画像4000に対応する第1の変形情報を取得しない。
正則化情報取得部1020は、第1の実施形態と同様、ユーザによる操作部からの入力により、局所領域の情報や局所正則化の重み情報を取得する。本実施形態では、取得された局所領域の情報により、局所正則化を第1の位置合わせの後から適用するか、最初から適用するかを決定する。そして、局所正則化を第1の位置合わせの後から適用するか、最初から適用するかの命令を、第1の位置合わせ部と第2の位置合わせ部へ出力する。また、正則化情報取得部1020は、局所領域の情報と局所正則化の重みを、第2の位置合わせ部1040へ出力する。
第1の位置合わせ部1030は、第1の実施形態と同様、第1の評価関数に基づく第1の位置合わせを行う。ただし、第1の位置合わせ部1030は、局所正則化を最初から適用するという命令を正則化情報取得部1020から取得した場合、第1の変形画像4000に対応する第1の変形情報を取得せず、第1の位置合わせの処理を行わない。
第2の位置合わせ部1040は、第1の実施形態と同様、第2の評価関数に基づく第2の位置合わせを行う。ただし、第2の位置合わせ部1040は、正則化情報取得部1020から局所正則化を第1の位置合わせの後から適用するという命令を取得した場合は、以下の処理を行う。
すなわち、第2の位置合わせ部1040は、第1の実施形態と同様、第1の位置合わせ部1030から取得した第1の変形パラメータp1を初期値として用いて、第2の評価関数に基づく変形位置合わせ(第2の位置合わせ)を行う。一方、第2の位置合わせ部1040は、局所正則化を最初から適用するという命令を取得した場合、変形パラメータの初期値なしに、第2の評価関数に基づく変形位置合わせを行う。
図9は、画像処理装置900が行う処理手順を示すフローチャートである。ステップS10000は第1の実施形態におけるステップS2000に相当し、ステップS10010は第1の実施形態におけるステップS2010に相当するため、説明を省略する。また、ステップS10040は第1の実施形態におけるステップS2030に相当し、ステップS10050は第1の実施形態におけるステップS2020に相当するため、説明を省略する。
(ステップS10020:局所正則化を後から又は最初から適用するかを決定)
ステップS10020において、正則化情報取得部1020の決定部1024は、位置合わせの性能への影響の観点から、局所正則化を後から適用するか又は最初から適用するかを決定する。
第1の実施形態で述べた通り、被検体領域全体の位置合わせに影響を与えることなく位置合わせを行うために、局所正則化を行うための局所領域は、変形位置合わせを行う対象領域(被検体領域)に対して十分小さいものであることが好ましい。そうでなければ、被検体領域全体の位置合わせに影響が生じるため、最初から正則化を導入する場合の方が後から正則化を導入する場合よりも位置合わせ精度が向上する可能性がある。
そこで、本実施形態では、決定部1024は、被検体の領域に対する局所領域の割合に応じて、局所正則化を後から適用するか、最初から適用するかを決定する。つまり、決定部1024は、正則化項が適用される領域の被検体に対する面積比又は体積比に基づいて、第1の位置合わせ部1030による第1の位置合わせを行うか否かを決定する。
例えば、被検体の領域に対する局所領域の面積比又は体積比が所定の閾値以下であれば、決定部1024は、局所正則化を第1の位置合わせの後から適用すると決定する。被検体の領域に対する局所領域の面積比又は体積比が所定の閾値超であれば、決定部1024は、局所正則化を最初から適用すると決定する。
具体的には、決定部1024が、第1の画像3000を解析して被検体の領域(乳房領域)を抽出し、その体積を算出する。算出された被検体の領域の体積をVとする。この処理は、ステップS8020と同様、一般的に用いられている公知の領域分割手法を用いるものとする。また、ステップS8020と同様、ユーザが手動で被検体の領域を抽出してもよい。
決定部1024は、ステップS8020で取得した局所領域(病変領域)R1の体積を算出する。算出された病変領域の体積をVとする。そして、体積比V/Vの値が所定の閾値T以下であれば、決定部1024は、局所正則化を第1の位置合わせの後から適用するために、局所正則化途中導入フラグをFMID=Trueに設定する。一方、体積比V/Vの値が所定の閾値T超であれば、決定部1024は、局所正則化を最初から適用するために、局所正則化途中導入フラグをFMID=Falseに設定する。
なお、本実施形態では、閾値Tの値をT=0.05とする。また、閾値Tは必ずしも固定値である必要はなく、変動値であってもよい。また、閾値Tは、ユーザにより手動入力されてもよい。例えば、ユーザが予め被検体の臨床情報を確認したり、画像を観察したりすることで、局所領域の大きさを判断し、局所正則化途中導入フラグFMIDを手動設定してもよい。これにより、位置合わせの性能の観点から局所正則化を後から導入するか最初から導入するかを決定することができる。
(ステップS10030:局所正則化の適用のタイミングの判断)
ステップS10030において、正則化情報取得部1020は、局所正則化途中導入フラグFMIDがFMID=Trueの場合、ステップS10040へ処理を移し、FMID=Falseの場合、ステップS10050へ処理を移す。
(ステップS10060:局所正則化を追加した第2の評価関数に基づく位置合わせ)
ステップS10060において、第2の位置合わせ部1040は、局所正則化途中導入フラグの値に応じて第2の位置合わせの処理を行う。
MID=Trueを取得した場合は、第2の位置合わせ部1040は、第1の実施形態におけるステップS2040と同様の処理を行う。すなわち、第1の変形パラメータp1を初期値として用いて、第2の評価関数に基づく第1の画像3000と第2の画像3030の位置合わせ処理を行う。
一方、FMID=Falseを取得した場合は、第2の位置合わせ部1040は、変形パラメータの初期値なしに、第2の評価関数に基づく第1の画像3000と第2の画像3030の位置合わせ処理を行う。この処理は、第1の実施形態におけるステップS2040の処理と初期値が異なるだけであるため、説明は省略する。
(ステップS10070:変形画像の生成)
ステップS10070において、画像生成部1050は、第2の位置合わせ部から取得した第2の変形パラメータp2に基づいて、第2の変形画像5000を生成する。
(ステップS10080:変形画像の表示)
ステップS10080において、表示制御部1060は、ユーザによるUI(図示せず)の操作に応じて、画像生成部1050で生成された第2の変形画像5000と第2の画像3030の断面画像を、表示部120へと表示する制御を行う。このとき、変形画像として、局所正則化導入フラグFMID=Trueが取得された場合は、第1の変形画像4000及び第2の変形画像5000が表示されるように構成することができる。また、変形画像として、FMID=Falseが取得された場合は、第2の変形画像5000が表示されるように構成することができる。
以上によって、画像処理装置900の処理が実施される。本実施形態によると、最初に位置合わせの性能への影響の観点から、局所正則化を第1の位置合わせの後から適用するか、局所正則化を最初から適用するかが決定される。局所正則化を第1の位置合わせの後から適用すると決定された場合は、第1の位置合わせを行った後に、第2の位置合わせが行われる。一方、局所正則化を最初から適用すると決定された場合は、第2の評価関数に基づいて、第1の画像と第2の画像との位置合わせが行われる。
これにより、局所正則化を最初から適用することで位置合わせ精度が向上する場合は、最初から局所正則化を導入し、第1の位置合わせの後から局所正則化を導入することで、位置合わせ精度の低下を防ぐことができる。
本実施形態によれば、局所正則化を第1の位置合わせの後から適用するか最初から適用するかを決定し、最初から適用すると決定された場合には、最初から局所正則化を適用して位置合わせすることで、位置合わせ精度の低下を防ぐことができる。
以上、本発明にかかる第3の実施形態について説明したが、本発明はこれらに限定されるものではなく、請求項に記載された範囲内において変更・変形することが可能である。
なお、本発明は、上記の実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム又は装置に供給し、システム又は装置のコンピュータ(CPUやMPUなど)がプログラムを読み出すことにより実行されてもよい。また、本発明は、システム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能であり、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100,700,900 画像処理装置
110 データサーバ
120 表示部
1010 データ取得部
1020 正則化情報取得部
1021 領域情報取得部
1022 重み情報取得部
1023 第1の決定部
1024 第2の決定部
1030 第1の位置合わせ部
1040 第2の位置合わせ部
1050 画像生成部
1060 表示制御部

Claims (13)

  1. 第1の評価関数に基づいて、第1の画像と第2の画像との第1の位置合わせの適切度を評価し、所定の変形モデルにより前記第1の画像を前記第2の画像に変形位置合わせする第1の変形情報を取得する第1の位置合わせ手段と、
    前記第1の変形情報を初期値として用いて、画像の変形にペナルティを与える正則化項を前記第1の評価関数に追加した第2の評価関数に基づいて、前記第1の画像と前記第2の画像との第2の位置合わせの適切度を評価し、前記変形モデルにより前記第1の画像を前記第2の画像に変形位置合わせする第2の変形情報を取得する第2の位置合わせ手段と
    を備えることを特徴とする画像処理装置。
  2. 前記第1の位置合わせ手段は、前記第1の画像と前記第2の画像における画像情報の乖離度を評価する前記第1の評価関数が最小化するように、前記第1の変形情報を取得し、
    前記第2の位置合わせ手段は、前記第1の変形情報を初期値として、前記第1の画像と前記第2の画像における所定の領域の変形に対する所定の正則化モデルからの乖離度を前記正則化項として評価する前記第2の評価関数が最小化するように、前記第2の変形情報を取得することを特徴とする請求項1に記載の画像処理装置。
  3. 前記第1の画像、前記第2の画像、及び前記第1の画像に前記第1の変形情報を適用した第1の変形画像の少なくとも1つにおいて設定された所定領域の情報を取得する領域情報取得手段を備え、
    前記第2の位置合わせ手段は、前記領域の変形にペナルティを与える正則化項を前記第1の評価関数に追加した前記第2の評価関数に基づいて、前記第2の変形情報を取得することを特徴とする請求項1に記載の画像処理装置。
  4. 前記正則化項の重み情報を取得する重み情報取得手段を備え、
    前記第2の位置合わせ手段は、前記重み情報により前記正則化項に重み付けを行うことを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
  5. 前記重み情報取得手段は、前記正則化項が適用される領域の硬さ情報に基づいて、前記重み情報を取得することを特徴とする請求項4に記載の画像処理装置。
  6. 前記第2の位置合わせ手段による前記第2の位置合わせを行うか否かを決定する第1の決定手段を備え、
    前記第1の決定手段が、前記第2の位置合わせ手段による前記第2の位置合わせを行わないと決定した場合、
    前記第2の位置合わせ手段は、前記第2の変形情報を取得しないことを特徴とする請求項1乃至5の何れか1項に記載の画像処理装置。
  7. 前記第1の決定手段は、前記正則化項が適用される領域の硬さ情報、前記正則化項の重み情報、前記正則化項の値、及び前記第1の変形情報の少なくとも1つに基づいて、前記第2の位置合わせを行うか否かを決定することを特徴とする請求項6に記載の画像処理装置。
  8. 前記第1の決定手段が前記第2の位置合わせ手段による前記第2の位置合わせを行うか否かを決定する前に、前記第1の画像に前記第1の変形情報を適用した第1の変形画像を表示させる表示制御手段を備えることを特徴とする請求項6又は7に記載の画像処理装置。
  9. 前記第1の位置合わせ手段による前記第1の位置合わせを行うか否かを決定する第2の決定手段を備え、
    前記第2の決定手段が、前記第1の位置合わせ手段による前記第1の位置合わせを行わないと決定した場合、
    前記第1の位置合わせ手段は、前記第1の画像の前記第1の変形情報を取得せず、
    前記第2の位置合わせ手段は、前記第1の変形情報を用いずに、前記第2の変形情報を取得することを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
  10. 前記第2の決定手段は、前記正則化項が適用される領域の被検体に対する面積比又は体積比に基づいて、前記第1の位置合わせ手段による前記第1の位置合わせを行うか否かを決定することを特徴とする請求項9に記載の画像処理装置。
  11. 前記正則化項は、前記領域の変形が剛体変換から乖離することに対して前記ペナルティを与える剛体正則化項であることを特徴とする請求項1乃至10の何れか1項に記載の画像処理装置。
  12. 第1の評価関数に基づいて、第1の画像と第2の画像との第1の位置合わせの適切度を評価し、所定の変形モデルにより前記第1の画像を第2の画像に変形位置合わせする第1の変形情報を取得する工程と、
    前記第1の変形情報を初期値として用いて、画像の変形にペナルティを与える正則化項を前記第1の評価関数に追加した第2の評価関数に基づいて、前記第1の画像と前記第2の画像との第2の位置合わせの適切度を評価し、前記変形モデルにより前記第1の画像を前記第2の画像に変形位置合わせする第2の変形情報を取得する工程と
    を備えることを特徴とする画像処理方法。
  13. コンピュータを請求項1乃至11の何れか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
JP2015212928A 2015-10-29 2015-10-29 画像処理装置 Pending JP2017080157A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015212928A JP2017080157A (ja) 2015-10-29 2015-10-29 画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015212928A JP2017080157A (ja) 2015-10-29 2015-10-29 画像処理装置

Publications (1)

Publication Number Publication Date
JP2017080157A true JP2017080157A (ja) 2017-05-18

Family

ID=58713820

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015212928A Pending JP2017080157A (ja) 2015-10-29 2015-10-29 画像処理装置

Country Status (1)

Country Link
JP (1) JP2017080157A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019084349A (ja) * 2017-11-03 2019-06-06 キヤノンメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理プログラム
US12148195B2 (en) 2019-10-30 2024-11-19 Fujifilm Corporation Object detection device, object detection method, and program

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019084349A (ja) * 2017-11-03 2019-06-06 キヤノンメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理プログラム
JP7214434B2 (ja) 2017-11-03 2023-01-30 キヤノンメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理プログラム
US12148195B2 (en) 2019-10-30 2024-11-19 Fujifilm Corporation Object detection device, object detection method, and program

Similar Documents

Publication Publication Date Title
US10546378B2 (en) System and method of mitral valve quantification
JP5147656B2 (ja) 画像処理装置、画像処理方法、プログラム、及び記憶媒体
US10304158B2 (en) Image processing apparatus, image processing method and non-transitory computer-readable medium with calculation of information representing direction of target tissue and with estimating of depicting appearance of target tissue
EP3444781B1 (en) Image processing apparatus and image processing method
JP6541334B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6448356B2 (ja) 画像処理装置、画像処理方法、画像処理システム、及びプログラム
JP6821403B2 (ja) 画像処理装置、画像処理方法、画像処理システム、及びプログラム。
US20120321161A1 (en) Image processing apparatus, image processing method, image pickup system, and program
JP5591309B2 (ja) 画像処理装置、画像処理方法、プログラム、及び記憶媒体
JP6995535B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP6905323B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP2016189946A (ja) 医用画像位置合わせ装置および方法並びにプログラム
JP7409624B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP6934734B2 (ja) 画像処理装置、画像処理装置の制御方法およびプログラム
JP6676758B2 (ja) 位置合わせ精度の決定
JP2017080157A (ja) 画像処理装置
McLeod et al. A near-incompressible poly-affine motion model for cardiac function analysis
WO2020138136A1 (ja) 画像処理装置、画像処理方法及びプログラム
JP2022052210A (ja) 情報処理装置、情報処理方法及びプログラム
JP7086630B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP6660428B2 (ja) 処理装置、処理方法、およびプログラム
JP2024061240A (ja) 医用画像処理装置、医用画像処理方法及びプログラム
JP2022111706A (ja) 画像処理装置および画像処理方法、医用撮像装置、プログラム
JP2021086260A (ja) 画像処理装置、画像処理方法、及びプログラム