JP2022168405A - 情報処理システム、情報処理方法およびプログラム - Google Patents
情報処理システム、情報処理方法およびプログラム Download PDFInfo
- Publication number
- JP2022168405A JP2022168405A JP2021073822A JP2021073822A JP2022168405A JP 2022168405 A JP2022168405 A JP 2022168405A JP 2021073822 A JP2021073822 A JP 2021073822A JP 2021073822 A JP2021073822 A JP 2021073822A JP 2022168405 A JP2022168405 A JP 2022168405A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- information processing
- medical image
- processing system
- initial positioning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 72
- 238000003672 processing method Methods 0.000 title claims description 6
- 230000006870 function Effects 0.000 claims abstract description 81
- 238000000034 method Methods 0.000 claims abstract description 17
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 claims description 19
- 240000004050 Pentaglottis sempervirens Species 0.000 claims description 17
- 238000004891 communication Methods 0.000 description 15
- 230000000694 effects Effects 0.000 description 10
- 238000002591 computed tomography Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 238000002595 magnetic resonance imaging Methods 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 4
- 238000003825 pressing Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000002583 angiography Methods 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 201000010099 disease Diseases 0.000 description 2
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 2
- 230000015654 memory Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 206010028980 Neoplasm Diseases 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- APTZNLHMIGJTEW-UHFFFAOYSA-N pyraflufen-ethyl Chemical compound C1=C(Cl)C(OCC(=O)OCC)=CC(C=2C(=C(OC(F)F)N(C)N=2)Cl)=C1F APTZNLHMIGJTEW-UHFFFAOYSA-N 0.000 description 1
- 238000002601 radiography Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/05—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves
- A61B5/055—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/02—Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
- A61B6/03—Computed tomography [CT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- Medical Informatics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Animal Behavior & Ethology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Pathology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- High Energy & Nuclear Physics (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Optics & Photonics (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
【課題】より精度高く医用画像データ間の位置合わせができるように、複数の初期位置決め方法の中からユーザが適当な方法を選択し、簡易な操作で初期位置を的確に合わせることができる技術を提供すること。【解決手段】本発明の一態様によれば、情報処理システムが提供される。この情報処理システムは、次の各ステップを実行するように構成される。読出ステップでは、少なくとも1つのモダリティによって撮像された複数の医用画像データを読み出す。表示制御ステップでは、複数の医用画像データどうしの第1の位置合わせを実行するための操作画面を表示させるように制御する。操作画面は、複数の初期位置決め機能をユーザが一覧性を有して把握可能に構成されている。【選択図】図1
Description
本発明は、情報処理システム、情報処理方法およびプログラムに関する。
近年、複数の医用画像データ間の位置合わせ処理を行う、いわゆる医用画像レジストレーションにおいて、操作性を向上させるための技術が開示されている(特許文献1)。
しかしながら、上記の従来技術では、複数の医用画像データ間のユーザの手動による位置合わせが可能ではあるものの、位置合わせの難易度によって適当な手動位置合わせ方法が異なることが考慮されていなかった。
本発明では上記事情を鑑み、より精度高く医用画像データ間の位置合わせができるように、複数の初期位置決め方法の中からユーザが適当な方法を選択し、簡易な操作で初期位置を的確に合わせることができる技術を提供することとした。
本発明の一態様によれば、情報処理システムが提供される。この情報処理システムは、次の各ステップを実行するように構成される。読出ステップでは、少なくとも1つのモダリティによって撮像された複数の医用画像データを読み出す。表示制御ステップでは、複数の医用画像データどうしの第1の位置合わせを実行するための操作画面を表示させるように制御する。操作画面は、複数の初期位置決め機能をユーザが一覧性を有して把握可能に構成されている。
本開示によれば、より精度高く医用画像データ間の位置合わせができるように、複数の手動初期位置決め方法の中からユーザが適当な方法を選択し、簡易な操作で初期位置を的確に合わせることを可能とする技術を提供することができる。
以下、図面を用いて本発明の実施形態について説明する。以下に示す実施形態中で示した各種特徴事項は、互いに組み合わせ可能である。
ところで、本実施形態に登場するソフトウェアを実現するためのプログラムは、コンピュータが読み取り可能な非一時的な記録媒体(Non-Transitory Computer-Readable Medium)として提供されてもよいし、外部のサーバからダウンロード可能に提供されてもよいし、外部のコンピュータで当該プログラムを起動させてクライアント端末でその機能を実現(いわゆるクラウドコンピューティング)するように提供されてもよい。
また、本実施形態において「部」とは、例えば、広義の回路によって実施されるハードウェア資源と、これらのハードウェア資源によって具体的に実現されうるソフトウェアの情報処理とを合わせたものも含みうる。また、本実施形態においては様々な情報を取り扱うが、これら情報は、例えば電圧・電流を表す信号値の物理的な値、0または1で構成される2進数のビット集合体としての信号値の高低、または量子的な重ね合わせ(いわゆる量子ビット)によって表され、広義の回路上で通信・演算が実行されうる。
また、広義の回路とは、回路(Circuit)、回路類(Circuitry)、プロセッサ(Processor)、およびメモリ(Memory)等を少なくとも適当に組み合わせることによって実現される回路である。すなわち、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、およびフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等を含むものである。
1.ハードウェア構成
本節では、第1の実施形態のハードウェア構成について説明する。本実施形態において、情報処理システムとは、1つまたはそれ以上の装置または構成要素からなるものである。したがって、例えば情報処理装置1単体であっても情報処理システムの一例となる。以下、情報処理システムの一例である情報処理装置1のハードウェア構成について説明する。
本節では、第1の実施形態のハードウェア構成について説明する。本実施形態において、情報処理システムとは、1つまたはそれ以上の装置または構成要素からなるものである。したがって、例えば情報処理装置1単体であっても情報処理システムの一例となる。以下、情報処理システムの一例である情報処理装置1のハードウェア構成について説明する。
図1は、情報処理装置1のハードウェア構成を示すブロック図である。情報処理装置1は、通信部11と、記憶部12と、制御部13と、表示部14と、入力部15とを有し、これらの構成要素が情報処理装置1の内部において通信バス10を介して電気的に接続されている。各構成要素についてさらに説明する。
通信部11は、USB、IEEE1394、Thunderbolt、有線LANネットワーク通信等といった有線型の通信手段が好ましいものの、無線LANネットワーク通信、3G/LTE/5G等のモバイル通信、Bluetooth(登録商標)通信等を必要に応じて含めてもよい。すなわち、これら複数の通信手段の集合として実施することがより好ましい。すなわち、情報処理装置1は、通信部11およびネットワークを介して、外部から種々の情報を通信してもよい。
記憶部12は、前述の記載により定義される様々な情報を記憶する。これは、例えば、制御部13によって実行される情報処理装置1に係る種々のプログラム等を記憶するソリッドステートドライブ(Solid State Drive:SSD)等のストレージデバイスとして、あるいは、プログラムの演算に係る一時的に必要な情報(引数、配列等)を記憶するランダムアクセスメモリ(Random Access Memory:RAM)等のメモリとして実施されうる。記憶部12は、制御部13によって実行される情報処理装置1に係る種々のプログラムや変数等を記憶している。
制御部13は、情報処理装置1に関連する全体動作の処理・制御を行う。制御部13は、例えば不図示の中央処理装置(Central Processing Unit:CPU)である。制御部13は、記憶部12に記憶された所定のプログラムを読み出すことによって、情報処理装置1に係る種々の機能を実現する。すなわち、記憶部12に記憶されているソフトウェアによる情報処理が、ハードウェアの一例である制御部13によって具体的に実現されることで、制御部13に含まれる各機能部として実行されうる。これらについては、次節においてさらに詳述する。なお、制御部13は単一であることに限定されず、機能ごとに複数の制御部13を有するように実施してもよい。またそれらの組み合わせであってもよい。
表示部14は、例えば、情報処理装置1の筐体に含まれるものであってもよいし、外付けされるものであってもよい。表示部14は、ユーザが操作可能なグラフィカルユーザインターフェース(Graphical User Interface:GUI)の画面を表示する。これは例えば、CRTディスプレイ、液晶ディスプレイ、有機ELディスプレイおよびプラズマディスプレイ等の表示デバイスであり得る。
入力部15は、情報処理装置1の筐体に含まれるものであってもよいし、外付けされるものであってもよい。例えば、入力部15は、表示部14と一体となってタッチパネルとして実施されてもよい。タッチパネルであれば、ユーザは、タップ操作、スワイプ操作等を入力することができる。もちろん、タッチパネルに代えて、スイッチボタン、マウス、QWERTYキーボード等を採用してもよい。すなわち、入力部15がユーザによってなされた操作入力を受け付ける。当該入力が命令信号として、通信バス10を介して制御部13に転送され、制御部13が必要に応じて所定の制御や演算を実行しうる。
2.機能構成
本節では、本実施形態の機能構成について説明する。前述の通り、記憶部12に記憶されているソフトウェアによる情報処理がハードウェアの一例である制御部13によって具体的に実現されることで、制御部13に含まれる各機能部が実行されうる。
本節では、本実施形態の機能構成について説明する。前述の通り、記憶部12に記憶されているソフトウェアによる情報処理がハードウェアの一例である制御部13によって具体的に実現されることで、制御部13に含まれる各機能部が実行されうる。
図2は、第1の実施形態に係る情報処理装置1における制御部13等によって実現される機能を示すブロック図である。具体的には、情報処理装置1は、読出部131と、受付部132と、表示制御部133とを備える。
読出部131は、通信部11を介して外部から受け付けた、または予め記憶部12に記憶された種々の情報を読み出すように構成される。例えば、読出部131は、モダリティによって撮像された医用画像データを読み出すように構成される。詳細については、後述する。
受付部132は、種々の情報を受け付けるように構成される。例えば、受付部132は、ユーザが操作画面2上で行った操作を受け付けるように構成される。詳細については、後述する。
表示制御部133は、種々の表示情報を制御するように構成される。ここで、表示情報とは、画面、画像、アイコン、メッセージ等といった、ユーザが視認可能な態様で生成された情報そのものでもよいし、例えば、情報処理装置1の表示部14に画面、画像、アイコン、メッセージ等を表示させるためのレンダリング情報であってもよい。例えば、表示制御部133は、操作画面2の表示を制御するように構成される。詳細については、後述する。
3.情報処理方法
本節では、前述した情報処理装置1の情報処理方法について説明する。
本節では、前述した情報処理装置1の情報処理方法について説明する。
また、本節で参照する各図は、以下の通りである。図3は、情報処理装置1の表示部14に表示される画面であって、操作画面2の一例である。図4は、操作画面2に含まれる俯瞰図BVの一例である。図5は、操作画面2に含まれる、初期位置決め機能FLの選択を可能にするメニューLMの一例である。図6は、2つの医用画像データを重ね合わせて三次元画像として表示する領域TAの一例である。図7は、2つの医用画像データを重ね合わせて三次元画像として表示する領域TAの一例である。図8は、情報処理システムによって実行される情報処理の流れの一例を示すアクティビティ図である。
以下では、図8のアクティビティ図に沿って、情報処理装置1によって実行される情報処理の流れを説明するものとする。
ここで、説明の都合上、ユーザは、病気の診断もしくは検査または解剖学的研究等のために、人体の目的領域を少なくとも1つのモダリティによって撮像し、複数の医用画像データを得たものとする。なお、モダリティによって撮像される対象は、人体に限られず、病気の診断もしくは検査または解剖学的研究等の対象となり得るあらゆる動物が含まれる。また、医用画像データに含まれる目的領域に対応する部分を「オブジェクト」と称する。
また、モダリティとしては、例えば、磁気共鳴診断装置(MRI)、コンピュータ断層撮影装置(CT)、コンピュータ・ラジオグラフィ(CR)、デジタルX線撮影装置(DR)、血管造影X線診断装置(XA)、超音波診断装置(US)、内視鏡装置(ES)等が挙げられる。
まず、情報処理装置1の読出部131は、少なくとも1つのモダリティによって撮像された複数の医用画像データを読み出す。なお、この複数の医用画像データは、通信部11を介してモダリティから受け付けてもよく、または予め記憶部12に記憶されていてもよい(アクティビティA001)。
その後、表示制御部133が、複数の医用画像データどうしの第1の位置合わせを実行するための操作画面2(図3参照)を表示させるように制御する。
ここで、図3に示されているように、操作画面2は、複数の医用画像データ間の関係性を示す俯瞰図BVを含むことが好ましい。このような態様によれば、脳神経外科等において10種類以上にも及ぶ医用画像データを使用する場合であっても、全ての医用画像データ間の関係性をユーザが容易に把握可能になる。
また、図4に示されているように、俯瞰図BVにおいて、位置合わせの基準とする基準画像データIRと、位置合わせの対象とする対象画像データITとの関係性が、矢印AHにより表現されていることが好ましい。なお、図4の俯瞰図BVにおいて、矢印AHの先端にある医用画像データが基準画像データIRであり、矢印AHの根本にある医用画像データが対象画像データITである。このような態様によれば、脳神経外科等において10種類以上にも及ぶ医用画像データを使用する場合であっても、どの医用画像データ間で位置合わせを行ったのかが分からなくなるという混乱を回避し、作業効率を高めることができる。
ユーザは、以上で説明した図4の俯瞰図BVにおいて、複数の医用画像データの中から位置合わせをする2つの医用画像データを選び、医用画像データに付されているピンアイコンPIに対して選択操作を行う(アクティビティA002およびアクティビティA003)。
ここで、図4の俯瞰図BVについて、具体例を挙げて説明することとする。図4の俯瞰図BVにおいて、ユーザにより選択された基準画像データIRは、「TOF MRA」の医用画像データとなっている。なお、「TOF MRA」は、Time-of-flight(TOF)法によるMRアンギオグラフィ(MRA)により撮像された画像データであることを示す。また、図4の俯瞰図BVにおいて、ユーザにより選択された対象画像データITは、「CE Heavily T2」の医用画像データとなっている。なお、「CE Heavily T2」は、造影(Contrast Enhanced:CE)MRIにより撮像された造影後Heavily T2強調画像データであることを示す。このように、図4の俯瞰図BVにおいて、医用画像データは、当該技術分野で一般的に用いられている略語等を用いた、撮像方法を表す略称により示されている。
さらに、図4の俯瞰図BVにおいて、「TOF MRA」である基準画像データIRと「CE Heavily T2」である対象画像データITとが、矢印AHにより繋げられている。すなわち、上述したように、矢印AHにより、基準画像データIRと対象画像データITとの関係性が表現されている。なお、2本以上の矢印AHにより繋げられている医用画像データどうしは、直接位置合わせをすることはできない。例えば、図4の俯瞰図BVにおいて、医用画像データ「3D RA」は、「TOF MRA」と位置合わせされた「CT」との位置合わせを行うことにより、「TOF MRA」との位置合わせが間接的に達成されることになる。
また、図4の俯瞰図BVにおいて、点線で囲まれた領域には、CTにより撮像された医用画像データ群が含まれ、点線で囲まれていない領域には、MRIにより撮像された医用画像データ群が含まれる。このように、同一のモダリティにより撮像された医用画像データどうしは、比較的近距離に配置され、一群を形成して表示される。
ユーザにより俯瞰図BV(図4参照)において位置合わせをする2つの医用画像データが選択されると、受付部132は、ユーザによるこの選択操作を受け付ける。その後、表示制御部133は、図3に示される操作画面2の表示を制御する。その結果、操作画面2において、領域SAでは、複数の医用画像データのうちユーザにより選択された2つの医用画像データ、詳細には基準画像データIRおよび対象画像データITが二次元画像として表示され、領域TAでは、この2つの医用画像データを重ね合わせた三次元画像が表示される。なお、領域SAおよび領域TAにおいて、基準画像データIRに含まれる基準オブジェクトORと、対象画像データITに含まれる対象オブジェクトOTとは、ユーザが区別し得るように、異なる色で着色されて表現されている。このような態様によれば、ユーザは、二次元画像と三次元画像との両方を同時に確認しながら、位置合わせを実行するための操作を行うことができようになり、ユーザビリティを向上させることができる。
次いで、ユーザは、図3の操作画面2において、俯瞰図BVにより位置合わせの難易度を確認したあと、メニューLMにおいて、複数の初期位置決め機能FLの中から一つを選択する。すなわち、操作画面2は、複数の初期位置決め機能FLをユーザが一覧性を有して把握可能に構成されている(アクティビティA004)。
ここで、初期位置決め機能FLによる第1の位置合わせとは、イテレーション計算によるレジストレーションの前段階として初期位置を合わせることであって、各医用画像データに含まれるオブジェクトOの位置を合わせることにより行う。また、複数の初期位置決め機能は、オブジェクトOの中心位置を合わせる初期位置決め機能FL1と、オブジェクトOのローカル軸Lに関する平行移動および回転による初期位置決め機能FL2と、オブジェクトO中の複数のランドマークPの指定による初期位置決め機能FL3とのうちの少なくとも1つを含むことが好ましい。
なお、これらの初期位置決め機能FLには、初期位置を合わせる精度および操作性に差異がある。詳細には、オブジェクトOの中心位置を合わせる初期位置決め機能FL1は、最も簡易的な初期位置決め機能FLであり、オブジェクトO中の複数のランドマークPの指定による初期位置決め機能FL3は、最も高度な初期位置決め機能FLである。したがって、このような態様によれば、位置合わせの難易度に応じた適当な初期位置決め方法をユーザが選択できるようになる。
ユーザにより初期位置決め機能FLの中から一つが選択されると、受付部132は、ユーザによるこの選択操作を受け付ける。その後、制御部13により第1の位置合わせが実行され、表示制御部133が図3の操作画面2の表示を制御する。その結果、図3の操作画面2の領域TAにおいて、三次元画像として、2つの医用画像データが、複数の初期位置決め機能FLのうちユーザにより選択された初期位置決め機能FLにより位置合わせされて表示される。このような態様によれば、初期位置決め機能FLによる第1の位置合わせの結果が3次元画像として即座に表示されるため、ユーザは、第1の位置合わせが上手くできたのかどうかを容易に判断することができる(アクティビティA005)。
ユーザは、図3の操作画面2の領域TAに表示されている三次元画像を見て、基準画像データIRに含まれる基準オブジェクトORの位置と対象画像データITに含まれる対象オブジェクトOTの位置とが十分に合っているかどうか判断する。ユーザから見てオブジェクトOの位置が明らかに合っていない場合には、ユーザは、他の初期位置決め機能FLを選択し直し、第1の位置合わせを再度実行させることができる。ユーザは、オブジェクトOの位置が十分に合っていると判断した場合には、図3の操作画面2において、基準画像データIRおよび対象画像データITという複数の医用画像データどうしの第2の位置合わせを実行するために、自動位置合わせ機能ALを選択する。
すなわち、操作画面2は、自動位置合わせ機能ALを、複数の初期位置決め機能FLとともにユーザが一覧性を有して把握可能に構成されていることが好ましい。このような態様によれば、画面遷移なく、同一の操作画面2にて、第1の位置合わせと第2の位置合わせとを実行させることができるようになるため、ユーザエクスペリエンスを向上させることができる。
ユーザにより自動位置合わせ機能ALが選択されると、受付部132は、ユーザによるこの選択操作を受け付ける。その後、制御部13により第2の位置合わせが実行される。ここで、自動位置合わせ機能ALでは、第1の位置合わせが実行された複数の医用画像データに対して、さらにイテレーション計算を実行することにより、複数の医用画像データどうしの第2の位置合わせを実行する。このような態様によれば、初期位置決め機能FLによる第1の位置合わせと、自動位置合わせ機能ALによる第2の位置合わせとを組み合わせて実行させることにより、ユーザの操作は簡易であるにもかかわらず、非常に精度の高い医用画像データ間の位置合わせが可能になる(アクティビティA006)。
以上をまとめると、本実施形態の情報処理方法は、読出ステップと、表示制御ステップとを備える。読出ステップでは、少なくとも1つのモダリティによって撮像された複数の医用画像データを読み出す。表示制御ステップでは、複数の医用画像データどうしの第1の位置合わせを実行するための操作画面を表示させるように制御する。ここで、操作画面は、複数の初期位置決め機能をユーザが一覧性を有して把握可能に構成される。
本実施形態によれば、より精度高く医用画像データ間の位置合わせができるように、複数の初期位置決め方法の中からユーザが適当な方法を選択し、簡易な操作で初期位置を的確に合わせることができる。
続いて、初期位置決め機能FLについて、以下詳述する。
<初期位置決め機能FL1>
オブジェクトOの中心位置を合わせる初期位置決め機能FL1は、上述したように最も簡易的な初期位置決め機能FLであるため、例えば図5のメニューLMに示されているように、ボタンB11を押下する操作のみで第1の位置合わせが実行されることが好ましい。また、ユーザは、図3の操作画面2の領域TAに表示されている三次元画像を見て、基準画像データIRに含まれる基準オブジェクトORの位置と対象画像データITに含まれる対象オブジェクトOTの位置とが十分に合っていないと判断した場合には、図5のメニューLMに示されているように、ボタンB12を押下することにより、対象画像データITを第1の位置合わせが実行される前の状態に戻せるようにすることが好ましい。
オブジェクトOの中心位置を合わせる初期位置決め機能FL1は、上述したように最も簡易的な初期位置決め機能FLであるため、例えば図5のメニューLMに示されているように、ボタンB11を押下する操作のみで第1の位置合わせが実行されることが好ましい。また、ユーザは、図3の操作画面2の領域TAに表示されている三次元画像を見て、基準画像データIRに含まれる基準オブジェクトORの位置と対象画像データITに含まれる対象オブジェクトOTの位置とが十分に合っていないと判断した場合には、図5のメニューLMに示されているように、ボタンB12を押下することにより、対象画像データITを第1の位置合わせが実行される前の状態に戻せるようにすることが好ましい。
<初期位置決め機能FL2>
オブジェクトOのローカル軸Lに関する平行移動および回転による初期位置決め機能FL2は、当業者であるユーザが操作しやすいように、当該技術分野で一般的に用いられる3D操作ツールが備える機能であってもよい。ここで、2つの医用画像データを重ね合わせて三次元画像として表示する領域TAを表す図6を参照して、初期位置決め機能FL2の具体例について説明することとする。
オブジェクトOのローカル軸Lに関する平行移動および回転による初期位置決め機能FL2は、当業者であるユーザが操作しやすいように、当該技術分野で一般的に用いられる3D操作ツールが備える機能であってもよい。ここで、2つの医用画像データを重ね合わせて三次元画像として表示する領域TAを表す図6を参照して、初期位置決め機能FL2の具体例について説明することとする。
図6に示される領域TAでは、基準画像データIRに含まれる基準オブジェクトORと、対象画像データITに含まれる対象オブジェクトOTとが重ね合わせて表示されている。また、対象オブジェクトOTに関しては、対象オブジェクトOTのローカル軸Lとしてx軸LX、y軸LYおよびz軸LZと、各ローカル軸Lに対応する円CX、円CYおよび円CZと、対象オブジェクトOTを囲む、ローカル軸Lに沿ったバウンディングボックスBTとが表示されている。基準オブジェクトORに関しては、基準オブジェクトORを囲む、ローカル軸Lに沿ったバウンディングボックスBRが表示されている。
ユーザは、図6に示される領域TAにおいて、x軸LX、y軸LYまたはz軸LZの矢印をドラッグ操作することにより、対象オブジェクトOTを各ローカル軸Lに関して平行移動させることができる。また、ユーザは、円CX、円CYまたは円CZをドラッグ操作することにより、対象オブジェクトOTを各ローカル軸Lに関して回転させることができる。さらに、ユーザは、バウンディングボックスBTで対象オブジェクトOTの範囲を指定することも可能である。同様に、ユーザは、バウンディングボックスBRで基準オブジェクトORの範囲を指定することも可能である。
なお、図5のメニューLMに示されているように、ボタンB21を押下することにより、対象画像データITを初期位置決め機能FL2による第1の位置合わせが実行される前の状態に戻せるようにすることが好ましい。同様に、ボタンB22を押下することにより、基準画像データIRを初期位置決め機能FL2による第1の位置合わせが実行される前の状態に戻せるようにすることが好ましい。このような態様によれば、ユーザは、基準オブジェクトORの位置と対象オブジェクトOTの位置とが十分に合っていないと判断した場合には、他の初期位置決め機能FLにより第1の位置合わせを再度実行させることができる。
<初期位置決め機能FL3>
オブジェクトO中の複数のランドマークPの指定による初期位置決め機能FL3は、位置合わせをする画像データ間に共通に存在する複数の特徴的な点をランドマークPとして設定し、点群間の位置合わせにより第1の位置合わせを実行する機能である。ここで、メニューLMを表す図5と、2つの医用画像データを重ね合わせて三次元画像として表示する領域TAを表す図7とを参照して、初期位置決め機能FL3の具体例について説明することとする。
オブジェクトO中の複数のランドマークPの指定による初期位置決め機能FL3は、位置合わせをする画像データ間に共通に存在する複数の特徴的な点をランドマークPとして設定し、点群間の位置合わせにより第1の位置合わせを実行する機能である。ここで、メニューLMを表す図5と、2つの医用画像データを重ね合わせて三次元画像として表示する領域TAを表す図7とを参照して、初期位置決め機能FL3の具体例について説明することとする。
まず、ユーザは、対象画像データITに含まれる対象オブジェクトOTにおいて対象ランドマークPT0の指定を行えるように、図5のメニューLMにおいて、チェックボックスCTにチェックを入れる。続いて、ユーザは、図7の領域TAにおいて、対象オブジェクトOT中の特徴的な点を一つ選び、当該点を選択操作することにより、対象ランドマークPT0として指定する。次いで、ユーザは、基準画像データIRに含まれる基準オブジェクトORにおいて基準ランドマークPR0の指定を行えるように、図5のメニューLMにおいて、チェックボックスCRにチェックを入れる。続いて、図7の領域TAにおいて、対象ランドマークPT0が示す特徴と同一の特徴を有する、基準オブジェクトOR中の対応する点を選び、当該点を選択操作することにより、基準ランドマークPR0として指定する。
同様にして、ユーザは、対象ランドマークPT1および対象ランドマークPT2、ならびに対応する基準ランドマークPR1および基準ランドマークPR2の指定を行い、好ましくは、3組以上のランドマークPを指定する。例えば、好ましいランドマークPの組としては、ユーザが確認したい目的領域、例えば腫瘍部分の周囲で、互いの距離が可能な限り離れた3点以上の特徴点からなる組が挙げられる。なお、ランドマークPの組は、図7の領域TAにおいて、その対応関係が線で結ばれて表現されている。具体的には、図7の領域TAにおいて、対象ランドマークPT0と基準ランドマークPR0とが直線で結ばれており、対象ランドマークPT1と基準ランドマークPR1とが直線で結ばれており、対象ランドマークPT2と基準ランドマークPR2とが直線で結ばれている。
なお、複数のランドマークPの指定は、図3の操作画面2に含まれる領域TA上だけでなく、同じく操作画面2に含まれる、複数の医用画像データのうちユーザにより選択された2つの医用画像データを二次元画像として表示する領域SA上でも可能である。すなわち、複数のランドマークPの指定は、二次元画像と三次元画像との両方において可能である。このような態様によれば、二次元画像上と3次元画像上とのうち、ユーザにとってランドマークPとするのに適した特徴点を把握しやすい画像上で、ランドマークLPの指定操作を行うことができるようになり、ユーザビリティを向上させることができる。
ユーザは、このようにしてランドマークPの指定を完了させたあと、図5のメニューLMにおいて、ボタンB31を押下することにより、第1の位置合わせを実行させることができる。なお、ユーザは、初期位置決め機能FL3による第1の位置合わせの実行後、図3の操作画面2において自動位置合わせ機能ALを選択し、第2の位置合わせを実行させることが好ましい。
すなわち、初期位置決め機能FL3により、手動によるランドマークPの指定に基づいて点対応レジストレーションを第1の位置合わせとして実行させ、その後、自動位置合わせ機能ALにより、イテレーション計算によるレジストレーションを第2の位置合わせとして実行させることが好ましい。このような態様によれば、位置が合いにくい医用画像データどうしの組み合わせであっても、人間の目視判断による手動操作も介して初期位置を極力合わせることにより、イテレーション計算で未収束となることを回避するとともに、イテレーション計算により初期位置合わせの補正を可能とし、強力な位置合わせを達成することができる。
このようにして位置が合いにくい医用画像データどうしの組み合わせ、例えば、CT画像データとMRI画像データとを精度高く位置合わせができるようになる結果、ユーザは、一方の画像、例えばCT画像では判別しにくい組織中の構造や機能を、他方の画像、例えばMRI画像からより詳細に判別することが可能になる。
4.その他
情報処理システムに関して、以下のような態様を採用してもよい。
情報処理システムに関して、以下のような態様を採用してもよい。
本実施形態の態様は、プログラムであってもよい。このプログラムは、コンピュータに、情報処理システムの各ステップを実行させる。
上述のアクティビティA003のあと、複数の初期位置決め機能FLの中から最適な初期位置決め機能FLをユーザに提示してもよい。
情報処理システムに、情報処理装置1以外の構成要素が含まれてもよい。例えば、情報処理装置1と、不図示の入力装置と、不図示の表示装置とからなる情報処理システムが実施されてもよい。これらの接続方法は特に限定されず、インターネットを介して行うサービスが提供されてもよい。
さらに、次に記載の各態様で提供されてもよい。
前記情報処理システムにおいて、前記医用画像データは、オブジェクトを含み、前記複数の初期位置決め機能は、前記オブジェクトの中心位置を合わせる初期位置決め機能と、前記オブジェクトのローカル軸に関する平行移動および回転による初期位置決め機能と、前記オブジェクト中の複数のランドマークの指定による初期位置決め機能とのうちの少なくとも1つを含む、もの。
前記情報処理システムにおいて、前記操作画面は、前記複数の医用画像データのうちユーザにより選択された2つの医用画像データを二次元画像として表示する領域と、前記2つの医用画像データを重ね合わせて三次元画像として表示する領域とを含む、もの。
前記情報処理システムにおいて、前記三次元画像では、前記2つの医用画像データが、前記複数の初期位置決め機能のうちユーザにより選択された初期位置決め機能により位置合わせされて表示されている、もの。
前記情報処理システムにおいて、前記複数のランドマークの指定は、前記二次元画像と前記三次元画像との両方において可能である、もの。
前記情報処理システムにおいて、前記操作画面は、自動位置合わせ機能を、前記複数の初期位置決め機能とともに前記ユーザが一覧性を有して把握可能に構成され、ここで前記自動位置合わせ機能では、前記複数の医用画像データどうしの第2の位置合わせを実行する、もの。
前記情報処理システムにおいて、前記自動位置合わせ機能では、前記第1の位置合わせが実行された前記複数の医用画像データに対して、さらにイテレーション計算を実行することにより、前記複数の医用画像データどうしの前記第2の位置合わせを実行する、もの。
前記情報処理システムにおいて、前記操作画面は、前記複数の医用画像データ間の関係性を示す俯瞰図を含む、もの。
前記情報処理システムにおいて、前記俯瞰図において、位置合わせの基準とする基準画像データと、前記位置合わせの対象とする対象画像データとの関係性が、矢印により表現されている、もの。
情報処理方法であって、前記情報処理システムの各ステップを備える、方法。
プログラムであって、コンピュータに、前記情報処理システムの各ステップを実行させる、もの。
もちろん、この限りではない。
前記情報処理システムにおいて、前記医用画像データは、オブジェクトを含み、前記複数の初期位置決め機能は、前記オブジェクトの中心位置を合わせる初期位置決め機能と、前記オブジェクトのローカル軸に関する平行移動および回転による初期位置決め機能と、前記オブジェクト中の複数のランドマークの指定による初期位置決め機能とのうちの少なくとも1つを含む、もの。
前記情報処理システムにおいて、前記操作画面は、前記複数の医用画像データのうちユーザにより選択された2つの医用画像データを二次元画像として表示する領域と、前記2つの医用画像データを重ね合わせて三次元画像として表示する領域とを含む、もの。
前記情報処理システムにおいて、前記三次元画像では、前記2つの医用画像データが、前記複数の初期位置決め機能のうちユーザにより選択された初期位置決め機能により位置合わせされて表示されている、もの。
前記情報処理システムにおいて、前記複数のランドマークの指定は、前記二次元画像と前記三次元画像との両方において可能である、もの。
前記情報処理システムにおいて、前記操作画面は、自動位置合わせ機能を、前記複数の初期位置決め機能とともに前記ユーザが一覧性を有して把握可能に構成され、ここで前記自動位置合わせ機能では、前記複数の医用画像データどうしの第2の位置合わせを実行する、もの。
前記情報処理システムにおいて、前記自動位置合わせ機能では、前記第1の位置合わせが実行された前記複数の医用画像データに対して、さらにイテレーション計算を実行することにより、前記複数の医用画像データどうしの前記第2の位置合わせを実行する、もの。
前記情報処理システムにおいて、前記操作画面は、前記複数の医用画像データ間の関係性を示す俯瞰図を含む、もの。
前記情報処理システムにおいて、前記俯瞰図において、位置合わせの基準とする基準画像データと、前記位置合わせの対象とする対象画像データとの関係性が、矢印により表現されている、もの。
情報処理方法であって、前記情報処理システムの各ステップを備える、方法。
プログラムであって、コンピュータに、前記情報処理システムの各ステップを実行させる、もの。
もちろん、この限りではない。
最後に、本発明に係る種々の実施形態を説明したが、これらは、例として提示したものであり、発明の範囲を限定することは意図していない。当該新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。当該実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1 :情報処理装置
10 :通信バス
11 :通信部
12 :記憶部
13 :制御部
131 :読出部
132 :受付部
133 :表示制御部
14 :表示部
15 :入力部
2 :操作画面
AH :矢印
AL :自動位置合わせ機能
B11 :ボタン
B12 :ボタン
B21 :ボタン
B22 :ボタン
B31 :ボタン
BT :バウンディングボックス
BR :バウンディングボックス
BV :俯瞰図
CT :チェックボックス
CR :チェックボックス
CX :円
CY :円
CZ :円
FL :初期位置決め機能
FL1 :初期位置決め機能
FL2 :初期位置決め機能
FL3 :初期位置決め機能
IT :対象画像データ
IR :基準画像データ
L :ローカル軸
LX :x軸
LY :y軸
LZ :z軸
LM :メニュー
LP :ランドマーク
O :オブジェクト
OT :対象オブジェクト
OR :基準オブジェクト
P :ランドマーク
PT0 :対象ランドマーク
PT1 :対象ランドマーク
PT2 :対象ランドマーク
PR0 :基準ランドマーク
PR1 :基準ランドマーク
PR2 :基準ランドマーク
PI :ピンアイコン
SA :領域
TA :領域
10 :通信バス
11 :通信部
12 :記憶部
13 :制御部
131 :読出部
132 :受付部
133 :表示制御部
14 :表示部
15 :入力部
2 :操作画面
AH :矢印
AL :自動位置合わせ機能
B11 :ボタン
B12 :ボタン
B21 :ボタン
B22 :ボタン
B31 :ボタン
BT :バウンディングボックス
BR :バウンディングボックス
BV :俯瞰図
CT :チェックボックス
CR :チェックボックス
CX :円
CY :円
CZ :円
FL :初期位置決め機能
FL1 :初期位置決め機能
FL2 :初期位置決め機能
FL3 :初期位置決め機能
IT :対象画像データ
IR :基準画像データ
L :ローカル軸
LX :x軸
LY :y軸
LZ :z軸
LM :メニュー
LP :ランドマーク
O :オブジェクト
OT :対象オブジェクト
OR :基準オブジェクト
P :ランドマーク
PT0 :対象ランドマーク
PT1 :対象ランドマーク
PT2 :対象ランドマーク
PR0 :基準ランドマーク
PR1 :基準ランドマーク
PR2 :基準ランドマーク
PI :ピンアイコン
SA :領域
TA :領域
Claims (11)
- 情報処理システムであって、
次の各ステップを実行するように構成され、
読出ステップでは、少なくとも1つのモダリティによって撮像された複数の医用画像データを読み出し、
表示制御ステップでは、前記複数の医用画像データどうしの第1の位置合わせを実行するための操作画面を表示させるように制御し、ここで、前記操作画面は、複数の初期位置決め機能をユーザが一覧性を有して把握可能に構成されている、
もの。 - 請求項1に記載の情報処理システムにおいて、
前記医用画像データは、オブジェクトを含み、
前記複数の初期位置決め機能は、前記オブジェクトの中心位置を合わせる初期位置決め機能と、前記オブジェクトのローカル軸に関する平行移動および回転による初期位置決め機能と、前記オブジェクト中の複数のランドマークの指定による初期位置決め機能とのうちの少なくとも1つを含む、
もの。 - 請求項1または請求項2に記載の情報処理システムにおいて、
前記操作画面は、前記複数の医用画像データのうちユーザにより選択された2つの医用画像データを二次元画像として表示する領域と、前記2つの医用画像データを重ね合わせて三次元画像として表示する領域とを含む、
もの。 - 請求項3に記載の情報処理システムにおいて、
前記三次元画像では、前記2つの医用画像データが、前記複数の初期位置決め機能のうちユーザにより選択された初期位置決め機能により位置合わせされて表示されている、
もの。 - 請求項3または請求項4に記載の情報処理システムにおいて、
前記複数のランドマークの指定は、前記二次元画像と前記三次元画像との両方において可能である、
もの。 - 請求項1~請求項5の何れか1つに記載の情報処理システムにおいて、
前記操作画面は、自動位置合わせ機能を、前記複数の初期位置決め機能とともに前記ユーザが一覧性を有して把握可能に構成され、ここで前記自動位置合わせ機能では、前記複数の医用画像データどうしの第2の位置合わせを実行する、
もの。 - 請求項6に記載の情報処理システムにおいて、
前記自動位置合わせ機能では、前記第1の位置合わせが実行された前記複数の医用画像データに対して、さらにイテレーション計算を実行することにより、前記複数の医用画像データどうしの前記第2の位置合わせを実行する、
もの。 - 請求項1~請求項7の何れか1つに記載の情報処理システムにおいて、
前記操作画面は、前記複数の医用画像データ間の関係性を示す俯瞰図を含む、
もの。 - 請求項8に記載の情報処理システムにおいて、
前記俯瞰図において、位置合わせの基準とする基準画像データと、前記位置合わせの対象とする対象画像データとの関係性が、矢印により表現されている、
もの。 - 情報処理方法であって、
請求項1~請求項9の何れか1つに記載の情報処理システムの各ステップを備える、
方法。 - プログラムであって、
コンピュータに、請求項1~請求項9の何れか1つに記載の情報処理システムの各ステップを実行させる、
もの。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021073822A JP2022168405A (ja) | 2021-04-26 | 2021-04-26 | 情報処理システム、情報処理方法およびプログラム |
PCT/JP2022/014799 WO2022230518A1 (ja) | 2021-04-26 | 2022-03-28 | 情報処理システム、情報処理方法および記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021073822A JP2022168405A (ja) | 2021-04-26 | 2021-04-26 | 情報処理システム、情報処理方法およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022168405A true JP2022168405A (ja) | 2022-11-08 |
Family
ID=83847989
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021073822A Pending JP2022168405A (ja) | 2021-04-26 | 2021-04-26 | 情報処理システム、情報処理方法およびプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2022168405A (ja) |
WO (1) | WO2022230518A1 (ja) |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002324238A (ja) * | 2001-04-26 | 2002-11-08 | Fuji Photo Film Co Ltd | 画像の位置合わせ方法および装置 |
US7693349B2 (en) * | 2006-08-15 | 2010-04-06 | General Electric Company | Systems and methods for interactive image registration |
JP5587614B2 (ja) * | 2010-01-13 | 2014-09-10 | 富士フイルム株式会社 | 医用画像表示装置および方法、並びにプログラム |
CN103988230B (zh) * | 2011-12-07 | 2019-04-05 | 皇家飞利浦有限公司 | 3d医学灌注图像的可视化 |
JP6131161B2 (ja) * | 2013-09-27 | 2017-05-17 | 富士フイルム株式会社 | 画像位置合わせ装置、方法、およびプログラム、並びに3次元変形モデル生成方法 |
US10743943B2 (en) * | 2018-10-03 | 2020-08-18 | Canon Medical Systems Corporation | Medical image processing apparatus and method |
US11024096B2 (en) * | 2019-04-29 | 2021-06-01 | The Board Of Trustees Of The Leland Stanford Junior University | 3D-perceptually accurate manual alignment of virtual content with the real world with an augmented reality device |
-
2021
- 2021-04-26 JP JP2021073822A patent/JP2022168405A/ja active Pending
-
2022
- 2022-03-28 WO PCT/JP2022/014799 patent/WO2022230518A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2022230518A1 (ja) | 2022-11-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4820680B2 (ja) | 医用画像表示装置 | |
JP6616306B2 (ja) | 高度グラフィカルユーザインターフェースを有する放射線治療システム | |
US9990744B2 (en) | Image registration device, image registration method, and image registration program | |
US8965074B2 (en) | Image processing apparatus | |
JP6088498B2 (ja) | 医用画像を処理するシステム及び方法 | |
KR101731593B1 (ko) | 깊이 변경에 따라 내부 구조를 디스플레이 하는 영상 디스플레이 | |
WO2011074207A1 (en) | Image registration | |
US20140267220A1 (en) | Curve correction in volume data sets | |
WO2013137280A1 (ja) | レポート作成支援装置及びレポート閲覧装置 | |
US9679377B2 (en) | Medical image processing apparatus and a medical image processing method | |
JP2009207677A (ja) | 医用画像診断装置 | |
US20180064409A1 (en) | Simultaneously displaying medical images | |
US10540745B2 (en) | Zooming of medical images | |
WO2022230518A1 (ja) | 情報処理システム、情報処理方法および記録媒体 | |
JP2018089343A (ja) | 医用画像処理装置、医用画像処理装置の制御方法、及びプログラム | |
JP5398791B2 (ja) | 医用画像表示装置 | |
US8460201B2 (en) | Visualization of stress level cardiac functional analysis results | |
JP6461024B2 (ja) | 画像位置合せ装置、方法およびプログラム | |
JP2006223449A (ja) | 断面表示装置、及び、そのプログラム | |
JP7140477B2 (ja) | 医用画像処理装置、医用画像処理装置の制御方法、及びプログラム | |
JP6645904B2 (ja) | 医用画像表示装置及び表示プログラム | |
JP7242338B2 (ja) | 医用画像処理装置及び医用画像処理プログラム | |
WO2020217807A1 (ja) | 画像の向き設定装置、方法およびプログラム | |
JP7278790B2 (ja) | 医用画像処理装置及び医用画像処理方法 | |
JP6204891B2 (ja) | 画像表示装置、方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240404 |