JP5121399B2 - Image display device - Google Patents
Image display device Download PDFInfo
- Publication number
- JP5121399B2 JP5121399B2 JP2007288940A JP2007288940A JP5121399B2 JP 5121399 B2 JP5121399 B2 JP 5121399B2 JP 2007288940 A JP2007288940 A JP 2007288940A JP 2007288940 A JP2007288940 A JP 2007288940A JP 5121399 B2 JP5121399 B2 JP 5121399B2
- Authority
- JP
- Japan
- Prior art keywords
- cross
- section
- display
- image
- volume data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000006243 chemical reaction Methods 0.000 claims description 54
- 238000011156 evaluation Methods 0.000 claims description 43
- 238000004364 calculation method Methods 0.000 claims description 16
- 230000008859 change Effects 0.000 claims description 9
- 230000009466 transformation Effects 0.000 claims description 8
- 238000000034 method Methods 0.000 description 90
- 230000000052 comparative effect Effects 0.000 description 57
- 230000008569 process Effects 0.000 description 57
- 238000010586 diagram Methods 0.000 description 17
- 238000010835 comparative analysis Methods 0.000 description 10
- 238000012545 processing Methods 0.000 description 9
- 230000002685 pulmonary effect Effects 0.000 description 9
- 210000000746 body region Anatomy 0.000 description 8
- 206010028980 Neoplasm Diseases 0.000 description 5
- 201000010099 disease Diseases 0.000 description 5
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000002792 vascular Effects 0.000 description 5
- 210000004204 blood vessel Anatomy 0.000 description 4
- 239000000470 constituent Substances 0.000 description 3
- 230000029058 respiratory gaseous exchange Effects 0.000 description 3
- 201000011510 cancer Diseases 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 210000004072 lung Anatomy 0.000 description 2
- 230000036210 malignancy Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 208000019901 Anxiety disease Diseases 0.000 description 1
- 206010058467 Lung neoplasm malignant Diseases 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 230000036506 anxiety Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000002591 computed tomography Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003628 erosive effect Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000003902 lesion Effects 0.000 description 1
- 201000005202 lung cancer Diseases 0.000 description 1
- 208000020816 lung neoplasm Diseases 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Landscapes
- Apparatus For Radiation Diagnosis (AREA)
Description
本発明は、医用画像の比較読影のための画像表示装置に関する。 The present invention relates to an image display device for comparative interpretation of medical images.
現在、肺がんその他の胸部疾患を対象とした胸部CT検査が行われている。1度のCT検査で疾患が確定しない場合、一定期間(3ヶ月〜6ヶ月)をおいてCT検査を再度実施し、一定期間をおいて撮られた医用画像の疾患候補部位の変化で診断を行う場合がある。また、CT検査で疾患候補部位が悪性の疑いが小さいと判断された場合にも、悪性の疑いが増加傾向にあるか否かを確認するため、あるいは、疾患部位の治療後に再発の兆候を早期に発見するため、定期的なCT検査を継続することがある。このようなCT検査を行う際には過去画像と最新画像との比較読影が必須である。 Currently, chest CT examinations for lung cancer and other chest diseases are being performed. If the disease is not confirmed by a single CT examination, the CT examination is performed again after a certain period (3 to 6 months), and a diagnosis is made based on the change of the disease candidate part of the medical image taken after a certain period. May do. In addition, even if it is judged by CT examination that the disease candidate site has a small suspicion of malignancy, to confirm whether the suspicion of malignancy tends to increase, or after treatment of the disease site, early signs of recurrence Periodic CT examination may be continued to detect. When performing such a CT examination, comparative interpretation of the past image and the latest image is essential.
従来の画像表示ソフトウェアには、複数のボリュームデータセットを読み込み、画面にそれら複数のボリュームデータセットに由来する複数の画像を表示する機能を備えたものがある。このようなソフトウェアを用い、最新画像と過去画像とを同時に表示して比較することが有用である。 Some conventional image display software has a function of reading a plurality of volume data sets and displaying a plurality of images derived from the plurality of volume data sets on a screen. It is useful to display and compare the latest image and the past image at the same time using such software.
しかし、呼吸による胸部(肺)形状の変形や、高齢化などに伴う脊椎の変形などにより、撮影時の体軸の向きを完全に同一にして撮影できない場合が多い。そのため、axial断面に関する最新画像と過去画像とを表示しても、2つの画像の断面が解剖学的に同一な断面であるとは限らない。 However, there are many cases in which imaging cannot be performed with the body axis direction at the same time being completely taken due to deformation of the chest (lung) shape caused by breathing or deformation of the spine accompanying aging. Therefore, even if the latest image and the past image related to the axial cross section are displayed, the cross sections of the two images are not always the same anatomically.
上記の問題点を解決するための技術として、位置合わせ(レジストレーション)技術を用いた同一断面表示の手法が提案されている(出願番号:P2006―195354、出願番号:P2007―163938)この技術は2つの画像セットの平行移動量や変形量を求める方法である。類似のレジストレーション技術として、非特許文献1と非特許文献2とが挙げられる。
As a technique for solving the above problems, a method of displaying the same cross section using a registration technique (application number: P2006-195354, application number: P2007-163938) has been proposed. This is a method for obtaining the parallel movement amount and deformation amount of two image sets. Non-patent
これらの技術を用いれば、得られた画像変形量を用いて画像変形を行って同一とされる断面を表示することが可能と考えられる。実際、発明者らが試作したソフトウェアを用いれば、同一とされる断面を高い精度で自動的に表示することができ、呼吸などによる変形の問題が改善されることが確認された。
上記のような、複数画像同時表示の比較読影支援ソフトウェアにおいて、下記のような問題点が現れることが明らかとなった。 It has become clear that the following problems appear in the comparative interpretation support software for simultaneous display of multiple images as described above.
(1)例えば、最新画像の断面位置をユーザが変更したとき、変更した位置に対応する過去画像の解剖学的な同一断面(一般に曲面)を発生し、発生した過去画像を画面更新する「断面追従機能」が有用である。しかし、2つのボリュームデータセットにおけるスライス方向の再構成領域の大きさは通常異なるため、操作している最新画像では断面位置の指定範囲が制限されていても、過去画像の計算された断面(曲面)が再構成領域外になってしまい、画面上なにも表示されない場合がある。この場合、画面は真っ黒や真っ白になり、この状態から再構成領域内に画面を戻すにはどの方向に画像をスライス移動させればよいかわからず、復帰に手間取ってしまう。そのため、ユーザに大きな不安感を与え、結果としてソフトウェアの操作性を大きく損なってしまう。 (1) For example, when the user changes the cross-sectional position of the latest image, the same anatomical cross-section (generally curved surface) of the past image corresponding to the changed position is generated, and the generated past image is updated on the screen. The “follow-up function” is useful. However, since the size of the reconstruction area in the slice direction in the two volume data sets is usually different, the calculated cross-section (curved surface) of the past image is limited even if the specified range of the cross-section position is limited in the latest image being operated. ) May be outside the reconstruction area and not displayed on the screen. In this case, the screen becomes black or white, and it is not clear in which direction the image should be sliced to return the screen to the reconstruction area from this state. For this reason, the user is greatly anxious, and as a result, the operability of the software is greatly impaired.
(2)胸部等の変形が甚だしい場合、レジストレーション技術の計算精度が良くないために「断面追従機能」がユーザの望む精度で実現せず、多少ずれた断面が同一断面として計算されてしまうことがある。これを回避するには、計算された断面を手作業で修正あるいは変形する必要があるが、断面は多くのパラメータで決定されているものであり、これを実現する簡単な操作方法を設計することは難しい。自動位置あわせ手法がうまくいかないのだから、過去画像の手動位置あわせを行うことも考えられるが、そもそも、同一断面を表示するには画像変形が必要だという問題点が再び発生してしまう。 (2) When the deformation of the chest or the like is significant, the calculation accuracy of the registration technique is not good, so the “cross-section tracking function” cannot be realized with the accuracy desired by the user, and a slightly different cross-section is calculated as the same cross-section. There is. In order to avoid this, it is necessary to manually correct or deform the calculated cross section, but the cross section is determined by many parameters, and design a simple operation method to realize this. Is difficult. Since the automatic alignment method does not work, it is conceivable to perform manual alignment of past images. However, in the first place, the problem that image deformation is necessary to display the same section again occurs.
本発明の目的は、複数画像を同時表示する比較読影のための画像表示装置において、読影精度の向上を実現する画像表示装置を提供することにある。 An object of the present invention is to provide an image display device that realizes improvement in interpretation accuracy in an image display device for comparative interpretation that displays a plurality of images simultaneously.
本発明のある局面に係る画像表示装置は、スキャン時刻が異なる、第1再構成領域を含む第1ボリュームデータと、第2再構成領域を含む第2ボリュームデータとを記憶する記憶部と、前記第1ボリュームデータに関する第1表示断面の位置を指定する断面指定部と、前記指定された位置における第1表示断面に関する第1断面画像のデータを、第1ボリュームデータから発生する第1断面画像発生部と、前記第1表示断面の位置と解剖学的に略同一な位置を有する第2表示断面に関する第2断面画像のデータを、第2ボリュームデータから発生する第2断面画像発生部と、前記発生された第1断面画像と第2断面画像とを表示する表示部と、前記第1再構成領域の範囲と前記第2再構成領域の範囲とに基づいて、前記第1表示断面の位置の指定可能な範囲を制限する範囲制限部と、を具備する。 An image display device according to an aspect of the present invention includes a storage unit that stores first volume data including a first reconstruction area and second volume data including a second reconstruction area, which have different scan times, and A cross-section designating unit for designating the position of the first display cross section relating to the first volume data, and a first cross-section image generation for generating data of the first cross-section image relating to the first display cross section at the designated position from the first volume data A second cross-sectional image generating unit for generating data of a second cross-sectional image related to a second display cross-section having an anatomically substantially the same position as the position of the first display cross-section from the second volume data; Based on the display unit that displays the generated first cross-sectional image and second cross-sectional image, the range of the first reconstruction area, and the range of the second reconstruction area, the position of the first display cross-section Includes a range limiting section that limits a constant extent possible, the.
本発明の他の局面に係る画像表示装置は、スキャン時刻が異なる、第1再構成領域を含む第1ボリュームデータと、第2再構成領域を含む第2ボリュームデータとを記憶する記憶部と、前記第1ボリュームデータの第1表示断面に関する第1断面画像のデータを、第1ボリュームデータから発生する第1断面画像発生部と、前記第1表示断面の位置と解剖学的に同一な位置を有する、前記第2ボリュームデータの第2表示断面を算出するための第1座標変換式を算出する変換式算出部と、前記算出された第1座標変換式を前記第1表示断面に適用して前記第2表示断面を算出する第2表示断面算出部と、前記算出された第2表示断面の形状を保持したまま、前記第2表示断面の位置を変更させる第2断面位置変更部と、前記変更のなされた後の第2表示断面に関する第2断面画像のデータを、前記第2ボリュームデータから発生する第2断面画像発生部と、前記発生された第1断面画像と第2断面画像とを表示する表示部と、を具備する。 An image display device according to another aspect of the present invention includes a storage unit that stores first volume data including a first reconstruction area and second volume data including a second reconstruction area, which have different scan times. The first slice image data relating to the first display slice of the first volume data is generated from the first volume data, and the position of the first display slice is anatomically identical. A conversion formula calculation unit that calculates a first coordinate conversion formula for calculating a second display cross section of the second volume data, and applying the calculated first coordinate conversion formula to the first display cross section. A second display cross section calculating section for calculating the second display cross section; a second cross section position changing section for changing the position of the second display cross section while maintaining the calculated shape of the second display cross section; After changes are made Data of a second cross-sectional image relating to a second display cross-section, a second cross-sectional image generator generated from the second volume data, a display unit for displaying the generated first cross-sectional image and second cross-sectional image, It comprises.
本発明によれば、複数画像を同時表示する比較読影のための画像表示装置において、読影精度の向上を実現することが可能となる。 ADVANTAGE OF THE INVENTION According to this invention, in the image display apparatus for the comparative interpretation which displays a several image simultaneously, it becomes possible to implement | achieve the improvement of an interpretation accuracy.
以下、本発明の実施形態を図面を参照しながら説明する。本実施形態に係る画像表示装置は、同一被検体の同一スキャン部位に関する2つの断面画像を画面上に並列に表示する、比較読影のための画像表示装置である。 Embodiments of the present invention will be described below with reference to the drawings. The image display apparatus according to the present embodiment is an image display apparatus for comparative interpretation that displays two cross-sectional images relating to the same scan region of the same subject in parallel on the screen.
図1は、本実施形態に係る画像表示装置1の構成を示す図である。図1に示すように、画像表示装置1は、記憶部12、座標変換式算出部14、基準画像発生部16、比較画像発生部18、表示部20、操作部22、移動範囲制限部24、及び制御部26を備える。
FIG. 1 is a diagram illustrating a configuration of an
記憶部12は、X線コンピュータ断層撮影装置等により収集された、スキャン時刻の異なる基準ボリュームデータと比較ボリュームデータとを記憶する。基準ボリュームデータと比較ボリュームデータとは、同一の被検体の同一のスキャン部位をスキャンした結果に基づくボリュームデータである。典型的には、基準ボリュームデータは最新のボリュームデータ、比較ボリュームデータは過去のボリュームデータである。また、スキャン部位は胸部であるとする。
The
図2は、ボリュームデータの構造を示す図である。図2に示すように、ボリュームデータは四角柱や立方体形状を有している。ボリュームデータのスライス方向をZ軸に規定する。ボリュームデータは再構成領域RRと空領域ERとを含む。再構成領域RRは円柱形状を有しており、再構成処理によりCT値等の画素値を有する領域である。再構成領域RRの中心軸は、Z軸と平行である。再構成領域RR内には被検体の生体領域等の実データが含まれる。再構成領域RRの中心軸と被検体の長軸とは、略平行である。空領域ERは、規定の画素値を有する空データの領域である。なお、基準ボリュームデータ内の再構成領域を基準再構成領域、比較ボリュームデータ内の再構成領域を比較再構成領域と呼ぶことにする。 FIG. 2 is a diagram showing the structure of volume data. As shown in FIG. 2, the volume data has a quadrangular prism or cube shape. The slice direction of the volume data is defined on the Z axis. The volume data includes a reconstruction area RR and an empty area ER. The reconstruction area RR has a cylindrical shape, and is an area having pixel values such as CT values by reconstruction processing. The central axis of the reconstruction area RR is parallel to the Z axis. The reconstruction area RR includes actual data such as the biological area of the subject. The central axis of the reconstruction area RR and the major axis of the subject are substantially parallel. The empty area ER is an area of empty data having a prescribed pixel value. The reconstruction area in the reference volume data is referred to as a reference reconstruction area, and the reconstruction area in the comparison volume data is referred to as a comparison reconstruction area.
座標変換式算出部14は、基準ボリュームデータ内の座標点と解剖学的に同一な比較ボリュームデータ内の座標点を算出するための座標変換式を算出する。詳細は後述する。
The coordinate conversion
基準画像発生部16は、基準ボリュームデータに基づいて、後述する操作部22等によって指定された断面に関する断面画像のデータを発生する。以下、基準ボリュームデータに関する断面を基準断面、基準ボリュームデータに関する断面画像を基準画像と呼ぶことにする。なお、「断面」の形状は、平面だけでなく曲面をも含むものとする。典型的には、基準断面は、基準再構成領域の中心軸に垂直な平面である。
Based on the reference volume data, the reference
比較画像発生部18は、比較ボリュームデータに基づいて、基準断面の位置と解剖学的に同一な位置の断面に関する断面画像のデータを発生する。以下、比較ボリュームデータに関する断面を比較断面、比較ボリュームデータに関する断面画像を比較画像と呼ぶことにする。具体的には、比較画像発生部18は、基準断面の各画素に座標変換式を適用して、基準断面の各画素の座標と解剖学的に略同一な比較断面の各画素の座標を算出する。比較断面を算出すると、比較画像発生部18は、比較断面に関する比較画像のデータを発生する。すなわち、比較画像は基準画像に追従する。比較断面の形状は、座標変換式により曲面となる。比較画像発生部18は、比較断面の形状を保持したまま、異なる位置における比較画像のデータを発生することも可能である。また、比較画像発生部18は、座標変換式を応用して、基準断面上の注目点に解剖学的に同一な点を含む、Z軸に垂直な平面形状の比較断面を算出することも可能である。
The comparative
表示部20は、図3に示すような比較読影のためのレイアウトで、基準画像KIと比較画像HIとを並列表示する。また、表示部20は、基準再構成領域内の位置を示すスライダー(以下、基準スライダーと呼ぶ)KSを基準スライダー表示領域KSRに表示する。また、表示部20は、比較再構成領域内の位置を示すスライダーHS(以下、比較スライダーと呼ぶ)を比較スライダー表示領域HSRに表示する。スライダーの移動範囲は再構成領域のZ軸に沿う範囲に一致する。以下、再構成領域のZ軸に沿う範囲を単に再構成領域の範囲と呼ぶことにする。後述する操作部22により、基準スライダーの位置が変更されると、基準スライダーに連動して比較スライダーの位置も自動的に変更される。
The
操作部22は、断面位置の指定や、各種モード切替を行なうための入力デバイスである。典型的には、操作部22は、ボタンと回転ホイールとを備えるマウスを有する。例えば、ユーザ(医師等)が画像上で基準スライダーを移動することにより基準断面の位置を指定すると、操作部22は基準画像発生部16と比較画像発生部18とに対して、移動先の基準スライダーの位置に対応する基準断面の位置を入力する。また、基準断面位置は、ユーザによるマウスのドラッグ操作やホイール操作によっても指定可能である。例えば、ドラッグ操作の移動量や回転ホイールの回転量に応じて基準スライダーが移動され、対応する基準断面の位置が指定される。マウス操作等により、直接、比較断面の位置を指定することも可能である。
The
移動範囲制限部24は、基準再構成領域の範囲と比較再構成領域の範囲との両方を含む範囲、すなわち、基準再構成領域の範囲と比較再構成領域の範囲とに共通する範囲(以下、積領域と呼ぶ)に、基準表示断面の位置の指定可能な範囲(以下、制限範囲と呼ぶ)を制限する。移動範囲制限部24は、制限範囲を、積領域ではなく基準再構成領域の範囲と比較再構成領域の範囲との少なくとも一方を含む範囲(以下、和領域と呼ぶ)とすることも可能である。移動範囲制限部24は、各スライダーの移動範囲を制限範囲に制限する。
The movement
制御部26は、画像表示装置1の中枢として、各構成要素を制御する。
The
図4は、制御部26による比較読影のための処理手順の概要を示す図である。図4に示すように、比較読影のための処理は、レジストレーション処理S1、制限範囲決定処理S2、範囲制限表示処理S3の順に行なわれる。
FIG. 4 is a diagram showing an outline of a processing procedure for comparative interpretation by the
レジストレーション処理S1よって、基準ボリュームデータから比較ボリュームデータへの座標変換式が計算される。制限範囲決定処理S2によって、基準画像と比較画像との比較読影を行なう際の、断面の指定可能な範囲が決定される。範囲制限表示処理S3によって、決定された制限範囲内に基準画像の断面移動を制限し、座標変換式に基づいて基準画像に比較画像を追従させて表示させる。以下、各処理の詳細を説明する。 By the registration process S1, a coordinate conversion formula from the reference volume data to the comparison volume data is calculated. By the limited range determination process S2, the range in which the cross section can be specified is determined when comparative interpretation of the reference image and the comparative image is performed. By the range restriction display process S3, the movement of the cross section of the reference image is restricted within the determined restriction range, and the comparison image is made to follow the reference image and displayed based on the coordinate conversion formula. Details of each process will be described below.
(レジストレーション処理)
レジストレーション処理S1において制御部26は、座標変換式算出部14にレジストレーション処理を行なわせる。レジストレーション処理S1において座標変換式算出部14は、まず、基準ボリュームデータと比較ボリュームデータとから肺血管領域をそれぞれ抽出する。肺血管領域を抽出すると、領域拡張法を応用して、各肺血管領域から複数の肺血管分岐点をそれぞれ検出する。そして、基準ボリュームデータに由来する複数の肺血管分岐点間の複数の距離と、比較ボリュームデータに由来する複数の肺血管分岐点間の複数の距離との類似性に基づいて、基準ボリュームデータに由来する肺血管分岐点と比較ボリュームデータに由来する肺血管分岐点との対応付けを行なう。対応付けられた2点の肺血管分岐点は、解剖学的に同一な点といえる。この対応付け処理を行なうことにより、座標変換式算出部14は、座標変換式を算出する。
(Registration process)
In the registration process S1, the
(制限範囲決定処理)
座標変換式が算出されると、制御部26は、移動範囲制限部24に制限範囲決定処理を行なわせる。
(Limit range determination process)
When the coordinate conversion formula is calculated, the
図5は、移動範囲制限部24による制限範囲決定処理の流れを示す図である。まず、基準再構成領域の上端面と下端面とにそれぞれ複数の評価点(以下、基準評価点と呼ぶ)を設定する。次に、設定した各基準評価点に座標変換式を適用して、比較ボリュームデータに複数の評価点(以下、比較評価点と呼ぶ)を設定する。
FIG. 5 is a diagram showing the flow of the restriction range determination process by the movement
図6は、ステップSA1及びステップSA2にて設定される、基準評価点及び比較評価点を示す図である。図6に示すように、基準評価点KPは、基準再構成領域KRRの上端面及び下端面の縁近傍に設定される。設定する基準評価点KPの数は、例えば、上端面と下端面とにそれぞれ8点、合計16点設定される。基準評価点KPの数が多いほど、制限範囲決定処理の精度が向上する。各基準評価点KPに座標変換式を適用して、各基準評価点KPを比較再構成領域HRRに写像する。基準評価点の設定場所によっては、写像の結果、比較評価点HP7のように比較再構成領域からはみ出る場合がある。この場合は、はみ出た比較評価点HP7と比較評価点HP7に対応する基準評価点KP7とは、以降の処理から除外されるか又は、近傍の比較再構成領域内に移動される。なお、図6に示す比較再構成領域HRRの形状は、比較ボリュームデータ全体に座標変換式を適用した時の形状である。基準撮影領域KRRのZ軸に垂直な断面は円形状だが、比較撮影領域HRRの断面は座標変換によって生成されるため円形状ではなく、歪んでいる。 FIG. 6 is a diagram illustrating the reference evaluation points and the comparative evaluation points set in Step SA1 and Step SA2. As shown in FIG. 6, the reference evaluation point KP is set in the vicinity of the edges of the upper end surface and the lower end surface of the reference reconstruction area KRR. For example, the number of reference evaluation points KP to be set is set to 8 points on the upper end surface and the lower end surface, respectively, for a total of 16 points. The greater the number of reference evaluation points KP, the more accurate the limit range determination process. A coordinate transformation formula is applied to each reference evaluation point KP, and each reference evaluation point KP is mapped to the comparative reconstruction area HRR. Depending on the setting location of the reference evaluation point, there is a case where the reference evaluation point protrudes from the comparative reconstruction area like the comparative evaluation point HP7 as a result of mapping. In this case, the comparative evaluation point HP7 that protrudes and the reference evaluation point KP7 corresponding to the comparative evaluation point HP7 are excluded from the subsequent processing, or moved to a nearby comparative reconstruction area. The shape of the comparison reconstruction area HRR shown in FIG. 6 is a shape when the coordinate conversion formula is applied to the entire comparison volume data. The cross section perpendicular to the Z-axis of the reference image capturing area KRR is circular, but the cross section of the comparative image capturing area HRR is not circular but distorted because it is generated by coordinate transformation.
比較評価点が設定されると、各基準評価点と初期の基準断面との距離と、各比較評価点と初期の比較断面との距離とを算出する(ステップSA3)。 When the comparative evaluation points are set, the distance between each reference evaluation point and the initial reference cross section and the distance between each comparative evaluation point and the initial comparison cross section are calculated (step SA3).
図7は、ステップSA3にて算出される、初期の断面と評価点との距離を示す図である。図7に示すように、基準ボリュームデータに初期の基準断面を設定する。初期の基準断面は、自動的に設定、又は操作部22により設定される。初期の基準断面は、Z軸に垂直なXY平面である。各基準評価点KP1〜KP16について、初期の基準断面との距離を算出する。距離は、初期の基準断面からZ軸に沿ってプラス方向/マイナス方向を区別して算出する。比較評価点と初期の比較断面との距離についても同様に算出する。この際、初期の比較断面は、初期の基準断面に座標変換式を適用して算出される。なお、図7では、初期の基準断面はXY平面であるとした。しかし、初期の基準断面はZ軸に対して傾いていてもよく、任意の断面でよい。
FIG. 7 is a diagram illustrating the distance between the initial cross section and the evaluation point calculated in step SA3. As shown in FIG. 7, an initial reference cross section is set in the reference volume data. The initial reference cross section is automatically set or set by the
移動範囲制限部24は、算出した各基準評価点―基準断面間距離に基づいて基準再構成領域の範囲を、各比較評価点―比較断面間距離に基づいて比較再構成領域の範囲を決定する(ステップSA4)。具体的には、ステップSA3にて算出した複数の距離から、基準ボリュームデータと比較ボリュームデータとについてそれぞれ最大距離と最小距離とを特定する。この最大距離と最小距離との間の範囲が、基準再構成領域の範囲、或いは比較再構成領域の範囲である。
The movement
移動範囲制限部24は、決定された基準再構成領域の範囲と比較再構成領域の範囲とに基づいて制限範囲を決定する(ステップSA5)。図8は、ステップSA5にて決定される断面移動可能範囲を示す図。である。なお、図8に示す比較再構成領域HRRの形状は、比較ボリュームデータ全体に座標変換式を適用した時の形状である。積領域を制限範囲とする場合、基準再構成領域の範囲と比較再構成領域の範囲との両方に含まれる範囲を決定する。和領域を制限範囲とする場合、基準再構成領域の範囲と比較再構成領域の範囲との少なくとも一方に含まれる範囲を決定する。
The movement
和領域の場合、基準画像と比較画像との少なくとも一方には、必ず再構成領域が表示される。変形が大きい場合において、積領域の方法では断面移動の制限により表示できない領域がボリュームデータの端部付近に発生してしまう場合がある。一方、和領域の方法では、例え変形が大きくても、全ての領域を表示させることが可能となる。ただし、和領域の方法では、片方の画像に再構成領域が含まれない場合がある。このような場合、指定した断面位置における真っ黒な画像を表示するのではなく、指定断面に近い、制限範囲の端面における画像を薄黒で表示するとよい。また、薄黒で表示する代わりに、断面を移動させるべき方向(制限範囲内への方向)を示すマークや文字を重畳表示させてもよい。このマークは、矢印や三角等の方向を示す。文字は、「上」や「下」等である。 In the case of the sum area, a reconstruction area is always displayed on at least one of the reference image and the comparison image. When the deformation is large, an area that cannot be displayed in the product area method due to the restriction of cross-sectional movement may occur near the end of the volume data. On the other hand, with the method of the sum area, even if the deformation is large, all areas can be displayed. However, in the sum area method, a reconstruction area may not be included in one image. In such a case, instead of displaying a black image at the designated cross-sectional position, it is preferable to display an image on the end face of the limited range close to the designated cross-section in light black. Further, instead of displaying in light black, a mark or a character indicating the direction in which the cross section should be moved (direction within the limit range) may be displayed in a superimposed manner. This mark indicates a direction such as an arrow or a triangle. The characters are “upper”, “lower”, and the like.
制限範囲決定処理の精度をさらに高める方法として、以下の方法がある。上記の制限範囲決定処理で第1の積領域を決定し、さらに、比較ボリュームデータにも上端部及び下端部に評価点と設定し、上記の制限範囲決定処理にて基準ボリュームデータと比較ボリュームデータとを入れ替えて、第2の積領域を決定する。そして、決定した第1の積領域と第2の積領域との積領域を制限範囲とする。 As a method for further improving the accuracy of the limit range determination process, there are the following methods. The first product area is determined by the above limit range determination process, and further, evaluation points are set at the upper end and the lower end of the comparison volume data, and the reference volume data and the comparison volume data are set by the limit range determination process. And the second product area is determined. Then, the determined product area of the first product area and the second product area is set as the restriction range.
なお、上記の制限範囲決定処理では、評価点を再構成領域に設定した。この場合、制限範囲が再構成領域に限定され、再構成領域に関する断面画像が常に表示される。評価点の設定場所は上記の設定場所のみに留まらない。設定場所の一つの例がボリュームデータであり、もう一つの例が生体領域である。生体領域に評価点を設定すると、制限範囲が被検体の生体領域に限定される。 In the restriction range determination process, the evaluation point is set in the reconstruction area. In this case, the limited range is limited to the reconstruction area, and a cross-sectional image related to the reconstruction area is always displayed. The setting place of the evaluation point is not limited to the above setting place. One example of the setting location is volume data, and another example is a living body region. When evaluation points are set in the living body area, the limited range is limited to the living body area of the subject.
図9は、移動範囲制限部24による生体領域に評価点を設定する処理の流れを示す図である。まず移動範囲制限部24は、基準ボリュームデータに閾値処理を行い生体領域を抽出する(ステップSB1)。生体領域外の空気領域のCT値は−1000H.U.程度であり、生体領域のCT値は0H.U.程度である。そのため、閾値を−900程度に設定すれば、生体領域を抽出することが可能である。
FIG. 9 is a diagram illustrating a flow of processing for setting an evaluation point in a living body region by the movement
移動範囲制限部24は、抽出した生体領域にエロージョン処理を行ない、生体領域を例えば5ボクセル程度やせさせる(ステップSB2)。そして、移動範囲制限部24は、エロージョンした生体領域から、表面領域を抽出する(ステップSB3)。ステップSB3は、削除しても構わない。ステップSB3を行なうことで、設定する評価点の数を減らすことができ、制限範囲決定処理の処理時間を短縮することが出来る。表面領域を抽出すると、移動範囲制限部24は、表面領域(又は生体領域)の座標点をランダムにピックアップし、ピックアップされた座標点を基準評価点とする(ステップSB4)。ピックアップする座標点の数は、例えば、全体の10分の1程度である。また、一定間隔おき、例えば、X方向に10、Y方向に10、Z方向に3ボクセルおきに座標点をピックアップしても良い。
The movement
上記の例は、断面をZ軸方向に平行移動させる場合の制限範囲の決定方法であるが、他の方向への移動(pan)、回転、拡大/縮小に対しても同様に、評価点を用いて制限範囲を決定することが可能である。 The above example is a method of determining the limit range when the cross section is translated in the Z-axis direction, but the evaluation points are similarly applied to movement (pan), rotation, and enlargement / reduction in other directions. Can be used to determine the limit range.
(範囲制限表示処理)
制限範囲が決定されると、制御部26は、範囲制限表示処理を開始する。範囲制限表示処理において制御部26は、基準画像発生部16に初期の基準断面に関する基準画像のデータを、比較画像発生部18に、初期の比較断面に関する比較画像のデータを発生する。そして、制御部26は、表示部20は、図3に示すような比較読影のためのレイアウトで基準画像と比較画像とを表示する。ユーザにより操作部20を介して断面指定が行なわれると、制御部26は、基準画像発生部16や比較画像発生部18を制御して、指定された断面に対応する基準画像や比較画像のデータを発生させ、表示部20に発生された画像を発生させる。この用にして比較画像を基準画像に追従させて表示する。断面追従の際、制御部26は移動範囲制限部24を制御して、操作部22による断面指定の可能な範囲を、制限範囲決定処理にて決定された制限範囲に制限する。
(Range restriction display processing)
When the limit range is determined, the
上記の指定可能な範囲の制限方法は、予め決定された制限範囲に断面の指定可能な範囲を制限する方法であった。しかしながらこれに限定する必要はなく、例えば、断面を指定するたびに指定先の断面に移動可能か否かを判定する移動可否判定処理もある。以下、移動範囲制限部24による移動可否判定処理の具体的な方法を説明する。
The restriction method of the specifiable range is a method of limiting the specifiable range of the cross section to a predetermined limit range. However, the present invention is not limited to this. For example, there is also a moveability determination process for determining whether or not the cross section can be moved to a designated cross section every time a cross section is designated. Hereinafter, a specific method of the movement availability determination process by the movement
図10は、移動可否判定処理の流れを示す図である。移動範囲制限部24は、断面位置の指定を待機している(ステップSC1)。ユーザにより操作部20を介して断面位置が指定されることを契機として、断面範囲制限部24は、移動可否判定処理を開始する。まず、断面範囲制限部24は、指定先の断面と各評価点との距離を算出する(ステップSC2)。各距離を算出すると、断面範囲制限部24は、指定先の断面に再構成領域が含まれているか否かの判定結果に基づいて指定先の断面に移動可能か否かを判定する(ステップSC3)。
FIG. 10 is a diagram showing the flow of the movement availability determination process. The movement
図11は、ステップSC3の処理を具体的に説明するための図であり、指定先の断面APと評価点Pとの距離を示した図である。移動範囲制限部24は、断面が指定される度に、指定先の断面APと各評価点との距離を算出する。図11(a)に示すようにZ軸下方に断面AP1の位置が指定された場合、算出した複数の距離のうち一つでもマイナスが含まれれば、移動範囲制限部24は、指定した位置に移動可と判定する。図11(b)に示すように、算出した複数の距離のうち一つもマイナスが含まれない場合、移動範囲制限部24は、指定した断面AP2の位置に移動不可と判定する。この様に、指定先の断面と再構成領域RRの上端面及び下端面に設定された評価点との距離にプラスのみ又はマイナスのみが含まれるか否かを判定することにより、指定先の断面に再構成領域が含まれるか否かが判定される。そして、この判定結果に基づいて、指定先の断面に移動可能か否かが判定される。
FIG. 11 is a diagram for specifically explaining the process of step SC3, and shows the distance between the designated section AP and the evaluation point P. FIG. Each time a cross section is designated, the movement
ステップSC3にて移動可と判定した場合、移動範囲制限部24は、指定後の断面に面位置を移動させる(ステップS4)。断面移動すると移動可否判定処理を終了する。
If it is determined in step SC3 that the movement is possible, the movement
ステップSC4にて移動不可と判定した場合、移動範囲制限部24は、指定前の断面と指定後の断面との距離が1移動単位(例えば、1移動単位=1ボクセル)であるか否かを判定する(ステップSC5)。
If it is determined in step SC4 that the movement is impossible, the movement
ステップSC5にて距離が1移動単位であると判定した場合、移動範囲制限部24は、断面移動をせずに移動可否判定処理を終了する。ステップSC5にて距離が1移動単位でない、すなわち2移動単位以上であると判定した場合、移動範囲制限部24は、指定前の断面と指定後の断面との距離の半分の位置を、新たな指定後の断面位置とし(ステップSC6)、ステップSC2に移動する。2回目のステップSC3で移動可能と判定された場合、つまり、初期の移動距離から0.5倍の位置へは移動可能の場合、0.5倍の位置に移動する。
When it is determined in step SC5 that the distance is one movement unit, the movement
しかし、移動可能な最大距離に移動する方法もある。例えば、0.5倍の位置に移動せずに、初期の移動距離から0.75倍の位置へ移動可能か否かをステップSC2とステップSC3とを行なうことにより判定する。0.75倍の位置へ移動不可ならば0.5倍の位置へ移動し、0.75倍の位置へ移動可ならば0.875倍の位置へ移動可能か否かを判定する。このような処理を繰り返し、移動可能な最大距離を特定し、特定した位置へ断面を移動する。 However, there is also a method of moving to the maximum movable distance. For example, it is determined by performing Step SC2 and Step SC3 whether or not it is possible to move from the initial moving distance to a position that is 0.75 times without moving to a position that is 0.5 times. If the position cannot be moved to the 0.75 times position, the position is moved to the 0.5 times position. Such a process is repeated, the maximum movable distance is specified, and the cross section is moved to the specified position.
比較読影において、ユーザは操作部22のマウス操作によってスライダーを移動させることで、表示させたい基準断面の位置を指定する。図12は、断面追従による断面移動を示す図である。図12に示すように、断面指定前において、基準断面KD1と比較断面HD1との画像が表示されている。基準断面が基準断面KD2に指定されると、基準画像発生部16は、基準断面KD2に関する基準画像のデータを発生する。そして、比較画像発生部18は、指定された基準断面KD2に座標変換式を適用し、指定された基準断面KD2と解剖学的に同一な比較断面HD2を算出する。
In comparative interpretation, the user moves the slider by operating the mouse of the
上記の断面追従処理を数式を用いて説明する。なお、基準断面を、r´=a・n´+i・i´+j・j´と表す。符号「´」が付された文字は、ベクトルであることを示す。パラメータaは断面位置(Z方向)を示す。パラメータaは断面指定操作によってユーザにより逐次変更される。基準断面KD1におけるパラメータaをa1、基準断面KD2におけるパラメータaをa2とする。ベクトルn´は、断面を変更するときの方向を示す。典型的には、ベクトルn´は、表示断面と直交するZ方向を示す。ベクトルi´は画面横方向(X方向)を示す。ベクトルj´は、画面縦方向(Y方向)を示す。パラメータiは、表示断面上のX方向の画素位置を示す。パラメータjは、表示断面上のY方向の画素位置を示す。比較断面の方程式は、t´=f(r´)と表される。f(r´)は、座標変換式である。 The cross-section following process will be described using mathematical expressions. The reference cross section is expressed as r ′ = a · n ′ + i · i ′ + j · j ′. A character with a symbol “′” indicates a vector. The parameter a indicates the cross-sectional position (Z direction). The parameter “a” is sequentially changed by the user by the section designation operation. The parameter a in the reference section KD1 is a 1 , and the parameter a in the reference section KD2 is a 2 . The vector n ′ indicates the direction when changing the cross section. Typically, the vector n ′ indicates the Z direction orthogonal to the display cross section. A vector i ′ indicates the horizontal direction of the screen (X direction). The vector j ′ indicates the screen vertical direction (Y direction). The parameter i indicates the pixel position in the X direction on the display section. The parameter j indicates the pixel position in the Y direction on the display section. The equation of the comparison cross section is expressed as t ′ = f (r ′). f (r ′) is a coordinate conversion formula.
上記の数式を用いると、基準断面KD1は、r´=a1・n´+i・i´+j・j´と表され、比較断面HD1は、r´=f(r´)、r´=a1・n´+i・i´+j・j´と表される。同様に、基準断面KD2はr´=a2・n´+i・i´+j・j´と表され、比較断面HD2はr´=f(r´)、r´=a2・n´+i・i´+j・j´と表される。 Using the above formula, the reference cross section KD1 is expressed as r ′ = a 1 · n ′ + i · i ′ + j · j ′, and the comparison cross section HD1 has r ′ = f (r ′), r ′ = a 1 · n ′ + i · i ′ + j · j ′. Similarly, the reference cross section KD2 is expressed as r ′ = a 2 · n ′ + i · i ′ + j · j ′, and the comparison cross section HD2 is r ′ = f (r ′), r ′ = a 2 · n ′ + i · i ′ + j · j ′.
例えば、基準断面KD1に対応する比較断面HD1を算出する場合、比較画像発生部18は、比較ボリュームデータ上の平面r´=a1・n´+i・i´+j・j´にある画素に、比較ボリュームデータ上のr´=f(r´)、r´=a1・n´+i・i´+j・j´にある画素の画素値を割り付ける。例えば、比較画像発生部18は、基準断面KD1上の座標(100,100,a1)に対応する、比較ボリュームデータ上の座標(100,100,a1)の画素値に、r´=f(r´)、r´=a1・n´+100・i´+100・j´の位置にある比較ボリュームデータ上の画素値を割り付ける。
For example, when calculating the comparison section HD1 corresponding to the reference section KD1, the comparison
次に、断面追従処理が完全にユーザが望む精度で実現しない場合、簡便な操作で、解剖学的にほぼ一致する断面を表示する方法について説明する。本方法はレジストレーション処理で算出された座標変換式f(r)にパラメータsを加える。このパラメータsを、マニュアルシフトと呼ぶことにする。マニュアルシフトsを用いた場合における基準断面はr´=a・n´+i・i´+j・j´であり、比較断面はt´=f(r´)、r´=(a+s)・n´+i・i´+j・j´と表される。 Next, a method for displaying a substantially anatomically matching cross-section with a simple operation when the cross-section following process is not realized with the accuracy desired by the user will be described. In this method, the parameter s is added to the coordinate conversion formula f (r) calculated in the registration process. This parameter s is called manual shift. When the manual shift s is used, the reference cross section is r ′ = a · n ′ + i · i ′ + j · j ′, and the comparison cross section is t ′ = f (r ′), r ′ = (a + s) · n ′. + I · i ′ + j · j ′.
図13は、マニュアルシフトsを用いた場合の断面移動を示す図である。図13の上段に示すs=0の場合、断面位置a1にある基準断面KD1は、r´=a1・n´+i・i´+j・j´である。この基準断面KD1に対応する比較断面HD1は、t´=f(r´)、r´=a1・n´+i・i´+j・j´である。この状態からマニュアルシフトsがs≠0、例えばs=s1に設定されると、基準断面KD1は変化しないが、比較断面HD1は、比較断面HD1の形状を保ったまま断面位置a1からs1だけ移動する。s=s1の場合における、比較断面HD1はt´=f(r´)、r´=(a1+s1)・n´+i・i´+j・j´となる。 FIG. 13 is a diagram showing cross-sectional movement when the manual shift s is used. In the case of s = 0 shown in the upper part of FIG. 13, the reference cross section KD1 at the cross sectional position a 1 is r ′ = a 1 · n ′ + i · i ′ + j · j ′. The comparison section HD1 corresponding to the reference section KD1 is t ′ = f (r ′) and r ′ = a 1 · n ′ + i · i ′ + j · j ′. When the manual shift s in this state is set to s ≠ 0, for example, s = s 1, reference cross section KD1 does not change, compared sectional HD1 is, s from a cross-sectional position a 1 while maintaining the shape of the comparison section HD1 only 1 move. The comparison cross section HD1 in the case of s = s 1 is t ′ = f (r ′), r ′ = (a 1 + s 1 ) · n ′ + i · i ′ + j · j ′.
マニュアルシフトsと断面位置aとは、操作部22を介して個々に変更可能である。図14は、図13の状態から、断面位置aをa4に変更する時の基準断面と比較断面とを示した図である。図14に示すように、断面位置a4における基準断面KD4は、r´=a4・n´+i・i´+j・j´となる。この断面変更に追従して比較断面HD3はa4−a1移動し、比較断面HD4に更新される。比較断面HD4は、t´=f(r´)、r´=(a4+s1)・n´+i・i´+j・j´となる。つまり、基準画像の断面位置の変更を行なうと、マニュアルシフト値を保存したまま、比較画像の断面位置が基準断面に追従して表示される。
The manual shift s and the cross-sectional position a can be individually changed via the
図15は、断面位置aとマニュアルシフトsとを変更する場合におけるマウスの操作パターンを示す図である。図15に示すように、表示部20に表示された基準画像又は比較画像上にカーソルを置くことで、断面変更する画像が選択される。選択状態のときに所定のマウス操作を行なうことにより、選択した画像の断面位置aやマニュアルシフトsが変更される。断面位置aが変更されると、比較画像が基準画像に追従する。マニュアルシフトsが変更されると、比較画像の断面のみが移動する。a+sを保存して、aとsとを変更する場合、基準画像の断面位置のみが移動する。
FIG. 15 is a diagram illustrating a mouse operation pattern when the cross-sectional position a and the manual shift s are changed. As shown in FIG. 15, an image whose cross section is changed is selected by placing the cursor on the reference image or the comparison image displayed on the
最適な操作パターンは、操作方法1である。操作方法1では、基準画像上でドラッグ操作が行なわれると、断面位置aが変更され、比較断面が基準断面に追従する。比較画像上でドラッグ操作が行なわれると、マニュアルシフトsが変更され、比較断面のみが変更される。
The optimum operation pattern is the
操作方法1と操作方法2とは、断面位置aとマニュアルシフトsとの2つの値を変更可能にもかかわらず、追従での断面変更は基準画像上で、曲面の補正は比較画像上で操作するように統一されている。また、ドラッグ操作とホイール操作に同じ機能が割り当てられるので、ユーザ断面変更の操作を容易に習熟できる。スライダーでの断面変更が追加された場合も、同じ機能を割り当てればよく、操作方法が極めて理解しやすい。
Although the
また、画像上でダブルクリックすると、操作部26は、マニュアルシフトsを0にクリアするように構成する。マニュアルシフトsのクリア手段が備えられることで、同一断面が表示されるようにユーザがマニュアルシフトsの値を調節した後、即座に解剖学上の同一断面を表示することが可能である。
When the user double-clicks on the image, the
上記の2つの断面追従方法は、何れも断面全体に座標変換式を適用させていた。すなわち、レジストレーション処理によって算出された座標変換式がt´=f´(r´)であるとき、比較断面はt´=f´(r´)、r´=a・n´+i・i´+j・j´によって算出するとした。次に述べる断面追従方法は、座標変換式t´=f´(r´)を応用して、平面形状の断面を算出する方法である。 In each of the above two cross-section tracking methods, a coordinate conversion formula is applied to the entire cross-section. That is, when the coordinate conversion formula calculated by the registration process is t ′ = f ′ (r ′), the comparison cross section is t ′ = f ′ (r ′), r ′ = a · n ′ + i · i ′. It is assumed that the calculation is performed by + j · j ′. The cross-section following method described below is a method for calculating a cross section having a planar shape by applying a coordinate conversion formula t ′ = f ′ (r ′).
まず、操作部22を介して基準断面上に基準注目点Pr´を設定する。基準注目点Pr´に対応する比較断面上の比較注目点Pt´は、Pt´=f(Pr´)である。基準注目点Pr´を通る基準断面上の座標値は、r´=Pr´+a・n´+i・i´+j・j´である。
First, the reference attention point P r ′ is set on the reference cross section via the
比較断面への座標変換式は、g´(r´)=Rf´(r´)+Pt´−Rf´(Pr´)を用いる。比較断面は、t´=g´(r´)、r´=a・n´+i・i´+j・j´、すなわち、t´=Rf´(r´)+Pt´−Rf´(Pr´)、r´=a・n´+i・i´+j・j´により算出する。Rは回転を表す座標変換行列である。Rの値は、一定値でもよいが、Pr´におけるf´(r´)の勾配から決定しても良い。後者の方法を用いると、指定した注目点における、基準断面から比較断面への回転量を算出することができるため、前者の場合に比して、比較断面の精度が向上する。g´(r´)は回転及び平行移動のみで構成された座標変換式ある。従って、平面形状を有する基準断面に座標変換式g´(r´)を適用して比較断面を算出した場合、比較断面は変形されず、平面形状を有する。また、座標変換式g´(r´)を用いた場合、拡大も縮小も行なわれない。さらに、基準断面上のPr´は、g´(Pr´)=Rf´(Pr´)+Pt´−Rf´(Pr´)=Pt´に写像されるので、基準断面は基準注目点Pr´を含み、比較断面は比較注目点Pt´を含む。 As a coordinate conversion formula for the comparison cross section, g ′ ( r ′) = Rf ′ ( r ′) + P t ′ −Rf ′ (P r ′) is used. The comparison cross section is t ′ = g ′ (r ′), r ′ = a · n ′ + i · i ′ + j · j ′, that is, t ′ = Rf ′ ( r ′) + P t ′ −Rf ′ (P r ′), R ′ = a · n ′ + i · i ′ + j · j ′. R is a coordinate transformation matrix representing rotation. The value of R may be a constant value, but may be determined from the gradient of f ′ ( r ′) in P r ′. If the latter method is used, the amount of rotation from the reference cross section to the comparative cross section at the designated point of interest can be calculated, so that the accuracy of the comparative cross section is improved as compared with the former case. g ′ (r ′) is a coordinate conversion formula composed only of rotation and translation. Therefore, when the comparative cross section is calculated by applying the coordinate conversion formula g ′ (r ′) to the reference cross section having a planar shape, the comparative cross section is not deformed and has a planar shape. Further, when the coordinate conversion equation g ′ (r ′) is used, neither enlargement nor reduction is performed. Further, P r ′ on the reference cross section is mapped to g ′ (P r ′) = Rf ′ (P r ′) + P t ′ −Rf ′ (P r ′) = P t ′. The reference attention point P r ′ is included, and the comparative cross section includes the comparison attention point P t ′.
Pt´=f´(Pr´)なので、基準注目点Pr´と比較注目点Pt´とは、レジストレーション処理により互いに対応づけられた2点である。比較注目点Pt´の近傍においては、g´(r´)とf´(r´)との位置ずれは大きくないので、比較注目点Pt´の近傍はレジストレーション処理により対応づけられた点に近い点どうしが基準断面と比較断面とに含まれる。 Since P t ′ = f ′ (P r ′), the reference attention point P r ′ and the comparison attention point P t ′ are two points associated with each other by the registration process. In the vicinity of the comparative attention point P t ′, the positional deviation between g ′ (r ′) and f ′ (r ′) is not large, so the vicinity of the comparative attention point P t ′ is associated by the registration process. Points close to the point are included in the reference cross section and the comparison cross section.
図16は、座標変換式g´(r´)を用いた場合における断面移動を示す図である。図16に示すように、基準断面KD1は、注目点Pr´を含む。基準断面KD1に座標変換式g´(r´)を適用すると、注目点Pr´に対応する点Pt´を含む比較断面HD5が算出される。比較断面HD5は変形しない。 FIG. 16 is a diagram showing cross-sectional movement when the coordinate conversion formula g ′ (r ′) is used. As shown in FIG. 16, the reference cross section KD1 includes a point of interest P r ′. When the coordinate conversion formula g ′ ( r ′) is applied to the reference section KD1, a comparison section HD5 including a point P t ′ corresponding to the attention point P r ′ is calculated. The comparison cross section HD5 is not deformed.
変形なしの同一断面の計算方法を採用した場合、注目点は、基準画像または、比較画像上でダブルクリックすることで、ユーザが指定できるように構成する。例えば、肺内部の腫瘍等の異常領域上の点でダブルクリックすると、その点に注目点が設定される。比較画像は変形を含まない面が表示されるが、このとき、設定した注目点とその近傍は、レジストレーション処理により対応付けられた同一点と極めて近い点が表示される。そのため、実用上、両画像は解剖学的に同一とみなすことができる。変形ありの場合とは異なり、画像の変形や拡大、縮小が行われないため、大きさの比較を正しく行うことができる。腫瘍の診断の際、形や大きさ等の形態情報の変化は重要な情報である。そのため、上記のような変形、拡大、縮小が行われない、同一断面の表示は腫瘍のような孤立病変の診断に有用である。 When the same cross-section calculation method without deformation is adopted, the point of interest is configured to be specified by the user by double-clicking on the reference image or the comparison image. For example, when a double click is performed on a point on an abnormal region such as a tumor inside the lung, a point of interest is set at that point. In the comparison image, a surface that does not include deformation is displayed. At this time, the set attention point and its vicinity are displayed as points that are very close to the same point associated by the registration process. Therefore, in practice, both images can be regarded as anatomically identical. Unlike the case with deformation, since the image is not deformed, enlarged or reduced, the size can be compared correctly. When diagnosing a tumor, changes in morphological information such as shape and size are important information. For this reason, the display of the same cross section that is not deformed, enlarged, or reduced as described above is useful for diagnosis of an isolated lesion such as a tumor.
変形なしの同一断面の計算方法を採用した場合も、レジストレーション処理自体は変形を考慮しているため、呼吸などによる胸部の変形を考慮して高精度の位置あわせが行えるという効果を失うことはない。 Even when the same cross-section calculation method without deformation is adopted, the registration process itself takes into account deformation, so the effect of being able to perform high-precision alignment in consideration of the deformation of the chest due to breathing etc. Absent.
同一断面の種別(変形あり/変形なし)は画面上のボタン操作などでユーザが切り替えられるように構成するのが良い。 The type of the same cross section (with / without deformation) is preferably configured so that the user can be switched by operating a button on the screen.
図17は、同一断面の種別(変形あり/変形なし)、マニュアルシフトsの有無を表すマークのパターンを示す図である。マークMは、例えば、図18に示すように画像上に重畳して表示するのが良い。なお、図18に示すマークMは、マニュアルシフトなし(s=0)且つ変形なしであることを示す。 FIG. 17 is a diagram showing mark patterns representing the type of the same cross section (with / without deformation) and the presence or absence of manual shift s. For example, the mark M is preferably displayed so as to be superimposed on the image as shown in FIG. A mark M shown in FIG. 18 indicates that there is no manual shift (s = 0) and no deformation.
ユーザは読影の際、画像を注視しているので、画像内に重畳して表示することが重要である。変形あり/変形なしを区別可能なマークを表示することで、ユーザは、同一断面の種別を画面上で明確に判断できる。そのため、変形ありの状態で形や大きさを比較し診断してしまうことによる誤診を防止することができる。また、マニュアルシフトの有無を区別可能なマークを表示することによって。表示されている断面が、マニュアルシフトされた断面なのか、解剖学上の同一断面なのかが常に確認できる。 Since the user is gazing at the image at the time of image interpretation, it is important to display it superimposed on the image. By displaying a mark that can distinguish whether there is deformation or not, the user can clearly determine the type of the same cross section on the screen. Therefore, it is possible to prevent misdiagnosis caused by comparing and diagnosing the shape and size in a state with deformation. In addition, by displaying a mark that can distinguish the presence or absence of manual shift. You can always check whether the displayed cross section is a manually shifted cross section or the same anatomical cross section.
上記構成により、画像表示装置1は、基準画像と比較画像との2セットの画像を表示し、少なくとも片方の画像に(変形などの)座標変換が加えられている場合に、両方の画像に再構成領域が含まれるように、断面位置の範囲を制限することができる。その結果、画面上に再構成領域が表示されないという状態を防止でき、ユーザの不安感の発生を防止できる。
With the above configuration, the
また、画像表示装置1は、ボリュームデータに少数の評価点を設定し、その評価点が基準画像および比較画像でどの位置になるかを算出し、断面との位置関係を判断して、基準再構成領域の範囲、比較再構成領域の範囲を特定し、特定した範囲の共通範囲を制限範囲とする。そのため、2セットの画像の平行移動や変形などを考慮して、制限範囲を決定できる。また、少ない評価点で制限範囲決定処理を行うので、短時間で処理できる。従って、断面移動の制限処理を、ユーザの断面移動操作を阻害することなく実現できる。
In addition, the
また、画像表示装置1は、レジストレーション処理により算出された解剖学的な同一断面に対して、マニュアルシフトsを加えた断面を算出し表示する。そのため、レジストレーション処理により算出された同一断面に位置ずれが生じている場合にも、マニュアルシフトsの変更という簡単な操作で、ユーザが同一とみなせる断面を指定できる。また、マニュアルシフトsを保存する手段を備えることにより、マニュアルシフトsを調節した後、もう一方の断面を変更しても、同一とみなせる断面を追従して表示することができる。調節の基準となる表示断面の変形量や断面位置は、レジストレーション処理により決定されるため、微小な誤差を含む可能性はある。しかし、おおよその変形量や平行移動量が反映されたものであるから、マニュアルシフトsの調節によりほぼ解剖学的に同一な断面を指定することができる。従って、レジストレーション処理により算出された同一断面に位置ずれ生じている場合にも、ほぼ同一な断面を簡単な操作で表示させることができるようになる。そのため、ユーザは、正しく画像変化を判断し読影できるようになる。
The
かくして本実施形態によれば、複数画像を同時表示する比較読影のための画像表示装置1において、読影精度の向上を実現することが可能となる。
Thus, according to the present embodiment, it is possible to improve the interpretation accuracy in the
なお、本実施形態において基準画像と比較画像の2つの画像を比較読影するとした。しかしながら本実施形態はこれに限定されない。例えば、記憶部12はスキャン時刻の異なる複数の比較ボリュームデータのファイルを記憶し、表示部20は基準画像と複数の比較ボリュームデータのファイルに基づく複数の比較画像とを並列して表示させてもよい。
In the present embodiment, the two images of the reference image and the comparison image are comparatively interpreted. However, the present embodiment is not limited to this. For example, the
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。 Note that the present invention is not limited to the above-described embodiment as it is, and can be embodied by modifying the constituent elements without departing from the scope of the invention in the implementation stage. In addition, various inventions can be formed by appropriately combining a plurality of components disclosed in the embodiment. For example, some components may be deleted from all the components shown in the embodiment. Furthermore, constituent elements over different embodiments may be appropriately combined.
1…画像表示装置、12…記憶部、14…座標変換式算出部、16…基準画像発生部、18…比較画像発生部、20…表示部、22…操作部、24…移動範囲制限部、26…制御部
DESCRIPTION OF
Claims (19)
前記第1ボリュームデータに関する第1表示断面の位置を指定する断面指定部と、
前記指定された位置における第1表示断面に関する第1断面画像のデータを、第1ボリュームデータから発生する第1断面画像発生部と、
前記第1表示断面の位置と解剖学的に略同一な位置を有する第2表示断面に関する第2断面画像のデータを、第2ボリュームデータから発生する第2断面画像発生部と、
前記発生された第1断面画像と第2断面画像とを表示する表示部と、
前記第1再構成領域の範囲と前記第2再構成領域の範囲とに基づいて、前記第1表示断面の位置の指定可能な範囲を制限する範囲制限部と、
を具備する画像表示装置。 A storage unit for storing first volume data including a first reconstruction area and second volume data including a second reconstruction area, which have different scan times;
A cross-section designating unit for designating the position of the first display cross-section for the first volume data;
A first cross-sectional image generating unit that generates data of a first cross-sectional image related to the first display cross-section at the designated position from first volume data;
A second cross-sectional image generator for generating second cross-sectional image data relating to a second display cross-section having a position anatomically substantially the same as the position of the first display cross-section from second volume data;
A display unit for displaying the generated first slice image and second slice image;
A range limiting unit that limits a specifiable range of the position of the first display cross section based on the range of the first reconstruction area and the range of the second reconstruction area;
An image display device comprising:
前記第2断面画像発生部は、前記算出された第1座標変換式を前記第1表示断面に適用して曲面形状を有する前記第2表示断面を算出し、前記算出した第2表示断面に基づいて前記第2断面画像のデータを発生する、
ことを特徴とする請求項1記載の画像表示装置。 A plurality of first anatomically characteristic feature points included in the first volume data, and a plurality of second anatomically identical second feature points included in the second volume data. A conversion formula calculation unit that calculates a first coordinate conversion formula between the first volume data and the second volume data based on the feature points;
The second slice image generation unit calculates the second display slice having a curved surface shape by applying the calculated first coordinate conversion formula to the first display slice, and based on the calculated second display slice. Generating data of the second cross-sectional image
The image display device according to claim 1.
前記第2断面画像発生部は、前記位置指定前における第2表示断面と同一の形状を有する前記位置指定後における第2表示断面を算出し、前記算出された位置指定後における第2断面画像のデータを発生する、
ことを特徴とする請求項4記載の画像表示装置。 The cross section designating unit designates a position separated by a desired distance from the position of the second display cross section before the position designation as the position of the second display cross section after the position designation,
The second cross-sectional image generation unit calculates a second display cross-section after the position designation having the same shape as the second display cross-section before the position designation, and the second cross-sectional image after the calculated position designation Generating data,
The image display device according to claim 4.
前記第2断面画像発生部は、前記算出された第2座標変換式を位置指定後の第1表示断面に適用して、前記位置指定後の第2表示断面を算出する、
ことを特徴とする請求項6記載の画像表示装置。 The conversion formula calculation unit calculates a second coordinate conversion formula by adding a parameter representing the distance to the first coordinate conversion formula,
The second cross-sectional image generation unit applies the calculated second coordinate conversion formula to the first display cross-section after position designation to calculate the second display cross-section after position designation.
The image display device according to claim 6.
ことを特徴とする請求項6記載の画像表示装置。 The display unit displays on the screen a mark indicating whether or not the distance value is zero.
The image display device according to claim 6.
前記第2断面画像発生部は、前記第1表示断面に前記第3座標変換式を適用し、前記平面形状を有する第2表示断面を算出する、
ことを特徴とする請求項1記載の画像表示装置。 Includes anatomically identical second target point to a first target point on the first display section, the third coordinate conversion formula for calculating the second display section having a vertical planar shape slice direction further comprising a you calculate conversion formula calculating unit,
The second cross-sectional image generation unit applies the third coordinate conversion formula to the first display cross section to calculate a second display cross section having the planar shape;
The image display device according to claim 1.
前記第1座標変換式を用いるか、又は、前記第3座標変換式を用いるかを選択する選択部と、をさらに備え、
前記表示部は、前記選択部による選択に応じたマークを画面上に表示する、
ことを特徴とする請求項1記載の画像表示装置。 A plurality of first anatomically characteristic feature points included in the first volume data, and a plurality of second anatomically identical second feature points included in the second volume data. A first coordinate conversion formula between the first volume data and the second volume data based on a feature point, or a second attention anatomically identical to the first attention point on the first display section A conversion formula calculation unit that selectively calculates a third coordinate conversion formula for calculating a second display cross section including a point and having a planar shape perpendicular to the slice direction;
Or using said first coordinate transformation equation, or, further comprising a selection unit that selects whether to use the third coordinate transformation equation,
The display unit displays a mark on the screen according to the selection by the selection unit .
The image display device according to claim 1 .
前記断面指定部は、前記移動範囲内での前記スライダーの位置に応じて、前記第1表示断面の位置を指定する、
ことを特徴とする請求項1記載の画像表示装置。 The display unit displays a slider and a moving range of the slider corresponding to the range of the first reconstruction area,
The cross-section specifying unit specifies the position of the first display cross-section according to the position of the slider within the moving range.
The image display device according to claim 1.
前記第1ボリュームデータ又は前記第1再構成領域の上端面と下端面とに複数の第1評価点を設定し、
前記複数の第1評価点と解剖学的に同一な複数の第2評価点を前記第2ボリュームデータに設定し、
前記設定された複数の第2評価点と第2表示断面との距離をそれぞれ算出し、
前記算出された複数の距離に基づいて前記第2再構成領域の範囲を決定する、
ことを特徴とする請求項1記載の画像表示装置。 The range limiter is
A plurality of first evaluation points are set on an upper end surface and a lower end surface of the first volume data or the first reconstruction area;
A plurality of second evaluation points that are anatomically identical to the plurality of first evaluation points are set in the second volume data;
Calculating a distance between each of the set second evaluation points and the second display section;
Determining a range of the second reconstruction region based on the calculated plurality of distances;
The image display device according to claim 1.
前記第1再構成領域に含まれる生体領域に複数の第1評価点を設定し、
前記複数の第1評価点と解剖学的に同一な複数の第2評価点を前記第2ボリュームデータに設定し、
前記設定された複数の第2評価点と第2表示断面との距離をそれぞれ算出し、
前記算出された複数の距離に基づいて前記第2再構成領域の範囲を決定する、
ことを特徴とする請求項1記載の画像表示装置。 The range limiter is
Setting a plurality of first evaluation points in the biological region included in the first reconstruction region;
A plurality of second evaluation points that are anatomically identical to the plurality of first evaluation points are set in the second volume data;
Calculating a distance between each of the set second evaluation points and the second display section;
Determining a range of the second reconstruction region based on the calculated plurality of distances;
The image display device according to claim 1.
前記第1ボリュームデータの第1表示断面に関する第1断面画像のデータを、第1ボリュームデータから発生する第1断面画像発生部と、
前記第1表示断面の位置と解剖学的に同一な位置を有する、前記第2ボリュームデータの第2表示断面を算出するための第1座標変換式を算出する変換式算出部と、
前記算出された第1座標変換式を前記第1表示断面に適用して前記第2表示断面を算出する第2表示断面算出部と、
前記算出された第2表示断面の形状を保持したまま、前記第2表示断面の位置を変更させる第2断面位置変更部と、
前記変更のなされた後の第2表示断面に関する第2断面画像のデータを、前記第2ボリュームデータから発生する第2断面画像発生部と、
前記発生された第1断面画像と第2断面画像とを表示する表示部と、
を具備する画像表示装置。 A storage unit for storing first volume data including a first reconstruction area and second volume data including a second reconstruction area, which have different scan times;
A first cross-sectional image generating unit that generates data of a first cross-sectional image related to a first display cross-section of the first volume data from the first volume data;
A conversion formula calculation unit for calculating a first coordinate conversion formula for calculating a second display cross section of the second volume data, which has an anatomically identical position with the position of the first display cross section;
A second display cross section calculating unit that calculates the second display cross section by applying the calculated first coordinate conversion formula to the first display cross section;
A second cross-section position changing unit that changes the position of the second display cross-section while maintaining the calculated shape of the second display cross-section;
A second cross-sectional image generator that generates data of the second cross-sectional image related to the second display cross-section after the change is made from the second volume data;
A display unit for displaying the generated first slice image and second slice image;
An image display device comprising:
前記第2表示断面算出部は、前記算出された第2座標変換式を第1表示断面に適用し手第2表示断面を算出する、
ことを特徴とする請求項17記載の画像表示装置。 The conversion formula calculation unit calculates a second coordinate conversion formula by adding a parameter indicating the amount of change to the one coordinate conversion formula,
The second display cross section calculating unit applies the calculated second coordinate conversion formula to the first display cross section to calculate a hand second display cross section;
The image display device according to claim 17.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007288940A JP5121399B2 (en) | 2007-11-06 | 2007-11-06 | Image display device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007288940A JP5121399B2 (en) | 2007-11-06 | 2007-11-06 | Image display device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009112531A JP2009112531A (en) | 2009-05-28 |
JP5121399B2 true JP5121399B2 (en) | 2013-01-16 |
Family
ID=40780362
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007288940A Active JP5121399B2 (en) | 2007-11-06 | 2007-11-06 | Image display device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5121399B2 (en) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5587614B2 (en) * | 2010-01-13 | 2014-09-10 | 富士フイルム株式会社 | MEDICAL IMAGE DISPLAY DEVICE AND METHOD, AND PROGRAM |
JP6514724B2 (en) * | 2014-07-02 | 2019-05-15 | コヴィディエン リミテッド パートナーシップ | Integrated coordinate system for multiple CT scans of patient lungs |
JP6491466B2 (en) * | 2014-12-04 | 2019-03-27 | キヤノン株式会社 | Image processing apparatus, image processing apparatus control method, and program |
JP7027029B2 (en) * | 2016-06-21 | 2022-03-01 | キヤノンメディカルシステムズ株式会社 | Ultrasound diagnostic equipment and medical image processing equipment |
JP7039179B2 (en) | 2017-04-13 | 2022-03-22 | キヤノン株式会社 | Information processing equipment, information processing system, information processing method and program |
JP7271183B2 (en) * | 2018-01-15 | 2023-05-11 | キヤノンメディカルシステムズ株式会社 | Medical information processing device, X-ray diagnostic system and medical information processing program |
JP6660428B2 (en) * | 2018-08-01 | 2020-03-11 | キヤノン株式会社 | Processing device, processing method, and program |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10137231A (en) * | 1996-11-13 | 1998-05-26 | Toshiba Iyou Syst Eng Kk | Medical image processor |
JP4702971B2 (en) * | 1999-11-10 | 2011-06-15 | 株式会社東芝 | Computer-aided diagnosis system |
JP2001157675A (en) * | 1999-12-02 | 2001-06-12 | Fuji Photo Film Co Ltd | Method and apparatus for displaying image |
JP4028209B2 (en) * | 2001-10-24 | 2007-12-26 | 株式会社日立メディコ | X-ray CT system |
JP2004160103A (en) * | 2002-11-11 | 2004-06-10 | Terarikon Inc | Medical image compound observation apparatus |
JP4493436B2 (en) * | 2003-08-14 | 2010-06-30 | 富士フイルム株式会社 | Image interpretation support method, apparatus and program |
JP4401140B2 (en) * | 2003-10-24 | 2010-01-20 | 株式会社日立メディコ | Diagnostic imaging support device |
JP2007151965A (en) * | 2005-12-07 | 2007-06-21 | Toshiba Corp | Medical image processor, medical image processing program, and medical image processing method |
JP4878828B2 (en) * | 2005-12-09 | 2012-02-15 | 株式会社日立メディコ | X-ray fluoroscopic equipment |
-
2007
- 2007-11-06 JP JP2007288940A patent/JP5121399B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2009112531A (en) | 2009-05-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6129310B2 (en) | Image processing apparatus and image processing method | |
CN105719324B (en) | Image processing apparatus and image processing method | |
JP5643304B2 (en) | Computer-aided lung nodule detection system and method and chest image segmentation system and method in chest tomosynthesis imaging | |
JP5078609B2 (en) | Image display apparatus and program | |
JP4931027B2 (en) | Medical image diagnosis support apparatus and method, and program | |
JP6355766B2 (en) | User-induced shape morphing in bone segmentation for medical imaging | |
JP4253497B2 (en) | Computer-aided diagnosis device | |
JP5121399B2 (en) | Image display device | |
RU2711140C2 (en) | Editing medical images | |
CN104050711B (en) | Medical image-processing apparatus and medical image processing method | |
JP6827706B2 (en) | Information processing equipment and its methods, information processing systems, computer programs | |
US20090097778A1 (en) | Enhanced system and method for volume based registration | |
JP6918528B2 (en) | Medical image processing equipment and medical image processing program | |
JP5142591B2 (en) | Medical image diagnosis support apparatus and medical image diagnosis support program | |
CN104586418B (en) | medical image data processing apparatus and medical image data processing method | |
JP2011125568A (en) | Image processor, image processing method, program and image processing system | |
CN102479390A (en) | Image processing method, image processing apparatus, image system, and program code | |
US20180064409A1 (en) | Simultaneously displaying medical images | |
JP5194138B2 (en) | Image diagnosis support apparatus, operation method thereof, and image diagnosis support program | |
US20080084415A1 (en) | Orientation of 3-dimensional displays as a function of the regions to be examined | |
JP6905323B2 (en) | Image processing equipment, image processing methods, and programs | |
JP2004313736A (en) | Apparatus, method and program for medical image processing | |
WO2014119228A1 (en) | Medical image display control device and method, and program | |
US11657547B2 (en) | Endoscopic surgery support apparatus, endoscopic surgery support method, and endoscopic surgery support system | |
JP5486616B2 (en) | MEDICAL IMAGE DIAGNOSIS SUPPORT DEVICE, ITS OPERATION METHOD, AND PROGRAM |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20101026 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20120529 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120531 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120605 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120720 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120925 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121023 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151102 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 5121399 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |