JP2013174581A - 画像データ生成装置および画像データ生成方法 - Google Patents
画像データ生成装置および画像データ生成方法 Download PDFInfo
- Publication number
- JP2013174581A JP2013174581A JP2012251760A JP2012251760A JP2013174581A JP 2013174581 A JP2013174581 A JP 2013174581A JP 2012251760 A JP2012251760 A JP 2012251760A JP 2012251760 A JP2012251760 A JP 2012251760A JP 2013174581 A JP2013174581 A JP 2013174581A
- Authority
- JP
- Japan
- Prior art keywords
- interest
- display
- data
- image
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Processing Or Creating Images (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
- Microscoopes, Condenser (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
【課題】スクリーニング時に関心領域を指定してきた経過が目視でき、画像観察の作業効率を向上させることができる技術を提供する。
【解決手段】ユーザが画像上で指定した複数の関心領域それぞれの位置のデータと指定順序とを関連付けて記載したリスト情報を作成する。画像データ生成装置は、ユーザにより新たな関心領域が指定されると、前記新たに指定された関心領域の位置を示すマーク、及び、1つ前に指定された関心領域の位置と前記新たに指定された関心領域の位置との間を結ぶ動線を、表示画像に重ねて表示するためのデータを生成する。
【選択図】図4
【解決手段】ユーザが画像上で指定した複数の関心領域それぞれの位置のデータと指定順序とを関連付けて記載したリスト情報を作成する。画像データ生成装置は、ユーザにより新たな関心領域が指定されると、前記新たに指定された関心領域の位置を示すマーク、及び、1つ前に指定された関心領域の位置と前記新たに指定された関心領域の位置との間を結ぶ動線を、表示画像に重ねて表示するためのデータを生成する。
【選択図】図4
Description
本発明は、画像データ生成装置および画像データ生成方法に関し、特に病理診断の作業効率を向上させる画像診断向け表示画像データの生成技術に関する。
近年、病理分野において、病理診断のツールである光学顕微鏡の代替として、プレパラートに載置された被検試料の撮像と画像のデジタル化によってディスプレイ上での病理診断を可能とするバーチャル・スライド・システムが注目を集めている。バーチャル・スライド・システムを用いた病理診断画像のデジタル化により、従来の被検試料の光学顕微鏡像をデジタルデータとして取り扱うことが可能となる。その結果、遠隔診断の迅速化、デジタル画像を用いた患者への説明、希少症例の共有化、教育・実習の効率化、などのメリットが得られると期待されている。通常、被検試料全体をデジタル化した場合、数億画素から数十億画素と非常に大きなデータ量となる。それゆえ、診断画像ビューア上で拡大・縮小処理を行うことにより、ミクロ(細部拡大像)からマクロ(全体俯瞰像)まで観察することが可能となり、種々の利便性を提供することができる。
一方で、病理分野に限らず、低倍画像から高倍画像までユーザが求める画像の即時の表示が可能となる様々なビューアが提案されている。例えば、特許文献1に開示された超音波診断装置では、断層像と一部領域の拡大像との対応関係を明示することにより、断層像のどの領域を拡大して表示したのか明確に把握できるようにしている。また、特許文献2に開示された超音波診断装置では、超音波画像を段階的に拡大表示する場合に、元画像を縮小処理して生成された参照画像を用意する。このことによって、各画像間の関係を容易に理解できるようにし、また元画像の表示を容易に行えるようにしている。
更に、特許文献3に開示された情報処理装置では、顕微鏡により得られた観察対象物の画像の、異なる部分画像を連続して出力する際に、出力された部分画像の位置及び解像度の対応情報が定期的にサンプリングされる。そして、部分画像の位置の軌跡及び観察倍率を表現する履歴画像を生成し全体画像内に表示することにより、その全体画像を見て観察履歴を把握できようにする。
更に、特許文献3に開示された情報処理装置では、顕微鏡により得られた観察対象物の画像の、異なる部分画像を連続して出力する際に、出力された部分画像の位置及び解像度の対応情報が定期的にサンプリングされる。そして、部分画像の位置の軌跡及び観察倍率を表現する履歴画像を生成し全体画像内に表示することにより、その全体画像を見て観察履歴を把握できようにする。
病理診断では、低倍像を観察しながら関心領域を指定もしくはマーキングするスクリーニングと呼ばれる作業をまず行い、その後、高倍像を用いて各関心領域の詳細な観察を行うことが一般的である。特許文献1および特許文献2では、低倍像と関心領域である高倍の観察像との対応関係は明示されるものの、複数の関心領域間の指定された順番や時間についての対応関係は開示されていない。そのため、病理診断においてスクリーニングを行う際に、関心領域の指定された経過が不明確となり、関心領域の指定の過不足が発生することになった。そして、再指定の手間が発生することで作業効率を低下させることになった。
一方、特許文献3では、複数の部分画像が出力された順番や時刻が把握できる履歴画像について開示されているが、生成される履歴画像とマーキングしたい関心領域との対応関
係については明示されていない。そのため、スクリーニングを行った場合に生成される履歴画像には、不必要な情報が含まれてしまい、詳細観察を行いたい関心領域が明確に判断できなかった。また、関心領域を含む部分画像を出力させる毎に一定時間停止させて履歴画像を生成させることで対応関係を表現することは可能だが、作業効率を低下させることになった。更に特許文献3には、拡大出力された部分画像の範囲が把握できる履歴画像について開示されているが、履歴に基づいて部分画像を再出力する技術に関しては明示されていない。そのため、スクリーニング結果から、関心領域の拡大像を出力させて詳細観察を行うためには、再度位置指定、倍率指定を行う必要があり、画面操作が煩雑になることで作業効率を低下させることになった。
なお、ここでは病理診断を例に挙げたが、低倍像を用いたスクリーニングと高倍像を用いた詳細観察とを行うシステムであれば、いかなる分野のシステムであっても同様の課題が発生する。
一方、特許文献3では、複数の部分画像が出力された順番や時刻が把握できる履歴画像について開示されているが、生成される履歴画像とマーキングしたい関心領域との対応関
係については明示されていない。そのため、スクリーニングを行った場合に生成される履歴画像には、不必要な情報が含まれてしまい、詳細観察を行いたい関心領域が明確に判断できなかった。また、関心領域を含む部分画像を出力させる毎に一定時間停止させて履歴画像を生成させることで対応関係を表現することは可能だが、作業効率を低下させることになった。更に特許文献3には、拡大出力された部分画像の範囲が把握できる履歴画像について開示されているが、履歴に基づいて部分画像を再出力する技術に関しては明示されていない。そのため、スクリーニング結果から、関心領域の拡大像を出力させて詳細観察を行うためには、再度位置指定、倍率指定を行う必要があり、画面操作が煩雑になることで作業効率を低下させることになった。
なお、ここでは病理診断を例に挙げたが、低倍像を用いたスクリーニングと高倍像を用いた詳細観察とを行うシステムであれば、いかなる分野のシステムであっても同様の課題が発生する。
本発明は、かかる課題に鑑みなされたものであり、複数の関心領域の指定を行うスクリーニング作業と詳細観察とを関連付けてかつ独立に行え、更に、スクリーニング時に関心領域を指定してきた経過が目視でき、画像観察の作業効率を向上させることができる技術を提供することを目的とする。
本発明の第1態様は、ユーザが指定した関心領域の情報を画像と共に表示装置に表示するためのデータを生成する画像データ生成装置であって、元の画像のデータから、前記元の画像の全体または一部の領域に対応する表示画像のデータを生成し、前記表示画像を含む表示画面のデータを生成する表示データ生成手段と、前記表示画面のデータに基づき前記表示装置に表示された前記表示画像に対し、ユーザによって関心領域が指定された場合に、前記関心領域として指定された位置のデータを取得する位置データ取得手段と、を備え、前記位置データ取得手段は、前記元の画像に対して複数の関心領域が指定された場合に、前記複数の関心領域のそれぞれの位置のデータと指定順序とを関連付けたリスト情報を作成し、前記表示データ生成手段は、前記位置データ取得手段により新たに指定された関心領域の位置のデータが取得され、且つ、前記リスト情報の中に1つ前に指定された関心領域の位置のデータが存在する場合に、前記新たに指定された関心領域の位置を示すマーク、及び、前記1つ前に指定された関心領域の位置と前記新たに指定された関心領域の位置との間を結ぶ動線を、前記表示画像に重ねて表示するためのデータを生成することを特徴とする画像データ生成装置である。
本発明の第2態様は、ユーザが指定した関心領域の情報を画像と共に表示装置に表示するためのデータを生成する画像データ生成装置であって、元の画像のデータから、前記元の画像の全体または一部の領域に対応する表示画像のデータを生成し、前記表示画像を含む表示画面のデータを生成する表示データ生成手段と、前記元の画像に対しユーザにより指定された複数の関心領域のそれぞれの位置のデータと指定順序とが関連付けて記載されたリスト情報を取得する位置データ取得手段と、を備え、前記位置データ取得手段は、前記リスト情報から、前記複数の関心領域のそれぞれの位置のデータおよび指定順序を取得し、前記表示データ生成手段は、前記リスト情報から取得した前記複数の関心領域の位置のデータおよび指定順序に基づいて、前記複数の関心領域それぞれの位置を示すマーク、及び、前記複数の関心領域の位置を順に結ぶ動線を、前記表示画像に重ねて表示するためのデータを生成することを特徴とする画像データ生成装置である。
本発明の第3態様は、ユーザが指定した関心領域の情報を画像と共に表示装置に表示するためのデータを生成する画像データ生成装置であって、元の画像のデータから、前記元の画像の全体または一部の領域に対応する表示画像のデータを生成し、前記表示画像を含む表示画面のデータを生成する表示データ生成手段と、前記元の画像に対しユーザにより
指定された複数の関心領域のそれぞれの位置のデータと指定順序とが関連付けて記載されたリスト情報を取得する位置データ取得手段と、を備え、前記位置データ取得手段は、前記リスト情報から、前記複数の関心領域のそれぞれの位置のデータおよび指定順序を取得し、前記表示データ生成手段は、前記リスト情報から取得した前記複数の関心領域の位置のデータおよび指定順序に基づいて、前記複数の関心領域それぞれの位置を示すマークを、前記表示画像に重ねて表示するためのデータを生成することを特徴とする画像データ生成装置である。
指定された複数の関心領域のそれぞれの位置のデータと指定順序とが関連付けて記載されたリスト情報を取得する位置データ取得手段と、を備え、前記位置データ取得手段は、前記リスト情報から、前記複数の関心領域のそれぞれの位置のデータおよび指定順序を取得し、前記表示データ生成手段は、前記リスト情報から取得した前記複数の関心領域の位置のデータおよび指定順序に基づいて、前記複数の関心領域それぞれの位置を示すマークを、前記表示画像に重ねて表示するためのデータを生成することを特徴とする画像データ生成装置である。
本発明の第4態様は、撮像装置または画像記憶装置と、表示装置と、前記撮像装置または画像記憶装置から取得した画像のデータを用いて前記表示装置に表示するためのデータを生成する画像データ生成装置と、を備えた画像処理システムであって、前記画像データ生成装置が上述した本発明に係る画像データ生成装置であることを特徴とする画像処理システムである。
本発明の第5態様は、ユーザが指定した関心領域の情報を画像と共に表示装置に表示するためのデータを生成する画像データ生成方法であって、コンピュータが、元の画像のデータから、前記元の画像の全体または一部の領域に対応する表示画像のデータを生成し、前記表示画像を含む表示画面のデータを生成する表示データ生成ステップと、コンピュータが、前記表示画面のデータに基づき前記表示装置に表示された前記表示画像に対し、ユーザによって関心領域が指定された場合に、前記関心領域として指定された位置のデータを取得する位置データ取得ステップと、を含み、前記位置データ取得ステップでは、前記元の画像に対して複数の関心領域が指定された場合に、前記複数の関心領域のそれぞれの位置のデータと指定順序とを関連付けたリスト情報が作成され、前記表示データ生成ステップでは、前記位置データ取得ステップで新たに指定された関心領域の位置のデータが取得され、且つ、前記リスト情報の中に1つ前に指定された関心領域の位置のデータが存在する場合に、前記新たに指定された関心領域の位置を示すマーク、及び、前記1つ前に指定された関心領域の位置と前記新たに指定された関心領域の位置との間を結ぶ動線を、前記表示画像に重ねて表示するためのデータが生成されることを特徴とする画像データ生成方法である。
本発明の第6態様は、ユーザが指定した関心領域の情報を画像と共に表示装置に表示するためのデータを生成する画像データ生成方法であって、コンピュータが、元の画像のデータから、前記元の画像の全体または一部の領域に対応する表示画像のデータを生成し、前記表示画像を含む表示画面のデータを生成する表示データ生成ステップと、コンピュータが、前記元の画像に対しユーザにより指定された複数の関心領域のそれぞれの位置のデータと指定順序とが関連付けて記載されたリスト情報を取得する位置データ取得ステップと、を含み、前記位置データ取得ステップでは、前記リスト情報から、前記複数の関心領域のそれぞれの位置のデータおよび指定順序が取得され、前記表示データ生成ステップでは、前記リスト情報から取得した前記複数の関心領域の位置のデータおよび指定順序に基づいて、前記複数の関心領域それぞれの位置を示すマーク、及び、前記複数の関心領域の位置を順に結ぶ動線を、前記表示画像に重ねて表示するためのデータが生成されることを特徴とする画像データ生成方法である。
本発明の第7態様は、ユーザが指定した関心領域の情報を画像と共に表示装置に表示するためのデータを生成する画像データ生成方法であって、コンピュータが、元の画像のデータから、前記元の画像の全体または一部の領域に対応する表示画像のデータを生成し、前記表示画像を含む表示画面のデータを生成する表示データ生成ステップと、コンピュータが、前記元の画像に対しユーザにより指定された複数の関心領域のそれぞれの位置のデータと指定順序とが関連付けて記載されたリスト情報を取得する位置データ取得ステップと、を含み、前記位置データ取得ステップでは、前記リスト情報から、前記複数の関心領
域のそれぞれの位置のデータおよび指定順序が取得され、前記表示データ生成ステップでは、前記リスト情報から取得した前記複数の関心領域の位置のデータおよび指定順序に基づいて、前記複数の関心領域それぞれの位置を示すマークを、前記表示画像に重ねて表示するためのデータが生成されることを特徴とする画像データ生成方法である。
域のそれぞれの位置のデータおよび指定順序が取得され、前記表示データ生成ステップでは、前記リスト情報から取得した前記複数の関心領域の位置のデータおよび指定順序に基づいて、前記複数の関心領域それぞれの位置を示すマークを、前記表示画像に重ねて表示するためのデータが生成されることを特徴とする画像データ生成方法である。
本発明の第8態様は、上述した本発明に係る画像データ生成方法の各ステップをコンピュータに実行させるためのプログラムである。
本発明によれば、複数の関心領域の指定を行うスクリーニング作業と詳細観察とを関連付けてかつ独立に行え、更に、スクリーニング時に関心領域を指定してきた経過が目視でき、画像観察の作業効率を向上させることができる。
<第1の実施形態>
本発明を実現する第1の実施形態を図に従って説明する。
本発明を実現する第1の実施形態を図に従って説明する。
(画像処理システムの構成)
図1は、本発明の第1の実施形態を説明するための画像データ生成装置を含む画像処理システムの構成図である。図1のシステムは、撮像装置(顕微鏡装置、又はバーチャルスライドスキャナ)101、画像データ生成装置102、表示装置103から構成され、撮像対象となる検体(被検試料)の二次元画像を取得し表示する機能を有するシステムである。撮像装置101と画像データ生成装置102間は、専用もしくは汎用のI/Fケーブル104で接続され、画像データ生成装置102と表示装置103間は、専用もしくは汎用のI/Fケーブル105で接続される。
図1は、本発明の第1の実施形態を説明するための画像データ生成装置を含む画像処理システムの構成図である。図1のシステムは、撮像装置(顕微鏡装置、又はバーチャルスライドスキャナ)101、画像データ生成装置102、表示装置103から構成され、撮像対象となる検体(被検試料)の二次元画像を取得し表示する機能を有するシステムである。撮像装置101と画像データ生成装置102間は、専用もしくは汎用のI/Fケーブル104で接続され、画像データ生成装置102と表示装置103間は、専用もしくは汎用のI/Fケーブル105で接続される。
撮像装置101は、二次元画像を撮像し、取得した二次元画像データを外部装置へ出力する機能を有する。通常の光学顕微鏡の接眼部にデジタルカメラを取り付けたデジタル顕微鏡装置であっても構わない。二次元画像データの取得にはCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子が用いられる。
画像データ生成装置102は、撮像装置101から取得した二次元画像データから、病理診断に適した画像や情報を表示するための表示データを生成する機能を有する。画像データ生成装置102は、CPU(中央演算処理装置)、RAM、記憶装置、操作部、I/Fなどのハードウェア資源を備えた、演算処理の高速な汎用のコンピュータやワークステーションで構成することができる。記憶装置は、ハードディスクドライブなどの大容量情報記憶装置であり、後述する各処理を実現するためのプログラムやデータ、OS(オペレーティングシステム)などが格納されている。上述した各機能は、CPUが記憶装置からRAMに必要なプログラムおよびデータをロードし、当該プログラムを実行することにより実現されるものである。操作部は、キーボードやポインティングデバイスなどにより構成され、操作者が各種の指示を入力するために利用される。後述する表示装置103をタッチパネルとすることで操作入力の機能を持たせても良い。
表示装置103は、画像データ生成装置102の生成した表示データに基づき、病理診断に適した画像や情報を表示する機能を有したモニタであり、CRTや液晶ディスプレイ等により構成することができる。
図1の例では、撮像装置101と画像データ生成装置102と表示装置103の3つの装置により画像処理システムが構成されているが、本発明の構成はこの構成に限定されるものではない。例えば、表示装置が一体化した画像データ生成装置を用いても良いし、画像データ生成装置の機能を撮像装置に組み込んでも良い。また撮像装置、画像データ生成装置、表示装置の機能を1つの装置で実現することもできる。また逆に、画像データ生成装置等の機能を分割して複数の装置によって実現しても良い。
図2は、画像データ生成装置102のハード構成の一例を示す図である。図2の画像データ生成装置102は、メモリ201、ストレージ(記憶装置)202、I/F203、CPU204、内部バス205を有している。
メモリ201は、画像データ生成装置102が外部から取得した撮像画像データや内部で生成した表示データを一時的に記憶するためのエリアや、CPU204が各種の処理を行うために用いるワークエリアを有する記憶デバイスである。ここでは、DDR3(Double-Data-Rate3)等のDRAMデバイスを使用するものとした。ストレージ202は、画
像データ生成装置102が行う各処理をCPU204に実行させるためのプログラムやデータ、および画像データ生成装置102に記憶させておきたい画像データやリスト、設定データが格納される不揮発性の記憶デバイスである。ここでは、HDDやSSDなどのデバイスを使用するものとした。I/F203は、画像データ生成装置102が外部から撮像画像データを取得する、あるいは外部に表示データを出力する、あるいは操作情報を外部から取得するためのインターフェースデバイスである。ここでは、USBやGigabitEthernet(登録商標)、DVI等のデバイスを使用するものとした。CPU204は、初期設定や各種デバイスの制御、画像データ処理といった、画像データ生成装置102の動作全般を司るプログラムを実行するための演算処理デバイスである。ここでは、汎用のコンピュータやワークステーションのCPUを使用する。内部バス205は、上述の各デバイスを繋ぐ内部バスである。ここでは、PCI Express等のシリア
ルバスを使用するものとした。
像データ生成装置102が行う各処理をCPU204に実行させるためのプログラムやデータ、および画像データ生成装置102に記憶させておきたい画像データやリスト、設定データが格納される不揮発性の記憶デバイスである。ここでは、HDDやSSDなどのデバイスを使用するものとした。I/F203は、画像データ生成装置102が外部から撮像画像データを取得する、あるいは外部に表示データを出力する、あるいは操作情報を外部から取得するためのインターフェースデバイスである。ここでは、USBやGigabitEthernet(登録商標)、DVI等のデバイスを使用するものとした。CPU204は、初期設定や各種デバイスの制御、画像データ処理といった、画像データ生成装置102の動作全般を司るプログラムを実行するための演算処理デバイスである。ここでは、汎用のコンピュータやワークステーションのCPUを使用する。内部バス205は、上述の各デバイスを繋ぐ内部バスである。ここでは、PCI Express等のシリア
ルバスを使用するものとした。
図3は、本発明の第1の実施形態の画像データ生成装置102の機能ブロック図である。画像データ生成装置102は、画像データ入力部301、画像メモリ302、表示画像データ取得部303、表示データ生成部305、表示データ出力部306、位置データ取得部307、操作情報入力部308から構成される。また、位置データ取得部307は、取得データ領域算出部312、関心領域マーク設定部313から構成される。
画像データ入力部301は、撮像装置101が取得した撮像画像データを入力し、画像メモリ302に出力する機能を有する。入力される撮像画像データの形式は、接続する撮像装置101を不図示の撮像装置認識手段によって自動で認識して変更できることが望ましいが、ユーザが設定しても良い。
画像メモリ302には、位置座標と関連付けられた撮像画像データが格納されている。例えば、N×N画素の撮像画像がある場合、撮像画像の左上角の画素の位置座標を(0,0)、その右隣の画素の位置座標を(1,0)、左下角の画素の位置座標を(0,N)、右下角の画素の位置座標を(N,N)と定義する。複数の位置座標のそれぞれに対応する画像データが、位置座標と関連付けられた撮像画像データとして画像メモリ302に格納されている。各撮像画像データは位置座標の順番で、例えば画像メモリ302のアドレス番号0から格納されている。したがって、撮像画像データ上の位置座標とアドレス番号は、互いに1対1で指定することができる。また、画像メモリ302に格納される撮像画像データは、白黒画像データでもカラー画像データでも良いが、カラー画像データの場合は位置座標ごとにRGB3つの画像データによって構成される。更に、撮像画像データは、観察倍率に合わせた複数の階層画像データ(つまり同じ画角で異なる解像度の複数の画像データ)から構成されていることも好ましい。したがって、観察倍率とメモリアドレスを指定することで、任意の階層の撮像画像データ上の位置座標に対応する画像データの入出力を行うことができる。
表示画像データ取得部303は、画像メモリ302から、後述する位置データ取得部307によって指定される領域の画像データを取得する。上記領域の指定は、指定される領域が矩形の場合、指定領域の4角の位置座標を用いても、左上の位置座標と右下の位置座標からなる組で表しても、領域の先頭にあたる位置座標と縦横それぞれの画素数(領域幅)で表しても良い。
表示データ生成部305は、表示画像、ポインタ画像、リスト画像、関心領域マークなど、で構成される表示画面を、表示装置103に表示するためのデータ(表示データとよぶ)を生成する機能を有する。それぞれの部品(画像)の表示装置103上の表示領域もしくは表示位置座標は、位置データ取得部307によって取得された情報に基づいて指定される。
表示画像は、撮像画像データから生成される観察対象の画像である。ポインタ画像は、マウスポインタの画像である。リスト画像は、ユーザに指定された関心領域の情報の一覧を示す画像である。関心領域マークは、関心領域が指定された位置をユーザに明示するための情報であり、関心領域の撮像画像データ上の位置座標に相当する、表示画像上の表示位置に重畳表示される。関心領域の指定が2点目以降であった場合は、表示データ生成部305は、前回指定された関心領域マークの位置と今回指定された関心領域マークの間の位置関係を明示するための動線のデータを関心領域マークと合わせて生成する。動線は2点の間を繋いだ直線であっても良いし、曲線であっても良い。曲線の場合は、前々回以前に指定された関心領域マークの位置、距離を更に考慮することが望ましい。曲線の求め方はどんな方法でも良いが、距離が長くかつ曲率半径の小さい曲線は、動線同士が干渉してユーザの判別が困難となるため望ましくない。
表示データ出力部306は、表示データを表示装置103に出力する機能を有する。出力される表示データの形式としては、RGB信号や輝度色差信号等、様々なものに対応する。また、表示装置103の解像度(画素数)にも任意に対応する。これらの設定は、接続する表示装置103を不図示の表示装置認識手段によって認識して変更できることが望ましいが、ユーザが設定しても良い。
操作情報入力部308は、ユーザが操作・設定した、マウスポインタの移動、操作決定、数値入力等の操作・設定情報を不図示の操作部から取得し、位置データ取得部307に出力する機能を有する。
位置データ取得部307は、ユーザが操作・設定した、マウスポインタの移動、操作決定、数値入力等の操作・設定情報に基づき下記のデータを生成する機能を有する。すなわち、位置データ取得部307は、表示画像データの取得領域と表示倍率、リスト画像データを生成する。更に、位置データ取得部307は、表示画像とリスト画像の画面上の表示領域、並びに、ポインタ画像と関心領域マークの画面上の表示位置座標を生成する。
関心領域マーク設定部313は、位置データ取得部307を構成する機能の一部であり、画面上のポインタ画像の表示位置座標と、表示画像データの取得領域、表示倍率、画面上の表示領域とに基づき、下記を実行する機能を有する。すなわち、関心領域の撮像画像データ上の位置座標の取得、表示倍率と関連付けたリストの生成、およびリスト画像データの生成、表示装置103の画面上の関心領域マークの表示位置座標の生成である。ここで取得される関心領域の位置座標は、関心領域内を代表する位置に対応する撮像画像データ上における位置座標であり、ここでは領域の先頭にあたる位置座標とする。また、関心領域マークの表示位置座標は、関心領域の撮像画像データ上の位置座標に相当する、表示装置103における表示画像上の表示位置座標として生成される。
取得データ領域算出部312は、位置データ取得部307を構成する機能の一部であり、表示を行う画像の、撮像画像データ上における位置座標と表示倍率と表示装置103における表示領域とによって、表示画像データの取得領域を算出する機能を有する。
図3の画像データ生成装置102は、上記の機能を用い、下記のように動作する。すなわち、画像データ入力部301が、撮像装置101が取得した撮像画像データを画像メモリ302に入力する。不図示の操作部からの指示に応じて、位置データ取得部307が、表示する画像の撮像画像データ上における位置座標を取得する。その後、表示データ生成部305が、画像メモリ302から該位置座標に相当する領域の画像データを取得し、表示データを生成し、生成された表示データを表示装置103に対して出力する。また、位置データ取得部307は、表示画像上で指定された関心領域に対応する撮像画像データ上における位置座標と、表示を行う倍率とを関連付けたリストを作成する。そして、該リストから、表示データとして生成したい画像データの撮像画像データ上における位置座標を選択できるようにする。更に、位置データ取得部307は、関心領域が指定された際に、指定された関心領域に対応する関心領域マークの表示位置座標を算出する。そして、表示データ生成部305に関心領域マークが更新された表示データを生成し、生成された表示データを表示装置103に対して出力する。
(スクリーニング作業)
図4(a)〜図4(d)は、本発明の第1の実施形態のスクリーニング作業時の表示画面構成例である。
図4(a)〜図4(d)は、本発明の第1の実施形態のスクリーニング作業時の表示画面構成例である。
図4(a)に示すように、スクリーニング作業時における表示装置103の表示画面401は、全体画像表示部402、観察画像表示部403、観察倍率表示部404、関心領
域情報表示部405で構成されている。表示装置103における表示領域は、不図示の操作部からユーザが任意に設定できる。また、不図示の操作部からのポインタの移動情報に応じて移動するポインタ画像406が表示されている。
域情報表示部405で構成されている。表示装置103における表示領域は、不図示の操作部からユーザが任意に設定できる。また、不図示の操作部からのポインタの移動情報に応じて移動するポインタ画像406が表示されている。
全体画像表示部402には、撮像装置101から取得した撮像画像データの全体を縮小した全体画像407と、観察画像表示部403に表示される観察倍率に応じた表示画像の領域指定枠408が表示されている。
観察画像表示部403には、ユーザによって指定された撮像画像データ上における位置座標に基づいた表示画像が、観察倍率表示部404で示された表示倍率で、観察画像409として表示されている。
観察倍率表示部404には、ユーザによって設定された表示倍率が表示されている。図4(a)においては、5倍の表示倍率が設定された例を示している。
観察画像表示部403には、ユーザによって指定された撮像画像データ上における位置座標に基づいた表示画像が、観察倍率表示部404で示された表示倍率で、観察画像409として表示されている。
観察倍率表示部404には、ユーザによって設定された表示倍率が表示されている。図4(a)においては、5倍の表示倍率が設定された例を示している。
関心領域情報表示部405には、関心領域のリストの画像が表示される。このリスト画像には、ユーザによって指定/設定された関心領域の情報が、指定/設定された順番に並べられている。リストの各項目が一つの関心領域に対応しており、各項目に表示される情報には、関心領域の撮像画像データ上の位置座標、関心領域表示倍率などが含まれる。ユーザは操作部を用いてリスト画像中の項目を選択可能である。なお図4(a)においては、まだ関心領域が一つも指定されていないので、関心領域情報表示部405には空のリストが表示されている。
関心領域は、操作部によりポインタ406を観察画像409上の該当位置に移動させ、ボタン押下等の所定の決定操作を行うことにより、指定することができる。その場合、ポインタ406で指定された観察画像409上の位置座標を撮像画像データ上の位置座標に換算することで、関心領域の位置座標が得られる。他にも、撮像画像データ上における位置座標値や表示画面401上における表示位置座標値を直接入力することで、関心領域を指定・設定できるようにしても良い。
図4(b)は、図4(a)の状態から1点目の関心領域が指定された際の表示画面401の例を示している。観察画像409上の1点目の関心領域に対応する位置に関心領域マーク410が表示されるとともに、全体画像407上の1点目の関心領域に対応する位置にも関心領域マーク411が表示されている。ここで、関心領域マーク410は、倍率5倍の観察画像409上のマークである。したがって、位置データ取得部307は、取得した関心領域の撮像画像データ上における位置座標と観察画像表示部403の表示領域と倍率5倍の情報とから、関心領域マーク410の表示装置103における表示位置座標を算出する。ポインタ406によって関心領域が指定される場合は、関心領域マークの表示位置座標は、ポインタ406の表示装置103における表示位置座標に一致する。また、表示画面401上における表示位置座標値を直接入力する構成とした場合は、関心領域マークの表示位置座標はその入力値に一致する。一方、関心領域マーク411は、全体画像407上のマークである。したがって、位置データ取得部307は、取得した関心領域の撮像画像データ上における位置座標と全体画像表示部402の表示領域と全体画像の縮小率の情報とから、関心領域マーク411の表示装置103における表示位置座標を算出する。
関心領域の指定がなされると、該関心領域を詳細に観察する際に用いる表示倍率(関心領域表示倍率)を入力するための関心領域表示倍率入力部412が表示される。図4(b)においては、関心領域表示倍率として20倍が入力された例を示している。また、関心領域情報表示部405に、ここで得られた1点目の関心領域の撮像画像データ上における位置座標と合わせて詳細観察用の関心領域表示倍率が、関心領域情報413として表示されている。なお、ここで入力される関心領域表示倍率は、ユーザが予め用意された候補リ
ストから選択できる構成とすると簡便なスクリーニング作業が行える。一方で、数値を直接入力できる構成として、適応的な倍率が入力できるようにしても良い。
ストから選択できる構成とすると簡便なスクリーニング作業が行える。一方で、数値を直接入力できる構成として、適応的な倍率が入力できるようにしても良い。
図4(c)は、図4(b)の状態から更に2点目の関心領域が指定された際の表示画面401の例を示している。図4(b)同様、2点目の観察画像409上の関心領域マーク414、全体画像407上の関心領域マーク415、詳細観察用の関心領域表示倍率416、および関心領域情報417が更新され、表示されている。関心領域マーク414、415の表示装置103における表示位置座標は、関心領域マーク410、411と同様に位置データ取得部307において算出される。また、関心領域マーク414が表示される際には、前に指定された関心領域マーク410の表示装置103における表示位置座標も同時に再算出される。一度算出した表示位置座標を関心領域に関連付けてリストに記憶しておき、そのリストから各関心領域マークの表示位置座標を取得する構成としてもよい。ただし、観察画像の表示領域や表示倍率が変わると、過去に算出した表示位置座標をそのまま用いることはできなくなるので、その場合はリストに記憶された表示位置座標をクリアするか再計算する。そして、2つの関心領域マーク410と414の座標に基づいて2点間をつないだ直線(動線)424のデータが表示データ生成部305において生成され、観察画像409上に更新され、表示されている。関心領域マーク411と415を結ぶ動線425も同様に生成し表示されている。
図4(d)は、図4(c)の状態から更に3点目の関心領域が指定された際の表示画面401の例を示している。図4(d)は、図4(c)で2点目の関心領域を指定した後に、観察画像の表示領域を右上方向に移動し、3点目の関心領域を指定した例である。
不図示の操作部から表示領域の移動が指示された場合は、移動後の表示領域に対応する撮像画像データ上の位置座標が更新され、更新した位置座標と表示倍率に基づき新たな観察画像418が生成し表示される。また、全体画像407上の、新たな観察画像418の表示領域に対応した位置に領域指定枠419が表示される。なお、表示領域の移動に伴い、1点目と2点目の関心領域マーク410、414およびその間の動線の移動先の表示位置座標も更新される。しかし、図4(d)では、いずれのマークおよび動線とも表示領域内にないので表示はされていない。表示領域の移動は、例えば、操作部により全体画像上の領域指定枠419をドラッグもしくはスクロールしたり、あるいは、観察画像をドラッグもしくはスクロールしたりすることで指示することができる。あるいは、移動後の表示領域の位置座標値を直接入力する構成をとってもよい。
図4(d)において3点目の関心領域が指定されると、観察画像418上の関心領域マーク420、全体画像407上の関心領域マーク421、詳細観察用の関心領域表示倍率422、および関心領域情報423が更新され、表示される。ここでは詳細観察用の関心領域表示倍率として、40倍が入力、指定された例を示している。関心領域マーク420、421の表示装置103における表示位置座標は、関心領域マーク410、411と同様に位置データ取得部307において算出される。また、関心領域マーク420が表示される際には、既に指定されている関心領域マーク410、414の表示位置座標も同時に再算出される。あるいは前述のように、過去に算出した表示位置座標がリストに記憶されている場合には、その表示位置座標を取得して利用することもできる。このとき、表示画面401への描画が明らかに不要な関心領域マークについては再算出を省略してもよい。
そして、指定された順に関心領域マークの間をつなぐ直線(動線)を描画するためのデータが表示データ生成部305において生成される。この結果、観察画像表示部403の表示領域内に存在している関心領域マーク420および414との間の動線の一部426が、観察画像409上に表示されている。関心領域マーク421および415の間の動線427も同様に表示されている。
スクリーニング作業においては、以上の表示動作が、全ての関心領域の指定が終わるまで繰り返され、複数の関心領域の指定が、簡便に、かつ集中的に行うことができる。また、関心領域を指定した順番が動線で明示されるので、関心領域の指定の経緯を確認しながら進めることができる。
図5は、本発明の第1の実施形態のスクリーニング作業時の表示画像データの生成を説明するフローチャートである。
ステップS501において、全体画像407を表示するための表示データが生成される。表示データ生成部305は、画像メモリ302から読み出された撮像画像データを、全体画像表示部402の表示領域に合わせて解像度変換し、全体画像データを生成する。なお、全体画像407のために解像度変換後の表示用データを予め用意しておくことで、ステップS501の処理を高速化もしくは省略することができる。
次に、ステップS502において、画像メモリ302から、表示する観察画像の領域の画像データが読み出され、観察画像データが生成される。この結果、図4(a)のように表示するための表示データが生成される。なお、後述するステップS505の結果を受けて、観察画像の表示領域を変更する際には、変更後の領域に対応する画像データを画像メモリ302から読み込み、新たな観察画像データを生成し、表示を更新する。
次に、ステップS503においては、関心領域マーク設定部313が、リスト内に記載済みの関心領域のデータがあるか否かを判断する。記載済みのデータがある場合はステップS504へ進み、記載済みのデータがない場合、すなわちユーザによる関心領域の指定がまだ1回もされていない場合はS505へ進む。
ステップS504では、関心領域マーク設定部313と表示データ生成部305により、関心領域マークおよび動線の更新が行われる。まず、関心領域マーク設定部313は、各関心領域の撮像画像データ上における位置座標をリストから取得し、それらに対応する関心領域マークの表示画面上の表示位置座標を算出する。算出された関心領域マークの表示位置座標は、リストに記載された順に、表示データ生成部305に渡される。表示データ生成部305は、隣り合う関心領域マークをリスト記載順(つまり指定順)につなぐための直線(動線)の表示位置座標を算出する。そして、表示データ生成部305は、算出された座標値の中から、観察画像表示部403の表示領域内に存在している座標値だけを抽出し、それらに基づいて関心領域マークおよび動線のデータを生成し、更新する。なお、関心領域マークの表示位置座標が関心領域と関連付けてリストに記憶されている場合には、表示位置座標を再算出せずに、リストから読み込んだ表示位置座標を用いても良い。
次に、ステップS505において、位置データ取得部307が、観察画像の表示領域の変更(表示領域の移動、表示倍率の変更など)の有無を判断する。変更があった場合はステップS502へ戻り、表示データが更新される。関心領域マークの表示位置座標がリストに記憶されている場合には、合わせて表示位置座標も更新するか、表示位置座標をクリアする。表示領域の変更がない場合には、ステップS506へ進む。
次に、ステップS506においては、位置データ取得部307(関心領域マーク設定部313)が、ユーザによる関心領域の指定があるか否かを判断する。指定がない場合はステップS509へ、指定がある場合はステップS507へそれぞれ進む。
関心領域の指定があった場合、ステップS507において、関心領域マーク設定部313が、ユーザに指定された関心領域に対応する撮像画像データ上における位置座標を取得
する。更に、関心領域マーク設定部313は、その関心領域の詳細観察用にユーザに設定された関心領域表示倍率を取得する。なお、関心領域表示倍率のデフォルトの値を設定しておいて、その値をそのまま使用する構成でも良い。例えば、5〜10倍の観察画像を用いてスクリーニングを行っている場合、詳細観察用に20倍を設定しておけば、特に変更のない場合はその設定値を使用することができる。仮に40倍での観察が必要な場合は、該当する関心領域のみ40倍の関心領域表示倍率を設定すれば良い。そして、関心領域マーク設定部313は、この関心領域の情報(撮像画像データ上における位置座標、関心領域表示倍率)を新たな項目としてリストに追加する。このとき、関心領域の指定順序が分かるようなデータ構造でリストが生成される(例えば、指定された順番に項目が配列されたデータ構造など)。そして、関心領域マーク設定部313は、新たに指定された関心領域の情報を関心領域情報表示部405に追加するため、更新後のリストの情報に基づきリスト画像データを生成し、表示データ生成部305に渡す。これにより、関心領域情報表示部405の表示が更新される。
する。更に、関心領域マーク設定部313は、その関心領域の詳細観察用にユーザに設定された関心領域表示倍率を取得する。なお、関心領域表示倍率のデフォルトの値を設定しておいて、その値をそのまま使用する構成でも良い。例えば、5〜10倍の観察画像を用いてスクリーニングを行っている場合、詳細観察用に20倍を設定しておけば、特に変更のない場合はその設定値を使用することができる。仮に40倍での観察が必要な場合は、該当する関心領域のみ40倍の関心領域表示倍率を設定すれば良い。そして、関心領域マーク設定部313は、この関心領域の情報(撮像画像データ上における位置座標、関心領域表示倍率)を新たな項目としてリストに追加する。このとき、関心領域の指定順序が分かるようなデータ構造でリストが生成される(例えば、指定された順番に項目が配列されたデータ構造など)。そして、関心領域マーク設定部313は、新たに指定された関心領域の情報を関心領域情報表示部405に追加するため、更新後のリストの情報に基づきリスト画像データを生成し、表示データ生成部305に渡す。これにより、関心領域情報表示部405の表示が更新される。
次に、ステップS508において、関心領域マーク設定部313と表示データ生成部305は、新たに指定された関心領域に対応する関心領域マークおよび動線の更新を行う。この工程の詳細は図6を用いて後述する。この結果、図4(b)〜図4(d)のような画面を表示するための表示データが生成される。
次に、ステップS509において、スクリーニング作業が完了したか否かを判断する。スクリーニング作業が完了した場合、すなわち、高倍による詳細観察へ作業が移行した場合や他の検体に対してスクリーニング作業を開始すべく別の検体画像の読み込み指示があった場合は、本表示データ生成の処理を終了する。スクリーニング作業が継続して行われていると判断された場合は、ステップS505へ戻り、観察画像の表示領域変更の待ち状態へと移行する。
ここで、以上のようにして作成されたリストをストレージ202に格納する構成としても良い。また、該リストをI/F203を介して、装置外部(他のコンピュータやネットワークストレージなど)に出力する構成としても良い。更に、リストは、撮像画像データのファイルと関連付けて管理できることが望ましい。関連付けの方法としては、リスト内に、撮像画像データのファイルの情報を記載しても良いし、撮像画像データのファイルにリストの情報を記載しても良い。
このようにリストが格納・出力できることで、スクリーニング作業によって得られた関心領域の情報を、別のユーザが使用することが可能となる。あるいは、過去のスクリーニング作業によって得られた関心領域の情報を、後で使用することが可能となる。更に、一度生成した関心領域マークの表示位置座標を、リストの各項目に対応させてリストに記載しておく構成とすると、リストから読み出す度に表示位置座標を再計算する必要がなくなる。ただしその場合は、倍率や表示装置103における表示領域が変更された際に、リスト内に格納した表示位置座標を合わせて更新するか、クリア(削除)する必要がある。
図6は、スクリーニング作業時の関心領域マークを生成または更新する工程(図5のステップS508)の詳しい処理を示すフローチャートである。
ステップS601において、関心領域マーク設定部313は、ステップS506で指定された新たな関心領域の撮像画像データ上における位置座標から、表示装置103における観察画像409上の表示位置座標と全体画像407上の表示位置座標を算出する。算出された各画像上の表示位置座標は、表示データ生成部305に引き渡される。
次に、ステップS602において、関心領域マーク設定部313はリスト内に前回指定
された関心領域のデータがあるか否かを判断する。データがある場合、すなわち2点目以降の関心領域の指定である場合はステップS603へ進み、データがない場合、すなわち1点目の関心領域の指定である場合はS604へ進む。
された関心領域のデータがあるか否かを判断する。データがある場合、すなわち2点目以降の関心領域の指定である場合はステップS603へ進み、データがない場合、すなわち1点目の関心領域の指定である場合はS604へ進む。
次に、S603において、関心領域マーク設定部313は1つ前に指定された関心領域に対応する撮像画像データ上における位置座標をリストから取得する。そして、関心領域マーク設定部313は表示装置103における観察画像上の表示位置座標および両座標に基づいて2点間をつないだ直線(動線)の、表示装置103における観察画像上の表示位置座標を算出する。同様に、関心領域マーク設定部313は全体画像407上の表示位置座標を算出する。なお、1つ前に指定された関心領域の表示位置座標が既に計算されており、その座標値を関心領域マーク設定部313又はリストから取得できる場合には、ステップS603ではその既に計算されている座標値を取得する(利用する)構成としても良い。
次に、ステップS604において、表示データ生成部305は、ステップS601およびステップS603で算出された各座標の内、観察画像表示部403の表示領域内に存在している座標に基づいて関心領域マークおよび動線のデータを生成し、更新する。同様に、全体画像407上の関心領域マークおよび動線のデータを生成し、更新する。
なお、表示する動線の形態は、1つ前に指定された関心領域から新たに指定された関心領域に向けた矢印にしてもよい。矢印によって、動線の始点側と終点側とを視覚的に容易に区別できるため、ユーザが関心領域を指定した経過を把握し易くすることができる。始点側と終点側を区別可能な表示形態としては、矢印に限らず、線幅、色の変化(グラデーション等)、アニメーションによっても実現することができる。
なお、表示する動線の形態は、1つ前に指定された関心領域から新たに指定された関心領域に向けた矢印にしてもよい。矢印によって、動線の始点側と終点側とを視覚的に容易に区別できるため、ユーザが関心領域を指定した経過を把握し易くすることができる。始点側と終点側を区別可能な表示形態としては、矢印に限らず、線幅、色の変化(グラデーション等)、アニメーションによっても実現することができる。
(詳細観察)
図7(a)〜図7(d)は、本発明の第1の実施形態の詳細観察時の表示画面構成の例である。
図7(a)〜図7(d)は、本発明の第1の実施形態の詳細観察時の表示画面構成の例である。
図7(a)に示すように、詳細観察時における表示装置103の表示画面401は、スクリーニング作業時のものと同様に、全体画像表示部402、観察画像表示部403、観察倍率表示部404、および関心領域情報表示部405で構成されている。表示装置103上における表示領域は、不図示の操作部からユーザが任意に設定できる。また、不図示の操作部からのポインタの移動情報に応じて移動するポインタ画像406が表示されている。
全体画像表示部402には、撮像装置101から取得した撮像画像データの全体を縮小した全体画像407が表示されている。そして、全体画像407上には、スクリーニング作業時に作成・更新された関心領域マークおよび動線818が表示されている。
関心領域情報表示部405には、スクリーニング時に生成された関心領域の情報がリスト表示されている。このリスト801には、ユーザによって指定/設定された関心領域の情報が、指定/設定された順番に並べられている。リストの各項目が一つの関心領域に対応しており、各項目に表示される情報には、関心領域の撮像画像データ上の位置座標、関心領域表示倍率などが含まれる。ユーザは、操作部を用いてリスト801から詳細観察を行いたい項目を選択可能である。リスト801から項目を選択するのではなく、ユーザが、リストに表示されている情報を参照しつつ、詳細観察を行いたい領域の座標や表示倍率を直接入力できる構成としても良い。
観察画像表示部403には、ユーザによってリストから選択された関心領域に対応する領域の拡大表示画像が表示される。図7(a)においては、関心領域がまだ選択されてい
ないため何も表示されない状態となっている。もしくは、初期状態(関心領域が選択されていない状態)では、スクリーニング時に表示を行っていた10倍程度の低倍像を表示する構成にしても良い。
ないため何も表示されない状態となっている。もしくは、初期状態(関心領域が選択されていない状態)では、スクリーニング時に表示を行っていた10倍程度の低倍像を表示する構成にしても良い。
観察倍率表示部404には、ユーザによってリストから選択された関心領域の詳細観察用の関心領域表示倍率が表示される。図7(a)においては、関心領域がまだ選択されていないので空欄となっている。もしスクリーニング時に表示を行っていた10倍程度の低倍像を表示している場合は、10倍と表示する。
図7(b)は、図7(a)の状態から1点目の関心領域が選択された表示画面401の例を示している。リスト801上で選択された1点目の関心領域に対応する項目802が、ハイライト表示されている。また、観察画像表示部403に、該選択された1点目の関心領域に対応する拡大表示画像803が、対応する関心領域表示倍率で表示されている。なお、関心領域表示倍率は、関心領域をリスト化する際に合わせて格納した詳細観察用の表示倍率である。ここで1点目の拡大表示画像803は、選択された関心領域が1点であるため、観察画像表示部403の全表示領域をすべて使用して表示される。また、観察倍率表示部404に、1点目の関心領域の詳細観察用の関心領域表示倍率804が表示されている。図7(b)においては、該表示倍率が20倍であった例を示している。また、全体画像407上の1点目の関心領域に対応する位置の関心領域マーク805が強調表示されている。
図7(c)は、図7(b)の状態から2点目の関心領域が選択された表示画面401の例を示している。リスト801上の、2点目の関心領域に対応する項目806が更にハイライト表示され、全体画像407上の、2点目の関心領域マーク807が追加で強調表示されている。一方、観察画像表示部403には、1点目および2点目の関心領域に対応する拡大表示画像808、809が、それぞれに対応する関心領域表示倍率で並べて表示されている。ここで、それぞれの拡大表示画像は、選択された関心領域が2点あるため、観察画像表示部403の全表示領域を半分に分割して表示される。また、観察倍率表示部404はそれぞれの拡大表示画像領域上に表示され、それぞれの関心領域表示倍率810、811が表示されている。
図7(d)は、図7(c)の状態から更に2点の関心領域が選択された表示画面の例を示している。図7(c)同様、リスト801上の、3点目、4点目の関心領域に対応する項目812、813が追加でハイライト表示され、全体画像407上の、計4点の関心領域マークが強調表示されている。一方、観察画像表示部403には、1点目〜4点目の関心領域に対応する拡大表示画像814、815、816、817が、それぞれに対応する関心領域表示倍率で並べて表示されている。ここで、それぞれの拡大表示画像は、観察画像表示部403の全表示領域を四分割して表示される。また、観察倍率表示部404がそれぞれの拡大表示画像領域上に表示され、それぞれの関心領域表示倍率が表示されている。
詳細観察の作業においては、以上の表示動作が、ユーザによる関心領域の選択によって繰り返され、複数の関心領域の詳細観察を、同時に行うことができる。また、スクリーニング時に関心領域が指定された順番を示す動線を重畳表示した全体画像を詳細観察用の画像に並べて表示することで、スクリーニングの経過を確認しながら詳細な診断を行うことができる。
図8は、本発明の第1の実施形態の詳細観察時の表示データの生成を説明するフローチャートである。
まず、ステップS901において、位置データ取得部307は、ユーザにより関心領域
のリストからいずれかの関心領域が選択されたか否かを判断する。関心領域が選択された場合はステップS902へ進む。関心領域が選択されない場合は本詳細観察用の表示画像データ生成の処理を終了する。
まず、ステップS901において、位置データ取得部307は、ユーザにより関心領域
のリストからいずれかの関心領域が選択されたか否かを判断する。関心領域が選択された場合はステップS902へ進む。関心領域が選択されない場合は本詳細観察用の表示画像データ生成の処理を終了する。
次に、ステップS902において、位置データ取得部307は、関心領域のリストから、ユーザに選択された関心領域に対応する撮像画像データ上における位置座標を取得する。続いて、ステップS903において、位置データ取得部307は、関心領域のリストから、ユーザに選択された関心領域に対応する関心領域表示倍率を取得する。
次に、ステップS904において、表示画像データ取得部303は、画像メモリ302から、位置データ取得部307が取得した位置座標と関心領域表示倍率から算出した領域に基づいて、ユーザに選択された拡大表示画像の領域に対応する画像データを読み出す。その後、表示データ生成部305は、表示画像データ取得部303を介して、拡大表示された観察画像データを反映した表示データを生成する。
最後に、ステップS905において、追加で選択される関心領域の有無が判断される。追加の選択があった場合はステップS902へ戻り、詳細観察用の拡大表示画像データの生成を以後繰り返し行う。追加での選択がなかった場合は、本詳細観察用の表示画像データ生成の処理を終了する。こうして生成された表示画像データを用いて、図7(d)に示される詳細観察の画面を表示する。
ところで、詳細観察時の表示画面に提示するリストは、詳細観察の前段階で行われたスクリーニング作業で作成されメモリ201内に格納されているリスト情報をもとに生成するのが通常である。しかし、過去に行われたスクリーニング作業や、別の場所(別の装置)で行われたスクリーニング作業において生成されたリスト情報を、ストレージ202から読み込んだり、あるいはI/F203を介して装置外部から取得したりできる構成としても良い。更に、メモリ201内に格納されている撮像画像データが、リストと関連付けられている撮像画像データと一致しない場合に、撮像画像データを再入力する構成とすることが望ましい。
このようにリスト情報を読み出し・入力できることで、スクリーニング作業によって得られた関心領域の情報を使用して、別のユーザが詳細観察を行うことが可能となる。あるいは、過去のスクリーニング作業によって得られた関心領域の情報を再利用して、詳細観察を行うことが可能となる。ここで、このようにリストから読み出した情報に基づいて詳細観察の作業を行う場合は、ステップS901の前に、リストおよび全体画像上の関心領域マーク・動線のデータを生成・更新し、図7(a)に示す表示画像を表示可能とすることが望ましい。
以上に記載した第1の実施形態の構成および動作によって、ユーザは、病理診断のスクリーニング作業における複数の関心領域の指定を、関心領域の指定の経緯を確認しながら進めることができる。また、詳細観察の作業における複数の関心領域の選択を、スクリーニングの経過を確認しながら行うことができる。その結果、スクリーニングや関心領域の選択の過不足を防止することができ、画面操作を簡便とし、作業効率を向上させることが可能となる。また、スクリーニング作業者の指定プロセスが再現できるため、例えばベテラン病理医が生成したリストを新人の病理教育に応用することが可能となる。
<第2の実施形態>
本発明を実現する第2の実施の形態を図に従って説明する。
本発明を実現する第2の実施の形態を図に従って説明する。
第1の実施形態においては、スクリーニング作業時や詳細観察の作業時に、関心領域が
指定された順番を示す動線を表示する例を示した。本実施形態では、関心領域マークと動線とを、関心領域が指定された順にしたがって、一つずつ(もしくは、関心領域の数が多い場合は複数個ずつ)順番に表示画像上に描画していく機能を設ける。つまり、ユーザがスクリーニング作業において関心領域を指定した経過を再現表示するという機能である。このとき、描画の順序だけでなく、各関心領域マークの表示(描画)を行う時間間隔を、スクリーニング作業において各関心領域が実際に指定された時間間隔に合わせて調整すると良い。これによりスクリーニング作業者の意図を忠実に再現できるからである。以下に述べる第2の実施形態では、関心領域の指定順序と指定時間間隔の両方を再現する例を示す。
指定された順番を示す動線を表示する例を示した。本実施形態では、関心領域マークと動線とを、関心領域が指定された順にしたがって、一つずつ(もしくは、関心領域の数が多い場合は複数個ずつ)順番に表示画像上に描画していく機能を設ける。つまり、ユーザがスクリーニング作業において関心領域を指定した経過を再現表示するという機能である。このとき、描画の順序だけでなく、各関心領域マークの表示(描画)を行う時間間隔を、スクリーニング作業において各関心領域が実際に指定された時間間隔に合わせて調整すると良い。これによりスクリーニング作業者の意図を忠実に再現できるからである。以下に述べる第2の実施形態では、関心領域の指定順序と指定時間間隔の両方を再現する例を示す。
図9は、本発明の第2の実施形態の画像データ生成装置を含む画像処理システムの構成図である。
図9のシステムは、画像サーバ(画像記憶装置)1201、画像データ生成装置1202、表示装置103から構成され、表示対象となる検体(被検試料)の二次元画像を取得し表示する機能を有するシステムである。画像サーバ1201と画像データ生成装置1202と表示装置103の間は、ネットワーク1203を介して、汎用のLANケーブル1204で接続される。あるいは、画像サーバ1201と画像データ生成装置1202の間、または画像データ生成装置1202と表示装置103の間は、図1に示した104や105といった汎用I/Fのケーブルで接続される構成としても良い。
図9のシステムは、画像サーバ(画像記憶装置)1201、画像データ生成装置1202、表示装置103から構成され、表示対象となる検体(被検試料)の二次元画像を取得し表示する機能を有するシステムである。画像サーバ1201と画像データ生成装置1202と表示装置103の間は、ネットワーク1203を介して、汎用のLANケーブル1204で接続される。あるいは、画像サーバ1201と画像データ生成装置1202の間、または画像データ生成装置1202と表示装置103の間は、図1に示した104や105といった汎用I/Fのケーブルで接続される構成としても良い。
画像サーバ1201は、二次元画像の撮像機能を持つ撮像装置101により撮像された検体の二次元画像データを保存する機能を有する。画像データ生成装置1202は、撮像済みの二次元画像データを画像サーバ1201から取得し、病理診断に適した画像や情報を表示するための表示データを生成する機能を有する。この機能を実現するための画像データ生成装置1202の構成は、図1、図2において説明した画像データ生成装置102と同様であり、説明は省略する。
図10は、本発明の第2の実施形態の画像データ生成装置1202の機能ブロック図である。図10の画像データ生成装置1202は、位置データ取得部307に時刻取得部311が追加されていること以外は、図3において説明した画像データ生成装置102と同様の機能ブロックで構成される。
時刻取得部311は、位置データ取得部307を構成する機能の一部であり、関心領域マーク設定部313が関心領域に対応する位置座標を取得した時刻を取得する機能を有する。また、時刻取得部311は、リストから関心領域を選択して該関心領域の取得時刻を読み出し、該関心領域に対応する位置座標の読み出し・次の関心領域の選択を行う時刻を設定する機能を有する。
関心領域マーク設定部313は、図3において説明した機能に加え、関心領域に対応する位置座標に対しそれぞれの取得時刻を更に関連付けてリストを生成する機能を有する。また、関心領域マーク設定部313は、時刻取得部311が設定した時刻に応じて、表示画像データ、関心領域マークおよび動線を生成するために参照する位置座標をリストから読み出す機能を有する。
図10の画像データ生成装置1202は、上記の機能を用い、下記のように動作する。すなわち、画像データ入力部301が、画像サーバ1201に保存された撮像画像データを画像メモリ302に入力する。不図示の操作部からの指示に応じて、位置データ取得部307が、表示する画像の撮像画像データ上における位置座標を取得する。その後、表示データ生成部305が、画像メモリ302から該位置座標に相当する領域の画像データを取得し、表示データを生成し、生成された表示データを表示装置103に対して出力する
。また、位置データ取得部307は、表示画像上で指定された関心領域に対応する撮像画像データ上における位置座標と、該位置座標の取得時刻とを関連付けたリストを作成する。そして、該リストから、表示データとして生成したい画像データの撮像画像データ上における位置座標を選択できるようにする。更に、位置データ取得部307は、リストから、関心領域に対応する位置座標の取得時刻を読み出す。そして、該取得時刻に応じた間隔で、表示画像、関心領域マークおよび動線を生成するために参照する位置座標をリストから順次読み出す。そして、表示データ生成部305によって表示画像や関心領域マークおよび動線が更新された表示データを順次生成し、生成された表示データを表示装置103に対して出力する。
。また、位置データ取得部307は、表示画像上で指定された関心領域に対応する撮像画像データ上における位置座標と、該位置座標の取得時刻とを関連付けたリストを作成する。そして、該リストから、表示データとして生成したい画像データの撮像画像データ上における位置座標を選択できるようにする。更に、位置データ取得部307は、リストから、関心領域に対応する位置座標の取得時刻を読み出す。そして、該取得時刻に応じた間隔で、表示画像、関心領域マークおよび動線を生成するために参照する位置座標をリストから順次読み出す。そして、表示データ生成部305によって表示画像や関心領域マークおよび動線が更新された表示データを順次生成し、生成された表示データを表示装置103に対して出力する。
図11は、スクリーニング作業時に生成される関心領域のリストの形式例である。
図11に示すように、スクリーニング作業時に生成される関心領域のリスト801は、項目ごとに項目番号欄1101、関心領域座標欄1102、関心領域表示倍率欄1103、取得時刻欄1104から構成されている。このリスト801を生成するスクリーニング作業のフローは、図5のステップS507において、関心領域に対応する位置座標の取得時刻を取得し、該取得時刻とも関連付けてリストを作成する点が追加される以外は、図5のフローと同様で実現できる。
図11に示すように、スクリーニング作業時に生成される関心領域のリスト801は、項目ごとに項目番号欄1101、関心領域座標欄1102、関心領域表示倍率欄1103、取得時刻欄1104から構成されている。このリスト801を生成するスクリーニング作業のフローは、図5のステップS507において、関心領域に対応する位置座標の取得時刻を取得し、該取得時刻とも関連付けてリストを作成する点が追加される以外は、図5のフローと同様で実現できる。
項目番号欄1101には、関心領域を取得した順番で、通し番号が生成され記載される。図4(b)等では関心領域マークを丸図形で表示したが、その代わりに、この番号が関心領域マークとして観察画像や全体画像に重畳表示される構成としても良い。また、関心領域マークとして、項目が区別できるアルファベットや図形を表示しても良い。関心領域座標欄1102には、項目番号に関連付けて、取得した関心領域に対応する撮像画像データ上における位置座標が行ごとに記載される。関心領域表示倍率欄1103には、項目番号に関連付けて、取得した関心領域に対応する関心領域表示倍率が行ごとに記載される。取得時刻欄1104には、項目番号に関連付けて、関心領域に対応する位置座標の取得時刻が行ごとに記載される。図11においては、取得時刻として、スクリーニング作業開始時刻からの経過秒数が記載された例を示しているが、どの時点を基準とした時刻を記載する構成としても良い。また、秒数で記載されることには限定されない。
図11は、リスト情報のデータ構造の一例を模式的に示すものであり、また、関心領域情報表示部405に表示されるリスト画像の一例を示すものでもある。なお、リスト画像中に表示しない情報をリスト情報にもたせることもできる。例えば、リスト画像の各項目が表示される表示装置103上の表示位置座標を、項目番号に関連付けてリスト情報内に記載・管理してもよい。この座標情報は、例えば、マウスポインタでリスト画像が押されたときに、いずれの項目が選択されたかの判断に利用することができる。なお、マウスポインタの位置にリスト画像が存在しているか否かの判断は、一般的な描画装置等で使用されているような、描画済みの図形を選択可能とする方法を使用すれば良い。更に、一度計算した関心領域マークの表示位置座標をリスト情報に記載しておくと、関心領域マークを表示するたびに表示位置座標を再計算する必要がなくなる。ただし表示位置座標をリスト情報に書き込む場合は、倍率や表示装置103における表示領域が変更された際に、リスト情報内の表示位置座標を更新する必要がある。
図12は、本発明の第2の実施形態における動線の再現表示時の表示画像データの生成を説明するフローチャートである。
まず、ステップS1301において、表示データ生成部305が全体画像データを生成し、観察画像表示部403に全体画像を表示するための表示データを更新する。このフローは、図5のステップS501と同じ処理でよい(ただし、観察画像表示部403が表示先となるので、観察画像表示部403の解像度に合わせて全体画像が生成される。)。
次に、ステップS1302において、時刻取得部311は、リスト内に次の項目番号に関連付けられたデータ行があるか否かを判断する。次のデータ行がある場合は該データ行を選択してステップS1303へ進み、次のデータ行がない場合は動線の再現表示を終了する。
次に、ステップS1303において、時刻取得部311は、ステップS1302で選択されたデータ行から、取得時刻を読み出す。
次に、ステップS1304において、時刻取得部311は、ステップS1303で読み出した取得時刻に基づいてタイマをセットし、カウントダウンを開始する。タイマの開始値には、前回の取得時刻との差分を使用する。あるいは、該差分を任意の定数倍した値としても良い。
次に、ステップS1305において、時刻取得部311は、タイマ値が0になったか否かを判断する。0になった場合は、関心領域マーク設定部313は、ステップS1302で選択されたデータ行から関心領域に対応する撮像画像データ上における位置座標を読み出してステップS1306へ進み、0でない場合はステップS1305に戻りタイマ値の監視を繰り返す。
次に、ステップS1306において、表示データ生成部305は、関心領域マークおよび動線が更新された表示画像データを生成し、表示データを更新する。このフローは、ステップS1305において読み出した撮像画像データ上における位置座標に基づき、図6のステップ601〜604と同様に行われる。その後、ステップS1301へ戻り、リスト内の次のデータ行の検索を以後繰り返し行う。
なお、指定順序のみを再現する場合は、ステップS1303〜S1306における時刻に関する工程は行わず、ステップS1302でデータ行を選択した後、ステップS1306において、関心領域に対応する撮像画像データ上における位置座標を読み出すフローとすれば良い。この場合、関心領域マークおよび動線の更新が一定の時間間隔で行われるようにしてもよい。
なお、指定順序のみを再現する場合は、ステップS1303〜S1306における時刻に関する工程は行わず、ステップS1302でデータ行を選択した後、ステップS1306において、関心領域に対応する撮像画像データ上における位置座標を読み出すフローとすれば良い。この場合、関心領域マークおよび動線の更新が一定の時間間隔で行われるようにしてもよい。
あるいは、観察画像表示部403に、全体画像の代わりに、ステップS1305において読み出した撮像画像データ上における位置座標の詳細観察用の画像を表示可能とする構成としてもよい。この場合は、図8のフローにおいて、ユーザによる選択の代わりに、ステップS1302における選択が行われたものとすれば良い。更には、選択されるごとに詳細観察用の画像が追加表示されるのではなく、現在選択されている関心領域の詳細観察用の画像に順次変更される構成としても良い。あるいは、関心領域の指定時に表示されていた観察用画像を表示し、この画像上にも関心領域マークおよび動線を表示可能とする構成としても良い。この場合は、関心領域の指定時に表示されていた観察用画像の領域を表す情報を、該関心領域に関連付けてリストに記載しておく必要がある。
以上に記載した第2の実施形態の構成および動作によって、ユーザは、スクリーニング作業において複数の関心領域を順に指定していった経過を、指定された順に、かつ、指定された時刻に応じた時間間隔で再現確認することができる。その結果、「スクリーニング作業者がどこの関心領域の指定にどの程度の時間をかけたか」等の指定プロセスまで忠実に再現できるため、更に的確に病理教育に応用することが可能となる。
<第3の実施形態>
本発明を実現する第3の実施の形態を図に従って説明する。
第2の実施形態においては、関心領域マークと動線とを、関心領域が指定された順序や
時間間隔にしたがって、順番に表示画像上に描画していく例を示した。本実施形態では、スクリーニング作業者に指定された一連の関心領域の中から、特定の関心領域の動線を選択して表示する機能を設ける。
装置構成としては、第1および第2の実施形態で説明してきたものと同等で実現できるため、詳細な説明は省略する。
本発明を実現する第3の実施の形態を図に従って説明する。
第2の実施形態においては、関心領域マークと動線とを、関心領域が指定された順序や
時間間隔にしたがって、順番に表示画像上に描画していく例を示した。本実施形態では、スクリーニング作業者に指定された一連の関心領域の中から、特定の関心領域の動線を選択して表示する機能を設ける。
装置構成としては、第1および第2の実施形態で説明してきたものと同等で実現できるため、詳細な説明は省略する。
図13(a)、図13(b)は、本発明の第3の実施形態における特定の動線表示時の表示画面構成の例である。
図13(a)に示すように、第3の実施形態における表示装置103の表示画面401は、第1の実施形態のものと同様に、全体画像表示部402、観察画像表示部403、観察倍率表示部404、および関心領域情報表示部405で構成されている。表示装置103上における表示領域は、不図示の操作部からユーザが任意に設定できる。また、不図示の操作部からのポインタの移動情報に応じて移動するポインタ画像406が表示されている。
図13(a)に示すように、第3の実施形態における表示装置103の表示画面401は、第1の実施形態のものと同様に、全体画像表示部402、観察画像表示部403、観察倍率表示部404、および関心領域情報表示部405で構成されている。表示装置103上における表示領域は、不図示の操作部からユーザが任意に設定できる。また、不図示の操作部からのポインタの移動情報に応じて移動するポインタ画像406が表示されている。
全体画像表示部402には、撮像装置101から取得した撮像画像データの全体を縮小した全体画像701が表示されている。そして、全体画像701上には、スクリーニング作業時に作成・更新された関心領域マークが表示されている。初期状態では、動線は表示されない。
関心領域情報表示部405には、スクリーニング時に生成された関心領域の情報がリスト表示されている。ユーザは、操作部を用いてリストから詳細観察を行いたい項目を選択可能である。リストから項目を選択するのではなく、ユーザが、リストに表示されている情報を参照しつつ、動線表示を行いたい領域の座標を直接入力できる構成としても良い。
関心領域情報表示部405には、スクリーニング時に生成された関心領域の情報がリスト表示されている。ユーザは、操作部を用いてリストから詳細観察を行いたい項目を選択可能である。リストから項目を選択するのではなく、ユーザが、リストに表示されている情報を参照しつつ、動線表示を行いたい領域の座標を直接入力できる構成としても良い。
図13(a)は、上記ように構成される表示画面401において、関心領域が1点選択された例を示している。すなわち、リスト上で選択された関心領域に対応する項目702が、強調表示されている。また、全体画像701上の、選択された関心領域に対応する位置の関心領域マーク703に接続される動線が追加表示されている。
ここで、観察画像表示部403には、該選択された関心領域に対応する拡大表示画像803が、対応する関心領域表示倍率で表示されている。拡大表示画像803は、観察画像表示部403の全表示領域をすべて使用して表示しているが、追加表示した動線と繋がる領域の拡大表示画像を、図7(d)のごとく同時に(空間的に並べて)表示しても良い。あるいは、観察画像表示部403に、全体画像701を表示しても良い。この場合は、観察画像表示部403の解像度に合わせた全体画像を生成する。
ここで、観察画像表示部403には、該選択された関心領域に対応する拡大表示画像803が、対応する関心領域表示倍率で表示されている。拡大表示画像803は、観察画像表示部403の全表示領域をすべて使用して表示しているが、追加表示した動線と繋がる領域の拡大表示画像を、図7(d)のごとく同時に(空間的に並べて)表示しても良い。あるいは、観察画像表示部403に、全体画像701を表示しても良い。この場合は、観察画像表示部403の解像度に合わせた全体画像を生成する。
図14は、本発明の第3の実施形態における特定の動線表示時の表示画像データの生成を説明するフローチャートである。
ステップS1401〜S1403の工程は、図12で説明した、本発明の第2の実施形態における動線の指定順序の再現表示時のフローチャートのステップS1301,S1302,S1306と同等で実現できる。すなわち、ステップS1401において、表示データ生成部305が全体画像データを生成し、観察画像表示部403に全体画像を表示する。
ステップS1401〜S1403の工程は、図12で説明した、本発明の第2の実施形態における動線の指定順序の再現表示時のフローチャートのステップS1301,S1302,S1306と同等で実現できる。すなわち、ステップS1401において、表示データ生成部305が全体画像データを生成し、観察画像表示部403に全体画像を表示する。
次に、ステップS1402において、位置データ取得部307は、リスト内に次の項目番号に関連付けられたデータ行があるか否かを判断する。次のデータ行がある場合は該データ行を選択してステップS1403へ進み、次のデータ行がない場合は一連の関心領域マークの追加を終了し、ステップS1404へ進む。
次に、ステップS1403において、位置データ取得部307は、ステップS1402で選択されたデータ行から、関心領域に対応する撮像画像データ上における位置座標を読み出す。そして、表示データ生成部305は、関心領域マークが更新された表示画像デー
タを生成し、表示データを更新する。この時点では、表示画像への動線の追加は行わない。その後、ステップS1402へ戻り、リスト内の次のデータ行の検索を以後繰り返し行う。
次に、ステップS1404において、ユーザに選択された関心領域に接続される動線が追加された表示画像データを生成・更新する。この工程の詳細は図15を用いて後述する。この結果、図13(a)のような画面を表示するための表示データに更新される。
次に、ステップS1403において、位置データ取得部307は、ステップS1402で選択されたデータ行から、関心領域に対応する撮像画像データ上における位置座標を読み出す。そして、表示データ生成部305は、関心領域マークが更新された表示画像デー
タを生成し、表示データを更新する。この時点では、表示画像への動線の追加は行わない。その後、ステップS1402へ戻り、リスト内の次のデータ行の検索を以後繰り返し行う。
次に、ステップS1404において、ユーザに選択された関心領域に接続される動線が追加された表示画像データを生成・更新する。この工程の詳細は図15を用いて後述する。この結果、図13(a)のような画面を表示するための表示データに更新される。
図15は、ユーザに選択された関心領域に接続される動線が追加された表示画像データを生成する工程の詳しい処理を説明するフローチャートである。
ステップS1501において、位置データ取得部307は、ユーザにより関心領域のリストからいずれかの関心領域が選択されたか否かを判断する。関心領域が選択された場合はステップS1502へ進む。関心領域が選択されない場合は動線が追加された表示画像データ生成の処理を終了する。
次に、ステップS1502において、位置データ取得部307は、関心領域のリストから、ユーザに選択された関心領域に対応する撮像画像データ上における位置座標を取得する。
ステップS1501において、位置データ取得部307は、ユーザにより関心領域のリストからいずれかの関心領域が選択されたか否かを判断する。関心領域が選択された場合はステップS1502へ進む。関心領域が選択されない場合は動線が追加された表示画像データ生成の処理を終了する。
次に、ステップS1502において、位置データ取得部307は、関心領域のリストから、ユーザに選択された関心領域に対応する撮像画像データ上における位置座標を取得する。
次に、ステップS1503において、位置データ取得部307は、リスト内に1つ前の項目番号に関連付けられたデータ行があるか否かを判断する。前のデータ行がある場合は該データ行を選択してステップS1504へ進み、前のデータ行がない場合はステップS1505へ進む。
次に、ステップS1504において、位置データ取得部307は、関心領域のリストから、前の行として選択された関心領域に対応する撮像画像データ上における位置座標を取得する。
次に、ステップS1504において、位置データ取得部307は、関心領域のリストから、前の行として選択された関心領域に対応する撮像画像データ上における位置座標を取得する。
次に、ステップS1505において、位置データ取得部307は、リスト内に次の項目番号に関連付けられたデータ行があるか否かを判断する。次のデータ行がある場合は該データ行を選択してステップS1506へ進み、次のデータ行がない場合はステップS1507へ進む。
次に、ステップS1506において、位置データ取得部307は、関心領域のリストから、次の行として選択された関心領域に対応する撮像画像データ上における位置座標を取得する。
次に、ステップS1506において、位置データ取得部307は、関心領域のリストから、次の行として選択された関心領域に対応する撮像画像データ上における位置座標を取得する。
次に、ステップS1507において、表示データ生成部305は、位置データ取得部307がステップS1502、S1504、S1506で取得した座標に基づいて、ユーザが選択した関心領域に接続される動線データを生成し、表示画像データを生成する。そして、表示画像データを反映させた表示データを更新する。これにより、ユーザが選択した関心領域とその前後の関心領域とを結んだ動線が表示される。
最後に、ステップS1508において、追加で選択される関心領域の有無が判断される。追加の選択があった場合はステップS1502へ戻り、動線の追加された表示画像データの生成を以後繰り返し行う。追加での選択がなかった場合は、動線が追加された表示画像データの生成処理を終了する。
なお、観察画像表示部403に、該選択された関心領域に対応する拡大表示画像803を表示する場合は、ステップS1503〜S1507の工程において、図8に示したステップS902〜S904の工程を組み合わせれば良い。
最後に、ステップS1508において、追加で選択される関心領域の有無が判断される。追加の選択があった場合はステップS1502へ戻り、動線の追加された表示画像データの生成を以後繰り返し行う。追加での選択がなかった場合は、動線が追加された表示画像データの生成処理を終了する。
なお、観察画像表示部403に、該選択された関心領域に対応する拡大表示画像803を表示する場合は、ステップS1503〜S1507の工程において、図8に示したステップS902〜S904の工程を組み合わせれば良い。
以上に記載した第3の実施形態の構成および動作によって、ユーザは、特定の関心領域について着目して、スクリーニング作業者に指定された動線を確認することができる。その結果、一連の関心領域の中から、特定の関心領域が指定された順序を振り返りあるいは予測し、実際に指定された順序と比較することができるため、更に的確に病理教育に応用
することが可能となる。
することが可能となる。
<第4の実施形態>
本発明を実現する第4の実施の形態を図に従って説明する。
本実施形態では、スクリーニング作業者が関心領域を指定した際の条件に基づいて、関心領域の動線の重要度を判定して、その結果を明示する機能を設ける。
例えば、スクリーニング作業時に、次の関心領域を指定するまでの時間間隔が他の領域を指定するまでの時間間隔よりも長かった場合、当該領域付近にはスクリーニング作業者が関心領域とするか否かの判断を迷わせる重要な特徴が存在している可能性が高い。本実施形態では、次の関心領域を指定するまでの時間間隔を条件として重要度判定を行う例について説明する。
装置構成としては、位置データ取得部307以外は、第1および第2の実施形態で説明してきたものと同等で実現できるため、詳細な説明は省略する。
本発明を実現する第4の実施の形態を図に従って説明する。
本実施形態では、スクリーニング作業者が関心領域を指定した際の条件に基づいて、関心領域の動線の重要度を判定して、その結果を明示する機能を設ける。
例えば、スクリーニング作業時に、次の関心領域を指定するまでの時間間隔が他の領域を指定するまでの時間間隔よりも長かった場合、当該領域付近にはスクリーニング作業者が関心領域とするか否かの判断を迷わせる重要な特徴が存在している可能性が高い。本実施形態では、次の関心領域を指定するまでの時間間隔を条件として重要度判定を行う例について説明する。
装置構成としては、位置データ取得部307以外は、第1および第2の実施形態で説明してきたものと同等で実現できるため、詳細な説明は省略する。
図22は、本発明の第4の実施形態における位置データ取得部307の機能ブロック図である。図22の位置データ取得部307は、重要度判定部2201が追加されていること以外は、図10において説明した位置データ取得部307と同様の機能ブロックで構成される。
重要度判定部2201は、関心領域の指定時に、リストから、今回新たに更新されたデータ行および1つ前のデータ行に記載されている取得時刻を読み出し、その両取得時刻の差異から重要度を判定する機能を有する。また、重要度判定部2201は、関心領域マークおよび動線を再現表示する時に、リストから順次データ行を選択し、選択したデータ行および1つ前のデータ行に記載されている取得時刻を読み出し、その両取得時刻の差異から順次重要度を判定する機能を有する。第2の実施形態と同様、ここで使用する取得時刻は、どの時点を基準とした時刻であっても良い。
関心領域マーク設定部313は、図10で説明した機能に加え、重要度判定部2201により判定された重要度に応じて、表示データ生成部305によって全体画像407上に反映させる関心領域マークおよび動線の表示方法を決定する機能を有する。
重要度判定部2201は、関心領域の指定時に、リストから、今回新たに更新されたデータ行および1つ前のデータ行に記載されている取得時刻を読み出し、その両取得時刻の差異から重要度を判定する機能を有する。また、重要度判定部2201は、関心領域マークおよび動線を再現表示する時に、リストから順次データ行を選択し、選択したデータ行および1つ前のデータ行に記載されている取得時刻を読み出し、その両取得時刻の差異から順次重要度を判定する機能を有する。第2の実施形態と同様、ここで使用する取得時刻は、どの時点を基準とした時刻であっても良い。
関心領域マーク設定部313は、図10で説明した機能に加え、重要度判定部2201により判定された重要度に応じて、表示データ生成部305によって全体画像407上に反映させる関心領域マークおよび動線の表示方法を決定する機能を有する。
図16は、本発明の第4の実施形態を説明するためのスクリーニング時の重要度判定を説明するフローチャートである。
図16に示す処理は、例えば、図5に示すステップS507の工程に追加されるものである。スクリーニング作業のための他の処理は、図5に示したものと同等の工程で実現できる。
図16に示す処理は、例えば、図5に示すステップS507の工程に追加されるものである。スクリーニング作業のための他の処理は、図5に示したものと同等の工程で実現できる。
ステップS1601において、時刻取得部311は、ユーザに関心領域が指定された時刻(今回取得時刻)を取得してリストに記載する。その他の処理はステップS507と同じである。
次に、ステップS1602において、重要度判定部2201は、リスト内に1つ前の項目番号に関連付けられたデータ行があるか否かを判断する。前のデータ行がある場合はステップS1603へ進み、前のデータ行がない場合は重要度の判定を終了する。
次に、ステップS1603において、重要度判定部2201は、ステップS1601で記載された今回取得時刻および、ステップS1602によって判断された前のデータ行に記載されている取得時刻(前回取得時刻)を読み出す。
次に、ステップS1604において、重要度判定部2201は、今回取得時刻から前回取得時刻を減算し、その差が所定の値(閾値)より大きければステップS1605へ進み、閾値以下であれば重要度の判定を終了する。
次に、ステップS1605において、重要度設定部2201は、「重要」フラグを立てる。なお、該フラグは、次の関心領域の指定時にクリアされる。
次に、ステップS1602において、重要度判定部2201は、リスト内に1つ前の項目番号に関連付けられたデータ行があるか否かを判断する。前のデータ行がある場合はステップS1603へ進み、前のデータ行がない場合は重要度の判定を終了する。
次に、ステップS1603において、重要度判定部2201は、ステップS1601で記載された今回取得時刻および、ステップS1602によって判断された前のデータ行に記載されている取得時刻(前回取得時刻)を読み出す。
次に、ステップS1604において、重要度判定部2201は、今回取得時刻から前回取得時刻を減算し、その差が所定の値(閾値)より大きければステップS1605へ進み、閾値以下であれば重要度の判定を終了する。
次に、ステップS1605において、重要度設定部2201は、「重要」フラグを立てる。なお、該フラグは、次の関心領域の指定時にクリアされる。
その後、図6に示すステップS604において、関心領域マーク設定部313は、「重要」フラグが立っている場合に、表示データ生成部305によって全体画像407上に反映させる関心領域マークおよび動線のデータについて、その表示方法(表示形態)を決定する。重要フラグが付されているものとそれ以外のものとを区別できれば、どのような表示形態を用いても良く、例えば、形状、線幅、サイズ、色を変えたり、グラデーションやアニメーションを付したりしても良い。また、ステップS1604で用いる閾値を複数用意することで、重要度を複数段階で設定することも好ましい。この場合は、重要度の段階に応じて表示形態を変えることが好ましい。あるいは、複数段階の重要度の中から、関心領域マークや動線の表示に反映させる重要度を選択可能としても良い。
一方で、関心領域マークおよび動線を再現表示する時に、重要度を判定して反映させる場合は、図12におけるステップS1306の工程内で、ステップS1602〜S1605を実行すれば良い。ただし、「今回取得時刻」は、「現在選択されているデータ行に記載されている取得時刻」に読みかえる。
本実施形態に使用する重要度の判断条件としては、これまでに説明した、次の関心領域を指定するまでの時間間隔に限るものではない。
例えば、関心領域の指定時に設定した、関心領域表示倍率に基づいても良い。関心領域表示倍率の設定がより高倍に変化した際は、その領域の周辺が他の領域と区別すべき領域である可能性が高い。
あるいは、関心領域の指定時に関心領域に対し属性を付加できる機能及びUIを設け、その付加された属性に基づいて重要度を判断しても良い。属性情報は関心領域毎にリストに記録すると良い。属性とは、関心領域の性質や状態に関する情報であり、詳細観察や診断に役立つ情報であればどのような情報が属性情報として付加されても良い。例えば、「正常」「異常」「保留」等の選択肢の中からユーザに選択させても良い。属性が変化した際は、その周辺が他の領域と区別すべき領域である可能性が高い。そこで、動線の始点側の関心領域に付加された属性と終点側の関心領域に付加された属性とを比べ、差異がある場合には当該動線に「重要」フラグを立てれば良い。あるいは、属性の変化の仕方によって重要度の段階(レベル)を変えても良い(例えば、「正常」から「異常」に変化した場合と、「異常」から「保留」に変化した場合とで、重要度のレベルを異ならせるなど)。
属性を入力(選択)するためのUIは、図4にて説明した関心領域表示倍率と同様に、関心領域指定時に属性入力部が表示される構成とすれば良い。あるいは、関心領域表示倍率入力と区別するため、指定時のマウス操作(押下時間、押下回数)によって設定する構成としても良い。
例えば、関心領域の指定時に設定した、関心領域表示倍率に基づいても良い。関心領域表示倍率の設定がより高倍に変化した際は、その領域の周辺が他の領域と区別すべき領域である可能性が高い。
あるいは、関心領域の指定時に関心領域に対し属性を付加できる機能及びUIを設け、その付加された属性に基づいて重要度を判断しても良い。属性情報は関心領域毎にリストに記録すると良い。属性とは、関心領域の性質や状態に関する情報であり、詳細観察や診断に役立つ情報であればどのような情報が属性情報として付加されても良い。例えば、「正常」「異常」「保留」等の選択肢の中からユーザに選択させても良い。属性が変化した際は、その周辺が他の領域と区別すべき領域である可能性が高い。そこで、動線の始点側の関心領域に付加された属性と終点側の関心領域に付加された属性とを比べ、差異がある場合には当該動線に「重要」フラグを立てれば良い。あるいは、属性の変化の仕方によって重要度の段階(レベル)を変えても良い(例えば、「正常」から「異常」に変化した場合と、「異常」から「保留」に変化した場合とで、重要度のレベルを異ならせるなど)。
属性を入力(選択)するためのUIは、図4にて説明した関心領域表示倍率と同様に、関心領域指定時に属性入力部が表示される構成とすれば良い。あるいは、関心領域表示倍率入力と区別するため、指定時のマウス操作(押下時間、押下回数)によって設定する構成としても良い。
更に、本実施形態に使用する重要度の判断条件は、各種条件の組み合わせであっても良く、例えば、長い時間をかけた結果「異常」に変化した領域周辺には、一層区別すべき特徴が存在している可能性が高い。このように様々な判断条件を使用する場合は、ステップS1603において、重要度判定部2201がリストから読み出す情報を、適宜変更すれば良い。
以上に記載した第4の実施形態の構成および動作によって、ユーザは、スクリーニング作業者に指定された関心領域の特徴(重要度)を把握することができる。その結果、全体画像から、スクリーニング作業者が他の領域と区別して注目した可能性の高い領域を把握することができ、更に作業効率を向上させることが可能となる。
<第5の実施形態>
本発明を実現する第5の実施の形態を図に従って説明する。
本実施形態では、スクリーニング作業者に指定された関心領域の動線を選択可能とし、選択された動線周辺の拡大画像を表示する機能を設ける。
装置構成としては、第1〜第4の実施形態で説明してきたものと同等で実現できるため、詳細な説明は省略する。
本発明を実現する第5の実施の形態を図に従って説明する。
本実施形態では、スクリーニング作業者に指定された関心領域の動線を選択可能とし、選択された動線周辺の拡大画像を表示する機能を設ける。
装置構成としては、第1〜第4の実施形態で説明してきたものと同等で実現できるため、詳細な説明は省略する。
図17は、本発明の第5の実施形態における、動線を選択可能とするための動線リストの形式の例である。
図17の動線リストは、動線情報のデータ構造の一例を模式的に示すものであり、また、図11に示した関心領域リストと同様に関心領域情報表示部405に表示可能なリスト画像の一例を示すものでもある。なお、リスト画像中に表示しない情報が動線リストの中に記述されていても良い。
図17の動線リストは、動線情報のデータ構造の一例を模式的に示すものであり、また、図11に示した関心領域リストと同様に関心領域情報表示部405に表示可能なリスト画像の一例を示すものでもある。なお、リスト画像中に表示しない情報が動線リストの中に記述されていても良い。
図17に示すように、動線リスト1700は、項目ごとに動線番号欄1701、表示装置103における動線の表示位置の始点座標欄1702、動線の表示位置の終点座標欄1703、重要度欄1704から構成されている。
項目番号欄1701には、動線が表示された順番(2点目以降の関心領域が指定された順番)で、通し番号が生成され記載される。始点座標欄1702には、動線番号に関連付けて、表示装置103における動線の表示位置の始点座標が行ごとに記載される。終点座標欄1703には、動線番号に関連付けて、表示装置103における動線の表示位置の終点座標が行ごとに記載される。重要度欄1704には、動線番号に関連付けて、動線の重要度が行ごとに記載される。あるいは、動線の特徴量を、項目番号に関連付けて動線リストに記載しても良い。動線の特徴量としては、例えば、動線の向きや距離が該当する。
この動線リスト1700は、スクリーニング作業のフローにおいて、図6のステップS603で算出した動線の表示座標、図16のステップS1615で決定した重要度を、取得順にリスト化することで生成できる。
項目番号欄1701には、動線が表示された順番(2点目以降の関心領域が指定された順番)で、通し番号が生成され記載される。始点座標欄1702には、動線番号に関連付けて、表示装置103における動線の表示位置の始点座標が行ごとに記載される。終点座標欄1703には、動線番号に関連付けて、表示装置103における動線の表示位置の終点座標が行ごとに記載される。重要度欄1704には、動線番号に関連付けて、動線の重要度が行ごとに記載される。あるいは、動線の特徴量を、項目番号に関連付けて動線リストに記載しても良い。動線の特徴量としては、例えば、動線の向きや距離が該当する。
この動線リスト1700は、スクリーニング作業のフローにおいて、図6のステップS603で算出した動線の表示座標、図16のステップS1615で決定した重要度を、取得順にリスト化することで生成できる。
このように、一度算出した動線の表示情報を動線リストとして記録しておくことで、例えば、マウスポインタで動線が選択されたときに、いずれの動線が選択されたかの判断に利用することができる。ただし、表示装置103における表示倍率や表示領域が変更された際には、リスト情報内の表示位置座標や特徴量を更新する必要がある。
なお、マウスポインタの位置に動線が存在しているか否かの判断は、一般的な描画装置等で使用されているような、描画済みの図形を選択可能とする方法を使用すれば良い。
なお、マウスポインタの位置に動線が存在しているか否かの判断は、一般的な描画装置等で使用されているような、描画済みの図形を選択可能とする方法を使用すれば良い。
図18(a)、図18(b)は、動線が選択された際に動線周辺の拡大画像を表示する表示画面構成の例である。この例では、選択された動線の始点側の関心領域周辺の画像と終点側の関心領域周辺の画像の2つの拡大画像を表示する。
図18(a)、図18(b)に示すように、第5の実施形態における表示装置103の表示画面401は、第1の実施形態のものと同様に構成されている。全体画像表示部402には、撮像装置101から取得した撮像画像データの全体を縮小した全体画像1801が表示されている。そして、全体画像1801上には、スクリーニング作業時に作成・更新された関心領域マークおよび動線が表示され、関心領域情報表示部405には、スクリーニング時に生成された関心領域の情報がリスト表示されている。図17に示した動線リストを表示しても良い。
図18(a)、図18(b)に示すように、第5の実施形態における表示装置103の表示画面401は、第1の実施形態のものと同様に構成されている。全体画像表示部402には、撮像装置101から取得した撮像画像データの全体を縮小した全体画像1801が表示されている。そして、全体画像1801上には、スクリーニング作業時に作成・更新された関心領域マークおよび動線が表示され、関心領域情報表示部405には、スクリーニング時に生成された関心領域の情報がリスト表示されている。図17に示した動線リストを表示しても良い。
図18は、上記のように構成される表示画面401において、マウスポインタ406によって動線1802が選択された例を示しており、全体画像1801上の、動線1802およびこれに接続された関心領域マークが強調表示されている。また、当該関心領域マークに対応する項目1803、1804が強調表示されている。
ここで、観察画像表示部403には、動線1802に接続された関心領域マークに対応する拡大表示画像808、809が、それぞれ対応する関心領域表示倍率で表示されている。
この画面構成によって、ユーザは、特定の連続する関心領域の詳細画像を容易に比較で
きる。
ここで、観察画像表示部403には、動線1802に接続された関心領域マークに対応する拡大表示画像808、809が、それぞれ対応する関心領域表示倍率で表示されている。
この画面構成によって、ユーザは、特定の連続する関心領域の詳細画像を容易に比較で
きる。
図19は、選択された動線周辺の拡大画像を表示する表示画像データの生成を説明するフローチャートである。
ステップS1901において、位置データ取得部307は、ユーザにより動線リストからいずれかの動線が選択されたか否かを判断する。動線が選択された場合はステップS1902へ進む。動線が選択されない場合は図19のフローを終了する。
次に、ステップS1902において、位置データ取得部307は、動線リストから選択された動線の動線番号を取得する。
次に、ステップS1903において、位置データ取得部307は、関心領域のリストから、ステップS1902で取得した動線番号と一致する項目番号に記載される関心領域に対応した撮像画像データ上における位置座標と関心領域表示倍率を取得する。
次に、ステップS1904において、位置データ取得部307は、関心領域のリストから、ステップS1902で取得した動線番号と一致する項目番号の次の行に記載される関心領域に対応した撮像画像データ上における位置座標と関心領域表示倍率を取得する。
ステップS1901において、位置データ取得部307は、ユーザにより動線リストからいずれかの動線が選択されたか否かを判断する。動線が選択された場合はステップS1902へ進む。動線が選択されない場合は図19のフローを終了する。
次に、ステップS1902において、位置データ取得部307は、動線リストから選択された動線の動線番号を取得する。
次に、ステップS1903において、位置データ取得部307は、関心領域のリストから、ステップS1902で取得した動線番号と一致する項目番号に記載される関心領域に対応した撮像画像データ上における位置座標と関心領域表示倍率を取得する。
次に、ステップS1904において、位置データ取得部307は、関心領域のリストから、ステップS1902で取得した動線番号と一致する項目番号の次の行に記載される関心領域に対応した撮像画像データ上における位置座標と関心領域表示倍率を取得する。
最後に、ステップS1905において、表示画像データ取得部303は、画像メモリ302から、位置データ取得部307が取得した位置座標と関心領域表示倍率に基づいて、2箇所の拡大表示画像の領域に対応する画像データを読み出す。その後、表示データ生成部305は、表示画像データ取得部303を介して、2箇所の拡大表示された観察画像データを反映して表示データを更新する。こうして生成された表示データを用いて、図18(a)、図18(b)に示される詳細観察の画面を表示する。
図20(a)、図20(b)は、動線が選択された際に動線周辺の拡大画像を表示する表示画面構成の別の例である。この例では、選択された動線の始点側の関心領域と終点側の関心領域の両方を含む拡大画像を表示する。
図20(b)は、図18(b)で示した例と同様に、マウスポインタによって動線1802が選択された例を示しており、全体画像1801上の、動線1802およびこれに接続された関心領域マークが強調表示されている。また、当該関心領域マークに対応する項目1803、1804が強調表示されている。ここで、観察画像表示部403には、動線1802に対応する領域が全て包括される領域2001の拡大表示画像2002が、観察画像表示部403に収まる倍率で表示されている。
この画面構成によって、ユーザは、特定の動線付近の詳細画像を容易に確認できる。
図20(b)は、図18(b)で示した例と同様に、マウスポインタによって動線1802が選択された例を示しており、全体画像1801上の、動線1802およびこれに接続された関心領域マークが強調表示されている。また、当該関心領域マークに対応する項目1803、1804が強調表示されている。ここで、観察画像表示部403には、動線1802に対応する領域が全て包括される領域2001の拡大表示画像2002が、観察画像表示部403に収まる倍率で表示されている。
この画面構成によって、ユーザは、特定の動線付近の詳細画像を容易に確認できる。
図20(a)、図20(b)のように表示する表示画像データは、図19で示したフローチャートと同様にして下記のように生成する。
すなわち、ステップS1905において、位置データ取得部307は、ステップS1903、S1904で取得した2箇所の撮像画像データ上における位置座標から、両者が観察画像表示部403に収まるように、画像メモリ302から読み出す領域と表示倍率(読み出した画像データの解像度変換率)を決定する。そして、表示画像データ取得部303は、画像メモリ302から、位置データ取得部307が決定した領域に基づいて、対象の画像データを読み出し、解像度変換する。その後、表示データ生成部305は、表示画像データ取得部303を介して、拡大表示された観察画像データを反映して表示データを更新する。こうして生成された表示データを用いて、図20(a)に示される詳細観察の画面を表示する。
すなわち、ステップS1905において、位置データ取得部307は、ステップS1903、S1904で取得した2箇所の撮像画像データ上における位置座標から、両者が観察画像表示部403に収まるように、画像メモリ302から読み出す領域と表示倍率(読み出した画像データの解像度変換率)を決定する。そして、表示画像データ取得部303は、画像メモリ302から、位置データ取得部307が決定した領域に基づいて、対象の画像データを読み出し、解像度変換する。その後、表示データ生成部305は、表示画像データ取得部303を介して、拡大表示された観察画像データを反映して表示データを更新する。こうして生成された表示データを用いて、図20(a)に示される詳細観察の画面を表示する。
以上に記載した第5の実施形態の構成および動作によって、ユーザが、スクリーニング作業者に指定された一連の関心領域の中から特定の動線を選択し、動線周辺の拡大画像を確認できる。これにより、ユーザは、詳細観察する領域の選択を、動線の特徴に基づいて行うことができる。その結果、関心領域の選択を効率よく行うことができ、更に作業効率
を向上させることが可能となる。
また、第4の実施形態と組み合わせることによって、上記の効果は一層向上する。例えば、ユーザは、重要度を把握した上で動線が選択でき、スクリーニング作業者が他の領域と区別して注目した可能性の高い領域やその周辺の詳細画像が容易に比較・確認できる。
を向上させることが可能となる。
また、第4の実施形態と組み合わせることによって、上記の効果は一層向上する。例えば、ユーザは、重要度を把握した上で動線が選択でき、スクリーニング作業者が他の領域と区別して注目した可能性の高い領域やその周辺の詳細画像が容易に比較・確認できる。
<第6の実施形態>
本発明を実現する第6の実施の形態を図に従って説明する。
本実施形態では、位置データ取得部307が、ユーザにより指定された関心領域の位置座標だけでなく、表示領域の移動(スクロール)の軌跡である表示軌跡情報(表示軌跡データ)の記録も行う。そして、関心領域や動線に加えて、表示軌跡を提示する機能を設ける。スクリーニング作業の全体を通して表示軌跡の記録を行うとデータ量が膨大となるため、表示軌跡の記録は部分的に行うと良い。好ましくは、ユーザにより新たな関心領域が指定される毎に、関心領域に設定された情報(関心領域表示倍率など)や、第4の実施形態で述べた動線の重要度などに基づいて、表示軌跡の記録の要否を判断すると良い。
例えば、スクリーニング作業時に、ユーザにより関心領域表示倍率が他の領域よりも高く設定された場合、次の関心領域の指定までのスクリーニングは、それまでとは違った軌跡で行われる可能性が高い。本実施形態では、関心領域表示倍率の設定変更を条件とした表示軌跡情報の取得を例にして説明する。
装置構成としては、第1〜第4の実施形態で説明してきたものと同等で実現できるため、詳細な説明は省略する。
本発明を実現する第6の実施の形態を図に従って説明する。
本実施形態では、位置データ取得部307が、ユーザにより指定された関心領域の位置座標だけでなく、表示領域の移動(スクロール)の軌跡である表示軌跡情報(表示軌跡データ)の記録も行う。そして、関心領域や動線に加えて、表示軌跡を提示する機能を設ける。スクリーニング作業の全体を通して表示軌跡の記録を行うとデータ量が膨大となるため、表示軌跡の記録は部分的に行うと良い。好ましくは、ユーザにより新たな関心領域が指定される毎に、関心領域に設定された情報(関心領域表示倍率など)や、第4の実施形態で述べた動線の重要度などに基づいて、表示軌跡の記録の要否を判断すると良い。
例えば、スクリーニング作業時に、ユーザにより関心領域表示倍率が他の領域よりも高く設定された場合、次の関心領域の指定までのスクリーニングは、それまでとは違った軌跡で行われる可能性が高い。本実施形態では、関心領域表示倍率の設定変更を条件とした表示軌跡情報の取得を例にして説明する。
装置構成としては、第1〜第4の実施形態で説明してきたものと同等で実現できるため、詳細な説明は省略する。
図21(a)、図21(b)は、本発明の第6の実施形態における表示軌跡の表示画面構成の例である。
図21(a)に示すように、第6の実施形態における表示画面401は、第5の実施形態のものと同様に構成されている。図21(b)に示すように、全体画像表示部402には、撮像装置101から取得した撮像画像データの全体を縮小した全体画像2101が表示されている。そして、全体画像2101上には、スクリーニング作業時に作成・更新された関心領域マークおよび動線1802が表示されている。更に、スクリーニング作業者が、動線1802を形成する2つの関心領域を指定する間に、どの領域を観察画像表示部403に表示させていったかを辿った表示軌跡2102が表示されている。表示軌跡2102の各要素は、例えば、ある瞬間に観察画像表示部403に表示されていた観察画像409の中心座標である。
図21(a)に示すように、第6の実施形態における表示画面401は、第5の実施形態のものと同様に構成されている。図21(b)に示すように、全体画像表示部402には、撮像装置101から取得した撮像画像データの全体を縮小した全体画像2101が表示されている。そして、全体画像2101上には、スクリーニング作業時に作成・更新された関心領域マークおよび動線1802が表示されている。更に、スクリーニング作業者が、動線1802を形成する2つの関心領域を指定する間に、どの領域を観察画像表示部403に表示させていったかを辿った表示軌跡2102が表示されている。表示軌跡2102の各要素は、例えば、ある瞬間に観察画像表示部403に表示されていた観察画像409の中心座標である。
また、図21(b)は、上記ように構成される表示画面401において、マウスポインタ406によって動線1802が選択された例(後述する)を示しており、全体画像2101上の、動線1802およびこれに接続された関心領域マークが強調表示されている。更に、観察画像表示部403には、表示軌跡2102の各要素それぞれに相当する位置の拡大表示画像2103(再現画像)が所定の時間間隔で切り替えながら連続的に表示されている。これにより、スクリーニング作業時にユーザが辿った軌跡(表示領域の移動の様子)がアニメーションのように再現される。なお、拡大表示画像2103の表示倍率や切り替えの時間間隔は任意に設定できる。
ここで、本発明の第6の実施形態におけるスクリーニング時の表示軌跡情報の取得は、以下のようにして実現できる。
すなわち、関心領域表示倍率が変更されたことをトリガとして、図5で説明した関心領域の取得のフローを繰り返す。この時、位置データ取得部307が、その時に観察画像表示部403に表示されている観察画像409(図4(a)参照)の中心座標を取得する。中心座標の取得は、所定の時間間隔(例えば、数ミリ秒から数秒)で繰り返される。そして、位置データ取得部307は、取得した中心座標の軌跡を、関心領域のリストとは別のリストである、軌跡リスト(表示軌跡データ)に記録する。中心座標の軌跡の記録は、次
の関心領域が指定された場合に終了する。軌跡リストは関心領域と関連付けて記憶される。なお、本実施形態に使用する表示軌跡情報を取得開始する条件としては、これまでに説明した、関心領域表示倍率の変更に限るものではない。例えば、第4の実施形態に示した関心領域の動線の重要度が変化したこと(重要度が高くなったこと)をトリガとして、表示軌跡の記録を行っても良い。また、観察画像409の表示倍率(図4(a)の404参照)が変更されたことをトリガとしても良い。なお、処理負荷や記憶容量が問題とならないのであれば、スクリーニング作業中のすべての表示軌跡を記録しても良い。
すなわち、関心領域表示倍率が変更されたことをトリガとして、図5で説明した関心領域の取得のフローを繰り返す。この時、位置データ取得部307が、その時に観察画像表示部403に表示されている観察画像409(図4(a)参照)の中心座標を取得する。中心座標の取得は、所定の時間間隔(例えば、数ミリ秒から数秒)で繰り返される。そして、位置データ取得部307は、取得した中心座標の軌跡を、関心領域のリストとは別のリストである、軌跡リスト(表示軌跡データ)に記録する。中心座標の軌跡の記録は、次
の関心領域が指定された場合に終了する。軌跡リストは関心領域と関連付けて記憶される。なお、本実施形態に使用する表示軌跡情報を取得開始する条件としては、これまでに説明した、関心領域表示倍率の変更に限るものではない。例えば、第4の実施形態に示した関心領域の動線の重要度が変化したこと(重要度が高くなったこと)をトリガとして、表示軌跡の記録を行っても良い。また、観察画像409の表示倍率(図4(a)の404参照)が変更されたことをトリガとしても良い。なお、処理負荷や記憶容量が問題とならないのであれば、スクリーニング作業中のすべての表示軌跡を記録しても良い。
また、表示軌跡の表示は、以下のようにして実現できる。
すなわち、軌跡リストの作成が終了したことをトリガとして、図14のステップS1401〜S1403で説明した関心領域マークの追加フローを繰り返す。この時、関心領域のリストの代わりに、軌跡リストを使用する。
一方で、関心領域マークおよび動線を再現表示する時に、表示軌跡を反映させる場合は、図12におけるステップS1306の工程内で、上記した軌跡表示のフロー(図14のステップS1401〜S1403相当)を行えば良い。どの軌跡リストを使用するかは、ステップS1306で選択されたデータ行に記載されている関心領域から辿ることができる。
すなわち、軌跡リストの作成が終了したことをトリガとして、図14のステップS1401〜S1403で説明した関心領域マークの追加フローを繰り返す。この時、関心領域のリストの代わりに、軌跡リストを使用する。
一方で、関心領域マークおよび動線を再現表示する時に、表示軌跡を反映させる場合は、図12におけるステップS1306の工程内で、上記した軌跡表示のフロー(図14のステップS1401〜S1403相当)を行えば良い。どの軌跡リストを使用するかは、ステップS1306で選択されたデータ行に記載されている関心領域から辿ることができる。
以上に記載した第6の実施形態の構成および動作によって、スクリーニング作業者が他の領域と区別して注目した可能性の高い領域について、スクリーニングするために辿った軌跡と動線との関係が把握できる。その結果、関心領域の選択を効率よく行うことができ、更に作業効率を向上させることが可能となる。
また、スクリーニング作業者によって関心領域と判断された箇所と判断されなかった箇所との関係を把握できるため、更に的確に病理教育に応用することが可能となる。
更には、第4の実施形態および第5の実施形態と組み合わせることによって、上記の効果は一層向上する。例えば、図21に示したように、ユーザは、重要度や表示軌跡を把握した上で動線が選択でき、スクリーニング作業者が他の領域と区別して注目した可能性の高い領域周辺の詳細画像(拡大表示画像2103)が容易に比較・確認できる。
また、スクリーニング作業者によって関心領域と判断された箇所と判断されなかった箇所との関係を把握できるため、更に的確に病理教育に応用することが可能となる。
更には、第4の実施形態および第5の実施形態と組み合わせることによって、上記の効果は一層向上する。例えば、図21に示したように、ユーザは、重要度や表示軌跡を把握した上で動線が選択でき、スクリーニング作業者が他の領域と区別して注目した可能性の高い領域周辺の詳細画像(拡大表示画像2103)が容易に比較・確認できる。
表示軌跡の拡大表示画像2103の表示は、以下のようにして実現できる。
すなわち、動線の選択をトリガとして、図8で説明した詳細観察時の表示データの生成・表示フローと同様の処理を繰り返す。この時、ユーザによる関心領域のリストからの選択毎に表示データを生成・表示する代わりに、軌跡リストから任意の時間間隔で、順番に座標を選択し、任意の表示倍率で拡大表示画像2103の表示データを生成・表示する。
すなわち、動線の選択をトリガとして、図8で説明した詳細観察時の表示データの生成・表示フローと同様の処理を繰り返す。この時、ユーザによる関心領域のリストからの選択毎に表示データを生成・表示する代わりに、軌跡リストから任意の時間間隔で、順番に座標を選択し、任意の表示倍率で拡大表示画像2103の表示データを生成・表示する。
<第7の実施形態>
本発明は、前述した実施形態の機能の全部または一部を実現するソフトウェアのプログラムコードを記録した記録媒体(または記憶媒体)を、システムあるいは装置に供給する。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行することで達成可能である。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。また、コンピュータが、読み出したプログラムコードを実行することにより、コンピュータ上で稼働しているオペレーティングシステム(OS)などが、実際の処理の一部または全部を行う。その処理によって前述した実施形態の機能が実現される場合も本発明に含まれる。更に、記録媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれたとする。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も本発明に含まれる。なお、本発明を上記記録媒
体に適用する場合、その記録媒体には、先に説明したフローチャートに対応するプログラムコードが格納されることになる。
本発明は、前述した実施形態の機能の全部または一部を実現するソフトウェアのプログラムコードを記録した記録媒体(または記憶媒体)を、システムあるいは装置に供給する。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行することで達成可能である。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。また、コンピュータが、読み出したプログラムコードを実行することにより、コンピュータ上で稼働しているオペレーティングシステム(OS)などが、実際の処理の一部または全部を行う。その処理によって前述した実施形態の機能が実現される場合も本発明に含まれる。更に、記録媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれたとする。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も本発明に含まれる。なお、本発明を上記記録媒
体に適用する場合、その記録媒体には、先に説明したフローチャートに対応するプログラムコードが格納されることになる。
<その他の実施形態>
第1〜第7の実施の形態で説明してきた構成は、お互いに組み合わせて使用できる。
したがって、上記各実施形態における様々な技術を適宜組み合わせて新たなシステムを構成することは当業者であれば容易に想到し得るものであり、そのような様々な組み合わせによるシステムも本発明の範疇に属する。
第1〜第7の実施の形態で説明してきた構成は、お互いに組み合わせて使用できる。
したがって、上記各実施形態における様々な技術を適宜組み合わせて新たなシステムを構成することは当業者であれば容易に想到し得るものであり、そのような様々な組み合わせによるシステムも本発明の範疇に属する。
101:撮像装置、102:画像データ生成装置、103:表示装置
305:表示データ生成部、307:位置データ取得部
407:全体画像、409:観察画像
410,411,414,415,420,421:関心領域マーク
424,425,426:動線
801:関心領域のリスト
1700:動線リスト
2100:表示軌跡
305:表示データ生成部、307:位置データ取得部
407:全体画像、409:観察画像
410,411,414,415,420,421:関心領域マーク
424,425,426:動線
801:関心領域のリスト
1700:動線リスト
2100:表示軌跡
Claims (28)
- ユーザが指定した関心領域の情報を画像と共に表示装置に表示するためのデータを生成する画像データ生成装置であって、
元の画像のデータから、前記元の画像の全体または一部の領域に対応する表示画像のデータを生成し、前記表示画像を含む表示画面のデータを生成する表示データ生成手段と、前記表示画面のデータに基づき前記表示装置に表示された前記表示画像に対し、ユーザによって関心領域が指定された場合に、前記関心領域として指定された位置のデータを取得する位置データ取得手段と、を備え、
前記位置データ取得手段は、前記元の画像に対して複数の関心領域が指定された場合に、前記複数の関心領域のそれぞれの位置のデータと指定順序とを関連付けたリスト情報を作成し、
前記表示データ生成手段は、前記位置データ取得手段により新たに指定された関心領域の位置のデータが取得された場合に、前記新たに指定された関心領域の位置を示すマークを、前記表示画像に重ねて表示するためのデータを生成し、且つ、前記リスト情報の中に1つ前に指定された関心領域の位置のデータが存在する場合には、前記1つ前に指定された関心領域の位置と前記新たに指定された関心領域の位置との間を結ぶ動線も、前記表示画像に重ねて表示するためのデータを生成する
ことを特徴とする画像データ生成装置。 - 前記表示データ生成手段は、前記リスト情報に含まれる前記複数の関心領域の位置のデータおよび指定順序に基づいて、前記複数の関心領域それぞれの位置を示すマーク、及び、前記複数の関心領域の位置を順に結ぶ動線を、前記表示画像に重ねて表示するためのデータも生成する
ことを特徴とする請求項1に記載の画像データ生成装置。 - 前記表示画像として表示される領域である表示領域を移動させながら、ユーザによる関心領域の指定が行われ、
前記位置データ取得手段は、前記表示領域の移動の軌跡を記録した表示軌跡情報を生成する
ことを特徴とする請求項1または2に記載の画像データ生成装置。 - 前記位置データ取得手段は、関心領域が指定される毎に表示軌跡の記録の要否を判断し、表示軌跡の記録が必要と判断した場合にのみ、次の関心領域が指定されるまでの間の表示軌跡の記録を行う
ことを特徴とする請求項3に記載の画像データ生成装置。 - ユーザが指定した関心領域の情報を画像と共に表示装置に表示するためのデータを生成する画像データ生成装置であって、
元の画像のデータから、前記元の画像の全体または一部の領域に対応する表示画像のデータを生成し、前記表示画像を含む表示画面のデータを生成する表示データ生成手段と、前記元の画像に対しユーザにより指定された複数の関心領域のそれぞれの位置のデータと指定順序とが関連付けて記載されたリスト情報を取得する位置データ取得手段と、を備え、
前記位置データ取得手段は、前記リスト情報から、前記複数の関心領域のそれぞれの位置のデータおよび指定順序を取得し、
前記表示データ生成手段は、前記リスト情報から取得した前記複数の関心領域の位置のデータおよび指定順序に基づいて、前記複数の関心領域それぞれの位置を示すマーク、及び、前記複数の関心領域の位置を順に結ぶ動線を、前記表示画像に重ねて表示するためのデータを生成する
ことを特徴とする画像データ生成装置。 - 前記表示データ生成手段は、前記リスト情報に含まれる前記複数の関心領域それぞれの位置を示すマーク、及び、前記複数の関心領域の位置を順に結ぶ動線の表示が、各関心領域の指定順序にしたがって順番に行われるように、前記表示画像に重ねて表示するためのデータを生成する
ことを特徴とする請求項1〜5のうちいずれか1項に記載の画像データ生成装置。 - 前記リスト情報には、関心領域の位置のデータに更に当該関心領域が指定された時刻の情報が関連付けられており、
前記表示データ生成手段は、前記複数の関心領域それぞれの位置を示すマーク、及び、前記複数の関心領域の位置を順に結ぶ動線の表示が、各関心領域の指定順序にしたがい、かつ、各関心領域が指定された時間間隔に対応した時間間隔で、順番に行われるように、前記表示画像に重ねて表示するためのデータを生成する
ことを特徴とする請求項6に記載の画像データ生成装置。 - 各動線の重要度を判定する重要度判定手段を有し、
前記表示データ生成手段は、前記動線の重要度に応じて、当該動線を前記表示画像に重ねて表示する際の表示形態を変えたデータを生成する
ことを特徴とする請求項1〜7のうちいずれか1項に記載の画像データ生成装置。 - 前記リスト情報には、関心領域の位置のデータに更に当該関心領域が指定された時刻の情報が関連付けられており、
前記重要度判定手段は、動線の始点側の関心領域が指定された時刻と終点側の関心領域が指定された時刻との差に基づいて、当該動線の重要度を判定する
ことを特徴とする請求項8に記載の画像データ生成装置。 - 前記リスト情報には、関心領域の位置のデータに更にユーザによって付加された属性の情報が関連付けられており、
前記重要度判定手段は、動線の始点側の関心領域に付加された属性と終点側の関心領域に付加された属性との差に基づいて、当該動線の重要度を判定する
ことを特徴とする請求項8に記載の画像データ生成装置。 - 前記表示画像として表示される領域である表示領域を移動させながら、ユーザによる関心領域の指定が行われた場合に、前記表示領域の移動の軌跡が表示軌跡情報として記録されており、
前記表示データ生成手段は、前記表示軌跡情報に基づいて、ある関心領域を指定してから次の関心領域を指定するまでの間の前記表示領域の移動の軌跡を示す表示軌跡を、前記表示画像に重ねて表示するためのデータも生成する
ことを特徴とする請求項1〜10のうちいずれか1項に記載の画像データ生成装置。 - 前記表示データ生成手段は、前記表示軌跡情報に基づいて、ある関心領域を指定してから次の関心領域を指定するまでの間の前記表示領域の移動を再現するための複数の再現画像のデータを生成し、前記複数の再現画像を前記表示画面上に表示するためのデータを生成する
ことを特徴とする請求項11に記載の画像データ生成装置。 - 前記表示データ生成手段は、前記複数の再現画像を切り替えながら連続的に表示するためのデータを生成する
ことを特徴とする請求項12に記載の画像データ生成装置。 - 前記表示データ生成手段は、前記表示画像に重ねて表示された複数の動線のうちのいずれかの動線がユーザにより選択された場合に、当該選択された動線の始点側の関心領域を含む領域の画像と、終点側の関心領域を含む領域の画像の、2つの画像のデータを生成し、前記生成した2つの画像を前記表示画面上に表示するためのデータを生成する
ことを特徴とする請求項1〜13のうちいずれか1項に記載の画像データ生成装置。 - 前記表示データ生成手段は、前記表示画像に重ねて表示された複数の動線のうちのいずれかの動線がユーザにより選択された場合に、当該選択された動線の始点側の関心領域と終点側の関心領域の両方を含む領域の画像のデータを生成し、前記生成した画像を前記表示画面上に表示するためのデータを生成する
ことを特徴とする請求項1〜13のうちいずれか1項に記載の画像データ生成装置。 - 前記表示データ生成手段は、前記表示画像に重ねて表示された複数の動線のうちのいずれかの動線がユーザにより選択された場合に、当該選択された動線を強調表示させるためのデータを生成する
ことを特徴とする請求項1〜15のうちいずれか1項に記載の画像データ生成装置。 - ユーザが指定した関心領域の情報を画像と共に表示装置に表示するためのデータを生成する画像データ生成装置であって、
元の画像のデータから、前記元の画像の全体または一部の領域に対応する表示画像のデータを生成し、前記表示画像を含む表示画面のデータを生成する表示データ生成手段と、前記元の画像に対しユーザにより指定された複数の関心領域のそれぞれの位置のデータと指定順序とが関連付けて記載されたリスト情報を取得する位置データ取得手段と、を備え、
前記位置データ取得手段は、前記リスト情報から、前記複数の関心領域のそれぞれの位置のデータおよび指定順序を取得し、
前記表示データ生成手段は、前記リスト情報から取得した前記複数の関心領域の位置のデータおよび指定順序に基づいて、前記複数の関心領域それぞれの位置を示すマークを、前記表示画像に重ねて表示するためのデータを生成する
ことを特徴とする画像データ生成装置。 - 前記表示データ生成手段は、前記リスト情報に基づいて前記複数の関心領域それぞれの情報をリスト表示するためのリスト画像のデータを生成し、前記リスト画像を前記表示画面上に表示させるためのデータを生成する
ことを特徴とする請求項1〜17のうちいずれか1項に記載の画像データ生成装置。 - 前記表示データ生成手段は、ユーザにより前記リスト画像の中から関心領域が選択された場合に、前記元の画像のデータから前記選択された関心領域を含む領域の画像のデータを生成し、前記生成した画像を前記表示画面上に表示させるためのデータを生成する
ことを特徴とする請求項18に記載の画像データ生成装置。 - 前記表示データ生成手段は、ユーザにより前記リスト画像の中から複数の関心領域が選択された場合に、前記選択された複数の関心領域のそれぞれを含む領域の複数の画像のデータを生成し、前記生成した複数の画像を前記表示画面上に並べて表示させるためのデータを生成する
ことを特徴とする請求項18に記載の画像データ生成装置。 - 前記表示データ生成手段は、ユーザにより前記リスト画像の中から関心領域が選択された場合に、前記選択された関心領域に接続される動線を、前記表示画像に重ねて表示する
ためのデータを生成する
ことを特徴とする請求項18〜20のうちいずれか1項に記載の画像データ生成装置。 - 前記表示データ生成手段は、
前記リスト情報に含まれる前記複数の関心領域それぞれの位置を示すマーク、及び、前記複数の関心領域の位置を順に結ぶ動線を、前記元の画像の全体を表す全体画像に重ねて表示させ、
ユーザにより前記リスト画像の中から関心領域が選択された場合に、前記選択された関心領域に対応する前記全体画像上のマークを強調表示させるためのデータを生成する
ことを特徴とする請求項18〜21のうちいずれか1項に記載の画像データ生成装置。 - 前記表示データ生成手段は、動線の始点側と終点側を視覚的に区別できるような表示形態で動線を表示するためのデータを生成する
ことを特徴とする請求項1〜22のうちいずれか1項に記載の画像データ生成装置。 - 撮像装置または画像記憶装置と、表示装置と、前記撮像装置または画像記憶装置から取得した画像のデータを用いて前記表示装置に表示するためのデータを生成する画像データ生成装置と、を備えた画像処理システムであって、
前記画像データ生成装置が、請求項1〜23のいずれか1項に記載された画像データ生成装置であることを特徴とする画像処理システム。 - ユーザが指定した関心領域の情報を画像と共に表示装置に表示するためのデータを生成する画像データ生成方法であって、
コンピュータが、元の画像のデータから、前記元の画像の全体または一部の領域に対応する表示画像のデータを生成し、前記表示画像を含む表示画面のデータを生成する表示データ生成ステップと、
コンピュータが、前記表示画面のデータに基づき前記表示装置に表示された前記表示画像に対し、ユーザによって関心領域が指定された場合に、前記関心領域として指定された位置のデータを取得する位置データ取得ステップと、を含み、
前記位置データ取得ステップでは、前記元の画像に対して複数の関心領域が指定された場合に、前記複数の関心領域のそれぞれの位置のデータと指定順序とを関連付けたリスト情報が作成され、
前記表示データ生成ステップでは、前記位置データ取得ステップで新たに指定された関心領域の位置のデータが取得された場合に、前記新たに指定された関心領域の位置を示すマークを、前記表示画像に重ねて表示するためのデータを生成し、且つ、前記リスト情報の中に1つ前に指定された関心領域の位置のデータが存在する場合には、前記1つ前に指定された関心領域の位置と前記新たに指定された関心領域の位置との間を結ぶ動線も、前記表示画像に重ねて表示するためのデータが生成される
ことを特徴とする画像データ生成方法。 - ユーザが指定した関心領域の情報を画像と共に表示装置に表示するためのデータを生成する画像データ生成方法であって、
コンピュータが、元の画像のデータから、前記元の画像の全体または一部の領域に対応する表示画像のデータを生成し、前記表示画像を含む表示画面のデータを生成する表示データ生成ステップと、
コンピュータが、前記元の画像に対しユーザにより指定された複数の関心領域のそれぞれの位置のデータと指定順序とが関連付けて記載されたリスト情報を取得する位置データ取得ステップと、を含み、
前記位置データ取得ステップでは、前記リスト情報から、前記複数の関心領域のそれぞれの位置のデータおよび指定順序が取得され、
前記表示データ生成ステップでは、前記リスト情報から取得した前記複数の関心領域の位置のデータおよび指定順序に基づいて、前記複数の関心領域それぞれの位置を示すマーク、及び、前記複数の関心領域の位置を順に結ぶ動線を、前記表示画像に重ねて表示するためのデータが生成される
ことを特徴とする画像データ生成方法。 - ユーザが指定した関心領域の情報を画像と共に表示装置に表示するためのデータを生成する画像データ生成方法であって、
コンピュータが、元の画像のデータから、前記元の画像の全体または一部の領域に対応する表示画像のデータを生成し、前記表示画像を含む表示画面のデータを生成する表示データ生成ステップと、
コンピュータが、前記元の画像に対しユーザにより指定された複数の関心領域のそれぞれの位置のデータと指定順序とが関連付けて記載されたリスト情報を取得する位置データ取得ステップと、を含み、
前記位置データ取得ステップでは、前記リスト情報から、前記複数の関心領域のそれぞれの位置のデータおよび指定順序が取得され、
前記表示データ生成ステップでは、前記リスト情報から取得した前記複数の関心領域の位置のデータおよび指定順序に基づいて、前記複数の関心領域それぞれの位置を示すマークを、前記表示画像に重ねて表示するためのデータが生成される
ことを特徴とする画像データ生成方法。 - 請求項25〜27のうちいずれか1項に記載の画像データ生成方法の各ステップをコンピュータに実行させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012251760A JP2013174581A (ja) | 2012-01-25 | 2012-11-16 | 画像データ生成装置および画像データ生成方法 |
US13/746,491 US20130187954A1 (en) | 2012-01-25 | 2013-01-22 | Image data generation apparatus and image data generation method |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012013323 | 2012-01-25 | ||
JP2012013323 | 2012-01-25 | ||
JP2012251760A JP2013174581A (ja) | 2012-01-25 | 2012-11-16 | 画像データ生成装置および画像データ生成方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013174581A true JP2013174581A (ja) | 2013-09-05 |
Family
ID=48796869
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012251760A Pending JP2013174581A (ja) | 2012-01-25 | 2012-11-16 | 画像データ生成装置および画像データ生成方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20130187954A1 (ja) |
JP (1) | JP2013174581A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016177508A (ja) * | 2015-03-19 | 2016-10-06 | 富士ゼロックス株式会社 | 選択支援装置及びプログラム |
JP2017188302A (ja) * | 2016-04-05 | 2017-10-12 | 日本電子株式会社 | 分析装置 |
JP2017191609A (ja) * | 2017-04-14 | 2017-10-19 | ソニー株式会社 | 画像処理装置および画像処理方法 |
US20170307465A1 (en) * | 2014-10-07 | 2017-10-26 | Tlv Co., Ltd. | Fluid Leakage Data Management Apparatus and Management System |
WO2017199657A1 (ja) * | 2016-05-20 | 2017-11-23 | オリンパス株式会社 | 内視鏡装置、計測方法、およびプログラム |
JP2019139131A (ja) * | 2018-02-14 | 2019-08-22 | オリンパス株式会社 | 顕微鏡システム、表示制御方法、及び、プログラム |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5589366B2 (ja) | 2009-11-27 | 2014-09-17 | ソニー株式会社 | 情報処理装置、情報処理方法及びそのプログラム |
JP2013134574A (ja) * | 2011-12-26 | 2013-07-08 | Canon Inc | 画像データ生成装置、画像データ表示システムおよび画像データ生成方法 |
JP6157094B2 (ja) * | 2012-11-21 | 2017-07-05 | キヤノン株式会社 | 通信装置、設定装置、通信方法、設定方法、及び、プログラム |
JP6455829B2 (ja) * | 2013-04-01 | 2019-01-23 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
US9462239B2 (en) * | 2014-07-15 | 2016-10-04 | Fuji Xerox Co., Ltd. | Systems and methods for time-multiplexing temporal pixel-location data and regular image projection for interactive projection |
JP6333871B2 (ja) * | 2016-02-25 | 2018-05-30 | ファナック株式会社 | 入力画像から検出した対象物を表示する画像処理装置 |
JP7107526B2 (ja) * | 2018-08-27 | 2022-07-27 | 株式会社エビデント | 実験情報管理システム、実験ノートシステム、実験ノート生成装置、画面生成装置、実験情報管理方法、及び、プログラム |
WO2020170369A1 (ja) * | 2019-02-20 | 2020-08-27 | オリンパス株式会社 | 情報処理装置、情報処理システム、情報処理方法およびプログラム |
US12175951B2 (en) * | 2020-03-30 | 2024-12-24 | Sony Group Corporation | Imaging apparatus, and method of controlling imaging apparatus |
JP2022119627A (ja) | 2021-02-04 | 2022-08-17 | キヤノン株式会社 | 放射線撮像装置、放射線撮像システム、放射線撮像装置の制御方法およびプログラム |
JP2023029005A (ja) * | 2021-08-20 | 2023-03-03 | 東芝テック株式会社 | 画像形成装置、制御方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7136518B2 (en) * | 2003-04-18 | 2006-11-14 | Medispectra, Inc. | Methods and apparatus for displaying diagnostic data |
JP5589366B2 (ja) * | 2009-11-27 | 2014-09-17 | ソニー株式会社 | 情報処理装置、情報処理方法及びそのプログラム |
JP2013134574A (ja) * | 2011-12-26 | 2013-07-08 | Canon Inc | 画像データ生成装置、画像データ表示システムおよび画像データ生成方法 |
-
2012
- 2012-11-16 JP JP2012251760A patent/JP2013174581A/ja active Pending
-
2013
- 2013-01-22 US US13/746,491 patent/US20130187954A1/en not_active Abandoned
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170307465A1 (en) * | 2014-10-07 | 2017-10-26 | Tlv Co., Ltd. | Fluid Leakage Data Management Apparatus and Management System |
US11422053B2 (en) * | 2014-10-07 | 2022-08-23 | Tlv Co., Ltd. | Fluid leakage data management apparatus and management system |
JP2016177508A (ja) * | 2015-03-19 | 2016-10-06 | 富士ゼロックス株式会社 | 選択支援装置及びプログラム |
JP2017188302A (ja) * | 2016-04-05 | 2017-10-12 | 日本電子株式会社 | 分析装置 |
WO2017199657A1 (ja) * | 2016-05-20 | 2017-11-23 | オリンパス株式会社 | 内視鏡装置、計測方法、およびプログラム |
JPWO2017199657A1 (ja) * | 2016-05-20 | 2018-10-25 | オリンパス株式会社 | 内視鏡装置、計測方法、およびプログラム |
JP2017191609A (ja) * | 2017-04-14 | 2017-10-19 | ソニー株式会社 | 画像処理装置および画像処理方法 |
JP2019139131A (ja) * | 2018-02-14 | 2019-08-22 | オリンパス株式会社 | 顕微鏡システム、表示制御方法、及び、プログラム |
JP7060394B2 (ja) | 2018-02-14 | 2022-04-26 | オリンパス株式会社 | 顕微鏡システム、表示制御方法、及び、プログラム |
Also Published As
Publication number | Publication date |
---|---|
US20130187954A1 (en) | 2013-07-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2013174581A (ja) | 画像データ生成装置および画像データ生成方法 | |
JP6091137B2 (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
US11227355B2 (en) | Information processing apparatus, method, and computer-readable medium | |
JP6124543B2 (ja) | 画像処理装置、画像処理方法、画像処理システム、及びプログラム | |
JP4667944B2 (ja) | 画像作成装置 | |
JP2013134574A (ja) | 画像データ生成装置、画像データ表示システムおよび画像データ生成方法 | |
JP5531750B2 (ja) | 情報処理装置、情報処理方法、プログラム、及び情報処理システム | |
JP2011112523A (ja) | 情報処理装置、情報処理方法及びそのプログラム | |
JP6455829B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
KR20110060821A (ko) | 정보 처리 장치, 방법 및 컴퓨터 판독가능한 매체 | |
JP5812576B2 (ja) | 情報処理装置及びそのプログラム | |
JP2009053864A (ja) | 画像検索装置、画像検索方法及びプログラム | |
US11990227B2 (en) | Medical system, medical apparatus, and medical method | |
JP2014130221A (ja) | 画像処理装置、その制御方法、画像処理システム、及びプログラム | |
US20160042122A1 (en) | Image processing method and image processing apparatus | |
JP2013058124A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2013152701A (ja) | 画像処理装置、画像処理システム、画像処理方法 | |
JP7015130B2 (ja) | データ処理装置 | |
JP7618862B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2016038542A (ja) | 画像処理方法および画像処理装置 | |
JP2016177508A (ja) | 選択支援装置及びプログラム | |
JPWO2016079879A1 (ja) | 走査型プローブ顕微鏡用データ表示処理装置、走査型プローブ顕微鏡用データ表示処理方法及び制御プログラム | |
JP6338730B2 (ja) | 表示データを生成する装置、方法、及びプログラム | |
CN101383049B (zh) | 图像处理装置及图像处理方法 | |
JP5638553B2 (ja) | 監視画面作成支援装置および監視画面作成支援プログラム |