[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP7143436B2 - 医療画像処理装置、医療画像処理装置の作動方法及びプログラム、診断支援装置 - Google Patents

医療画像処理装置、医療画像処理装置の作動方法及びプログラム、診断支援装置 Download PDF

Info

Publication number
JP7143436B2
JP7143436B2 JP2020553888A JP2020553888A JP7143436B2 JP 7143436 B2 JP7143436 B2 JP 7143436B2 JP 2020553888 A JP2020553888 A JP 2020553888A JP 2020553888 A JP2020553888 A JP 2020553888A JP 7143436 B2 JP7143436 B2 JP 7143436B2
Authority
JP
Japan
Prior art keywords
area
medical image
attention area
superimposes
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020553888A
Other languages
English (en)
Other versions
JPWO2020090731A1 (ja
Inventor
稔宏 臼田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2020090731A1 publication Critical patent/JPWO2020090731A1/ja
Application granted granted Critical
Publication of JP7143436B2 publication Critical patent/JP7143436B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H15/00ICT specially adapted for medical reports, e.g. generation or transmission thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Surgery (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Computation (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Pathology (AREA)
  • Databases & Information Systems (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Computing Systems (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Signal Processing (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Data Mining & Analysis (AREA)
  • Endoscopes (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Description

本発明は医療画像処理装置、医療画像処理方法及びプログラム、診断支援装置に係り、特に医療画像の注目領域を報知する技術に関する。
医療画像から病変等の注目領域を検出し、Bounding Box(領域を囲む矩形)等を表示して、医師に注目領域が検出されたことを報知する技術が知られている。
特許文献1には、内視鏡検査時に画像から病変が検出された場合に、モニタに表示されている画像中の病変領域を枠で囲むことで、病変を報知することが記載されている。また、特許文献2には、モニタに表示される観察画像とは別の場所に、病変位置を示す情報を表示する方法が記載されている。
国際公開第2017/073338号 国際公開第2017/115442号
医師が視線移動をすることなく病変位置を認知するためには、医師が画像を観察しているモニタに病変領域を表示させることが必要である。一方で、病変領域とその周辺の正常粘膜とを見比べる際には、病変領域の境界のコントラストが判断材料になるため、できる限り病変領域の境界の観察の邪魔にならないように表示する必要がある。
特許文献1に記載されているように、病変領域を囲う図形を表示すると、病変領域の境界が視認しにくくなるという危険性がある。また、病変領域の境界に重ならないように病変領域を囲う図形を表示すると、図形が病変領域から大きくはみ出してしまい、正常粘膜の観察を妨げ、さらには病変の見落としにつながる危険性がある。
本発明はこのような事情に鑑みてなされたもので、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知する医療画像処理装置、医療画像処理方法及びプログラム、診断支援装置を提供することを目的とする。
上記目的を達成するために医療画像処理装置の一の態様は、医療画像に含まれる注目領域を報知する図形を医療画像に重畳する重畳処理部を有し、重畳処理部は、注目領域の内側に図形を重畳し、かつ注目領域と非注目領域との境界の少なくとも一部は図形を非重畳にする医療画像処理装置である。
本態様によれば、医療画像に含まれる注目領域に図形を重畳し、かつ注目領域と非注目領域との境界の少なくとも一部は図形を非重畳にするようにしたので、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
医療画像を取得する画像取得部と、医療画像から注目領域情報を取得する注目領域情報取得部と、を備えることが好ましい。これにより、医療画像を適切に取得し、注目領域情報を適切に取得することができる。
重畳処理部は、境界を指示する図形を注目領域に重畳することが好ましい。これにより、ユーザに注目領域と非注目領域との境界を認識させることができる。
重畳処理部は、注目領域の重心を示す図形を注目領域に重畳することが好ましい。これにより、ユーザに注目領域を報知することができる。
重畳処理部は、注目領域の面積に応じたサイズの図形を重畳することが好ましい。これにより、注目領域の面積によらずに医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
重畳処理部は、注目領域の面積が第1面積以上の場合は一定の第1サイズの図形を重畳することが好ましい。これにより、注目領域の面積が第1面積以上の場合であっても、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
重畳処理部は、注目領域の面積が第2面積以下の場合は一定の第2サイズの図形を重畳することが好ましい。これにより、注目領域の面積が第2面積以下の場合であっても、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
重畳処理部は、注目領域の面積に応じた形状の図形を重畳することが好ましい。これにより、注目領域の面積によらずに医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
重畳処理部は、注目領域の面積が第3面積以上の場合は注目領域の内側から境界を指示する図形を重畳し、かつ注目領域の面積が第3面積未満の場合は注目領域の内側の座標を示す図形を重畳することが好ましい。これにより、注目領域の面積が第3面積未満の場合であっても、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
重畳処理部は、注目領域の面積が第4面積以上の場合は注目領域の内側から境界を指示する図形を重畳し、かつ注目領域の面積が第4面積未満の場合は注目領域の外側に図形を重畳することが好ましい。これにより、注目領域の面積が第4面積未満の場合であっても、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
図形を生成する図形生成部を備えることが好ましい。これにより、注目領域に重畳するための図形を生成することができる。
図形が重畳された医療画像を表示部に表示させる表示制御部を備えることが好ましい。これにより、ユーザは図形が重畳された医療画像を表示部によって視認することができる。
上記目的を達成するために診断支援装置の一の態様は、上記に記載の医療画像処理装置と、表示部と、を備えた診断支援装置である。
本態様によれば、医療画像に含まれる注目領域に図形を重畳し、かつ注目領域と非注目領域との境界の少なくとも一部は図形を非重畳にするようにしたので、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
上記目的を達成するために医療画像処理方法の一の態様は、医療画像に含まれる注目領域を報知する図形を医療画像に重畳する重畳処理工程を有し、重畳処理工程は、注目領域の内側に図形を重畳し、かつ注目領域と非注目領域との境界の少なくとも一部は図形を非重畳にする医療画像処理方法である。
本態様によれば、医療画像に含まれる注目領域に図形を重畳し、かつ注目領域と非注目領域との境界の少なくとも一部は図形を非重畳にするようにしたので、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。上記の医療画像処理方法をコンピュータに実行させるためのプログラムも本態様に含まれる。
本発明によれば、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
図1は、医療画像処理装置を含む内視鏡システムの全体構成を示す概略図である。 図2は、医療画像処理装置の電気的構成の一例を示すブロック図である。 図3は、医療画像処理方法の各処理の一例を示すフローチャートである。 図4は、表示器の表示の一例を示す図である。 図5は、表示器の表示の一例を示す図である。 図6は、表示器の表示の一例を示す図である。 図7は、表示器の表示の一例を示す図である。 図8は、図形の他の例を示す図である。 図9は、図形の他の例を示す図である。 図10は、注目領域の重心を示す図である。 図11は、注目領域に外接する矩形の中心を示す図である。 図12は、表示器の表示の一例を示す図である。 図13は、表示器の表示の一例を示す図である。 図14は、表示器の表示の一例を示す図である。 図15は、表示器の表示の一例を示す図である。 図16は、表示器の表示の一例を示す図である。 図17は、表示器の表示の一例を示す図である。 図18は、注目領域を囲う4つの図形を示す図である。 図19は、注目領域を囲う4つの図形を示す図である。 図20は、注目領域を囲う4つの図形を示す図である。 図21は、表示器の表示の一例を示す図である。
以下、添付図面に従って本発明の好ましい実施形態について詳説する。
<内視鏡システムの全体構成>
図1は、本実施形態に係る医療画像処理装置を含む内視鏡システム9の全体構成を示す概略図である。図1に示すように、内視鏡システム9は、電子内視鏡である内視鏡スコープ10と、光源装置11と、内視鏡プロセッサ装置12と、表示装置13と、医療画像処理装置14と、操作部15と、表示器16と、を備える。
内視鏡スコープ10は、時系列の医療画像を撮像するためのものであり、例えば軟性内視鏡である。この内視鏡スコープ10は、被検体内に挿入され且つ先端と基端とを有する挿入部20と、挿入部20の基端側に連設され且つユーザ(医師)が把持して各種操作を行う手元操作部21と、手元操作部21に連設されたユニバーサルコード22と、を有する。
挿入部20は、全体が細径で長尺状に形成されている。挿入部20は、その基端側から先端側に向けて順に可撓性を有する軟性部25と、手元操作部21の操作により湾曲可能な湾曲部26と、不図示の撮像光学系(対物レンズ)及び撮像素子28等が内蔵される先端部27と、が連設されて構成される。
撮像素子28は、CMOS(complementary metal oxide semiconductor)型又はCCD(charge coupled device)型の撮像素子である。撮像素子28の撮像面には、先端部27の先端面に開口された不図示の観察窓、及びこの観察窓の後方に配置された不図示の対物レンズを介して、被観察部位の像光が入射する。撮像素子28は、その撮像面に入射した被観察部位の像光を撮像(電気信号に変換)して、撮像信号を出力する。
手元操作部21には、ユーザによって操作される各種操作部材が設けられている。具体的に、手元操作部21には、湾曲部26の湾曲操作に用いられる2種類の湾曲操作ノブ29と、送気送水操作用の送気送水ボタン30と、吸引操作用の吸引ボタン31と、が設けられている。また、手元操作部21には、被観察部位の静止画39の撮像指示を行うための静止画撮像指示部32と、挿入部20内を挿通している処置具挿通路(不図示)内に処置具(不図示)を挿入する処置具導入口33と、が設けられている。
ユニバーサルコード22は、内視鏡スコープ10を光源装置11に接続するための接続コードである。このユニバーサルコード22は、挿入部20内を挿通しているライトガイド35、信号ケーブル36、及び流体チューブ(不図示)を内包している。また、ユニバーサルコード22の端部には、光源装置11に接続されるコネクタ37aと、このコネクタ37aから分岐され且つ内視鏡プロセッサ装置12に接続されるコネクタ37bと、が設けられている。
コネクタ37aを光源装置11に接続することで、ライトガイド35及び流体チューブ(不図示)が光源装置11に挿入される。これにより、ライトガイド35及び流体チューブ(不図示)を介して、光源装置11から内視鏡スコープ10に対して必要な照明光と水と気体とが供給される。その結果、先端部27の先端面の照明窓(不図示)から被観察部位に向けて照明光が照射される。また、前述の送気送水ボタン30の押下操作に応じて、先端部27の先端面の送気送水ノズル(不図示)から先端面の観察窓(不図示)に向けて気体又は水が噴射される。
コネクタ37bを内視鏡プロセッサ装置12に接続することで、信号ケーブル36と内視鏡プロセッサ装置12とが電気的に接続される。これにより、信号ケーブル36を介して、内視鏡スコープ10の撮像素子28から内視鏡プロセッサ装置12へ被観察部位の撮像信号が出力されるとともに、内視鏡プロセッサ装置12から内視鏡スコープ10へ制御信号が出力される。
光源装置11は、コネクタ37aを介して、内視鏡スコープ10のライトガイド35へ照明光を供給する。照明光は、白色光(白色の波長帯域の光又は複数の波長帯域の光)、或いは1又は複数の特定の波長帯域の光、或いはこれらの組み合わせ等の観察目的に応じた各種波長帯域の光が選択される。なお、特定の波長帯域は、白色の波長帯域よりも狭い帯域である。
特定の波長帯域の第1例は、例えば可視域の青色帯域又は緑色帯域である。この第1例の波長帯域は、390nm以上450nm以下又は530nm以上550nm以下の波長帯域を含み、且つ第1例の光は、390nm以上450nm以下又は530nm以上550nm以下の波長帯域内にピーク波長を有する。
特定の波長帯域の第2例は、例えば可視域の赤色帯域である。この第2例の波長帯域は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域を含み、且つ第2例の光は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域内にピーク波長を有する。
特定の波長帯域の第3例は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、且つ第3例の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する。この第3例の波長帯域は、400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域を含み、且つ第3例の光は、上記400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域にピーク波長を有する。
特定の波長帯域の第4例は、生体内の蛍光物質が発する蛍光の観察(蛍光観察)に用いられ且つこの蛍光物質を励起させる励起光の波長帯域(390nmから470nm)である。
特定の波長帯域の第5例は、赤外光の波長帯域である。この第5例の波長帯域は、790nm以上820nm以下又は905nm以上970nm以下の波長帯域を含み、且つ第5例の光は、790nm以上820nm以下又は905nm以上970nm以下の波長帯域にピーク波長を有する。
内視鏡プロセッサ装置12は、コネクタ37b及び信号ケーブル36を介して、内視鏡スコープ10の動作を制御する。また、内視鏡プロセッサ装置12は、コネクタ37b及び信号ケーブル36を介して内視鏡スコープ10の撮像素子28から取得した撮像信号に基づき、時系列のフレーム画像38a(図2参照)からなる時系列の医療画像である動画38を生成する。動画38のフレームレートは、例えば30fps(frame per second)である。
更に、内視鏡プロセッサ装置12は、内視鏡スコープ10の手元操作部21にて静止画撮像指示部32が操作された場合、動画38の生成と並行して、動画38中の1枚のフレーム画像38aを撮像指示のタイミングに応じて取得し、静止画39とする。
動画38及び静止画39は、被検体内、即ち生体内を撮像した医療画像である。更に動画38及び静止画39が、上述の特定の波長帯域の光(特殊光)により得られた画像である場合、両者は特殊光画像である。そして、内視鏡プロセッサ装置12は、生成した動画38及び静止画39を、表示装置13と医療画像処理装置14とにそれぞれ出力する。
なお、内視鏡プロセッサ装置12は、上述の白色光により得られた通常光画像に基づいて、上述の特定の波長帯域の情報を有する特殊光画像を生成(取得)してもよい。この場合、内視鏡プロセッサ装置12は、特殊光画像取得部として機能する。そして、内視鏡プロセッサ装置12は、特定の波長帯域の信号を、通常光画像に含まれる赤(Red)、緑(Green)、及び青(Blue)のRGB色情報、或いはシアン(Cyan)、マゼンタ(Magenta)、及びイエロー(Yellow)のCMY色情報に基づく演算を行うことで得る。
また、内視鏡プロセッサ装置12は、例えば、上述の白色光により得られた通常光画像と、上述の特定の波長帯域の光(特殊光)により得られた特殊光画像との少なくとも一方に基づいて、公知の酸素飽和度画像等の特徴量画像を生成してもよい。この場合、内視鏡プロセッサ装置12は、特徴量画像生成部として機能する。なお、上記の生体内画像、通常光画像、特殊光画像、及び特徴量画像を含む動画38又は静止画39は、いずれも画像による診断、検査の目的で人体を撮像し、又は計測した結果を画像化した医療画像である。
表示装置13は、内視鏡プロセッサ装置12に接続されており、この内視鏡プロセッサ装置12から入力された動画38及び静止画39を表示する。ユーザは、表示装置13に表示される動画38を確認しながら、挿入部20の進退操作等を行い、被観察部位に病変等を発見した場合には静止画撮像指示部32を操作して被観察部位の静止画撮像を実行し、また、診断、生検等を行う。
医療画像処理装置14は、注目領域である病変の自動認識及び自動鑑別が可能な装置である。また、医療画像処理装置14は、医療画像に含まれる注目領域をユーザに報知し、かつ注目領域と注目領域以外の非注目領域との境界(デマルケーションライン)の観察を容易にする装置である。医療画像処理装置14は、例えばパーソナルコンピュータが用いられる。また、操作部15は、パーソナルコンピュータに有線接続又は無線接続されるキーボード及びマウス等が用いられ、表示器16(報知部の一例)はパーソナルコンピュータに接続可能な液晶モニタ等の各種モニタが用いられる。
医療画像処理装置14と表示器16(第1表示部の一例)とによって、動画38及び動画38に含まれる注目領域を報知する図形を表示器16に表示する診断支援装置として機能する。
<医療画像処理装置の構成>
図2は、医療画像処理装置14の電気的構成の一例を示すブロック図である。図2に示す医療画像処理装置14は、主として時系列画像取得部40と、注目領域検出部42と、座標算出部44と、面積算出部46と、図形生成部48と、制御部50と、表示制御部52と、記憶部54と、から構成されている。
制御部50は、記憶部54に記憶されたプログラム(医療画像処理プログラム)56に基づき、時系列画像取得部40、注目領域検出部42、座標算出部44、面積算出部46、図形生成部48、及び表示制御部52を統括制御し、また、これらの各部の一部として機能する。
記憶部54は、ハードディスク装置等のストレージ装置である。記憶部54は、注目領域検出部42による検出結果及び撮像された静止画39を記憶するとともに、プログラム56及び医療画像処理装置14の各種制御に係る情報等を記憶する。
時系列画像取得部40は、医療画像の一例である内視鏡画像を順次取得する。ここでは、時系列画像取得部40は、内視鏡プロセッサ装置12(図1参照)に有線接続又は無線接続された不図示の画像入出力インターフェースを用いて、内視鏡プロセッサ装置12から時系列のフレーム画像38aからなる動画38(本例では、内視鏡スコープ10により撮像される動画38)を取得する。また、内視鏡スコープ10にて動画38の撮像途中に前述の静止画39の撮像が行われた場合、時系列画像取得部40は、内視鏡プロセッサ装置12から動画38及び静止画39を取得する。
なお、時系列画像取得部40は、内視鏡プロセッサ装置12から動画38を直接取得する代わりに、メモリーカード、ハードディスク装置等の各種情報記憶媒体を介して動画38を取得してもよい。また、時系列画像取得部40は、インターネット上のサーバ或いはデータベース等にアップロードされた動画38をインターネット経由で取得してもよい。
注目領域検出部42は、医療画像から注目領域情報を取得する注目領域情報取得部の一例であり、被検体内の観察中に撮像された動画38から注目領域を検出する。注目領域検出部42は、動画38の各フレーム画像38a(又は間引かれた一定間隔のフレーム画像38a)の特徴量を算出し、画像内の注目領域の認識処理を行う畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)を含む。
注目領域の例としては、ポリープ、癌、大腸憩室、炎症、EMR(Endoscopic Mucosal Resection)瘢痕、ESD(Endoscopic Submucosal Dissection)瘢痕、クリップ箇所、出血点、穿孔、血管異型性、処置具等がある。
注目領域検出部42は、検出された注目領域が、「腫瘍性」、「非腫瘍性」、「その他」といった病変に関する複数のカテゴリのうちのいずれのカテゴリに属するかのカテゴリ分類等の認識結果を取得することも可能である。
なお、注目領域検出部42は、CNNにより注目領域を検出するものに限らず、画像内の色、画素値の勾配、形状、大きさ等の特徴量を画像処理により解析して注目領域を検出するものでもよい。
座標算出部44は、注目領域情報取得部の一例であり、注目領域検出部42が検出した注目領域のフレーム画像38a内の位置を示す座標を算出する。ここでは、座標算出部44は、注目領域を報知する図形を重畳する位置の座標を算出する。重畳する位置の座標とは、一例として、注目領域と注目領域以外の非注目領域との境界の座標、注目領域の内側の位置であって境界に沿った位置の座標、又は注目領域の重心の座標である。
面積算出部46は、注目領域情報取得部の一例であり、注目領域検出部42によって検出された注目領域の画像上の面積を算出する。注目領域の面積は、注目領域そのものの面積であってもよいし、注目領域が内接する矩形、多角形又は円の面積であってもよい。面積算出部46は、注目領域の面積に代えて注目領域の外周長を算出してもよい。
図形生成部48は、注目領域をユーザに報知するための図形を生成する。図形生成部48が生成する図形については、後述する。
表示制御部52は、医療画像に図形を重畳する重畳処理部の一例であり、図形が重畳された医療画像を表示器16に表示させる。表示制御部52は、画像表示制御部52A及び報知情報表示制御部52Bを備えている。
画像表示制御部52Aは、時系列画像取得部40が取得した動画38を表示器16に出力し、動画38を表示器16に表示させる。即ち、表示器16には、複数のフレーム画像38aが順次表示される。
報知情報表示制御部52Bは、表示器16に表示されたフレーム画像38aの座標算出部44が算出した座標の位置に、図形生成部48が生成した図形を重畳する。これにより、報知情報表示制御部52Bは、注目領域の内側に図形を重畳し、かつ注目領域と非注目領域との境界の少なくとも一部は図形を重畳しない、即ち非重畳にする。
ここでは、報知情報表示制御部52Bは、境界の少なくとも50%は図形を非重畳にする。報知情報表示制御部52Bは、好ましくは境界の95%は図形を非重畳にし、より好ましくは境界の100%に図形を非重畳にする。
このように、注目領域の内側に図形を重畳することで注目領域を報知し、かつ注目領域と非注目領域との境界の少なくとも一部は図形によって隠れることがないため、境界をユーザに視認させることができる。
<医療画像処理方法>
続いて、本実施形態に係る医療画像処理方法について説明する。医療画像処理方法は、記憶部54に記憶されたプログラム56を制御部50が実行することで実施される。
図3は、医療画像処理方法の各処理の一例を示すフローチャートである。医療画像処理方法は、画像取得工程(ステップS1)と、注目領域検出工程(ステップS2)と、座標算出工程(ステップS3)と、面積算出工程(ステップS4)と、図形生成工程(ステップS5)と、重畳処理工程(ステップS6)と、を含む。
ステップS1では、時系列画像取得部40は、動画38のフレーム画像38aを取得する。ステップS2では、注目領域検出部42は、ステップS1で取得したフレーム画像38aから注目領域を検出する。
ステップS3では、座標算出部44は、ステップS2で検出した注目領域の画像内の位置を示す座標を算出する。ステップS4では、面積算出部46は、ステップS2で検出した注目領域の画像上の面積を算出する。
ステップS5では、図形生成部48は、ステップS2で検出した注目領域をユーザに報知するための図形を生成する。図形生成部48は、ステップS4で算出した面積よりも小さい面積の図形を生成する。
ステップS6では、表示制御部52は、ステップS1で取得したフレーム画像38aのステップS3で算出した座標の位置にステップS5で生成した図形を重畳し、図形が重畳されたフレーム画像38aを表示器16に表示させる。これにより、ステップS2で検出した注目領域の内側に図形が重畳される。この図形は、ステップS4で算出した注目領域の面積よりも小さい図形であるため、注目領域と非注目領域との境界の少なくとも一部は図形が非重畳になる。
以上のように、医療画像処理方法によれば、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
<図形の態様>
注目領域に重畳する図形の詳細について説明する。なお、注目領域に重畳する図形は、図形生成部48において生成するのではなく、予め記憶部54に記憶させておいてもよい。
〔境界を指示する態様〕
注目領域に重畳する図形は、注目領域と非注目領域との境界の位置をユーザに指示する図形であることが好ましい。なお、以下において注目領域と非注目領域との境界を、単に注目領域の境界と表記する。
図4及び図5は、表示器16の表示の一例を示す図である。この例では、注目領域R1を含むフレーム画像38aが表示されている。また、注目領域R1の内側には、4つの図形F1、図形F2、図形F3、及び図形F4が重畳されている。
図形F1、図形F2、図形F3、及び図形F4は、それぞれ同じ矢印の形状を有する図形である。図形F1、図形F2、図形F3、及び図形F4は、それぞれ注目領域R1の面積より小さい面積を有する。図形F1、図形F2、図形F3、及び図形F4は、それぞれ同じ色を有する。
また、図形F1、図形F2、図形F3、及び図形F4は、それぞれ矢印の先端において注目領域R1の境界を指示する向きを有する。ここでは、図形F1、図形F2、図形F3、及び図形F4は、それぞれ矢印の向きが、矢印の延長線と境界との接点における境界の接線方向とが垂直に交わる向きを有する。
図4は、図形F1、図形F2、図形F3、及び図形F4が、それぞれ矢印の先端が注目領域R1の境界に接していない位置に配置される例を示している。この場合は、座標算出部44は、注目領域R1の内側の位置であって注目領域R1の境界に沿った位置の座標を算出する。図形生成部48は、矢印の形状を有する図形であって、算出された座標に応じた向きの図形F1、図形F2、図形F3、及び図形F4を生成する。報知情報表示制御部52Bは、それぞれ矢印の先端を算出された座標に一致するように、図形F1、図形F2、図形F3、及び図形F4を注目領域R1に重畳する。
また、図5は、図形F1、図形F2、図形F3、及び図形F4が、それぞれ矢印の先端が注目領域R1の境界に接する位置に配置される例を示している。この場合は、座標算出部44は、注目領域R1の境界の座標を算出する。図形生成部48は、矢印の形状を有する図形であって、算出された座標に応じた向きの図形F1、図形F2、図形F3、及び図形F4を生成する。報知情報表示制御部52Bは、それぞれ矢印の先端が算出された座標に一致するように、図形F1、図形F2、図形F3、及び図形F4を注目領域R1の内側に重畳する。
図4及び図5のように、注目領域に図形を重畳し、かつ注目領域と非注目領域との境界の少なくとも一部は図形を非重畳にすることで、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。したがって、ユーザは注目領域である病変部と病変部以外の正常粘膜部との境界の観察が容易になる。
なお、重畳する図形は矢印に限定されず、注目領域と非注目領域との境界をわかりやすく指示する図形であればよい。図6は、表示器16の表示の一例を示す図である。この例では、フレーム画像38aに含まれる注目領域R1の内側に、4つの図形F5、図形F6、図形F7、及び図形F8が重畳されている。
図形F5、図形F6、図形F7、及び図形F8は、それぞれ同じ二等辺三角形の形状を有する図形である。二等辺三角形は、2本の等辺よりも等辺以外の底辺の方が短い。図形F5、図形F6、図形F7、及び図形F8は、それぞれ同じ大きさ及び色を有し、それぞれ異なる向きを有する。
図形F5、図形F6、図形F7、及び図形F8は、それぞれ2本の等辺が共有する二等辺三角形の頂点において注目領域R1の境界を指示する向きを有する。ここでは、図形F5、図形F6、図形F7、及び図形F8は、それぞれ二等辺三角形の頂点を通る底辺の垂線の向きが、垂線の延長線と注目領域R1の境界との接点における境界の接線方向とが垂直に交わる向きを有する。
座標算出部44は、注目領域R1の内側の位置であって注目領域R1の境界に沿った位置の座標を算出する。図形生成部48は、二等辺三角形の形状を有する図形であって、算出された座標に応じた向きの図形F5、図形F6、図形F7、及び図形F8を生成する。報知情報表示制御部52Bは、それぞれ二等辺三角形の頂点が算出された座標に一致するように、図形F5、図形F6、図形F7、及び図形F8を注目領域R1に重畳する。
このように注目領域に図形を重畳した場合であっても、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。したがって、ユーザは注目領域である病変部と正常粘膜部との境界の観察が容易になる。
〔内側の座標を表す態様〕
注目領域に重畳する図形は、境界を指示する図形に限定されず、注目領域の内側の座標を表す図形であってもよい。例えば、注目領域の内側のある座標と図形の中心が一致するように配置してもよい。
図7は、表示器16の表示の一例を示す図である。この例では、注目領域R1を含むフレーム画像38aが表示されている。また、注目領域R1の内側には、1つの図形F9が重畳されている。
図形F9は、円形の形状を有する図形である。図形F9は、注目領域R1の面積より小さい面積を有する。また、図形F9は、図形F9の中心が注目領域R1の内側のある座標に合わせて配置される。
座標算出部44は、注目領域R1の内側の位置であって注目領域R1のある位置の座標を算出する。図形生成部48は、円形の形状を有する図形F9を生成する。報知情報表示制御部52Bは、図形F9の重心が算出された座標に一致するように、図形F9を注目領域R1に重畳する。
このように注目領域に図形を重畳することで、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。したがって、ユーザは注目領域である病変部と正常粘膜部との境界の観察が容易になる。
図7に示す例では円形の図形F9を重畳しているが、ある位置の座標に重畳する図形の形状は円形に限定されない。図8及び図9は、図形の他の例を示す図である。図8に示すように、斜十字形状の図形F10、十字形状の図形F11、斜方形状の図形F12、四頂点星形状の図形F13、五頂点星形状の図形F14、円と十字の組み合わせ形状の図形F15、矩形と十字の組み合わせ形状の図形F16、及び感嘆符形状の図形F17等であってもよい。その他の記号、又は文字であってもよい。これらの図形の重心を注目領域の内側のある位置の座標と一致させて重畳することで、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
また、図9に示すように、それぞれ先端Tを有する矢印形状の図形F18、ドロップ形状の図形F19、ピン形状の図形F20であってもよい。この場合、図形の先端Tを注目領域の内側のある位置の座標と一致させて重畳することで、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
ある位置の座標としては、注目領域の重心(図心)の座標、又は注目領域に外接する矩形の中心の座標等を用いることができる。図10は、注目領域R2の重心C1を示す図である。また、図11は、注目領域R2に外接する矩形SQ1の中心C2を示す図である。
このように、注目領域R2の重心C1又は中心C2に図形を重畳することで、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
〔注目領域の大きさに応じてサイズを変更する態様〕
注目領域に重畳する図形のサイズは、常に一定でなくてもよい。例えば、図形生成部48は、注目領域の画像内の大きさに応じて生成する図形のサイズを変化させてもよい。ここで、図形のサイズとは、図形の面積に比例する指標である。
図12は、表示器16の表示の一例を示す図である。図12に示す1012A、1012B、及び1012Cでは、それぞれ注目領域R3A、注目領域R3B、及び注目領域R3Cを含むフレーム画像38aが表示されている。ここでは、注目領域R3Aの面積>注目領域R3Bの面積>注目領域R3Cの面積、の関係を有している。
注目領域R3A、注目領域R3B、及び注目領域R3Cには、それぞれ四頂点星形状の図形F13A、図形F13B、及び図形F13Cが重畳されている。ここでは、図形F13Aのサイズ>図形F13Bのサイズ>図形F13Cのサイズ、の関係を有している。
このように、注目領域の面積が相対的に大きいほど重畳する図形のサイズを相対的に大きくすることで、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
なお、注目領域が著しく大きい場合は、ユーザが注目領域を詳しく観察している可能性が高い。このため、注目領域の面積に合わせた相対的に大きいサイズの図形を注目領域に重畳すると、重畳した図形はユーザにとって煩わしい可能性がある。したがって、図形生成部48は、注目領域の面積が第1面積以上の場合は、図形のサイズをそれ以上大きくさせずに、一定の第1サイズの図形を生成する。
図13は、表示器16の表示の一例を示す図である。図13に示す1013A、及び1013Bでは、それぞれ注目領域R3D、及び注目領域R3Eを含むフレーム画像38aが表示されている。ここでは、注目領域R3Aの面積<第1面積<注目領域R3Dの面積<注目領域R3Eの面積、の関係を有している。
注目領域R3D、及び注目領域R3Eには、それぞれ四頂点星形状の図形F13D、及び図形F13Eが重畳されている。ここでは、図形F13Aのサイズ<図形F13Dのサイズ=図形F13Eのサイズ、の関係を有している。
このように、注目領域の面積が第1面積以上の場合は重畳する図形のサイズを変化させずに一定とすることで、注目領域が著しく大きい場合であっても注目領域を適切に報知することができる。
また、図形のサイズを注目領域の面積に合わせて変化させた場合、注目領域が著しく小さい場合には図形のサイズが小さくなりすぎ、ユーザに報知する能力が低下する。したがって、図形生成部48は、注目領域の面積が第2面積以下の場合は図形のサイズをそれ以上小さくさせずに、一定の第2サイズの図形を生成する。
図14は、表示器16の表示の一例を示す図である。図14に示す1014A、及び1014Bでは、それぞれ注目領域R3F、及び注目領域R3Gを含むフレーム画像38aが表示されている。ここでは、注目領域R3Cの面積>第2面積>注目領域R3Fの面積>注目領域R3Gの面積、の関係を有している。
注目領域R3F、及び注目領域R3Gには、それぞれ四頂点星形状の図形F13F、及び図形F13Gが重畳されている。ここでは、図形F13Cのサイズ>図形F13Fのサイズ=図形F13Gのサイズ、の関係を有している。
このように、注目領域の面積が第2面積以下の場合は重畳する図形のサイズを一定とすることで、注目領域が著しく小さい場合であっても注目領域を適切に報知することができる。
〔注目領域の大きさに応じて形状を変更する態様〕
図15は、表示器16の表示の一例を示す図である。図15に示す1015A、及び1015Bでは、それぞれ注目領域R4A、及び注目領域R4Bを含むフレーム画像38aが表示されている。ここでは、注目領域R4Aの面積>注目領域R4Bの面積、の関係を有している。
また、注目領域R4A、及び注目領域R4Bには、それぞれ図形F5、図形F6、図形F7、及び図形F8が重畳されている。
1015Bに示すように、注目領域R4Bのように画像内の面積が小さい場合には、注目領域R4Bに重畳された図形F5、図形F6、図形F7、及び図形F8が互いに重なり合ってしまい、逆に注目領域の視認性を低下させてしまう。
これを防止するため、注目領域に重畳する図形の形状は、常に一定でなくてもよい。例えば、図形生成部48は、注目領域の画像内の大きさに応じて生成する図形の形状を変化させてもよい。ここでは、注目領域の面積がある一定の第3面積を閾値として図形の形状を変化させる例について説明する。
図16は、表示器16の表示の一例を示す図である。図16に示す1016A、1016B、及び1016Cでは、それぞれ注目領域R5A、注目領域R5B、及び注目領域R5Cを含むフレーム画像38aが表示されている。ここでは、注目領域R5Aの面積>注目領域R5Bの面積>第3面積>注目領域R5Cの面積、の関係を有している。
図16に示すように、面積が第3面積以上である注目領域R5A、及び注目領域R5Bには、それぞれ図形F5、図形F6、図形F7、及び図形F8が重畳される。一方、面積が第3面積未満である注目領域R5Cには、図形F13が重畳される。
このように、注目領域がある一定の第3面積以上の場合は、注目領域の内側に配置される注目領域の境界を指示する図形を表示し、注目領域が第3面積未満の場合は、注目領域の内側の座標を表す図形を表示する。このように表示することで、注目領域が相対的に大きい場合は、注目領域の中心と注目領域の境界付近の正常粘膜を観察しやすくなる。また、注目領域が相対的に小さい場合は、よりシンプルな図形を表示することで、ユーザの観察を阻害しなくなる。
また、図形生成部48は、注目領域の面積がある一定の第4面積未満の場合には、注目領域を囲う図形を生成してもよい。
図17は、表示器16の表示の一例を示す図である。図17に示す1017A、及び1017Bでは、それぞれ注目領域R5B、及び注目領域R5Cを含むフレーム画像38aが表示されている。ここでは、注目領域R5Bの面積>第4面積>注目領域R5Cの面積、の関係を有している。
図17に示すように、面積が第4面積以上である注目領域R5Bには、図形F5、図形F6、図形F7、及び図形F8が重畳される。一方、面積が第4面積未満である注目領域R5Cには、注目領域R5Cを囲う矩形の図形F21が重畳される。
注目領域を囲うことによって注目領域の境界、及び注目領域周辺の正常粘膜の視認性は低下する。しかしながら、注目領域の面積が著しく小さい場合は、注目領域周辺の視認性を向上させることよりも、ユーザに注目領域の存在を知らせることのほうが重要である。したがって、図17に示すような表示方法をとることが望ましい。このように表示することで、注目領域が相対的に大きい場合は、注目領域の中心と注目領域の境界付近の正常粘膜を観察しやすくなる。また、注目領域が相対的に小さい場合は、ユーザに注目領域を認識させることができる。
なお、注目領域を囲う図形は矩形に限定されず、注目領域が存在する範囲を注目領域の外側から指示する図形であればよい。
図18は、注目領域R6を囲う4つの図形F22、図形F23、図形F24、及び図形F25を示す図である。図形F22は、水平方向の線分と垂直方向の線分とからなるL字状の図形である。図形F23、図形F24、及び図形F25は、それぞれ図形F22と同じ形状を有しており、図形F22とは向きが異なる図形である。図形F22、図形F23、図形F24、及び図形F25は、注目領域R6を囲う矩形の枠FR1の四隅に、それぞれ水平方向の線分と垂直方向の線分とを矩形の枠FR1に重ねて配置される。
また、図19は、注目領域R6を囲う4つの図形F26、図形F27、図形F28、及び図形F29を示す図である。図形F26、図形F27、図形F28、及び図形F29は、それぞれ同じ二等辺三角形の形状を有し、互いに向きが異なる図形である。図形F26、図形F27、図形F28、及び図形F29は、注目領域R6を囲う矩形の枠FR2の四隅に、それぞれ二等辺三角形の頂点を注目領域R6の重心に向けて配置される。
また、図20は、注目領域R6を囲う4つの図形F30、図形F31、図形F32、及び図形F33を示す図である。図形F30、図形F31、図形F32、及び図形F33は、それぞれ同じ二等辺三角形の形状を有し、互いに向きが異なる図形である。図形F30、図形F31、図形F32、及び図形F33は、注目領域R6を囲う楕円の枠FR3上の各位置に、それぞれ二等辺三角形の頂点を注目領域R6の重心に向けて配置されている。
このように図形を重畳することで、注目領域が相対的に小さい場合であっても、ユーザに注目領域を認識させることができる。
〔注目領域の大きさに応じて数を変更する態様〕
注目領域に重畳させる図形の数は、常に一定でなくてもよい。例えば、図形生成部48は、注目領域の面積がある一定の第5面積を閾値として、生成する図形の数を変化させてもよい。
図21は、表示器16の表示の一例を示す図である。図21に示す1021A、及び1021Bでは、それぞれ注目領域R7A、及び注目領域R7Bを含むフレーム画像38aが表示されている。ここでは、注目領域R7Aの面積>第5面積>注目領域R7Bの面積、の関係を有している。
図21に示すように、面積が第5面積以上である注目領域R7Aには、8つの図形F34、図形F35、図形F36、図形F37、図形F38、図形F39、図形F40、及び図形F41が重畳される。一方、面積が第5面積未満である注目領域R7Bには、4つの図形F42、図形F43、図形F44、及び図形F45が重畳される。
このように、注目領域の面積が相対的に大きいほど相対的に多くの数の図形を重畳することで、医療画像の注目領域と非注目領域との境界の観察を妨げずに注目領域を報知することができる。
<その他>
上記の医療画像処理方法は、各工程をコンピュータに実現させるためのプログラムとして構成し、このプログラムを記憶したCD-ROM(Compact Disk-Read Only Memory)等の非一時的な記録媒体を構成することも可能である。
ここでは内視鏡画像に図形を重畳する例を説明したが、図形を重畳する医療画像は内視鏡画像に限定されず、超音波画像、CT(Computed Tomography)画像、MRI(Magnetic Resonance Imaging)画像等に適用することができる。
ここまで説明した実施形態において、内視鏡プロセッサ装置12及び医療画像処理装置14は、それぞれ異なる装置として説明したが、内視鏡プロセッサ装置12及び医療画像処理装置14を一体の装置として構成し、医療画像処理装置14の機能を有する内視鏡プロセッサ装置12としてもよい。
内視鏡プロセッサ装置12及び医療画像処理装置14の各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、画像処理に特化したプロセッサであるGPU(Graphics Processing Unit)、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種又は異種の2つ以上のプロセッサ(例えば、複数のFPGA、或いはCPUとFPGAの組み合わせ、又はCPUとGPUの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、サーバ及びクライアント等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、各種のプロセッサを1つ以上用いて構成される。
更に、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路(circuitry)である。
本発明の技術的範囲は、上記の実施形態に記載の範囲には限定されない。各実施形態における構成等は、本発明の趣旨を逸脱しない範囲で、各実施形態間で適宜組み合わせることができる。
9…内視鏡システム
10…内視鏡スコープ
11…光源装置
12…内視鏡プロセッサ装置
13…表示装置
14…医療画像処理装置
15…操作部
16…表示器
20…挿入部
21…手元操作部
22…ユニバーサルコード
25…軟性部
26…湾曲部
27…先端部
28…撮像素子
29…湾曲操作ノブ
30…送気送水ボタン
31…吸引ボタン
32…静止画撮像指示部
33…処置具導入口
35…ライトガイド
36…信号ケーブル
37a…コネクタ
37b…コネクタ
38…動画
38a…フレーム画像
39…静止画
40…時系列画像取得部
42…注目領域検出部
44…座標算出部
46…面積算出部
48…図形生成部
50…制御部
52…表示制御部
52A…画像表示制御部
52B…報知情報表示制御部
54…記憶部
56…プログラム
FR1~FR3…枠
F1~F45…図形
R1~R7B…注目領域
SQ1…矩形
S1~S6…医療画像処理方法の各ステップ

Claims (21)

  1. 医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理部を有し、
    前記重畳処理部は、前記注目領域の内側に前記図形を重畳し、かつ前記注目領域と非注目領域との境界の少なくとも一部は前記図形を非重畳にし、
    前記重畳処理部は、前記注目領域の面積に応じたサイズの前記図形を重畳し、
    前記重畳処理部は、前記注目領域の面積が第1面積以上の場合は一定の第1サイズの前記図形を重畳する医療画像処理装置。
  2. 医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理部を有し、
    前記重畳処理部は、前記注目領域の内側に前記図形を重畳し、かつ前記注目領域と非注目領域との境界の少なくとも一部は前記図形を非重畳にし、
    前記重畳処理部は、前記注目領域の面積に応じたサイズの前記図形を重畳し、
    前記重畳処理部は、前記注目領域の面積が第2面積以下の場合は一定の第2サイズの前記図形を重畳する医療画像処理装置。
  3. 医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理部を有し、
    前記重畳処理部は、前記注目領域の内側に前記図形を重畳し、かつ前記注目領域と非注目領域との境界の少なくとも一部は前記図形を非重畳にし、
    前記重畳処理部は、前記注目領域の面積に応じた形状の前記図形を重畳し、
    前記重畳処理部は、前記注目領域の面積が第3面積以上の場合は前記注目領域の内側から前記境界を指示する図形を重畳し、かつ前記注目領域の面積が第3面積未満の場合は前記注目領域の内側の座標を示す図形を重畳する医療画像処理装置。
  4. 医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理部を有し、
    前記重畳処理部は、前記注目領域の内側に前記図形を重畳し、かつ前記注目領域と非注目領域との境界の少なくとも一部は前記図形を非重畳にし、
    前記重畳処理部は、前記注目領域の面積に応じた形状の前記図形を重畳し、
    前記重畳処理部は、前記注目領域の面積が第4面積以上の場合は前記注目領域の内側から前記境界を指示する前記図形を重畳し、かつ前記注目領域の面積が第4面積未満の場合は前記注目領域の外側に前記図形を重畳する医療画像処理装置。
  5. 医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理部を有
    し、
    前記重畳処理部は、前記注目領域の内側に前記図形を重畳し、かつ前記注目領域と非注
    目領域との境界の少なくとも一部は前記図形を非重畳にし、
    前記重畳処理部は、前記注目領域の面積に応じた数の前記図形を重畳する医療画像処理装置。
  6. 前記重畳処理部は、前記境界を指示する図形を前記注目領域に重畳する請求項1から5のいずれか1項に記載の医療画像処理装置。
  7. 前記注目領域は、病変領域である請求項1から6のいずれか1項に記載の医療画像処理装置。
  8. 医療画像に含まれる注目領域を報知する図形であって、前記注目領域と非注目領域との境界を指示する図形を前記医療画像に重畳する重畳処理部を有し、
    前記重畳処理部は、前記注目領域の内側に前記図形を重畳し、かつ前記境界の少なくとも一部は前記図形を非重畳にし、
    前記注目領域は、病変領域である医療画像処理装置。
  9. 前記医療画像を取得する画像取得部と、
    前記医療画像から注目領域情報を取得する注目領域情報取得部と、
    を備えた請求項1から8のいずれか1項に記載の医療画像処理装置。
  10. 前記重畳処理部は、前記注目領域の重心を示す図形を前記注目領域に重畳する請求項1からのいずれか1項に記載の医療画像処理装置。
  11. 前記図形を生成する図形生成部を備えた請求項1から10のいずれか1項に記載の医療画像処理装置。
  12. 前記図形が重畳された前記医療画像を表示部に表示させる表示制御部を備えた請求項1から11のいずれか1項に記載の医療画像処理装置。
  13. 請求項12に記載の医療画像処理装置と、
    前記表示部と、
    を備えた診断支援装置。
  14. 医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理部を有する医療画像処理装置の作動方法であって、
    前記重畳処理部が医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理工程を有し、
    前記重畳処理工程は、前記注目領域の内側に前記図形を重畳し、かつ前記注目領域と非注目領域との境界の少なくとも一部は前記図形を非重畳にし、
    前記重畳処理工程は、前記注目領域の面積に応じたサイズの前記図形を重畳し、
    前記重畳処理工程は、前記注目領域の面積が第1面積以上の場合は一定の第1サイズの前記図形を重畳する医療画像処理装置の作動方法。
  15. 医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理部を有する医療画像処理装置の作動方法であって、
    前記重畳処理部が医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理工程を有し、
    前記重畳処理工程は、前記注目領域の内側に前記図形を重畳し、かつ前記注目領域と非注目領域との境界の少なくとも一部は前記図形を非重畳にし、
    前記重畳処理工程は、前記注目領域の面積に応じたサイズの前記図形を重畳し、
    前記重畳処理工程は、前記注目領域の面積が第2面積以下の場合は一定の第2サイズの前記図形を重畳する医療画像処理装置の作動方法。
  16. 医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理部を有する医療画像処理装置の作動方法であって、
    前記重畳処理部が医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理工程を有し、
    前記重畳処理工程は、前記注目領域の内側に前記図形を重畳し、かつ前記注目領域と非注目領域との境界の少なくとも一部は前記図形を非重畳にし、
    前記重畳処理工程は、前記注目領域の面積に応じた形状の前記図形を重畳し、
    前記重畳処理工程は、前記注目領域の面積が第3面積以上の場合は前記注目領域の内側から前記境界を指示する図形を重畳し、かつ前記注目領域の面積が第3面積未満の場合は前記注目領域の内側の座標を示す図形を重畳する医療画像処理装置の作動方法。
  17. 医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理部を有する医療画像処理装置の作動方法であって、
    前記重畳処理部が医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理工程を有し、
    前記重畳処理工程は、前記注目領域の内側に前記図形を重畳し、かつ前記注目領域と非注目領域との境界の少なくとも一部は前記図形を非重畳にし、
    前記重畳処理工程は、前記注目領域の面積に応じた形状の前記図形を重畳し、
    前記重畳処理工程は、前記注目領域の面積が第4面積以上の場合は前記注目領域の内側から前記境界を指示する前記図形を重畳し、かつ前記注目領域の面積が第4面積未満の場合は前記注目領域の外側に前記図形を重畳する医療画像処理装置の作動方法。
  18. 医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理部を有する医療画像処理装置の作動方法であって、
    前記重畳処理部が医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理工程を有し、
    前記重畳処理工程は、前記注目領域の内側に前記図形を重畳し、かつ前記注目領域と非注目領域との境界の少なくとも一部は前記図形を非重畳にし、
    前記重畳処理工程は、前記注目領域の面積に応じた数の前記図形を重畳する医療画像処理装置の作動方法。
  19. 医療画像に含まれる注目領域を報知する図形を前記医療画像に重畳する重畳処理部を有する医療画像処理装置の作動方法であって、
    前記重畳処理部が医療画像に含まれる注目領域を報知する図形であって、前記注目領域と非注目領域との境界を指示する図形を前記医療画像に重畳する重畳処理工程を有し、
    前記重畳処理工程は、前記注目領域の内側に前記図形を重畳し、かつ前記境界の少なくとも一部は前記図形を非重畳にし、
    前記注目領域は、病変領域である医療画像処理装置の作動方法。
  20. 請求項14から19のいずれか1項に記載の医療画像処理装置の作動方法をコンピュータに実行させるプログラム。
  21. 非一時的かつコンピュータ読取可能な記録媒体であって、前記記録媒体に格納された指令がコンピュータによって読み取られた場合に請求項20に記載のプログラムをコンピュータに実行させる記録媒体。
JP2020553888A 2018-11-01 2019-10-28 医療画像処理装置、医療画像処理装置の作動方法及びプログラム、診断支援装置 Active JP7143436B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018206759 2018-11-01
JP2018206759 2018-11-01
PCT/JP2019/042160 WO2020090731A1 (ja) 2018-11-01 2019-10-28 医療画像処理装置、医療画像処理方法及びプログラム、診断支援装置

Publications (2)

Publication Number Publication Date
JPWO2020090731A1 JPWO2020090731A1 (ja) 2021-09-30
JP7143436B2 true JP7143436B2 (ja) 2022-09-28

Family

ID=70464444

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020553888A Active JP7143436B2 (ja) 2018-11-01 2019-10-28 医療画像処理装置、医療画像処理装置の作動方法及びプログラム、診断支援装置

Country Status (5)

Country Link
US (1) US11481944B2 (ja)
EP (1) EP3875022B1 (ja)
JP (1) JP7143436B2 (ja)
CN (1) CN112969404B (ja)
WO (1) WO2020090731A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7374224B2 (ja) * 2021-01-14 2023-11-06 コ,ジファン 内視鏡を用いた大腸検査ガイド装置
US11978209B2 (en) 2021-06-28 2024-05-07 Fujifilm Corporation Endoscope system, medical image processing device, and operation method therefor
WO2023018685A1 (en) * 2021-08-10 2023-02-16 Intuitive Surgical Operations, Inc. Systems and methods for a differentiated interaction environment

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013000403A (ja) 2011-06-17 2013-01-07 Olympus Corp 内視鏡装置および内視鏡装置の作動方法
WO2016199273A1 (ja) 2015-06-11 2016-12-15 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
WO2017073338A1 (ja) 2015-10-26 2017-05-04 オリンパス株式会社 内視鏡画像処理装置
WO2017115442A1 (ja) 2015-12-28 2017-07-06 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090202179A1 (en) * 2008-02-13 2009-08-13 General Electric Company method and system for providing region based image modification
JP5658873B2 (ja) * 2009-11-13 2015-01-28 オリンパス株式会社 画像処理装置、電子機器、内視鏡システム及びプログラム
JP6231885B2 (ja) * 2011-03-16 2017-11-15 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 頸部を検査する医療機器
JP6404713B2 (ja) * 2011-06-17 2018-10-17 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 内視鏡手術におけるガイド下注入のためのシステム及び方法
US20150173619A1 (en) * 2012-04-17 2015-06-25 Collage Medical Imaging Ltd. Organ mapping system using an optical coherence tomography probe
US11188285B2 (en) * 2014-07-02 2021-11-30 Covidien Lp Intelligent display
WO2016130424A1 (en) * 2015-02-09 2016-08-18 The Arizona Board Of Regents Of Regents On Behalf Of The University Of Arizona Augmented stereoscopic microscopy
WO2017098503A1 (en) * 2015-12-07 2017-06-15 M.S.T. Medical Surgery Technologies Ltd. Database management for laparoscopic surgery
US11357575B2 (en) * 2017-07-14 2022-06-14 Synaptive Medical Inc. Methods and systems for providing visuospatial information and representations

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013000403A (ja) 2011-06-17 2013-01-07 Olympus Corp 内視鏡装置および内視鏡装置の作動方法
WO2016199273A1 (ja) 2015-06-11 2016-12-15 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
WO2017073338A1 (ja) 2015-10-26 2017-05-04 オリンパス株式会社 内視鏡画像処理装置
WO2017115442A1 (ja) 2015-12-28 2017-07-06 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム

Also Published As

Publication number Publication date
EP3875022B1 (en) 2024-10-02
US20210233298A1 (en) 2021-07-29
WO2020090731A1 (ja) 2020-05-07
EP3875022A4 (en) 2021-10-20
US11481944B2 (en) 2022-10-25
CN112969404A (zh) 2021-06-15
JPWO2020090731A1 (ja) 2021-09-30
EP3875022A1 (en) 2021-09-08
CN112969404B (zh) 2024-04-12

Similar Documents

Publication Publication Date Title
US11607109B2 (en) Endoscopic image processing device, endoscopic image processing method, endoscopic image processing program, and endoscope system
JP7143436B2 (ja) 医療画像処理装置、医療画像処理装置の作動方法及びプログラム、診断支援装置
JP7125479B2 (ja) 医療画像処理装置、医療画像処理装置の作動方法及び内視鏡システム
JP7170050B2 (ja) 医療画像処理装置、医療画像処理装置の作動方法及びプログラム、内視鏡システム
JP7315576B2 (ja) 医療画像処理装置、医療画像処理装置の作動方法及びプログラム、診断支援装置、ならびに内視鏡システム
WO2019130868A1 (ja) 画像処理装置、プロセッサ装置、内視鏡システム、画像処理方法、及びプログラム
US20210174557A1 (en) Medical image processing apparatus, medical image processing method, program, and endoscope system
US12131513B2 (en) Medical image processing apparatus and medical image processing method for utilizing a classification result relating to a medical image
WO2019087969A1 (ja) 内視鏡システム、報知方法、及びプログラム
WO2020059445A1 (ja) 画像処理装置及び画像処理方法
WO2019088008A1 (ja) 画像処理装置、画像処理方法、プログラム、及び内視鏡システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210525

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220425

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220914

R150 Certificate of patent or registration of utility model

Ref document number: 7143436

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150