[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP7162670B2 - 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の作動方法 - Google Patents

内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の作動方法 Download PDF

Info

Publication number
JP7162670B2
JP7162670B2 JP2020546752A JP2020546752A JP7162670B2 JP 7162670 B2 JP7162670 B2 JP 7162670B2 JP 2020546752 A JP2020546752 A JP 2020546752A JP 2020546752 A JP2020546752 A JP 2020546752A JP 7162670 B2 JP7162670 B2 JP 7162670B2
Authority
JP
Japan
Prior art keywords
observation mode
light
detection target
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020546752A
Other languages
English (en)
Other versions
JPWO2020054255A1 (ja
Inventor
正明 大酒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2020054255A1 publication Critical patent/JPWO2020054255A1/ja
Priority to JP2022167059A priority Critical patent/JP7374280B2/ja
Application granted granted Critical
Publication of JP7162670B2 publication Critical patent/JP7162670B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • A61B1/0684Endoscope light sources using light emitting diodes [LED]
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2476Non-optical details, e.g. housings, mountings, supports
    • G02B23/2484Arrangements in relation to a camera or imaging device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Optics & Photonics (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Astronomy & Astrophysics (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)

Description

本発明は内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の操作方法に係り、特にユーザによる内視鏡スコープの操作の負担を軽減する技術に関する。
一般的な内視鏡装置は、内視鏡スコープの挿入部の先端から照明光を照射し、被観察対象を撮像素子により撮像して画像情報を取得するが、このとき照明光は白色光(通常光)だけでなく、白色光とは異なるスペクトルの特殊光を使用することが知られている(特許文献1、2)。
特許文献1に記載の内視鏡装置は、内視鏡スコープの挿入部の先端に触子部を有し、触子部を生体表面に押し当て、生体表面の特徴量を検出し、検出された特徴量に応じて白色光を使用する通常光観察モードと、特殊光を使用する特殊光観察モードとの間で自動的に観察モード(照明光)を切り替えるようにしている。
特許文献2に記載の内視鏡装置は、狭帯域光の光量を広帯域光の光量よりも増加させた第1照明モードと、狭帯域光の光量と広帯域光の光量とがほぼ等しくなる第2照明モードと、狭帯域光の光量を広帯域光の光量よりも減少させた第3照明モードとを有し、被観察部位の種類を判別し、判別した被観察部位の種類に応じて自動的に照明モードを切り替え、これにより術者の手間を軽減するようにしている。
また、近年においては、画像解析によって画像に含まれる病変を検出する、病変を種別ごとに分類する等の認識を行い、報知することで検査を支援することが知られている。
認識のための画像解析においては、深層学習(Deep Learning)をはじめとする画像の機械学習により高精度な自動認識が可能となっている(例えば、非特許文献1)。
特開2012-160号公報 特開2014-166590号公報
A. Krizhevsky, I. Sutskever, and G. Hinton. ImageNet classification with deep convolutional neural networks. In NIPS, 2012
特許文献1に記載の発明は、内視鏡スコープの挿入部の先端の触子部を生体表面に押し当て生体表面を陥没させ、その生体表面の陥没領域の大きさが閾値を超えると、観察モードを自動的に特殊光観察モードに切り替えるが、術者が、触子部を生体表面に押し当てる(触診を行う)必要がある。
特許文献2に記載の発明は、観察部位(例えば、食道、噴門、胃)の種類に応じて、食道の特殊光観察に適した照明光を用いる第1照明モードと、噴門の特殊光観察に適した照明光を用いる第2照明モードと、胃の特殊光観察に適した照明光を用いる第3照明モードとを自動的に切り替えるが、一回の内視鏡検査において、種類の異なる複数の観察部位を観察する場合に限られる。
本発明はこのような事情に鑑みてなされたもので、画像から検出対象が検出された場合に自動的に照明光(観察モード)を切り替えることで、術者による切り替え操作の負担を低減することができる内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の操作方法を提供することを目的とする。
上記目的を達成するために本発明の一の態様に係る内視鏡装置は、第1観察モード及び第2観察モードにそれぞれ対応する第1照明光及び第2照明光を発光する光源部と、第1照明光又は第2照明光が照射された被写体を撮像する撮像部と、撮像部により順次撮像された画像から検出対象を検出する検出器と、検出器が検出対象を継続的に検出しているか否かを判定する継続検出判定部と、第1観察モードと第2観察モードとを切り替える観察モード切替部と、を備え、観察モード切替部は、第1観察モードが使用されている状態において、継続検出判定部により検出対象が継続的に検出されていると判定されると、第2観察モードに自動的に切り替える。
本発明の一の態様によれば、第1観察モードにより第1照明光下で撮像された画像から継続的に検出対象が検出されると、第1観察モードを第2照明光下で撮像する第2観察モードに自動的に切り替えるようにしたため、検出対象の詳細な観察に適した第2照明光下で検出対象を撮像することができ、かつ術者による観察モードの切り替え操作の負担を低減することができる。
本発明の他の態様に係る内視鏡装置において、撮像部により撮像された画像の特定領域の変化量を算出する変化量算出部と、変化量算出部により算出された変化量が閾値以内か否かを判定する変化量判定部と、を備え、観察モード切替部は、第1観察モードが使用されている状態において、継続検出判定部により検出対象が継続的に検出されていると判定され、かつ変化量判定部により変化量が閾値以内と判定されると、第2観察モードに自動的に切り替えることが好ましい。変化量が閾値以内の場合には、画像がほぼ静止(術者が検出対象を注視)していると考えられるため、検出対象の詳細な観察に適した第2観察モードに切り替える。
本発明の更に他の態様に係る内視鏡装置において、特定領域は、撮像部により撮像された画像の全体領域であることが好ましい。
本発明の更に他の態様に係る内視鏡装置において、特定領域は、撮像部により撮像された画像の中心領域であることが好ましい。
本発明の更に他の態様に係る内視鏡装置において、特定領域は、検出器からの検出情報を元に算出される検出対象に対応する領域であることが好ましい。
本発明の更に他の態様に係る内視鏡装置において、変化量算出部により算出される変化量は、特定領域の位置の変化量であることが好ましい。
本発明の更に他の態様に係る内視鏡装置において、変化量算出部により算出される変化量は、特定領域のサイズの変化量であることが好ましい。
本発明の更に他の態様に係る内視鏡装置において、観察モード切替部は、第2観察モードに切り替えた後、一定時間経過後に第1観察モードに切り替えることが好ましい。一定時間経過後には、第2観察モードによる検出対象の観察が終了するためである。
本発明の更に他の態様に係る内視鏡装置において、観察モード切替部は、第2観察モードに切り替えた後、継続検出判定部により検出対象が継続的に検出されていないと判定されると、第1観察モードに切り替えることが好ましい。第2観察モードにより観察すべき検出対象が存在しないからである。
本発明の更に他の態様に係る内視鏡装置において、観察モード切替部は、第2観察モードに切り替えた後、変化量判定部により変化量が閾値よりも大きいと判定されると、第1観察モードに切り替えることが好ましい。変化量が閾値よりも大きい場合には、画像が変化しており、術者が検出対象に注視していないと考えられるため、第1観察モードに切り替える。
本発明の更に他の態様に係る内視鏡装置において、観察モード切替部は、第2観察モードに切り替えた後、静止画の撮像が行われると、第1観察モードに切り替えることが好ましい。
本発明の更に他の態様に係る内視鏡装置において、継続検出判定部は、検出器が、検出器の検出間隔よりも長い一定の時間範囲内で検出対象を連続して検出する場合、検出対象を継続的に検出していると判定することが好ましい。
本発明の更に他の態様に係る内視鏡装置において、継続検出判定部は、検出器が、検出器の検出間隔よりも長い一定の時間範囲内で検出対象を閾値以上の割合で検出する場合、検出対象を継続的に検出していると判定することが好ましい。
本発明の更に他の態様に係る内視鏡装置において、第1観察モードは、第1照明光として通常光を使用する通常光観察モードであり、第2観察モードは、第2照明光として特殊光を使用する特殊光観察モードであることが好ましい。
本発明の更に他の態様に係る内視鏡装置において、第1観察モードは、第1照明光として第1特殊光を使用する第1特殊光観察モードであり、第2観察モードは、第2照明光として第1特殊光とは異なる第2特殊光を使用する第2特殊光観察モードであることが好ましい。
本発明の更に他の態様に係る内視鏡プロセッサは、第1観察モード及び第2観察モードにそれぞれ対応する第1照明光及び第2照明光を発光する光源部と、第1照明光又は第2照明光が照射された被写体を撮像する撮像部から、被写体を示す画像を順次取得する画像取得部と、順次取得した画像から検出対象を検出する検出器と、検出器が検出対象を継続的に検出しているか否かを判定する継続検出判定部と、第1観察モードと第2観察モードとを切り替える観察モード切替部と、を備え、観察モード切替部は、第1観察モードが使用されている状態において、継続検出判定部により検出対象が継続的に検出されていると判定されると、第2観察モードに自動的に切り替える。
更に他の態様に係る発明は、第1観察モード及び第2観察モードを有する内視鏡装置の操作方法であって、光源部から第1観察モードに対応する第1照明光を発光させるステップと、撮像部が、第1照明光が照射された被写体を撮像するステップと、検出器が、撮像部により順次撮像された画像から検出対象を検出するステップと、継続検出判定部が、検出器が検出対象を継続的に検出しているか否かを判定するステップと、観察モード切替部が、第1観察モードと第2観察モードとを切り替えるステップであって、第1観察モードが使用されている状態において、判定するステップにより検出対象が継続的に検出されていると判定されると、第2観察モードに自動的に切り替えるステップと、第2観察モードに切り替えられると、光源部から第2観察モードに対応する第2照明光を発光するステップと、撮像部が、第2照明光が照射された被写体を撮像するステップと、を含む。
本発明によれば、第1観察モードにより第1照明光下で撮像された画像から継続的に検出対象が検出されると、第2照明光下で撮像する第2観察モードに自動的に切り替えるようにしたため、検出対象の詳細な観察に適した第2照明光下で検出対象を撮像することができ、かつ術者による観察モードの切り替え操作の負担を低減することができる。
図1は、本発明に係る内視鏡装置10の外観を示す斜視図である。 図2は、内視鏡装置10の電気的構成を示すブロック図である。 図3は、検出器15を構成する学習モデルの一つである畳み込みニューラルネットワークの代表的な構成例を示す模式図である。 図4は、本発明に係る内視鏡装置を構成する内視鏡プロセッサの第1実施形態を示す要部ブロック図である。 図5は、第1観察モードとしてWLを使用した通常光観察モードとし、第2観察モードとしてBLI用の特殊光を使用した特殊光観察モードとした場合の観察モードの自動切替えを示す概念図である。 図6は、本発明に係る内視鏡装置を構成する内視鏡プロセッサの第2実施形態を示す要部ブロック図である。 図7は、本発明に係る内視鏡装置を構成する内視鏡プロセッサの第3実施形態を示す要部ブロック図である。 図8は、内視鏡スコープ11により順次撮像される入力画像(フレーム)と、入力画像から検出される検出対象の検出結果と、検出対象の中心座標の変化量と、検出対象のサイズ(面積)の変化量とを示す図である。 図9は、第1観察モードとしてBLI用の特殊光を使用した第1特殊光観察モードとし、第2観察モードとしてLCI用の特殊光を使用した第2特殊光観察モードとした場合の観察モードの自動切替えを示す概念図である。 図10は、本発明に係る内視鏡装置の操作方法の実施形態を示すフローチャートである。
以下、添付図面に従って本発明に係る内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の操作方法の好ましい実施形態について説明する。
[内視鏡装置の全体構成]
図1は、本発明に係る内視鏡装置10の外観を示す斜視図である。
図1に示すように内視鏡装置10は、主として被検体内の観察対象を撮像する内視鏡スコープ(ここでは軟性内視鏡)11と、光源装置(光源部)12と、内視鏡プロセッサ13と、液晶モニタ等の表示器14と、検出器15とから構成されている。
光源装置12は、通常光画像の撮像用の白色光(第1照明光)、及び白色光とは異なるスペクトルの特殊光(第2照明光)の各種の観察光を内視鏡スコープ11へ供給する。
内視鏡プロセッサ13は、内視鏡スコープ11により得られた画像信号に基づいて表示用/記録用の通常光画像、特殊光画像、又は観察用画像の画像データを生成する画像処理機能、光源装置12を制御する機能、通常画像又は観察用画像、及び検出器15による検出結果を表示器14に表示させる機能等を有する。
尚、検出器15の詳細は後述するが、内視鏡プロセッサ13から内視鏡画像を受け付け、内視鏡画像から検出対象(病変、手術痕、処置痕など)の位置検出や病変の種類の鑑別等を行う部分である。また、本例の内視鏡プロセッサ13と光源装置12とは別体に構成され、電気的に接続されているが、内視鏡プロセッサ13に光源装置12が内蔵されていてもよい。同様に、内視鏡プロセッサ13に検出器15が内蔵されていてもよい。
表示器14は、内視鏡プロセッサ13から入力される表示用の画像データに基づき通常画像、特殊光画像又は観察用画像、及び検出器15による認識結果を表示する。
内視鏡スコープ11は、被検体内に挿入される可撓性の挿入部16と、挿入部16の基端部に連設され、内視鏡スコープ11の把持及び挿入部16の操作に用いられる手元操作部17と、手元操作部17を光源装置12及び内視鏡プロセッサ13に接続するユニバーサルコード18と、を備えている。
挿入部16の先端である挿入部先端16aには、照明レンズ42、対物レンズ44、撮像素子45などが内蔵されている(図2参照)。挿入部先端16aの後端には、湾曲自在な湾曲部16bが連設されている。また、湾曲部16bの後端には、可撓性を有する可撓管部16cが連設されている。
手元操作部17には、アングルノブ21、操作ボタン22、及び鉗子入口23などが設けられている。アングルノブ21は、湾曲部16bの湾曲方向及び湾曲量を調整する際に回転操作される。操作ボタン22は、送気・送水や吸引等の各種の操作に用いられる。鉗子入口23は、挿入部16内の鉗子チャンネルに連通している。また、手元操作部17には、各種の設定を行う内視鏡操作部46(図2参照)等が設けられている。
ユニバーサルコード18には、送気・送水チャンネル、信号ケーブル、及びライトガイドなどが組み込まれている。ユニバーサルコード18の先端部には、光源装置12に接続されるコネクタ部25aと、内視鏡プロセッサ13に接続されるコネクタ部25bとが設けられている。これにより、コネクタ部25aを介して光源装置12から内視鏡スコープ11に観察光が供給され、コネクタ部25bを介して内視鏡スコープ11により得られた画像信号が内視鏡プロセッサ13に入力される。
尚、光源装置12には、電源ボタン、光源を点灯させる点灯ボタン、及び明るさ調節ボタン等の光源操作部12aが設けられ、また、内視鏡プロセッサ13には、電源ボタン、図示しないマウス等のポインティングデバイスからの入力を受け付ける入力部を含むプロセッサ操作部13aが設けられている。
[内視鏡装置の電気的構成]
図2は、内視鏡装置10の電気的構成を示すブロック図である。
図2に示すように内視鏡スコープ11は、大別してライトガイド40と、照明レンズ42と、対物レンズ44と、撮像素子45と、内視鏡操作部46と、内視鏡制御部47と、ROM(Read Only Memory)48とを有している。
ライトガイド40は、大口径光ファイバ、バンドルファイバなどが用いられる。ライトガイド40は、その入射端がコネクタ部25aを介して光源装置12に挿入されており、その出射端が挿入部16を通って挿入部先端16a内に設けられた照明レンズ42に対向している。光源装置12からライトガイド40に供給された照明光は、照明レンズ42を通して観察対象に照射される。そして、観察対象で反射及び/又は散乱した照明光は、対物レンズ44に入射する。
対物レンズ44は、入射した照明光の反射光又は散乱光(即ち、観察対象の光学像)を撮像素子45の撮像面に結像させる。
撮像素子45は、CMOS(complementary metal oxide semiconductor)型又はCCD(charge coupled device)型の撮像素子であり、対物レンズ44よりも奥側の位置で対物レンズ44に相対的に位置決め固定されている。撮像素子45の撮像面には、光学像を光電変換する複数の光電変換素子(フォトダイオード)により構成される複数の画素が2次元配列されている。また、本例の撮像素子45の複数の画素の入射面側には、画素毎に赤(R)、緑(G)、青(B)のカラーフィルタが配置され、これによりR画素、G画素、B画素が構成されている。尚、RGBのカラーフィルタのフィルタ配列は、ベイヤ配列が一般的であるが、これに限らない。
撮像素子45は、対物レンズ44により結像される光学像を電気的な画像信号に変換して内視鏡プロセッサ13に出力する。
尚、撮像素子45がCMOS型である場合には、A/D(Analog/Digital)変換器が内蔵されており、撮像素子45から内視鏡プロセッサ13に対してデジタルの画像信号が直接出力される。また、撮像素子45がCCD型である場合には、撮像素子45から出力される画像信号は、図示しないA/D変換器等でデジタルな画像信号に変換された後、内視鏡プロセッサ13に出力される。
内視鏡操作部46は、図示しない静止画撮影ボタン、手動にて観察モードを切り替えるモード切替えボタンが配置され、モード切替えボタンからの切り替え信号は内視鏡制御部47に入力される。尚、モード切替えボタンは、押下動作の度に照明光の種類(観察モード)を切り替える操作部であり、後述するように自動的に観察モードを切り替える「AUTO」モードを含む。また、モード切替えボタンは、内視鏡プロセッサ13のプロセッサ操作部13aに設けられていてもよい。
内視鏡制御部47は、内視鏡操作部46での操作に応じてROM48等から読み出した各種プログラムやデータを逐次実行し、主として撮像素子45の駆動を制御する。例えば、白色光(通常光)を照明光とする通常光観察モードの場合、内視鏡制御部47は、撮像素子45のR画素、G画素及びB画素の信号を読み出すように撮像素子45を制御し、白色光とは異なるスペクトルの特殊光を照明光とする特殊光観察モードであって、特定の特殊光画像を取得するために観察光としてV-LED32aから紫色光が発光される場合、又はB-LED32bから青色光が発光される場合には、これらの紫色光、青色光の波長帯域に分光感度を有する撮像素子45のB画素の信号のみを読み出し、あるいはR画素、G画素及びB画素の3つの色画素のうちのいずれか1つの色画素、又は2つの色画素を読み出すように撮像素子45を制御する。
また、内視鏡制御部47は、内視鏡プロセッサ13のプロセッサ制御部61との間で通信を行い、内視鏡操作部46での操作情報及びROM48に記憶されている内視鏡スコープ11の種類を識別するための識別情報等を内視鏡プロセッサ13に送信する。
光源装置12は、光源制御部31及び光源ユニット32を有している。光源制御部31は、光源ユニット32の制御と、内視鏡プロセッサ13のプロセッサ制御部61との間で通信を行い、各種情報の遣り取りを行う。
光源ユニット32は、例えば複数の半導体光源を有している。本実施形態では、光源ユニット32は、V-LED(Violet Light Emitting Diode)32a、B-LED(Blue Light Emitting Diode)32b、G-LED(Green Light Emitting Diode)32c、及びR-LED(Red Light Emitting Diode)32dの4色のLEDを有する。V-LED32a、B-LED32b、G-LED32c、及びR-LED32dは、例えば、410nm、450nm、530nm、615nmにそれぞれピーク波長を持つ観察光であり、紫色(V)光、青色(B)光、緑色(G)光、及び赤色(R)光を発光する半導体光源である。
光源制御部31は、通常光観察モード、特殊光観察モード等の観察モードに応じて、光源ユニット32の4つのLEDの点灯や消灯、点灯時の発光量等を、LED毎に個別に制御する。通常光観察モードの場合、光源制御部31は、V-LED32a、B-LED32b、G-LED32c、及びR-LED32dを全て点灯させる。このため、通常光観察モードでは、V光、B光、G光、及びR光を含む白色光が照明光として用いられる。
一方、特殊光観察モードの場合、光源制御部31は、V-LED32a、B-LED32b、G-LED32c、及びR-LED32dのうちのいずれか1つの光源、又は適宜組み合わせた複数の光源を点灯させ、又は複数の光源を点灯させる場合に各光源の発光量(光量比)を制御した特殊光が照明光として用いられ、これにより被写体の深度の異なる複数の層の画像の撮像を可能にする。
本例の第1観察モードの場合、通常光画像用の白色光(WL:White Light)を発光し、第2観察モードの場合、特殊光画像(BLI(Blue Light Imaging or Blue LASER Imaging)、LCI(Linked Color Imaging)、又はNBI(Narrow Band Imaging))用の特殊光を発光する。
BLI用の照明光は、表層血管での吸収率が高いV光の比率が高く、中層血管での吸収率が高いG光の比率を抑えた照明光であり、被写体の粘膜表層の血管や構造の強調に適した画像(BLI)の生成に適している。
LCI用の照明光は、V光の比率がWL用の観察光に比べて高く、WL用の観察光と比べて微細な色調変化を捉えるのに適した照明光であり、R成分の信号も利用して粘膜付近の色を中心に、赤味を帯びている色はより赤く、白っぽい色はより白くなるような色強調処理が行われた画像(LCI)の生成に適している。
また、NBIの照明光は、照射する照明光の波長の範囲を狭くすることで、照射される面の細かな変化を強調した画像(NBI)の生成に適している。
各LED32a~32dが発する各色の光は、ダイクロイックミラーやレンズ等で形成される光路結合部、及び絞り機構(図示せず)を介して内視鏡スコープ11内に挿通されたライトガイド40に入射される。
尚、光源装置12の観察光は、白色光(白色の波長帯域の光又は複数の波長帯域の光)、或いは1又は複数の特定の波長帯域にピークを有する光(特殊光)、或いはこれらの組み合わせなど、観察目的に応じた各種の波長帯域の光が選択される。
特定の波長帯域の第1例は、例えば可視域の青色帯域又は緑色帯域である。この第1例の波長帯域は、390nm以上450nm以下又は530nm以上550nm以下の波長帯域を含み、且つ第1例の光は、390nm以上450nm以下又は530nm以上550nm以下の波長帯域内にピーク波長を有する。
特定の波長帯域の第2例は、例えば可視域の赤色帯域である。この第2例の波長帯域は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域を含み、且つ第2例の光は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域内にピーク波長を有する。
特定の波長帯域の第3例は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、且つ第3例の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する。この第3例の波長帯域は、400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域を含み、且つ第3例の光は、上記400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域にピーク波長を有する。
特定の波長帯域の第4例は、生体内の蛍光物質が発する蛍光の観察(蛍光観察)に用いられ且つこの蛍光物質を励起させる励起光の波長帯域(390nmから470nm)である。
特定の波長帯域の第5例は、赤外光の波長帯域である。この第5例の波長帯域は、790nm以上820nm以下又は905nm以上970nm以下の波長帯域を含み、且つ第5例の光は、790nm以上820nm以下又は905nm以上970nm以下の波長帯域にピーク波長を有する。
内視鏡プロセッサ13は、プロセッサ操作部13a、プロセッサ制御部61、ROM62、デジタル信号処理回路(DSP:Digital Signal Processor)63、画像処理部65、表示制御部66、及び記憶部67等を有している。
プロセッサ操作部13aは、電源ボタン、マウスにより表示器14の画面上で指示される座標位置及びクリック(実行指示)等の入力を受け付ける入力部等を含む。
プロセッサ制御部61は、プロセッサ操作部13aでの操作情報、及び内視鏡制御部47を介して受信した内視鏡操作部46での操作情報に応じてROM62から必要なプログラムやデータを読み出し、逐次処理することで内視鏡プロセッサ13の各部を制御するとともに、光源装置12を制御する。尚、プロセッサ制御部61は、図示しないインターフェースを介して接続されたキーボード等の他の外部機器から必要な指示入力を受け付けるようにしてもよい。
内視鏡スコープ11(撮像素子45)から出力される動画の各フレームの画像データを取得する画像取得部の一形態として機能するDSP63は、プロセッサ制御部61の制御の下、内視鏡スコープ11から入力される動画の1フレーム分の画像データに対し、欠陥補正処理、オフセット処理、ホワイトバランス補正、ガンマ補正、及びデモザイク処理(「同時化処理」ともいう)等の各種の信号処理を行い、1フレーム分の画像データを生成する。
画像処理部65は、DSP63から画像データを入力し、入力した画像データに対して、必要に応じて色変換処理、色彩強調処理、及び構造強調処理等の画像処理を施し、観察対象が写った内視鏡画像を示す画像データを生成する。色変換処理は、画像データに対して3×3のマトリックス処理、階調変換処理、及び3次元ルックアップテーブル処理などにより色の変換を行う処理である。色彩強調処理は、色変換処理済みの画像データに対して、例えば血管と粘膜との色味に差をつける方向に色彩を強調する処理である。構造強調処理は、例えば血管やピットパターン等の観察対象に含まれる特定の組織や構造を強調する処理であり、色彩強調処理後の画像データに対して行う。
画像処理部65により処理された動画の各フレームの画像データは、静止画又は動画の撮影指示があると、撮影指示された静止画又は動画として記憶部67に記録される。
表示制御部66は、画像処理部65から入力する画像データに基づいて通常光画像又は特殊光画像を表示器14に表示させるための表示用データを生成し、生成した表示用データを表示器14に出力し、表示器14に表示画像(内視鏡スコープ11により撮像された動画等)を表示させる。
また、表示制御部66は、検出器15から画像処理部65を介して入力する認識結果、又は検出器15から入力する認識結果を表示器14に表示させる。
表示制御部66は、検出器15により注目領域が検出された場合、その注目領域を示す指標を、表示器14に表示された画像上に重畳して表示させる。例えば、表示画像における注目領域の色を変えるなどの強調表示や、マーカの表示、バウンディングボックスの表示が、指標として考えられる。
また、表示制御部66は、検出器15による検出対象の検出結果に基づいて、検出対象の有無を表す情報を表示器14に表示された画像と重ならないように表示させることができる。検出対象の有無を表す情報は、例えば、内視鏡画像の枠の色を、検出対象が検出された場合と検出対象が検出されない場合とで変えたり、「検出対象有り!」のテキストを内視鏡画像とは異なる表示領域に表示させる態様が考えられる。
更に、表示制御部66は、検出器15により病変に関する鑑別が実行された場合、その鑑別結果を表示器14に表示させる。鑑別結果の表示方法は、例えば、表示器14の表示画像上に鑑別結果を表すテキストの表示などが考えられる。テキストの表示は、表示画像上でなくてもよく、表示画像との対応関係が分かりさえすれば、特に限定されない。
[検出器15]
次に、本発明に係る検出器15について説明する。
検出器15は、撮像部(内視鏡スコープ11)により順次撮像された画像から病変等の検出対象を検出する部分であり、内視鏡プロセッサ13による画像処理後の画像を順次受け付ける。本例の第1観察モードの場合には、通常光画像(WL画像)を検出用の画像として受け付け、第2観察モードの場合には、特殊光画像(BLI、CLI、又はNBI)を検出用の画像として受け付ける。
図3は、検出器15を構成する学習モデルの一つである畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)の代表的な構成例を示す模式図である。
CNN15は、例えば、内視鏡画像に写っている検出対象(病変、手術痕、処置痕など)の位置検出や病変の種類を鑑別する学習モデルであり、複数のレイヤー構造を有し、複数の重みパラメータを保持している。CNN15は、重みパラメータが最適値に設定されることで、学習済みモデルとなり検出器として機能する。
図3に示すようにCNN15は、入力層15Aと、複数の畳み込み層及び複数のプーリング層を有する中間層15Bと、出力層15Cとを備え、各層は複数の「ノード」が「エッジ」で結ばれる構造となっている。
本例のCNN15は、内視鏡画像に写っている検出対象の位置を認識するセグメンテーションを行う学習モデルであり、CNNの一種である全層畳み込みネットワーク(FCN:Fully Convolutional Network)が適用され、全層畳み込みネットワークには、内視鏡画像に写っている検出対象の位置をピクセル単位もしくは、いくつかのピクセルをまとめた大きさのピクセルで検出対象の有無を判定するもの、検出対象の中心の座標値、検出対象を囲う矩形の4つの座標値等を出力するものが考えられる。
入力層15Aには、検出用の1フレームの画像が入力される。
中間層15Bは、入力層15Aから入力した画像から特徴を抽出する部分である。中間層15Bにおける畳み込み層は、画像や前の層で近くにあるノードにフィルタ処理し(フィルタを使用した畳み込み演算を行い)、「特徴マップ」を取得する。プーリング層は、畳み込み層から出力された特徴マップを縮小(又は拡大)して新たな特徴マップとする。「畳み込み層」は、画像からのエッジ抽出等の特徴抽出の役割を担い、「プーリング層」は抽出された特徴が、平行移動などによる影響を受けないようにロバスト性を与える役割を担う。尚、中間層15Bには、畳み込み層とプーリング層とを1セットとする場合に限らず、畳み込み層が連続する場合や正規化層も含まれ得る。
出力層15Cは、中間層15Bにより抽出された特徴に基づき内視鏡画像に写っている検出対象の位置検出や病変の種類を分類(鑑別)する検出結果を出力する部分である。
また、このCNN15は、学習用の画像セットと画像セットに対する正解データとの多数のセットにより学習されたものであり、CNN15の各畳み込み層に適用されるフィルタの係数やオフセット値が、学習用のデータセットにより最適値に設定されている。ここで、正解データとは、内視鏡画像に対して医師が指定した検出対象や鑑別結果であることが好ましい。
また、本例のCNN15は、内視鏡画像に写っている検出対象の位置を認識するものであるが、検出器(CNN)は、これに限らず、病変に関する鑑別を実行して鑑別結果を出力するものでもよい。例えば、検出器は、内視鏡画像を「腫瘍性」、「非腫瘍性」、「その他」の3つのカテゴリに分類し、鑑別結果として「腫瘍性」、「非腫瘍性」及び「その他」に対応する3つのスコア(3つのスコアの合計は100%)として出力したり、3つのスコアから明確に分類できる場合には、分類結果を出力するものでもよい。また、このような鑑別結果を出力するCNNの場合、全層畳み込みネットワーク(FCN)の代わりに、中間層の最後の1層又は複数の層として全結合層を有するものが好ましい。
更に、検出器15は、通常光画像を入力する場合には通常光画像を使用して学習した学習モデルを使用し、特殊光画像を入力する場合には特殊光画像を使用して学習した学習モデルを適用することが好ましい。
[第1実施形態]
図4は、本発明に係る内視鏡装置を構成する内視鏡プロセッサの第1実施形態を示す要部ブロック図である。
図4に示す第1実施形態の内視鏡プロセッサ13は、プロセッサ制御部61-1を備えている。
プロセッサ制御部61-1は、内視鏡プロセッサ13の各部を統括制御する部分であるが、第1実施形態のプロセッサ制御部61-1は、更に継続検出判定部70及び観察モード切替部72を備えている。
継続検出判定部70は、検出器15から検出結果を入力し、入力する検出結果に基づいて、検出器15が検出対象を継続的に検出しているか否かを判定する。1フレーム(画像)から検出対象が検出されたか否かの判定は、例えば、検出器15が、ピクセル単位もしくは、いくつかのピクセルをまとめた大きさのピクセルで検出対象の有無を判定した結果を出力する場合は、検出対象があるピクセルの存在の有無により行い、検出対象の中心の座標値や検出対象を囲う矩形の4つの座標値を出力する場合は、座標値の出力の有無により行うことができる。
そして、継続検出判定部70は、検出器15が、検出器15の検出間隔(動画の1フレームの周期、又は複数のフレームの周期)よりも長い一定の時間範囲内で検出対象を連続して検出する場合、検出対象を継続的に検出していると判定することができる。
ここで、継続的に検出対象が検出されているか否かは、検出器15の検出結果を順次保存し、現在の検出結果及び最新の過去の検出結果を参照して判定を行うことが考えられる。
また、継続検出判定部70は、検出器15が、検出器15の検出間隔よりも長い一定の時間範囲内で検出対象を、検出間隔ごとに毎回検出する場合に限らず、検出対象を閾値以上の割合で検出する場合も、検出対象を継続的に検出していると判定することが好ましい。
例えば、検出器15が、動画の1フレームの周期で(フレーム毎に)検出対象を検出する場合、順次入力された最新の過去の60フレーム(1秒間)の検出結果を参照することが考えられる。また、継続的検出の判定は、例えば、過去の60フレームを参照する場合で、60フレーム全てで検出対象が検出されている場合だけでなく、例えば、1から3フレーム置きに検出対象が検出されている場合でも継続的に検出対象が検出されていると判定しても良い。
観察モード切替部72は、第1観察モードと第2観察モードとを切り替える部分であり、第1観察モードが使用されている状態において、継続検出判定部70により検出対象が継続的に検出されていると判定されると、第1観察モードから第2観察モードに自動的に切り替える。
本例では、第1観察モードは、WL(通常光)を発光して観察する通常光観察モードであり、第2観察モードは、特殊光画像(BLI、LCI、又はNBI)用の特殊光を発光して観察する特殊光観察モードである。
したがって、観察モード切替部72は、光源装置12に対して、第1観察モードから第2観察モードに切り替える指令を出力し、又はWLの発光から特殊光の発光に切り替える指令を出力することで、第1観察モードから第2観察モードに自動的に切り替える。
観察モード切替部72は、第2観察モードに切り替えた後、一定時間経過(例えば数秒)後に第1観察モードに切り替える。また、観察モード切替部72は、第2観察モードに切り替えた後、継続検出判定部70により検出対象が継続的に検出されていないと判定されると、第1観察モードに切り替えるようにしてもよい。
図5は、第1観察モードとしてWLを使用した通常光観察モードとし、第2観察モードとしてBLI用の特殊光を使用した特殊光観察モードとした場合の観察モードの自動切替えを示す概念図である。
図5に示すように、通常光観察モードにより順次撮像された通常光画像(WL画像)から検出対象が継続して検出されると、観察モード切替部72により通常光観察モードから特殊光観察モードへの切り替えが自動的に行われ、特殊光観察モードにより特殊光画像(BLI)の撮像が行われる。そして、特殊光観察モードに切り替えられた後、一定時間経過すると、観察モード切替部72により再び通常光観察モードに切り替えられる。
これにより、通常光観察モードが使用されている状態において、順次撮像された画像から検出対象が継続して検出されると、自動的に通常光観察モードから特殊光観察モードに切り替えられるため、検出対象の詳細な観察に適した特殊光下で検出対象を撮像することができ、術者による観察モードの切り替え操作の負担を低減することができる。
[第2実施形態]
図6は、本発明に係る内視鏡装置を構成する内視鏡プロセッサの第2実施形態を示す要部ブロック図である。尚、図6において、図4に示した第1実施形態と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図6に示す第2実施形態の内視鏡プロセッサ13は、プロセッサ制御部61-2を備えている。
プロセッサ制御部61-2は、図4に示したプロセッサ制御部61-1と比較して、主として変化量算出部73及び変化量判定部74が追加されている点で相違する。
変化量算出部73は、画像処理部65により処理された動画の各フレームの画像データを順次入力し、順次入力する画像データに基づいて内視鏡スコープ11により撮像された画像の特定領域の変化量を計算する。
ここで、画像の特定領域は、撮像された画像の全体領域とすることができる。また、特定領域の変化量は、連続して撮像される画像のサイズの変化量、あるいは位置の変化量とすることができる。
変化量判定部74は、変化量算出部73により算出された変化量が閾値以内か否かを判定する。
例えば、内視鏡挿入部を体腔から引き抜きながら観察する場合、観察中の画像は変化し、一方、引き抜きを一時停止すると、観察中の画像は静止する。したがって、変化量に対する閾値は、連続する画像間の特定領域のサイズ、あるいは位置が、内視鏡挿入部の移動に伴って変化したか否かの判断基準として設定される値とすることができる。
観察モード切替部72は、通常光観察モードが使用されている状態において、継続検出判定部70により検出対象が継続的に検出されていると判定され、かつ変化量判定部74により画像の特定領域の変化量が閾値以内と判定されると、通常光観察モードから特殊光観察モードに自動的に切り替える。
また、観察モード切替部72は、特殊光観察モードに切り替えた後、変化量判定部74により画像の特定領域の変化量が閾値よりも大きいと判定されると、特殊光観察モードから通常光観察モードに切り替える。
第2実施形態によれば、通常光観察モードが使用されている状態において、順次撮像された画像から検出対象が継続して検出され、かつ変化量判定部74により特定領域の変化量が小さいと判定される場合(変化量が閾値以内と判定される場合)には、内視鏡挿入部がほぼ静止している(術者が検出対象を注視している)と考えられるため、通常光観察モードから特殊光観察モードに自動的に切り替える。
一方、順次撮像された画像から検出対象が継続して検出されていても、変化量判定部74により特定領域の変化量が大きいと判定される場合(変化量が閾値よりも大きいと判定される場合)には、内視鏡挿入部が移動している(例えば、内視鏡挿入部を体腔から引き抜きながら観察している)と考えられるため、通常光観察モードから特殊光観察モードへの切り替えは行わない。
尚、特定領域は、撮像された画像の全体領域に限らず、例えば、撮像された画像の中心領域でもよい。
[第3実施形態]
図7は、本発明に係る内視鏡装置を構成する内視鏡プロセッサの第3実施形態を示す要部ブロック図である。尚、図7において、図6に示した第2実施形態と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図7に示す第3実施形態の内視鏡プロセッサ13は、プロセッサ制御部61-3を備えている。
プロセッサ制御部61-3は、図6に示したプロセッサ制御部61-2と比較して、主として変化量算出部75による変化量の判定対象、及び変化量判定部76における変化量の判定内容が相違する。
変化量算出部75は、検出器15により検出された検出対象の検出情報を順次入力し、順次入力する検出対象の検出情報に基づいて検出対象の変化量を計算する。即ち、変化量算出部75は、検出器15からの検出情報を元に算出される検出対象を特定領域とし、その検出対象に対応する領域(特定領域)の変化量を計算する。
ここで、変化量算出部75により計算される検出対象の変化量は、連続して検出される検出対象の位置の変化量とすることができる。
検出器15による検出情報が、例えば検出対象(病変領域)の中心座標である場合(検出結果がピクセル単位での病変の有無であっても、矩形の座標であっても中心座標は計算できる)、現在のフレームの座標と前フレームの座標を比較し、変化量を計算する。
変化量判定部76は、変化量算出部75により計算された検出対象の変化量が閾値以内か否かを判定する。例えば、継続的に検出器15が検出対象を検出し、その検出対象の中心座標の変化量が、32ピクセル以内であれば、変化量判定部76は、検出対象の変化量が閾値以内と判定することができる。
観察モード切替部72は、通常光観察モードが使用されている状態において、継続検出判定部70により検出対象が継続的に検出されていると判定され、かつ変化量判定部76により検出対象の変化量が閾値以内と判定されると、通常光観察モードから特殊光観察モードに自動的に切り替える。
また、観察モード切替部72は、特殊光観察モードに切り替えた後、変化量判定部76により検出対象の変化量が閾値よりも大きいと判定されると、特殊光観察モードから通常光観察モードに切り替える。
尚、検出対象の変化量は、検出対象の位置(中心座標)の変化量に限らず、検出対象のサイズの変化量でもよい。例えば、検出器15による検出結果が、例えば、検出対象(病変領域)を囲う矩形の4つの座標値であった場合は、現在のフレームの矩形の面積と前フレームの矩形の面積を比較し、変化量を計算する。例えば、継続的に検出器15が検出対象を検出し、面積の変化が、前フレームに対して80%以内であれば、検出対象の変化量は閾値以内とすることができる。
図8は、内視鏡スコープ11により順次撮像される入力画像(フレーム)と、入力画像から検出される検出対象の検出結果と、検出対象の中心座標の変化量と、検出対象のサイズ(面積)の変化量とを示す図である。
図8において、時刻tのフレームは現在フレームであり、時刻t-1~時刻t-5の各フレームは、過去フレームである。
検出器15は、入力するフレームから検出対象の検出を行う。図8において、時刻t-4のフレームでは、検出対象が検出されず、他の時刻のフレームでは検出対象が検出されている。
図8において、前後のフレームの検出対象の中心座標の変化量は、ベクトル(矢印)で示されており、前後のフレームの検出対象の面積の変化量は、三日月状の領域で示されている。尚、前後のフレームの検出対象の変化量には、後フレームには検出対象が存在するが、前フレームには検出対象が存在しない検出領域と、後フレームには検出対象が存在しないが、前フレームには検出対象が存在する検出領域とがある。
図7に示した変化量算出部75は、ベクトルで示されている検出対象の中心座標の変化量を計算し、又は検出対象の面積の変化量である三日月状の領域の面積を計算する。変化量判定部76は、変化量算出部75により計算された検出対象の中心座標の変化量、又は検出対象の面積の変化量が閾値以内か否かを判定する。
尚、時刻t-4のフレームでは、検出対象が検出されず、他の時刻のフレームでは検出対象が検出されているため、継続検出判定部70は、検出対象を継続的に検出していると判定することができる。
[観察モードの切替えの他の実施形態]
上記の実施形態では、第1観察モードを通常光観察モードとし、第2観察モードとして特殊光観察モードとしたが、本発明はこれに限定されない。例えば、第1観察モードを第1特殊光観察モードとし、第2観察モードを第2特殊光観察モードとすることができる。
図9は、第1観察モードとしてBLI用の特殊光を使用した第1特殊光観察モードとし、第2観察モードとしてLCI用の特殊光を使用した第2特殊光観察モードとした場合の観察モードの自動切替えを示す概念図である。
図9に示すように、第1特殊光観察モードにより順次撮像された第1特殊光画像(BLI)から検出対象が継続して検出されると、観察モード切替部72により第1特殊光観察モードから第2特殊光観察モードへの切り替えが自動的に行われ、第2特殊光観察モードにより第2特殊光画像(LCI)の撮像が行われる。そして、第2特殊光観察モードに切り替えられた後、一定時間経過すると、観察モード切替部72により再び第1特殊光観察モードに切り替えられる。
これにより、第1特殊光観察モードが使用されている状態において、順次撮像された画像から検出対象が継続して検出されると、自動的に第1特殊光観察モードから第2特殊光観察モードに切り替えられるため、BLIとは異なる特徴を有するLCIの検出対象を撮像することができ、術者による観察モードの切り替え操作の負担を低減することができる。
[内視鏡装置の操作方法]
図10は、本発明に係る内視鏡装置の操作方法の実施形態を示すフローチャートであり、図2に示した内視鏡装置10の各部の処理手順に関して示している。
図10において、まず、第1観察モードに設定され、プロセッサ制御部61により制御される光源装置12は、第1照明光として白色光を発光する(ステップS10)。内視鏡スコープ11は、白色光(WL)により照明された被写体の画像(WL画像)を順次撮像する(ステップS12)。
検出器15は、内視鏡スコープ11により撮像されたWL画像から検出対象を検出する(ステップS14)。
継続検出判定部70(図4)は、検出器15により検出対象が継続的に検出されたか否かを判定し(ステップS16)、検出対象が継続的に検出されていないと判定されると(「No」の場合)、ステップS10に戻り、ステップS10からステップS16の処理を繰り返す。
一方、検出対象が継続的に検出されていると判定されると(「Yes」の場合)、ステップS18に遷移させる。即ち、観察モード切替部72は、第1観察モードが使用されている状態において、検出対象が継続的に検出されている判定されると、第2照明光(特殊光)を発光させる第2観察モードに切り替える。
ステップS18では、光源装置12から特殊光が発光される。内視鏡スコープ11は、特殊光により照明された被写体の画像(特殊光画像)を順次撮像する(ステップS20)。
プロセッサ制御部61は、第2観察モードに切り替えた後、一定時間が経過したか否かを判別し(ステップS22)、一定時間が経過していないと判別されると(「No」の場合)、ステップS18に遷移し、特殊光画像の撮像が継続して行われる。
一方、一定時間が経過したと判別されると(「Yes」の場合)、ステップS10に遷移させる。これにより、第2観察モードから第1観察モードに戻り、再びWL画像の撮像が行われる。
[その他]
本実施形態では、第1観察モードから第2観察モードに自動的に切り替えられた後、第2観察モードでの撮像が一定時間続いた場合、又は検出対象が継続的に検出されない場合に、再び第1観察モードに切り替えるようにしたが、これに限らず、第1観察モードから第2観察モードに自動的に切り替えられた後、静止画撮影ボタンの操作により静止画の撮像及び記録が行われると、第1観察モードに切り替えるようにしてもよい。
また、第1観察モードから第2観察モードに自動的に切り替えられると、自動的に静止画の撮影及び記録を行った後、第1観察モードに切り替えるようにしてもよい。これによれば、観察モードを自動的に切り替えることができ、かつ静止画の撮像も自動的に行うことができ、術者による内視鏡スコープの操作の負担を更に軽減することができる。尚、この場合、第2観察モードにおいて、静止画の撮像が行われたことを表示器14等により報知することが好ましい。
また、本実施形態では、それぞれ異なる照明光(WL、BLI、LCI、及びNBI用の照明光)に対応する観察モードについて説明したが、観察モードは、これらの照明光に対応するものに限定されない。また、これらの2種類以上の観察モードのうちのいずれを第1観察モード及び第2観察モードにするかは、適宜設定することが可能である。
また、本実施形態では、内視鏡スコープ11、光源装置12、内視鏡プロセッサ13、及び検出器15を含む内視鏡装置10について説明したが、本発明は、内視鏡装置10に限らず、内視鏡スコープ11を構成要件としない内視鏡プロセッサ13により構成されるものでもよい。この場合、内視鏡プロセッサ13と光源装置12と検出器15とは一体化されたものでもよいし、別体のものでもよい。
更に、それぞれ異なる照明光は、4色のLEDから発光されるものに限らず、例えば、中心波長445nmの青色レーザ光を発する青色レーザダイオードと、中心波長405nmの青紫色レーザ光を発する青紫色レーザダイオードとを発光源とし、これらの青色レーザダイオード、及び青紫色レーザダイオードのレーザ光を、YAG(Yttrium Aluminum Garnet)系の蛍光体に照射して発光されるものでもよい。この蛍光体に青色レーザ光が照射されることで、蛍光体が励起され広帯域の蛍光が発せられ、また、一部の青色レーザ光は、そのまま蛍光体を透過する。青紫色レーザ光は、蛍光体を励起させることなく透過する。したがって、青色レーザ光と青紫色レーザ光との強度を調整することで、WL用の照明光、BLI用の照明光、及びLCI用の照明光を照射することができ、また、青紫色レーザ光のみを発光させると、中心波長が405nmの観察光を照射することができる。
更にまた、本発明は、カラー撮像素子である撮像素子45の代わりに、カラーフィルタを有さないモノクロの撮像素子を備えた内視鏡スコープ(撮像部)を備えた内視鏡装置にも適用できる。モノクロの撮像素子によりカラーの内視鏡画像である通常光画像や特殊光画像を取得する場合、それぞれ異なる色の照明光により被検体を順次照明し、照明光毎に画像を撮像する(面順次方式で撮像する)。
例えば、光源ユニット32から異なる色の照明光(R光、G光、B光、又はV光)を順次発光することで、モノクロの撮像素子によりR光、G光、B光、又はV光に対応した色のR画像、G画像、B画像、又はV画像が面順次方式で撮像される。
内視鏡プロセッサは、面順次方式で撮像された1又は複数の画像(R画像、G画像、B画像、又はV画像)から第1観察モード又は第2観察モードに応じた画像(例えば、WL画像、BLI、LCI、NBI等)を生成することができる。観察モードに応じたWL画像、BLI、LCI又はNBI等の画像は、面順次方式で撮像された複数の画像の合成比率を調整することで生成することができる。本発明は、面順次方式で撮像され、観察モードに応じて観察モードに対応する画像を生成する場合も、光源部から観察モードに応じた照明光が発光され、その照明光が照射された被写体の画像として含むものとする。
また、検出器15は、CNNに限らず、例えばDBN(Deep Belief Network)、SVM(Support Vector Machine)などのCNN以外の機械学習モデルでもよく、要は画像から検出対象を検出できるものであれば如何なるものでもよい。
更に、内視鏡プロセッサ13及び/又は検出器15のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の制御部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種又は異種の2つ以上のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ)で構成されてもよい。また、複数の制御部を1つのプロセッサで構成してもよい。複数の制御部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の制御部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の制御部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の制御部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
更にまた、本発明は上述した実施形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
10 内視鏡装置
11 内視鏡スコープ
12 光源装置
12a 光源操作部
13 内視鏡プロセッサ
13a プロセッサ操作部
14 表示器
15 検出器
15A 入力層
15B 中間層
15C 出力層
16 挿入部
16a 挿入部先端
16b 湾曲部
16c 可撓管部
17 手元操作部
18 ユニバーサルコード
21 アングルノブ
22 操作ボタン
23 鉗子入口
25a、25b コネクタ部
31 光源制御部
32 光源ユニット
32a V-LED
32b B-LED
32c G-LED
32d R-LED
40 ライトガイド
42 照明レンズ
44 対物レンズ
45 撮像素子
46 内視鏡操作部
47 内視鏡制御部
48 ROM
61、61-1、61-2、61-3 プロセッサ制御部
62 ROM
65 画像処理部
66 表示制御部
67 記憶部
70 継続検出判定部
72 観察モード切替部
73、75 変化量算出部
74、76 変化量判定部
S10~S22 ステップ

Claims (16)

  1. 第1観察モード及び第2観察モードにそれぞれ対応する第1照明光及び第2照明光を発光する光源部と、
    前記第1照明光又は前記第2照明光が照射された被写体を撮像する撮像部と、
    前記撮像部により順次撮像された画像から検出対象を検出する検出器と、
    前記検出器が前記検出対象を継続的に検出しているか否かを判定する継続検出判定部と、
    前記第1観察モードと前記第2観察モードとを切り替える観察モード切替部と、
    前記撮像部により撮像された画像の特定領域の変化量を算出する変化量算出部と、
    前記変化量算出部により算出された前記変化量が閾値以内か否かを判定する変化量判定部と、を備え、
    前記観察モード切替部は、前記第1観察モードが使用されている状態において、前記継続検出判定部により前記検出対象が継続的に検出されていると判定され、かつ前記変化量判定部により前記変化量が閾値以内と判定されると、前記第2観察モードに自動的に切り替える内視鏡装置。
  2. 前記特定領域は、前記撮像部により撮像された画像の全体領域である請求項に記載の内視鏡装置。
  3. 前記特定領域は、前記撮像部により撮像された画像の中心領域である請求項に記載の内視鏡装置。
  4. 前記特定領域は、前記検出器からの検出情報を元に算出される前記検出対象に対応する領域である請求項に記載の内視鏡装置。
  5. 前記変化量算出部により算出される前記変化量は、前記特定領域の位置の変化量である請求項1から4のいずれか1項に記載の内視鏡装置。
  6. 前記変化量算出部により算出される前記変化量は、前記特定領域のサイズの変化量である請求項1から4のいずれか1項に記載の内視鏡装置。
  7. 前記観察モード切替部は、前記第2観察モードに切り替えた後、一定時間経過後に前記第1観察モードに切り替える請求項1からのいずれか1項に記載の内視鏡装置。
  8. 前記観察モード切替部は、前記第2観察モードに切り替えた後、前記継続検出判定部により前記検出対象が継続的に検出されていないと判定されると、前記第1観察モードに切り替える請求項1からのいずれか1項に記載の内視鏡装置。
  9. 前記観察モード切替部は、前記第2観察モードに切り替えた後、前記変化量判定部により前記変化量が閾値よりも大きいと判定されると、前記第1観察モードに切り替える請求項1から6のいずれか1項に記載の内視鏡装置。
  10. 前記観察モード切替部は、前記第2観察モードに切り替えた後、静止画の撮像が行われると、前記第1観察モードに切り替える請求項1から6のいずれか1項に記載の内視鏡装置。
  11. 前記継続検出判定部は、前記検出器が、当該検出器の検出間隔よりも長い一定の時間範囲内で前記検出対象を連続して検出する場合、前記検出対象を継続的に検出していると判定する請求項1から10のいずれか1項に記載の内視鏡装置。
  12. 前記継続検出判定部は、前記検出器が、当該検出器の検出間隔よりも長い一定の時間範囲内で前記検出対象を閾値以上の割合で検出する場合、前記検出対象を継続的に検出していると判定する請求項1から11のいずれか1項に記載の内視鏡装置。
  13. 前記第1観察モードは、前記第1照明光として通常光を使用する通常光観察モードであり、前記第2観察モードは、前記第2照明光として特殊光を使用する特殊光観察モードである請求項1から12のいずれか1項に記載の内視鏡装置。
  14. 前記第1観察モードは、前記第1照明光として第1特殊光を使用する第1特殊光観察モードであり、前記第2観察モードは、前記第2照明光として前記第1特殊光とは異なる第2特殊光を使用する第2特殊光観察モードである請求項1から12のいずれか1項に記載の内視鏡装置。
  15. 第1観察モード及び第2観察モードにそれぞれ対応する第1照明光及び第2照明光を発光する光源部と、
    前記第1照明光又は前記第2照明光が照射された被写体を撮像する撮像部から、前記被写体を示す画像を順次取得する画像取得部と、
    前記順次取得した画像から検出対象を検出する検出器と、
    前記検出器が前記検出対象を継続的に検出しているか否かを判定する継続検出判定部と、
    前記第1観察モードと前記第2観察モードとを切り替える観察モード切替部と、
    前記撮像部により撮像された画像の特定領域の変化量を算出する変化量算出部と、
    前記変化量算出部により算出された前記変化量が閾値以内か否かを判定する変化量判定部と、を備え、
    前記観察モード切替部は、前記第1観察モードが使用されている状態において、前記継続検出判定部により前記検出対象が継続的に検出されていると判定され、かつ前記変化量判定部により前記変化量が閾値以内と判定されると、前記第2観察モードに自動的に切り替える内視鏡プロセッサ。
  16. 第1観察モード及び第2観察モードにそれぞれ対応する第1照明光及び第2照明光を発光する光源部と、撮像部と、検出器と、プロセッサ制御部とを備えた内視鏡装置の作動方法であって、
    前記プロセッサ制御部が、前記光源部から前記第1観察モードに対応する第1照明光を発光させるステップと、
    前記撮像部が、前記第1照明光が照射された被写体を撮像するステップと、
    前記検出器が、前記撮像部により順次撮像された画像から検出対象を検出するステップと、
    前記プロセッサ制御部が、前記撮像部により撮像された画像の特定領域の変化量を算出するステップと、
    前記プロセッサ制御部が、算出された前記変化量が閾値以内か否かを判定するステップと、
    前記プロセッサ制御部が、前記検出器が前記検出対象を継続的に検出しているか否かを判定するステップと、
    前記プロセッサ制御部が、前記第1観察モードと前記第2観察モードとを切り替えるステップであって、前記第1観察モードが使用されている状態において、前記検出対象が継続的に検出されていると判定され、かつ前記変化量が閾値以内であると判定されると、前記第2観察モードに自動的に切り替えるステップと、
    前記第2観察モードに切り替えられると、前記プロセッサ制御部が、前記光源部から前記第2観察モードに対応する第2照明光を発光させるステップと、
    前記撮像部が、前記第2照明光が照射された被写体を撮像するステップと、
    を含む内視鏡装置の作動方法。
JP2020546752A 2018-09-12 2019-08-05 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の作動方法 Active JP7162670B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022167059A JP7374280B2 (ja) 2018-09-12 2022-10-18 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の作動方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018170762 2018-09-12
JP2018170762 2018-09-12
PCT/JP2019/030732 WO2020054255A1 (ja) 2018-09-12 2019-08-05 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の操作方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022167059A Division JP7374280B2 (ja) 2018-09-12 2022-10-18 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の作動方法

Publications (2)

Publication Number Publication Date
JPWO2020054255A1 JPWO2020054255A1 (ja) 2021-08-30
JP7162670B2 true JP7162670B2 (ja) 2022-10-28

Family

ID=69777800

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020546752A Active JP7162670B2 (ja) 2018-09-12 2019-08-05 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の作動方法
JP2022167059A Active JP7374280B2 (ja) 2018-09-12 2022-10-18 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の作動方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022167059A Active JP7374280B2 (ja) 2018-09-12 2022-10-18 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の作動方法

Country Status (5)

Country Link
US (1) US20210186315A1 (ja)
EP (1) EP3851026B1 (ja)
JP (2) JP7162670B2 (ja)
CN (1) CN112689469B (ja)
WO (1) WO2020054255A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110136106B (zh) * 2019-05-06 2022-12-27 腾讯医疗健康(深圳)有限公司 医疗内窥镜图像的识别方法、系统、设备和内窥镜影像系统
WO2022018894A1 (ja) * 2020-07-21 2022-01-27 富士フイルム株式会社 内視鏡システム及びその作動方法
DE102022117580A1 (de) 2022-07-27 2024-02-01 Karl Storz Se & Co. Kg Medizinische Bildgebungsvorrichtung, medizinisches Bildgebungssystem und Verfahren zum Betrieb einer medizinischen Bildgebungsvorrichtung

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015020093A1 (ja) 2013-08-08 2015-02-12 オリンパスメディカルシステムズ株式会社 手術画像観察装置
JP2015529489A (ja) 2012-07-25 2015-10-08 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 手術用システムにおける効率的且つインタラクティブな出血検出
WO2017199509A1 (ja) 2016-05-19 2017-11-23 オリンパス株式会社 生体観察システム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004194821A (ja) 2002-12-17 2004-07-15 Pentax Corp 励起光光源装置
JP4459771B2 (ja) * 2004-09-30 2010-04-28 Hoya株式会社 電子内視鏡用プロセッサ
JP5355846B2 (ja) * 2006-05-08 2013-11-27 オリンパスメディカルシステムズ株式会社 内視鏡用画像処理装置
JP2012000160A (ja) * 2010-06-14 2012-01-05 Fujifilm Corp 内視鏡装置
JP5538143B2 (ja) * 2010-08-31 2014-07-02 富士フイルム株式会社 内視鏡システム
JP5568489B2 (ja) 2011-01-25 2014-08-06 富士フイルム株式会社 内視鏡システム及びその光源制御方法
JP5992936B2 (ja) * 2014-02-27 2016-09-14 富士フイルム株式会社 内視鏡システム、内視鏡システム用プロセッサ装置、内視鏡システムの作動方法、内視鏡システム用プロセッサ装置の作動方法
JP5877614B2 (ja) 2014-06-16 2016-03-08 富士フイルム株式会社 内視鏡システム及び内視鏡システムの作動方法
WO2017002184A1 (ja) * 2015-06-29 2017-01-05 オリンパス株式会社 画像処理装置、内視鏡システム、画像処理方法、及び画像処理プログラム
WO2017047140A1 (ja) * 2015-09-18 2017-03-23 オリンパス株式会社 内視鏡装置
JP6828465B2 (ja) * 2017-01-30 2021-02-10 セイコーエプソン株式会社 内視鏡操作支援システム
JPWO2019092950A1 (ja) * 2017-11-13 2020-11-12 ソニー株式会社 画像処理装置、画像処理方法および画像処理システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015529489A (ja) 2012-07-25 2015-10-08 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 手術用システムにおける効率的且つインタラクティブな出血検出
WO2015020093A1 (ja) 2013-08-08 2015-02-12 オリンパスメディカルシステムズ株式会社 手術画像観察装置
WO2017199509A1 (ja) 2016-05-19 2017-11-23 オリンパス株式会社 生体観察システム

Also Published As

Publication number Publication date
WO2020054255A1 (ja) 2020-03-19
JP2022183277A (ja) 2022-12-08
JP7374280B2 (ja) 2023-11-06
US20210186315A1 (en) 2021-06-24
EP3851026A4 (en) 2021-11-10
EP3851026A1 (en) 2021-07-21
EP3851026B1 (en) 2024-10-09
CN112689469B (zh) 2024-06-28
JPWO2020054255A1 (ja) 2021-08-30
CN112689469A (zh) 2021-04-20

Similar Documents

Publication Publication Date Title
US11062442B2 (en) Vascular information acquisition device, endoscope system, and vascular information acquisition method
JP7135082B2 (ja) 内視鏡装置、内視鏡装置の作動方法、及びプログラム
JP7542585B2 (ja) 画像処理装置、内視鏡システム及び画像処理装置の作動方法
JP7374280B2 (ja) 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の作動方法
CN112566537B (zh) 内窥镜系统
JPWO2019198637A1 (ja) 画像処理装置、内視鏡システム、及び画像処理方法
US12035879B2 (en) Medical image processing apparatus, endoscope system, and medical image processing method
CN112105284B (zh) 图像处理装置、内窥镜系统及图像处理方法
US20210076917A1 (en) Image processing apparatus, endoscope system, and image processing method
US11957299B2 (en) Endoscope image processing apparatus, endoscope image processing method, and program
US20210082568A1 (en) Medical image processing device, processor device, endoscope system, medical image processing method, and program
JPWO2019049503A1 (ja) 診断支援システム、内視鏡システム、プロセッサ、及び診断支援方法
WO2021157487A1 (ja) 医用画像処理装置、内視鏡システム、医用画像処理方法、及びプログラム
JP2021035549A (ja) 内視鏡システム
JPWO2020184257A1 (ja) 医用画像処理装置及び方法
CN114269221A (zh) 医疗图像处理装置、内窥镜系统、医疗图像处理方法以及程序
CN111989026B (zh) 内窥镜装置、内窥镜装置的工作方法及记录介质
WO2022059233A1 (ja) 画像処理装置、内視鏡システム、画像処理装置の作動方法、及び画像処理装置用プログラム
US20230074314A1 (en) Image processing device, image processing method, and program

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210420

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210420

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220921

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221018

R150 Certificate of patent or registration of utility model

Ref document number: 7162670

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150