[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP7282796B2 - 医用画像処理装置、医用画像処理装置の作動方法、及びプログラム、診断支援装置並びに内視鏡システム - Google Patents

医用画像処理装置、医用画像処理装置の作動方法、及びプログラム、診断支援装置並びに内視鏡システム Download PDF

Info

Publication number
JP7282796B2
JP7282796B2 JP2020549262A JP2020549262A JP7282796B2 JP 7282796 B2 JP7282796 B2 JP 7282796B2 JP 2020549262 A JP2020549262 A JP 2020549262A JP 2020549262 A JP2020549262 A JP 2020549262A JP 7282796 B2 JP7282796 B2 JP 7282796B2
Authority
JP
Japan
Prior art keywords
interest
region
attention area
medical image
cumulative time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020549262A
Other languages
English (en)
Other versions
JPWO2020067105A1 (ja
Inventor
星矢 竹之内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2020067105A1 publication Critical patent/JPWO2020067105A1/ja
Priority to JP2023065683A priority Critical patent/JP7413585B2/ja
Application granted granted Critical
Publication of JP7282796B2 publication Critical patent/JP7282796B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Optics & Photonics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Image Processing (AREA)

Description

本発明は医用画像処理装置、医用画像処理方法、及びプログラム、診断支援装置並びに内視鏡システムに係り、特に時系列の医用画像の注目領域を報知する技術に関する。
医療分野において、近年、内視鏡スコープにより撮像された内視鏡画像等の医用画像から病変等の注目領域を自動検出する支援機能が、病変の見落とし防止に繋がるとして期待されている。
このような支援機能において、自動検出された結果のユーザへの報知方法として、検出結果を画像中の注目領域に重畳させる強調表示が知られている。
特許文献1には、被検体の観察画像の特徴量に基づいて病変候補領域を検出し、病変候補領域の強調処理を行う内視鏡システムが開示されている。
国際公開第2017/073337号
特許文献1に記載の内視鏡システムは、病変候補領域の検出が所定時間継続していると判定されると、強調処理を終了する。
しかしながら、強調処理を終了させることは、支援機能として不十分な場合がある。例えば、内視鏡は操作が難しく、ユーザが観察したい箇所に的確に留めておく間に強調処理が終了してしまうと、ユーザが注目領域を認識しきれない場合がある。
また、注目領域の検出時に強調度が相対的に大きい強調処理が行われると、強調処理が行われていない画像から強調処理が行われた画像への画像内の変化が大きくなり、画像の観察の妨げになるという問題点があった。
本発明はこのような事情に鑑みてなされたもので、医用画像の注目領域を適切な強調度で強調する医用画像処理装置、医用画像処理方法、及びプログラム、診断支援装置並びに内視鏡システムを提供することを目的とする。
上記目的を達成するために医用画像処理装置の一の態様は、時系列の医用画像に含まれる注目領域を設定された強調度で強調する強調処理部と、注目領域が強調された累計時間を計測する累計時間計測部と、累計時間が相対的に長いほど強調度を相対的に大きい値に設定する強調度設定部と、を備える医用画像処理装置である。
本態様によれば、時系列の医用画像に含まれる注目領域を設定された強調度で強調し、注目領域が強調された累計時間を計測し、累計時間が相対的に長いほど強調度を相対的に大きい値に設定するようにしたので、医用画像の注目領域を適切な強調度で強調することができる。
時系列の医用画像を取得する画像取得部と、医用画像から注目領域を検出する注目領域検出部と、を備えることが好ましい。これにより、取得した医用画像から注目領域を検出することができる。
累計時間計測部は、複数の注目領域に対して各注目領域の累計時間をそれぞれ計測し、強調度設定部は、各注目領域の累計時間に応じて各注目領域の強調度をそれぞれ設定することが好ましい。これにより、複数の注目領域の各注目領域に適切な強調度をそれぞれ設定することができる。
注目領域の特徴量を算出する特徴量算出部と、注目領域の特徴量と累計時間とを関連付けて記憶する注目領域記憶部と、第1医用画像に含まれる第1注目領域の特徴量と、注目領域記憶部に記憶された第1医用画像より時系列的に前の第2医用画像において強調された第2注目領域の特徴量との類似度から、第1注目領域が第2注目領域と同一であるか否かを判定する同一注目領域判定部と、を備え、累計時間計測部は、第1注目領域が第2注目領域と同一であると判定された場合に、第1注目領域の累計時間として第2注目領域の累計時間を引き継いで計測することが好ましい。これにより、第1注目領域の強調度として第1注目領域と同一の第2注目領域の強調度を引き継ぐことができる。
同一注目領域判定部は、第1注目領域が第2注目領域と同一でないと判定された場合に、第1注目領域の特徴量と、注目領域記憶部に記憶された第2医用画像より時系列的に前の第3医用画像において強調された第3注目領域の特徴量との類似度から、第1注目領域が第3注目領域と同一であるか否かをさらに判定し、累計時間計測部は、第1注目領域が第3注目領域と同一であると判定された場合に、第1注目領域の累計時間として第3注目領域の累計時間を引き継いで計測することが好ましい。これにより、第2医用画像に第1注目領域と同一の注目領域が含まれていなかった場合であっても、第1注目領域の強調度として第1注目領域と同一の第3注目領域の強調度を引き継ぐことができる。
同一注目領域判定部は、第1注目領域が第2注目領域と同一でないと判定された場合に、第1注目領域が第1医用画像内の予め定められた範囲内の位置に存在するか否かを判定し、累計時間計測部は、予め定められた範囲内の位置に存在すると判定された場合に、第1注目領域の累計時間として第2注目領域の累計時間を引き継いで計測することが好ましい。これにより、第1注目領域と第2注目領域が異なる領域であっても、予め定められた範囲内の位置に存在する場合は、第1注目領域の強調度として第2注目領域の強調度を引き継ぐことができる。
強調処理部は、注目領域の位置を示す図形を医用画像に重畳し、強調度設定部は、累計時間が相対的に長いほど図形の透過度を相対的に小さく設定することが好ましい。これにより、注目領域を適切な強調度で強調することができる。
強調処理部は、注目領域の位置を示す図形を医用画像に重畳し、強調度設定部は、累計時間が相対的に長いほど図形の色を色強度指標に基づいた色強度を相対的に高く設定することが好ましい。これにより、注目領域を適切な強調度で強調することができる。
強調処理部は、注目領域の位置を示す図形を医用画像に重畳し、強調度設定部は、累計時間が相対的に長いほど図形の大きさを相対的に大きく設定することが好ましい。これにより、注目領域を適切な強調度で強調することができる。
強調処理部は、注目領域を囲む枠形状の図形を医用画像に重畳し、強調度設定部は、累計時間が相対的に長いほど枠形状の図形の線の太さを相対的に太く設定することが好ましい。これにより、注目領域を適切な強調度で強調することができる。
強調度設定部は、1枚の医用画像に存在する注目領域の数が相対的に多いほど、累計時間に対する強調度の増加率を相対的に大きくすることが好ましい。これにより、注目領域を適切な強調度で強調することができる。
強調度設定部は、注目領域の医用画像内の位置に基づいて強調度の最小値、最大値、及び累計時間に対する強調度の増加率の少なくとも1つを変更することが好ましい。これにより、注目領域を適切な強調度で強調することができる。
強調度設定部は、注目領域の輝度値、又は注目領域の輝度値と注目領域外の輝度値との差分に基づいて強調度の最小値、最大値、及び累計時間に対する強調度の増加率の少なくとも1つを変更することが好ましい。これにより、注目領域を適切な強調度で強調することができる。
強調度設定部は、注目領域の色情報、又は注目領域の色情報と注目領域外の色情報との差分に基づいて強調度の最小値、最大値、及び累計時間に対する強調度の増加率の少なくとも1つを変更することが好ましい。これにより、注目領域を適切な強調度で強調することができる。
強調度設定部は、注目領域の動き量、又は注目領域の動き方向に基づいて強調度の最小値、最大値、及び累計時間に対する強調度の増加率の少なくとも1つを変更することが好ましい。これにより、注目領域を適切な強調度で強調することができる。
注目領域が強調された時系列の医用画像を表示部に順次表示させる表示制御部を備えることが好ましい。これにより、表示部において注目領域を報知することができる。
表示制御部は、注目領域が強調された時系列の医用画像を複数の表示部のうち少なくとも1つの表示部に順次表示させることが好ましい。これにより、複数の表示部のうち少なくとも1つの表示部において注目領域を報知することができる。
上記目的を達成するために診断支援装置の一の態様は、上記に記載の医用画像処理装置と、表示部と、を備えた診断支援装置である。本態様によれば、時系列の医用画像の注目領域を適切な強調度で強調して表示部に表示させることができる。
上記目的を達成するために内視鏡システムの一の態様は、上記に記載の医用画像処理装置と、時系列の医用画像を撮像する内視鏡スコープと、を備えた内視鏡システムである。本態様によれば、医用画像の注目領域を適切な強調度で強調することができる。
上記目的を達成するために医用画像処理方法の一の態様は、時系列の医用画像に含まれる注目領域を設定された強調度で強調する強調処理工程と、注目領域が強調された累計時間を計測する累計時間計測工程と、累計時間が長いほど強調度を大きい値に設定する強調度設定工程と、を備える医用画像処理方法である。
本態様によれば、医用画像の注目領域を適切な強調度で強調することができる。上記の医用画像処理方法をコンピュータに実行させるためのプログラムも本態様に含まれる。
本発明によれば、医用画像の注目領域を適切な強調度で強調することができる。
図1は、内視鏡システムの全体構成を示す概略図である。 図2は、医用画像処理装置の電気的構成を示すブロック図である。 図3は、第1実施形態に係る医用画像処理方法の各処理の一例を示すフローチャートである。 図4は、強調処理の一例を示す図である。 図5は、強調処理の他の例を示す図である。 図6は、注目領域の累計時間と強調度との関係の一例を示すグラフである。 図7は、強調度に応じた図形の変化の一例を示す図である。 図8は、強調度に応じた図形の変化の他の例を示す図である。 図9は、強調度に応じた図形の変化の他の例を示す図である。 図10は、累計時間を説明するための図である。 図11は、累計時間を説明するための図である。 図12は、複数の注目領域が検出された際の図形の変化の一例を示す図である。 図13は、図12に示した例の強調度の変更を示すグラフである。 図14は、視覚特性を説明するための図である。 図15は、注目領域の輝度値に応じた強調度の変化を示すグラフである。 図16は、同一でないが周囲に存在する注目領域を説明するための図である。 図17は、複数の表示部を備えた医用画像処理装置の電気的構成を示すブロック図である。 図18は、複数の表示部に対する表示内容を説明するための図である。 図19は、複数の表示部に対する表示内容を説明するための図である。 図20は、複数の表示部に対する表示内容を説明するための図である。 図21は、第2実施形態に係る医用画像処理方法の各処理の一例を示すフローチャートである。
以下、添付図面に従って本発明の好ましい実施形態について詳説する。
〔内視鏡システムの全体構成〕
図1は、本実施形態に係る医用画像処理装置を含む内視鏡システム9の全体構成を示す概略図である。図1に示すように、内視鏡システム9は、電子内視鏡である内視鏡スコープ10と、光源装置11と、内視鏡プロセッサ装置12と、表示装置13と、医用画像処理装置14と、操作部15と、表示器16と、を備える。
内視鏡スコープ10は、時系列画像の医用画像を撮像するためのものであり、例えば軟性内視鏡である。この内視鏡スコープ10は、被検体内に挿入され且つ先端と基端とを有する挿入部20と、挿入部20の基端側に連設され且つユーザ(医師)が把持して各種操作を行う手元操作部21と、手元操作部21に連設されたユニバーサルコード22と、を有する。
挿入部20は、全体が細径で長尺状に形成されている。挿入部20は、その基端側から先端側に向けて順に可撓性を有する軟性部25と、手元操作部21の操作により湾曲可能な湾曲部26と、不図示の撮像光学系(対物レンズ)及び撮像素子28等が内蔵される先端部27と、が連設されて構成される。
撮像素子28は、CMOS(complementary metal oxide semiconductor)型又はCCD(charge coupled device)型の撮像素子である。撮像素子28の撮像面には、先端部27の先端面に開口された不図示の観察窓、及びこの観察窓の後方に配置された不図示の対物レンズを介して、被観察部位の像光が入射する。撮像素子28は、その撮像面に入射した被観察部位の像光を撮像(電気信号に変換)して、撮像信号を出力する。
手元操作部21には、ユーザによって操作される各種操作部材が設けられている。具体的に、手元操作部21には、湾曲部26の湾曲操作に用いられる2種類の湾曲操作ノブ29と、送気送水操作用の送気送水ボタン30と、吸引操作用の吸引ボタン31と、が設けられている。また、手元操作部21には、被観察部位の静止画39の撮像指示を行うための静止画撮像指示部32と、挿入部20内を挿通している処置具挿通路(不図示)内に処置具(不図示)を挿入する処置具導入口33と、が設けられている。
ユニバーサルコード22は、内視鏡スコープ10を光源装置11に接続するための接続コードである。このユニバーサルコード22は、挿入部20内を挿通しているライトガイド35、信号ケーブル36、及び流体チューブ(不図示)を内包している。また、ユニバーサルコード22の端部には、光源装置11に接続されるコネクタ37aと、このコネクタ37aから分岐され且つ内視鏡プロセッサ装置12に接続されるコネクタ37bと、が設けられている。
コネクタ37aを光源装置11に接続することで、ライトガイド35及び流体チューブ(不図示)が光源装置11に挿入される。これにより、ライトガイド35及び流体チューブ(不図示)を介して、光源装置11から内視鏡スコープ10に対して必要な照明光と水と気体とが供給される。その結果、先端部27の先端面の照明窓(不図示)から被観察部位に向けて照明光が照射される。また、前述の送気送水ボタン30の押下操作に応じて、先端部27の先端面の送気送水ノズル(不図示)から先端面の観察窓(不図示)に向けて気体又は水が噴射される。
コネクタ37bを内視鏡プロセッサ装置12に接続することで、信号ケーブル36と内視鏡プロセッサ装置12とが電気的に接続される。これにより、信号ケーブル36を介して、内視鏡スコープ10の撮像素子28から内視鏡プロセッサ装置12へ被観察部位の撮像信号が出力されるとともに、内視鏡プロセッサ装置12から内視鏡スコープ10へ制御信号が出力される。
光源装置11は、コネクタ37aを介して、内視鏡スコープ10のライトガイド35へ照明光を供給する。照明光は、白色光(白色の波長帯域の光又は複数の波長帯域の光)、或いは1又は複数の特定の波長帯域の光、或いはこれらの組み合わせ等の観察目的に応じた各種波長帯域の光が選択される。なお、特定の波長帯域は、白色の波長帯域よりも狭い帯域である。
特定の波長帯域の第1例は、例えば可視域の青色帯域又は緑色帯域である。この第1例の波長帯域は、390nm以上450nm以下又は530nm以上550nm以下の波長帯域を含み、且つ第1例の光は、390nm以上450nm以下又は530nm以上550nm以下の波長帯域内にピーク波長を有する。
特定の波長帯域の第2例は、例えば可視域の赤色帯域である。この第2例の波長帯域は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域を含み、且つ第2例の光は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域内にピーク波長を有する。
特定の波長帯域の第3例は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、且つ第3例の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する。この第3例の波長帯域は、400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域を含み、且つ第3例の光は、上記400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域にピーク波長を有する。
特定の波長帯域の第4例は、生体内の蛍光物質が発する蛍光の観察(蛍光観察)に用いられ且つこの蛍光物質を励起させる励起光の波長帯域(390nmから470nm)である。
特定の波長帯域の第5例は、赤外光の波長帯域である。この第5例の波長帯域は、790nm以上820nm以下又は905nm以上970nm以下の波長帯域を含み、且つ第5例の光は、790nm以上820nm以下又は905nm以上970nm以下の波長帯域にピーク波長を有する。
内視鏡プロセッサ装置12は、コネクタ37b及び信号ケーブル36を介して、内視鏡スコープ10の動作を制御する。また、内視鏡プロセッサ装置12は、コネクタ37b及び信号ケーブル36を介して内視鏡スコープ10の撮像素子28から取得した撮像信号に基づき、被写体像を含む時系列のフレーム画像38a(図2参照)からなる時系列の医用画像である動画38を生成する。動画38のフレームレートは、例えば30fps(frame per second)である。
更に、内視鏡プロセッサ装置12は、内視鏡スコープ10の手元操作部21にて静止画撮像指示部32が操作された場合、動画38の生成と並行して、動画38中の1枚のフレーム画像38aを撮像指示のタイミングに応じて取得し、静止画39とする。
動画38及び静止画39は、被検体内、即ち生体内を撮像した医用画像である。更に動画38及び静止画39が、上述の特定の波長帯域の光(特殊光)により得られた画像である場合、両者は特殊光画像である。そして、内視鏡プロセッサ装置12は、生成した動画38及び静止画39を、表示装置13と医用画像処理装置14とにそれぞれ出力する。
なお、内視鏡プロセッサ装置12は、上述の白色光により得られた通常光画像に基づいて、上述の特定の波長帯域の情報を有する特殊光画像を生成(取得)してもよい。この場合、内視鏡プロセッサ装置12は、特殊光画像取得部として機能する。そして、内視鏡プロセッサ装置12は、特定の波長帯域の信号を、通常光画像に含まれる赤(Red)、緑(Green)、及び青(Blue)のRGB色情報、或いはシアン(Cyan)、マゼンタ(Magenta)、及びイエロー(Yellow)のCMY色情報に基づく演算を行うことで得る。
また、内視鏡プロセッサ装置12は、例えば、上述の白色光により得られた通常光画像と、上述の特定の波長帯域の光(特殊光)により得られた特殊光画像との少なくとも一方に基づいて、公知の酸素飽和度画像等の特徴量画像を生成してもよい。この場合、内視鏡プロセッサ装置12は、特徴量画像生成部として機能する。なお、上記の生体内画像、通常光画像、特殊光画像、及び特徴量画像を含む動画38又は静止画39は、いずれも画像による診断、検査の目的で人体を撮像し、又は計測した結果を画像化した医用画像である。
表示装置13は、内視鏡プロセッサ装置12に接続されており、この内視鏡プロセッサ装置12から入力された動画38及び静止画39を表示する。ユーザは、表示装置13に表示される動画38を確認しながら、挿入部20の進退操作等を行い、被観察部位に病変等を発見した場合には静止画撮像指示部32を操作して被観察部位の静止画撮像を実行し、また、診断、生検等を行う。
〔医用画像処理装置の構成〕
医用画像処理装置14は、時系列の医用画像に含まれる注目領域をユーザに報知するものであり、本実施形態では、例えばパーソナルコンピュータが用いられる。また、操作部15は、パーソナルコンピュータに有線接続又は無線接続されるキーボード及びマウス等が用いられ、表示器16(表示部の一例)はパーソナルコンピュータに接続可能な液晶モニタ等の各種モニタが用いられる。
図2は、医用画像処理装置14の電気的構成を示すブロック図である。図2に示す医用画像処理装置14は、主として時系列画像取得部40と、注目領域検出部41と、注目領域情報取得部42と、座標算出部43と、累計時間計測部44と、強調度設定部45と、同一注目領域判定部46と、制御部47と、表示制御部48と、記憶部49と、から構成されている。
制御部47は、記憶部49に記憶されたプログラム(医用画像処理プログラム)51に基づき、時系列画像取得部40、注目領域検出部41、注目領域情報取得部42、座標算出部43、累計時間計測部44、強調度設定部45、同一注目領域判定部46、及び表示制御部48を統括制御し、また、これらの各部の一部として機能する。
記憶部49は、注目領域検出部41による検出結果を記憶し、また、撮像された静止画39を記憶するとともに、注目領域の特徴量と累計時間とを関連付けて記憶する注目領域記憶部50、プログラム51及び医用画像処理装置14の各種制御に係る情報等を記憶する部分である。
時系列画像取得部40は、内視鏡プロセッサ装置12(図1)に有線接続又は無線接続された不図示の画像入出力インターフェースを用いて、内視鏡プロセッサ装置12から被写体像を含む時系列のフレーム画像38aからなる動画38(本例では、内視鏡スコープ10により撮像される動画38)を取得する。また、内視鏡スコープ10にて動画38の撮像途中に既述の静止画39の撮像が行われた場合、時系列画像取得部40は、内視鏡プロセッサ装置12から動画38及び静止画39を取得する。
なお、時系列画像取得部40は、内視鏡プロセッサ装置12から動画38を直接取得する代わりに、メモリーカード、ハードディスク装置等の各種情報記憶媒体を介して動画38を取得してもよい。また、時系列画像取得部40は、インターネット上のサーバ或いはデータベース等にアップロードされた動画38をインターネット経由で取得してもよい。
注目領域検出部41は、被検体内の観察中に撮像された動画38から注目領域を検出する画像処理部である。注目領域検出部41は、動画38の各フレーム画像38a(又は間引かれた一定間隔のフレーム画像38a)の特徴量を算出し、画像内の注目領域の認識処理を行う畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)を含む。
注目領域の例としては、ポリープ、癌、大腸憩室、炎症、EMR(Endoscopic Mucosal Resection)瘢痕、ESD(Endoscopic Submucosal Dissection)瘢痕、クリップ箇所、出血点、穿孔、血管異型性、処置具等がある。
注目領域検出部41は、検出された注目領域が、「腫瘍性」、「非腫瘍性」、「その他」といった病変に関する複数のカテゴリのうちのいずれのカテゴリに属するかのカテゴリ分類等の認識結果を取得することも可能である。
なお、注目領域検出部41は、CNNにより注目領域を検出するものに限らず、画像内の色、画素値の勾配、形状、大きさ等の特徴量を画像処理により解析して注目領域を検出するものでもよい。
注目領域情報取得部42(特徴量算出部の一例)は、注目領域検出部41により検出された注目領域の注目領域情報を取得する。注目領域情報は、例えば注目領域の輪郭の画像内の座標情報、及び注目領域の特徴量とすることができる。座標情報を特徴量に含めてもよい。
座標算出部43は、注目領域検出部41により検出された注目領域の画像内の位置を示す座標情報を算出する。座標算出部43は、例えば注目領域を囲む多角形又は円の輪郭線上の1つ以上の座標情報を算出する。多角形の頂点の座標、又は多角形の辺の中点の座標を座標情報として算出してもよいし、円の円周を複数に等分割する点の座標を座標情報として算出してもよい。
累計時間計測部44は、注目領域が注目領域検出部41により検出されている累計検出時間を累計時間として計測する。強調度設定部45は、累計時間が相対的に長いほど強調度を相対的に大きい値に設定する。強調度は、最小値、最大値、及び累計時間に対する強調度の増加率が予め定められている。したがって、累計時間から強調度を算出することができる。強調度設定部45は、累計時間計測部44が計測した累計時間から注目領域に応じた強調度を算出して設定する。
注目領域検出部41によって複数の注目領域が検出された場合は、累計時間計測部44は、複数の注目領域に対して各注目領域の累計時間をそれぞれ計測し、強調度設定部45は、各注目領域の累計時間に応じて各注目領域の強調度をそれぞれ設定する。
なお、後述するように、注目領域は強調度設定部45により設定された強調度で強調される。累計時間計測部44は、注目領域が強調された累計時間を計測してもよい。
同一注目領域判定部46は、動画38のうちの医用画像に含まれる注目領域がその医用画像より時系列的に前の医用画像において強調された注目領域と同一であるか否かを判定する。同一注目領域判定部46は、動画38のうちの医用画像に含まれる注目領域がその医用画像より時系列的に前の医用画像において注目領域検出部41により検出された注目領域と同一であるか否かを判定してもよい。この判定は、注目領域情報取得部42により取得された注目領域の特徴量を用いて行う。
表示制御部48は、画像表示制御部48A及び報知情報表示制御部48Bを備えている。画像表示制御部48Aは、時系列画像取得部40が取得した動画38を表示器16に出力し、表示器16に動画38を表示させる。即ち、表示器16には、複数のフレーム画像38aが順次表示される。
報知情報表示制御部48Bは、座標算出部43により算出された座標情報に基づいて、かつ強調度設定部45により設定された強調度に基づいて、注目領域を報知する報知情報を表示器16に出力する。ここでは、報知情報として注目領域の位置を示す図形を注目領域の位置に重畳させる。これにより、表示器16に表示される動画38の注目領域の位置に、注目領域の累計時間に応じた図形が重畳される。したがって、注目領域は重畳された図形により設定された強調度で強調される。
このように、医用画像処理装置14と表示器16とで、診断支援装置として機能する。
〔医用画像処理方法:第1実施形態〕
内視鏡システム9を用いた医用画像処理方法について説明する。医用画像処理方法は、制御部47が記憶部49に記憶されたプログラム51を実行することで実施される。
図3は、第1実施形態に係る医用画像処理方法の各処理の一例を示すフローチャートである。医用画像処理方法は、画像取得工程(ステップS1)と、注目領域検出工程(ステップS2)と、同一注目領域判定工程(ステップS3)と、累計時間計測工程(ステップS4)と、強調度設定工程(ステップS5)と、強調処理工程(ステップS6)と、を含む。
ステップS1では、時系列画像取得部40は、内視鏡スコープ10により撮像される動画38のフレーム画像38aを取得する。このフレーム画像38aを、第1医用画像とする。
ステップS2では、注目領域検出部41は、ステップS1で取得した第1医用画像から注目領域を検出する。第1医用画像から検出された注目領域を、第1注目領域とする。
ステップS3では、注目領域情報取得部42は、第1医用画像から第1注目領域の特徴量を取得する。また、注目領域情報取得部42は、動画38の第1医用画像より1つ前のフレームのフレーム画像38aである第2医用画像において強調(検出)された第2注目領域の特徴量を注目領域記憶部50から読み出す。
さらに、同一注目領域判定部46は、第1注目領域の特徴量と第2注目領域の特徴量との類似度から、第1注目領域が第2注目領域と同一であるか否かを判定する。
ステップS4では、累計時間計測部44は、第1注目領域の累計時間を計測する。累計時間とは、注目領域が強調されたタイミングから計時を開始する時間である。また、累計時間として、注目領域が検出されたタイミングから計時を開始する時間であってもよい。累計時間は、注目領域が強調されたタイミング又は注目領域が検出されたタイミングからの時系列画像のフレーム数としてカウントしてもよい。
ステップS3において第1注目領域が第2注目領域と同一でないと判定された場合は、累計時間計測部44は、第1注目領域が新たに検出された注目領域であると判断して、累計時間の計測を新たに開始する。
一方、ステップS3において第1注目領域が第2注目領域と同一であると判定された場合は、累計時間計測部44は、第1注目領域の累計時間として第2注目領域の累計時間を引き継いで計測する。即ち、累計時間計測部44は、第2注目領域の累計時間を注目領域記憶部50から読み出し、読み出した累計時間に第2医用画像から第1医用画像までの1フレーム分の時間を加算する。
ステップS5では、強調度設定部45は、第1注目領域の強調度を設定する。
ステップS3において第1注目領域が第2注目領域と同一でないと判定された場合は、累計時間の計測を新たに開始したばかりであるので、強調度設定部45は、第1注目領域の強調度を予め定められた最小値に設定する。
一方、ステップS3において第1注目領域が第2注目領域と同一であると判定された場合は、強調度設定部45は、第1注目領域の強調度を第2注目領域の累計時間を引き継いで計測された累計時間に応じて設定する。
なお、強調度設定部45は、第2注目領域の強調度を注目領域記憶部50から読み出し、読み出した第2注目領域の強調度と第2医用画像から第1医用画像までの経過時間と予め定められた強調度の増加率とから第1注目領域の強調度を算出してもよい。
最後に、ステップS6では、表示制御部48(強調処理部の一例)は、第1医用画像に含まれる第1注目領域を設定された強調度で強調する。ここでは、画像表示制御部48Aは、第1医用画像を表示器16に出力し、表示器16に第1医用画像を表示させる。また、報知情報表示制御部48Bは、座標算出部43により算出された座標情報に基づいて、かつ強調度設定部45により設定された強調度に基づいて、第1注目領域を報知する報知情報を表示器16に出力する。これにより、第1医用画像の第1注目領域の位置に、第1注目領域の累計時間に応じた図形が重畳される。したがって、第1注目領域が重畳された図形により設定された強調度で強調される。
また、ステップS6では、制御部47は、第1注目領域の特徴量、累計時間、及び強調度を第1注目領域と紐付けて注目領域記憶部50に記憶させる。
以上のように、医用画像処理方法によれば、医用画像の注目領域を適切に報知することができる。
〔強調処理〕
図4は、表示制御部48において行われる強調処理の一例を示す図である。図4に示すF4Aは、注目領域R1が検出されたフレーム画像38aを示す図である。また、図4に示すF4Bは、F4Aに示すフレーム画像38aに注目領域R1を囲う枠形状の図形E1が注目領域R1の位置に重畳されたフレーム画像38aを示す図である。このように、表示制御部48が注目領域R1の位置に図形を重畳させることで、注目領域R1を強調することができる。
画像に重畳させる枠形状の図形の形状は、矩形に限定されず、円形、楕円形、多角形であってもよい。また、画像に重畳させる図形は、注目領域を指し示す矢印等であってもよい。
また、図5は、強調処理の他の例を示す図である。図5に示すF5Aは、注目領域R2が検出されたフレーム画像38aを示す図である。また、図5に示すF5Bは、F5Aに示すフレーム画像38aに注目領域R2と略同形状であり、注目領域R2とは画素値の明度を異ならせた図形E11を注目領域R2に重畳させたフレーム画像38aを示す図である。このように、表示制御部48は、注目領域の位置に画素値を変化させた図形を重畳させてもよい。
注目領域の位置に重畳させる図形の画素値を注目領域の画素値と異ならせる処理は、明度を変化させる処理に限定されず、色相変化処理、彩度変化処理、コントラスト処理、ネガポジ反転処理、フィルタリング処理、及び周波数処理等であってもよい。これらの処理は、注目領域が注目領域外の領域と比べて際立つような処理であることが好ましい。
〔強調度の増加率〕
図6は、注目領域の累計時間と設定される強調度との関係の一例を示すグラフであり、横軸は時間、縦軸は強調度を示している。図6では、F6A~F6Eの5つの例について示している。
F6A~F6Eにおいて、時間t1は注目領域が検出されたタイミングである。F6A~F6Eに示すように、強調度は、時間t1において最小値に設定され、時間t1より後のタイミングである時間t2において最大値に設定される。また、強調度は、時間t1から時間t2にかけて累計時間が相対的に長いほど相対的に大きい値に設定される。なお、強調度が0の場合は、フレーム画像38aがそのまま表示される。
強調度は、F6Aに示すように累計時間に比例して大きくしてもよいし、F6Bに示すように累計時間に対して指数関数的に大きくしてもよい。また、F6Cに示すように、段階的に大きくしてもよい。即ち、累計時間に対する強調度の増加率(以下、増加率と表記する)は、一定の値に限定されず、累計時間に対する関数で求められる値であってもよい。
強調度の最小値、最大値、及び増加率は、予め定められた固定値として記憶部49に記憶される。また、強調度の最小値、最大値、及び増加率は、画像から得られる特徴量によって適宜変更してもよいし、ユーザが所望の値を設定可能に構成してもよい。
強調度が最大値に到達した後は、F6A~F6Cに示すようにそのまま最大値を維持してもよい。一定時間が経過するまでは強調度を最大値として強調することで、ユーザが注目領域を認識しやすくなる。
また、F6Dに示すように、強調度が最大値に到達した後に再度最小値から強調度の増加を繰り返してもよい。この場合、強調度の増加が繰り返される点滅箇所は注意を引きやすくなるため、ユーザによる注目領域の見落とし防止に繋がる。
さらに、F6Eに示すように、強調度が最大値に到達した後に強調処理を終了、即ち強調度を0に設定してもよい。この場合は、強調処理を行う時間が長過ぎてユーザによる注目領域の観察の邪魔になるということを防止することができる。
これらの強調度が最大値に到達した後の態様は、注目領域に応じて適宜選択してもよいし、ユーザが所望の態様を設定可能に構成してもよい。
〔報知情報の変化〕
図7は、強調度に応じた図形の変化の一例を示す図である。図7に示すF7Aは、注目領域R3を囲う枠形状の図形であって、強調度が最小値の図形E21が重畳されたフレーム画像38aを示す図である。また、図7に示すF7Bは、注目領域R3を囲う枠形状の図形であって、強調度が最大値の図形E22が重畳されたフレーム画像38aを示す図である。F7Aに示すフレーム画像38aよりも、F7Bに示すフレーム画像38aの方が、時系列的に後のフレーム画像である。
図形E21と図形E22とは線の太さ及び色が同一の図形であり、それぞれ透過度が異なっている。ここでは、強調度設定部45は、累計時間が相対的に長いほど図形の透過度を相対的に小さく設定することで、累計時間が相対的に長いほど強調度を相対的に大きい値に設定している。したがって、図形E21の透過度よりも図形E22の透過度の方が相対的に小さい。
図8は、強調度に応じた図形の変化の他の例を示す図である。図8に示すF8Aは、注目領域R4を囲う枠形状の図形であって、強調度が最小値の図形E31が重畳されたフレーム画像38aを示す図である。また、図8に示すF8Bは、注目領域R4を囲う枠形状の図形であって、強調度が最大値の図形E32が重畳されたフレーム画像38aを示す図である。F8Aに示すフレーム画像38aよりも、F8Bに示すフレーム画像38aの方が、時系列的に後のフレーム画像である。
図形E31と図形E32とは透過度及び色が同一の図形であり、それぞれ線の太さが異なっている。ここでは、強調度設定部45は、累計時間が相対的に長いほど図形の線の太さを相対的に太く設定することで、累計時間が相対的に長いほど強調度を相対的に大きい値に設定している。したがって、図形E31の線よりも図形E32の線の方が相対的に太い。
図9は、強調度に応じた図形の変化の他の例を示す図である。図9に示すF9Aは、注目領域R5を囲う枠形状の図形であって、強調度が最小値の図形E41が重畳されたフレーム画像38aを示す図である。また、図9に示すF9Bは、注目領域R5を囲う枠形状の図形であって、強調度が最大値の図形E42が重畳されたフレーム画像38aを示す図である。F9Aに示すフレーム画像38aよりも、F9Bに示すフレーム画像38aの方が、時系列的に後のフレーム画像である。
図形E41と図形E42とは透過度及び線の太さが同一の図形であり、それぞれ色(色温度)が異なっている。ここでは、強調度設定部45は、累計時間が相対的に長いほど図形の色を任意の色強度指標に基づいた色強度の高い色に設定することで、累計時間が相対的に長いほど強調度を相対的に大きい値に設定している。したがって、図形E41の色よりも図形E42の色の方が任意の色強度指標に基づいた色強度が相対的に高い。
図9に示すF9Cは、図形E41の色から図形E42の色への遷移を示す図である。図形E41の色及び図形E42の色の中間色を、それぞれの配色の等比、等差、もしくは比率を可変にして算出してもよい。
強調度設定部45は、フレーム画像38aの色を取得し、累計時間が相対的に長いほど図形の色をフレーム画像38aの色とのコントラストが相対的に高い色に設定することで、累計時間が相対的に長いほど強調度を相対的に大きい値に設定してもよい。フレーム画像38aの色は、被検体内の色、及び光源装置11から供給される照明光の波長に応じて異なる。したがって、取得したフレーム画像38aの色に応じて、図形E41の色及び図形E42の色を適宜決定する。
また、図形の色ではなく、図形の明度及び彩度の少なくとも一方を変更してもよい。累計時間が長いほど、より注目領域が際立って見えるように変化させることが好ましい。このように、図形の色、明度、及び彩度の少なくとも1つを変更することで、周囲との色差や光源等を考慮した強調処理を行うことができる。
また、図形の大きさ及び形状の少なくとも一方を変更してもよい。この場合も、累計時間が長いほど、より注目領域が際立って見えるように変化させることが好ましい。
〔累計時間〕
累計時間計測部44が計測する累計時間は、例えば、注目領域が最初に検出されたタイミングから、継続して検出され続けている時間を示す。
図10は、累計時間を説明するための図である。図10は、時間t-1、時間t、時間t+1、時間t+2、及び時間t+3におけるそれぞれのフレーム画像38aの一例を示している。ここでは、時間t-1のフレーム画像38aでは注目領域が検出されていない。また、時間t、時間t+1、時間t+2のフレーム画像38aにおいて同一の注目領域R6が検出されている。これに伴い、時間t、時間t+1、時間t+2のフレーム画像38aには、それぞれ注目領域R6を囲う枠形状の図形E51、図形E52、及び図形E53が重畳される。
図10に示す例では、時間tのフレーム画像38aにおける注目領域R6の累計時間は0である。また、時間t+1のフレーム画像38aにおける注目領域R6の累計時間は(t+1)-t=1であり、時間t+2のフレーム画像38aにおける注目領域R6の累計時間は(t+2)-t=2である。
したがって、図形E51は累計時間0に応じた強調度(最小値)、図形E52は累計時間1に応じた強調度、及び図形E53は累計時間2に応じた強調度が設定される。
また、図10に示すように、時間t+3のフレーム画像38aでは注目領域が検出されていない。したがって、時間t+3において、注目領域R6の累計時間は0にリセットされ、強調処理がリセットされる。
なお、累計時間及び強調処理は、注目領域の検出が途切れた場合にただちにリセットされることに限定されない。
内視鏡スコープ10によって撮像される動画38では、注目領域が腸のひだ等に隠れてしまい、あるタイミングだけ画像に写らない場合が存在する。その際に、同一の注目領域にもかかわらず隠れた前後の注目領域がそれぞれ別の注目領域と判断されて強調度がリセットされると、ユーザの意識に留まらない恐れがある。
また、内視鏡スコープ10の操作は難しく、注目領域を常に観察画像中に留めておくことは難しい。このため、注目領域が画面から外れるたびに異なる注目領域と認識した支援を行うと、ユーザの思考を阻害することになりかねない。
さらに、先端部27の先端面の観察窓(不図示)に汚れ等が付着することで、注目領域検出部41が注目領域を検出することができない場合がある。
このため、検出が途切れた場合であっても、ある一定時間Tkは注目領域の情報を保持しておき、後に同一の注目領域を検出した場合に強調度を引き継がせてもよい。
図11は、累計時間を説明するための図である。図11は、時間t、時間t+1、時間t+2、及び時間t+3におけるそれぞれのフレーム画像38aの一例を示している。図11に示すように、時間tのフレーム画像38aにおいて注目領域R7が検出されている。これに伴い、時間tのフレーム画像38aには、注目領域R7を囲う枠形状の図形E61が重畳されている。時間tにおいて、注目領域R7の累計時間がTcであったとする。このため、図形E61は、累計時間Tcに応じた強調度の図形である。制御部47は、注目領域R7の特徴量、累計時間、及び強調度を、注目領域R7と紐付けて注目領域記憶部50に記憶させる。
その後、図11に示すように、時間t+1、及び時間t+2のフレーム画像38aでは注目領域が検出されていない。
さらに時間が経過し、図11に示すように、注目領域検出部41は、時間t+3のフレーム画像38aにおいて注目領域を検出する。ここで、注目領域R7が最後に検出された時間tから時間t+3までの経過時間Tp=(t+3)-t=3は、一定時間Tk未満であるとする。
同一注目領域判定部46は、注目領域記憶部50に記憶された注目領域R7の特徴量と時間t+3のフレーム画像38aにおいて検出された注目領域の特徴量とを比較し、両注目領域が同一の注目領域であるか否かを判定する。ここでは、同一であると判定される。
強調度設定部45は、時間t+3のフレーム画像38aにおいて検出された注目領域R7について、注目領域記憶部50に記憶された注目領域R7の累計時間、及び強調度を引き継がせ、累計時間に時間tから時間t+3までの経過時間Tpを加算する。即ち、累計時間として、注目領域が強調されたタイミングから計時を開始し、注目領域を強調していなかった時間も含めて計時した時間とする。
したがって、注目領域R7の累計時間はTc+Tpとなり、強調度は累計時間Tc+Tpに応じた強調度となる。図11に示すように、時間t+3のフレーム画像38aには、注目領域R7を囲う枠形状の図形であって、Tc+Tpに応じた強調度の図形E62が重畳される。
注目領域の検出されない時間が一定時間Tkを超えた場合は、注目領域記憶部50に記憶された注目領域の特徴量、累計時間、及び強調度をリセット(消去)する。注目領域の情報を保持し続ける一定時間Tkは、予め定められた固定値でもよいし、検出されていた注目領域とその周囲との凹凸の量、検出されていた注目領域とその周囲との色差等から判断してもよい。また、ユーザが所望の値を設定してもよい。
ここでは、引き継いだ累計時間Tcに加算した経過時間Tpは、注目領域の検出が途切れていた時間を含めていたが、実際に注目領域が検出されている時間のみを加算してもよい。即ち、累計時間として、注目領域が強調されたタイミングから計時を開始し、注目領域を強調しなかった時間を排除して計時した時間としてもよい。例えば、時間t+3における累計時間は、注目領域R7が検出されていなかった時間t+1及び時間t+2を排除し、Tc+1としてもよい。この場合、注目領域記憶部50に注目領域R7が最後に検出された時間を記憶しておくことで、注目領域R7が検出されていなかった時間を認識することができる。
また、ここでは時間t+3のフレーム画像38aにおいて注目領域が検出された際に、最後に検出された時間tのフレーム画像38aの注目領域R7と同一の注目領域であるか否かを判定したが、この判定において注目領域R7とは同一の注目領域ではないと判定された場合に、さらに時間tのフレーム画像38aより時系列的に前(例えば時間t-1)のフレーム画像38a(第3医用画像の一例)の注目領域である第3注目領域と同一の注目領域であるか否かを判定してもよい。
その結果、両注目領域が同一であると判定された場合は、強調度設定部45は、時間t+3のフレーム画像38aにおいて検出された注目領域について、注目領域記憶部50に記憶された第3注目領域の累計時間、及び強調度を引き継がせ、累計時間に例えば時間t-1から時間t+3までの経過時間Tpを加算すればよい。
〔複数の注目領域の強調〕
観察中の動画に複数の注目領域が検出された場合、ユーザが1つの注目領域に注目し過ぎると、その他の注目領域の存在が意識から外れてしまう可能性がある。特に、それぞれの注目領域が離れている、又はそれぞれの注目領域が画面端に存在する場合等は、ユーザの意識から外れる可能性が高く、見逃しに繋がってしまう。また、内視鏡スコープ10を迅速に操作した場合、注目領域を複数検出しても強調度が高くなる前に画面外に外れてしまい、ユーザの意識に留まらない可能性がある。したがって、複数の注目領域を検出した場合には、強調度を大きくする、又は強調度の増加率を大きくする等により、この問題を回避してもよい。
図12は、1枚の医用画像に複数の注目領域が検出された際の図形の変化の一例を示す図である。図12に示すF12Aは、注目領域R8を囲う図形E71、及び注目領域R9を囲う図形E81が重畳されたフレーム画像38aを示す図である。また、図12に示すF12Bは、注目領域R8を囲う図形E72、及び注目領域R9を囲う図形E82が重畳されたフレーム画像38aを示す図である。F12Aに示すフレーム画像38aよりも、F12Bに示すフレーム画像38aの方が、時系列的に後のフレーム画像である。
これまでと同様に、図形E71よりも図形E72の方が、強調度が相対的に大きい値に設定されている。また、図形E81よりも図形E82の方が、強調度が相対的に大きい値に設定されている。また、ここでは、注目領域の数が多くなるほど強調度の最小値、最大値、及び増加率が大きい値に設定される。
図13は、2つの注目領域が検出された際の強調度の変更の一例を示すグラフであり、横軸は時間、縦軸は強調度を示している。図13に示すように、1つ目の注目領域は、最小値minα、最大値maxα、増加率Rα1で強調される。また、2つ目の注目領域は、最小値minβ、最大値maxβ、増加率Rβで強調される。ここでは、minα<minβ、maxα<maxβ、Rα1<Rβの関係を有している。これらの最小値、最大値、及び増加率は、記憶部49に予め記憶されている。
図12に示す注目領域に対して、図13に示すように強調度が変化するものとする。ここでは、時間t1に1つ目の注目領域R8が検出され、時間t1より後の時間t2に注目領域R9が検出されたものとする。この場合、強調度設定部45は、注目領域R8について、時間t1において最小値minαの強調度を設定し、その後、累計時間に対して増加率Rα1で大きくした値に強調度を設定する。
続いて、時間t2において2つ目の注目領域R9が検出される。強調度設定部45は、注目領域R9について、時間t2において最小値minβの強調度を設定し、その後、累計時間に対して増加率Rβで大きくした値に強調度を設定する。また、強調度設定部45は、時間t2からは増加率Rα2で大きくした値に注目領域R8の強調度を設定する。増加率Rα2は、Rα1<Rα2<Rβの関係を有している。
さらに時間が経過すると、強調度設定部45は、時間t3において、注目領域R9の強調度が最大値maxβに設定する。その後、注目領域R9の強調を終了させる。なお、最大値maxβの強調度で強調を維持させてもよい。また、強調度設定部45は、時間t4において、注目領域R8の強調度を最大値maxαに設定する。その後、注目領域R9と同様に、注目領域R8の強調を終了させる。なお、最大値maxαの強調度で強調を維持させてもよい。
ここでは、注目領域の数が多くなるほど強調度の最小値、最大値、及び増加率が大きい値に設定したが、強調度の最小値、最大値、及び増加率の少なくとも1つを大きい値に設定すればよい。このように、注目領域の数が多くなるほど強調度の最小値及び最大値の少なくとも一方を大きい値に設定して強調度を高めることで、注目領域をユーザに意識させ、ユーザによる注目領域の見逃しを防止することができる。また、注目領域の数が多くなるほど強調度の増加率を大きい値に設定してより早期に強調度を高めることで、注目領域をユーザに意識させ、ユーザによる注目領域の見逃しを防止することができる。
〔画像内の位置に応じた強調度の設定〕
患者への負担を軽減するため、内視鏡検査は時間をかけずに迅速に行う必要がある。また、内視鏡スコープ10の操作は煩雑である。このため、挿入部20を素早く動かし過ぎてしまうことがある。
挿入部20の移動が速い場合には、ユーザが意識していない箇所で注目領域が検出された際に、ユーザが注目領域を見逃す恐れがある。特に画像の端部で注目領域が検出された場合は、ユーザが注目領域を見逃してしまう可能性が高くなる。
このような見逃しを防止するため、画像の中心からの距離に応じて最小値、最大値、及び増加率を設定してもよい。
図14は、人間の視覚特性を説明するための図である。図14に示す領域A1は、注視点を含む領域であり、視力が最も優れている領域である。また、領域A2は、注視点から眼球運動のみで瞬時に情報受容が可能な領域である。領域A3は、注視点から眼球及び頭部運動により無理なく情報受容が可能な領域である。
人間の視覚特性上、視力は注視点が一番高く、離れるにつれて急激に低下してぼんやりと見える状態になる。通常ユーザは画像の中心を注視していることが多いため、画像の端部の支援機能を高めた方が好ましい。上記の傾向は上下左右で異なるため、方向に応じて増加率を変えてもよい。例えば、上方向は他の方向よりも支援する必要があるため、最小値、最大値、増加率の少なくとも1つを相対的に大きくすることが好ましい。
〔明るさに応じた強調度の設定〕
注目領域の輝度値、又は注目領域の輝度値と注目領域外の輝度値との差分に基づいて、強調度の最小値、最大値、及び増加率を設定してもよい。注目領域が暗い、又は周囲との明るさの差分が小さいほど、ユーザが注目領域を見逃す可能性が高い。したがって、この場合は、強調度の最小値、最大値、及び増加率の少なくとも1つを相対的に大きい値に設定する。
逆に、注目領域が明るい、又は周囲との明るさの差分が大きいほど、ユーザが注目領域を見逃す可能性は低い。したがって、画像の視認性を優先するために強調度の最小値、最大値、及び増加率の少なくとも1つを相対的に小さい値に設定する。
図15は、注目領域の明るさに応じた強調度の変更の一例を示すグラフであり、横軸は時間、縦軸は強調度を示している。注目領域の明るさが標準の場合には、強調度の最小値はmin0、最大値はmax0である。また、増加率Ri0は、図15に示すように、Ri0=(max0-min0)/(t3-t1)である。
注目領域の明るさが相対的に暗い場合には、強調度の最小値はmin1、最大値はmax1である。また、増加率Ri1は、図15に示すように、Ri1=(max1-min1)/(t2-t1)である。ここで、min0<min1、max0<max1、Ri0<Ri1の関係を有している。
注目領域の明るさが相対的に明るい場合には、強調度の最小値はmin2、最大値はmax2である。また、増加率Ri2は、図15に示すように、Ri2=(max2-min2)/(t4-t1)である。ここで、min0>min2、max0>max2、Ri>Ri2の関係を有している。これらの最小値、最大値、及び増加率は、記憶部49に予め記憶されている。
ここで、注目領域の明るさは、注目領域の輝度値から取得することができる。ここでは、注目領域の輝度値に応じた強調度の変更を示したが、注目領域の輝度値と注目領域外の輝度値との差分を用いた場合でも同様である。
〔色情報に応じた強調度の設定〕
明るさに応じた強調度の設定の場合と同様に、注目領域の色情報、又は注目領域の色情報と注目領域外の色情報との差分に基づいて、強調度の最小値、最大値、及び増加率を設定してもよい。
注目領域の彩度が低い、又は周囲との色差が小さい、報知情報として使用する図形の色との色差が小さい場合は、ユーザが注目領域を見逃す可能性が高い。したがって、明るさの場合と同様に、強調度の最小値、最大値、及び増加率の少なくとも1つを相対的に大きい値に設定する。例えば、図15に示したように、強調度の最小値をmin1、最大値をmax1、増加率をRi1とする。
逆に、注目領域の彩度が高い、又は周囲との色差が大きい、図形の色との色差が大きい場合は、ユーザが注目領域を見逃す可能性は低い。したがって、画像の視認性を優先するために、強調度の最小値、最大値、及び増加率の少なくとも1つを相対的に小さい値に設定する。例えば、図15に示したように、強調度の最小値をmin2、最大値をmax2とする。増加率をRi2とする。
色情報とは、RGB(Red、Green、Blue)色空間に限定するものでない。例えば、デバイス非依存のL*a*b*表色系のLab色空間、印刷処理に適した表色系のYMCK(Cyan、Magenta、Yellow、blacK)色空間、HLS(Hue-Luminance-Saturation)色空間、輝度と色差から成るいわゆるYCbCr(Y:輝度、CbCr:色差)色空間等であってもよい。
また、色差に関しては、人間が識別できる許容範囲(JIS規格、又は各種工業会で一般的に使用されているもの)に収まっているか否かで判定してもよい。
〔動き情報に応じた強調度の設定〕
明るさ及び色情報の場合と同様に、注目領域の動き量、動き方向等の動き情報に基づいて、強調度の最小値、最大値、及び増加率を設定してもよい。
注目領域の動き量が大きいほど、より早期に検出したことをユーザに意識させる必要がある。また、注目領域の動き方向が画像の端部に向かう方向である場合は、ユーザが注目領域を見逃す可能性が高い。したがって、強調度の最小値、最大値、及び増加率の少なくとも1つを相対的に大きい値に設定する。
逆に、注目領域の動き量が小さい場合は早期に意識させる必要はない。また、注目領域の動き方向が画像の中心に向かう方向である場合は、ユーザが注目領域を見逃す可能性は低い。したがって、強調度の最小値、最大値、及び増加率の少なくとも1つを相対的に小さい値に設定する。
〔同一ではないが周囲に存在する注目領域〕
同一の注目領域であっても、挿入部20の挿入角度等により形状が異なって写る場合がある。また、注目領域検出部41において、100%の精度で同一の注目領域として検出することができない場合がある。このような理由により、同一の注目領域にもかかわらず同一の注目領域と判断されなかった場合、各フレーム画像で最小値の強調度による強調処理が行われ続けることになる。このような状況はユーザの注意力を阻害することになり、好ましくない。
そこで、検出された注目領域がそれ以前に検出されていた注目領域と同一の注目領域と判断されなかった場合であっても、検出された注目領域がある一定の範囲内に存在した場合には、それ以前に検出されていた注目領域の累計時間及び強調度を引き継がせてもよい。形状等が異なっても注目領域検出部41が反応するということは、その周辺の注目領域らしさが高いことを示しており、ユーザに注視させることで見逃し防止に役立つ。
図16は、同一でないが周囲に存在する注目領域を説明するための図である。図16は、時間t-1、時間t、及び時間t+1におけるそれぞれのフレーム画像38aの一例を示している。これらは動画38において連続するフレーム画像である。
時間t-1のフレーム画像38aにおいて、注目領域R10が検出されている。この注目領域R10の累計時間に応じた強調度の図形E91が、フレーム画像38aの注目領域R10の位置に重畳されている。また、注目領域R10の特徴量、累計時間、及び強調度が注目領域R10と紐付けて注目領域記憶部50に記憶される。
ここで、注目領域検出部41は、注目領域R10について、注目領域R10を中心とした一定の範囲B1を設定する。図16では、説明のために各フレーム画像38aに範囲B1を表す枠形状を図示しているが、この範囲B1を表す枠形状は表示器16には表示されない。
その後、注目領域検出部41に時間tのフレーム画像38aが入力されると、注目領域検出部41は、このフレーム画像38aから注目領域R11を検出する。また、注目領域情報取得部42は、注目領域R11の特徴量を取得する。
次に、同一注目領域判定部46は、注目領域記憶部50に記憶された注目領域R10の特徴量と注目領域情報取得部42が算出した注目領域R11の特徴量とを比較し、注目領域R10と注目領域R11とが同一の注目領域であるか否かを判定する。ここでは、特徴量がそれぞれ異なっており、同一注目領域判定部46は両注目領域が同一でないと判定する。
両注目領域が同一でないと判定すると、同一注目領域判定部46は、さらに、注目領域R11のフレーム画像38a内の位置が注目領域R10に設定された範囲B1内の位置であるか否かを判定する。ここでは、同一注目領域判定部46は、注目領域R11の位置が範囲B1内の位置であると判定する。
注目領域R11の位置が範囲B1内の位置であると判定されると、累計時間計測部44は、注目領域R11の累計時間として注目領域記憶部50に記憶されている注目領域R10の累計時間を引き継いで計測する。
また、強調度設定部45は、注目領域R11の強調度として、注目領域R10の累計時間を引き継いで計測された累計時間に応じて設定する。強調度設定部45は、注目領域記憶部50に記憶されている注目領域R10の強調度と時間t-1から時間tまでの経過時間と予め定められた強調度の増加率とから、注目領域R11の強調度を算出して設定してもよい。
その結果、図16に示すように、時間tのフレーム画像38aには、注目領域R11を強調する枠形状の図形E92が注目領域R11の位置に重畳される。図形E92は、図形E91よりも1フレーム分の時間だけ強調度が相対的に大きい図形である。このように、注目領域R11は、注目領域R10の強調度を引き継ぐことができる。
また、制御部47は、注目領域R11の特徴量、累計時間、及び強調度を注目領域R11と紐付けて注目領域記憶部50に記憶させる。
続いて、注目領域検出部41に時間t+1のフレーム画像38aが入力されると、注目領域検出部41は、このフレーム画像38aから注目領域R12を検出する。また、注目領域情報取得部42は、注目領域R12の特徴量を算出する。
次に、同一注目領域判定部46は、注目領域記憶部50に記憶された注目領域R11の特徴量と注目領域情報取得部42が算出した注目領域R12の特徴量とを比較し、注目領域R11と注目領域R12とが同一の注目領域であるか否かを判定する。ここでは、特徴量がそれぞれ異なっており、同一注目領域判定部46は両注目領域が同一でないと判定する。
同一注目領域判定部46は、さらに、注目領域R12のフレーム画像38a内の位置が注目領域R10に設定された範囲B1内の位置であるか否かを判定する。ここでは、同一注目領域判定部46は、注目領域R12の位置が範囲B1内の位置であると判定する。
注目領域R12の位置が範囲B1内の位置であると判定されると、累計時間計測部44は、注目領域R12の累計時間として注目領域記憶部50に記憶されている注目領域R11の累計時間を引き継いで計測する。
また、強調度設定部45は、注目領域R12の強調度として、注目領域R11の累計時間を引き継いで計測された累計時間に応じて設定する。
その結果、図16に示すように、時間t+1のフレーム画像38aには、注目領域R12を強調する枠形状の図形E93が注目領域R12の位置に重畳される。図形E93は、図形E92よりも1フレーム分の時間だけ強調度が相対的に大きい図形である。このように、注目領域R12は、注目領域R11の強調度を引き継ぐことができる。
なお、注目領域R12の位置が範囲B1内の位置でないと判定された場合は、注目領域R12は新たに検出された注目領域として扱われる。即ち、累計時間計測部44は注目領域R12の累計時間の計測を新たに開始し、強調度設定部45は注目領域R12の強調度を予め定められた最小値に設定する。
ここでは、同一注目領域判定部46は、注目領域R12のフレーム画像38a内の位置が最初に検出された注目領域R10について設定された範囲B1内の位置であるか否かを判定したが、注目領域R11について新たな範囲を設定し、注目領域R12が注目領域R11に設定した範囲内の位置であるか否かを判定してもよい。
また、同一注目領域判定部46は注目領域R10を中心とした一定の範囲B1を設定したが、強調度の引き継ぎのために同一注目領域判定部46が判定する範囲は、予め設定された固定の範囲でもよい。
以上のように、検出された注目領域がそれ以前に検出されていた注目領域と同一の注目領域と判断されなかった場合であっても、検出された注目領域がある一定の範囲内に存在した場合には、それ以前に検出されていた注目領域の強調度を引き継がせることで、注目領域を適切な強調度で強調することができる。
〔表示部が複数存在する場合〕
ここまでは単一の表示部に動画38を表示する例を説明したが、医用画像処理装置14は複数の表示部を備えていてもよい。ユーザによっては、観察中の画像に報知情報を重畳させたくない場合がある。したがって、観察中の画像を表示する表示部とは異なる表示部に報知情報を重畳させた画像を表示させてもよい。
図17は、複数の表示部を備えた医用画像処理装置14の電気的構成を示すブロック図である。表示器16は、第1表示器16Aと第2表示器16Bとを備えている。第1表示器16Aと第2表示器16Bとは、それぞれ異なる2つのモニタであってもよいし、1つのモニタのそれぞれ異なる領域であってもよい。
画像表示制御部48Aは、時系列画像取得部40が取得した動画38を第1表示器16A及び第2表示器16Bの少なくとも一方に出力する。また、報知情報表示制御部48Bは、注目領域を報知する報知情報を第1表示器16A及び第2表示器16Bの少なくとも一方に出力する。
図18~図20は、それぞれ複数の表示部に対する表示内容を説明するための図である。図18~図20は、上段に第1表示器16A、下段に第2表示器16Bの、時間t、時間t+1、時間t+2、及び時間t+3における表示内容の一例を示している。
図18~図20に示すように、第1表示器16Aには、動画38の連続するフレーム画像である時間t、時間t+1、時間t+2、及び時間t+3のフレーム画像38aがそれぞれ時間t、時間t+1、時間t+2、及び時間t+3において表示される。時間t、時間t+1、及び時間t+2のフレーム画像38aは、同一の注目領域R13を含んでいる。また、時間t+3のフレーム画像38aでは、注目領域は含まれていない。
図18に示す例では、第2表示器16Bには、第1表示器16Aと同様に、時間t、時間t+1、時間t+2、及び時間t+3のフレーム画像38aがそれぞれ時間t、時間t+1、時間t+2、及び時間t+3において表示されている。
また、第2表示器16Bに表示された時間t、時間t+1、及び時間t+2のフレーム画像38aには、それぞれ注目領域R13の累計時間に応じた強調度の図形E101、図形E102、及び図形E103が、注目領域R13の位置に重畳されている。図形E101、図形E102、及び図形E103は、注目領域R13の位置を囲う枠形状の図形であり、それぞれ線の透過度が異なっている。
このように動画38を表示することで、ユーザは第1表示器16Aによって画像の観察を行い、必要に応じて第2表示器16Bによって注目領域の報知を確認することができる。
また、図19に示す例では、第2表示器16Bにはフレーム画像38aは表示されておらず、報知情報である図形のみが表示されている。第2表示器16Bには、時間t、時間t+1、及び時間t+2において、それぞれ注目領域R13の累計時間に応じた強調度の図形E101、図形E102、及び図形E103が、各フレーム画像38aの注目領域R13の位置に相当する位置に表示されている。また、時間t+3においては、図形は表示されていない。
また、図20に示す例においても、第2表示器16Bには報知情報である図形のみが表示されている。第2表示器16Bには、時間t、時間t+1、及び時間t+2において、それぞれ注目領域R13の累計時間に応じた強調度の図形E111、図形E112、及び図形E113が、各フレーム画像38aの注目領域R13の位置に相当する位置に表示されている。図形E111、図形E112、及び図形E113は、注目領域R13と略同形状の図形であり、それぞれ透過度が異なっている。また、時間t+3においては、図形は表示されていない。
このように表示した場合でも、ユーザは第1表示器16Aによって画像の観察を行い、必要に応じて第2表示器16Bによって注目領域の報知を確認することができる。
〔医用画像処理方法:第2実施形態〕
第2実施形態に係る医用画像処理方法の他の例について説明する。図21は、第2実施形態に係る医用画像処理方法の各処理の一例を示すフローチャートである。
ステップS11では、時系列画像取得部40は、内視鏡スコープ10により撮像された動画38のフレーム画像38aをデータD1として取得する。注目領域検出部41は、データD1から注目領域を検出する。
ステップS12では、制御部47は、注目領域検出部41が注目領域を検出したか否かを判定する。
注目領域検出部41が注目領域を検出していない場合は、ステップS13へ移行する。ステップS13では、制御部47は、さらに注目領域を検出しない連続未検出時間が閾値時間Thより小さいか否かを判定する。ここでは連続未検出時間を判定しているが、連続未検出フレーム数を判定してもよい。また、総計未検出時間、又は総計未検出フレーム数を判定してもよい。
連続未検出時間が閾値時間Th以上の場合はステップS14に移行し、制御部47は、データベースである注目領域記憶部50をリセットする。即ち、注目領域記憶部50に記憶されている注目領域の特徴量、累計時間、強調度を消去する。注目領域の特徴量、累計時間、強調度を消去しておくことで、次に注目領域を検出した場合に、新たに検出した注目領域であることを判断することができる。
連続未検出時間が閾値時間Thより小さい場合はステップS15に移行し、制御部47は、データベースである注目領域記憶部50を更新する。即ち、注目領域記憶部50に記憶されている注目領域の特徴量、累計時間、強調度を最新の状態に更新する。また、連続未検出時間を更新する。このように注目領域記憶部50を更新しておくことで、注目領域の検出が途切れてしまった場合であっても、同一の注目領域を再度検出した場合に強調度等を引き継ぐことができる。また、連続未検出時間の判定を適切に行うことができる。
ステップS14における注目領域記憶部50のリセット、又はステップS15における更新が終了したら、本フローチャートの処理を終了する。
一方、ステップS12において、注目領域検出部41が注目領域を検出したと判定された場合は、ステップS16へ移行する。
ステップS16では、同一注目領域判定部46は、注目領域検出部41が検出した注目領域が過去のフレーム画像において検出した注目領域と同一であるか否かを判定する。この判定は、注目領域記憶部50に記憶された過去の注目領域の特徴量と、ステップS11で検出された注目領域について注目領域情報取得部42が算出した特徴量とを比較することで行う。
ステップS16において両注目領域が同一であると判定された場合は、ステップS17へ移行する。また、ステップS16において両注目領域が同一でないと判定された場合は、ステップS18へ移行する。
ステップS18では、同一注目領域判定部46は、さらに、ステップS11で検出された注目領域の画像内の位置が過去に検出された注目領域の周辺の位置であるか否かを判定する。周辺の位置とは、例えば過去に検出された注目領域を中心とした一定の範囲内の位置である。
ステップS18において、注目領域が過去に検出された注目領域の周辺の位置に存在すると判定された場合は、ステップS17に移行する。
ステップS17では、累計時間計測部44は、ステップS11で検出した注目領域の累計時間として注目領域記憶部50に記憶されている注目領域の累計時間を引き継いで計測する。これにより、累計時間に応じた強調度を引き継ぐことができる。その後、ステップS19へ移行する。
また、ステップS18において、過去に検出された注目領域の周辺の位置に存在しないと判定された場合も、ステップS19に移行する。
ステップS19では、注目領域情報取得部42は、動画38のデータD1よりも過去のフレーム画像38aをデータD2として取得し、データD2から注目領域及び注目領域外の輝度値、色、及び動き情報等の特徴量を抽出する。この特徴量の抽出は、全フレームで実施してもよいし、ある一定間隔、もしくはユーザの意図したタイミング等で実施してもよい。実施しない場合は、ステップS17からステップS20へ移行すればよい。
なお、注目領域情報取得部42は、動画38のデータD1よりも未来のフレーム画像38aをデータD2として取得してもよい。未来のフレーム画像38aを取得すると遅延が発生してしまうが、特徴量として動き情報を抽出する場合は、過去のフレーム画像38a及び未来のフレーム画像38aを参照することで、高精度に抽出することができる。
ちなみに、動き情報を取得する際に参照するフレーム画像38aは、現在のフレーム画像38aの直前及び直後のフレーム画像38aだけではなく、現在のフレーム画像38aを中心とした任意の数のフレーム画像38aの全て、もしくはそこから選択したフレーム画像38aを使用してもよい。これは、注目領域が時系列的に必ず連続して検出されるわけではないからである。また、過去のフレーム画像38aに関しては、強調度を引き継いだフレーム画像38aのみを対象にしてもよい。
ステップS20では、強調度設定部45は、ステップS11で検出した注目領域の強調度を設定する。強調度設定部45は、ステップS17で引き継いだ強調度をそのまま設定してもよいし、ステップS19で抽出した特徴量に応じて引き継いだ強調度を変化させて設定してもよい。
また、ステップS21では、データベースである注目領域記憶部50について、注目領域の特徴量、累計時間、強調度を更新する。
次に、ステップS22では、画像表示制御部48Aは、データD1であるフレーム画像38aを表示器16に出力する。また、報知情報表示制御部48Bは、強調度設定部45により設定された強調度に基づいて、注目領域を報知する報知情報を表示器16に出力する。
これにより、表示器16には、注目領域が強調されたフレーム画像38aが表示される。
このように、検出した注目領域が過去の注目領域と同一である場合は強調度を引き継ぐことで、強調された累計時間が長いほど大きい値の強調度で注目領域を強調することができる。また、検出した注目領域が過去の注目領域と同一でない場合であっても、検出した注目領域の位置が過去の注目領域の位置の周辺に存在する場合は、同一の注目領域である場合と同様に強調度を引き継ぐことで、強調された累計時間が長いほど大きい値の強調度で注目領域を強調することができる。また、注目領域を検出しなかった場合であっても、未検出時間が閾値時間Thより小さい場合はデータベースを更新しておくことで、閾値時間Thが経過する前に同一の注目領域を再度検出した場合に、過去の注目領域の強調度等を引き継ぐことが可能となる。
以上のように、医用画像の注目領域を適切に報知することができる。
ここでは、医用画像として内視鏡画像を例に説明したが、本実施形態に係る医用画像処理装置は内視鏡画像に限定されず、カプセル内視鏡画像や超音波画像等の時系列の医用画像に適用することができる。
〔その他〕
上記の医用画像処理方法をコンピュータに実行させるためのプログラム51を記憶したCD-ROM(Compact Disk-Read Only Memory)等の非一時的な記録媒体を構成することも可能である。
ここまで説明した実施形態において、内視鏡プロセッサ装置12及び医用画像処理装置14は、それぞれ異なる装置として説明したが、内視鏡プロセッサ装置12及び医用画像処理装置14を一体の装置として構成し、医用画像処理装置14の機能を有する内視鏡プロセッサ装置12としてもよい。
また、内視鏡プロセッサ装置12及び医用画像処理装置14の各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、画像処理に特化したプロセッサであるGPU(Graphics Processing Unit)、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種又は異種の2つ以上のプロセッサ(例えば、複数のFPGA、或いはCPUとFPGAの組み合わせ、又はCPUとGPUの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、サーバ及びクライアント等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、各種のプロセッサを1つ以上用いて構成される。
更に、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路(circuitry)である。
本発明の技術的範囲は、上記の実施形態に記載の範囲には限定されない。各実施形態における構成等は、本発明の趣旨を逸脱しない範囲で、各実施形態間で適宜組み合わせることができる。
9…内視鏡システム
10…内視鏡スコープ
11…光源装置
12…内視鏡プロセッサ装置
13…表示装置
14…医用画像処理装置
15…操作部
16…表示器
16A…第1表示器
16B…第2表示器
20…挿入部
21…手元操作部
22…ユニバーサルコード
25…軟性部
26…湾曲部
27…先端部
28…撮像素子
29…湾曲操作ノブ
30…送気送水ボタン
31…吸引ボタン
32…静止画撮像指示部
33…処置具導入口
35…ライトガイド
36…信号ケーブル
37a…コネクタ
37b…コネクタ
38…動画
38a…フレーム画像
39…静止画
40…時系列画像取得部
41…注目領域検出部
42…注目領域情報取得部
43…座標算出部
44…累計時間計測部
45…強調度設定部
46…同一注目領域判定部
47…制御部
48…表示制御部
48A…画像表示制御部
48B…報知情報表示制御部
49…記憶部
50…注目領域記憶部
51…プログラム
D1,D2…データ
E1~E113…図形
R1~R13…注目領域
S1~S22…医用画像処理方法の各ステップ

Claims (29)

  1. 時系列の複数のフレーム画像からなる医用画像を取得する画像取得部と、
    前記複数のフレーム画像の各フレーム画像から注目領域を検出する注目領域検出部と、
    前記各フレーム画像に含まれる注目領域を設定された強調度で強調する強調処理部と、
    前記注目領域が強調された各フレーム画像を前記時系列に表示部に順次表示させる表示制御部と、
    前記注目領域が強調された累計時間を計測する累計時間計測部と、
    前記累計時間が相対的に長いほど前記強調度を相対的に大きい値に設定する強調度設定部と、
    を備え
    前記強調処理部は、前記注目領域の位置を示す図形を前記各フレーム画像に重畳する医用画像処理装置。
  2. 時系列の医用画像に含まれる注目領域を設定された強調度で強調する強調処理部と、
    前記注目領域が強調された累計時間を計測する累計時間計測部と、
    前記累計時間が相対的に長いほど前記強調度を相対的に大きい値に設定する強調度設定部と、
    前記注目領域の特徴量を算出する特徴量算出部と、
    前記注目領域の前記特徴量と前記累計時間とを関連付けて記憶する注目領域記憶部と、
    第1医用画像に含まれる第1注目領域の特徴量と、前記注目領域記憶部に記憶された前記第1医用画像より時系列的に前の第2医用画像において強調された第2注目領域の特徴量との類似度から、前記第1注目領域が前記第2注目領域と同一であるか否かを判定する同一注目領域判定部と、
    を備え、
    前記累計時間計測部は、前記第1注目領域が前記第2注目領域と同一であると判定された場合に、前記第1注目領域の累計時間として前記第2注目領域の累計時間を引き継いで計測する医用画像処理装置。
  3. 前記同一注目領域判定部は、前記第1注目領域が前記第2注目領域と同一でないと判定された場合に、前記第1注目領域の特徴量と、前記注目領域記憶部に記憶された前記第2医用画像より時系列的に前の第3医用画像において強調された第3注目領域の特徴量との類似度から、前記第1注目領域が前記第3注目領域と同一であるか否かをさらに判定し、
    前記累計時間計測部は、前記第1注目領域が前記第3注目領域と同一であると判定された場合に、前記第1注目領域の累計時間として前記第3注目領域の累計時間を引き継いで計測する請求項に記載の医用画像処理装置。
  4. 前記同一注目領域判定部は、前記第1注目領域が前記第2注目領域と同一でないと判定された場合に、前記第1注目領域が前記第1医用画像内の予め定められた範囲内の位置に存在するか否かを判定し、
    前記累計時間計測部は、前記予め定められた範囲内の位置であると判定された場合に、前記第1注目領域の累計時間として前記第2注目領域の累計時間を引き継いで計測する請求項又はに記載の医用画像処理装置。
  5. 時系列の医用画像に含まれる注目領域を設定された強調度で強調する強調処理部と、
    前記注目領域が強調された累計時間を計測する累計時間計測部と、
    前記累計時間が相対的に長いほど前記強調度を相対的に大きい値に設定する強調度設定部と、
    を備え、
    前記強調度設定部は、1枚の前記医用画像に存在する注目領域の数が相対的に多いほど、前記累計時間に対する前記強調度の増加率を相対的に大きくする医用画像処理装置。
  6. 時系列の医用画像に含まれる注目領域を設定された強調度で強調する強調処理部と、
    前記注目領域が強調された累計時間を計測する累計時間計測部と、
    前記累計時間が相対的に長いほど前記強調度を相対的に大きい値に設定する強調度設定部と、
    を備え、
    前記強調度設定部は、前記注目領域の前記医用画像内の位置に基づいて前記強調度の最小値、最大値、及び前記累計時間に対する前記強調度の増加率の少なくとも1つを変更する医用画像処理装置。
  7. 時系列の医用画像に含まれる注目領域を設定された強調度で強調する強調処理部と、
    前記注目領域が強調された累計時間を計測する累計時間計測部と、
    前記累計時間が相対的に長いほど前記強調度を相対的に大きい値に設定する強調度設定部と、
    を備え、
    前記強調度設定部は、前記注目領域の輝度値、又は前記注目領域の輝度値と前記注目領域外の輝度値との差分に基づいて前記強調度の最小値、最大値、及び前記累計時間に対する前記強調度の増加率の少なくとも1つを変更する医用画像処理装置。
  8. 時系列の医用画像に含まれる注目領域を設定された強調度で強調する強調処理部と、
    前記注目領域が強調された累計時間を計測する累計時間計測部と、
    前記累計時間が相対的に長いほど前記強調度を相対的に大きい値に設定する強調度設定部と、
    を備え、
    前記強調度設定部は、前記注目領域の色情報、又は前記注目領域の色情報と前記注目領域外の色情報との差分に基づいて前記強調度の最小値、最大値、及び前記累計時間に対する前記強調度の増加率の少なくとも1つを変更する医用画像処理装置。
  9. 時系列の医用画像に含まれる注目領域を設定された強調度で強調する強調処理部と、
    前記注目領域が強調された累計時間を計測する累計時間計測部と、
    前記累計時間が相対的に長いほど前記強調度を相対的に大きい値に設定する強調度設定部と、
    を備え、
    前記強調度設定部は、前記注目領域の動き量、又は前記注目領域の動き方向に基づいて前記強調度の最小値、最大値、及び前記累計時間に対する前記強調度の増加率の少なくとも1つを変更する医用画像処理装置。
  10. 前記時系列の医用画像を取得する画像取得部と、
    前記医用画像から注目領域を検出する注目領域検出部と、
    を備えた請求項2から9のいずれか1項に記載の医用画像処理装置。
  11. 前記累計時間計測部は、複数の注目領域に対して各注目領域の累計時間をそれぞれ計測し、
    前記強調度設定部は、前記各注目領域の累計時間に応じて前記各注目領域の強調度をそれぞれ設定する請求項1から10のいずれか1項に記載の医用画像処理装置。
  12. 前記注目領域の特徴量を算出する特徴量算出部と、
    前記注目領域の前記特徴量と前記累計時間とを関連付けて記憶する注目領域記憶部と、
    第1医用画像に含まれる第1注目領域の特徴量と、前記注目領域記憶部に記憶された前記第1医用画像より時系列的に前の第2医用画像において強調された第2注目領域の特徴量との類似度から、前記第1注目領域が前記第2注目領域と同一であるか否かを判定する同一注目領域判定部と、
    を備え、
    前記累計時間計測部は、前記第1注目領域が前記第2注目領域と同一であると判定された場合に、前記第1注目領域の累計時間として前記第2注目領域の累計時間を引き継いで計測する請求項1、又は5から11のいずれか1項に記載の医用画像処理装置。
  13. 前記同一注目領域判定部は、前記第1注目領域が前記第2注目領域と同一でないと判定された場合に、前記第1注目領域の特徴量と、前記注目領域記憶部に記憶された前記第2医用画像より時系列的に前の第3医用画像において強調された第3注目領域の特徴量との類似度から、前記第1注目領域が前記第3注目領域と同一であるか否かをさらに判定し、
    前記累計時間計測部は、前記第1注目領域が前記第3注目領域と同一であると判定された場合に、前記第1注目領域の累計時間として前記第3注目領域の累計時間を引き継いで計測する請求項12に記載の医用画像処理装置。
  14. 前記同一注目領域判定部は、前記第1注目領域が前記第2注目領域と同一でないと判定された場合に、前記第1注目領域が前記第1医用画像内の予め定められた範囲内の位置に存在するか否かを判定し、
    前記累計時間計測部は、前記予め定められた範囲内の位置であると判定された場合に、前記第1注目領域の累計時間として前記第2注目領域の累計時間を引き継いで計測する請求項12又は13に記載の医用画像処理装置。
  15. 前記強調処理部は、注目領域の位置を示す図形を前記医用画像に重畳し、
    前記強調度設定部は、前記累計時間が相対的に長いほど前記図形の透過度を相対的に小さく設定する請求項1から14のいずれか1項に記載の医用画像処理装置。
  16. 前記強調処理部は、注目領域の位置を示す図形を前記医用画像に重畳し、
    前記強調度設定部は、前記累計時間が相対的に長いほど前記図形の色を色強度指標に基づいた色強度を相対的に高く設定する請求項1から15のいずれか1項に記載の医用画像処理装置。
  17. 前記強調処理部は、注目領域の位置を示す図形を前記医用画像に重畳し、
    前記強調度設定部は、前記累計時間が相対的に長いほど前記図形の大きさを相対的に大きく設定する請求項1から16のいずれか1項に記載の医用画像処理装置。
  18. 前記強調処理部は、注目領域を囲む枠形状の図形を前記医用画像に重畳し、
    前記強調度設定部は、前記累計時間が相対的に長いほど前記枠形状の図形の線の太さを相対的に太く設定する請求項1から17のいずれか1項に記載の医用画像処理装置。
  19. 前記医用画像は、内視鏡画像、カプセル内視鏡画像、及び超音波画像のうちの少なくとも1つである請求項1から18のいずれか1項に記載の医用画像処理装置。
  20. 前記注目領域が強調された前記時系列の医用画像を表示部に順次表示させる表示制御部を備えた請求項から19のいずれか1項に記載の医用画像処理装置。
  21. 前記表示制御部は、前記注目領域が強調された前記時系列の医用画像を複数の表示部のうち少なくとも1つの前記表示部に順次表示させる請求項20に記載の医用画像処理装置。
  22. 請求項1又は20又は21に記載の医用画像処理装置と、
    前記表示部と、
    を備えた診断支援装置。
  23. 請求項1から18、20、及び21のいずれか1項に記載の医用画像処理装置と、
    前記時系列の医用画像を撮像する内視鏡スコープと、
    を備えた内視鏡システム。
  24. プロセッサを備える医画像処理装置の作動方法であって、
    前記プロセッサが、時系列の医用画像に含まれる注目領域を設定された強調度で強調する強調処理工程と、
    前記プロセッサが、前記注目領域が強調された累計時間を計測する累計時間計測工程と、
    前記プロセッサが、前記累計時間が長いほど前記強調度を大きい値に設定する強調度設定工程と、
    前記プロセッサが、前記注目領域の特徴量を算出する特徴量算出工程と、
    前記プロセッサが、前記注目領域の前記特徴量と前記累計時間とを関連付けて記憶する注目領域記憶工程と、
    前記プロセッサが、第1医用画像に含まれる第1注目領域の特徴量と、前記注目領域記憶部に記憶された前記第1医用画像より時系列的に前の第2医用画像において強調された第2注目領域の特徴量との類似度から、前記第1注目領域が前記第2注目領域と同一であるか否かを判定する同一注目領域判定工程と、
    を備え、
    前記累計時間計測工程は、前記第1注目領域が前記第2注目領域と同一であると判定された場合に、前記第1注目領域の累計時間として前記第2注目領域の累計時間を引き継いで計測する医用画像処理装置の作動方法。
  25. プロセッサを備える医画像処理装置の作動方法であって、
    前記プロセッサが、時系列の医用画像に含まれる注目領域を設定された強調度で強調する強調処理工程と、
    前記プロセッサが、前記注目領域が強調された累計時間を計測する累計時間計測工程と、
    前記プロセッサが、前記累計時間が相対的に長いほど前記強調度を相対的に大きい値に設定する強調度設定工程と、
    を備え、
    前記強調度設定工程は、1枚の前記医用画像に存在する注目領域の数が相対的に多いほど、前記累計時間に対する前記強調度の増加率を相対的に大きくする医用画像処理装置の作動方法。
  26. プロセッサを備える医画像処理装置の作動方法であって、
    記プロセッサが、時系列の医用画像に含まれる注目領域を設定された強調度で強調する強調処理工程と、
    前記プロセッサが、前記注目領域が強調された累計時間を計測する累計時間計測工程と、
    前記プロセッサが、前記累計時間が相対的に長いほど前記強調度を相対的に大きい値に設定する強調度設定工程と、
    を備え、
    前記強調度設定工程は、前記注目領域の前記医用画像内の位置に基づいて前記強調度の最小値、最大値、及び前記累計時間に対する前記強調度の増加率の少なくとも1つを変更する医用画像処理装置の作動方法。
  27. プロセッサを備える医画像処理装置の作動方法であって、
    記プロセッサが、時系列の医用画像に含まれる注目領域を設定された強調度で強調する強調処理工程と、
    前記プロセッサが、前記注目領域が強調された累計時間を計測する累計時間計測工程と、
    前記プロセッサが、前記累計時間が相対的に長いほど前記強調度を相対的に大きい値に設定する強調度設定工程と、
    備え
    前記強調度設定工程は、前記注目領域の輝度値、又は前記注目領域の輝度値と前記注目領域外の輝度値との差分に基づいて前記強調度の最小値、最大値、及び前記累計時間に対する前記強調度の増加率の少なくとも1つを変更する医用画像処理装置の作動方法。
  28. 請求項24から27のいずれか1項に記載の医用画像処理装置の作動方法をコンピュータに実行させるプログラム。
  29. 非一時的かつコンピュータ読取可能な記録媒体であって、前記記録媒体に格納された指
    令がコンピュータによって読み取られた場合に請求項28に記載のプログラムをコンピュ
    ータに実行させる記録媒体。
JP2020549262A 2018-09-28 2019-09-25 医用画像処理装置、医用画像処理装置の作動方法、及びプログラム、診断支援装置並びに内視鏡システム Active JP7282796B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023065683A JP7413585B2 (ja) 2018-09-28 2023-04-13 医用画像処理装置、作動方法、プログラム、及び記録媒体、診断支援装置並びに内視鏡システム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018185057 2018-09-28
JP2018185057 2018-09-28
PCT/JP2019/037482 WO2020067105A1 (ja) 2018-09-28 2019-09-25 医用画像処理装置、医用画像処理方法、及びプログラム、診断支援装置並びに内視鏡システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023065683A Division JP7413585B2 (ja) 2018-09-28 2023-04-13 医用画像処理装置、作動方法、プログラム、及び記録媒体、診断支援装置並びに内視鏡システム

Publications (2)

Publication Number Publication Date
JPWO2020067105A1 JPWO2020067105A1 (ja) 2021-09-16
JP7282796B2 true JP7282796B2 (ja) 2023-05-29

Family

ID=69949874

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020549262A Active JP7282796B2 (ja) 2018-09-28 2019-09-25 医用画像処理装置、医用画像処理装置の作動方法、及びプログラム、診断支援装置並びに内視鏡システム
JP2023065683A Active JP7413585B2 (ja) 2018-09-28 2023-04-13 医用画像処理装置、作動方法、プログラム、及び記録媒体、診断支援装置並びに内視鏡システム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023065683A Active JP7413585B2 (ja) 2018-09-28 2023-04-13 医用画像処理装置、作動方法、プログラム、及び記録媒体、診断支援装置並びに内視鏡システム

Country Status (5)

Country Link
US (2) US11910994B2 (ja)
EP (2) EP3858222B1 (ja)
JP (2) JP7282796B2 (ja)
CN (1) CN112770662B (ja)
WO (1) WO2020067105A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020059526A1 (ja) * 2018-09-18 2020-03-26 富士フイルム株式会社 医用画像処理装置、プロセッサ装置、医用画像処理方法、及びプログラム
US11329842B2 (en) 2020-02-07 2022-05-10 Ademco Inc. Dynamic superframe slotting
WO2021201272A1 (ja) * 2020-04-03 2021-10-07 富士フイルム株式会社 医療画像処理装置、内視鏡システム及び医療画像処理装置の作動方法並びに医療画像処理装置用プログラム
WO2022054400A1 (ja) * 2020-09-11 2022-03-17 富士フイルム株式会社 画像処理システム、プロセッサ装置、内視鏡システム、画像処理方法及びプログラム
JP7229210B2 (ja) * 2020-09-15 2023-02-27 Hoya株式会社 内視鏡用プロセッサ及び内視鏡システム
CN116887745A (zh) * 2021-03-01 2023-10-13 富士胶片株式会社 医疗图像处理装置、内窥镜系统、医疗图像处理方法及医疗图像处理程序
US11582746B2 (en) 2021-04-01 2023-02-14 Ademco Inc. Dynamic, multi-frequency superframe slotting
US11658736B2 (en) 2021-07-13 2023-05-23 Ademco Inc. Keypad with repeater mode
WO2023162216A1 (ja) * 2022-02-28 2023-08-31 日本電気株式会社 画像処理装置、画像処理方法及び記憶媒体

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006255021A (ja) 2005-03-15 2006-09-28 Toshiba Corp 画像表示装置及び画像表示方法
WO2014091964A1 (ja) 2012-12-13 2014-06-19 オリンパス株式会社 蛍光観察装置
WO2017081976A1 (ja) 2015-11-10 2017-05-18 オリンパス株式会社 内視鏡装置
WO2018198161A1 (ja) 2017-04-24 2018-11-01 オリンパス株式会社 内視鏡画像処理装置及び内視鏡画像処理方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010035756A (ja) * 2008-08-04 2010-02-18 Fujifilm Corp 診断支援装置及び診断支援方法
WO2010047324A1 (ja) * 2008-10-20 2010-04-29 株式会社 日立メディコ 医用画像処理装置、及び医用画像処理方法
JP5220780B2 (ja) 2010-02-05 2013-06-26 オリンパス株式会社 画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法
JP5438571B2 (ja) * 2010-03-24 2014-03-12 富士フイルム株式会社 電子内視鏡システム
JP6150583B2 (ja) 2013-03-27 2017-06-21 オリンパス株式会社 画像処理装置、内視鏡装置、プログラム及び画像処理装置の作動方法
WO2017073337A1 (ja) 2015-10-27 2017-05-04 オリンパス株式会社 内視鏡装置
JP6894894B2 (ja) 2016-06-22 2021-06-30 オリンパス株式会社 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム
EP3410393A1 (en) * 2017-06-01 2018-12-05 Siemens Healthcare GmbH Comparing medical images

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006255021A (ja) 2005-03-15 2006-09-28 Toshiba Corp 画像表示装置及び画像表示方法
WO2014091964A1 (ja) 2012-12-13 2014-06-19 オリンパス株式会社 蛍光観察装置
WO2017081976A1 (ja) 2015-11-10 2017-05-18 オリンパス株式会社 内視鏡装置
WO2018198161A1 (ja) 2017-04-24 2018-11-01 オリンパス株式会社 内視鏡画像処理装置及び内視鏡画像処理方法

Also Published As

Publication number Publication date
US20240156327A1 (en) 2024-05-16
EP4285809A2 (en) 2023-12-06
JP2023080276A (ja) 2023-06-08
JPWO2020067105A1 (ja) 2021-09-16
EP3858222A4 (en) 2021-11-03
JP7413585B2 (ja) 2024-01-15
WO2020067105A1 (ja) 2020-04-02
EP3858222B1 (en) 2023-11-22
EP3858222A1 (en) 2021-08-04
US11910994B2 (en) 2024-02-27
US20210201486A1 (en) 2021-07-01
CN112770662B (zh) 2024-06-11
EP4285809A3 (en) 2024-02-21
CN112770662A (zh) 2021-05-07

Similar Documents

Publication Publication Date Title
JP7282796B2 (ja) 医用画像処理装置、医用画像処理装置の作動方法、及びプログラム、診断支援装置並びに内視鏡システム
JP6633641B2 (ja) 画像処理装置、内視鏡システム、及び画像処理方法
US11526986B2 (en) Medical image processing device, endoscope system, medical image processing method, and program
US11607109B2 (en) Endoscopic image processing device, endoscopic image processing method, endoscopic image processing program, and endoscope system
JP5276225B2 (ja) 医用画像処理装置及び医用画像処理装置の作動方法
US12020808B2 (en) Medical image processing apparatus, medical image processing method, program, and diagnosis support apparatus
JP7170050B2 (ja) 医療画像処理装置、医療画像処理装置の作動方法及びプログラム、内視鏡システム
JP7337073B2 (ja) 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
JP7125479B2 (ja) 医療画像処理装置、医療画像処理装置の作動方法及び内視鏡システム
JPWO2020170791A1 (ja) 医療画像処理装置及び方法
US20220151462A1 (en) Image diagnosis assistance apparatus, endoscope system, image diagnosis assistance method , and image diagnosis assistance program
US20210233298A1 (en) Medical image processing apparatus, medical image processing method, program, and diagnosis support apparatus
CN115361898A (zh) 医疗图像处理装置、内窥镜系统及医疗图像处理装置的工作方法、以及医疗图像处理装置用程序
CN112739250B (zh) 医用图像处理装置、处理器装置及医用图像处理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210513

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220520

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220615

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220921

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221101

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230413

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20230413

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20230421

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20230424

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230515

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230517

R150 Certificate of patent or registration of utility model

Ref document number: 7282796

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150