[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JPWO2020105578A1 - 撮像装置および撮像方法 - Google Patents

撮像装置および撮像方法 Download PDF

Info

Publication number
JPWO2020105578A1
JPWO2020105578A1 JP2020558369A JP2020558369A JPWO2020105578A1 JP WO2020105578 A1 JPWO2020105578 A1 JP WO2020105578A1 JP 2020558369 A JP2020558369 A JP 2020558369A JP 2020558369 A JP2020558369 A JP 2020558369A JP WO2020105578 A1 JPWO2020105578 A1 JP WO2020105578A1
Authority
JP
Japan
Prior art keywords
image
display
unit
imaging
living body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020558369A
Other languages
English (en)
Other versions
JP7259866B2 (ja
Inventor
隆宏 坂元
隆宏 坂元
正樹 黒岩
正樹 黒岩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2020105578A1 publication Critical patent/JPWO2020105578A1/ja
Application granted granted Critical
Publication of JP7259866B2 publication Critical patent/JP7259866B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/60Static or dynamic means for assisting the user to position a body part for biometric acquisition
    • G06V40/67Static or dynamic means for assisting the user to position a body part for biometric acquisition by interactive indications to the user
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/117Identification of persons
    • A61B5/1171Identification of persons based on the shapes or appearances of their bodies or parts thereof
    • A61B5/1172Identification of persons based on the shapes or appearances of their bodies or parts thereof using fingerprinting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12Fingerprints or palmprints
    • G06V40/1365Matching; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12Fingerprints or palmprints
    • G06V40/1382Detecting the live character of the finger, i.e. distinguishing from a fake or cadaver finger
    • G06V40/1394Detecting the live character of the finger, i.e. distinguishing from a fake or cadaver finger using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Pathology (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Image Input (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

撮像装置は、生体の一部を撮像することにより、画像を取り込む撮像部と、前記撮像部により取り込まれた画像に基づく第1表示画像と、前記生体の一部の所定位置への置き方の案内を含む第2表示画像と重ねて表示する表示部と、前記生体の一部が前記所定位置に置かれているか判定する判定部と、前記判定部が前記生体の一部が前記所定位置に置かれていると判定するまで、前記撮像部に前記生体の一部を新たに撮像させて新たな画像を取り込ませ、また、前記表示部に前記撮像部により取り込まれた新たな画像に基づく画像を前記第1表示画像として表示させる制御部と、を備える。

Description

本発明は、撮像装置および撮像方法に関する。
特許文献1は、指静脈パターンを利用して個人を識別する個人認証装置の一例を示す。特許文献1に記載されている個人認証装置では、撮像部への指の正しい入れ方をガイドするため、モニタ上に、指の撮像状態を表す画像と、指の輪郭を合わせる目安となる輪郭ガイドが重ねて表示される。また、このモニタには、利用者が指の状態をどのように補正すればよいのかを示す情報が文章と図を用いて表示される。特許文献1に記載されている個人認証装置によれば、利用者が画面の案内に従い正しく登録作業を行うことで、登録時に管理者が行う作業が低減される。
日本国特開2006−26427号公報
特許文献1に記載されている個人認証装置では、撮像部への指の正しい入れ方が文章(文字)と図によって示される。このため、例えば、利用者が文章の言語を理解できない場合、案内が通じなかったり、案内の効果が低下してしまったりする。そのため、指等の対象物を正しい撮像位置に置くことができない場合があるという課題がある。
本発明の目的の一例は、上述した課題を解決することができる撮像装置および撮像方法を提供することである。
本発明の一態様は、生体の一部を撮像することにより、画像を取り込む撮像部と、前記撮像部により取り込まれた画像に基づく第1表示画像と、前記生体の一部の所定位置への置き方の案内を含む第2表示画像と重ねて表示する表示部と、前記生体の一部が前記所定位置に置かれているか判定する判定部と、前記判定部が前記生体の一部が前記所定位置に置かれていると判定するまで、前記撮像部に前記生体の一部を新たに撮像させて新たな画像を取り込ませ、また、前記表示部に前記撮像部により取り込まれた新たな画像に基づく画像を前記第1表示画像として表示させる制御部と、を備える撮像装置である。
また、本発明の一態様は、生体の一部を撮像することにより、画像を取り込み、前記取り込まれた画像に基づく第1表示画像と、前記生体の一部の所定位置への置き方の案内を含む第2表示画像と重ねて表示し、前記生体の一部が前記所定位置に置かれているか判定し、前記生体の一部が前記所定位置に置かれていると判定されるまで、前記生体の一部を新たに撮像して新たな画像を取り込み、また、前記取り込まれた新たな画像に基づく画像を前記第1表示画像として表示する、ことを含む撮像方法である。
本発明の各態様によれば、利用者は、容易に生体の一部(例えば、対象物)を所定位置(例えば、正しい撮像位置)に置くことができる。
本発明の第1実施形態に係る撮像装置の構成例を示す概略構成図である。 本発明の第2実施形態に係る撮像装置10の構成例を模式的に示す斜視図である。 本発明の第2実施形態に係る撮像ユニット1の構成例を示す模式図である。 図3に示す撮像ユニット1の構成例を示す斜視図である。 図3に示す撮像ユニット1の動作例を説明するための模式図である。 図3に示す撮像ユニット1の動作例を説明するための模式図である。 図3に示す撮像ユニット1の構成例を模式的に示す平面図である。 図3に示す撮像ユニット1による撮像画像の例を示す図である。 図3に示す撮像ユニット1による撮像画像の例を示す図である。 図1に示す撮像装置1の動作例を示すフローチャートである。 図1に示す撮像装置1の動作例を説明するための模式図である。 図1に示す撮像装置1の他の動作例を示すフローチャートである。
以下、図面を参照して本発明の実施形態について説明する。図1は、本発明の第1実施形態に係る撮像装置の構成例を示す概略構成図である。図1に示す撮像装置10は、撮像部11と、表示部12と、制御部13と、制御部13へ画像判定結果を供給する判定部15とを備える。第1撮像部11は、所定の撮像位置に置かれた、例えば生体の一部等の撮像の対象物を撮像する。表示部12は、前記撮像部により取り込まれた生体の一部の画像を表す第1表示画像と、取り込まれた画像から有効に認証することができる認証可能領域を表す第2表示画像とを表示する。前記判定部15は、前記表示部12に表示される第1表示画像による認証が可能か否かを判定する。前記制御部13は、前記第1撮像部11、表示部12、判定部15を制御して、前記判定部15が前記第1表示画像による判定が可能と判定するまで、前記第1撮像部11による生体の一部の撮像を繰り返して、前記表示部12の前記第1表示画像が撮像された位置に表示する。
図1に示す撮像装置1によれば、利用者は、表示部12の表示形態の変化に基づいて対象物が撮像位置に正しく置かれているか否かを認識することができるので、容易に対象物を正しい撮像位置に置くことができる。
次に、図2を参照して、第2実施形態に係る撮像装置1について説明する。図2は、図1に示す撮像装置10の構成例を模式的に示す斜視図である。図2において図1に示す構成に対応する構成には同一の符号を付けている。図2に示す例では、撮像の対象物を指端部(人の指の端部)としている。撮像装置10は、指端部の腹面にある指紋を、生体認証用の身体的特徴として撮像することを一つの目的とする。ただし、撮像装置10の撮像の対象物は、指端部に限らず、手のひら等であってもよい。すなわち、撮像装置10は、掌紋等の他の生体認証用の身体的特徴を撮像することを一つの目的とするものであってもよい。また、撮像装置10の対象物は、身体の一部に限定されない。
図2に示す例では、撮像装置10は、筐体101と筐体102を備える。筐体101には表示部12が設けられている。筐体102には2個の撮像ユニット1aおよび1bと制御部13が設けられている。撮像ユニット1aは、図1に示す第1撮像部11に対応する第1撮像部11aと、後述する光源部および光学系とを有する。撮像ユニット1aは、撮像位置14aに設置された対象物である指端部を表す第1画像を第1撮像部11aによって撮像する。撮像ユニット1bは、撮像ユニット1aと同様に、図1に示す第1撮像部11に対応する第1撮像部11bと、後述する光源部および光学系とを有する。撮像ユニット1bは、撮像位置14bに設置された対象物である指端部を表す第1画像を第1撮像部11bによって撮像する。なお、各第1撮像部11は、1つの撮像部(カメラ)を備えて1種類の第1画像を撮像するものであってもよいし、2以上の撮像部(カメラ)を備えて2種類以上の画像を撮像するものであってもよい。
表示部12は、例えば液晶ディスプレイや有機エレクトロルミネッセンスディスプレイである表示部12は、表示領域12aと表示領域12bに、制御部13の制御によって画像を表示する。具体的には、表示部12は、表示領域12a内に、撮像位置14aに置かれた指端部を表す第1表示画像と、指端部の撮像位置14aへの置き方の案内を示す第2表示画像とを表示する。第1表示画像は、撮像位置14aに置かれた指端部を第1撮像部11aが撮像することにより得られた第1画像に基づく画像である。また、表示部12は、表示領域12b内に、第1表示画像と、指端部の撮像位置14bへの置き方の案内を示す第2表示画像とを表示する。第1表示画像は、撮像位置14bに置かれた指端部を第1撮像部11bが撮像することにより得られた第1画像に基づく画像である。
制御部13は、第1撮像部11aが撮像した第1画像を取得し、取得した第1画像に基づき指端部が撮像位置14aに正しく置かれているか否かを判断する。制御部13は、指端部が正しく置かれている場合と指端部が正しく置かれていない場合とに応じて表示部12の表示領域12a内の表示形態を変化させる。また、制御部13は、第1撮像部11bが撮像した第1画像を取得し、取得した第1画像に基づき指端部が撮像位置14bに正しく置かれているか否かを判断する。制御部13は、指端部が正しく置かれている場合と指端部が正しく置かれていない場合とで表示部12の表示領域12b内の表示形態を変化させる。
図2に示す撮像装置10は、2個の撮像位置14aおよび撮像位置14bを備えることで、例えば両手の各1本の指の指紋を同時に撮像することができる。なお、以下では、区別が不要な場合、撮像位置14aと撮像位置14b、撮像ユニット1aと撮像ユニット1b、表示領域12aと表示領域12b、および、第1撮像部11aと第1撮像部11bを、それぞれ、撮像位置14、撮像ユニット1、表示領域12、および、第1撮像部11と符号を付して総称する。
次に、図3〜図8Bを参照して、図2に示す撮像ユニット1の構成例について説明する。図3は、図2に示す撮像ユニット1の詳細構成例を模式的に示す正面図である。図3において図2に示す構成に対応する構成には同一の符号を付けている。図3に示す例では、撮像位置14が光学素子4の接触面4aに設けられている。指端部7が撮像位置14に設置されている。
図3に示す例では、撮像ユニット1は、第1光源部2、第2光源部3、光学素子4、および、第1撮像部11を備える。第1撮像部11は、第2撮像部6と第3撮像部5を含む。また、第1撮像部11が撮像した画像である第1画像M1は、第2撮像部6が撮像した画像である第2画像M2と第3撮像部5が撮像した画像である第3画像M3を含む。
また、表示部12は、第2画像M2に基づき対象物である指端部7を表す第1表示画像を表示する。また、制御部13は、第3画像M3に基づき対象物である指端部7が正しく撮像位置14に置かれているか否かを判断する。
図3に示す例において光学素子4は、プリズムである。光学素子(プリズム)4は、接触面4aと、交わり面4bと、接触面4aに対向する対向面4cと、面4dを有する。接触面4aは、対象物である指端部7が接触する面である。交わり面4bは、接触面4aと所定のなす角θ1で交わる。対向面4cは、接触面4aに対向する。面4dは、交わり面4bと対向する。この例では、光学素子(プリズム)4は、屈折率が空気と異なる多面体(例えば六面体)であり、例えば、ガラス、水晶等で形成することができる。また、図3に示す例では、角θ1が鋭角である。また、対向面4cは、接触面4aと平行であってもよいし、平行でなくてもよい。また、面4dには、画像のコントラストを高めるため、黒板41が貼り付けてある。ただし、面4dには、黒板41に代えて、黒色塗料等が塗布されていてもよい。なお、光学素子4は、プリズムに限られない。光学素子4は、対象物へ光源からの光線を導き、また、対象物によって反射された光線を撮像ユニット1へ導くことのできるレンズ、反射鏡、光ファイバー、またはこれらの組み合わせであっても良い。
なお、図3に示す第2撮像部5の配置では、角θ1が鋭角である。しかしながら、角θ1は、鋭角に限らず、例えば、角θ1は、第2撮像部5を下方に配置する場合等、撮像部の配置に応じて、鈍角や直角としてもよい。
第1光源部2は、光学素子4の下方に設けられ、白色LED(Light emitting diode(発光ダイオード))等の可視光LED2aを有している。第1光源部2、すなわち、可視光LED2aは、第1の光L1を出力する。この場合、第1の光L1は、波長が380〜800nm程度の可視光成分を多く含む。また、図3に示す例では、第1の光L1は、光学素子4(プリズム)の対向面4c側から対象物である指端部7へ照射される。
第2光源部3は、光学素子4上の接触面4aに設けられ、複数の赤外線LED3aおよび3bを有している。第2光源部3、すなわち、複数の赤外線LED3aおよび3bは、第1の光L1より波長が長い第2の光L2を出力する。第2の光L2は、波長が800nm〜1000nm程度の赤外線成分を多く含む。また、図3に示す例では、第2の光L2が接触面4a上の周辺部から対象物である指端部7へ照射される。
第2撮像部6は、対向面4c側から対象物である指端部7を撮像する。第2撮像部6は、CMOS(Complementary metal oxide semiconductor 相補型金属酸化膜半導体)イメージセンサ、CCD(Charge coupled device 電荷結合素子)イメージセンサ等の撮像素子と、赤外線カットフィルターを有する。第2撮像部6は、入力された光の可視光成分を画像信号に変換して第2画像M2として制御部13へ出力する。第2撮像部6は、第2の光L2に対して感度が低い。すなわち、第2撮像部6は、第1の光L1に対して所定の感度を有し、第2の光L2に対して所定の感度を有さない。ただし、第2撮像部6は、赤外線カットフィルターを有していなくてもよい。この場合、例えば、画像処理等によって赤外線カットフィルターを設けた場合と同等の効果を得るようにしてもよい。
第3撮像部5は、交わり面4b側から対象物である指端部7を撮像する。第3撮像部5は、CMOSイメージセンサ、CCDイメージセンサ等の撮像素子を有する。第3撮像部5は、入力された光の可視光成分と赤外線成分を画像信号に変換して第3画像M3として制御部13へ出力する。第3撮像部5は、第1の光L1と第2の光L2に対して感度が高い。すなわち、第3撮像部5は、第1の光L1と第2の光L2に対して所定の感度を有する。
図4は、図3に示す撮像ユニット1の各部の配置例を模式的に示す斜視図である。図4において図3に示す構成に対応する構成には同一の符号を付けている。図4に示す撮像ユニット1では、第1光源部2が、光学素子(プリズム)4の対向面4c側に配置された4個の白色LED2a、2b、2cおよび2dから構成されている。4個の白色LED2a、2b、2cおよび2dは、基板43に搭載されている。基板43は、光学素子(プリズム)4を対向面4c側から支持することにより、固定する。また、第2光源部3は、光学素子(プリズム)4の接触面4a上の周辺部に配置された8個の赤外線LED3a、3b、3c、3d、3e、3f、3gおよび3hから構成されている。8個の赤外線LED3a、3b、3c、3d、3e、3f、3gおよび3hは、基板42に搭載されている。基板42は、光学素子(プリズム)4を接触面4a側から支持することにより、固定する。LEDの個数は図4に示す例に限定されない。
次に、図3に示す光学素子(プリズム)4内の各光路について、図5と図6を参照して説明する。図5は、図3に示す接触面4aと指端部7を拡大して示す模式図である。図6は、図3に示す光学素子(プリズム)4と指端部7を拡大して示す模式図である。上述したように、第2実施形態の撮像ユニット1は、生体的特徴の一つである指紋を撮像することを一つの目的とする。指紋は、指端部7の腹面7aの凹凸(谷線部72および隆線部71)の組み合わせで構成される。第1光源部2が出力した第1の光L1は、接触面4aに設置された隆線部71および谷線部72によって反射されて光学素子(プリズム)4へ入射する。また、第2光源部3が出力した第2の光L2は、指端部7を透過し、接触面4aに設置された隆線部71および谷線部72から出射されて、接触面4aから光学素子(プリズム)4へ入射する。
図5に示すように、指端部7の隆線部71は接触面4aと接触している。このため、隆線部71から入射または隆線部71で反射された光の屈折率は光学素子(プリズム)4(ガラス等)の屈折率とほぼ同じである。よって、隆線部71から出射または隆線部71によって反射された光は、接触面4aで反射された光と同様のものとみなすことができる。すなわち、この光は、鎖線の矢印で示すように光学素子(プリズム)4内のほぼ全方位にほぼ均等に放射され、接触面4aより下側のすべての領域に達することができる。
一方、谷線部72は接触面4aとは接触しておらず、谷線部72と接触面4aとの間には空気層8がある。したがって、谷線部72からの出射光または谷線部72での反射光は、空気層8を介して接触面4aに入射する。ここで、空気の屈折率は1.0である。ガラスの屈折率は、一般に1.5前後であり、1.3〜2.0の範囲である。水分と皮膚の屈折率は1.3〜1.4である。このように、このように、屈折率に違いがあるため、谷線部72からの出射光および反射光の屈折現象は、隆線部71の出射光および反射光とは異なる。具体的には、谷線部72からの出射光および反射光は、全方位に放射されない。また、入射角αより屈折角βが小さくなるので、谷線部72からの出射光および谷線部72での反射光は破線の矢印で示すように光学素子(プリズム)4内の下向きへの光に偏ることになる。
図5を参照して説明したように、隆線部71からの光は接触面4aから全方位にほぼ均等に放射され、谷線部72からの光は接触面4aから下向きの方向へ偏って放射される。また、谷線部72からの光は下向きの方向へ偏って放射される。このため、図6に示すように、谷線部72からの光の交わり面4bへの入射角γが、隆線部71からの光と比較して大きくなる。そのため、隆線部71からの光の場合と比較して、谷線部72からの光の入射角γが臨界角δを超える割合が大きくなる。ゆえに、隆線部71からの光の場合と比較して、谷線部72からの光が交わり面4bで全反射される割合が大きくなる。そのため、第3撮像部5へは、隆線部71からの光の方が、谷線部72からの光より多く到達する。ここで、第3撮像部5は、交わり面4b側から指端部7を撮像して第3画像M3を得る。したがって第3画像M3は、隆線部71が明るく、谷線部72が暗い画像となり、ゆえに、コントラストの高い指紋画像(以下、ハイコントラスト画像と称する)となる。また、指端部7を撮像する際、第1の光L1が対向面4c側から指端部7に照射されるとともに、第2の光L2が接触面4aの周辺部から指端部7に照射される。このため、第1の光L1が到達し難い指端部7の周辺部を第2の光L2で明るくことができる。よって、第3撮像部5は、指紋全体が適切に照明された状態で指紋を撮像することができる。したがって、第2実施形態によれば、指紋画像の全体にわたってコントラストを高くすることができる。
一方、第2撮像部6へは、隆線部71からの光と谷線部72からの光が、第3撮像部5への到達する割合と比較して、おおむね均等な割合で到達する。ここで、第2撮像部6は、対向面4c側から指端部7を撮像して第2画像M2を得る。第2画像M2は接触面4aに設置された指端部7を対向面4cから直視した場合に見えるものと同様な画像となる。また、第2画像M2は、赤外線成分が抑制された画像である。したがって、第2撮像部6で撮像される画像は、指端部7の自然な画像(以下、自然画像と表現する)となる。ただし、上述したように、第2撮像部6が撮像した画像の用途によっては赤外線成分を抑制しなくてもよい。
第3撮像部5で撮像されたハイコントラスト画像(第3画像M3)は例えば指紋を照合する用途に用いられる。その際、第3撮像部5は、画像内に特徴点が多く存在するように、より広いエリアの指紋画像を撮像することが望ましい。第2実施形態では、第3撮像部5が全体にわたってコントラストが高い指紋画像を撮像することができるので、例えば指紋照合の精度を容易に高めることができる。一方、第2撮像部6が撮像する自然画像(第2画像M2)は、例えば指が偽物か本物が判断する用途に用いられる。また、第2撮像部6が撮像する自然画像(第2画像M2)は、例えば指端部7の撮像位置14への設置状態をほぼリアルタイムで表示部12に表示するために使用される。
図7は、図4に示す撮像ユニット1上の撮像位置14に指端部7を正しく置いた場合の例を模式的に示す平面図である。また、図8Aは、第3撮像部5が撮像した第3画像M3の例を示す。図8Bは、第2撮像部6が撮像した第2画像M2の例を示す。
次に、図9および図10を参照して、図1および図2を参照して説明した撮像装置10の動作例について説明する。図9は、図1および図2に示す撮像装置10の動作例を示すフローチャートである。図10は、図2に示す撮像装置10の表示部12の表示例を示す模式図である。図10の部分(a)は、撮像位置14に指端部7が置かれていない場合において表示領域120に表示される画像(表示状態)を示す。図10の部分(b)は、撮像位置14に指端部7が置かれているが、指端部7の置き方が正しくない場合において表示領域120に表示される画像(表示状態)を示す。図10の部分(c)は、撮像位置14に指端部7が正しく置かれている場合において表示領域120に表示される画像(表示状態)を示す。
図9に示す処理は所定の周期毎に繰り返し実行される。また、図2に示すように、第1撮像部11が第1撮像部11aと第1撮像部11bを有する場合、制御部13は、第1撮像部11aの撮像画像に基づく図9に示す処理と第1撮像部11bの撮像画像に基づく図9に示す処理を、順次にあるいは並行して実行する。
図9に示す処理が開始されると、制御部13は、第1撮像部11が出力した第1画像M1を取得する(ステップS11)。次に、制御部13は、撮像位置14に対象物である指端部7が正しく置かれているか否かを判断する(ステップS12)。ステップS12において、制御部13は、例えば、次のようにして撮像位置14に指端部7が正しく置かれているか否かを判断する。すなわち、制御部13は、まず、第1画像M1から指端部7の輪郭線を抽出する。そして、制御部13は、輪郭線の位置や向きが所定の範囲内にある場合に指端部7が撮像位置14に正しく置かれていると判断する。一方、制御部13は、第1画像M1から指端部7の輪郭線を抽出できない場合や、抽出した輪郭線の位置や向きが所定の範囲内にない場合に指端部7が撮像位置14に正しく置かれていないと判断する。別法として、制御部13は、第1画像M1の画素値の分布状態が所定のパターンに合致する場合に、指端部7が正しく置かれていると判断し、そうでない場合に指端部7が正しく置かれていないと判断してもよい。別法として、制御部13は、第1画像M1の画素値の平均値や分散値が所定の範囲内にある場合に、指端部7が正しく置かれていると判断し、そうでない場合に指端部7が正しく置かれていないと判断してもよい。なお、判断の基準となる値は、例えば、実験的にあるいはシミュレーションによって求めてもよい。また、ステップS12の判断は、図9に示す処理において毎回実行されてもよいし、複数回置きに実行されてもよい。
制御部13は、ステップS12において指端部7が正しく置かれていると判断した場合(ステップS13で「YES」の場合)、指端部7が正しく置かれている場合の表示形態で第1表示画像と第2表示画像を表示し(ステップS14)、図9に示す処理を終了する。一方、制御部13は、ステップS12において指端部7が正しく置かれていないと判断した場合(ステップS13で「NO」の場合)、指端部7が正しく置かれていない場合の表示形態で第1表示画像と第2表示画像を表示し(ステップS15)、ステップS11へ戻り、ステップS11〜S13の処理を繰り返す。
ステップS14およびステップS15において、制御部13は、例えば、次のように表示部12の表示形態を変化させる。すなわち、正しく置かれていない場合、制御部13は、図10の部分(a)または部分(b)に示すように、第1表示画像91と第2表示画像92を表示する。第1表示画像91は、第1画像M1(第2画像M2と第3画像M3との少なくとも一方)に基づいて撮像位置14の状態を示す実際の画像である。図10の部分(a)では表示領域120は、指端部7の画像を含んでいない。図10の部分(b)では表示領域120は、正しく置かれていない場合の指端部7の画像を含む。第2表示画像92は、第1表示画像91に重畳して表示される画像であって、輪郭画像(案内)921とマスク画像922を含む。輪郭画像921は、指端部7を撮像位置14に正しく置いた場合の指端部7の輪郭の位置を表す模様である。図10の部分(a)および部分(b)では、輪郭画像921は例えば赤で表示される。マスク画像922は、身体的特徴部である指紋の少なくとも一部をマスクする(隠す)模様である。マスク画像922は、例えば、撮像装置10の利用者以外の者が、表示部12に表示された利用者の指紋画像を撮影することを防止するために表示される。図10の部分(a)および部分(b)では、マスク画像922は例えば赤で表示される。
指端部7が正しく置かれている場合、制御部13は、図10の部分(c)に示すように、第1表示画像91と第2表示画像92を表示する。図10の部分(c)に示す第2表示画像92は、図10の部分(a)および部分(b)と同じ形状で色が異なる輪郭画像921とマスク画像922を含む。指端部7が正しく置かれている場合には、輪郭画像921とマスク画像922は例えば青で表示される。利用者は、第2表示画像の色が変化することで、指端部7が撮像位置14に正しく置かれていることを認識することができる。さらに、図10の部分(c)に示す第2表示画像92は、指端部7が撮像位置14に正しく置かれていることを示す画像(表示)、具体的には、「OK」の文字列を表す文字画像923を含む。文字画像923は、例えば青で表示される。利用者は、第2表示画像に正しいことを示す文字列が含まれることでも、指端部7が撮像位置14に正しく置かれていることを認識することができる。
この表示の変更による案内として、両方の指の載置位置の確認に際して、いずれか一方の指が正しく載置された場合に、対応する指の表示を個々に変更してもよい。さらに、両方の指が正しく載置された場合、すなわち指の載置が正常に完了した場合にのみ完了した旨を表示しても良い。このような表示により、複数の指(生体の部位)の画像の認証が必要な場合に、必要な画像が漏れなく取り込まれたことをより明確に判断することができる。
なお、光学素子の配置(画像が伝送される光学経路の構成)により、天地が逆になった画像や鏡像が取り込まれる構成となった場合は、必要に応じて、取り込まれた画像の天地を逆転させ、あるいは鏡像を反転させる画像処理が行われる。
なお、図3に示すように、第1撮像部11が、第2撮像部6と第3撮像部5を含み、第1画像M1が第2撮像部6が撮像した第2画像M2と第3撮像部5が撮像した第3画像M3とを含む場合、表示部12と制御部13は次のように動作してもよい。すなわち、この場合、表示部12は、第2画像M2に基づき対象物である指端部7を表す第1表示画像91を表示することができる。また、制御部13は、第3画像M3に基づき対象物である指端部7が正しく撮像位置14に置かれているか否かを判断することができる。
次に、図11を参照して、図3に示すように撮像ユニット1を構成した場合の図1および図2に示す撮像装置10の動作例について説明する。図11は、図3に示すように撮像ユニット1を構成した場合の図1および図2に示す撮像装置10の動作例を示すフローチャートである。この場合、第1撮像部11は第2撮像部6と第3撮像部5の2種類の撮像部を備える。
図11に示す処理は所定の周期で繰り返し実行される。なお、図2に示すように、第1撮像部11が第1撮像部11aと第1撮像部11bを有する場合、制御部13は、第1撮像部11aの撮像画像をリアルタイムで表示しながら、撮影画像に基づく図11に示す処理と第1撮像部11bの撮像画像に基づく図11に示す処理を、順次にあるいは並行して実行する。
図11に示す処理が開始されると、制御部(判定部)13は、第2撮像部6が出力した第2画像M2と第3撮像部5が出力した第3画像M3を取得する(ステップS21)。次に、制御部13は、第3画像M3に基づき第3画像M3の品質値を算出する(ステップS22)。ただし、ステップS22の品質値の算出処理は、図11に示す処理において毎回実行されてもよいし、複数回置きに実行されてもよい。
画像の品質値は、指紋照合用の指紋画像の品質を表す指標値である。画像の品質値として、例えば、NFIQ(NIST Fingerprint Image Quality)値(NIST(米国国立標準技術研究所)指紋画像画質値(NFIQ NISTIR 7151 - Fingerprint Image Quality, NIST Interagency Report, August 2004))、特開2002−222424号公報に記載された平均的な濃度や分散値に基づく品質値、特開2007−226746号公報に記載された特徴点確信度に基づく品質値等を用いてもよい。画像の品質値が所定の値以上である場合、その画像は、指紋照合に使用するのに十分な品質を有していることになる。よって、画像の品質値が所定の値以上である場合、指端部7が撮像位置14に正しく置かれた状態で撮像されたものであることを意味する。
画像の品質値は、画像そのものの質を評価する前述の各品質値に限られない。画像の品質値は、単に、ガイド(輪郭画像921)に対してどれだけ指が正しい位置に載置された度合を示す値(位置ずれ量の大小の指標となる値)であっても良い。
制御部13は、ステップS22で算出した品質値が所定の閾値を超える場合(ステップS23で「YES」の場合)、次の画像を表示部12に表示させる(ステップS24)。すなわち、ステップS24で制御部13は、例えば図10の部分(c)に示すように、第2画像M2に基づき第1表示画像91を表示するとともに、第1表示画像91に重ねて輪郭画像921とマスク画像922と文字列「OK」を表す文字画像923を第2表示画像として青色で表示する(ステップS24)。一方、制御部13は、ステップS22で算出した品質値が所定の閾値を超えない場合(ステップS23で「NO」の場合)、次の画像を表示部12に表示させる(ステップS25)。すなわち、ステップS24で制御部13は、例えば図10の部分(a)または部分(b)に示すように、第2画像M2に基づき第1表示画像91を表示するとともに、第1表示画像91に重ねて輪郭画像921とマスク画像922を第2表示画像として赤色で表示する(ステップS25)。制御部13は、ステップS24またはステップS25の処理の後、図11に示す処理を終了する。
なお実際の運用では、指を正しく置いたとしても、指の状態(シワ、汚れ、乾燥の影響による異常な表面状態等)や、光学系の汚れ等の原因によって必要な品質値が得られないことがあり得る。このような場合に照合の繰り返しが終結せず業務が滞ることがある。このため、所定時間経過後、あるいはNGの場合(ステップS23で「NO」の場合)の処理が所定回数繰り返された場合には指紋取得ができませんといった表示や警告ランプの点灯等の処理を行うことが望ましい。さらに、警告ランプに代えて、あるいは加えて、係員を呼ぶべき旨をディスプレイ表示、あるいは音声により報知しても良い。なお、この報知動作は、NGの繰り返し数にかかわらず、ユーザの何らかの意志表示(発声や、呼び出しボタンの操作)の検出に基づいて行うようにしても良い。
なお表示部12に表示される画像は、表示画面の覗き見等による個人情報漏洩を防止する見地から、実際に第1〜第3撮像部11、5、6で撮影され、照合に利用される画像を変形したデータ、あるいは、単に指端等の輪郭を示すダミーの画像であることが望ましい。
この表示画像として、例えば下記の処理(1)〜(4)により得た画像を用いることもできる。
処理(1):第2画像M2に基づきリアルタイムに指の位置を検出する。
処理(2):表示部12にはガイドになる枠と爪側から見た指の表側を示す線図を表示する。
処理(3):処理(1)で検出した位置にあわせ、指の表側を示す線図を動かす。
処理(4)指が枠に合えば、指端部7が正しく置かれていると判定する。
すなわち、指の指紋側の画像ではなく、爪側をアニメーション的に表示する。そうすることで表示部に表示されているアニメーションと実際の利用者の指が動く方向を同じにして、より良好な操作性を得ることもできる。
さらに、ユーザ側のディスプレイに指の爪側の画像を表示してその位置を示す一方、係員側のディスプレイには指紋側の画像を表示しても良い。
以上のように、第2実施形態によれば、利用者は、容易に対象物である指端部7を正しい撮像位置14に置くことができる。
上記第1および2実施形態は、下記変形例1〜5のように変形してもよい。
[変形例1]
上記実施形態では、ユーザに指の位置を認識させるためのディスプレイ(表示部101)を設けている。さらに、指紋等を確認する係員にも指の位置を認識させるべく、他のディスプレイを設けてもよい。あるいは、係員が使用する既存のディスプレイの画面表示を切り替えて、あるいは分割画面の一部にユーザの指の画像を表示させても良い。さらに、無線、有線の通信経路を介して画像を送信し、表示しても良い。
このように指の画像を係員が目視確認することにより、係員がユーザの指の載置状態を確認することができ、係員がユーザへ位置の移動を促し、あるいは、不正行為を監視することに利用することができる。
[変形例2]
ユーザが指をガイド周辺に載置した際、上記実施形態における表示の態様に代えて、下記のように表示を変化させても良い。
指をガイド周辺に載置したときの指の状態により、ガイドの表示変化の仕方を変える具体例として、以下のように表示を変化させても良い。
(例a)撮像範囲内に指が載置されていないときの、デフォルトの色:青
(例b)指は表示画面上に確認できるが、正常な位置に到達していないとき:白
(例c)ガイドの通り、正常に載置されたとき:赤
(例d)指の輪郭を正常に確認できないとき:オレンジ
(例e)システムエラーの場合:黄色
なお、変化の態様は色でなく、形状の変化等、何らか表示態様の変更があればユーザへ伝えることができる。
[変形例3]
指紋画像をディスプレイにフィードバックして、リアルタイムで表示しても良い。この場合、第三者の覗き見防止の見地から、指紋画像に所定の処理を施して、指のシルエットや輪郭のみを表示することが望ましい。
[変形例4]
読取部で取得した指の自然画像をさらに外部端末へ送信し、さらに偽指判定等の高度の判定処理に利用してもよい。この場合、外部端末は、ディスプレイあるいは解析部のうち少なくとも一方を備えた端末への送信であってもよく、この外部端末には、例えば下記の機能が設けられる。
(機能a)ディスプレイのみを備えた場合は、係員による目視判定が可能となる。
(機能b)解析部を備えた場合は、何等かのアルゴリズムによる偽指判定も可能となる。
(機能c)ディスプレイ及び解析部を備えた場合は、上記機能a、bに加え、解析部による結果を係員が見て最終判定を下す機能を設けるようにしても良い。
[変形例5]
本発明の実施形態として、生体特徴を含む画像として指紋の画像の場合を説明したが、撮影された画像が含む生体特徴はこれに限定されない。例えば、静脈、皮膚の模様、掌紋等の生体特徴であってもよい。この場合、品質値は、指紋画像の品質を表す指標値以外にも、上記の生体特徴を含む画像が照合に適している程度を示す値であってもよい。
以上、この発明の実施形態について図面を参照して説明してきたが、具体的な構成は上記実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計変更等も含まれる。
この出願は、2018年11月21日に出願された日本国特願2018−218343を基礎とする優先権を主張し、その開示の全てをここに取り込む。
本発明は、撮像装置および撮像方法に適用してもよい。
1 撮像ユニット
2 第1光源部
2a〜2d 白色LED
3 第2光源部
3a〜3h 赤外線LED
4 光学素子(プリズム)
4a 接触面
4b 交わり面
4c 対向面
5 第3撮像部
6 第2撮像部
10 撮像装置
11、11a、11b 第1撮像部
12 表示部
13 制御部
14、14a、14b 撮像位置
15 判定部
91 第1表示画像
92 第2表示画像
921 輪郭画像
922 マスク画像
923 文字画像
L1 第1の光
L2 第2の光

Claims (8)

  1. 生体の一部を撮像することにより、画像を取り込む撮像部と、
    前記撮像部により取り込まれた画像に基づく第1表示画像と、前記生体の一部の所定位置への置き方の案内を含む第2表示画像と重ねて表示する表示部と、
    前記生体の一部が前記所定位置に置かれているか判定する判定部と、
    前記判定部が前記生体の一部が前記所定位置に置かれていると判定するまで、前記撮像部に前記生体の一部を新たに撮像させて新たな画像を取り込ませ、また、前記表示部に前記撮像部により取り込まれた新たな画像に基づく画像を前記第1表示画像として表示させる制御部と、
    を備える撮像装置。
  2. 前記判定部は、前記撮像部により取り込まれた画像の品質値が所定のしきい値以上である場合に、前記生体の一部が前記所定位置に置かれていると判断する
    請求項1に記載の撮像装置。
  3. 前記第1表示画像は、赤外線成分がカットされた画像である、
    請求項2に記載の撮像装置。
  4. 前記制御部は、前記表示部の表示形態を変化させる際に、前記第2表示画像の色を変化させる
    請求項1から3のいずれか1項に記載の撮像装置。
  5. 前記生体の一部が、生体認証用の身体的特徴部を含み、
    前記第2表示画像が、前記身体的特徴部の少なくとも一部をマスクするマスク画像を含む
    請求項1から4のいずれか1項に記載の撮像装置。
  6. 前記生体の一部が、指端部である
    請求項1から5のいずれか1項に記載の撮像装置。
  7. 前記制御部は、前記判定部が前記生体の一部が前記所定位置に置かれていないと判定した場合に、前記表示部に第1の表示態様で前記案内を表示させ、
    前記制御部は、前記判定部が前記生体の一部が前記所定位置に置かれていると判定した場合に、前記表示部に前記第1の表示態様とは異なる第2の表示態様で前記案内を表示させる、
    請求項1〜6のいずれか1項に記載の撮像装置。
  8. 生体の一部を撮像することにより、画像を取り込み、
    前記取り込まれた画像に基づく第1表示画像と、前記生体の一部の所定位置への置き方の案内を含む第2表示画像と重ねて表示し、
    前記生体の一部が前記所定位置に置かれているか判定し、
    前記生体の一部が前記所定位置に置かれていると判定されるまで、前記生体の一部を新たに撮像して新たな画像を取り込み、また、前記取り込まれた新たな画像に基づく画像を前記第1表示画像として表示する、
    ことを含む撮像方法。
JP2020558369A 2018-11-21 2019-11-18 撮像装置および撮像方法 Active JP7259866B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018218343 2018-11-21
JP2018218343 2018-11-21
PCT/JP2019/045040 WO2020105578A1 (ja) 2018-11-21 2019-11-18 撮像装置および撮像方法

Publications (2)

Publication Number Publication Date
JPWO2020105578A1 true JPWO2020105578A1 (ja) 2021-09-27
JP7259866B2 JP7259866B2 (ja) 2023-04-18

Family

ID=70774037

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020558369A Active JP7259866B2 (ja) 2018-11-21 2019-11-18 撮像装置および撮像方法

Country Status (3)

Country Link
US (4) US11699304B2 (ja)
JP (1) JP7259866B2 (ja)
WO (1) WO2020105578A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023182167A (ja) * 2022-06-14 2023-12-26 株式会社 日立産業制御ソリューションズ 非接触型生体認証装置、非接触型生体認証システム、及び非接触型生体認証方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001273498A (ja) * 2000-03-24 2001-10-05 Matsushita Electric Ind Co Ltd バイオメトリックに基づく本人認証装置、本人認証システム、本人認証用カード及び本人認証方法
JP2005071118A (ja) * 2003-08-26 2005-03-17 Hitachi Ltd 個人認証装置及び方法
JP2008123207A (ja) * 2006-11-10 2008-05-29 Sony Corp 登録装置、照合装置、登録方法、照合方法及びプログラム
JP2009211357A (ja) * 2008-03-04 2009-09-17 Fujitsu Ltd バイオメトリクス認証情報登録方法および装置ならびにバイオメトリクス認証方法および装置
WO2014119503A1 (ja) * 2013-01-31 2014-08-07 日本電気株式会社 認証装置、認証用プリズム体及び認証方法
WO2015194017A1 (ja) * 2014-06-19 2015-12-23 日立マクセル株式会社 ウェアラブル装置および認証方法
WO2017179181A1 (ja) * 2016-04-15 2017-10-19 株式会社日立製作所 生体認証システムおよび生体認証方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002222424A (ja) 2001-01-29 2002-08-09 Nec Corp 指紋照合システム
JP4207937B2 (ja) 2005-08-25 2009-01-14 株式会社日立製作所 個人認証装置
JP4586746B2 (ja) 2006-02-27 2010-11-24 日本電気株式会社 指紋照合装置、指紋パタンエリア抽出装置および品質判定装置、並びにその方法およびプログラム
JP5034359B2 (ja) 2006-08-07 2012-09-26 富士通株式会社 画像認証装置、画像認証方法、画像認証プログラム、記録媒体及び電子機器
WO2013020577A2 (en) 2011-08-07 2013-02-14 Sensometrix Sa Body part guidance control method for non contact biometric authentication device, and biometric authentication device
US20170061647A1 (en) * 2012-11-02 2017-03-02 Thad Eugene Starner Biometric Based Authentication for Head-Mountable Displays

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001273498A (ja) * 2000-03-24 2001-10-05 Matsushita Electric Ind Co Ltd バイオメトリックに基づく本人認証装置、本人認証システム、本人認証用カード及び本人認証方法
JP2005071118A (ja) * 2003-08-26 2005-03-17 Hitachi Ltd 個人認証装置及び方法
JP2008123207A (ja) * 2006-11-10 2008-05-29 Sony Corp 登録装置、照合装置、登録方法、照合方法及びプログラム
JP2009211357A (ja) * 2008-03-04 2009-09-17 Fujitsu Ltd バイオメトリクス認証情報登録方法および装置ならびにバイオメトリクス認証方法および装置
WO2014119503A1 (ja) * 2013-01-31 2014-08-07 日本電気株式会社 認証装置、認証用プリズム体及び認証方法
WO2015194017A1 (ja) * 2014-06-19 2015-12-23 日立マクセル株式会社 ウェアラブル装置および認証方法
WO2017179181A1 (ja) * 2016-04-15 2017-10-19 株式会社日立製作所 生体認証システムおよび生体認証方法

Also Published As

Publication number Publication date
US20220019825A1 (en) 2022-01-20
US11699304B2 (en) 2023-07-11
JP7259866B2 (ja) 2023-04-18
US20230306793A1 (en) 2023-09-28
EP3886035A1 (en) 2021-09-29
WO2020105578A1 (ja) 2020-05-28
US12046079B2 (en) 2024-07-23
US20230298387A1 (en) 2023-09-21
US20240331451A1 (en) 2024-10-03

Similar Documents

Publication Publication Date Title
US10635878B2 (en) Optical fingerprint sensor with force sensing capability
JP5841983B2 (ja) 指紋スキャナに基づいて確実に高品質の指紋を捕捉する方法
EP3485342B1 (en) Optical fingerprint sensor with force sensing capability
TWI403960B (zh) 用來鑑定使用者之成像設備及方法
US7885434B2 (en) Biometric information authentication device and method
CN103929566B (zh) 生物测量信息图像捕获装置以及生物测量认证设备
US10460187B2 (en) Biometric authentication device and system
KR102538405B1 (ko) 생체 인증 시스템, 생체 인증 방법 및 프로그램
EP2785046B1 (en) Image correction apparatus, image correction method, and biometric authentication apparatus
WO2016159523A1 (ko) 생체 정보 획득 방법 및 이를 위한 장치
TWI537838B (zh) The authentication device, an authentication method and an authentication prism
JP6182830B2 (ja) 電子機器
KR20140126400A (ko) 바이오메트릭 및 바이오그래픽 데이터를 획득하기 위한 스테이션
US20240331451A1 (en) Imaging device and imaging method
CN114387629A (zh) 生物体认证装置及生物体认证方法
JP2009211357A (ja) バイオメトリクス認証情報登録方法および装置ならびにバイオメトリクス認証方法および装置
WO2018185992A1 (ja) 生体認証装置、及び方法
JP2020086749A (ja) 撮像装置および撮像方法
JP2006343995A (ja) 生体情報の登録装置または照合装置
KR20200137777A (ko) 모바일 장치용 광학식 지문센서, 광학식 지문센서를 구비한 모바일 장치 및 그 지문센서의 지문 이미지 획득방법
KR20240140614A (ko) 얼굴인식 위조 판별 기능을 구비한 단말기 및 그것의 위조 판별 제어 방법
JP2010035914A (ja) 個人識別装置
CN110998600A (zh) 光学掌纹感测的方法和系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230307

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230320

R151 Written notification of patent or utility model registration

Ref document number: 7259866

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151