JP6559377B2 - 重畳位置補正装置及び重畳位置補正方法 - Google Patents
重畳位置補正装置及び重畳位置補正方法 Download PDFInfo
- Publication number
- JP6559377B2 JP6559377B2 JP2019502378A JP2019502378A JP6559377B2 JP 6559377 B2 JP6559377 B2 JP 6559377B2 JP 2019502378 A JP2019502378 A JP 2019502378A JP 2019502378 A JP2019502378 A JP 2019502378A JP 6559377 B2 JP6559377 B2 JP 6559377B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- coordinate system
- processing
- region
- planned
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012937 correction Methods 0.000 title claims description 35
- 238000000034 method Methods 0.000 title claims description 22
- 238000012545 processing Methods 0.000 claims description 111
- 238000003754 machining Methods 0.000 claims description 61
- 239000011159 matrix material Substances 0.000 claims description 35
- 238000000605 extraction Methods 0.000 claims description 12
- 230000009466 transformation Effects 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims 2
- 230000011218 segmentation Effects 0.000 claims 2
- 238000004519 manufacturing process Methods 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 16
- 238000006243 chemical reaction Methods 0.000 description 7
- 230000000052 comparative effect Effects 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
- G06T7/337—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B23—MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
- B23K—SOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
- B23K26/00—Working by laser beam, e.g. welding, cutting or boring
- B23K26/02—Positioning or observing the workpiece, e.g. with respect to the point of impact; Aligning, aiming or focusing the laser beam
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B23—MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
- B23K—SOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
- B23K26/00—Working by laser beam, e.g. welding, cutting or boring
- B23K26/60—Preliminary treatment
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B23—MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
- B23K—SOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
- B23K26/00—Working by laser beam, e.g. welding, cutting or boring
- B23K26/70—Auxiliary operations or equipment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/20—Linear translation of whole images or parts thereof, e.g. panning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30164—Workpiece; Machine component
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Optics & Photonics (AREA)
- Plasma & Fusion (AREA)
- Mechanical Engineering (AREA)
- Laser Beam Processing (AREA)
- Numerical Control (AREA)
- Image Processing (AREA)
Description
図1は、本発明の実施の形態に係る重畳位置補正装置1を含むレーザ加工システム100の構成を概略的に示すブロック図である。
図3は、画像フレームf1内のワークw1に重畳された加工予定軌跡31を示す図である。加工予定軌跡31は、機械座標系における加工予定である加工位置を示すデータである。画像フレームf1内では、加工予定軌跡31はグラフィックスで示される。画像フレームf1内に示される加工予定軌跡31を加工予定画像ともいう。
図5は、加工が行われた後のカメラ画像である画像フレームf2(第2の画像フレーム)を示す図である。図5に示される画像フレームf2は、レーザ加工機2で加工されたワークw2(すなわち、加工後のワークw2)及び加工跡33で囲まれた加工済領域33bの画像を含む画像である。
図6は、差分画像生成部16によって生成された差分画像f3を示す図である。
図7に示されるように、加工中にワークw2の位置がずれた場合、加工予定軌跡31と加工跡33とがずれる場合がある。ずれ判定部18は、加工予定画像と差分画像(後述する差分画像f4)とを比較して加工予定軌跡31と加工跡33とがずれているか判定する。
図8は、レーザ加工システム100における重畳位置補正方法の一例を示すフローチャートである。
図6に示される差分画像f3では、加工済領域33b以外の領域の画素値は0であり、加工済領域33bの画素値は0以外の不定値であるため、加工済領域33bの画素値が1になるように正規化する。その結果、図9に示されるように、加工済領域33b以外の領域の画素値は0であり、且つ、加工済領域33bの画素値が1である2値画像が得られる。
ステップS6では、加工予定画像生成部17は加工予定画像を生成する。具体的には、加工予定画像は、ステップS5で射影変換された加工予定軌跡31aに基づいて、加工予定領域33a内の画素値が1となるように生成され、加工予定領域33a以外の領域の画素値が0となるように生成される。その結果、図10に示される画像フレームf5内に、射影変換が行われた後の加工予定画像が得られる。
ステップS8では、分割領域生成部19は、少なくとも1つの加工予定領域33a(本実施の形態では、少なくとも1つの加工形状)を含む少なくとも1つの分割領域34を生成する。例えば、分割領域生成部19は、画像フレームf5内の各加工形状の外接矩形を求める。これにより、図11に示されるように、画像フレームf6内に、1つの加工形状を含む分割領域34を生成することができる。すなわち、本実施の形態では、4つの分割領域34が生成される。
ステップS91では、類似形状検索部20は、加工予定画像の分割領域34内の画像のHuモーメント不変量を計算する。例えば、Huモーメント不変量は、非特許文献である下記文献に記載の方法を用いて計算する。
Ming−Kuei HU. “Visual Pattern Recognition by Moment Invariants” IRE TRANSACTIONS ON INFORMATION THEORY,vol.IT−8,pp179−187, 1962.
ステップS91からS93までの処理を、加工予定画像の分割領域34の各々について行う。これにより、本実施の形態では、図13に示されるように、4つの特定領域35が得られる。
ステップS101では、代表点抽出部21は、差分画像f4内の1つの特定領域35に対応する分割領域34に含まれる加工予定領域33aの重心座標を計算する。具体的には、代表点抽出部21は、差分画像f4内の1つの特定領域35に対応する分割領域34(すなわち、特定領域35と類似する分割領域34)に含まれる加工予定領域33a内の全ての機械座標(すなわち、機械座標系における座標)の平均を計算することにより重心座標を抽出することができる。
ステップS101からS103までの処理を、各特定領域35及び各特定領域35に対応する分割領域34について行う。これにより、特定領域35の数と同じ数の代表点のセットg1,g2,g3,及びg4が得られる。本実施の形態では、図15に示されるように、4組の代表点のセットg1,g2,g3,及びg4が得られる。
上述の実施の形態で説明した画像取得部12、射影変換部13、重畳表示部14、差分画像生成部16、加工予定画像生成部17、ずれ判定部18、分割領域生成部19、類似形状検索部20、代表点抽出部21、及び射影行列算出部22の機能は、CPU(Central Processing Unit)などのプロセッサによって実現することができる。上述の実施の形態で説明した分割領域34、特定領域35、及び重心座標などの種々のデータは、メモリ1bに格納することができる。図1に示される記憶装置3は、重畳位置補正装置1内のメモリ1bであってもよい。この場合、加工予定軌跡31、射影行列32などのデータは、メモリ1bに格納される。ネットワークインタフェース1cは、レーザ加工機2及び記憶装置3と通信可能に接続される。カメラ1fは、図1に示されるカメラ11に対応し、表示機1eは、図1に示される表示機15に対応する。カメラ1fは、表示機インタフェース1dを介して表示機1eに接続されており、カメラ画像が表示機1eに表示される。
カメラ、 12 画像取得部、 13 射影変換部、 14 重畳表示部、 15 表示機、 16 差分画像生成部、 17 加工予定画像生成部、 18 ずれ判定部、 19 分割領域生成部、 20 類似形状検索部、 21 代表点抽出部、 22 射影行列算出部、 31,31a,31b 加工予定軌跡、 32 射影行列、 33 加工跡、 33a 加工予定領域、 33b 加工済領域、 f1 画像フレーム(第1の画像フレーム)、 f2 画像フレーム(第2の画像フレーム)、 f3,f4 差分画像、 w1,w2 ワーク。
Claims (10)
- 加工対象であるワークの画像を含む第1の画像フレームと、加工された前記ワークの画像を含む第2の画像フレームとを取得する画像取得部と、
前記画像取得部から前記第1の画像フレーム及び前記第2の画像フレームを取得し、前記第1の画像フレームと前記第2の画像フレームとの差分である加工済領域を含む画像である差分画像を生成する差分画像生成部と、
前記ワークに重畳される予め定められた加工予定軌跡に基づく加工予定画像を生成する加工予定画像生成部と、
前記予め定められた加工予定軌跡に基づいて定められた前記ワークの加工予定領域を含む少なくとも1つの分割領域を生成する分割領域生成部と、
前記分割領域に類似している領域を前記差分画像の中から検索し、前記分割領域に類似している領域を特定領域として取得する類似形状検索部と、
前記分割領域に含まれる前記加工予定領域の機械座標系における重心座標と、前記特定領域に含まれる前記加工済領域の画像座標系における重心座標とを抽出する代表点抽出部と、
前記機械座標系における重心座標と前記画像座標系における重心座標とを用いて前記機械座標系と前記画像座標系との間における射影変換を行うための射影行列を算出する射影行列算出部と、
前記機械座標系における前記予め定められた加工予定軌跡を、前記射影行列を用いて前記画像座標系における新たな加工予定軌跡に変換する重畳表示部と
を備えることを特徴とする重畳位置補正装置。 - 前記加工予定画像と前記差分画像とを比較し、前記加工予定画像が前記差分画像とずれているか判定するずれ判定部とをさらに備えることを特徴とする請求項1に記載の重畳位置補正装置。
- 前記ずれ判定部は、前記加工予定画像における各画素の画素値と前記差分画像における各画素の画素値とを互いに同一の座標ごとに比較し、前記加工予定画像が前記差分画像とずれているかを判定する請求項2に記載の重畳位置補正装置。
- 前記ずれ判定部が、前記加工予定画像が前記差分画像とずれていると判定したときに、前記分割領域生成部は、前記少なくとも1つの分割領域を生成することを特徴とする請求項3に記載の重畳位置補正装置。
- 前記少なくとも1つの分割領域は4つの分割領域を含むことを特徴とする請求項4に記載の重畳位置補正装置。
- 前記類似形状検索部は、前記分割領域内の画像のHuモーメント不変量を計算し、前記分割領域と同じサイズを持つ領域で、なおかつ前記Huモーメント不変量に最も近いHuモーメント不変量を持つ前記差分画像内の領域を前記特定領域として取得することを特徴とする請求項1から5のいずれか1項に記載の重畳位置補正装置。
- 前記代表点抽出部は、前記加工予定領域内の前記機械座標系における全ての座標である機械座標の平均を計算することにより前記機械座標系における重心座標を抽出し、前記加工済領域内の前記画像座標系における全ての座標である画像座標の平均を計算することにより前記画像座標系における重心座標を抽出することを特徴とする請求項1から6のいずれか1項に記載の重畳位置補正装置。
- 表示機をさらに備え、
前記重畳表示部は、前記新たな加工予定軌跡を、前記第1の画像フレーム内において前記ワークに重畳させるように前記表示機に表示させることを特徴とする請求項1から7のいずれか1項に記載の重畳位置補正装置。 - 前記ワークを撮影するカメラをさらに備えることを特徴とする請求項1から8のいずれか1項に記載の重畳位置補正装置。
- 加工対象であるワークの画像を含む第1の画像フレームと、加工された前記ワークの画像を含む第2の画像フレームとを取得するステップと、
前記第1の画像フレーム及び前記第2の画像フレームを取得し、前記第1の画像フレームと前記第2の画像フレームとの差分である加工済領域を含む画像である差分画像を生成するステップと、
前記ワークに重畳される予め定められた加工予定軌跡に基づく加工予定画像を生成するステップと、
前記予め定められた加工予定軌跡に基づいて定められた前記ワークの加工予定領域を含む少なくとも1つの分割領域を生成するステップと、
前記分割領域に類似している領域を前記差分画像の中から検索し、前記分割領域に類似している領域を特定領域として取得するステップと、
前記分割領域に含まれる前記加工予定領域の機械座標系における重心座標を抽出するステップと、
前記特定領域に含まれる前記加工済領域の画像座標系における重心座標を抽出するステップと、
前記機械座標系における重心座標と前記画像座標系における重心座標とを用いて前記機械座標系と前記画像座標系との間における射影変換を行うための射影行列を算出するステップと、
前記機械座標系における前記予め定められた加工予定軌跡を、前記射影行列を用いて前記画像座標系における新たな加工予定軌跡に変換するステップと
を備えることを特徴とする重畳位置補正方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/008240 WO2018158903A1 (ja) | 2017-03-02 | 2017-03-02 | 重畳位置補正装置及び重畳位置補正方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018158903A1 JPWO2018158903A1 (ja) | 2019-07-11 |
JP6559377B2 true JP6559377B2 (ja) | 2019-08-14 |
Family
ID=63369833
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019502378A Active JP6559377B2 (ja) | 2017-03-02 | 2017-03-02 | 重畳位置補正装置及び重畳位置補正方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11049268B2 (ja) |
JP (1) | JP6559377B2 (ja) |
CN (1) | CN110325318B (ja) |
DE (1) | DE112017006976B4 (ja) |
WO (1) | WO2018158903A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10846838B2 (en) * | 2016-11-25 | 2020-11-24 | Nec Corporation | Image generation device, image generation method, and storage medium storing program |
JP7265433B2 (ja) | 2019-07-09 | 2023-04-26 | 株式会社キーエンス | レーザ加工装置 |
CN110834155A (zh) * | 2019-12-23 | 2020-02-25 | 雷科股份有限公司 | Aoi应用在激光蚀薄铜线圈的方法及其设备 |
CN111922437B (zh) * | 2020-08-11 | 2022-02-15 | 上海柏楚电子科技股份有限公司 | 板材排样的检测方法、装置、系统、电子设备及存储介质 |
CN113971661A (zh) * | 2021-10-26 | 2022-01-25 | 深圳市创客工场科技有限公司 | 加工控制方法、装置及设备 |
CN114211168A (zh) * | 2022-02-21 | 2022-03-22 | 江苏天健智能装备制造有限公司 | 一种基于图像相减的平面焊缝轨迹纠偏的方法 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5172326A (en) | 1990-03-19 | 1992-12-15 | Forcam, Incorporated | Patterned web cutting method and system for operation manipulation of displayed nested templates relative to a displayed image of a patterned web |
GB9216643D0 (en) | 1992-08-05 | 1992-09-16 | Univ Loughborough | Automatic operations on materials |
JP2002160080A (ja) * | 2000-11-28 | 2002-06-04 | Hitachi Via Mechanics Ltd | レーザ加工方法および加工装置 |
JP2002239877A (ja) * | 2001-02-14 | 2002-08-28 | Matsushita Electric Ind Co Ltd | 穴加工位置補正方法、穴加工位置補正装置、およびレーザ加工装置 |
JP4571763B2 (ja) * | 2001-07-18 | 2010-10-27 | 株式会社新川 | 画像処理装置、およびボンディング装置 |
JP4088232B2 (ja) * | 2003-10-07 | 2008-05-21 | 株式会社新川 | ボンディング方法、ボンディング装置及びボンディングプログラム |
JP4749092B2 (ja) * | 2005-02-28 | 2011-08-17 | パナソニック電工Sunx株式会社 | レーザ加工方法、並びにレーザ加工装置 |
DE102007016056B4 (de) | 2007-04-03 | 2011-08-25 | Sauer GmbH LASERTEC, 87437 | Verfahren und Vorrichtung zur Werkstückeinmessung und Werkstückbearbeitung |
JP4636064B2 (ja) * | 2007-09-18 | 2011-02-23 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
JP5263877B2 (ja) | 2008-10-22 | 2013-08-14 | アイセル株式会社 | 混合装置及び混合システム |
JP5288987B2 (ja) * | 2008-10-21 | 2013-09-11 | 三菱電機株式会社 | レーザ加工装置 |
JP5620890B2 (ja) * | 2011-08-15 | 2014-11-05 | 小池酸素工業株式会社 | 切断方法及び切断装置 |
JP5626911B2 (ja) * | 2011-11-30 | 2014-11-19 | トリニティ工業株式会社 | 車両内装部品用のレーザー加飾装置及び方法 |
JP5338890B2 (ja) | 2011-12-15 | 2013-11-13 | Jfeスチール株式会社 | レーザ溶接の溶接位置検出装置および溶接位置検出方法 |
JP5947869B2 (ja) | 2014-05-09 | 2016-07-06 | 株式会社アマダホールディングス | 複合加工システム、複合加工機、及び加工原点補正方法 |
-
2017
- 2017-03-02 JP JP2019502378A patent/JP6559377B2/ja active Active
- 2017-03-02 WO PCT/JP2017/008240 patent/WO2018158903A1/ja active Application Filing
- 2017-03-02 DE DE112017006976.9T patent/DE112017006976B4/de active Active
- 2017-03-02 CN CN201780087179.0A patent/CN110325318B/zh active Active
- 2017-03-02 US US16/470,676 patent/US11049268B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
CN110325318A (zh) | 2019-10-11 |
DE112017006976B4 (de) | 2023-06-01 |
DE112017006976T5 (de) | 2019-10-10 |
WO2018158903A1 (ja) | 2018-09-07 |
US20190385318A1 (en) | 2019-12-19 |
CN110325318B (zh) | 2021-03-02 |
JPWO2018158903A1 (ja) | 2019-07-11 |
US11049268B2 (en) | 2021-06-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6559377B2 (ja) | 重畳位置補正装置及び重畳位置補正方法 | |
US7336814B2 (en) | Method and apparatus for machine-vision | |
JP2012254518A (ja) | ロボット制御システム、ロボットシステム及びプログラム | |
EP3300025B1 (en) | Image processing device and image processing method | |
KR101510206B1 (ko) | 항공 하이퍼스펙트럴 영상을 이용한 수치지도 수정 도화용 도시변화지역의 탐지 방법 | |
JP2015211363A (ja) | 表示制御装置、表示制御方法および表示制御プログラム | |
JP2006065429A (ja) | 撮影画像の変化抽出装置及び方法 | |
CN115063768A (zh) | 三维目标检测方法、编码器及解码器 | |
JP2020148625A (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP6037134B2 (ja) | 特徴点対応付けシステム、特徴点対応付け方法、およびプログラム | |
JP2018176185A (ja) | 変形加工支援システムおよび変形加工支援方法 | |
CN111524086B (zh) | 运动物体检测装置、运动物体检测方法、存储介质 | |
JP2012008657A (ja) | 物体形状生成装置及び方法 | |
KR20010055957A (ko) | 증강현실 기반의 3차원 트래커와 컴퓨터 비젼을 이용한영상 정합 방법 | |
JP5365408B2 (ja) | 移動体認識装置、移動体認識方法及びプログラム | |
KR20050063991A (ko) | 영상 피라미드를 이용한 영상정합 처리방법 및 장치 | |
CN117670939B (zh) | 多相机的多目标跟踪方法、装置、存储介质及电子设备 | |
KR100792172B1 (ko) | 강건한 대응점을 이용한 기본행렬 추정 장치 및 그 방법 | |
JP2006113832A (ja) | ステレオ画像処理装置およびプログラム | |
WO2018096669A1 (ja) | レーザ加工装置、レーザ加工方法、及びレーザ加工プログラム | |
JP5217917B2 (ja) | 物体検知追跡装置,物体検知追跡方法および物体検知追跡プログラム | |
JP6188601B2 (ja) | 変化検出装置、方法及びプログラム | |
JP6170696B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2013254300A (ja) | 画像処理方法 | |
Shah et al. | Recognition and identification the position and location of tooth saw butt joint shape |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190220 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190220 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190423 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190618 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190716 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6559377 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |