[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6559377B2 - 重畳位置補正装置及び重畳位置補正方法 - Google Patents

重畳位置補正装置及び重畳位置補正方法 Download PDF

Info

Publication number
JP6559377B2
JP6559377B2 JP2019502378A JP2019502378A JP6559377B2 JP 6559377 B2 JP6559377 B2 JP 6559377B2 JP 2019502378 A JP2019502378 A JP 2019502378A JP 2019502378 A JP2019502378 A JP 2019502378A JP 6559377 B2 JP6559377 B2 JP 6559377B2
Authority
JP
Japan
Prior art keywords
image
coordinate system
processing
region
planned
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019502378A
Other languages
English (en)
Other versions
JPWO2018158903A1 (ja
Inventor
義広 都丸
義広 都丸
猛 大佐賀
猛 大佐賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2018158903A1 publication Critical patent/JPWO2018158903A1/ja
Application granted granted Critical
Publication of JP6559377B2 publication Critical patent/JP6559377B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/337Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23KSOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
    • B23K26/00Working by laser beam, e.g. welding, cutting or boring
    • B23K26/02Positioning or observing the workpiece, e.g. with respect to the point of impact; Aligning, aiming or focusing the laser beam
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23KSOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
    • B23K26/00Working by laser beam, e.g. welding, cutting or boring
    • B23K26/60Preliminary treatment
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23KSOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
    • B23K26/00Working by laser beam, e.g. welding, cutting or boring
    • B23K26/70Auxiliary operations or equipment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/20Linear translation of whole images or parts thereof, e.g. panning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/60Rotation of whole images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optics & Photonics (AREA)
  • Plasma & Fusion (AREA)
  • Mechanical Engineering (AREA)
  • Laser Beam Processing (AREA)
  • Numerical Control (AREA)
  • Image Processing (AREA)

Description

本発明は、加工システムに用いられる重畳位置補正装置に関する。
一般に、レーザ加工機を用いたレーザ加工システムにおいて、加工位置の位置ずれ補正が用いられている。例えば、補正用の板状のワークに加工を行い、予め指定された加工位置と加工された位置とを比較することによって、レーザ加工機の加工開始位置を補正する方法が提案されている(例えば、特許文献1)。さらに、近年、AR(Augmented Reality)を用いて、モニターなどの表示機に表示された加工対象のワークに加工位置(加工予定軌跡)などの画像又は情報を重畳する方法が提案されている。ARを用いたレーザ加工システムでは、ワークが配置された平面である機械座標系とカメラ画像内の画像座標系との間において位置関係を互いに対応させる必要がある。
特開2010−99674号公報
しかしながら、加工中にレーザ加工機全体が振動し、ワークの位置又はカメラの位置及び姿勢が変わってしまう場合がある。この場合、例えば、チェッカーパターン又はマーカを用いてワーク及びカメラの位置を直す方法が用いられているが、従来の技術ではこのような表示位置合わせなどのメンテナンスの簡便さに欠けるという問題がある。
本発明は、上記のような問題を解決するためになされたものであり、ワークに重畳する加工予定軌跡を簡易な方法で補正することを目的とする。
本発明の重畳位置補正装置は、加工対象であるワークの画像を含む第1の画像フレームと、加工された前記ワークの画像を含む第2の画像フレームとを取得する画像取得部と、前記画像取得部から前記第1の画像フレーム及び前記第2の画像フレームを取得し、前記第1の画像フレームと前記第2の画像フレームとの差分である加工済領域を含む画像である差分画像を生成する差分画像生成部と、前記ワークに重畳される予め定められた加工予定軌跡に基づく加工予定画像を生成する加工予定画像生成部と、前記予め定められた加工予定軌跡に基づいて定められた前記ワークの加工予定領域を含む少なくとも1つの分割領域を生成する分割領域生成部と、前記分割領域に類似している領域を前記差分画像の中から検索し、前記分割領域に類似している領域を特定領域として取得する類似形状検索部と、前記分割領域に含まれる前記加工予定領域の機械座標系における重心座標と、前記特定領域に含まれる前記加工済領域の画像座標系における重心座標とを抽出する代表点抽出部と、前記機械座標系における重心座標と前記画像座標系における重心座標とを用いて前記機械座標系と前記画像座標系との間における射影変換を行うための射影行列を算出する射影行列算出部と、前記機械座標系における前記予め定められた加工予定軌跡を、前記射影行列を用いて前記画像座標系における新たな加工予定軌跡に変換する重畳表示部とを備えることを特徴とする。
本発明によれば、ワークに重畳する加工予定軌跡を簡易な方法で補正することができる。
本発明の実施の形態に係る重畳位置補正装置を含むレーザ加工システムの構成を概略的に示すブロック図である。 画像取得部によって取得された画像フレームの一例を示す図である。 画像フレーム内のワークに重畳された加工予定軌跡を示す図である。 加工を行う前のカメラ画像である画像フレームを示す図である。 加工が行われた後のカメラ画像である画像フレームを示す図である。 差分画像生成部によって生成された差分画像を示す図である。 比較例としての画像フレームを示す図である。 レーザ加工システムにおける重畳位置補正方法の一例を示すフローチャートである。 差分画像生成部によって正規化された差分画像を示す図である。 射影変換が行われた後の画像座標系における加工予定画像を示す図である。 画像フレーム内に生成された分割領域を示す図である。 類似形状検索処理のフローの一例を示すフローチャートである。 差分画像内の特定領域を示す図である。 代表点抽出処理の一例を示すフローチャートである。 代表点のセットを模式的に示す図である。 画像フレーム内のワークに重畳された、補正された加工予定軌跡を示す図である。 重畳位置補正装置の具体的なハードウェア構成の一例を示すブロック図である。
実施の形態.
図1は、本発明の実施の形態に係る重畳位置補正装置1を含むレーザ加工システム100の構成を概略的に示すブロック図である。
レーザ加工システム100は、重畳位置補正装置1と、レーザ加工機2と、記憶装置3とを有する。本実施の形態では、記憶装置3は、重畳位置補正装置1及びレーザ加工機2の外部に備えられた記憶媒体であるが、記憶装置3は、重畳位置補正装置1内に備えられていてもよく、レーザ加工機2内に備えられていてもよい。
重畳位置補正装置1は、カメラ11と、画像取得部12と、射影変換部13と、重畳表示部14と、表示機15と、差分画像生成部16と、加工予定画像生成部17と、ずれ判定部18と、分割領域生成部19と、類似形状検索部20と、代表点抽出部21と、射影行列算出部22とを有する。
カメラ11は、加工材(すなわち、加工対象)であるワークw1及びワークw1の周辺領域を撮影する。
画像取得部12は、カメラ11で撮影した映像を1枚ずつの静止画(例えば、後述する画像フレームf1)として取得する。
図2は、画像取得部12によって取得された画像フレームf1(第1の画像フレーム)の一例を示す図である。図2に示される画像フレームf1は、加工対象であるワークw1の画像を含む画像である。画像フレームf1は、カメラ11によって取得されるカメラ画像である。
図3は、画像フレームf1内のワークw1に重畳された加工予定軌跡31を示す図である。加工予定軌跡31は、機械座標系における加工予定である加工位置を示すデータである。画像フレームf1内では、加工予定軌跡31はグラフィックスで示される。画像フレームf1内に示される加工予定軌跡31を加工予定画像ともいう。
射影変換部13は、加工予定軌跡31を、射影行列32を用いて画像座標系に対応するデータに変換する。画像座標系は、画像フレームf1内の直交座標系(すなわち、xy平面)である。
重畳表示部14は、画像取得部12で得られた画像フレームf1内に、加工予定軌跡31をグラフィックスとして描画する。
表示機15には、画像フレームf1が表示される。本実施の形態では、表示機15はディスプレイである。例えば、表示機15において、画像座標系に対応するデータに変換された加工予定軌跡31が画像フレームf1内のワークw1に重畳される。
図4は、加工を行う前のカメラ画像である画像フレームf1を示す図である。加工予定軌跡31で囲まれた領域は、加工予定領域33aである。
図5は、加工が行われた後のカメラ画像である画像フレームf2(第2の画像フレーム)を示す図である。図5に示される画像フレームf2は、レーザ加工機2で加工されたワークw2(すなわち、加工後のワークw2)及び加工跡33で囲まれた加工済領域33bの画像を含む画像である。
図6は、差分画像生成部16によって生成された差分画像f3を示す図である。
差分画像生成部16は、加工を行う前のカメラ画像である画像フレームf1(図2)と加工が行われた後のカメラ画像である画像フレームf2との差分に基づいて差分画像f3を生成する。
加工予定画像生成部17はワークw1に重畳される予め定められた加工予定軌跡31に基づく加工予定画像を生成する。加工予定画像は、加工予定軌跡31を含む画像である。
図7は、比較例としての画像フレームを示す図である。
図7に示されるように、加工中にワークw2の位置がずれた場合、加工予定軌跡31と加工跡33とがずれる場合がある。ずれ判定部18は、加工予定画像と差分画像(後述する差分画像f4)とを比較して加工予定軌跡31と加工跡33とがずれているか判定する。
分割領域生成部19は、少なくとも1つの分割領域34を生成する。分割領域34は、加工予定軌跡31に基づいて定められた加工予定領域33a(具体的には、加工予定軌跡31に囲まれたワークw1の領域)を含む領域である。
類似形状検索部20は、分割領域生成部19によって生成された分割領域34に類似している領域を差分画像(後述する差分画像f4)の中から検索する。
代表点抽出部21は、分割領域生成部19によって生成された分割領域34に含まれる加工予定領域33a(本実施の形態では、加工形状)の機械座標系における重心座標である代表点と、特定領域35に含まれる加工済領域33bの画像座標系における重心座標である代表点とを抽出する。
射影行列算出部22は、レーザ加工システム100における重畳位置補正を行うための射影行列(後述する射影行列H)を算出する。
レーザ加工機2は、レーザを発射する加工ヘッド2aと、加工ヘッド2aを制御する加工制御部2bとを有する。加工ヘッド2aは、レーザの発射口である。加工制御部2bは、加工予定軌跡31に従って加工ヘッド2aを移動させることができる。
記憶装置3には、加工予定軌跡31と、射影行列32とが格納されている。
加工予定軌跡31は、予め定められたデータであり、機械座標系における加工予定である加工位置を示す。
射影行列32は、機械座標系と画像座標系との間で射影変換を行うためのデータ(行列)であり、チェッカボード等の指標を用いて予め求められたレーザ加工機2における機械座標系とカメラ11(すなわち、カメラ画像)における画像座標系との間の相関関係を示す。
次に、レーザ加工システム100における重畳位置補正方法について説明する。
図8は、レーザ加工システム100における重畳位置補正方法の一例を示すフローチャートである。
ステップS1では、加工が行なわれる前にカメラ11がワークw1を撮影し、画像取得部12は画像フレームf1を取得する。
ステップS2では、レーザ加工機2が加工予定軌跡31に基づいてワークw1を加工する。具体的には、加工制御部2bが加工予定軌跡31に基づいて加工ヘッド2aを制御し、ワークw1が加工される。例えば、ワークw1に、楕円形、星形、十字形、及び六角形の4つの加工形状(加工幾何ともいう)に加工した場合、図5に示されるように、ワークw2が得られる。
ステップS3では、カメラ11がワークw2を撮影し、画像取得部12はカメラ画像から画像フレームf2を取得する。
ステップS4では、差分画像生成部16は、画像取得部12から画像フレームf1及び画像フレームf2を取得し、画像フレームf1と画像フレームf2との差分である加工済領域33bを含む差分画像f3を生成する。差分画像f3には、加工跡33及び加工済領域33bのみ(図6に示される例では、4つの加工形状)が示される。
図9は、差分画像生成部16によって正規化された差分画像f4を示す図である。
図6に示される差分画像f3では、加工済領域33b以外の領域の画素値は0であり、加工済領域33bの画素値は0以外の不定値であるため、加工済領域33bの画素値が1になるように正規化する。その結果、図9に示されるように、加工済領域33b以外の領域の画素値は0であり、且つ、加工済領域33bの画素値が1である2値画像が得られる。
ステップS5では、射影変換部13は、加工予定軌跡31について射影変換を行う。すなわち、射影変換部13は、機械座標系に基づく加工予定軌跡31を、式1を用いて画像座標系に基づくデータに変換する。
Figure 0006559377
式1において、x及びyは、カメラ画像内の画像座標系におけるxy平面上の位置を示す。式1において、x及びyは、加工ヘッド2aを制御するための座標系である機械座標系における2次元位置を示す。式において、Hは射影行列32であり、λは任意の実数である。本実施の形態では、射影行列32は3×3の行列であり、予め算出される。
図10は、射影変換が行われた後の画像座標系における加工予定画像を示す図である。
ステップS6では、加工予定画像生成部17は加工予定画像を生成する。具体的には、加工予定画像は、ステップS5で射影変換された加工予定軌跡31aに基づいて、加工予定領域33a内の画素値が1となるように生成され、加工予定領域33a以外の領域の画素値が0となるように生成される。その結果、図10に示される画像フレームf5内に、射影変換が行われた後の加工予定画像が得られる。
ステップS7では、ずれ判定部18は、画像フレームf5内の加工予定画像と差分画像f4とを比較し、加工予定画像(具体的には、画像フレームf5内の加工予定軌跡31a)が差分画像f4(具体的には、差分画像f4内の加工跡33)とずれているか判定する。本実施の形態では、ずれ判定部18は、画像フレームf5内の加工予定画像における各画素の画素値と差分画像f4における各画素の画素値とを互いに同一の座標ごとに比較し、異なる画素値を持つ画素の総数(画素総数)をカウントすることにより、加工予定画像(f5)が差分画像(f4)とずれているかを判定する。
ずれ判定部18は、予め定められたずれ判定閾値よりも画素総数が小さいときに「ずれなし」と判定し、画素総数がずれ判定閾値以上のときに「ずれあり」と判定する。ずれ判定閾値は、例えば、画像フレームf5内の全画素数に対して1%に設定すればよい。
ずれ判定部18が、加工予定軌跡31aが加工跡33とずれていないと判定したとき(ステップS7においてNO)、処理はステップS13に移る。
ずれ判定部18が、加工予定軌跡31aが加工跡33とずれていると判定したとき(ステップS7においてYES)、処理はステップS8に移る。
図11は、画像フレームf6内に生成された分割領域34を示す図である。
ステップS8では、分割領域生成部19は、少なくとも1つの加工予定領域33a(本実施の形態では、少なくとも1つの加工形状)を含む少なくとも1つの分割領域34を生成する。例えば、分割領域生成部19は、画像フレームf5内の各加工形状の外接矩形を求める。これにより、図11に示されるように、画像フレームf6内に、1つの加工形状を含む分割領域34を生成することができる。すなわち、本実施の形態では、4つの分割領域34が生成される。
ステップS8において、互いに外接する複数の分割領域34を形成してもよい。この場合、複数の分割領域34内に2つ以上の加工形状が含まれる。
ステップS9では、類似形状検索処理を行う。具体的には、類似形状検索部20は、加工予定画像の分割領域34に類似している領域を差分画像f4の中から検索し、加工予定画像の分割領域34に類似している領域を特定領域35として取得する。
図12は、類似形状検索処理のフローの一例を示すフローチャートである。
ステップS91では、類似形状検索部20は、加工予定画像の分割領域34内の画像のHuモーメント不変量を計算する。例えば、Huモーメント不変量は、非特許文献である下記文献に記載の方法を用いて計算する。
Ming−Kuei HU. “Visual Pattern Recognition by Moment Invariants” IRE TRANSACTIONS ON INFORMATION THEORY,vol.IT−8,pp179−187, 1962.
Huモーメント不変量は、画像内の任意の領域に対して計算でき、ある形状が示された画像と、その形状をスケール変更し、回転させ、又は並行移動させた画像との間で不変という特徴を持つ。
ステップS92では、類似形状検索部20は、分割領域34と同じサイズを持つ領域で、なおかつステップS91で得られたHuモーメント不変量に最も近いHuモーメント不変量を持つ差分画像f4内の領域を特定し取得する。具体的には、分割領域34と同じサイズを持つ領域を差分画像f4内で1ピクセルずつ移動させ、領域を移動させる度にHuモーメント不変量を求め、加工予定画像の分割領域34のHuモーメント不変量と差分画像f4内で求められたHuモーメント不変量との差のノルムが最も小さい領域を特定する。
ステップS93では、ステップS92で得られた差分画像f4内の領域を、特定領域35として取得し保存する。
図13は、差分画像f4内の特定領域35を示す図である。
ステップS91からS93までの処理を、加工予定画像の分割領域34の各々について行う。これにより、本実施の形態では、図13に示されるように、4つの特定領域35が得られる。
ステップS10では、代表点抽出処理を行う。具体的には、代表点抽出部21は、分割領域34に含まれる加工予定領域33a(本実施の形態では、加工形状)の機械座標系における重心座標である代表点と、特定領域35に含まれる加工済領域33bの画像座標系における重心座標である代表点とを抽出する。
図14は、代表点抽出処理の一例を示すフローチャートである。
ステップS101では、代表点抽出部21は、差分画像f4内の1つの特定領域35に対応する分割領域34に含まれる加工予定領域33aの重心座標を計算する。具体的には、代表点抽出部21は、差分画像f4内の1つの特定領域35に対応する分割領域34(すなわち、特定領域35と類似する分割領域34)に含まれる加工予定領域33a内の全ての機械座標(すなわち、機械座標系における座標)の平均を計算することにより重心座標を抽出することができる。
ステップS102では、代表点抽出部21は、差分画像f4の特定領域35(すなわち、ステップS101で用いた特定領域35)に含まれる加工済領域33bの重心座標を計算する。具体的には、代表点抽出部21は、特定領域35内において画素値が1である加工済領域33b内の全ての画像座標(すなわち、画像座標系における座標)の平均を計算することにより重心座標を抽出することができる。
ステップS103では、ステップS101及びS102で得られた重心座標、すなわち、2つの重心座標を、代表点として保存する。
図15は、代表点のセットを模式的に示す図である。
ステップS101からS103までの処理を、各特定領域35及び各特定領域35に対応する分割領域34について行う。これにより、特定領域35の数と同じ数の代表点のセットg1,g2,g3,及びg4が得られる。本実施の形態では、図15に示されるように、4組の代表点のセットg1,g2,g3,及びg4が得られる。
ステップS11では、射影行列算出部22は、機械座標系における重心座標と画像座標系における重心座標とを用いて、機械座標系と画像座標系との間における射影変換を行うための射影行列H(言い換えると、重畳位置補正を行うための射影行列H)を算出する。具体的には、ステップS10で得られた代表点のセットg1,g2,g3,及びg4を上記式1に代入することにより射影行列Hを得ることができる。射影行列32の自由度は8であるため、射影行列Hを得るためには少なくとも4組の代表点のセットが必要である。
ステップS12では、ステップS11で得られた射影行列Hを記憶装置3に保存する。すなわち、射影行列32を新たな射影行列(すなわち、ステップS11で得られた射影行列H)に更新する。これにより、重畳位置補正を行うための補正された射影行列を得ることができる。
図16は、画像フレームf7内のワークw1に重畳された、補正された加工予定軌跡31bを示す図である。
ステップS13では、重畳表示部14は、機械座標系における加工予定軌跡31を、ステップS12で得られた射影行列を用いて画像座標系における加工予定軌跡31bに変換し、新たな加工予定軌跡31bを画像フレームf7内においてワークw1に重畳させるように表示機15に表示させる。これにより、重畳位置補正を行う前に用いた加工予定軌跡31が補正され、ワークw1に重畳されるべき位置に新たな加工予定軌跡31bが重畳される。さらに、重畳表示部14は、画像フレームf7を表示機15に表示させることができる。
レーザ加工機2(具体的には、加工制御部2b)は、新たな加工予定軌跡31bに従って加工を行うことができる、さらに、ユーザは、表示機15に表示された新たな加工予定軌跡31bを確認することができる。したがって、ユーザは、表示機15に表示された新たな加工予定軌跡31bを見ながらレーザ加工機2の動作を監視及び制御することができる。
以上に説明したように、本実施の形態によれば、加工予定軌跡31と加工跡33とを用いてワークw1に重畳されるべき加工予定軌跡の位置を補正するので、加工を行う度にチェッカーパターンなどを用いた補正を行う必要がなく、簡易な方法で重畳位置補正を行うことができる。
さらに、本実施の形態によれば、丸などの局所特徴量ではなく、加工跡33及び加工済領域33bなどの形状特徴量を用いて重畳位置補正を行うので、検知しにくい加工跡33及び加工済領域33bでも、加工予定軌跡(具体的には、ステップS7で用いられる加工予定軌跡31a)と加工跡33とのずれの判定(ステップS7)の精度を高めることができ、重畳位置補正の精度を高めることができる。
図17は、重畳位置補正装置1の具体的なハードウェア構成の一例を示すブロック図である。
上述の実施の形態で説明した画像取得部12、射影変換部13、重畳表示部14、差分画像生成部16、加工予定画像生成部17、ずれ判定部18、分割領域生成部19、類似形状検索部20、代表点抽出部21、及び射影行列算出部22の機能は、CPU(Central Processing Unit)などのプロセッサによって実現することができる。上述の実施の形態で説明した分割領域34、特定領域35、及び重心座標などの種々のデータは、メモリ1bに格納することができる。図1に示される記憶装置3は、重畳位置補正装置1内のメモリ1bであってもよい。この場合、加工予定軌跡31、射影行列32などのデータは、メモリ1bに格納される。ネットワークインタフェース1cは、レーザ加工機2及び記憶装置3と通信可能に接続される。カメラ1fは、図1に示されるカメラ11に対応し、表示機1eは、図1に示される表示機15に対応する。カメラ1fは、表示機インタフェース1dを介して表示機1eに接続されており、カメラ画像が表示機1eに表示される。
1 重畳位置補正装置、 1a プロセッサ、 1b メモリ、 1c ネットワークインタフェース、 1d 表示機インタフェース、 1e 表示機、 1f カメラ、 2 レーザ加工機、 2a 加工ヘッド、 2b 加工制御部、 3 記憶装置、 11
カメラ、 12 画像取得部、 13 射影変換部、 14 重畳表示部、 15 表示機、 16 差分画像生成部、 17 加工予定画像生成部、 18 ずれ判定部、 19 分割領域生成部、 20 類似形状検索部、 21 代表点抽出部、 22 射影行列算出部、 31,31a,31b 加工予定軌跡、 32 射影行列、 33 加工跡、 33a 加工予定領域、 33b 加工済領域、 f1 画像フレーム(第1の画像フレーム)、 f2 画像フレーム(第2の画像フレーム)、 f3,f4 差分画像、 w1,w2 ワーク。

Claims (10)

  1. 加工対象であるワークの画像を含む第1の画像フレームと、加工された前記ワークの画像を含む第2の画像フレームとを取得する画像取得部と、
    前記画像取得部から前記第1の画像フレーム及び前記第2の画像フレームを取得し、前記第1の画像フレームと前記第2の画像フレームとの差分である加工済領域を含む画像である差分画像を生成する差分画像生成部と、
    前記ワークに重畳される予め定められた加工予定軌跡に基づく加工予定画像を生成する加工予定画像生成部と、
    前記予め定められた加工予定軌跡に基づいて定められた前記ワークの加工予定領域を含む少なくとも1つの分割領域を生成する分割領域生成部と、
    前記分割領域に類似している領域を前記差分画像の中から検索し、前記分割領域に類似している領域を特定領域として取得する類似形状検索部と、
    前記分割領域に含まれる前記加工予定領域の機械座標系における重心座標と、前記特定領域に含まれる前記加工済領域の画像座標系における重心座標とを抽出する代表点抽出部と、
    前記機械座標系における重心座標と前記画像座標系における重心座標とを用いて前記機械座標系と前記画像座標系との間における射影変換を行うための射影行列を算出する射影行列算出部と、
    前記機械座標系における前記予め定められた加工予定軌跡を、前記射影行列を用いて前記画像座標系における新たな加工予定軌跡に変換する重畳表示部と
    を備えることを特徴とする重畳位置補正装置。
  2. 前記加工予定画像と前記差分画像とを比較し、前記加工予定画像が前記差分画像とずれているか判定するずれ判定部とをさらに備えることを特徴とする請求項1に記載の重畳位置補正装置。
  3. 前記ずれ判定部は、前記加工予定画像における各画素の画素値と前記差分画像における各画素の画素値とを互いに同一の座標ごとに比較し、前記加工予定画像が前記差分画像とずれているかを判定する請求項2に記載の重畳位置補正装置。
  4. 前記ずれ判定部が、前記加工予定画像が前記差分画像とずれていると判定したときに、前記分割領域生成部は、前記少なくとも1つの分割領域を生成することを特徴とする請求項3に記載の重畳位置補正装置。
  5. 前記少なくとも1つの分割領域は4つの分割領域を含むことを特徴とする請求項4に記載の重畳位置補正装置。
  6. 前記類似形状検索部は、前記分割領域内の画像のHuモーメント不変量を計算し、前記分割領域と同じサイズを持つ領域で、なおかつ前記Huモーメント不変量に最も近いHuモーメント不変量を持つ前記差分画像内の領域を前記特定領域として取得することを特徴とする請求項1から5のいずれか1項に記載の重畳位置補正装置。
  7. 前記代表点抽出部は、前記加工予定領域内の前記機械座標系における全ての座標である機械座標の平均を計算することにより前記機械座標系における重心座標を抽出し、前記加工済領域内の前記画像座標系における全ての座標である画像座標の平均を計算することにより前記画像座標系における重心座標を抽出することを特徴とする請求項1から6のいずれか1項に記載の重畳位置補正装置。
  8. 表示機をさらに備え、
    前記重畳表示部は、前記新たな加工予定軌跡を、前記第1の画像フレーム内において前記ワークに重畳させるように前記表示機に表示させることを特徴とする請求項1から7のいずれか1項に記載の重畳位置補正装置。
  9. 前記ワークを撮影するカメラをさらに備えることを特徴とする請求項1から8のいずれか1項に記載の重畳位置補正装置。
  10. 加工対象であるワークの画像を含む第1の画像フレームと、加工された前記ワークの画像を含む第2の画像フレームとを取得するステップと、
    前記第1の画像フレーム及び前記第2の画像フレームを取得し、前記第1の画像フレームと前記第2の画像フレームとの差分である加工済領域を含む画像である差分画像を生成するステップと、
    前記ワークに重畳される予め定められた加工予定軌跡に基づく加工予定画像を生成するステップと、
    前記予め定められた加工予定軌跡に基づいて定められた前記ワークの加工予定領域を含む少なくとも1つの分割領域を生成するステップと、
    前記分割領域に類似している領域を前記差分画像の中から検索し、前記分割領域に類似している領域を特定領域として取得するステップと、
    前記分割領域に含まれる前記加工予定領域の機械座標系における重心座標を抽出するステップと、
    前記特定領域に含まれる前記加工済領域の画像座標系における重心座標を抽出するステップと、
    前記機械座標系における重心座標と前記画像座標系における重心座標とを用いて前記機械座標系と前記画像座標系との間における射影変換を行うための射影行列を算出するステップと、
    前記機械座標系における前記予め定められた加工予定軌跡を、前記射影行列を用いて前記画像座標系における新たな加工予定軌跡に変換するステップと
    を備えることを特徴とする重畳位置補正方法。
JP2019502378A 2017-03-02 2017-03-02 重畳位置補正装置及び重畳位置補正方法 Active JP6559377B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/008240 WO2018158903A1 (ja) 2017-03-02 2017-03-02 重畳位置補正装置及び重畳位置補正方法

Publications (2)

Publication Number Publication Date
JPWO2018158903A1 JPWO2018158903A1 (ja) 2019-07-11
JP6559377B2 true JP6559377B2 (ja) 2019-08-14

Family

ID=63369833

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019502378A Active JP6559377B2 (ja) 2017-03-02 2017-03-02 重畳位置補正装置及び重畳位置補正方法

Country Status (5)

Country Link
US (1) US11049268B2 (ja)
JP (1) JP6559377B2 (ja)
CN (1) CN110325318B (ja)
DE (1) DE112017006976B4 (ja)
WO (1) WO2018158903A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10846838B2 (en) * 2016-11-25 2020-11-24 Nec Corporation Image generation device, image generation method, and storage medium storing program
JP7265433B2 (ja) 2019-07-09 2023-04-26 株式会社キーエンス レーザ加工装置
CN110834155A (zh) * 2019-12-23 2020-02-25 雷科股份有限公司 Aoi应用在激光蚀薄铜线圈的方法及其设备
CN111922437B (zh) * 2020-08-11 2022-02-15 上海柏楚电子科技股份有限公司 板材排样的检测方法、装置、系统、电子设备及存储介质
CN113971661A (zh) * 2021-10-26 2022-01-25 深圳市创客工场科技有限公司 加工控制方法、装置及设备
CN114211168A (zh) * 2022-02-21 2022-03-22 江苏天健智能装备制造有限公司 一种基于图像相减的平面焊缝轨迹纠偏的方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5172326A (en) 1990-03-19 1992-12-15 Forcam, Incorporated Patterned web cutting method and system for operation manipulation of displayed nested templates relative to a displayed image of a patterned web
GB9216643D0 (en) 1992-08-05 1992-09-16 Univ Loughborough Automatic operations on materials
JP2002160080A (ja) * 2000-11-28 2002-06-04 Hitachi Via Mechanics Ltd レーザ加工方法および加工装置
JP2002239877A (ja) * 2001-02-14 2002-08-28 Matsushita Electric Ind Co Ltd 穴加工位置補正方法、穴加工位置補正装置、およびレーザ加工装置
JP4571763B2 (ja) * 2001-07-18 2010-10-27 株式会社新川 画像処理装置、およびボンディング装置
JP4088232B2 (ja) * 2003-10-07 2008-05-21 株式会社新川 ボンディング方法、ボンディング装置及びボンディングプログラム
JP4749092B2 (ja) * 2005-02-28 2011-08-17 パナソニック電工Sunx株式会社 レーザ加工方法、並びにレーザ加工装置
DE102007016056B4 (de) 2007-04-03 2011-08-25 Sauer GmbH LASERTEC, 87437 Verfahren und Vorrichtung zur Werkstückeinmessung und Werkstückbearbeitung
JP4636064B2 (ja) * 2007-09-18 2011-02-23 ソニー株式会社 画像処理装置および画像処理方法、並びにプログラム
JP5263877B2 (ja) 2008-10-22 2013-08-14 アイセル株式会社 混合装置及び混合システム
JP5288987B2 (ja) * 2008-10-21 2013-09-11 三菱電機株式会社 レーザ加工装置
JP5620890B2 (ja) * 2011-08-15 2014-11-05 小池酸素工業株式会社 切断方法及び切断装置
JP5626911B2 (ja) * 2011-11-30 2014-11-19 トリニティ工業株式会社 車両内装部品用のレーザー加飾装置及び方法
JP5338890B2 (ja) 2011-12-15 2013-11-13 Jfeスチール株式会社 レーザ溶接の溶接位置検出装置および溶接位置検出方法
JP5947869B2 (ja) 2014-05-09 2016-07-06 株式会社アマダホールディングス 複合加工システム、複合加工機、及び加工原点補正方法

Also Published As

Publication number Publication date
CN110325318A (zh) 2019-10-11
DE112017006976B4 (de) 2023-06-01
DE112017006976T5 (de) 2019-10-10
WO2018158903A1 (ja) 2018-09-07
US20190385318A1 (en) 2019-12-19
CN110325318B (zh) 2021-03-02
JPWO2018158903A1 (ja) 2019-07-11
US11049268B2 (en) 2021-06-29

Similar Documents

Publication Publication Date Title
JP6559377B2 (ja) 重畳位置補正装置及び重畳位置補正方法
US7336814B2 (en) Method and apparatus for machine-vision
JP2012254518A (ja) ロボット制御システム、ロボットシステム及びプログラム
EP3300025B1 (en) Image processing device and image processing method
KR101510206B1 (ko) 항공 하이퍼스펙트럴 영상을 이용한 수치지도 수정 도화용 도시변화지역의 탐지 방법
JP2015211363A (ja) 表示制御装置、表示制御方法および表示制御プログラム
JP2006065429A (ja) 撮影画像の変化抽出装置及び方法
CN115063768A (zh) 三维目标检测方法、编码器及解码器
JP2020148625A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP6037134B2 (ja) 特徴点対応付けシステム、特徴点対応付け方法、およびプログラム
JP2018176185A (ja) 変形加工支援システムおよび変形加工支援方法
CN111524086B (zh) 运动物体检测装置、运动物体检测方法、存储介质
JP2012008657A (ja) 物体形状生成装置及び方法
KR20010055957A (ko) 증강현실 기반의 3차원 트래커와 컴퓨터 비젼을 이용한영상 정합 방법
JP5365408B2 (ja) 移動体認識装置、移動体認識方法及びプログラム
KR20050063991A (ko) 영상 피라미드를 이용한 영상정합 처리방법 및 장치
CN117670939B (zh) 多相机的多目标跟踪方法、装置、存储介质及电子设备
KR100792172B1 (ko) 강건한 대응점을 이용한 기본행렬 추정 장치 및 그 방법
JP2006113832A (ja) ステレオ画像処理装置およびプログラム
WO2018096669A1 (ja) レーザ加工装置、レーザ加工方法、及びレーザ加工プログラム
JP5217917B2 (ja) 物体検知追跡装置,物体検知追跡方法および物体検知追跡プログラム
JP6188601B2 (ja) 変化検出装置、方法及びプログラム
JP6170696B2 (ja) 画像処理装置及び画像処理方法
JP2013254300A (ja) 画像処理方法
Shah et al. Recognition and identification the position and location of tooth saw butt joint shape

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190220

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190220

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190618

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190716

R150 Certificate of patent or registration of utility model

Ref document number: 6559377

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250