以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。
(第1の実施形態)
図1は、第1の実施形態の荷役システムの構成の一例を示す図である。図2は、第1の実施形態のセンサ装置の超音波送信素子及び超音波受信素子の配置例を示した図である。
図1に示すように、荷役システム1は、荷役装置10と、センサ装置20と、カメラ30と、フレーム40と、を備える。また、荷役装置10は、移動装置50と、制御装置60と、を備える。また、センサ装置20、カメラ30、および制御装置60は、荷役制御装置70を構成している。ここで、制御装置60と、カメラ30、センサ装置20および移動装置50とは、例えば、シリアルケーブルやLAN(Local Area Network)等を介して接続される。
以下の説明において、本実施形態の荷役システム1における上下方向とは、例えば、下方向は、重力が向かう方向ベクトルを含んでおり、上方向は、当該下方向と反対方向であって、荷役装置10が物品W1を持ち上げる方向とする。
荷役装置10は、パレット2の上面2a上に載置された物品W1を目的地(不図示)に荷役(移動)するための装置である。本実施形態の目的地は、物品W1の移動先であればよく、例えばコンベアが考えられる。パレット2は、フレーム40が設置された床面Gに配置されている。すなわち、パレット2は、フレーム40を基準として規定の位置に位置されており、当該規定の位置に位置されたパレット2の上面2aの全領域が、物品W1の載置領域R1である。パレット2は、載置部の一例である。なお、載置部(載置領域R1)は、これに限定されない。載置部(載置領域R1)は、例えば、床面G等に設けられていてもよい。床面Gは、水平方向に広がっている。載置領域R1には、複数の物品W1が載置されうる。物品W1は、例えば、ペットボトル、段ボール等の箱等である。本実施形態においては、1以上の物品W1を含む複数の荷物を指す場合に、物品群Wという。パレット2は、フォークリフト等により、移動される。物品W1は、対象物や荷物等とも称される。
フレーム40は、四角枠状の下枠部材41と、四角枠状の上枠部材42と、四つ(複数)の柱部材43と、を有する。なお、図1では、四つの柱部材43のうち二つが示されている。下枠部材41は、床面Gに固定されている。上枠部材42は、下枠部材41の上方に設けられている。四つの柱部材43は、下枠部材41の四つの角部と上枠部材42の四つの角部とを接続している。下枠部材41内の床面Gにパレット2が配置されている。すなわち、パレット2は、フレーム40内に配置されている。
カメラ30は、パレット2の上方に設けられている。具体的には、カメラ30は、フレーム40の上枠部材42に取付部材(不図示)を介して固定されている。カメラ30は、上枠部材42の枠内の中央部に配置されている。カメラ30は、一例として3Dカメラである。
カメラ30は、パレット2の載置領域R1に載置された物品群Wを上方から撮像し、撮像によって得られた撮像画像を制御装置60に出力する。カメラ30の撮像範囲は、少なくとも物品群Wを含むように設定されている。カメラ30は、物品W1とカメラ30との間の距離を測定可能である。カメラ30は、撮像装置および距離測定装置の一例である。
移動装置50は、パレット2、およびコンベアの周囲に配置されている。
移動装置50は、基台111と、基台111に支持されたアーム部112と、アーム部112の先端に設けられた把持部113と、を備える。
基台111は、床面Gに固定された筐体である。
アーム部112は、一例として多関節ロボットアームである。アーム部112は、把持部113によって保持された物品W1を上下方向に移動する動作、および水平方向に移動する動作を実行可能に構成されている。
例えば、アーム部112は、1軸または2軸回りに回動可能な複数の関節により連結された3つの可動部112a~112dで構成される。可動部112aは、基台111から延出している。可動部112bは、可動部112aから延出している。可動部112cは、可動部112bから延出している。可動部112dは、可動部112cから延出している。以後、可動部112dにおける可動部112c側の端部(基端部)から、可動部112dにおける可動部112cとは反対側の端部(先端部)へ向かう方向を、D1方向とも称する。
アーム部112(可動部112d)の先端には、把持部113が取り付けられている。把持部113は、物品W1を挟み込んで把持する。把持部113は、例えば、ベース部113aと、ベース部113aからD1方向に突出した複数のアーム113bと、を備え、複数のアーム113bによって物品W1を挟み込んで把持する。なお、物品W1の把持は、挟持による把持方法に限定されない。例えば、把持部113は、負圧によって物品W1を吸着把持してもよい。また、把持部113は、2つの物品W1を一度に把持してもよい。なお、把持部113は、把持機構や保持部とも称される。
センサ装置20は、超音波を用いて、例えばエコーロケーション技術等により、物品検出を行う。センサ装置20は、移動装置50の先端部(把持部113)に設けられ、パレット2に載置された物品群Wの上方等から当該物品群Wをセンシングし、そのセンシング結果を制御装置60に出力する。
図2に示すように、センサ装置20は、ハウジング22と、超音波送信素子23(図2)と、超音波受信素子24(図2)と、を有する。ハウジング22は、把持部113のベース部113aの側面に固定されている。超音波送信素子23および超音波受信素子24は、素子群25を構成している。把持部113を有するアーム部112は、超音波送信素子23と超音波受信素子24とを組み合わせた超音波センサユニットの向きを変更可能な駆動機構の一例を示したものとなる。
図2に示すように、超音波送信素子23は、一例として、1個設けられている。超音波送信素子23は、ハウジング22の取付面22aに配置されている。超音波送信素子23は、アンテナ素子によって構成されている。超音波送信素子23は、送信素子の一例である。なお、超音波送信素子23の個数は、上記に限定されない。
超音波受信素子24の個数は、一例として、3個(複数)設けられている。超音波受信素子24は、取付面22aにおいて超音波送信素子23の周囲に配置されている。超音波受信素子24は、超音波送信素子23から送信された超音波の反射波を受信する。超音波受信素子24は、アンテナ素子によって構成されている。超音波受信素子24は、受信素子の一例である。なお、超音波受信素子24の個数は、上記に限定されない。
本実施形態のセンサ装置20は、超音波受信素子24を3個設けることとした。そして、センサ装置20は、超音波送信素子23が送信した超音波の反射波を、3個の超音波受信素子24の各々が受信したタイミングの違いに応じて、センサ装置20と、超音波を反射波として反射させた対象物と、の間の相対的な位置関係を認識できる。
具体的には、センサ装置20は、超音波送信素子23から、物品群Wに含まれる物品W1の上方等から物品W1に対して超音波を送信した場合に、物品W1で反射した反射波を、3個の超音波受信素子24が受信する。そして、センサ装置20は、3個の超音波受信素子24の各々が受信した反射波に基づいて、センサ装置20を基準とした、物品群Wに含まれる物品W1の相対的な位置を検出する。
次に、センサ装置20における超音波の伝搬経路について説明する。
図3は、第1の実施形態のセンサ装置20から送信された超音波の伝搬経路の一例を示す図である。図3中の矢印は、超音波の伝播経路の一例を示す。図3に示すように、例えば、センサ装置20の超音波送信素子23は、パレット2の載置領域R1(図1参照)の方向に対して超音波を送信する。パレット2の載置領域R1に物品W1が存在する場合、超音波送信素子23は、物品W1の斜め上方から物品W1に向けて超音波31を送信することになる。波形33は、超音波31の波の形状を示している。超音波31は、物品W1の上部のエッジ部W1aで反射する。そして、センサ装置20の超音波受信素子24は、エッジ部W1aで反射した反射波32を受信する。波形34は、反射波32の波の形状を示している。反射波32の波形34は、減衰や反射等の影響で、超音波31の波形33と比べて振幅が小さくなる。しかしながら、超音波受信素子24が受信した反射波のうち、エッジ部W1aで反射した反射波32の波形34は、振幅が最も大きい(最も信号強度が大きい)。換言すれば、本実施形態のセンサ装置20は、超音波受信素子24が受信した反射波に基づいて、物品W1のエッジ部W1aを検出できる。
図4は、制御装置60およびセンサ装置20のハードウェア構成の一例を示す図である。図4に示すように、センサ装置20は、超音波送信素子23及び超音波受信素子24の他に、送信制御部301、オペアンプ302、オペアンプ305、混合器306および処理部307等を備える。本実施形態においては、超音波送信素子23及び超音波受信素子24の組み合わせを、超音波センサユニット(送受信部の一例)とも称する。
送信制御部301は、使用する超音波の周波数(超音波波形)に応じた周波数信号を生成して送信する。送信制御部301で生成された周波数信号は、オペアンプ302を介して増幅された後、超音波送信素子23に入力される。また、送信制御部301で生成された周波数信号は、混合器306にも入力される。より具体的には、送信制御部301は、バースト信号またはチャープ信号を超音波送信素子23に送信する。これにより、超音波送信素子23から送信される超音波が、バースト波またはチャープ波となる。送信制御部301は、信号生成部とも称される。
超音波送信素子23および超音波受信素子24は、上述のようにそれぞれアンテナ素子によって構成されている。超音波送信素子23は、周波数信号に応じた超音波(超音波)として送信し、その反射波を超音波受信素子24が受信する。超音波受信素子24で受信された反射波は、オペアンプ302を介して増幅された後、反射波信号として混合器306に入力される。
混合器306は、入力された周波数信号および反射波信号の両信号に対して所定の式に基づいて相関を算出し、処理部307に出力する。相関を算出するための所定の式は、どのような式を用いてもよく、周知の手法による式でもよい。
処理部307は、混合器306から入力される信号を超音波送信素子23(超音波受信素子24)毎に検波した後、検出信号としてセンサインタフェース126に出力することができる。また、処理部307は、CPUがプログラムを実行することにより実現されてもよいし、専用のハードウェアによって構成されてもよい。処理部307は、演算・検波モジュールとも称される。
さらに、処理部307は、超音波受信素子24によって受信された対象物(ある物品W1)からの反射波に基づいて、対象物(ある物品W1)と、当該対象物と隣接した物品W1とがシート状の覆い物B(図1)によってまとめられているかを判定する。なお、処理の詳細は後述する。
上記の構成により、センサ装置20では、センシング範囲内に存在する物品W1をセンシングし、そのセンシング結果を検出信号として制御装置60(センサインタフェース126)に出力する。かかる検出信号は、センシング範囲内に存在する物品W1の上面、側面およびエッジ部W1a等の形状を超音波強度(電波強度)等の測定値で表したものとなる。また、センサ装置20は、処理部307の処理結果を制御装置60に送信する。
図1に戻って、制御装置60は、移動装置50、センサ装置20、およびカメラ30を制御する装置である。すなわち、制御装置60は、荷役システム1全体を制御する装置である。制御装置60は、カメラ30の撮像結果およびセンサ装置20のセンシング結果に基づき、移動装置50の動作を制御する。制御装置60は、移動装置50と一体的に設けられてもよいし、移動装置50と別体として設けられてもよい。
なお、本実施形態では、移動装置50と制御装置60とを荷役装置としたが、これに限らず、移動装置50を荷役装置としてもよい。
次に、上述した制御装置60の構成について説明する。
図4に示すように、制御装置60は、プロセッサ121、表示部122、操作部123、カメラインタフェース124、移動装置インタフェース125、センサインタフェース126、通信部127、および記憶部128を備える。
プロセッサ121は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)等の制御装置である。表示部122は、例えば、液晶ディスプレイ、タッチパネル式ディスプレイ等の表示デバイス(出力装置)によって実現される。操作部123は、キーボードやポインティングデバイス等の入力デバイス(入力装置)によって実現される。なお、操作部123は、表示部122の画面上に設けられるタッチパネルであってもよい。
カメラインタフェース124は、カメラ30と通信可能に接続するインタフェースとする。プロセッサ121は、カメラインタフェース124に接続されたカメラ30を制御する。移動装置インタフェース125は、移動装置50と通信可能に接続するインタフェースとする。プロセッサ121は、移動装置インタフェース125に接続された移動装置50を制御する。センサインタフェース126は、センサ装置20と通信可能に接続するインタフェースとする。プロセッサ121は、センサインタフェース126に接続されたセンサ装置20を制御する。
制御装置60の通信部127は、外部装置と接続するための通信インタフェースである。通信部127は、プロセッサ121の制御の下、外部装置との間で各種データの授受を行う。外部装置としては、例えば、荷役システムを監視する監視装置が考えられる。そして、通信部127は、異常が生じた場合に、監視装置に異常が生じた旨の通知を行う。
記憶部128は、例えば、RAM(Random Access Memory)等の主記憶装置、フラッシュメモリ等の半導体メモリ素子やハードディスク等の補助記憶装置によって実現される。記憶部128は、荷役装置10の動作に係るプログラムや設定情報等を記憶する。また、記憶部128は、移動装置50の上下方向および水平方向の移動限界位置や、アーム部112の可動範囲、把持部113の把持可能な物品W1の寸法の上限および下限等を示した限界情報を記憶する。また、記憶部128は、物品W1のサイズ(寸法)や形状等を示した荷物情報を記憶する。
次に、図5を参照して、制御装置60の機能構成の構成について説明する。ここで、図5は、制御装置60とセンサ装置20の機能構成の一例を示す図である。本実施形態においては、制御装置60のプロセッサ121と、センサ装置20の処理部307と、の組み合わせを、制御部の例として示した場合について説明する。しかしながら、制御部の例を、制御装置60のプロセッサ121と、センサ装置20の処理部307と、の組み合わせに、制限するものではなく、例えば、制御装置60のプロセッサ121のみで実現してもよい。制御装置60のプロセッサ121のみで実現する場合、センサ装置20が備える算出部307a及び物品判定部307bが、プロセッサ121内で実現される。
図5に示すように、制御装置60においては、プロセッサ121が記憶部128に記憶されたプログラムを実行することで、認識部1211、移動制御部1212、出力部1216を機能部として実現する。また、移動制御部1212は、計画部1214、計画実行部1215を含み、計画部1214は、把持決定部1214aを含む。
認識部1211は、カメラ30で撮像された撮像画像を取得する。認識部1211は、カメラインタフェース124を介して撮像画像を直接取得してもよいし、カメラインタフェース124を介して一時的に記憶部128に記憶された撮像画像を取得してもよい。
認識部1211は、取得した撮像画像に基づいて、パレット2上に置かれた物品W1を認識する。例えば、本実施形態の認識部1211は、取得した撮像画像に対して画像処理を行うことで、撮像されている物品の輪郭を抽出し、当該輪郭に基づいて、パレット2上に置かれた物品W1を認識する。なお、本実施形態の認識部1211は、さらに、記憶部128に記憶された荷物情報で示されている物品W1のサイズ(寸法)や形状と、抽出された輪郭と、を比較することで、パレット2上に置かれた物品W1を認識してもよい。さらには、認識部1211は、カメラ30が設けられた位置と、撮像画像に写っている物品W1の位置と、に基づいて、実際の3次元空間上における、パレット2上に置かれた物品W1の位置情報を特定する。物品W1の位置情報には、物品W1のエッジ部W1aの位置情報も含まれている。
そして、認識部1211は、上記の撮像画像に基づいた認識結果を、センサインタフェース126を介して、センサ装置20に送信する。これにより、センサ装置20の処理部307は、認識された物品W1のサイズや形状、位置情報を把握できる。
センサ装置20の処理部307は、例えば、CPU、及びROMやRAM等のメモリの組み合わせで実現してもよい。処理部307は、混合器306から入力される信号を超音波送信素子23(超音波受信素子24)毎に検波するだけではなく、当該CPUが、ROMに格納されているプログラムを読み込み、実行することで、算出部307aと、物品判定部307bと、を実現する。
算出部307aは、混合器306から入力される信号を取得する。算出部307aは、取得した信号に基づいて、物品W1のエッジ部とセンサ装置20との間の距離を算出すると共に、センサ装置20を基準とした物品W1のエッジ部の位置情報を算出する。
算出部307aは、制御装置60から、実際の3次元空間上における、センサ装置20の位置情報を取得する。ところで、制御装置60の移動制御部1212は、アーム部112を制御している。このため、制御装置60の移動制御部1212は、アーム部112を制御した場合に、制御された後のアーム部112の関節毎の角度に基づいて、センサ装置20の位置情報を算出する。移動制御部1212は、算出したセンサ装置20の位置情報を、センサ装置20に送信する。これにより、本実施形態の算出部307aは、制御装置60から、実際の3次元空間上のセンサ装置20の位置情報を取得する。算出部307aは、実際の3次元空間上のセンサ装置20の位置情報と、センサ装置20を基準とした物品W1のエッジ部の位置情報と、に基づいて、実際の3次元空間上における物品W1のエッジ部の位置情報を算出する。
物品判定部307bは、制御装置60から送信された、認識部1211による認識結果に基づいて、パレット2上に置かれた物品W1が複数存在するか否かを判定する。物品判定部307bは、パレット2上に置かれた物品W1が複数存在すると判定した場合に、認識部1211による撮像画像に基づいた認識結果、及び超音波センサユニットによる反射波の受信結果に基づいて、複数の物品W1がシート状の覆い物Bでまとめられているか否かを判定する。
本実施形態の物品判定部307bは、認識結果として撮像画像により認識された複数の物品W1のエッジ部の位置と、反射波の受信結果に基づいて定められる、反射波が反射したエッジ部の位置と、に基づいて、複数の物品W1が、シート状の覆い物Bでまとめられているか否かを判定する。
つまり、複数の物品W1がシート状の覆い物Bでまとめられている場合には、まとめられた複数の物品W1の組み合わせにおけるエッジ部からのみ反射波を受信する。これに対し、複数の物品W1がシート状の覆い物Bでまとめられていない場合には、複数の物品W1の各々のエッジ部から反射波を受信する。
そこで、物品判定部307bは、撮像画像で認識された、複数の物品W1の各々のエッジ部の位置と、反射波が反射した複数の物品W1の各々のエッジ部の位置と、が略一致する場合に、複数の物品W1がシート状の覆い物Bでまとめられていないと判定する。一方、物品判定部307bは、撮像画像で認識された、複数の物品W1の各々のエッジ部に対応する位置に、反射波が反射したエッジ部が存在しない場合に、換言すれば撮像画像と反射波との間で、エッジ部の位置が略一致しない場合に、複数の物品W1がシート状の覆い物Bでまとめられていると判定する。そして、物品判定部307bによる判定結果を、制御装置60の移動制御部1212に送信する。
物品判定部307bは、シート状の覆い物Bでまとめられているか否かを考慮して、認識した物品W1の中から移動対象物を決定する。移動対象物の決定の手法は、例えば、一番上にある物品W1を選定するなど、種々の公知の技術を採用することができる。
計画部1214は、認識部1211による物品W1の認識結果、および物品判定部307bによって決定された移動対象物を示す情報を、受信する。物品W1の認識結果は、一例として、物品群Wに含まれる物品W1の個数と、物品W1の各々の寸法、形状、デザイン、梱包特徴、および積載特徴、位置である。また、物品W1の各々の位置は、パレット2上の水平方向の位置、および高さ方向の位置である。また、物品W1の各々の位置は、把持部113からの相対距離によって表されてもよい。
計画部1214は、認識部1211の認識結果および物品判定部307bの判定結果に基づいて、移動装置50のアーム部112および把持部113の駆動機構を動作させるための行動計画を導出(算出)する。
詳細には、計画部1214の把持決定部1214aは、認識部1211の画像認識結果および物品判定部307bの判定結果に基づいて、把持部113の把持対象物(すなわち移動対象物)の把持位置を決定する。例えば、把持決定部1214aは、覆い物Bによって一つにまとめられている複数の物品W1が移動対象物の場合には、当該一つにまとめられた複数の物品W1のいずれかの位置を把持位置とする。一方、把持決定部1214aは、覆い物Bによって一つにまとめられている複数の物品W1が移動対象物ではなく、物品W1の各々が移動対象物の場合には、移動対象物である物品W1のいずれかの位置を把持位置とする。把持位置は、例えば、アームでつかむタイプのロボットの場合には把持対象物のエッジ部W1aであり、吸着タイプのロボットの場合には把持対象物の中央である。このように、把持の方法に合わせて把持位置を変更してよい。
また、計画部1214は、画像認識結果または判定結果に基づいて、把持対象物を、把持部113が把持可能か否かを判定する。例えば、計画部1214は、物品W1の寸法が、記憶部128に記憶された移動装置50の限界情報に定義された把持部113の把持可能な物品W1の寸法の上限から下限の範囲に含まれない場合に、当該物品W1の把持を回避すると判定する。この場合、計画部1214は、行動計画を導出せずに、把持を回避することを、出力部1216に送出する。また、計画部1214は、把持を回避する対象である物品W1が映り込んだ撮像画像を、出力部1216に送出する。
出力部1216は、計画部1214から物品W1の把持を回避することを通知された場合に、外部装置に把持回避の報知情報を出力する。例えば、出力部1216は、把持回避の理由と、把持回避される物品W1が映り込んだ撮像画像とを、外部装置に出力する。また、計画部1214は、把持回避の理由と、把持回避される物品W1が映り込んだ撮像画像とを、制御装置60の表示部122に表示させてもよい。
計画部1214は、把持対象物を把持部113に把持させると判定した場合は、行動計画を導出し、導出した行動計画を、計画実行部1215に送出する。例えば、計画部1214は、把持対象物に設定された1または複数の物品W1をコンベアまで移動する経路(最短経路)を示した行動計画を導出する。なお、計画部1214は、2つ以上の物品W1を同時に把持して移動させる行動計画を導出してもよい。行動計画の導出の手法は、公知の技術を採用することができる。
計画実行部1215は、計画部1214で導出された行動計画に基づいて、移動装置50の動作(駆動機構)を制御する。例えば、計画実行部1215は、行動計画に基づき移動装置50の動作を制御することで、移動対象物の物品W1を行動計画に示された経路でコンベアまで移動させる。また、行動計画は、計画部1214によって、物品判定部307bによる判定結果と認識部1211による認識結果とに基づいて導出されているため、換言すれば、計画実行部1215は、判定結果と認識結果とに基づいて、物品W1を把持するよう制御する。計画実行部1215の制御対象は、アーム部112および把持部113の駆動機構である。
上述した機能構成により、荷役装置10では、パレット2に置かれた物品W1を、目的地に荷役(移動)させることができる。
次に、荷役システム1が実行する荷役処理の流れを説明する。図6は、第1の実施形態の荷役システム1が実行する荷役処理のフローチャートである。
図6に示すように、認識部1211が移動対象物を決定する(S11)。次に、送信制御部301が周波数信号を超音波送信素子23に送信し、超音波送信素子23が超音波を送信する(S12)。
次に、超音波受信素子24が超音波の反射波を受信し、算出部307aは、センサ装置20から超音波の反射地点までの距離(以後、第1の算出距離とも称する)を算出する(S13)。
算出部307aが実行する、センサ装置20から超音波の反射地点までの第1の算出距離の算出処理(距離算出処理)を、図7~図10を参照して詳細に説明する。図7および図8は、第1の実施形態のセンサ装置20が実行する距離算出処理を説明するための図であって、隣接する複数の物品W1が覆い物Bによって覆われ、一つにまとめられている例を示す図である。図9および図10は、第1の実施形態のセンサ装置20が実行する距離算出処理を説明するための図であって、隣接する複数の物品W1が覆い物Bで覆われておらず、一つにまとめられていない例を示す図である。なお、図1,図7~図10では、隣り合う二つの物品W1が離間した状態が示されているが、実際には隣り合う二つの物品W1は接触していてもよい。また、図7,9において、矢印は、反射波の進行方向の一例を示し、波形状は、反射波の波形を模式的に示している。ここで、覆い物Bは、透明または半透明のビニールシート等である。覆い物Bは、まとめ物、ラッピングシート(シート)、シュリンクフィルム(フィルム)とも称される。
超音波送信素子23によって空気中に送信される超音波すなわち空気中に放射される送信信号をf(t)としたときに、超音波受信素子24は、受信信号(反射波)x(t)を到達時間Tだけ遅れたタイミングで受信する。算出部307aは、超音波受信素子24が受信した受信信号(反射波)x(t)に対して、送信信号f(t)との相関をとることで、超音波の反射地点を算出する。
算出部307aは、相関値が、設定された閾値以上の場合に、超音波送信素子23から送信された送信信号の反射波を超音波受信素子24が受信したと判定する。送信信号の送信時から相関値のピーク地点までの時間に音速を乗算した値の半分が超音波受信素子24から超音波の反射地点までの第1の算出距離となる。
算出部307aは、3個の超音波受信素子24でそれぞれ受信した受信信号に対して、送信信号との相関値を算出して、超音波受信素子24から反射地点までの第1の算出距離を算出する。
ここで、超音波の波長に対して物品W1の表面の凹凸は十分に小さいため、物品W1の表面では、超音波は、鏡面反射(正反射)する。このため、物品W1の斜め上方から送信された超音波における、センサ装置20が受信する物品W1からの反射波は、物品W1のエッジ部W1aで反射した信号となる。これは、物品W1が覆い物Bによって覆われた場合も同様である。
このように、センサ装置20で受信できる反射波は、物品W1のエッジ部W1aや覆い物Bのエッジ部Baでの反射波となる。このため、図7,8に示すように、隣接する複数の物品W1が覆い物Bで覆われて一つにまとめられている場合には、超音波受信素子24は、複数の物品W1のうち端に位置する物品W1の外側のエッジ部W1aに対応して形成された覆い物Bのエッジ部Baの反射波のみを受信する。つまり、この場合、超音波受信素子24は、覆い物Bにおける、複数の物品W1のエッジ部W1aのうち互いに隣り合うエッジ部W1a(図8中の領域C中のエッジ部W1a)を覆った部分Bb(図8)の反射波は、超音波受信素子24に到達しない。
一方、図9,10に示すように、隣接する複数の物品W1が覆い物Bで覆われておらず一つにまとめられていない場合には、超音波受信素子24は、複数の物品W1のそれぞれのエッジ部W1aからの反射波を受信する。
図6に戻って、S14にて、算出部307aは、各超音波受信素子24から反射地点迄の各第1の算出距離から、反射位置を算出する。詳細には、3個の超音波受信素子24から反射地点迄の距離がそれぞれ分かるため、算出部307aは、3個の超音波受信素子24のそれぞれの設置位置を中心とし、第1の算出距離を半径とした3個の球の交点の位置を算出する。そして、算出部307aは、算出された3個の球の交点の位置を、反射地点の位置として算出する。
次に、物品判定部307bは、認識部1211によって認識された、移動対象物である物品W1、及び隣接する他の物品W1(以後、隣接物品W1とも称する)のエッジ部W1aの位置と、算出された反射地点の位置と、が一致するか否かを判定する(S15)。物品W1及び隣接物品W1のエッジ部W1aは、認識部1211によって撮像画像データから認識されたものとする。なお、本実施形態では、エッジ部W1aの位置と、算出された反射地点の位置と、が一致するか否かを例に示したが、一致するか否かに制限するものではなく、略一致するか否かを判断できれば良い。例えば、エッジ部W1aの位置と、算出された反射地点の位置と、の類似度が所定の閾値より高いか否かを判断してもよい。
物品W1及び隣接物品W1のエッジ部W1aから反射波を受信した場合、物品W1と隣接物品W1と、が覆い物Bでまとめられていない、換言すれば物品W1と隣接物品W1とは、個別の物品と判定できる。ところで、物品W1及び隣接物品W1のエッジ部W1aは、撮像画像に基づいた認識結果から把握できる。従って、撮像画像に基づいた認識結果である、物品W1及び隣接物品W1のエッジ部W1aの位置から反射波を受信した場合には、覆い物Bでまとめられていないと判定できる。そこで、本実施形態の物品判定部307bは、撮像画像に基づいた認識結果である隣接物品W1のエッジ部W1aの位置と、算出された反射地点の位置とが一致する場合には、物品W1と隣接物品W1と、は個別の物品であると判定する。よって、物品判定部307bは、移動対象物に決定された物品W1と隣接する他の物品W1のエッジ部W1aの位置と、算出された反射地点の位置とが一致すると判定した場合には(S15:Yes)、当該隣接する他の物品W1は個別の物品であると判定する。そして、把持決定部1214aは、当該判定結果に基づいて、S11で決定された移動対象物の把持位置を決定する(S16)。このように、移動対象物が覆い物Bによって一つにまとめられていないと判定された場合、物品W1と、隣接する他の物品W1と、をそれぞれ別の移動対象物として処理される。
一方、物品判定部307bは、移動対象物に決定された物品W1と隣接する他の物品W1のエッジ部W1aの位置と、算出された反射地点の位置とが一致しないと判定した場合には(S15:No)、S18に進む。S18にて、物品判定部307bは、移動対象物に決定された物品W1と隣接物品W1との組み合わせを一つの移動対象物と判断する(S18)。すなわち、この場合、把持決定部1217aは、移動対象物に決定された物品W1と、当該移動対象物に決定された物品W1と隣接する他の物品W1とは、覆い物Bによって覆われて一つにまとめられていると判定し、隣接物品W1を移動対象物に加える。つまり、移動対象物が更新される。
そして、物品判定部307bは、認識結果に基づいて、他に隣接物品W1が存在するか否かを判定する(S19)。他に隣接物品W1が存在すると判定した場合(S19:Yes)、センサ装置20の処理部307は、S18で一つと判断された移動対象物と、他の隣接物品W1と、についてエッジ部を検出し(S20)、再びS15に戻り、S15以降の処理を実行する。
一方、物品判定部307bは、認識結果に基づいて、他に隣接物品W1が存在しないと判定した場合(S19:No)、把持決定部1214aは、当該判定結果に基づいて、S18で一つと判断された移動対象物の把持位置を決定する(S21)。
このように、制御装置60は、移動対象物からの反射波(超音波信号)に基づいて、覆い物Bで複数の物品W1が覆われているか否かを判定できるため、移動対象物の正しい大きさを認識できる。これにより、把持決定部1214aは、移動対象物の適切な把持位置を決定することができる。
S16及びS21の処理の後に、移動制御部1212は、移動対象物を把持部113に把持させて、移動対象物を移動装置50によって移動させる(S17)。そしては、荷役システム1は、S11に戻り、上記の処理を繰り返し実行する。
以上のように、本実施形態では、制御装置60が備える認識部1211及び移動制御部1212と、センサ装置20が備える、算出部307a及び物品判定部307bと、を組み合わせることで、制御部を実現する。当該制御部は、上述した構成を組み合わせることで、パレット2(載置部)に載置された物品W1の撮像画像に基づいて、パレット2に物品W1が複数存在することを認識した場合に、当該認識結果及び超音波センサユニットの反射波の受信結果に基づいて、複数の物品W1がシート状の覆い物Bでまとめられているか否かを判定し、判定結果に基づいて、移動装置50を制御する。よって、本実施形態によれば、複数の物品W1がシート状の覆い物Bによって覆われて覆い物Bによって一つにまとめられている場合であっても、移動対象物の適切な把持位置を決定することができるので、物品W1の移動を良好に行なうことができる。
また、本実施形態では、センサ装置20の超音波センサユニット(送受信部)は、送信波を送信する1個の超音波送信素子23(送信素子)と、反射波を受信する複数個の超音波受信素子24(受信素子)と、を有する。よって、超音波受信素子24が1個の場合と比較して、隣接する複数の物品W1がシート状の覆い物Bによって覆われて覆い物Bによって一つにまとめられているかの判定の精度が向上しやすい。
また、本実施形態では、送信制御部301が、超音波送信素子23を駆動させる際にバースト波またはチャープ波を使用する。バースト波を使用することで、反射波の有無によって物品の有無を判定できるという利点と、センサ装置20の移動速度の算出が容易に実施できるという利点がある。また、特定の周波数のみを送信する安価なセンサ装置20を実現できる。チャープ信号は、送受信可能な周波数帯域の広い超音波センサが必要になるが、対象物までの距離の算出の分解能の向上と、耐雑音性を向上することができる。
(第1の変形例)
第1の実施形態においては、1個の超音波送信素子23と、3個の超音波受信素子24と、を備える例について説明した。しかしながら、超音波送信素子23と超音波受信素子24との配置は、様々な態様が考えられる。そこで、第1の変形例では、第1の実施形態とは異なる、超音波送信素子23と超音波受信素子24との配置例について説明する。図11は、第1の実施形態の第1の変形例におけるセンサ装置の超音波送信素子23と超音波受信素子24との配置例を示した図である。
図11に示すように、本変形例では、超音波送信素子23の個数と超音波受信素子24の個数とが、それぞれ1個である。本変形例は、複数の超音波受信素子24を備えていない。このため、本変形例は、3次元空間上の位置の代わりに、距離に基づいて、覆い物Bで一つにまとめられているか否かを判断する。
上記構成の本変形例では、物品判定部307bは、算出したセンサ装置20から超音波の反射地点までの第1の算出距離と、制御装置60の認識部1211がカメラ30の出力に基づいて算出した、センサ装置20から移動対象物のエッジ部W1aまでの第2の算出距離と、を比較して、隣接する複数の物品W1が覆い物Bで覆われて一つにまとめられているかを判定する。具体的には、物品判定部307bは、第1の算出距離と第2の算出距離とが一致する場合には反射点が存在し、隣接物品W1は個別の物品であると判定する。すなわち、この場合、物品判定部307bは、隣接する複数の物品W1が覆い物Bで覆われて一つにまとめられていないと判定する。一方、物品判定部307bは、第1の算出距離と第2の算出距離とが一致しない場合には、移動対象物に決定された物品W1と、当該移動対象物に決定された物品W1と隣接する他の物品W1とは、覆い物Bによって覆われて一つにまとめられていると判定し、隣接物品W1を移動対象物に加える。つまり、移動対象物が更新される。
以上のように、本変形例では、超音波送信素子23(送信素子)の個数と超音波受信素子24(受信素子)の個数が、それぞれ1個である。よって、超音波送信素子23と超音波受信素子24で構成される超音波センサユニットの小型化がしやすい。
なお、上述した実施形態及び本変形例では、超音波送信素子23と超音波受信素子24とが別個に設けられているが、これに限定されない。例えば、一つの超音波素子が、超音波の送受信を行なってもよい。すなわち、一つの超音波素子が、超音波送信素子23と超音波受信素子24とを兼ねてもよい。
(第2の変形例)
次に、第1の実施形態の第2の変形例を説明する。本変形例では、送信制御部301は、センサ装置20とパレット2(載置部)に載置された物品W1との間の距離に応じて、超音波の送信形態を変更する。例えば、送信制御部301は、センサ装置20とパレット2(載置部)に載置された物品W1との間の距離に応じて、超音波の送信信号の長さや送信間隔を変更する。センサ装置20と物品W1との間の距離は、カメラ30によって測定された検出が用いられる。
ここで、センサ装置20と物品W1との間の距離が比較的遠い場合には、センサ装置20が超音波(信号)を送信して物品W1の反射波を受信するまでの超音波の伝搬経路が長いため、当該伝搬距離に応じて送信信号が減衰する。このため、チャープ波を送信する場合には、受信時の信号強度を確保するために、ある一定以上の長さの信号長でセンサ装置20の超音波送信素子23を駆動させる必要がある。
一方、センサ装置20と物品W1との間の距離が比較的近い場合には、伝搬距離が短くなり受信できる信号強度が増加するため、チャープ波を送信する場合には、信号長を短くできる。信号長を短くすることで、反射波から求める相関値のピーク地点を容易に検出でき、センサ装置20から物品W1までの距離の検出精度を向上できる。また、この場合に、超音波(送信信号)を送信する間隔を短くすることで、物品W1の反射波を受信(取得)する回数が増加するので、精度よく反射地点を検出することができる。
以上のように、センサ装置20と物品W1との間の距離が長い程、超音波の送信信号の長さを長くする。
(第2の実施形態)
次に、第2の実施形態を図12~図14を参照して説明する。図12は、第2の実施形態のセンサ装置の超音波送信素子と超音波受信素子との配置例を示した図である。図13は、第2の実施形態の反射波の到来方向の検出方法を説明するための図である。図14は、第2の実施形態の荷役システムが実行する荷役処理のフローチャートである。
図12に示すように、本実施形態では、複数の超音波受信素子24は、第1の直線L1に沿って並べられた複数個の超音波受信素子24Aと、第1の直線L1と交差する第2の直線L2に沿って並べられた複数個の超音波受信素子24Bと、を含む。換言すると、複数の超音波受信素子24は、D2方向に沿って並べられた複数個の超音波受信素子24Aと、D2方向と交差するD3に沿って並べられた複数個の超音波受信素子24Bと、を含む。一例として、第1の直線L1(D2方向)、第2の直線L2(D3方向)、およびD1方向は、互いに直交している。また、第1の直線L1と第2の直線との交点に位置する超音波受信素子24は、超音波受信素子24Aおよび超音波受信素子24Bを兼ねる。また、超音波受信素子24Aの個数および超音波受信素子24Bの個数は、同じである。超音波受信素子24Aは、第1の受信素子の一例であり、超音波受信素子24Bは、第2の受信素子の一例である。なお、本実施形態は、第1の直線L1と、第1の直線L1と交差する第2の直線L2と、に沿って超音波受信素子24を並べる例について説明するが、複数の直線に沿って超音波受信素子24を並べる手法に制限するものではなく、一つの直線に沿って超音波受信素子24を並べてもよい。
算出部307aは、複数の超音波受信素子24の反射波の受信結果に基づいて、センサ装置20を基準とした、超音波の反射地点の位置を算出する。超音波の反射地点とは、上述した実施形態と同様に、反射波が反射するエッジ部の位置とする。以下に、算出部307aによる超音波の反射地点の位置の算出方法を図13を参照して説明する。
本実施形態では、受信信号(反射波)に対して、ビームフォーミング法を用いた演算を実施することで、超音波の反射地点の位置を算出する。図13に示すように、反射波を平面波と仮定した場合に、超音波受信素子24と超音波受信素子24との間の距離d0と音速cを用いて、式(1)より遅延時間t0を求めることができる。角度θとは、複数の超音波受信素子24が直線上に並べられた方向と、複数の超音波受信素子24のうち基準となる超音波受信素子24から目的地までの方向と、の間の角度とする。
t0=d0・SINθ/c ・・・(1)
ビームフォーミング法を用いた演算を行う方向(D2方向、D3方向)ごとに、各超音波受信素子24の遅延時間を求め、各受信信号に対して求めた遅延時間だけ遅延させた信号全てを加算することで、各方向(D2方向、D3方向)にビームフォーミング法を用いて演算した際の受信信号を作成できる。
超音波の反射地点が、センサ装置20の正面に存在しない場合、複数の超音波受信素子24で受信した反射波を示す信号をそのまま加算すると、それぞれの反射波は位相が異なるため、目的の信号を得る事ができない。このため、反射地点に強く反応した反射波を示す信号を算出するためには、超音波受信素子24毎に算出された遅延時間t0を考慮する必要がある。そこで、算出部307aは、超音波受信素子24の各々が受信した反射波を示す信号に対して、超音波受信素子24毎に算出された遅延時間t0を遅延させた後、遅延させた反射波を示す信号を全て加算する。
これにより、反射地点に強く反応した反射波を示す信号を得ることができる。本実施形態においては、算出部307aは、複数の角度θの各々に対応する遅延パターン(角度θ毎の超音波受信素子24の各々の遅延時間の組み合わせ)を備えておく。そして、算出部307aは、複数の超音波受信素子24で受信した反射波を示す信号に対して、複数の遅延パターンを用いて調整することで、反射地点に強く反応する、反射波を示す信号を得られる。そして、算出部307aは、反射地点に強く反応した時に適用された遅延パターンの角度θから、反射地点が存在する方向を認識できる。
そして、算出部307aは、反射地点が存在する方向、及び反射地点までの距離を組み合わせることで、センサ装置20を基準とした、反射地点の位置、換言すれば、反射が反射した(移動対象物の)エッジ部の位置を算出できる。
ビームフォーミングは、超音波受信素子24を直線状に設置した軸の方向しか反射地点が存在する方向を判定できない。このため、本実施形態では、2軸方向を検出(算出)するために、図12に示すような十字状に超音波受信素子24を配置した。超音波受信素子24の個数を増加することで、虚像の低減効果が期待でき、物品W1からの反射波の数が多い場合にそれぞれの反射の分離が容易になるという利点がある。
次に、本実施形態の荷役システム1が実行する荷役処理を図14を参照して説明する。
本実施形態の荷役処理は、図14に示すように、S11~S13の後にS21を行なう。S21にて、物品判定部307bは、受信した受信信号に対してビームフォーミング処理を行い、各方向(D2方向、D3方向)の受信信号を作成し、十字状に配置された超音波受信素子24の2つの配列方向(D2方向、D3方向)でそれぞれ反射波の到来方向、換言すれば反射地点が存在する方向を算出する(S21)。そして、物品判定部307bは、到来時間差を考慮して求めた超音波受信素子24から反射地点までの距離と、算出した反射地点が存在する方向とから、反射地点の位置を算出する(S14)。到来時間差とは、超音波を送信してから受信するまでの超音波受信素子24間の時間差とする。本実施形態の算出部307aは、複数の超音波受信素子24の到来時間の平均に基づいて反射地点までの距離を算出することで、到来時間差を考慮した、反射地点までの距離を算出できる。他の例としては、算出部307aは、特定の超音波受信素子24(例えば、図13において遅延時間t0=0となる超音波受信素子24)が反射波を受信するまでの到来時間に基づいて、反射地点までの距離を算出してもよい。そして、S15以降の処理が行なわれる。
以上のように、本実施形態では、超音波送信素子23と超音波受信素子24とを組み合わせた超音波センサユニット(送受信部)は、第1の直線L1に沿って並べられた複数個の超音波受信素子24A(第1の受信素子)と、第1の直線L1と交差する第2の直線L2に沿って並べられた複数個の超音波受信素子24(第2の受信素子)と、を有する。物品判定部307b(判定部)は、超音波受信素子24Aの反射波の受信結果と超音波受信素子24の反射波の受信結果とに基づいて、センサ装置20に対する反射波の到来方向を検出する。よって、物品W1の位置の検出の精度が向上する。
(第3の実施形態)
上述した実施形態においては、次に、第3の実施形態を図15を参照して説明する。図15は、第3の実施形態の制御装置及びセンサ装置の機能構成の一例を示す図である。なお、第1の実施形態と同じ構成については同一符号を割り当て、説明を省略する。
図15に示すように、本実施形態では、移動制御部1212は、指向性制御部1218を有する。指向性制御部1218は、パレット2に載置された物品W1に向けて超音波が送信されるようにセンサ装置20の向きを制御する。指向性制御部1218は、カメラ30の撮像画像に基づいて、パレット2に載置された物品W1に向けて超音波が送信されるように、移動装置50のアーム部112を制御する。指向性制御部1218は、超音波送信素子23と超音波受信素子24とを組み合わせた超音波センサユニットの向きを変更可能な駆動機構の一例を示したものである。
ここで、一般的に超音波センサは正面方向の感度が高く、側面方向では感度が低下する。このため、超音波センサが物品W1の方向を向いていない場合に、反射波を受信できない可能性がある。この問題に対して、本実施形態では、移動制御部1212の指向性制御部1218が、パレット2に載置された物品W1に向けて超音波が送信されるようにセンサ装置20の向きを制御するので、センサ装置20が反射波を精度よく受信することができる。
なお、把持部113に対するセンサ装置20の姿勢をモータ等の駆動源の駆動力によって変化させる姿勢変化機構を設けてもよい。この場合、指向性制御部1218は、姿勢変化機構の駆動源を制御することにより、パレット2に載置された物品W1に向けて超音波が送信されるようにセンサ装置20の向きを制御してもよい。また、この場合、姿勢変化機構は、把持部113に対してセンサ装置20を回転させる構成であってよい。
以上説明したとおり、上記実施形態によれば、複数の物品W1がシート状の覆い物Bによって覆われて覆い物Bによって一つにまとめられている場合であっても、物品W1の移動を良好に行なうことができる。
上述の各実施形態の制御装置60で実行されるプログラムおよびセンサ装置20で実行されるプログラムは、インストール可能な形式または実行可能な形式のファイルでCD-ROM、フレキシブルディスク(FD)、CD-R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
また、上述の各実施形態の制御装置60で実行されるプログラムおよびセンサ装置20で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上述の各実施形態の制御装置60で実行されるプログラムおよびセンサ装置20で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。また、上述の各実施形態のプログラムを、ROM等に予め組み込んで提供するように構成してもよい。
上述の各実施形態の制御装置60で実行されるプログラムは、上述した各部(取得部、認識部、移動制御部、出力部)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記記憶媒体からプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、取得部、認識部、移動制御部、出力部が主記憶装置上に生成されるようになっている。
上述の各実施形態のセンサ装置20で実行されるプログラムは、上述した各部(距離測定部、位置認識部)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記記憶媒体からプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、距離測定部、位置認識部が主記憶装置上に生成されるようになっている。
なお、上記実施形態では、センサ装置20は、超音波に替えて電波(ミリ波)を送受信して、物品W1を検出してもよい。この場合には、センサ装置20は、超音波送信素子23および超音波受信素子24に替えて、電波送信素子と電波受信素子とを有する。
また、上記実施形態では、物品判定部307b(判定部)がセンサ装置20に設けられた例が示されたが、これに限定されない。例えば、物品判定部307bは、制御装置60に設けられてもよい。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。