[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP4220856B2 - Image capturing apparatus and method for mobile robot using portable terminal device - Google Patents

Image capturing apparatus and method for mobile robot using portable terminal device Download PDF

Info

Publication number
JP4220856B2
JP4220856B2 JP2003294424A JP2003294424A JP4220856B2 JP 4220856 B2 JP4220856 B2 JP 4220856B2 JP 2003294424 A JP2003294424 A JP 2003294424A JP 2003294424 A JP2003294424 A JP 2003294424A JP 4220856 B2 JP4220856 B2 JP 4220856B2
Authority
JP
Japan
Prior art keywords
image
terminal device
mobile terminal
shooting
robot
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003294424A
Other languages
Japanese (ja)
Other versions
JP2005065021A (en
Inventor
陽子 斉藤
浩司 川邊
義秋 坂上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2003294424A priority Critical patent/JP4220856B2/en
Priority to US10/914,338 priority patent/US7756322B2/en
Priority to KR1020040065046A priority patent/KR100583936B1/en
Publication of JP2005065021A publication Critical patent/JP2005065021A/en
Application granted granted Critical
Publication of JP4220856B2 publication Critical patent/JP4220856B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Manipulator (AREA)
  • Image Processing (AREA)
  • Selective Calling Equipment (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Telephonic Communication Services (AREA)
  • Image Analysis (AREA)
  • Toys (AREA)

Description

本発明は、携帯端末機器を用いた移動ロボットの画像撮影装置及びその方法に関するものである。   The present invention relates to an image capturing apparatus for a mobile robot using a mobile terminal device and a method thereof.

従来、予め定められた地点や人物を観測して画像を観測者などに送信するようにしたカメラ付きロボットがあり、また、携帯端末機器によりロボットを遠隔制御するようにしたものもある。   Conventionally, there is a robot with a camera that observes a predetermined point or person and transmits an image to an observer or the like, and there is also a robot that remotely controls the robot by a portable terminal device.

上記携帯端末機器から移動ロボットを操作するものとして、ロボットコントロールサーバと移動ロボット携帯端末機器とをネットワークに接続し、ユーザが携帯端末機器からロボットコントロールサーバを介して移動ロボットに指示を与えるようにしたものがある(例えば、特許文献1参照。)。   The robot control server and the mobile robot mobile terminal device are connected to the network as a device for operating the mobile robot from the mobile terminal device, and the user gives an instruction to the mobile robot from the mobile terminal device via the robot control server. There are some (for example, refer to Patent Document 1).

特開2003−6532号公報(第2−3頁、図1)Japanese Unexamined Patent Publication No. 2003-6532 (page 2-3, FIG. 1)

上記した携帯端末機器から移動ロボットを操作可能にしたものにあっては、上記したようにネットワークに接続されたロボットコントロールサーバを介してロボットを制御するものであり、ロボットに対する動作の制御は、サーバ上でサービス業者が操作用プログラムを用意して行うものである。また、ユーザの端末(自宅のパーソナルコンピュータなど)で各移動ロボットを操作する例も記載されているが、この場合にはステージの上方からカメラで全体を撮影し、これをユーザの端末に表示するように構成されている。したがって、移動ロボット自体のカメラが、上記操作で使用される訳ではない。また、上記ロボットにはカメラが付いており、そのカメラにより撮影可能にされているが、その画像は、ユーザがロボットの作業の結果を確認するためのものである。   In the above-described mobile terminal device that can operate a mobile robot, the robot is controlled via the robot control server connected to the network as described above. The service provider prepares and executes an operation program. In addition, although an example in which each mobile robot is operated with a user terminal (such as a personal computer at home) is described, in this case, the whole is photographed with a camera from above the stage and displayed on the user terminal. It is configured as follows. Accordingly, the camera of the mobile robot itself is not used in the above operation. The robot is provided with a camera and can be photographed by the camera. The image is for the user to check the result of the robot work.

それに対して、例えば撮影要求者が所持する携帯端末機器から撮影意思を伝えるだけで、ロボットが自ら撮影し、その画像情報から被写体となる人物が画角の中央から大きくずれていたりする場合にロボットから立ち位置などを指示することにより、人物を中心とした好まれる撮影画像が容易に得られるようになり、移動ロボットによる撮影の利用価値が増大する。しかしながら、上記ロボット装置では、ユーザがロボットの移動位置などを指示するものであり、画像が決まるまで作業が繁雑化する、という欠点がある。   On the other hand, for example, if the robot takes a picture of itself by simply telling the photographer the mobile terminal device possessed by the photographer, and the person who is the subject deviates greatly from the center of the angle of view from the image information By instructing the standing position from the camera, it is possible to easily obtain a preferred photographed image centered on a person, increasing the utility value of photographing by a mobile robot. However, the above robot apparatus has a drawback that the user instructs the movement position of the robot and the like, and the work becomes complicated until an image is determined.

このような課題を解決して、移動ロボットにより撮影する場合に希望する撮影画像を容易に得ることを実現するために本発明に於いては、撮影要求者が画像表示可能な携帯端末機器(14)を操作し、撮像装置(2・3)を備える移動ロボット(1)が、自律的に移動して人物の画像を撮影しかつ当該撮影された撮影画像を前記携帯端末機器(14)へ送信する携帯端末機器を用いた移動ロボットの画像撮影装置であって、前記移動ロボット(1)が、人物を検出する人物検出手段(2・3・4・6・7)と、人物に近付く制御を行う移動制御手段(10・12)と、撮影の可否を判断する撮影可否判断手段(10・22)と、前記撮像装置(2・3)により撮影した撮影画像から顔画像を切り出す顔画像切り出し手段(2・3・10)と、撮影条件を補正しつつ前記撮像装置(2・3)で撮影を実行する補正撮影実行手段(3・10・12)と、撮影画像を前記携帯端末機器(14)で表示可能な画像信号として送信する画像信号送信手段(13・15)とを有し、かつ前記人物検出手段(2・3・4・6・7)により検出された人物を撮影するべく当該人物に近付き、前記撮影指示者が操作する前記携帯端末機器(14)からの撮影要求信号を受けて前記撮影可否判断手段(10・22)により前記撮影を行うと判断した場合に、前記補正撮影実行手段(3・10・12)により前記撮像装置(2・3)による画角内の所定の範囲内に前記切り出された前記顔画像が位置するようにして撮影し、当該撮影された撮影画像を前記画像信号送信手段(13・15)により前記携帯端末機器に送信するものとした。 In order to solve such a problem and to easily obtain a desired photographed image when photographing with a mobile robot, in the present invention, a portable terminal device (14 ), The mobile robot (1) including the imaging device (2, 3) autonomously moves to take a picture of a person and transmits the taken picture to the portable terminal device (14). An imaging device for a mobile robot using a portable terminal device, in which the mobile robot (1) controls a person detection means (2, 3, 4, 6, 7) for detecting a person and a control for approaching the person. Movement control means (10, 12) to be performed, photographing availability judgment means (10, 22) for judging whether photographing is possible, and face image clipping means for cutting out a face image from a photographed image photographed by the imaging device (2.3) (2 ・ 3 ・ 10), Corrected photographing execution means (3, 10, 12) for performing photographing with the imaging device (2, 3) while correcting the shadow condition, and the photographed image is transmitted as an image signal that can be displayed on the portable terminal device (14). image signal transmission and means (13, 15), and Konzuke-out to the person to be photographed detected person by the person detecting means (2, 3, 4, 6, 7), the imaging instruction to If the user determines to perform the imaging by the imaging possibility determining section said receiving imaging request signal from the mobile terminal device (14) for operating (10, 22), the correction image acquisition execution means (3, 10, 12) by taking as the cut-out the face image within the range where the constant in the angle of view by the imaging device (2, 3) is located, the image signal transmits the photographed image the captured said portable terminal by means (13, 15) It was assumed to be sent to the equipment.

特に、前記ロボット(1)が発話機能を有する音声発生装置(5・6)を有し、前記補正撮影実行手段による前記撮影条件の補正が、前記撮影対象の人物に対して前記音声発生装置(5・6)から発せられる位置修正指示であると良い。また、前記携帯端末機器(14)により撮影開始を指示することや、前記撮影の可否の判断が、予め前記携帯端末機器(14)をサーバ(22)に登録すると共に前記撮影可否判断手段(10・22)と当該サーバ(22)との信号授受により前記携帯端末機器(14)に対応する前記撮影要求者が前記サーバに登録されているか否かを判断して行うものであることや、前記携帯端末機器(14)に前記撮影画像を表示させると共に前記撮影要求者が当該表示された撮影画像を選択した場合に、前記携帯端末機器(14)に対して前記撮影に応じた課金信号を送信すると共に課金処理を行う課金手段(10)をさらに有することや、前記選択画像に合成可能な背景フレームを前記携帯端末機器(14)に送信する背景フレーム送信手段(10・15)と、前記携帯端末機器(14)で選択された背景フレームを前記選択画像と合成した画像を作成する合成画像作成手段(3・10)とを有すると良い。 In particular, the robot (1) has a voice generation device (5, 6) having a speech function, and the correction of the shooting conditions by the corrected shooting execution means is performed on the voice generation device ( The position correction instruction may be issued from 5.6). In addition, instructing the start of shooting by the portable terminal device (14) and determining whether the shooting is possible or not are performed by registering the portable terminal device (14) in the server (22) in advance and the shooting availability determination means (10). 22) by performing signal determination between the server (22) and determining whether or not the photographing requester corresponding to the portable terminal device (14) is registered in the server, When the photographed imager is displayed on the mobile terminal device (14) and the photographing requester selects the displayed photographed image, a billing signal corresponding to the photographing is transmitted to the mobile terminal device (14). And charging means (10) for performing charging processing, and background frame transmitting means (10) for transmitting a background frame that can be combined with the selected image to the portable terminal device (14). 15), it may have a said mobile terminal device (14) composite image creation means for creating an image composed with the selected image selected background frame (3, 10).

あるいは、撮影要求者が画像表示可能な携帯端末機器(14)を操作し、撮像装置(2・3)を備える移動ロボット(1)が、自律的に移動して人物の画像を撮影しかつ当該撮影された撮影画像を前記携帯端末機器(14)へ送信する携帯端末機器を用いた移動ロボットの画像撮影方法であって、前記移動ロボット(1)が、人物を検出しかつ当該人物を撮影するべく当該検出された人物に近付き、前記撮影要求者が操作する前記携帯端末機器(14)からの撮影要求信号を受けた場合に前記撮像装置(2・3)により撮影した撮影画像から顔画像を切り出し、前記撮像装置(2・3)による画角内に前記顔画像が所定の範囲内に位置するように撮影条件を補正しつつ前記撮像装置(2・3)で撮影を実行し、前記撮像装置(2・3)で撮影された撮影画像を前記携帯端末機器(14)で表示可能な画像信号として送信すると良い。 Alternatively, imaging requester operates the image display capable portable terminal (14), a mobile robot Ru an image pickup device (2, 3) (1), capturing vital images of a person to move autonomously A mobile robot image capturing method using a mobile terminal device that transmits the captured image to the mobile terminal device (14), wherein the mobile robot (1) detects a person and captures the person. the approach to the detected person, the face image from the photographed image taken by the image pickup apparatus when receiving the image request signal from the mobile terminal device (14) (2, 3) that the imaging requester operates so as to And taking a picture with the imaging device (2, 3) while correcting the shooting conditions so that the face image is located within a predetermined range within the angle of view by the imaging device (2, 3), Taken with an imaging device (2/3) The captured image may be transmitted as an image signal which can be displayed on the portable terminal device (14).

このように本発明によれば、人物を検出しかつその人物に近付き、撮影要求信号に対して撮影を行うと移動ロボットが判断した場合には、その撮影のフレーミングにおいて人物を所定の位置にする補正を行うべく、例えばロボットが自ら移動して撮影することから、そのようにして補正された撮影画像を得ることができるため、撮影要求者が画面を見ながら細かく調整する手間を省くことができ、移動ロボットによる好適な撮影を容易に行うことができる。また、撮影画像を例えばサーバに送信して保存することにより、撮影要求者は後でサーバにアクセスして撮影画像を取得したりプリントしたりすることを自由に行うことができる。   As described above, according to the present invention, when a mobile robot determines that a person is detected, approaches the person, and shoots in response to the shooting request signal, the person is placed in a predetermined position in the shooting framing. In order to perform correction, for example, the robot moves and shoots by itself, so that it is possible to obtain a photographic image corrected in this way, so that it is possible to eliminate the trouble of making a fine adjustment while looking at the screen. Therefore, it is possible to easily perform suitable shooting by the mobile robot. Further, by transmitting the captured image to, for example, a server and saving it, the requester of imaging can freely access the server later to acquire or print the captured image.

特に、ロボットが音声発生装置により撮影対象の人物に対して立ち位置の修正を指示することにより、ロボット側の位置修正のみならず人物側でも位置修正をすることから、より一層細かな修正を行って撮影することができ、例えば人物と背景との好適な関係を実現した撮影を容易に行うことができる。   In particular, when the robot instructs the person to be imaged to correct the standing position with the sound generator, not only the position correction on the robot side but also the person side corrects the position. For example, it is possible to easily perform shooting that realizes a suitable relationship between a person and a background.

また、携帯端末機器により撮影開始を指示することにより、撮影要求者は撮影開始を自身のタイミングで指示することができ、無駄な撮影を防止することができる。   In addition, by instructing the start of shooting from the mobile terminal device, the shooting requester can instruct the start of shooting at his / her own timing, and wasteful shooting can be prevented.

また、予め撮影指示者をサーバに登録し、撮影要求した撮影指示者がサーバに登録されているか否かを判断して撮影の可否の判断を行うことにより、登録した者だけが撮影指示可能になり、不特定多数の者がロボットに対して撮影指示命令を出して、ロボットの動作が煩雑化してしまうことを防止し得る。   In addition, by registering a shooting instruction person in advance in the server, and determining whether or not the shooting instruction person who requested the shooting is registered in the server and determining whether or not shooting is possible, only the registered person can issue a shooting instruction. Thus, it is possible to prevent an unspecified number of persons from issuing a shooting instruction command to the robot and complicating the operation of the robot.

さらに、選択画像を決定した場合に携帯端末機器に対して撮影に応じた課金信号を送信すると共に課金処理を行う課金手段を設けることにより、ロボットにより撮影したその場で撮影結果及びそれに伴う課金を確認することができ、特に複数枚選択した場合などの課金状態を容易に知ることができ、取り扱い性が良い。   In addition, when a selected image is determined, a charging signal corresponding to shooting is transmitted to the mobile terminal device and a charging unit for performing charging processing is provided, so that the shooting result and the charging associated therewith can be performed on the spot shot by the robot. It is possible to confirm, particularly the charging status when a plurality of sheets are selected, and the handling is good.

また、選択画像に合成可能な背景フレームを携帯端末機器に送信すると共に、選択された背景フレームを選択画像と合成することにより、撮影画像に変化をもたせることができ、より多様な撮影ニーズに対応し得る。   In addition, a background frame that can be combined with the selected image is sent to the mobile terminal device, and the selected background frame is combined with the selected image so that the captured image can be changed to meet a wider variety of shooting needs. Can do.

以下、本発明の実施の形態を、図面を参照しながら説明する。図1は、本発明が適用された全体システム図である。なお、本図示例における移動ロボット1にあっては二足歩行型として以下に示すが、二足歩行型に限るものではなく、例えばクローラー式や車輪式であっても良い。図に示されるように、本移動ロボット1には、撮像装置として左右一対のカメラ2及びそれらに接続された画像処理部3と、左右一対のマイク4及びスピーカ5と接続された音声処理部6と、センサ7に接続された個人認証部8と、それら画像処理部3・音声処理部6・個人認証部8と障害物センサ9とが接続された制御部10と、制御部10と接続されたマップデータベース部11と、頭や腕や脚を駆動制御するべく制御部10と接続された駆動部12と、無線LANの送受信用のLAN送受信部13と、携帯端末機器14と送受信を行うための携帯用送受信部15とが設けられている。LAN送受信部13と携帯用送受信部15とは画像信号送信手段として設けられている。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. FIG. 1 is an overall system diagram to which the present invention is applied. The mobile robot 1 in the illustrated example is shown below as a biped walking type, but is not limited to the biped walking type, and may be a crawler type or a wheel type, for example. As shown in the figure, the mobile robot 1 includes a pair of left and right cameras 2 as an imaging device and an image processing unit 3 connected thereto, and an audio processing unit 6 connected to a pair of left and right microphones 4 and a speaker 5. A personal authentication unit 8 connected to the sensor 7, a control unit 10 connected to the image processing unit 3, audio processing unit 6, personal authentication unit 8, and obstacle sensor 9, and a control unit 10. To perform transmission / reception with the map database unit 11, the driving unit 12 connected to the control unit 10 to drive and control the head, arms and legs, the LAN transmission / reception unit 13 for wireless LAN transmission / reception, and the portable terminal device 14. Mobile transceiver 15 is provided. The LAN transmission / reception unit 13 and the portable transmission / reception unit 15 are provided as image signal transmission means.

カメラ2及び画像処理部3、またマイク4及び音声処理部6とにより人物を検出することができる人物検出手段が構成されている。また、人物検出手段としては、センサ7としてRFセンサを用い、撮影要求者に対応する発信器などを渡しておくことで構成しても良い。   The camera 2 and the image processing unit 3, and the microphone 4 and the sound processing unit 6 constitute a person detection means that can detect a person. Further, the person detecting means may be configured by using an RF sensor as the sensor 7 and passing a transmitter or the like corresponding to the photographing requester.

ロボットに対する人からの呼びかけがあれば音量の変化として捉えることができるため、音声処理部6で、マイク4で集音された音量の変化を検出すると共に音源の方向を認識する。例えば左右のマイク4間の音量変化の時間差や音圧差で音源方向を求めることができる。次に、例えば音素の分割やテンプレートマッチングで特定の言葉を音声として認識する。言葉の例としては「おーい。」や「来い。」などが考えられる。音量変化時の音素が言葉のいずれにも該当しなかったり、テンプレートで用意されている言葉と一致しなかったりした場合には音声ではないとして良い。   If there is a call from a person to the robot, it can be grasped as a change in volume, so the voice processing unit 6 detects a change in volume collected by the microphone 4 and recognizes the direction of the sound source. For example, the sound source direction can be obtained from the time difference of the volume change between the left and right microphones 4 or the sound pressure difference. Next, for example, a specific word is recognized as speech by dividing phonemes or by template matching. Examples of words include “Oh.” And “Come.” If the phoneme at the time of volume change does not correspond to any of the words or does not match the words prepared in the template, it may be determined that the sound is not speech.

カメラ2は例えばCCDカメラであって良く、フレームグラバにより画像をデジタル化して取り込んだものを画像処理部3に出力する。画像処理部3では移動体抽出を行う。例えば、音声認識処理により認識された音源の方向にカメラ2を向け、または音声が認識されない場合には任意の方向に首振り運動をして、図2に示されるような移動体を認識したらその抽出を行う。図2(a)ではカメラ2aでの画角16内に人が挨拶として手を振っている状態が撮影された場合であり、図2(b)では手招きしている状態が撮影された場合である。これらの場合には手を動かしている人が移動体として認識される。   The camera 2 may be, for example, a CCD camera, and outputs to the image processing unit 3 a digital image captured by a frame grabber. The image processing unit 3 performs moving body extraction. For example, if the camera 2 is pointed in the direction of the sound source recognized by the voice recognition process, or if the voice is not recognized, the camera 2 swings in any direction and recognizes a moving body as shown in FIG. Perform extraction. 2A shows a case where a person is waving as a greeting in the angle of view 16 of the camera 2a, and FIG. 2B shows a case where a beckoning state is taken. is there. In these cases, a person moving his / her hand is recognized as a moving object.

ここで、移動体抽出処理の一例を示す。例えば動きのあるエッジ点を最も多く含む部分を対象部分としてステレオ視による距離dの検出を行う。この場合、例えば、画像のエッジ情報を用いた動的輪郭抽出により移動体の輪郭を抽出し、連続または任意の間隔の2フレーム間の差分から動いているものを抽出することができる。   Here, an example of the moving body extraction process is shown. For example, the distance d by stereo vision is detected with the portion including the most moving edge points as the target portion. In this case, for example, the contour of the moving object can be extracted by dynamic contour extraction using the edge information of the image, and the moving object can be extracted from the difference between two frames at continuous or arbitrary intervals.

次に、画角(図2の16)内での移動体探索領域を設定する。例えば、距離dを基準に処理対象距離範囲(d±Δd)を設定し、その処理対象距離範囲内に存在する画素を抽出し、図2(a)における縦軸方向の画素数を横軸方向の画素ピッチ毎に計測し、その数が最大となる位置の縦軸方向線を移動体探索領域の中央線Caとする。その中央線Caから距離dに応じて左右に人の肩幅程度の広さを算出し、その算出値に基づいて移動体探索領域の左右方向の境界を設定する。これにより、図2(a)の破線で示されるような移動体探索領域17が設定される。   Next, a moving body search area within the angle of view (16 in FIG. 2) is set. For example, a processing target distance range (d ± Δd) is set based on the distance d, pixels existing in the processing target distance range are extracted, and the number of pixels in the vertical axis direction in FIG. The vertical axis line at the position where the number is the maximum is set as the center line Ca of the moving object search region. From the center line Ca, the width of the person's shoulder width is calculated to the left and right according to the distance d, and the boundary in the left-right direction of the moving object search region is set based on the calculated value. Thereby, the mobile body search area | region 17 as shown with the broken line of Fig.2 (a) is set.

次に、特徴の抽出を行う。この特徴抽出では、パターンマッチングなどを用いて特定のマークや注目点を探索することである。例えば、認識容易な特定のマークを記したワッペンをロボットと対話する人に付けてもらっておき、そのマークを探索することにより対象者に向けての速やかな移動を可能にする。または、人物のロボットを見つけた時の手の動きなどの何種類かのパターンを用意しておき、いずれかのパターンに合うものを探すことにより、人物を認識することができる。   Next, feature extraction is performed. In this feature extraction, a specific mark or attention point is searched using pattern matching or the like. For example, an emblem with a specific mark that is easy to recognize is attached to a person who interacts with the robot, and by searching for the mark, the target person can be moved quickly. Alternatively, it is possible to recognize a person by preparing several types of patterns such as hand movements when a person's robot is found and searching for a pattern that matches one of the patterns.

また、輪郭の抽出を行う。なお、画像情報から対象物(移動体)を抽出する手法としては、画素の特徴量のクラスタリングに基づいた領域分割法や、検出されたエッジを連結させる輪郭抽出法や、予め定義したエネルギーを最小化するように閉曲線を変形させる動的輪郭モデル(Snakes)などを用いることができる。そして、例えば背景との輝度差から輪郭を抽出し、抽出された移動体の輪郭上もしくは輪郭内に存在する点の位置から移動体の重心位置を計算し、ロボットの正面に対する移動体の方向(角度)を求める。また、輪郭を抽出された移動体における各画素の距離情報から移動体までの距離を計算し直し、実空間上での移動体の位置を求める。なお、画角16内に複数人いる場合には、領域の設定を複数人分設定することにより、それぞれに対して上記と同様にして特徴を抽出することができる。   Also, contour extraction is performed. As a method for extracting an object (moving object) from image information, a region segmentation method based on clustering of pixel feature amounts, a contour extraction method for connecting detected edges, or a predetermined energy minimum For example, an active contour model (Snakes) that deforms a closed curve so as to be converted can be used. Then, for example, the contour is extracted from the luminance difference from the background, the position of the center of gravity of the moving object is calculated from the position of the point existing on or within the extracted moving object, and the direction of the moving object relative to the front of the robot ( Angle). Further, the distance to the moving body is recalculated from the distance information of each pixel in the moving body from which the contour has been extracted, and the position of the moving body in the real space is obtained. When there are a plurality of people in the angle of view 16, it is possible to extract features for each of them in the same manner as described above by setting the regions for a plurality of people.

次に、顔画像切り出しの一例を示す。この処理は、カメラ2・画像処理部3・制御部10で構成されて良い顔画像切り出し手段により行うことができる。例えば移動体の上部の小さな部分を顔部分とし、その顔部分から色情報(肌の色)を抽出し、肌色が抽出されたら顔であるとして、その顔の位置を特定することにより、顔の抽出を行う。この場合のカメラ2により撮影された初期画面の一例を図3(a)に示す。   Next, an example of face image clipping will be shown. This processing can be performed by a face image cutout unit that may be configured by the camera 2, the image processing unit 3, and the control unit 10. For example, a small part at the top of the moving body is used as a face part, color information (skin color) is extracted from the face part, and if the skin color is extracted, the face is determined to be a face. Perform extraction. An example of the initial screen shot by the camera 2 in this case is shown in FIG.

例えば図3(b)に示されるように輪郭18が抽出されたとすると、その輪郭18の画面上での最上部となる位置データ(頂部)を頭頂部18aとして位置設定する。これを、画像切り出し手段としての画像処理部3により行うようにして良い。その頭頂部18aを基準点として探索範囲を設定する。探索範囲は、ロボット1からの距離に応じて予め設定されている顔の大きさに相当するサイズを設定しておくと良く、また奥行きに対しても距離に応じた顔の大きさを考慮した範囲とする。   For example, if the contour 18 is extracted as shown in FIG. 3B, the position data (the top) of the contour 18 on the screen is set as the top 18a. This may be performed by the image processing unit 3 as an image cutout unit. A search range is set using the top 18a as a reference point. The search range may be set to a size corresponding to the face size set in advance according to the distance from the robot 1, and the face size according to the distance is also taken into account for the depth. Range.

そして、肌色領域の抽出を行う。肌色領域は、HLS(色相、明度、彩度)空間上でしきい値操作により抽出することができる。なお、顔位置を上記探索範囲内にある肌色領域の重心位置として求めることができ、それによる距離に応じて顔の大きさとして推定し得る顔の処理領域を図4に示されるように楕円モデル19として設定する。   Then, the skin color area is extracted. The skin color region can be extracted by a threshold operation in the HLS (Hue, Lightness, Saturation) space. It should be noted that the face processing area that can be obtained as the barycentric position of the skin color area within the search range and can be estimated as the face size according to the resulting distance is an elliptic model as shown in FIG. 19 is set.

上記したようにして設定された楕円モデル19内で黒丸(瞳)を円形エッジ抽出フィルタで検出することによる眼の抽出を行う。この眼の抽出にあっては、例えば標準的な人物の頭頂部18aから眼までの長さに基づいて所定の広さ(距離に応じた画面上のサイズ)の黒丸探索範囲19aを設定し、その黒丸探索範囲19a内に対して行うことにより、容易に瞳を検出することができる。そして、顔画像の切り出しを行う。顔部分の拡大縮小は瞳の位置データから両眼の間隔を求め、その間隔に基づいて行うことができる。   Eye extraction is performed by detecting a black circle (pupil) with the circular edge extraction filter in the elliptic model 19 set as described above. In this eye extraction, for example, a black circle search range 19a having a predetermined area (size on the screen according to the distance) is set based on the length from the top 18a of the standard person to the eye, By performing the operation within the black circle search range 19a, the pupil can be easily detected. Then, the face image is cut out. The enlargement / reduction of the face portion can be performed based on the distance between both eyes obtained from the pupil position data.

なお、移動体が検出されない場合には、マップデータベース部11に保存されている地図データの参照を行う。それにより、現在地の特定や、予め入力されている進入禁止領域の確認や画像処理領域を決定する。   In addition, when a moving body is not detected, the map data preserve | saved in the map database part 11 are referred. As a result, the current location is identified, the entry prohibition area that has been input in advance and the image processing area are determined.

次に、移動体探索領域内で、パターンマッチングなどを用いて特定のマークや注目点を探索して特徴の抽出を行う。例えば、撮影要求者に、その登録時に認識容易な特定のマークを記したワッペンを付けてもらっておき、そのマークを探索することにより対象者に向けての速やかな移動が可能になる。または、人物のロボットを見つけた時の手の動きなどの何種類かのパターンを用意しておき、いずれかのパターンに合うものを探すことにより、人物を認識することができる。あるいは、センサ7により検出可能な特定の発信器などを所持してもらうようにしても良い。   Next, in the moving object search area, a specific mark or a point of interest is searched using pattern matching or the like to extract features. For example, it is possible to promptly move the subject to the subject by having the photographing requester put on a patch with a specific mark that can be easily recognized at the time of registration, and searching for the mark. Alternatively, it is possible to recognize a person by preparing several types of patterns such as hand movements when a person's robot is found and searching for a pattern that matches one of the patterns. Or you may make it have a specific transmitter etc. which can be detected with the sensor 7.

上記したように構成された自立移動可能なロボット1に対して、信号の授受を行うためのLAN送受信機21がロボット1の上記した移動範囲内の適所に設けられ、そのLAN送受信機21が管理サーバ22と接続されている。   A LAN transmitter / receiver 21 for transmitting / receiving a signal to the autonomously movable robot 1 configured as described above is provided at an appropriate position within the above-described movement range of the robot 1, and the LAN transmitter / receiver 21 manages the LAN 1. The server 22 is connected.

また、携帯端末機器14とロボット1の携帯送受信部15との信号の授受を可能にする携帯基地局23が上記と同様にロボット1の移動範囲内の適所に設けられている。その携帯基地局23には、送受信機23aと制御部23bとが互いに接続されて設けられており、各ユーザがパーソナルコンピュータ24でアクセス可能なインターネットに制御部23bが接続されている。   In addition, a mobile base station 23 that enables transmission / reception of signals between the mobile terminal device 14 and the mobile transceiver 15 of the robot 1 is provided at an appropriate position within the movement range of the robot 1 as described above. The mobile base station 23 is provided with a transmitter / receiver 23 a and a control unit 23 b connected to each other, and the control unit 23 b is connected to the Internet where each user can access the personal computer 24.

また、上記管理サーバ22とは別個にサーバ25が設けられており、そのサーバ25にはコンテンツ用データベース部25aと制御部25bとが互いに接続されて設けられている。その制御部25bもインターネットと接続されている。   Further, a server 25 is provided separately from the management server 22, and a content database unit 25 a and a control unit 25 b are connected to the server 25. The control unit 25b is also connected to the Internet.

次に、本発明に基づくロボット1による撮影要領について示す。例えば遊園地やイベント会場において、ロボット1によりカメラ2で撮像した撮影画像をデジタル写真として入園者や入場者に提供する場合を示す。なお、カメラ2はロボット1における目に相当するものであり、それとは別に手持ちの外部カメラで撮影するようにしても良い。その場合には、外部カメラのデータ出力端子をロボット1に接続し、その画像データを画像処理部3で処理するようにすれば良い。   Next, the photographing procedure by the robot 1 according to the present invention will be described. For example, in an amusement park or event venue, a case where a photographed image taken by the camera 1 with the camera 2 is provided as a digital photograph to a park attendant or a visitor is shown. Note that the camera 2 corresponds to the eye in the robot 1 and may be photographed by a handheld external camera. In that case, the data output terminal of the external camera may be connected to the robot 1 and the image processing unit 3 may process the image data.

また、ロボット1への撮影指示を携帯端末機器14で行うものであり、ロボット1に撮影を指示して撮影してもらうことを希望する撮影要求者(ユーザ)は貸与される画像表示機能付き携帯端末機器14または自身が所有する画像表示機能付き携帯電話のIDコードなどを管理サーバ22に予め登録しておく。ユーザはロボット1の移動可能な範囲(予め特定しておく)に行き、そこで図5に示されるように携帯端末機器14を用いてロボット1に指示を出す。   In addition, the mobile terminal device 14 issues a shooting instruction to the robot 1, and a shooting requester (user) who wants to have the robot 1 take a shot and take a picture is provided with a mobile phone with an image display function. The ID code or the like of the terminal device 14 or a mobile phone with an image display function owned by itself is registered in the management server 22 in advance. The user goes to a range in which the robot 1 can move (specified beforehand), and gives an instruction to the robot 1 using the mobile terminal device 14 as shown in FIG.

なお、図6に専用の携帯端末機器14の例を示す。この携帯端末機器14には、ロボット1による撮影画像及び文字を表示するための画面14aと、複数の操作用キー14bとが設けられている。キー14bのそれぞれには、ロボット1に対して前方や右前方などの移動指示や、画面14aに表示された項目に対して選択するものなどが割り当てられている。なお、携帯端末機器14に一般の携帯電話を用いる場合には、そのテンキーなどに上記各指示ためのキーの割り当てを決めておく。   FIG. 6 shows an example of the dedicated mobile terminal device 14. The mobile terminal device 14 is provided with a screen 14a for displaying images and characters taken by the robot 1, and a plurality of operation keys 14b. Each of the keys 14b is assigned a movement instruction such as forward or right front to the robot 1 or a selection for an item displayed on the screen 14a. When a general mobile phone is used as the mobile terminal device 14, the key assignment for each instruction is determined for the numeric keypad.

図7(a)・(b)はロボット1に対する撮影指示及びロボット1による撮影要領を示すフロー図である。まず、ロボット1は、上記した音声処理や画像処理、あるいは登録時に受け取った発信器に対応するRFセンサ(7)により人物(ユーザ)の検出を行う(ST1)。ユーザを検出したら、ステップST2で、図5の矢印Aに示されるようにユーザに近付く移動制御を行う。この移動制御にあっては、撮影画像の画角内に常に検出された人物が入っているように方向を変えながら移動するようにする。なお、ユーザまでの接近距離の限度を設定しておき、上記距離検出を行いながら接近することにより、ユーザに所定の距離まで近付いたら待機するようにしても良い。   FIGS. 7A and 7B are flowcharts showing shooting instructions for the robot 1 and shooting procedures by the robot 1. First, the robot 1 detects a person (user) by the RF sensor (7) corresponding to the transmitter received at the time of the above-described voice processing, image processing, or registration (ST1). When the user is detected, movement control for approaching the user is performed in step ST2 as indicated by an arrow A in FIG. In this movement control, the movement is performed while changing the direction so that the detected person is always within the angle of view of the captured image. It is also possible to set a limit of the approach distance to the user and wait for the user to approach a predetermined distance by approaching while performing the distance detection.

ユーザは、ロボット1が近付いてくることを視認することができ、適当なタイミングで、ユーザの携帯端末機器14からロボット1aに対する接続要求(撮影要求信号)を送信する(図のU1)。この接続要求信号は、携帯基地局23を介してロボット1の携帯送受信部15で受信したり、または携帯基地局23から管理サーバ22を経由してLAN送受信機21を介してロボット1のLAN送受信部13で受信したりすることができる。ロボット1は、その接続要求信号を携帯送受信部15またはLAN送受信部13で受信したら、その携帯端末機器14に対応する個人データを照会するべく、LAN送受信部13から個人データ要求信号を送信する(ST3)。その個人データ要求信号をLAN送受信機21を介して管理サーバ22が受信したら、管理サーバ22は、例えば携帯端末機器14からの送信信号のヘッダに含まれるIDコードに対応する個人データを、サーバに登録されている個人データベースの中から検索し、その結果を返す。管理サーバ22からの個人データ検索結果は、LAN送受信機21を介して送信され、ロボット1のLAN送受信部13により受信されるようになっている。   The user can visually recognize that the robot 1 is approaching, and transmits a connection request (photographing request signal) to the robot 1a from the user's portable terminal device 14 at an appropriate timing (U1 in the figure). This connection request signal is received by the mobile transceiver 15 of the robot 1 via the mobile base station 23 or from the mobile base station 23 via the management server 22 via the LAN transmitter / receiver 21 via the LAN transceiver 21. It can be received by the unit 13. When the robot 1 receives the connection request signal by the mobile transceiver 15 or the LAN transceiver 13, the robot 1 transmits a personal data request signal from the LAN transceiver 13 to inquire the personal data corresponding to the mobile terminal device 14 ( ST3). When the management server 22 receives the personal data request signal via the LAN transceiver 21, the management server 22 sends, for example, personal data corresponding to the ID code included in the header of the transmission signal from the mobile terminal device 14 to the server. Search the registered personal database and return the result. The personal data search result from the management server 22 is transmitted via the LAN transceiver 21 and received by the LAN transceiver 13 of the robot 1.

ロボット1では、上記個人データ検索結果が管理サーバ22に登録されている個人データであると認識(認証OK)できるか否かを判別し(ST2)、認識できた場合には次のステップST3に進み、不登録個人データであると判断(認識NG)した場合には本フローを終了し、ステップSTST1に戻る。これら管理サーバ22とロボット1の制御部10における認証判断とにより撮影可否判断手段が構成されている。   The robot 1 determines whether or not the personal data search result can be recognized (authentication OK) as the personal data registered in the management server 22 (ST2). If it can be recognized, the process proceeds to the next step ST3. If it is determined that it is unregistered personal data (recognition NG), this flow is terminated, and the process returns to step STST1. The management server 22 and the authentication determination in the control unit 10 of the robot 1 constitute a photographing availability determination unit.

認証OKの場合には、ロボット1からサービス開始の通知を送信する(ST5)。この送信信号は、携帯端末機器14で受信可能な信号として送信され、携帯基地局23を介して携帯端末機器14で受信することができる。そのサービス開始の通知が携帯端末機器14の画面上に表示され(U2)、ユーザは、ロボット1に対して撮影指示可能な状態になったことを確認し得る。なお、接続要求(U1)以降は、携帯端末機器14を携帯基地局23と常時接続可能にしておくものとする。また、送受信信号には認証された個人データを例えばヘッダに含める。これにより、認証された関係が維持され、他の者からのアクセスによる誤動作を防止し得る。   In the case of authentication OK, a service start notification is transmitted from the robot 1 (ST5). This transmission signal is transmitted as a signal receivable by the mobile terminal device 14 and can be received by the mobile terminal device 14 via the mobile base station 23. The service start notification is displayed on the screen of the mobile terminal device 14 (U2), and the user can confirm that the robot 1 can be instructed to shoot. After the connection request (U1), it is assumed that the mobile terminal device 14 can always be connected to the mobile base station 23. The transmitted / received signal includes authenticated personal data in a header, for example. As a result, the authenticated relationship is maintained, and malfunction due to access from another person can be prevented.

ユーザは、ロボット1から撮影可能な範囲に自分が位置していると判断したら、携帯端末機器14の所定のキーを操作して撮影開始の指示を携帯端末機器14から送信する(U3)。または、音声による指示も可能である。上記したようにロボット1の音声処理部6では、音声を認識する言語処理を行うと共に予め登録された語彙を参照するなどしており、音声指示の際の語彙を決めておくことにより、その音声指示を容易に判断可能である。   When the user determines that he / she is located within a range where the robot 1 can shoot, the user operates a predetermined key of the mobile terminal device 14 to transmit a shooting start instruction from the mobile terminal device 14 (U3). Or an instruction by voice is also possible. As described above, the speech processing unit 6 of the robot 1 performs language processing for recognizing speech and refers to pre-registered vocabulary. By determining the vocabulary for speech instruction, the speech processing unit 6 of the robot 1 determines the speech. The instruction can be easily determined.

ロボット1における上記ステップST5の次のステップST6では撮影開始の指示の有無を判別する。開始指示有りと判断したら次のステップST7に進み、撮影開始指示無しと判断した場合にはステップST5に戻り開始指示を待つ。なお、図示していないが、この開始指示待ちに対してタイマを設けて、タイムアップした場合にはステップST1に戻るようにすると良い。このようなフェイルセーフ処理は以後の処理において適宜設けておいて良いものであり、それぞれにおける説明を省略する。   In step ST6 following step ST5 in the robot 1, it is determined whether or not there is an instruction to start shooting. If it is determined that there is a start instruction, the process proceeds to the next step ST7. If it is determined that there is no shooting start instruction, the process returns to step ST5 and waits for a start instruction. Although not shown, it is preferable to provide a timer for waiting for the start instruction and return to step ST1 when the time is up. Such fail-safe processing may be provided as appropriate in the subsequent processing, and description thereof will be omitted.

ステップST7ではカメラ2の撮影時に調整する各種パラメータが現在値のままで適当であるか否かを判別する。パラメータとしては、良好な撮影を実現するためのものであり、逆光や輝度レベルなどである。それらの判断は、撮像素子としてのCCD出力から容易に行うことができる。パラメータが不適当であると判別された場合にはステップST8に進み、そこで不適当であると判断されたパラメータの調整を行い、ステップST7に戻る。パラメータが適当である判断された場合にはステップST9に進む。   In step ST7, it is determined whether or not various parameters to be adjusted at the time of shooting by the camera 2 are appropriate with the current values. The parameters are for realizing good shooting, such as backlight and luminance level. These determinations can be easily made from the CCD output as the image sensor. If it is determined that the parameter is inappropriate, the process proceeds to step ST8, where the parameter determined to be inappropriate is adjusted, and the process returns to step ST7. If it is determined that the parameters are appropriate, the process proceeds to step ST9.

ステップST9では上記したようにして顔の抽出を行い、次のステップST10ではフレーミング調整を行う。このフレーミング調整にあっては、図5の矢印Bに示されるようにロボット1の立ち位置を前後左右に調整して行う。また、頭の向きを変えるようにしても良い。このフレーミング調整は、例えばユーザに長く待たせないように、1回の移動量で人物が画角内のほぼ中央になるようにする粗調整であって良い。   In step ST9, face extraction is performed as described above, and in step ST10, framing adjustment is performed. This framing adjustment is performed by adjusting the standing position of the robot 1 forward / backward / left / right as indicated by an arrow B in FIG. Further, the direction of the head may be changed. This framing adjustment may be a rough adjustment that causes the person to be approximately in the center of the angle of view with a single movement amount so that the user does not wait for a long time, for example.

次のステップST11では、上記フレーミング調整の結果に対して人物がフレーミングの範囲外であるか否かを判別する。ステップST10でのフレーミング調整では未だにフレーミングの範囲外であると判別した場合にはステップST12に進み、そこでユーザに対して「もう少し右へ。」などのユーザの立ち位置を変える指示を発話により行う。この発話は、音声処理部6で処理された合成音声でスピーカ5から発せられる。   In the next step ST11, it is determined whether or not the person is out of the framing range with respect to the result of the framing adjustment. If it is determined that the framing adjustment is still outside the framing range in step ST10, the process proceeds to step ST12, where an instruction to change the user's standing position such as “to the right a little more” is given to the user by utterance. This utterance is uttered from the speaker 5 by the synthesized voice processed by the voice processing unit 6.

ユーザは、ロボット1からの発話指示により、指示に合わせて移動する(U4)。ステップST12の次、または上記ステップST11でフレーミングの範囲内であると判別した場合にはステップST13に進み、上記調整されたパラメータに基づいてカメラ2による撮影を行う。撮影を行ったら、次のステップST6で撮影画像データを携帯送受信部15から送信する。   The user moves according to the instruction according to the utterance instruction from the robot 1 (U4). After step ST12, or when it is determined in step ST11 that the frame is within the framing range, the process proceeds to step ST13, and photographing by the camera 2 is performed based on the adjusted parameter. After shooting, the shot image data is transmitted from the portable transmitting / receiving unit 15 in the next step ST6.

撮影画像データが送信されたら、携帯端末機器14の画面ではその撮影画像が表示される(U5)。ユーザは、ロボット1から送信された撮影画像で良いか否かを判断して、撮影の取消または終了をロボット1に対して指示する。この取消/終了指示キーは、予めキー14bのいずれかに決めておいても良いが、画面14aに撮影画像の表示と共に選択ボタンとして取消/終了を表示し、例えば矢印キーにより選択して決定キーにより決定するようにしても良い。さらに、「取消。」または「終了。」という言葉を発して、音声により指示するようにしても良い(U6)。ロボット1では、ステップST15で取消/終了を判別し、取消を指示されたと判断した場合にはステップST9に戻り、新たな撮影を行う。   When the captured image data is transmitted, the captured image is displayed on the screen of the mobile terminal device 14 (U5). The user determines whether the captured image transmitted from the robot 1 is acceptable, and instructs the robot 1 to cancel or end the imaging. The cancel / end instruction key may be determined in advance as one of the keys 14b, but the cancel / end is displayed on the screen 14a as a selection button together with the display of the photographed image. You may make it determine by. Further, a word “cancel” or “end” may be issued to give an instruction by voice (U6). In step ST15, the robot 1 determines cancellation / termination, and if it is determined that cancellation is instructed, the process returns to step ST9 and new imaging is performed.

ステップST15で終了を指示されたと判断した場合にはステップST16に進み、そこで撮影画像に合成する背景フレームを送信する。この送信にあっては、図示されない記憶装置に予め記録しておいた背景フレームデータを制御部10の指示により携帯送受信部15から送信することにより行う。これら制御部10及び携帯送受信部15により背景フレーム送信手段が構成されている。図8にフレームFの一例を示す。フレームは何種類か用意しておき、ユーザからの次のフレーム表示の先送り指示やロボット1から所定切り換え時間のタイミングで種類の異なるフレームを画面14aに表示させるようにして良い。ユーザは、お気に入りのフレーム(フレーム無しを含む)を選択してロボット1に指示する(U7)。   If it is determined in step ST15 that termination has been instructed, the process proceeds to step ST16, where a background frame to be combined with the photographed image is transmitted. This transmission is performed by transmitting background frame data recorded in advance in a storage device (not shown) from the portable transmitting / receiving unit 15 according to an instruction from the control unit 10. The control unit 10 and the portable transmission / reception unit 15 constitute a background frame transmission unit. FIG. 8 shows an example of the frame F. Several types of frames may be prepared, and different types of frames may be displayed on the screen 14a at the timing of a predetermined switching time from the robot 1 or the robot 1 for the next frame display. The user selects a favorite frame (including no frame) and instructs the robot 1 (U7).

ロボット1では、ステップST17でフレーム選択指示の有無を判別する。この判別処理は、ステップST16でフレーム送信処理を開始してから所定の時間が経過したら行うようにして良い。ステップST17でフレーム選択指示有りと判断した場合には、ステップST18に進む。ステップST18では選択されたフレームと撮影画像とを合成して合成画像を作成する。なお、フレームを単に合成するだけでなく、上記したように顔抽出することにより人物の大きさを把握できるため、フレームに合わせて人物を切り出して、位置を修正して合成することもできる。この合成画像の作成にあっては、画像処理部3及び制御部10により行うことができ、これらが合成画像作成手段を構成している。   In step ST17, the robot 1 determines whether or not there is a frame selection instruction. This determination process may be performed when a predetermined time has elapsed since the frame transmission process was started in step ST16. If it is determined in step ST17 that there is a frame selection instruction, the process proceeds to step ST18. In step ST18, the selected frame and the captured image are combined to create a combined image. In addition, since the size of a person can be grasped by extracting a face as described above as well as simply combining frames, it is also possible to cut out a person in accordance with the frame, correct the position, and combine them. The composite image can be created by the image processing unit 3 and the control unit 10, and these constitute a composite image creation unit.

次にステップST19に進む。また、ステップST17でフレーム選択指示無しと判断した場合にもステップST19に進む。そのステップST19では、制御部10により、ステップST18の合成画像またはフレーム無しの撮影画像と、予め設定された撮影料金に基づいた課金データとを送信する。この課金処理を行う課金手段は制御部10内のプログラムとして設けられている。   Next, the process proceeds to step ST19. If it is determined in step ST17 that there is no frame selection instruction, the process proceeds to step ST19. In step ST19, the control unit 10 transmits the composite image of step ST18 or a captured image without a frame and billing data based on a preset imaging fee. The accounting means for performing this accounting process is provided as a program in the control unit 10.

ユーザの携帯端末機器14の画面14aには選択画像及びそれに伴う課金が表示される(U8)。ユーザは、それに対して取消/繰返し/終了の最終的な判断を選択してロボット1に指示する(U9)。なお、「取消。」または「繰返し。」または「終了。」という言葉を発して、音声により指示するようにしても良い。   On the screen 14a of the user's mobile terminal device 14, the selected image and the charge associated therewith are displayed (U8). In response to this, the user selects the final decision of cancellation / repetition / termination and instructs the robot 1 (U9). It should be noted that the word “cancel.” Or “repetition.” Or “end.” May be issued to give an instruction by voice.

ロボット1では、ステップST20で、取消/繰返し/終了のいずれかが指示されたかを判別する。繰返しが選択された判断した場合には、ステップST21に進み、そこで選択画像を保存し、ステップST9に戻って撮影を繰り返す。この場合には課金が確定する。取消が選択されたと判断した場合にはステップST9に戻り撮影を再開する。この場合には画像の保存は行われず、課金もされない。   In step ST20, the robot 1 determines whether cancellation / repetition / end is instructed. If it is determined that the repetition is selected, the process proceeds to step ST21, where the selected image is stored, and the process returns to step ST9 to repeat photographing. In this case, charging is confirmed. If it is determined that cancel has been selected, the process returns to step ST9 to resume shooting. In this case, the image is not stored and is not charged.

そして、終了が選択されたと判断した場合にはステップST22に進む。そのステップST22では、画像処理部3及び制御部10により選択画像をユーザが取り扱い可能なファイル形式などに加工し、そのように加工された最終的な画像を管理サーバ22に送信し、本撮影モードを終了する。この選択画像の決定処理を行う選択画像決定手段は制御部10内のプログラムとして設けられている。   If it is determined that the end has been selected, the process proceeds to step ST22. In step ST22, the selected image is processed by the image processing unit 3 and the control unit 10 into a file format that can be handled by the user, and the final image processed in this manner is transmitted to the management server 22 to be in the main shooting mode. Exit. A selection image determination means for performing the selection image determination process is provided as a program in the control unit 10.

選択された画像が複数ある場合には、ユーザが携帯端末機器14から管理サーバ22にアクセスすることにより、その画面14aに連続表示させたり、1画面に多数の画像を表示するサムネール表示させたりすることができる。これにより、ユーザは希望する画像を確認しながら確定して選択可能となる。また、任意の画像を選択してプリントアウトしてもらうことも可能であり、例えばユーザが所定のプリント受け取り所に行って写真を受け取るようにすることができる。   When there are a plurality of selected images, the user accesses the management server 22 from the mobile terminal device 14 to continuously display the images on the screen 14a or to display thumbnails for displaying many images on one screen. be able to. As a result, the user can confirm and select the desired image. It is also possible to select an arbitrary image and have it printed out. For example, the user can go to a predetermined print receiving place to receive a photo.

また、最終的な画像は個人データと共に管理サーバ22に保存しておいたり、管理サーバ22からインターネットを介してサーバ25のデータベース25aに送信して移しておいたりすることができる。これにより、ユーザは、例えば自宅のパーソナルコンピュータ24からインターネットを介して管理サーバ22またはサーバ23にアクセスすることにより、自分の最終的な画像をダウンロードしてプリントアウトすることができる。また、選択画像決定により、ロボット1内での撮影画像の保存は必要なくなり、次の撮影指示に対する連続撮影によるメモリ不足になることを心配することなく対処し得る。   The final image can be stored in the management server 22 together with personal data, or can be transferred from the management server 22 to the database 25a of the server 25 via the Internet. Thereby, the user can download and print out his final image by accessing the management server 22 or the server 23 via the Internet from the personal computer 24 at home, for example. Further, since the selected image is determined, it is not necessary to store the captured image in the robot 1, and it is possible to cope with it without worrying about a memory shortage due to continuous shooting for the next shooting instruction.

本発明にかかる携帯端末機器を用いた移動ロボットの画像撮影装置及びその方法は、携帯端末機器を用いて移動ロボットに撮影を指示すると共にロボットが自らフレーミング処理を行うことができ、携帯端末機器と信号の授受を行う移動ロボットにより撮影を行う分野等に有用である。   An image capturing apparatus and method for a mobile robot using a mobile terminal device according to the present invention can instruct the mobile robot to perform shooting using the mobile terminal device, and the robot can perform framing processing by itself. This is useful in the field of shooting with a mobile robot that sends and receives signals.

本発明が適用された全体システム図である。1 is an overall system diagram to which the present invention is applied. (a)は移動体の動作の一例を示す説明図であり、(b)は他の例を示す(a)に対応する図である。(A) is explanatory drawing which shows an example of operation | movement of a moving body, (b) is a figure corresponding to (a) which shows another example. (a)は人物を検出した状態を示す撮影画面の例を示す図であり、(b)は(a)の画像から人物の輪郭を抽出した状態を示す図である。(A) is a figure which shows the example of the imaging | photography screen which shows the state which detected the person, (b) is a figure which shows the state which extracted the outline of the person from the image of (a). 顔から瞳を検出する例を示す説明図である。It is explanatory drawing which shows the example which detects a pupil from a face. ロボットとユーザとの位置関係を示す図である。It is a figure which shows the positional relationship of a robot and a user. 携帯端末機器を示す図である。It is a figure which shows a portable terminal device. 携帯端末機器及びロボットの制御要領を示すフロー図である。It is a flowchart which shows the control point of a portable terminal device and a robot. 携帯端末機器及びロボットの制御要領を示すフロー図である。It is a flowchart which shows the control point of a portable terminal device and a robot. フレームを合成した撮影画像を示す図である。It is a figure which shows the picked-up image which combined the flame | frame.

符号の説明Explanation of symbols

1 ロボット
2 カメラ(撮像装置、人物検出手段)
3 画像処理部(撮像装置、人物検出手段)
4 マイク(補正撮影実行手段、人物検出手段)
5 スピーカ(音声発生装置)
6 音声処理部(音声発生装置、人物検出手段)
7 センサ(人物検出手段)
10 制御部(移動制御手段、撮影可否判断手段、画像信号送信手段、補正撮影実行手段)
12 駆動部(移動制御手段、補正撮影実行手段)
13 LAN送受信部(画像信号送信手段)
14 携帯端末機器
15 携帯送受信部(画像信号送信手段)
22 管理サーバ(撮影可否判断手段)
1 Robot 2 Camera (Imaging device, person detection means)
3 Image processing unit (imaging device, person detection means)
4 Microphone (correction shooting execution means, person detection means)
5 Speaker (sound generator)
6 Voice processing unit (voice generation device, person detection means)
7 Sensor (person detection means)
10 Control unit (movement control means, photographing availability judgment means, image signal transmission means, corrected photographing execution means)
12 Drive unit (movement control means, corrected photographing execution means)
13 LAN transceiver (image signal transmission means)
14 mobile terminal device 15 mobile transceiver (image signal transmission means)
22 Management server (photographing possibility judging means)

Claims (7)

撮影要求者が画像表示可能な携帯端末機器を操作し、
撮像装置を備える移動ロボットが、自律的に移動して人物の画像を撮影しかつ当該撮影された撮影画像を前記携帯端末機器へ送信する携帯端末機器を用いた移動ロボットの画像撮影装置であって、
前記移動ロボットが
人物を検出する人物検出手段と、人物に近付く制御を行う移動制御手段と、撮影の可否を判断する撮影可否判断手段と、前記撮像装置により撮影した撮影画像から顔画像を切り出す顔画像切り出し手段と、撮影条件を補正しつつ前記撮像装置で撮影を実行する補正撮影実行手段と、撮影画像を前記携帯端末機器で表示可能な画像信号として送信する画像信号送信手段とを有し、かつ
前記人物検出手段により検出された人物を撮影するべく当該人物に近付き、前記撮影指示者が操作する前記携帯端末機器からの撮影要求信号を受けて前記撮影可否判断手段により前記撮影を行うと判断した場合に、前記補正撮影実行手段により前記撮像装置による画角内の所定の範囲内に前記切り出された前記顔画像が位置するようにして撮影し、当該撮影された撮影画像を前記画像信号送信手段により前記携帯端末機器に送信することを特徴とする携帯端末機器を用いた移動ロボットの画像撮影装置。
The requester operates a mobile terminal that can display images,
A mobile robot equipped with an imaging device is an image capturing device for a mobile robot using a mobile terminal device that autonomously moves to capture an image of a person and transmits the captured image to the mobile terminal device. ,
The mobile robot,
A person detection unit for detecting a person, a movement control unit for performing control to approach the person, a shooting availability determination unit for determining whether shooting is possible, and a face image clipping unit for cutting out a face image from a shot image shot by the imaging device; A correction photographing execution means for performing photographing with the imaging device while correcting photographing conditions, and an image signal transmitting means for transmitting a photographed image as an image signal that can be displayed on the portable terminal device, and the person detection Konzuke-out to the person to be photographed detected person by means, if it is determined to perform the imaging by the imaging possibility determining section receives the imaging request signal from the mobile terminal device the shooting instruction by an operator in the correction the face image the cut-out in the range of constant at in angle by the imaging device by the imaging execution unit taken so as to be positioned, is the shot Image capturing device of a mobile robot using the portable terminal device and transmits the captured image to the mobile terminal device by the image signal transmitting means.
前記ロボットが発話機能を有する音声発生装置を有し、
前記補正撮影実行手段による前記撮影条件の補正が、前記撮影対象の人物に対して前記音声発生装置から発せられる位置修正指示であることを特徴とする請求項1に記載の携帯端末機器を用いた移動ロボットの画像撮影装置。
The robot has a voice generation device having a speech function,
The mobile terminal device according to claim 1, wherein the correction of the shooting condition by the correction shooting execution unit is a position correction instruction issued from the sound generation device to the person to be shot. An imaging device for mobile robots.
前記携帯端末機器により撮影開始を指示することを特徴とする請求項1または請求項2に記載の携帯端末機器を用いた移動ロボットの画像撮影装置。 3. An image capturing apparatus for a mobile robot using a mobile terminal device according to claim 1, wherein the mobile terminal device instructs the start of shooting. 前記撮影の可否の判断が、予め前記携帯端末機器をサーバに登録すると共に前記撮影可否判断手段と当該サーバとの信号授受により前記携帯端末機器に対応する前記撮影要求者が前記サーバに登録されているか否かを判断して行うことを特徴とする請求項1乃至請求項3のいずれかに記載の携帯端末機器を用いた移動ロボットの画像撮影装置。 The determination as to whether or not shooting is possible is performed by registering the portable terminal device in the server in advance and registering the shooting requester corresponding to the portable terminal device in the server by exchanging signals between the shooting availability determination means and the server. 4. An image capturing device for a mobile robot using a mobile terminal device according to claim 1, wherein the mobile terminal device performs the determination by determining whether the mobile terminal device is present. 前記携帯端末機器に前記撮影画像を表示させると共に前記撮影要求者が当該表示された撮影画像を選択した場合に、前記携帯端末機器に対して前記撮影に応じた課金信号を送信すると共に課金処理を行う課金手段をさらに有することを特徴とする請求項1乃至請求項4のいずれかに記載の携帯端末機器を用いた移動ロボットの画像撮影装置。 When the photographed imager is displayed on the portable terminal device and the photographing requester selects the displayed photographed image, a billing signal corresponding to the photographing is transmitted to the portable terminal device and a billing process is performed. 5. The mobile robot image photographing apparatus using the portable terminal device according to claim 1, further comprising a charging unit for performing the charging. 前記選択画像に合成可能な背景フレームを前記携帯端末機器に送信する背景フレーム送信手段と、前記携帯端末機器で選択された背景フレームを前記選択画像と合成した画像を作成する合成画像作成手段とを有することを特徴とする請求項1乃至請求項5のいずれかに記載の携帯端末機器を用いた移動ロボットの画像撮影装置。 Background frame transmitting means for transmitting a background frame that can be combined with the selected image to the mobile terminal device; and composite image generating means for generating an image obtained by combining the background frame selected by the mobile terminal device with the selected image. An image capturing device for a mobile robot using the mobile terminal device according to claim 1, wherein the image capturing device is a mobile robot. 撮影要求者が画像表示可能な携帯端末機器を操作し、
撮像装置を備える移動ロボットが、自律的に移動して人物の画像を撮影しかつ当該撮影された撮影画像を前記携帯端末機器へ送信する携帯端末機器を用いた移動ロボットの画像撮影方法であって、
前記移動ロボットが、人物を検出しかつ当該人物を撮影するべく当該検出された人物に近付き、前記撮影要求者が操作する前記携帯端末機器からの撮影要求信号を受けた場合に撮影の可否を判断し、前記撮影を行うと判断した場合に前記撮像装置により撮影した撮影画像から顔画像を切り出し、前記撮像装置による画角内に前記顔画像が所定の範囲内に位置するように撮影条件を補正しつつ前記撮像装置で撮影を実行し、前記撮像装置で撮影された撮影画像を前記携帯端末機器で表示可能な画像信号として送信すること特徴とする携帯端末機器を用いた移動ロボットの画像撮影方法。
The requester operates a mobile terminal that can display images,
An image capturing method for a mobile robot using a mobile terminal device, in which a mobile robot including an imaging device autonomously moves to capture an image of a person and transmits the captured image to the mobile terminal device. ,
The mobile robot approaches to the detected person to shoot detecting and the person to person, determine whether the shooting if the shooting requester receives the image request signal from the mobile terminal device to operate When it is determined that the shooting is to be performed, a face image is cut out from the shot image shot by the imaging device, and the shooting conditions are corrected so that the face image is located within a predetermined range within the angle of view by the imaging device. An image capturing method for a mobile robot using a mobile terminal device, wherein shooting is performed by the image capturing device, and a captured image captured by the image capturing device is transmitted as an image signal that can be displayed on the mobile terminal device. .
JP2003294424A 2003-08-18 2003-08-18 Image capturing apparatus and method for mobile robot using portable terminal device Expired - Fee Related JP4220856B2 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2003294424A JP4220856B2 (en) 2003-08-18 2003-08-18 Image capturing apparatus and method for mobile robot using portable terminal device
US10/914,338 US7756322B2 (en) 2003-08-18 2004-08-10 Picture taking mobile robot
KR1020040065046A KR100583936B1 (en) 2003-08-18 2004-08-18 Picture taking mobile robot

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003294424A JP4220856B2 (en) 2003-08-18 2003-08-18 Image capturing apparatus and method for mobile robot using portable terminal device

Publications (2)

Publication Number Publication Date
JP2005065021A JP2005065021A (en) 2005-03-10
JP4220856B2 true JP4220856B2 (en) 2009-02-04

Family

ID=34370994

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003294424A Expired - Fee Related JP4220856B2 (en) 2003-08-18 2003-08-18 Image capturing apparatus and method for mobile robot using portable terminal device

Country Status (1)

Country Link
JP (1) JP4220856B2 (en)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5338197B2 (en) * 2008-08-26 2013-11-13 株式会社ニコン Focus detection apparatus and imaging apparatus
JP5159544B2 (en) * 2008-09-30 2013-03-06 キヤノン株式会社 Imaging apparatus and network camera system
JP5378768B2 (en) * 2008-11-26 2013-12-25 京セラ株式会社 Network system
JP2011035543A (en) * 2009-07-30 2011-02-17 Canon Inc Imaging apparatus, terminal device, imaging system, and information processing method of imaging apparatus
US9833698B2 (en) 2012-09-19 2017-12-05 Disney Enterprises, Inc. Immersive storytelling environment
JP6649005B2 (en) * 2015-08-04 2020-02-19 ユニファ株式会社 Robot imaging system and image management method
JP2018087864A (en) * 2016-11-28 2018-06-07 オリンパス株式会社 Focus adjustment device, and focus adjustment device control method
CN108574801A (en) * 2017-03-10 2018-09-25 杭州萤石网络有限公司 A kind of image-pickup method and terminal
KR102463806B1 (en) 2017-11-09 2022-11-07 삼성전자주식회사 Electronic device capable of moving and method for operating thereof
CN112771463A (en) * 2019-02-19 2021-05-07 松下知识产权经营株式会社 Unmanned aerial vehicle, information processing method, and program

Also Published As

Publication number Publication date
JP2005065021A (en) 2005-03-10

Similar Documents

Publication Publication Date Title
KR100583936B1 (en) Picture taking mobile robot
KR100543376B1 (en) Image transmission system for a mobile robot
CN103945105B (en) The method and apparatus that a kind of intelligence is taken pictures with share photos
KR100593688B1 (en) Image transmission device of mobile robot
CN113727012B (en) Shooting method and terminal
CN100556079C (en) Camera-control equipment, camera chain, electronic meeting system and video camera control method
KR100729280B1 (en) Iris Identification System and Method using Mobile Device with Stereo Camera
CN106131413B (en) Shooting equipment and control method thereof
US8218815B2 (en) Image pick-up apparatus having a function of recognizing a face and method of controlling the apparatus
US20120120273A1 (en) Imaging apparatus and image synthesizing method
JP4220856B2 (en) Image capturing apparatus and method for mobile robot using portable terminal device
KR20080081859A (en) Imaging apparatus and control method thereof
CN112219393A (en) Portable information terminal
TWI599225B (en) A photographing method and photographing system through quick positioning by voice instructions
WO2019084825A1 (en) Image processing method and device, and unmanned aerial vehicle
CN108375986A (en) Control method, device and the terminal of unmanned plane
JP4220858B2 (en) Mobile robot image capturing device using portable terminal device
JP4220857B2 (en) Mobile robot image capturing device using portable terminal device
JP4220855B2 (en) Image transmitting apparatus and method for mobile robot using portable terminal device
JP2000099691A (en) Device for photographing person
CN110855892B (en) Photographing method, photographing system and computer-readable storage medium
JP2007156689A (en) Light source position detection device and face recognition device using the same and self-propelled robot
WO2008004436A1 (en) Iris authenticating system
JP2020188326A (en) Imaging management system
JP2004030246A (en) Eye picture imaging apparatus, authentication apparatus, and eye picture imaging method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080819

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081111

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081114

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111121

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4220856

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111121

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121121

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131121

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees