[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2013173453A - Calibration processing device, camera calibrating device, camera system and camera calibrating method - Google Patents

Calibration processing device, camera calibrating device, camera system and camera calibrating method Download PDF

Info

Publication number
JP2013173453A
JP2013173453A JP2012039417A JP2012039417A JP2013173453A JP 2013173453 A JP2013173453 A JP 2013173453A JP 2012039417 A JP2012039417 A JP 2012039417A JP 2012039417 A JP2012039417 A JP 2012039417A JP 2013173453 A JP2013173453 A JP 2013173453A
Authority
JP
Japan
Prior art keywords
calibration
camera
image
index
predetermined
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012039417A
Other languages
Japanese (ja)
Inventor
Takashi Maekawa
貴志 前川
Ryuichi Sawada
隆一 澤田
Haruo Yanagisawa
治生 柳澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to JP2012039417A priority Critical patent/JP2013173453A/en
Priority to US13/564,612 priority patent/US20130215280A1/en
Priority to CN201280044643.5A priority patent/CN103797779A/en
Priority to PCT/JP2012/005853 priority patent/WO2013038681A1/en
Priority to EP12832652.7A priority patent/EP2757768A4/en
Publication of JP2013173453A publication Critical patent/JP2013173453A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)

Abstract

【課題】カメラを較正する際の操作を簡便なものとし、較正に要する時間を短縮する。
【解決手段】カメラ較正装置10は、移動体100の所定位置に取り付けられ、移動体100外部に配された指標41を含む画像を撮像するカメラ11と、カメラ11による撮像画像に対して、所定の面積を有する複数の較正用オブジェクト42,43を重畳した重畳画像を生成する画像重畳部123と、重畳画像において、複数の較正用オブジェクト42,43が移動され、指標41の所定の複数点のそれぞれに各較正用オブジェクト42,43が重なったときの各較正用オブジェクト42,43の位置に基づいて、パン角、チルト角およびロール角におけるカメラ11の取り付け位置のずれを較正するパラメータを算出する演算部124と、を備える。
【選択図】図1
An operation for calibrating a camera is simplified and the time required for calibration is shortened.
A camera calibration device is attached to a predetermined position of a moving body and captures an image including an index arranged outside the moving body. The image superimposing unit 123 that generates a superimposed image in which a plurality of calibration objects 42 and 43 having the same area are superimposed, and in the superimposed image, the plurality of calibration objects 42 and 43 are moved, and a predetermined plurality of points on the index 41 Based on the positions of the calibration objects 42 and 43 when the calibration objects 42 and 43 overlap with each other, parameters for calibrating the displacement of the mounting position of the camera 11 at the pan angle, the tilt angle, and the roll angle are calculated. And an arithmetic unit 124.
[Selection] Figure 1

Description

本発明は、移動体に取り付けられたカメラの取り付け角度を較正する較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法に関するものである。   The present invention relates to a calibration processing apparatus, a camera calibration apparatus, a camera system, and a camera calibration method for calibrating an attachment angle of a camera attached to a moving body.

従来、車両後方にカメラを取り付け、運転者から見えにくい後方の映像を車両内の表示部に表示可能とするカメラシステムが知られている。このようなシステムにおいて、位置情報が既知である物体を撮像したときに想定される想定画像と、実際に該物体をカメラで撮像したときの実画像とのずれ量を調整することにより、カメラの取り付け位置のずれを較正するパラメータを取得する手法が知られている(例えば、特許文献1および2参照)。   2. Description of the Related Art Conventionally, a camera system is known in which a camera is attached to the rear of a vehicle and a rear image that is difficult to be seen by a driver can be displayed on a display unit in the vehicle. In such a system, by adjusting the amount of deviation between an assumed image that is assumed when an object having known position information is imaged and an actual image that is actually captured by the camera, A method for acquiring a parameter for calibrating the displacement of the attachment position is known (for example, see Patent Documents 1 and 2).

特開平10−181447号公報Japanese Patent Laid-Open No. 10-181447 特開2000−209577号公報JP 2000-209577 A

カメラの取り付け位置のずれを較正するパラメータを取得する従来の手法では、想定画像と実画像とのずれ量を調整するために、想定画像を上下左右方向に移動させ、かつ、回転させて想定画像を実画像に一致させる必要がある。このとき、上下左右方向に移動させてある程度想定画像を実画像の位置に合わせても、その後想定画像を回転移動させると両者がずれてしまうので、再び上下左右方向に微調整をする必要があった。また、カメラにより得られる撮像画像は、端にいくほど歪みが生じるため、歪みのある実画像を歪みの無い想定画像に一致させるのは困難であった。   In the conventional method of acquiring the parameter for calibrating the displacement of the camera mounting position, the assumed image is moved up and down, left and right, and rotated to adjust the amount of deviation between the assumed image and the actual image. Must match the actual image. At this time, even if the assumed image is moved up, down, left, and right to match the position of the actual image to some extent, if the assumed image is subsequently rotated and moved, the two will deviate. It was. Moreover, since the captured image obtained by the camera is distorted toward the end, it is difficult to match the distorted real image with the assumed image without distortion.

かかる事情に鑑みてなされた本発明の目的は、カメラを較正する際の操作が簡便となり、較正に要する時間を短縮することが可能な較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法を提供することにある。   SUMMARY OF THE INVENTION An object of the present invention made in view of such circumstances is a calibration processing device, a camera calibration device, a camera system, and a camera calibration method capable of simplifying an operation when calibrating a camera and reducing the time required for calibration. Is to provide.

上記課題を解決するため、本発明に係るカメラ較正装置は、移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラと、前記カメラによる撮像画像に対して、所定の面積を有する複数の較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、前記重畳画像において、前記複数の較正用オブジェクトが移動され、前記指標の所定の複数点のそれぞれに各較正用オブジェクトが重なったときの各較正用オブジェクトの位置に基づいて、パン角、チルト角およびロール角における前記カメラの取り付け位置のずれを較正するパラメータを算出する演算部と、を備えることを特徴とすることを特徴とする。   In order to solve the above-described problem, a camera calibration apparatus according to the present invention is attached to a predetermined position of a moving body and captures an image including an index arranged outside the moving body, and an image captured by the camera. An image superimposing unit that generates a superimposed image in which a plurality of calibration objects having a predetermined area are superimposed; and in the superimposed image, the plurality of calibration objects are moved to each of a predetermined plurality of points of the index. A calculation unit that calculates a parameter for calibrating a deviation of the mounting position of the camera at the pan angle, the tilt angle, and the roll angle based on the position of each calibration object when the calibration objects overlap. It is characterized by.

さらに、本発明に係るカメラ較正装置において、前記較正用オブジェクトの移動方向は、上下左右方向であることを特徴とする。   Furthermore, in the camera calibration device according to the present invention, the moving direction of the calibration object is an up / down / left / right direction.

さらに、本発明に係るカメラ較正装置において、前記複数の較正用オブジェクトは、それぞれが前記所定の面積の領域を囲む形状であり、前記演算部は、前記複数の較正用オブジェクトが移動され、各領域が前記指標内の所定の複数点を含む位置関係とされたときの各較正用オブジェクトの位置座標を取得することを特徴とする。   Furthermore, in the camera calibration apparatus according to the present invention, each of the plurality of calibration objects has a shape surrounding the region of the predetermined area, and the calculation unit moves the plurality of calibration objects to each region. Is obtained as a positional relationship including a plurality of predetermined points in the index.

さらに、本発明に係るカメラ較正装置において、前記複数の較正用オブジェクトの数は2つであり、前記指標内の所定の複数点は、前記指標の一端および他端であることを特徴とする。   Furthermore, in the camera calibration device according to the present invention, the number of the plurality of calibration objects is two, and the predetermined plural points in the index are one end and the other end of the index.

さらに、本発明に係るカメラ較正装置において、前記複数の較正用オブジェクトはそれぞれ独立して移動される際、前記画像重畳部により、移動中の較正用オブジェクトを強調表示させることを特徴とする。   Furthermore, in the camera calibration device according to the present invention, when the plurality of calibration objects are independently moved, the moving image of the calibration object is highlighted by the image superimposing unit.

さらに、本発明に係るカメラ較正装置において、前記カメラからの撮像画像は、前記演算部により前記パラメータが算出された後、当該パラメータに対応する量をオフセットさせて出力されることを特徴とする。   Furthermore, in the camera calibration apparatus according to the present invention, the captured image from the camera is output after the parameter is calculated by the calculation unit and an amount corresponding to the parameter is offset.

さらに、本発明に係るカメラ較正装置において、前記画像重畳部は、前記カメラからの撮像画像に対して所定の画像を重畳して表示する際、その重畳位置を前記演算部により算出された前記パラメータに対応する量だけオフセットすることを特徴とする。   Furthermore, in the camera calibration device according to the present invention, when the image superimposing unit superimposes and displays a predetermined image on the captured image from the camera, the superimposition position of the parameter calculated by the arithmetic unit is calculated. Is offset by an amount corresponding to.

また、上記課題を解決するため、本発明に係るカメラ較正方法は、移動体の所定位置に取り付けられたカメラにより、移動体外部に配された指標を含む画像を撮像するステップと、前記カメラによる撮像画像に対して、所定の面積を有する複数の較正用オブジェクトを重畳した重畳画像を生成するステップと、前記重畳画像において、前記複数の較正用オブジェクトが移動され、前記指標の所定の複数点のそれぞれに各較正用オブジェクトが重なったときの各較正用オブジェクトの位置に基づいて、パン角、チルト角およびロール角における前記カメラの取り付け位置のずれを較正するパラメータを算出するステップと、を含むことを特徴とする。   In order to solve the above-described problem, a camera calibration method according to the present invention includes a step of capturing an image including an index placed outside a moving body using a camera attached to a predetermined position of the moving body, and the camera. Generating a superimposed image in which a plurality of calibration objects having a predetermined area are superimposed on a captured image; and in the superimposed image, the plurality of calibration objects are moved, and a plurality of predetermined points of the index are Calculating a parameter for calibrating the displacement of the mounting position of the camera at the pan angle, the tilt angle, and the roll angle, based on the position of each calibration object when the calibration objects overlap each other. It is characterized by.

さらに、本発明に係るカメラ較正方法において、前記較正用オブジェクトの移動方向は、上下左右方向であることを特徴とする。   Furthermore, in the camera calibration method according to the present invention, the moving direction of the calibration object is up and down, left and right.

さらに、本発明に係るカメラ較正方法において、前記複数の較正用オブジェクトは、それぞれが前記所定の面積の領域を囲む形状であり、前記パラメータを算出するステップは、前記複数の較正用オブジェクトが移動され、各領域が前記指標内の所定の複数点を含む位置関係とされたときの各較正用オブジェクトの位置座標を取得することを特徴とする。   Further, in the camera calibration method according to the present invention, each of the plurality of calibration objects has a shape surrounding the region of the predetermined area, and in the step of calculating the parameter, the plurality of calibration objects are moved. The position coordinates of each calibration object are obtained when each region has a positional relationship including a plurality of predetermined points in the index.

さらに、本発明に係るカメラ較正方法において、前記複数の較正用オブジェクトの数は2つであり、前記指標内の所定の複数点は、前記指標の一端および他端であることを特徴とする。   Furthermore, in the camera calibration method according to the present invention, the number of the plurality of calibration objects is two, and the predetermined plurality of points in the index are one end and the other end of the index.

さらに、本発明に係るカメラ較正方法において、前記複数の較正用オブジェクトがそれぞれ独立して移動される際に、移動中の較正用オブジェクトを強調表示させるステップをさらに含むことを特徴とする。   Furthermore, the camera calibration method according to the present invention further includes a step of highlighting the moving calibration object when the plurality of calibration objects are independently moved.

また、上記課題を解決するため、本発明に係る較正処理装置は、移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラからの撮像画像を利用して、当該カメラのパン角、チルト角およびロール角における取り付け位置のずれを較正する較正処理装置であって、前記カメラによる撮像画像に対して、所定の面積を有する複数の較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、前記重畳画像において、前記複数の較正用オブジェクトが移動され、前記指標の所定の複数点のそれぞれに各較正用オブジェクトが重なったときの各較正用オブジェクトの位置に基づいて、前記カメラの取り付け位置のずれを較正するパラメータを算出する演算部と、を備えることを特徴とする。   In order to solve the above-described problem, a calibration processing apparatus according to the present invention uses a captured image from a camera that captures an image including an index that is attached to a predetermined position of a moving body and arranged outside the moving body. A calibration processing apparatus that calibrates the displacement of the mounting position in the pan angle, tilt angle, and roll angle of the camera, wherein a plurality of calibration objects having a predetermined area are superimposed on a captured image by the camera In the image superimposing unit that generates an image and the superimposed image, the plurality of calibration objects are moved, and the position of each calibration object when each calibration object overlaps each of the predetermined plurality of points of the index And a calculation unit that calculates a parameter for calibrating the displacement of the mounting position of the camera.

また、上記課題を解決するため、本発明に係るカメラシステムは、移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラと、前記カメラによる撮像画像に対して、所定の面積を有する複数の較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、前記移動体内に設けられ、前記重畳画像が表示される表示部と、前記重畳画像における、前記複数の較正用オブジェクトに対してその表示位置を移動させる指示を行う指示部と、前記指標の所定の複数点のそれぞれに各較正用オブジェクトが重なったときの各較正用オブジェクトの位置に基づいて、パン角、チルト角およびロール角における前記カメラの取り付け位置のずれを較正するパラメータを算出する演算部と、を備えることを特徴とする。   In order to solve the above-described problem, a camera system according to the present invention is attached to a predetermined position of a moving body and captures an image including an index arranged outside the moving body, and an image captured by the camera. An image superimposing unit that generates a superimposed image by superimposing a plurality of calibration objects having a predetermined area, a display unit provided in the moving body and displaying the superimposed image, and the plurality of the superimposed images An instruction unit for instructing the calibration object to move its display position, and the position of each calibration object when each calibration object overlaps each of the predetermined plurality of points of the index. A calculation unit that calculates a parameter for calibrating a shift in the mounting position of the camera at an angle, a tilt angle, and a roll angle.

本発明によれば、カメラを較正する際の操作が簡便となり、較正に要する時間を短縮することができる。   According to the present invention, the operation for calibrating the camera is simplified, and the time required for calibration can be shortened.

本発明による一実施形態のカメラシステムを搭載したシステムの構成例を示すブロック図である。It is a block diagram which shows the structural example of the system carrying the camera system of one Embodiment by this invention. 本発明による一実施形態のカメラシステムにおける表示部に表示される画像の一例を示すブロック図である。It is a block diagram which shows an example of the image displayed on the display part in the camera system of one Embodiment by this invention. 本発明による一実施形態のカメラシステムにおける指示部の外観図の一例を示すブロック図である。It is a block diagram which shows an example of the external view of the instruction | indication part in the camera system of one Embodiment by this invention. 本発明による一実施形態のカメラシステムによるカメラ較正動作を示すフローチャートである。It is a flowchart which shows the camera calibration operation | movement by the camera system of one Embodiment by this invention. 本発明による一実施形態のカメラシステムによるカメラ較正動作時に表示部に表示される画像を示す図である。It is a figure which shows the image displayed on a display part at the time of the camera calibration operation | movement by the camera system of one Embodiment by this invention. 本発明による一実施形態のカメラシステムによるカメラ較正動作時における、CPUの動作を示すフローチャートである。It is a flowchart which shows operation | movement of CPU at the time of the camera calibration operation | movement by the camera system of one Embodiment by this invention. 本発明による一実施形態のカメラシステムによるカメラ較正動作における、較正パラメータの算出方法を説明する図である。It is a figure explaining the calculation method of the calibration parameter in the camera calibration operation | movement by the camera system of one Embodiment by this invention. ワールド座標系の回転移動を示す図である。It is a figure which shows the rotational movement of a world coordinate system. 本発明による一実施形態のカメラシステムによるカメラ画像を示す図である。It is a figure which shows the camera image by the camera system of one Embodiment by this invention. カメラ座標系における指標の両端の座標を示す図である。It is a figure which shows the coordinate of the both ends of the parameter | index in a camera coordinate system. 較正用オブジェクトの例を示す図である。It is a figure which shows the example of the object for a calibration. カメラを取り付けた移動体を示す図である。It is a figure which shows the moving body to which the camera was attached.

以下、本発明による一実施形態について、図面を参照して詳細に説明する。   Hereinafter, an embodiment of the present invention will be described in detail with reference to the drawings.

図1は、本発明による一実施形態のカメラシステムを移動体(例えば、車両)に搭載したときのシステムの構成例を示すブロック図である。図1に示すように、移動体のシステムは、カメラシステム1と、システム全体の動作を制御するCPU2と、バス3と、指示部5と、センサ6とを備える。カメラシステム1は、カメラ較正装置10と、表示部4とを備える。カメラ較正装置10は、カメラ11と、較正処理装置12とを備える。較正処理装置12は、画像処理部121と、画像重畳部122と、画像出力部123と、CPU124と、記憶部125とを備える。   FIG. 1 is a block diagram showing a configuration example of a system when a camera system according to an embodiment of the present invention is mounted on a moving body (for example, a vehicle). As shown in FIG. 1, the mobile system includes a camera system 1, a CPU 2 that controls the operation of the entire system, a bus 3, an instruction unit 5, and a sensor 6. The camera system 1 includes a camera calibration device 10 and a display unit 4. The camera calibration device 10 includes a camera 11 and a calibration processing device 12. The calibration processing apparatus 12 includes an image processing unit 121, an image superimposing unit 122, an image output unit 123, a CPU 124, and a storage unit 125.

カメラ11は、CMOS,CCDなどのイメージセンサを有しており、レンズを通して入射した被写体光を電気信号に変換し、被写体の撮像画像を生成する。カメラ11は、移動体の所定位置に取り付けられる。図12は、カメラ11を取り付けた移動体を示す図である。本実施形態では、図12に示すように、カメラ11は移動体100後方のバンパー44付近に取り付けられ、移動体100の後方の映像を撮影する。図中の領域Aは、カメラ11によって映像が撮影される領域である。   The camera 11 has an image sensor such as a CMOS or CCD, converts subject light incident through the lens into an electrical signal, and generates a captured image of the subject. The camera 11 is attached to a predetermined position of the moving body. FIG. 12 is a diagram illustrating a moving body to which the camera 11 is attached. In the present embodiment, as shown in FIG. 12, the camera 11 is attached in the vicinity of the bumper 44 at the rear of the moving body 100 and takes an image of the rear of the moving body 100. A region A in the figure is a region where a video is taken by the camera 11.

表示部4は、ユーザにより駐車モードが指示された場合には、カメラシステム1によって生成された映像を表示する。駐車モードとは、移動体100を運転するユーザから見えづらい移動体100後方の領域A内の映像を表示部4に表示させることによって、駐車を円滑に行えるように手助けするためのモードである。また、移動体100後方の領域A内の映像に、更に移動体100が通過する予測軌跡を重畳して表示し、より円滑に駐車を行えるようにすることもできる。   The display unit 4 displays the video generated by the camera system 1 when the parking mode is instructed by the user. The parking mode is a mode for helping smooth parking by causing the display unit 4 to display an image in the area A behind the moving body 100 that is difficult for the user who drives the moving body 100 to view. Further, the predicted trajectory through which the moving body 100 passes can be superimposed on the video in the area A behind the moving body 100 so that parking can be performed more smoothly.

また、ユーザによりカメラ較正モードが指示された場合にも、カメラシステム1によって生成された映像を表示する。カメラ較正モードとは、移動体100後方の領域A内に指標となる物体又は図形を配置し、カメラ11により得られる指標の映像を利用して、ユーザがカメラ11の取り付け位置を較正するためのモードである。このカメラ較正モードは、移動体100の生産ラインで移動体100にカメラ11を取り付ける際、あるいは移動体100に振動が加わるなどの理由によりカメラ11の位置がずれた際に用いられる。具体的な較正方法については後述する。   In addition, even when the camera calibration mode is instructed by the user, the video generated by the camera system 1 is displayed. In the camera calibration mode, an object or figure as an index is arranged in the area A behind the moving body 100, and the user uses the image of the index obtained by the camera 11 to calibrate the mounting position of the camera 11. Mode. This camera calibration mode is used when the camera 11 is attached to the moving body 100 on the production line of the moving body 100 or when the position of the camera 11 is shifted due to vibration applied to the moving body 100 or the like. A specific calibration method will be described later.

なお、表示部4は、ユーザによりナビゲーションモードが指示された場合には、ナビゲーションシステムにより得られた目的地までのルート案内図を表示し、テレビモードが指示された場合には、テレビ受信機により得られたテレビ映像を表示することも可能である。   The display unit 4 displays the route guide map to the destination obtained by the navigation system when the navigation mode is instructed by the user, and by the television receiver when the TV mode is instructed. It is also possible to display the obtained television image.

指示部5は、表示部4に重畳された較正用オブジェクトの位置を調整するためのユーザインターフェースであり、指示部5を操作することにより、較正用オブジェクトの位置を上下左右に移動させることができる。指示部5は、ユーザの操作により得られたオブジェクト移動信号を、バス3を介してCPU124に出力する。調整操作が終了したときには、指示部5は、調整終了信号を、バス3を介してCPU124に出力する。   The instruction unit 5 is a user interface for adjusting the position of the calibration object superimposed on the display unit 4. By operating the instruction unit 5, the position of the calibration object can be moved vertically and horizontally. . The instruction unit 5 outputs an object movement signal obtained by a user operation to the CPU 124 via the bus 3. When the adjustment operation is completed, the instruction unit 5 outputs an adjustment end signal to the CPU 124 via the bus 3.

センサ6は、車速を検知する車速センサ、シフトレバーの位置を検知するギアセンサ、ステアリングの操舵角を検知する舵角センサ等を含む。センサ6は、各種センサから得られたセンサ信号を、バス3を介してCPU124およびCPU2に出力する。   The sensor 6 includes a vehicle speed sensor that detects the vehicle speed, a gear sensor that detects the position of the shift lever, a steering angle sensor that detects the steering angle of the steering, and the like. The sensor 6 outputs sensor signals obtained from various sensors to the CPU 124 and the CPU 2 via the bus 3.

記憶部125には、既知の値となるカメラ11の位置座標および指標の位置座標が記憶される。   The storage unit 125 stores the position coordinates of the camera 11 and the position coordinates of the index that are known values.

CPU124は、指示部5により得られたオブジェクト移動信号に基づいて較正用オブジェクトの表示位置を決定し、画像重畳部122に重畳指示を行う。また、CPU124は、指示部5から較正終了の指示を受けたとき、較正終了時の較正用オブジェクトの位置座標を取得するとともに、記憶部125に記憶されているカメラ11の位置座標および指標の位置座標を取得し、これらの位置座標に基づいてカメラ11の取り付け位置のずれを較正する較正パラメータ(パン角、チルト角、およびロール角)を算出する。また、CPU124は、センサ6により得られたセンサ信号に基づいて移動体100の予測軌跡の表示位置を決定し、画像重畳部122に重畳指示を行う。   The CPU 124 determines the display position of the calibration object based on the object movement signal obtained by the instruction unit 5 and instructs the image superimposing unit 122 to superimpose. In addition, when receiving an instruction to end calibration from the instruction unit 5, the CPU 124 acquires the position coordinates of the calibration object at the time of completion of calibration, and also stores the position coordinates of the camera 11 and the position of the index stored in the storage unit 125. The coordinates are acquired, and calibration parameters (pan angle, tilt angle, and roll angle) for calibrating the displacement of the mounting position of the camera 11 are calculated based on these position coordinates. Further, the CPU 124 determines the display position of the predicted trajectory of the moving body 100 based on the sensor signal obtained by the sensor 6 and instructs the image superimposing unit 122 to superimpose.

画像処理部121は、カメラ11により生成された撮像画像に対してA/D変換、ノイズ低減処理、画像処理などを施してデジタル画像を生成し、画像重畳部122に出力する。   The image processing unit 121 performs A / D conversion, noise reduction processing, image processing, and the like on the captured image generated by the camera 11, generates a digital image, and outputs the digital image to the image superimposing unit 122.

画像重畳部122は、CPU124からの指示に基づいて、画像処理部121により生成されたデジタル画像上の所定の位置に画像を重畳して重畳画像を生成し、画像出力部123に出力する。重畳させる画像は、カメラ11の取り付け位置を較正する際に用いられる複数の較正用オブジェクト、または移動体100が後退時に自身が通過する予想領域を示し、駐車のサポートに用いられる予測軌跡などである。   Based on an instruction from the CPU 124, the image superimposing unit 122 generates a superimposed image by superimposing an image on a predetermined position on the digital image generated by the image processing unit 121, and outputs the superimposed image to the image output unit 123. The image to be superimposed indicates a plurality of calibration objects used when calibrating the mounting position of the camera 11, or an expected region through which the moving body 100 passes when moving backward, and is a predicted trajectory used for parking support. .

複数の較正用オブジェクトはそれぞれ独立して移動させることができる。移動対象の較正用オブジェクトを明示してユーザの操作性を高めるために、画像重畳部122は、移動中(選択状態)の較正用オブジェクトを強調表示させるのが好適である。強調表示の方法は、移動中でない(非選択状態の)他の較正用オブジェクトと区別可能な方法であればよく、例えば点滅表示させる、色または太さを変更して表示させる、などである。   The plurality of calibration objects can be moved independently of each other. In order to clearly indicate the calibration object to be moved and improve the operability for the user, it is preferable that the image superimposing unit 122 highlights the calibration object being moved (selected state). The highlighting method may be any method that can be distinguished from other calibration objects that are not moving (non-selected state), such as blinking display, changing color or thickness, and the like.

画像出力部123は、画像重畳部122により生成された重畳画像を、表示部4の表示デバイスに適したフォーマット(例えば、NTSCなど)に変換し、表示部4に出力する。   The image output unit 123 converts the superimposed image generated by the image superimposing unit 122 into a format (for example, NTSC) suitable for the display device of the display unit 4 and outputs the converted image to the display unit 4.

図2は、ユーザにより駐車モードが指示された場合に、表示部4に表示される画像の一例を示す図である。画像重畳部122は、較正用オブジェクトを複数表示させることができるが、以下、較正用オブジェクトの数が2つである場合について説明する。表示部4には、指標41と、第1の較正用オブジェクト42および第2の較正用オブジェクト43とが表示される。また、カメラ11が図12に示すようにバンパー44付近に取り付けられた場合には、バンパー44の端部も表示される。   FIG. 2 is a diagram illustrating an example of an image displayed on the display unit 4 when the parking mode is instructed by the user. The image superimposing unit 122 can display a plurality of calibration objects. Hereinafter, a case where the number of calibration objects is two will be described. On the display unit 4, an index 41, a first calibration object 42, and a second calibration object 43 are displayed. When the camera 11 is mounted near the bumper 44 as shown in FIG. 12, the end of the bumper 44 is also displayed.

指標41は、移動体100を予め定められた停止位置に正確に停止した場合における移動体100の後端から所定の距離(例えば、1m)に配置される物体又は図形であり、例えば、長方形状の板、または路面上に描かれた白線である。つまり、カメラ11の取り付け角度が正確であれば、移動体100と指標41との位置関係が特定されているため、カメラ11により撮影された指標41は表示部4の画面上必ず特定位置に映ることとなる。もし、指標41が特定位置からずれた位置に映る場合には、指示部5により、第1の較正用オブジェクト42を指標41の一端まで移動させ、第2の較正用オブジェクト43を指標41の他端まで移動させることにより、カメラ11のカメラ取り付け角度のずれを特定する較正パラメータを取得することができる。   The index 41 is an object or a figure arranged at a predetermined distance (for example, 1 m) from the rear end of the moving body 100 when the moving body 100 is accurately stopped at a predetermined stop position. It is a white line drawn on the board or road surface. That is, if the mounting angle of the camera 11 is accurate, the positional relationship between the moving body 100 and the index 41 is specified, and thus the index 41 photographed by the camera 11 is always reflected at a specific position on the screen of the display unit 4. It will be. If the index 41 appears in a position deviated from the specific position, the instruction unit 5 moves the first calibration object 42 to one end of the index 41 and moves the second calibration object 43 to the other position of the index 41. By moving to the end, it is possible to acquire a calibration parameter that specifies the deviation of the camera mounting angle of the camera 11.

図3は、指示部5の外観図の一例を示す図である。図2に示すように、指示部5は、上指示部51と、左指示部52と、下指示部53と、右指示部54とを有する。上指示部51、左指示部52、下指示部53、および右指示部54は車両内の表示部4近傍に設けた機械スイッチであってもよいし、表示部4に重ねて配されるタッチパネル上に表示されるオブジェクトであってもよい。上指示部51は、較正用オブジェクトを上方向に移動させる際に用いられる。左指示部52は、移動対象となる較正用オブジェクトを左側に配置された第1の較正用オブジェクト42に決定する際、および較正用オブジェクトを左方向に移動させる際に用いられる。下指示部53は、較正用オブジェクトを下方向に移動させる際に用いられる。右指示部54は、移動対象となる較正用オブジェクトを右側に配置された第2のオブジェクト43に決定する際、および較正用オブジェクトを右方向に移動させる際に用いられる。   FIG. 3 is a diagram illustrating an example of an external view of the instruction unit 5. As illustrated in FIG. 2, the instruction unit 5 includes an upper instruction unit 51, a left instruction unit 52, a lower instruction unit 53, and a right instruction unit 54. The upper instruction unit 51, the left instruction unit 52, the lower instruction unit 53, and the right instruction unit 54 may be mechanical switches provided in the vicinity of the display unit 4 in the vehicle, or a touch panel arranged on the display unit 4. It may be an object displayed above. The upper instruction unit 51 is used when the calibration object is moved upward. The left instruction unit 52 is used when the calibration object to be moved is determined as the first calibration object 42 arranged on the left side and when the calibration object is moved in the left direction. The lower instruction unit 53 is used when the calibration object is moved downward. The right instruction unit 54 is used when the calibration object to be moved is determined as the second object 43 arranged on the right side and when the calibration object is moved in the right direction.

ここで、左指示部52又は右指示部54の1回押下に対し例えば0.5度のオフセットを対応づけた場合には、左指示部52又は右指示部54を1回押下すると、カメラ11の撮像方向をパン(左右)方向に0.5度だけ向きを変えるときに生じる撮影画像の移動分量に等しい画素数分だけ、較正用オブジェクト42を移動させることになる。上下(チルト)方向においても同様である。   Here, when an offset of 0.5 degrees, for example, is associated with a single press of the left instruction unit 52 or the right instruction unit 54, when the left instruction unit 52 or the right instruction unit 54 is pressed once, the camera 11 The calibration object 42 is moved by the number of pixels equal to the amount of movement of the photographed image that occurs when the direction of the image pickup is changed by 0.5 degrees in the pan (left / right) direction. The same applies to the vertical (tilt) direction.

次に、カメラシステム1によるカメラの較正動作を説明する。図4は、カメラシステム1によるカメラの較正動作を示すフローチャートである。図5は、カメラの較正動作時に表示部4に表示される画像を示す図である。まず、指示部5により、表示部4に表示された第1の較正用オブジェクト42および第2の較正用オブジェクト43のうち、移動対象とする較正用オブジェクトを選択する(ステップS101)。例えば、左指示部52を押下すると、第1の較正用オブジェクト42を移動対象の較正用オブジェクトと決定し、右指示部54を押下すると、第2の較正用オブジェクト43を移動対象の較正用オブジェクトと決定する。ここでは、第1の較正用オブジェクト42を選択したものとする。   Next, a camera calibration operation by the camera system 1 will be described. FIG. 4 is a flowchart showing a camera calibration operation by the camera system 1. FIG. 5 is a diagram illustrating an image displayed on the display unit 4 during the camera calibration operation. First, the instruction unit 5 selects a calibration object to be moved from among the first calibration object 42 and the second calibration object 43 displayed on the display unit 4 (step S101). For example, when the left instruction unit 52 is pressed, the first calibration object 42 is determined as a movement target calibration object, and when the right instruction unit 54 is pressed, the second calibration object 43 is moved as a calibration object. And decide. Here, it is assumed that the first calibration object 42 is selected.

ステップS101により第1の較正用オブジェクト42が選択されると、画像重畳部122により、移動対象である第1の較正用オブジェクト42を、移動対象でない第2の較正用オブジェクトと区別できるように強調表示する(ステップS102)。較正用オブジェクトが強調表示されると、指示部5により上下左右方向に移動させることができる。図5(a)は、左指示部52が押下され、第1の較正用オブジェクト42が点滅表示(強調表示)された状態を示している。   When the first calibration object 42 is selected in step S101, the image superimposing unit 122 emphasizes the first calibration object 42 that is the movement target so that it can be distinguished from the second calibration object that is not the movement target. Displayed (step S102). When the calibration object is highlighted, it can be moved in the vertical and horizontal directions by the instruction unit 5. FIG. 5A shows a state in which the left instruction unit 52 is pressed and the first calibration object 42 is blinked (highlighted).

ユーザは、移動対象である第1の較正用オブジェクト42を、左右方向に移動させるとともに、上下方向に移動させることにより、第1の較正用オブジェクト42を指標41の左端に移動させる(ステップS102,103)。図5(b)は、左指示部52が押下され、第1の較正用オブジェクト42が左方向に移動した状態を示しており、図5(c)は、上指示部51が押下され、第1の較正用オブジェクト42が上方向に移動した状態を示している。   The user moves the first calibration object 42 to be moved to the left end of the index 41 by moving the first calibration object 42 in the left-right direction and moving in the up-down direction (step S102, 103). FIG. 5B shows a state where the left instruction unit 52 is pressed and the first calibration object 42 has moved leftward. FIG. 5C shows that the upper instruction unit 51 is pressed and One calibration object 42 is moved upward.

ユーザは、移動対象である第1の較正用オブジェクト42を指標41の左端まで移動させると、左指示部52を長押し又は二度押し(ダブルクリック)する等により、第1の較正用オブジェクト42の位置合わせ処理の終了を指示する(ステップS105)。指示部5に、終了指示用のキーを追加してもよい。カメラシステム1は、指示部5から位置合わせ処理の終了指示を受け取ると、画像重畳部122により、強調表示を終了させる(ステップS106)。   When the user moves the first calibration object 42 to be moved to the left end of the index 41, the first calibration object 42 is obtained by, for example, long-pressing or double-clicking the left instruction unit 52 (double-clicking). Is instructed to end the registration processing (step S105). An end instruction key may be added to the instruction unit 5. When the camera system 1 receives an instruction to end the alignment process from the instruction unit 5, the image superimposing unit 122 ends the highlighting (step S <b> 106).

次に、ユーザは、右指示部54を押下することにより、表示部4に表示された第2の較正用オブジェクト43を移動対象とする較正用オブジェクトとして選択する(ステップS107)。あるいは指示部5から位置合わせ処理の終了指示を受け取ると、すぐに第2の較正用オブジェクト43を選択するよう較正してもよい。   Next, the user presses the right instruction unit 54 to select the second calibration object 43 displayed on the display unit 4 as a calibration object to be moved (step S107). Alternatively, calibration may be performed so that the second calibration object 43 is selected immediately upon receiving an instruction to end the alignment process from the instruction unit 5.

ステップS107により第2の較正用オブジェクト43が選択されると、画像重畳部122は、移動対象である第2の較正用オブジェクト43を、移動対象でない第1の較正用オブジェクトと区別できるように強調表示する(ステップS108)。図5(d)は、右指示部54が押下され、第2の較正用オブジェクト43が点滅表示(強調表示)された状態を示している。   When the second calibration object 43 is selected in step S107, the image superimposing unit 122 emphasizes the second calibration object 43 that is the movement target so that it can be distinguished from the first calibration object that is not the movement target. It is displayed (step S108). FIG. 5D shows a state in which the right instruction unit 54 is pressed and the second calibration object 43 is blinked (highlighted).

ユーザは、移動対象である第2の較正用オブジェクト43を、左右方向に移動させるとともに、上下方向に移動させることにより、第2の較正用オブジェクト43を指標41の右端に移動させる(ステップS109,110)。図5(e)は、左指示部52が押下され、第2の較正用オブジェクト43が左方向に移動した状態を示しており、図5(f)は、上指示部51が押下され、第2の較正用オブジェクト43が上方向に移動した状態を示している。   The user moves the second calibration object 43 to be moved in the left-right direction and also in the vertical direction, thereby moving the second calibration object 43 to the right end of the index 41 (step S109, 110). FIG. 5E shows a state in which the left instruction unit 52 has been pressed and the second calibration object 43 has moved leftward. FIG. 5F shows that the upper instruction unit 51 has been pressed and 2 shows a state in which the second calibration object 43 has moved upward.

ユーザは、移動対象である第2の較正用オブジェクト43を指標41の右端まで移動させると、第2の較正用オブジェクト43の位置合わせ処理の終了を指示する(ステップS111)。カメラシステム1は、指示部5から位置合わせ処理の終了指示を受け取ると、画像重畳部122により、強調表示を終了させる(ステップS112)。位置合わせ処理の終了を指示は、左指示部52を長押し又は二度押し(ダブルクリック)する等により行ってもよいし、終了指示用のキーを追加してもよい。   When the user moves the second calibration object 43 to be moved to the right end of the index 41, the user instructs the end of the alignment process of the second calibration object 43 (step S111). When the camera system 1 receives an instruction to end the alignment process from the instruction unit 5, the image superimposing unit 122 ends the highlight display (step S <b> 112). The end of the alignment process may be instructed by long-pressing or double-pressing the left instructing unit 52, or a key for instructing end may be added.

図6は、カメラ11の較正動作時における、CPU124の動作を示すフローチャートである。CPU124は、指示部5からオブジェクト移動信号を受信すると(ステップS201−Yes)、画像重畳部122に重畳指示を行う(ステップS202)。CPU124は、指示部5からオブジェクト移動信号を受信しない場合(ステップS201−No)、指示部5からの較正終了信号を受信するまでの間、指示部5からの移動指示を受け付ける(ステップS203−No)。指示部5からの調整終了信号を受信すると(ステップS203−Yes)、較正パラメータ(パン角、チルト角、およびロール角)を算出する(ステップS204)。   FIG. 6 is a flowchart showing the operation of the CPU 124 during the calibration operation of the camera 11. When the CPU 124 receives the object movement signal from the instruction unit 5 (step S201—Yes), the CPU 124 instructs the image superimposing unit 122 to superimpose (step S202). When the CPU 124 does not receive the object movement signal from the instruction unit 5 (step S201-No), the CPU 124 accepts the movement instruction from the instruction unit 5 until the calibration end signal is received from the instruction unit 5 (step S203-No). ). When the adjustment end signal is received from the instruction unit 5 (step S203—Yes), calibration parameters (pan angle, tilt angle, and roll angle) are calculated (step S204).

次に、ステップS204における較正パラメータの算出方法について説明する。図7は、較正パラメータの算出方法を説明する図であり、移動体100に設置されるカメラ11と指標41の位置関係を示している。指標41の両端の点をそれぞれP,Pとする。カメラ11の位置(カメラ座標の原点)は、ワールド座標で(tx,ty,tz)と表される。また、カメラ11の位置を基準として、カメラ11から見た相対的な位置関係はカメラ座標系で表現することができる。カメラ座標系は、ワールド座標系に対する平行移動および回転移動で表すことができる。 Next, the calibration parameter calculation method in step S204 will be described. FIG. 7 is a diagram for explaining a calibration parameter calculation method, and shows the positional relationship between the camera 11 and the index 41 installed on the moving body 100. The points at both ends of the index 41 are P 1 and P 2 , respectively. The position of the camera 11 (the origin of the camera coordinates) is expressed as (tx, ty, tz) in world coordinates. Further, the relative positional relationship seen from the camera 11 can be expressed in the camera coordinate system with the position of the camera 11 as a reference. The camera coordinate system can be expressed by translation and rotation with respect to the world coordinate system.

図8は、ワールド座標系の回転移動を示す図である。図8(a)に示すように、Zwを軸とする回転をパン、図8(b)に示すようにYwを軸とする回転をロール、図8(c)に示すようにXwを軸とする回転をチルトとする。パンの回転角度(パン角)α、ロールの回転角度(ロール角)β、チルトの回転角度(チルト角)γのとき、ワールド座標系の座標(xw,yw,zw)で表される点Pは、カメラ座標系では式(1)で表すことができる。 FIG. 8 is a diagram showing the rotational movement of the world coordinate system. As shown in FIG. 8 (a), rotation around Zw is a pan, rotation around Yw is a roll as shown in FIG. 8 (b), and Xw is an axis as shown in FIG. 8 (c). This rotation is referred to as tilt. When the rotation angle (pan angle) α of the pan, the rotation angle (roll angle) β of the roll, and the rotation angle (tilt angle) γ of the roll, they are represented by the coordinates (xw 1 , yw 1 , zw 1 ) of the world coordinate system. The point P 1 can be represented by the equation (1) in the camera coordinate system.

Figure 2013173453
Figure 2013173453

図9は、較正用オブジェクト42,43の調整処理終了時の表示部4の表示を示す図である。指標41の座標は、上述したように較正オブジェクトを移動させることで得られる。指標41の一端Pの位置を、カメラ画像の中心点を原点とする座標で(x,z)としたとき、カメラ11のセンサ面上の像高hは、センサのピクセルピッチdを用いて式(2)で表される。 FIG. 9 is a diagram showing a display on the display unit 4 when the calibration objects 42 and 43 are adjusted. The coordinates of the index 41 can be obtained by moving the calibration object as described above. When the position of the one end P 1 of the index 41 is set to (x i , z i ) with the center point of the camera image as the origin, the image height h on the sensor surface of the camera 11 is the pixel pitch d of the sensor. And is represented by Formula (2).

Figure 2013173453
Figure 2013173453

さらに、レンズの入射角θiとセンサ面上の像高hの関係は、レンズの焦点距離f、およびレンズのディストーションdistを用いて、式(3)で表すことができる。 Further, the relationship between the incident angle θ i of the lens and the image height h on the sensor surface can be expressed by Expression (3) using the focal length f of the lens and the distortion dist of the lens.

Figure 2013173453
Figure 2013173453

図10は、カメラ座標系における指標41の両端P,Pの座標を示す図である。点Pに対するカメラ11の入射角θiは、式(4)で表される。 FIG. 10 is a diagram illustrating the coordinates of both ends P 1 and P 2 of the index 41 in the camera coordinate system. An incident angle θ i of the camera 11 with respect to the point P 1 is expressed by Expression (4).

Figure 2013173453
Figure 2013173453

カメラ11から点Pまでの距離s、すなわちカメラ座標原点から指標41の点Pまでの距離は既知であるので、式(2),(3)から求まる角度θiと、式(5)で表される角度φiとを用いて、(xc,yc,zc)を式(6),(7),(8)により算出することができる。 Since the distance s from the camera 11 to the point P 1 , that is, the distance from the camera coordinate origin to the point P 1 of the index 41 is known, the angle θ i obtained from the equations (2) and (3) and the equation (5) (Xc 1 , yc 1 , zc 1 ) can be calculated by equations (6), (7), and (8) using the angle φ i represented by

Figure 2013173453
Figure 2013173453

同様に、点Pについても式(9)の関係が算出される。 Similarly, the relationship of formula (9) is also calculated point P 2.

Figure 2013173453
Figure 2013173453

指標41を、移動体100後端から所定の距離に移動体100後端と平行になるように配置し、指標41の厚みを一定とすることにより、以下の式(10),(11)が成立する。   By arranging the index 41 at a predetermined distance from the rear end of the moving body 100 so as to be parallel to the rear end of the moving body 100 and making the thickness of the index 41 constant, the following equations (10) and (11) are obtained. To establish.

yw=yw (10)
zw=zw (11)
yw 1 = yw 2 (10)
zw 1 = zw 2 (11)

較正点のワールド座標系での座標は既知であるので、較正指示装置により入力した2つの較正点の画像上の座標が決まれば、式(1),(9),(10),(11)より、パン角α,ロール角β,およびチルト角γを算出することができる。   Since the coordinates of the calibration point in the world coordinate system are known, if the coordinates on the image of the two calibration points input by the calibration instruction device are determined, the equations (1), (9), (10), (11) Thus, the pan angle α, the roll angle β, and the tilt angle γ can be calculated.

つまり、式(10),(11)の条件を満たすことにより、CPU124は、2点の較正用オブジェクトの座標を取得すれば、較正パラメータを算出することができる。そのため、較正用オブジェクトの数は2つとするのが好適である。   That is, by satisfying the conditions of the expressions (10) and (11), the CPU 124 can calculate the calibration parameters by acquiring the coordinates of the two calibration objects. Therefore, the number of calibration objects is preferably two.

カメラ11からの撮像画像は、CPU124により較正パラメータが算出された後は、当該較正パラメータに対応する量をオフセットさせて出力される。これにより、結果的に画像重畳部122は、画像処理部121により生成されたデジタル画像上に予測軌跡などの画像を重畳して重畳画像を生成する際に、較正パラメータが算出される以前の重畳位置からオフセットして重畳されることとなるため、例えば駐車時により高精度な車両通過予測軌跡を表示することができる。   The captured image from the camera 11 is output after offsetting the amount corresponding to the calibration parameter after the CPU 124 calculates the calibration parameter. As a result, when the image superimposing unit 122 generates a superimposed image by superimposing an image such as a predicted trajectory on the digital image generated by the image processing unit 121, the superimposition before the calibration parameter is calculated. Since the position is superimposed with an offset from the position, for example, a highly accurate vehicle passage prediction trajectory can be displayed during parking.

このように、較正用オブジェクト42,43を指標41の両端P,Pに一致させることにより、カメラ11の較正パラメータを算出することができる。ただし、較正用オブジェクト42,43を厳密に指標41の両端P,Pに一致させるには時間を要し、また、較正用オブジェクト42,43とP,Pとが完全に一致しなくても較正パラメータの取得に影響はない。そのため、較正用オブジェクト42,43を所定領域を囲む形状とし、CPU124は較正用オブジェクト42,43の所定領域がP,Pを含む位置関係とされたときに較正用オブジェクト42,43の位置座標を取得するのが好適である。図11は、較正用オブジェクトの例を示す図である。図11(a)〜(d)に示す較正用オブジェクトは、いずれも所定領域を囲む形状となっている。 As described above, the calibration parameters of the camera 11 can be calculated by matching the calibration objects 42 and 43 with both ends P 1 and P 2 of the index 41. However, it takes time to make the calibration objects 42 and 43 exactly match both ends P 1 and P 2 of the index 41, and the calibration objects 42 and 43 and P 1 and P 2 completely match. Not having any effect on the acquisition of calibration parameters. Therefore, the calibration objects 42 and 43 are shaped so as to surround the predetermined area, and the CPU 124 positions the calibration objects 42 and 43 when the predetermined areas of the calibration objects 42 and 43 include P 1 and P 2. It is preferable to obtain the coordinates. FIG. 11 is a diagram illustrating an example of a calibration object. Each of the calibration objects shown in FIGS. 11A to 11D has a shape surrounding a predetermined area.

このように、CPU124は、重畳画像において、較正用オブジェクト42,43が移動され、それぞれが指標41の所定の点P,Pと略一致したときの較正用オブジェクト42,43の位置に基づいて、パン角、チルト角、およびロール角におけるカメラ11の較正パラメータを算出する。このため、本発明による較正処理装置12、カメラ較正装置10、カメラシステム1、およびカメラ較正方法によれば、カメラ11を較正する際の操作が簡便となり、較正に要する時間を短縮することができる。また、較正用オブジェクトの数を複数にしたことにより、較正用オブジェクトの移動方向を上下左右方向のみとし、回転方向の移動を不要とすることができる。かくして、較正にかかる操作をシンプル化し、誤操作の恐れを少なくするとともに、較正に要する時間を短縮することができる。 As described above, the CPU 124 moves the calibration objects 42 and 43 in the superimposed image based on the positions of the calibration objects 42 and 43 when the calibration objects 42 and 43 substantially coincide with the predetermined points P 1 and P 2 of the index 41. Thus, the calibration parameters of the camera 11 at the pan angle, tilt angle, and roll angle are calculated. For this reason, according to the calibration processing device 12, the camera calibration device 10, the camera system 1, and the camera calibration method according to the present invention, the operation for calibrating the camera 11 becomes simple and the time required for calibration can be shortened. . In addition, since the number of calibration objects is plural, the calibration object can be moved only in the vertical and horizontal directions, and movement in the rotation direction can be eliminated. Thus, the calibration operation can be simplified, the risk of erroneous operation can be reduced, and the time required for calibration can be shortened.

上述の実施形態は、代表的な例として説明したが、本発明の趣旨および範囲内で、多くの変更および置換ができることは当業者に明らかである。したがって、本発明は、上述の実施形態によって制限するものと解するべきではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。例えば、上述した実施形態では、指標41の左端と右端の2点の座標を取得するようにしたが、座標の取得位置は、指標41何の予め決めておいた点とすることができる。   Although the above embodiments have been described as representative examples, it will be apparent to those skilled in the art that many changes and substitutions can be made within the spirit and scope of the invention. Therefore, the present invention should not be construed as being limited by the above-described embodiments, and various modifications and changes can be made without departing from the scope of the claims. For example, in the embodiment described above, the coordinates of the two points of the left end and the right end of the index 41 are acquired, but the acquisition position of the coordinates can be any predetermined point of the index 41.

1 カメラシステム
2 CPU
3 バス
4 表示部
5 指示部
6 センサ
10 カメラ較正装置
11 カメラ
12 較正処理装置
121 画像処理部
122 画像重畳部
123 画像出力部
124 CPU
125 記憶部
41 指標
42 第1の較正用オブジェクト
43 第2の較正用オブジェクト
44 バンパー
100 移動体
1 Camera system 2 CPU
3 Bus 4 Display Unit 5 Instruction Unit 6 Sensor 10 Camera Calibration Device 11 Camera 12 Calibration Processing Device 121 Image Processing Unit 122 Image Superimposition Unit 123 Image Output Unit 124 CPU
125 Storage Unit 41 Index 42 First Calibration Object 43 Second Calibration Object 44 Bumper 100 Mobile Object

Claims (14)

移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラと、
前記カメラによる撮像画像に対して、所定の面積を有する複数の較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、
前記重畳画像において、前記複数の較正用オブジェクトが移動され、前記指標の所定の複数点のそれぞれに各較正用オブジェクトが重なったときの各較正用オブジェクトの位置に基づいて、パン角、チルト角およびロール角における前記カメラの取り付け位置のずれを較正するパラメータを算出する演算部と、
を備えることを特徴とするカメラ較正装置。
A camera that is attached to a predetermined position of the moving body and captures an image including an index placed outside the moving body;
An image superimposing unit that generates a superimposed image in which a plurality of calibration objects having a predetermined area are superimposed on an image captured by the camera;
In the superimposed image, the plurality of calibration objects are moved, and based on the position of each calibration object when each calibration object overlaps each of the predetermined plurality of points of the index, the pan angle, the tilt angle, and A calculation unit for calculating a parameter for calibrating the deviation of the mounting position of the camera at a roll angle;
A camera calibration device comprising:
前記較正用オブジェクトの移動方向は、上下左右方向であることを特徴とする、請求項1に記載のカメラ較正装置。   The camera calibration apparatus according to claim 1, wherein a moving direction of the calibration object is an up / down / left / right direction. 前記複数の較正用オブジェクトは、それぞれが前記所定の面積の領域を囲む形状であり、
前記演算部は、前記複数の較正用オブジェクトが移動され、各領域が前記指標内の所定の複数点を含む位置関係とされたときの各較正用オブジェクトの位置座標を取得する
ことを特徴とする、請求項1又は2に記載のカメラ較正装置。
Each of the plurality of calibration objects has a shape surrounding the area of the predetermined area,
The calculation unit acquires position coordinates of each calibration object when the plurality of calibration objects are moved and each region has a positional relationship including a plurality of predetermined points in the index. The camera calibration device according to claim 1 or 2.
前記複数の較正用オブジェクトの数は2つであり、
前記指標内の所定の複数点は、前記指標の一端および他端である
ことを特徴とする、請求項1から3のいずれか一項に記載のカメラ較正装置。
The number of the plurality of calibration objects is two;
4. The camera calibration apparatus according to claim 1, wherein the predetermined plurality of points in the index are one end and the other end of the index. 5.
前記複数の較正用オブジェクトはそれぞれ独立して移動される際、前記画像重畳部により、移動中の較正用オブジェクトを強調表示させる
ことを特徴とする、請求項1から4のいずれか一項に記載のカメラ較正装置。
5. The moving calibration object is highlighted by the image superimposing unit when the plurality of calibration objects are moved independently of each other. 5. Camera calibration device.
前記カメラからの撮像画像は、前記演算部により前記パラメータが算出された後、当該パラメータに対応する量をオフセットさせて出力される
ことを特徴とする、請求項1から5のいずれか一項に記載のカメラ較正装置。
6. The captured image from the camera is output by offsetting an amount corresponding to the parameter after the parameter is calculated by the arithmetic unit. 6. The camera calibration device described.
前記画像重畳部は、前記カメラからの撮像画像に対して所定の画像を重畳して表示する際、その重畳位置を前記演算部により算出された前記パラメータに対応する量だけオフセットする
ことを特徴とする、請求項1から5のいずれか一項に記載のカメラ較正装置。
The image superimposing unit offsets a superimposition position by an amount corresponding to the parameter calculated by the arithmetic unit when displaying a predetermined image superimposed on a captured image from the camera. The camera calibration device according to any one of claims 1 to 5.
移動体の所定位置に取り付けられたカメラにより、移動体外部に配された指標を含む画像を撮像するステップと、
前記カメラによる撮像画像に対して、所定の面積を有する複数の較正用オブジェクトを重畳した重畳画像を生成するステップと、
前記重畳画像において、前記複数の較正用オブジェクトが移動され、前記指標の所定の複数点のそれぞれに各較正用オブジェクトが重なったときの各較正用オブジェクトの位置に基づいて、パン角、チルト角およびロール角における前記カメラの取り付け位置のずれを較正するパラメータを算出するステップと、
を含むことを特徴とするカメラ較正方法。
Capturing an image including an index placed outside the moving body with a camera attached to a predetermined position of the moving body;
Generating a superimposed image in which a plurality of calibration objects having a predetermined area are superimposed on an image captured by the camera;
In the superimposed image, the plurality of calibration objects are moved, and based on the position of each calibration object when each calibration object overlaps each of the predetermined plurality of points of the index, the pan angle, the tilt angle, and Calculating a parameter for calibrating a displacement of the mounting position of the camera at a roll angle;
A camera calibration method comprising:
前記較正用オブジェクトの移動方向は、上下左右方向であることを特徴とする、請求項8に記載のカメラ較正方法。   The camera calibration method according to claim 8, wherein the moving direction of the calibration object is an up / down / left / right direction. 前記複数の較正用オブジェクトは、それぞれが前記所定の面積の領域を囲む形状であり、
前記パラメータを算出するステップは、前記複数の較正用オブジェクトが移動され、各領域が前記指標内の所定の複数点を含む位置関係とされたときの各較正用オブジェクトの位置座標を取得する
ことを特徴とする、請求項8又は9に記載のカメラ較正方法。
Each of the plurality of calibration objects has a shape surrounding the area of the predetermined area,
The step of calculating the parameter includes obtaining the position coordinates of each calibration object when the plurality of calibration objects are moved and each region has a positional relationship including a plurality of predetermined points in the index. 10. The camera calibration method according to claim 8, wherein the camera calibration method is characterized.
前記複数の較正用オブジェクトの数は2つであり、
前記指標内の所定の複数点は、前記指標の一端および他端である
ことを特徴とする、請求項8から10のいずれか一項に記載のカメラ較正方法。
The number of the plurality of calibration objects is two;
The camera calibration method according to claim 8, wherein the predetermined plurality of points in the index are one end and the other end of the index.
前記複数の較正用オブジェクトがそれぞれ独立して移動される際に、移動中の較正用オブジェクトを強調表示させるステップをさらに含む
ことを特徴とする、請求項8から11のいずれか一項に記載のカメラ較正方法。
12. The method according to claim 8, further comprising: highlighting the moving calibration object when the plurality of calibration objects are independently moved. 12. Camera calibration method.
移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラからの撮像画像を利用して、当該カメラのパン角、チルト角およびロール角における取り付け位置のずれを較正する較正処理装置であって、
前記カメラによる撮像画像に対して、所定の面積を有する複数の較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、
前記重畳画像において、前記複数の較正用オブジェクトが移動され、前記指標の所定の複数点のそれぞれに各較正用オブジェクトが重なったときの各較正用オブジェクトの位置に基づいて、前記カメラの取り付け位置のずれを較正するパラメータを算出する演算部と、
を備えることを特徴とする較正処理装置。
By using a captured image from a camera that captures an image including an index that is attached at a predetermined position of the moving body and arranged outside the moving body, the mounting position shift in the pan angle, tilt angle, and roll angle of the camera A calibration processing device for calibrating,
An image superimposing unit that generates a superimposed image in which a plurality of calibration objects having a predetermined area are superimposed on an image captured by the camera;
In the superimposed image, the plurality of calibration objects are moved, and based on the position of each calibration object when each calibration object overlaps each of the predetermined plurality of points of the index, A calculation unit for calculating a parameter for calibrating the deviation;
A calibration processing apparatus comprising:
移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラと、
前記カメラによる撮像画像に対して、所定の面積を有する複数の較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、
前記移動体内に設けられ、前記重畳画像が表示される表示部と、
前記重畳画像における、前記複数の較正用オブジェクトに対してその表示位置を移動させる指示を行う指示部と、
前記指標の所定の複数点のそれぞれに各較正用オブジェクトが重なったときの各較正用オブジェクトの位置に基づいて、パン角、チルト角およびロール角における前記カメラの取り付け位置のずれを較正するパラメータを算出する演算部と、
を備えることを特徴とするカメラシステム。
A camera that is attached to a predetermined position of the moving body and captures an image including an index placed outside the moving body;
An image superimposing unit that generates a superimposed image in which a plurality of calibration objects having a predetermined area are superimposed on an image captured by the camera;
A display unit provided in the moving body and displaying the superimposed image;
An instruction unit for giving an instruction to move the display position of the plurality of calibration objects in the superimposed image;
Parameters for calibrating the displacement of the camera mounting position in the pan angle, tilt angle, and roll angle based on the position of each calibration object when each calibration object overlaps each of the predetermined plurality of points of the index A computing unit to calculate,
A camera system comprising:
JP2012039417A 2011-09-13 2012-02-24 Calibration processing device, camera calibrating device, camera system and camera calibrating method Pending JP2013173453A (en)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2012039417A JP2013173453A (en) 2012-02-24 2012-02-24 Calibration processing device, camera calibrating device, camera system and camera calibrating method
US13/564,612 US20130215280A1 (en) 2011-09-13 2012-08-01 Camera calibration device, camera and camera calibration method
CN201280044643.5A CN103797779A (en) 2011-09-13 2012-09-13 Camera correction device, camera and camera correction method
PCT/JP2012/005853 WO2013038681A1 (en) 2011-09-13 2012-09-13 Camera calibration device, camera, and camera calibration method
EP12832652.7A EP2757768A4 (en) 2011-09-13 2012-09-13 CAMERA CALIBRATION DEVICE, CAMERA, AND CAMERA CALIBRATION METHOD

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012039417A JP2013173453A (en) 2012-02-24 2012-02-24 Calibration processing device, camera calibrating device, camera system and camera calibrating method

Publications (1)

Publication Number Publication Date
JP2013173453A true JP2013173453A (en) 2013-09-05

Family

ID=49266814

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012039417A Pending JP2013173453A (en) 2011-09-13 2012-02-24 Calibration processing device, camera calibrating device, camera system and camera calibrating method

Country Status (1)

Country Link
JP (1) JP2013173453A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019188521A1 (en) * 2018-03-28 2019-10-03 京セラ株式会社 Image capture device, moving body, and image capture method

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001245326A (en) * 1999-12-24 2001-09-07 Aisin Seiki Co Ltd In-vehicle camera calibration device, calibration method, and calibration index
JP2004200819A (en) * 2002-12-17 2004-07-15 Clarion Co Ltd Method of calibrating mounted camera and calibrator
JP2008131177A (en) * 2006-11-17 2008-06-05 Aisin Seiki Co Ltd On-vehicle camera calibration device, calibration method, and vehicle production method using this calibration method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001245326A (en) * 1999-12-24 2001-09-07 Aisin Seiki Co Ltd In-vehicle camera calibration device, calibration method, and calibration index
JP2004200819A (en) * 2002-12-17 2004-07-15 Clarion Co Ltd Method of calibrating mounted camera and calibrator
JP2008131177A (en) * 2006-11-17 2008-06-05 Aisin Seiki Co Ltd On-vehicle camera calibration device, calibration method, and vehicle production method using this calibration method

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019188521A1 (en) * 2018-03-28 2019-10-03 京セラ株式会社 Image capture device, moving body, and image capture method
JP2019176340A (en) * 2018-03-28 2019-10-10 京セラ株式会社 Imaging device, movable body, and imaging method
JP7037413B2 (en) 2018-03-28 2022-03-16 京セラ株式会社 Imaging device, moving object, and imaging method
US11501464B2 (en) 2018-03-28 2022-11-15 Kyocera Corporation Imaging apparatus, moveable body, and imaging method

Similar Documents

Publication Publication Date Title
JP6012982B2 (en) Calibration processing apparatus, camera calibration apparatus, camera system, and camera calibration method
JP6025365B2 (en) Calibration processing apparatus, camera calibration apparatus, camera system, and camera calibration method
JP5316805B2 (en) In-vehicle camera device image adjustment device and in-vehicle camera device
WO2013038681A1 (en) Camera calibration device, camera, and camera calibration method
JP5615441B2 (en) Image processing apparatus and image processing method
KR101295295B1 (en) Image processing method and image processing apparatus
CN102577372B (en) Driving support display device
JP2001218197A (en) Peripheral display device for vehicles
JPWO2008087707A1 (en) VEHICLE IMAGE PROCESSING DEVICE AND VEHICLE IMAGE PROCESSING PROGRAM
JP5136256B2 (en) Parking assist device and image display method
US20140210957A1 (en) Stereoscopic imaging apparatus and method of displaying in-focus state confirmation image
JP2010016805A (en) Image processing apparatus, driving support system, and image processing method
JP2012040883A (en) Device for generating image of surroundings of vehicle
JP2013246606A (en) Data derivation device and data derivation method
JP6200689B2 (en) Calibration processing apparatus, camera calibration apparatus, and camera calibration method
JP2013062692A (en) Calibration device and method for on-vehicle camera
JP2013173453A (en) Calibration processing device, camera calibrating device, camera system and camera calibrating method
JP2009083744A (en) Synthetic image adjustment device
JP2011180962A (en) Drive assist device, drive assist method and program
JP2013174510A (en) Stereo camera unit and automobile monitor system
JP6234335B2 (en) IMAGING DEVICE AND MOBILE BODY WITH IMAGING DEVICE
JP2018121223A (en) Image processing apparatus and in-vehicle imaging apparatus
JP5952138B2 (en) Imaging apparatus and region determination method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141015

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160105

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20160510