JP2005164349A - Distance detecting method and apparatus - Google Patents
Distance detecting method and apparatus Download PDFInfo
- Publication number
- JP2005164349A JP2005164349A JP2003402531A JP2003402531A JP2005164349A JP 2005164349 A JP2005164349 A JP 2005164349A JP 2003402531 A JP2003402531 A JP 2003402531A JP 2003402531 A JP2003402531 A JP 2003402531A JP 2005164349 A JP2005164349 A JP 2005164349A
- Authority
- JP
- Japan
- Prior art keywords
- video signal
- distance
- subject
- image
- calculation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Image Analysis (AREA)
- Measurement Of Optical Distance (AREA)
- Image Input (AREA)
Abstract
Description
この発明は、カメラと被写体間の距離を表現する距離映像を実時間で検出するための距離検出方法及び装置に関する。 The present invention relates to a distance detection method and apparatus for detecting a distance image representing a distance between a camera and a subject in real time.
特許文献1に開示されるイメージレーザレーダ装置は、所定周波数で輝度変調され、出射光を被写体に投射するレーザ光源と、被写体からの反射光を受光して像増強する機能を有し、所定周波数でゲインが変調されるイメージインテンシファイヤ管と、このゲイン変調周期の略1/4以下の周期であってゲインが単調に増加又は減少する期間においてのみイメージインテンシファイヤの出力をオンとするゲート手段とを備え、これらの周期が同期することにより、距離に応じて濃淡が周期的に繰り返して変化する情報を得ることができ、測距結果を濃淡イメージで得るようにしたものである。
An image laser radar device disclosed in
特許文献2は、所定の輝度を有する照明光で照明された被写体を光学像として結像し、この光学像を所定の撮像利得で撮像した映像から、被写体の各点の距離を検出する立体情報検出方法であって、前記所定の輝度及び撮像利得の少なくとも一方が時間と共に変化するものであり、これにより前記被写体の各点の距離を映像信号のフレーム時間に実時間で追随する速度で検出できるようにするものである。時間と共に変化する輝度又は撮像利得を利用することで、撮像された被写体の映像の二次元的な輝度分布が得られ、この輝度分布には被写体の各点までの距離情報が含まれるため、被写体の立体情報を検出することができるものである。
特許文献1に開示される発明は、照明光ビームの2次元的なラスタ走査と照明光の変調位相の変化があるため、被写体の立体情報を映像信号のフレーム時間の速度で取り込むことが困難であり、立体動画像の撮像に適用するのは不向きであるため、特許文献2に開示される発明は、被写体の立体情報を映像信号のフレーム内で検出することを目的とする。
The invention disclosed in
本発明は、上述した特許文献2に係る発明をさらに進歩させ、距離映像信号の新しい演算処理法、演算プロセスを提供するものであり、これによって、距離検出の高速化、外光の影響の考慮、キー信号の生成、ノイズの低減を実現することを目的とする。
The present invention further advances the invention according to
したがって、この発明に係る第1の距離検出方法は、第1の特性で強度変調する光を被写体に照射し、被写体からの反射光の変化を検出して第1の映像信号とし、前記第1の特性と異なる第2の特性で強度変調する光を被写体に照射し、被写体からの反射光の変化を検出して第2の映像信号とし、前記第1の映像信号及び前記第2の映像信号から、下記する数式1によって距離算出演算を行い、被写体との間の距離を画像の明暗で示した距離映像とし、距離映像を出力することにある。
Therefore, the first distance detection method according to the present invention irradiates the subject with light that is intensity-modulated with the first characteristic, detects a change in reflected light from the subject, and sets the first video signal as the first video signal. Irradiating the subject with light that is intensity-modulated with a second characteristic different from the first characteristic, detecting a change in the reflected light from the subject to form a second video signal, and the first video signal and the second video signal Therefore, the distance calculation calculation is performed by the
また、この発明に係る第1の距離検出装置は、第1の特性で強度変調する光を被写体に照射し、被写体からの反射光の変化を検出して第1の映像信号とする第1の映像信号検出手段:前記第1の特性と異なる第2の特性で強度変調する光を被写体に照射し、被写体からの反射光の変化を検出して第2の映像信号とする第2の映像信号検出手段:前記第1の映像信号及び前記第2の映像信号から、下記する数式1によって距離算出演算を行い、被写体との間の距離を画像の明暗で示した距離映像とする距離映像演算手段;及び距離映像を出力する出力手段とによって少なくとも構成されることにある。
The first distance detecting apparatus according to the present invention irradiates a subject with light whose intensity is modulated with the first characteristic, detects a change in reflected light from the subject, and uses the first video signal as a first video signal. Video signal detection means: a second video signal that irradiates the subject with light that is intensity-modulated with a second characteristic different from the first characteristic, detects a change in reflected light from the subject, and generates a second video signal Detection means: distance video calculation means for performing distance calculation calculation by the following
ここで、dは距離、V1は第1の映像信号、V2は第2の映像信号、αは定数である。 Here, d is the distance, V1 is the first video signal, V2 is the second video signal, and α is a constant.
従来の技術では、多画素且つ高速な距離検出が困難であったが、映像信号を上記数式によって演算することにより、多画素且つ高速な距離検出が可能となるものである。 In the prior art, it has been difficult to detect distances with a large number of pixels, but it is possible to detect distances with a large number of pixels and at a high speed by calculating the video signal using the above formula.
また、上記距離検出方法及び装置において、前記第1の映像信号及び前記第2の映像信号は、テレビ映像信号のフレーム毎に交互に取得され、前記距離映像は、フレーム単位で順次更新されることが望ましい。これによって、テレビ信号のビデオフレームレートに追従する距離映像を得ることができるようになるため、フレーム単位で2種類の映像信号を取得し、前後のフレームで順次距離映像を演算し、テレビ信号のビデオフレームレートに追従して距離映像を出力することが可能となるものである。 In the distance detection method and apparatus, the first video signal and the second video signal are alternately acquired for each frame of the television video signal, and the distance video is sequentially updated in units of frames. Is desirable. As a result, it becomes possible to obtain a distance image that follows the video frame rate of the TV signal. Therefore, two types of image signals are acquired in units of frames, the distance image is calculated sequentially in the preceding and following frames, and the TV signal It is possible to output a distance image following the video frame rate.
さらに、前記第1の映像信号及び前記第2の映像信号は、メモリに記憶され、その後演算のために読み出されることが望ましい。 Further, it is preferable that the first video signal and the second video signal are stored in a memory and then read out for calculation.
また、この発明に係る第2の距離検出方法は、第1の特性で強度変調する光を被写体に照射し、被写体からの反射光の変化を検出して第1の映像信号とし、前記第1の特性と異なる第2の特性で強度変調する光を被写体に照射し、被写体からの反射光の変化を検出して第2の映像信号とし、光を照射しない状態で、被写体を撮影して第3の映像信号を検出し、前記第1の映像信号、前記第2の映像信号及び第3の映像信号から、下記する数式2によって距離算出演算を行い、被写体との間の距離を画像の明暗で示した距離映像とし、距離映像を出力することにある。
In the second distance detection method according to the present invention, the subject is irradiated with light whose intensity is modulated with the first characteristic, the change in the reflected light from the subject is detected, and the first video signal is obtained. The object is irradiated with light that is intensity-modulated with a second characteristic different from the above-mentioned characteristic, a change in reflected light from the object is detected and used as a second video signal, and the object is photographed in a state where no light is irradiated. 3 is detected, and a distance calculation operation is performed from the first video signal, the second video signal, and the third video signal according to
さらに、この発明に係る第2の距離検出装置は、第1の特性で強度変調する光を被写体に照射し、被写体からの反射光の変化を検出して第1の映像信号とする第1の映像信号検出手段:第1の特性と異なる第2の特性で強度変調する光を被写体に照射し、被写体からの反射光の変化を検出して第2の映像信号とする第2の映像信号検出手段:光を照射しない状態で、被写体を撮影し、第3の映像信号を検出する第3の映像信号検出手段:前記第1の映像信号、前記第2の映像信号及び前記第3の映像信号から、下記する数式2によって距離算出演算を行い、被写体との間の距離を画像の明暗で示した距離映像とする距離映像演算手段;及び距離映像を出力する出力手段とによって少なくとも構成されることにある。
Furthermore, the second distance detection device according to the present invention irradiates the subject with light that is intensity-modulated with the first characteristic, detects a change in reflected light from the subject, and sets the first video signal as the first video signal. Video signal detection means: a second video signal detection that irradiates the subject with light that is intensity-modulated with a second characteristic different from the first characteristic, and detects a change in reflected light from the subject to generate a second video signal. Means: Photograph a subject in a state where no light is irradiated, and detect a third video signal. Third video signal detection means: the first video signal, the second video signal, and the third video signal. And a distance video calculation means that performs distance calculation calculation according to the following
ここで、dは距離、V1は第1の映像信号、V2は第2の映像信号、V3は第3の映像信号、α及びβは定数である。 Here, d is the distance, V1 is the first video signal, V2 is the second video signal, V3 is the third video signal, and α and β are constants.
これによって、光を照射しない第3の映像信号を検出し、上記数式で演算することによって外光の影響を排除できるため、さらに精度の良い距離検出が可能となるものである。 Thus, the third video signal that does not irradiate light is detected, and the influence of external light can be eliminated by calculating with the above mathematical formula, so that more accurate distance detection is possible.
また、前記第1の映像信号、前記第2の映像信号及び前記第3の映像信号は、テレビ映像信号のフレーム内で取得され、ビデオレートで距離映像信号を更新して出力することが望ましい。これによって、テレビ信号のビデオフレーム時間(1/60秒)内で距離映像信号の算出に必要な第1の映像信号、第2の映像信号、さらには第3の映像信号を全て取り込みことによって、動く被写体を撮影する場合に生じるエッジ部分の距離検出誤りをなくすことができるものである。 In addition, it is preferable that the first video signal, the second video signal, and the third video signal are acquired within a frame of a television video signal, and the distance video signal is updated and output at a video rate. Thereby, by capturing all of the first video signal, the second video signal, and further the third video signal necessary for calculating the distance video signal within the video frame time (1/60 seconds) of the television signal, It is possible to eliminate edge detection errors that occur when shooting a moving subject.
さらに、前記第1の映像信号、前記第2の映像信号及び前記第3の映像信号は、メモリに記憶され、その後演算のために読み出されることが望ましい。 Furthermore, it is preferable that the first video signal, the second video signal, and the third video signal are stored in a memory and then read out for calculation.
さらにまた、算出された距離映像信号を所定の閾値の映像レベルで2値化した画像を同時に出力することが望ましい。これによって、距離情報を元にした画像合成に必要なキー信号を出力することができるものである。 Furthermore, it is desirable to simultaneously output an image obtained by binarizing the calculated distance video signal at a predetermined threshold video level. Thus, a key signal necessary for image composition based on distance information can be output.
また、所定の閾値の映像レベルで2値化した画像に対し、画素周辺の複数の画素のレベル値の和を取って多数決を行い、2値化画像の境界線を滑らかにするフィルタを設けることが望ましい。 Also, a filter for smoothing the boundary line of the binarized image is provided by taking the majority by taking the sum of the level values of a plurality of pixels around the pixel with respect to the binarized image at a predetermined threshold video level. Is desirable.
前記数式において、定数αの値を可変することが望ましい。これによって、係数が可変調整することができるので、映像信号レベルのダイナミックレンジを広くし、測定分解能の向上や測定レンジを拡大することができるようになるものである。 In the above formula, it is desirable to vary the value of the constant α. As a result, the coefficient can be variably adjusted, so that the dynamic range of the video signal level can be widened, the measurement resolution can be improved, and the measurement range can be expanded.
さらに、第1の映像信号及び第2の映像信号の和が、所定の値以下である場合は、距離演算結果を0値とすることが望ましい。これによって、撮影映像信号レベルが低い場合、特に0値に近い場合、前記数式にて演算処理を行うとノイズ成分が急激に増大するため、ある閾値以下の画素に対しては、距離検出演算を回避し、ノイズの増加を抑えるようにしたものである。 Furthermore, when the sum of the first video signal and the second video signal is equal to or less than a predetermined value, it is desirable to set the distance calculation result to 0 value. As a result, when the captured video signal level is low, particularly when the value is close to 0, the noise component increases rapidly when the calculation process is performed using the above formula. Therefore, the distance detection calculation is performed for pixels below a certain threshold. This is to avoid the increase in noise.
さらにまた、カラー映像を撮影するカメラからのカラー映像と距離映像との画角調整は、距離検出に使用する撮像素子の有効画素の領域を変化させることによって行われることが望ましい。これによって、光学系のみの調整では困難であったカラー画像と距離画像の画角合わせを、電気的に高精度に行うことができるようになるものである。 Furthermore, it is desirable that the angle of view adjustment between the color image and the distance image from the camera that captures the color image is performed by changing the effective pixel area of the image sensor used for the distance detection. This makes it possible to electrically adjust the angle of view of a color image and a distance image, which has been difficult by adjusting only the optical system, with high accuracy.
また、カラー映像信号と距離映像信号の間の演算処理により生じる時間のズレを調整するディレイ回路をカラー映像信号の出力ラインに設けることが望ましい。これによって、距離演算に要する時間に相当する遅延量をカラー映像に付加するので、カラー映像信号と距離映像信号の出力タイミングを同期させることができる。 In addition, it is desirable to provide a delay circuit for adjusting a time lag caused by arithmetic processing between the color video signal and the distance video signal in the output line of the color video signal. As a result, a delay amount corresponding to the time required for the distance calculation is added to the color image, so that the output timing of the color image signal and the distance image signal can be synchronized.
さらに、距離映像信号の演算処理は、カメラ撮影映像の階調ビット数に応じた精度で演算されることが望ましい。上記数式1及び2では、除算処理を行うため、丸め誤差が生じるが、カメラの出力映像信号の階調ビット数に応じた精度で演算処理を行うようにして、丸め誤差の影響を最小限にし、精度の良い距離検出を行うことができるものである。
Furthermore, it is desirable that the processing for calculating the distance video signal is performed with an accuracy corresponding to the number of gradation bits of the camera-captured video. In the
以上説明したように、この発明は、カメラと被写体間の距離を実時間で検出し、また演算処理を簡略化したことによって、距離検出の高速化を行うことができると共に、外光の影響を排除し、またキー信号を生成することができるため、画像合成のための特別な設備を必要としないため、画像処理をリアルタイムで行うことができるという効果を有している。 As described above, according to the present invention, the distance between the camera and the subject is detected in real time, and the calculation process is simplified, so that the distance detection can be speeded up and the influence of external light can be reduced. Since it can be eliminated and a key signal can be generated, no special equipment for image synthesis is required, and thus image processing can be performed in real time.
以下、この発明の実施例について図面により説明する。 Embodiments of the present invention will be described below with reference to the drawings.
本願発明の距離検出装置1は、例えば図1に示すものである。この距離検出装置1に使用される距離検出用カメラ2は、強度変調された近赤外光を被写体に照射する発光部3と、高速シャッター機能を有し、短時間撮像を行うイメージインテンシファイア及びこのイメージインテンシファイアの光画像を入力するCCDカメラを具備する撮像部4と、前記発光部3の強度変調を制御すると共に撮像部4からの映像信号をデジタル信号として出力するコントロールユニット部5とによって少なくとも構成される。
A
前記発光部3は、例えば第1の映像信号V1’及び第2の映像信号V2’を取得する場合には、図2で示されるように、最初に光度が漸次増加する方向に例えば関数f1(t)で変化するように発光し、次に光度が漸次減少する方向に例えば関するf2(t)で変化するように発光する。そして、前記発光部3がf1(t)で変化する場合の被写体を撮像部4で撮影して第1の映像信号V1’とし、前記発光部3がf2(t)で変化する場合の被写体を撮像部4で撮影して第2の映像信号V2’とする。
For example, when the
尚、前記距離検出用カメラ2からの信号が第1及び第2の映像信号V1’,V2’だけの場合、前記距離検出用カメラ2からの2つの信号(第1及び第2映像信号V1’,V2’)は、それぞれメモリM1,M2に一端記憶され、呼び出された後、それぞれがセットアップ9において0〜10%セットアップされ、演算用映像信号V1,V2として出力される。一方で、この演算用映像信号V1,V2は、ブロック10において画角(4:3)変換された後、ブロック11においてD/A変換されてモニタ用映像信号S1,S2として出力されるものである。
When the signals from the
また、他方で、前記演算用映像信号V1,V2は距離映像演算部20へ入力される。この距離映像演算部20は、例えば、図3に示すものである。
On the other hand, the calculation video signals V <b> 1 and V <b> 2 are input to the distance
この距離映像演算部20に入力された第1の演算用映像信号V1は、ブロック21において所定の関数(第1の演算用関数)F1(V1)に変換される。この関数F1(V1)は、具体的にはf1 −1(V1)である。同様に第2の演算用映像信号V2は、ブロック22において所定の関数(第2の演算用関数)F2(V2)に変換される。この関数F2(V2)は、具体的にはf2 −1(V2)である。
The first calculation video signal V1 input to the distance
そして、上記第1及び第2の演算用映像関数F1(V1)、F2(V2)は、ブロック23において減算され、且つブロック24において加算されて、それぞれF1(V1)−F2(V2)、F1(V1)+F2(V2)が得られ、ブロック25において除算されて{F1(V1)−F2(V2)}/{F1(V1)+F2(V2)}が求められ、ブロック26においてこれに係数αが乗算される。さらに、ブロック27において1が足され、その結果が1/2にされて距離映像dが得られる。このように、距離映像演算部20では、下記する数式1による演算が行われ、この結果として距離映像dが得られるものである。
Then, the first and second arithmetic video functions F1 (V1) and F2 (V2) are subtracted in the block 23 and added in the
以上、実施例1に係る距離検出装置1の動作について、図4に示すフローチャート図に従って説明すると、ステップ100から開始される距離映像演算は、ステップ110において各因子の初期化(n←1,Fl←0)が行われ、ステップ120においてテレビ映像信号の最初のフレームf(1)が入力されたか否かが判定され、入力されていない場合(N)には待機し、入力された場合(Y)には、ステップ130に進んで、Flが1であるか否かが判定される。最初の場合、Flが0であることから、ステップ140に進んで、発光部3が関数f1(t)で制御されて第1の演算用映像信号V1(1)が取得される。これは、ステップ150においてメモリにM1(1)として記憶され、ステップ152においてFlに1が設定される。これによって、テレビ映像信号の第1のフレームf(1)において第1の演算用映像信号V1(1)が取得されたことを意味する。
The operation of the
最初の場合、ステップ210での演算結果d(0)はV2(1)が存在しないことから0であり、ステップ220ではd(0)が出力され、ステップ230においてnに2が設定される。同様に第1のフレームf(2)が入力された場合、ステップ130に進んで、Flが1か否かが判定され、ステップ152においてFlに1が入力されているので、ステップ170に進んで、発光部3が関数f2(t)で制御されて第2の演算用映像信号V2(1)が取得される。これは、ステップ180においてメモリにM2(1)として記憶され、ステップ182においてFlに0が設定される。これによって、テレビ映像信号の第2のフレームf(2)において第2の演算用映像信号V2(1)が取得されたことを意味する。
In the first case, the calculation result d (0) in
この結果、下記の数式に示すように、ステップ210においてd(1)が演算され、ステップ220においてd(1)が出力され、ステップ230においてnに1が付加される。
As a result, as shown in the following formula, d (1) is calculated in
また、次のフレームf(3)では、このフレームf(3)の時に取得された第1の演算映像信号V1(3)と、その前のフレームf(2)の特に取得された第2の演算用映像信号V2(1)とによって、ステップ210において下記の数式に示すように距離映像信号d(2)が演算され、ステップ220においてd(2)が出力され、ステップ230においてnに1が付加される。
In the next frame f (3), the first calculated video signal V1 (3) acquired at the time of this frame f (3) and the second acquired particularly of the previous frame f (2). In
この結果、図8で示すように、各フレームf(n)毎に第1の演算用映像信号V1(n)と第2の演算用映像信号V2(n)が交互に取得され、そのフレームf(n)で取得された第1又は第2の演算用映像信号(V1又はV2)と、その前のフレームf(n−1)で取得された第2又は第1の演算用映像信号(V2又はV1)とによって距離映像信号d(n)がフレーム毎に演算されるものである。尚、図8において、ftは、1/60秒を示す。 As a result, as shown in FIG. 8, the first calculation video signal V1 (n) and the second calculation video signal V2 (n) are alternately obtained for each frame f (n), and the frame f The first or second calculation video signal (V1 or V2) acquired in (n) and the second or first calculation video signal (V2) acquired in the previous frame f (n-1). Or the distance video signal d (n) is calculated for each frame by V1). In FIG. 8, ft represents 1/60 second.
これによって取得された距離映像信号dは、ブロック40で示されるメディアンフィルタによってノイズ除去が行われる。このメディアンフィルタ40から出力された距離映像信号dは、一方でブロック10において画角(4:3)信号変換が行われ、ブロック11においてD/A変換された距離映像信号dのモニタ信号Daとして出力される。
The distance video signal d acquired in this way is denoised by a median filter indicated by block 40. The distance video signal d output from the median filter 40 is subjected to angle-of-view (4: 3) signal conversion in the
他方で、前記距離映像信号dは、ブロック41において画角(16:9)信号変換が行われ、ブロック42においてハイビジョンTV信号へアップコンバートされて、一方で距離映像信号dとしてディレイライン54を経てカラー映像信号と共に本線へ出力される。また、前記距離映像信号dは、位置検出ノイズ低減装置50へ入力される。 On the other hand, the distance video signal d is subjected to angle-of-view (16: 9) signal conversion in a block 41 and up-converted to a high-definition TV signal in a block 42, while passing through a delay line 54 as a distance video signal d. It is output to the main line together with the color video signal. The distance video signal d is input to the position detection noise reduction device 50.
この位置検出ノイズ低減装置50は、例えば図5に示すものである。前記距離映像信号dは、ブロック51に入力され、閾値T1、T2と比較される。この比較によって距離映像信号dの各画素xが、閾値T1,T2(T1<T2)で設定される範囲内にある場合(T1<x<T2)には、キー信号”1”を出力し、閾値T1以下の場合若しくは閾値T2以上の場合には”0”を出力する。これによって、算出された距離映像を、ある閾値映像レベルで2値化した画像を出力することができるものである。 This position detection noise reduction device 50 is, for example, as shown in FIG. The distance video signal d is input to a block 51 and compared with threshold values T1 and T2. When each pixel x of the distance video signal d is within the range set by the threshold values T1, T2 (T1 <T2) by this comparison (T1 <x <T2), the key signal “1” is output, When the threshold value is less than or equal to the threshold value T1 or greater than or equal to the threshold value T2, “0” is output. Thus, an image obtained by binarizing the calculated distance image at a certain threshold image level can be output.
そして、さらに、この2値化された画像は、ディレイライン52を介してブロック53に出力され、n×n画素(例えば、n=1,3,5,7の切り替え可能)の範囲で、多数決を行い、その結果をキー信号として出力する。これによって、2値化画像の境界線を滑らかにするフィルタ処理を行うことができるものである。 Further, the binarized image is output to the block 53 via the delay line 52, and the majority image is determined in the range of n × n pixels (for example, n = 1, 3, 5, and 7 can be switched). And outputs the result as a key signal. Thus, it is possible to perform filter processing for smoothing the boundary line of the binarized image.
また、カラーハイビジョンカメラ13からの信号は、CCU14を介してカラー映像本線CVSへ出力されるが、上記距離映像信号dが演算される時間分遅れるため、ブロック15で示されるディレイ回路によって上記距離映像信号dと同期するように遅延される。尚、ブロック12は、外部同期信号をCCU14及び前記コントロールユニット5へ送信する同期信号出力回路である。
A signal from the color high-
また、図3に示すように、距離演算ブロック20において、加算されたF1(V1)+F2(V2)は、ブロック28において所定の値H(0〜20%)と比較され、この値HよりもF1(V1)+F2(V2)が低い場合には、スイッチ30が操作され、スイッチ2を端子32から端子31に切り替えてブロック29からd=0を出力するものである。これによって、距離信号レベルが低い場合にはノイズが急激に増大するため、距離信号を強制的に0に設定し、ノイズの増加を抑制するものである。
Further, as shown in FIG. 3, in the
図6で示すように、実施例2に係る距離映像演算は、ステップ110においてnに1を設定し、ステップ120においてテレビ映像信号の最初のフレームf(1)が入力されたか否かが判定され、フレームf(1)が入力されたと判定されるまで制御が保留され、フレームf(1)が入力された場合(Y)に、ステップ140に進む。そして、ステップ140において、発光部3が関数f1(t)で制御されて第1の演算用映像信号V1(1)が取得される。そして、ステップ170に進んで、発光部3が関数f2(t)で制御されて第2の演算用映像信号V2(1)が取得され、ステップ180においてメモリにM2(1)として記憶される。
As shown in FIG. 6, in the distance image calculation according to the second embodiment, n is set to 1 in step 110, and it is determined in step 120 whether or not the first frame f (1) of the television image signal is input. Control is suspended until it is determined that the frame f (1) has been input. If the frame f (1) has been input (Y), the process proceeds to step 140. In
この結果、下記の数式に示すように、ステップ212において下記する数式によりd(1)が演算され、ステップ220においてd(1)が出力され、ステップ230においてnに1が付加される。
As a result, as shown in the following equation, d (1) is calculated in the following equation in step 212, d (1) is output in
このように、実施例2に示される距離演算においては、図9に示すように、フレーム毎に第1の演算用映像信号V1と第2の演算用映像信号V2が取得され、これに基づいて距離映像信号dがフレーム毎に演算されるので、実施例1の場合よりも距離映像信号dの更新速度を向上でき、動く被写体の撮影特性を向上することができる。 As described above, in the distance calculation shown in the second embodiment, as shown in FIG. 9, the first calculation video signal V1 and the second calculation video signal V2 are obtained for each frame, and based on this. Since the distance video signal d is calculated for each frame, the update speed of the distance video signal d can be improved as compared with the case of the first embodiment, and the shooting characteristics of the moving subject can be improved.
実施例3では、第1の映像信号V1’、第2の映像信号V2’及び第3の映像信号V3’を取得する場合に、前記発光部3を、例えば図7で示されるように、最初に光度が漸次増加する方向に例えば関数f1(t)で変化するように発光させ、次に光度が漸次減少する方向に例えば関するf2(t)で変化するように発光させ、そして最後の所定時間は発光させず無発光時間(f0)とする。そして、前記発光部3がf1(t)で変化する場合の被写体を撮像部4で撮影して第1の映像信号V1’とし、前記発光部3がf2(t)で変化する場合の被写体を撮像部4で撮影して第2の映像信号V2’とし、発光しない場合(f0)の被写体を撮像部4で撮影して第3の映像信号V3’とするものである。これによって、外光の影響を把握するための第3の映像信号V3’を取得するものである。
In the third embodiment, when the first video signal V1 ′, the second video signal V2 ′, and the third video signal V3 ′ are acquired, the
そして、図1で示すように、前記距離検出用カメラ2からの3つの信号(第1、第2及び第3の映像信号V1’,V2’,V3’)は、それぞれメモリM1,M2,M3に一端記憶され、呼び出された後、それぞれがセットアップ9において0〜10%セットアップされ、演算用映像信号V1,V2,V3として出力される。この演算用映像信号V1,V2,V3は、ブロック10において画角(4:3)変換された後、ブロック11においてD/A変換されてモニタ用映像信号S1,S2,S3として出力するものである。
As shown in FIG. 1, three signals (first, second and third video signals V1 ′, V2 ′, V3 ′) from the
そして、図3で示すブロック21において、第1の演算用映像信号V1及び外光の影響を把握するための第3の演算用映像信号V3から外光の影響を排除した第1の演算用映像関数F3(V1−βV3)を求め、同様にブロック22において、第2の演算用映像信号V2及び外光の影響を把握するための第3の演算用映像信号V3から外光の影響を排除した第2の演算用映像関数F4(V2−βV3)を求め、実施例1と同様に演算を行う。この場合、距離映像信号dは、下記する数式2によって演算されることとなる。尚、βは、V3を適正に距離映像信号に反映するために設けられた定数である。
Then, in the block 21 shown in FIG. 3, the first calculation video signal V1 and the third calculation video signal V3 for grasping the influence of the external light are excluded from the first calculation video signal V1. Similarly, the function F3 (V1-βV3) is obtained, and in the block 22, the influence of the external light is excluded from the second arithmetic video signal V2 and the third arithmetic video signal V3 for grasping the influence of the external light. A second calculation video function F4 (V2-βV3) is obtained, and calculation is performed in the same manner as in the first embodiment. In this case, the distance video signal d is calculated by the following
さらに、図6で示すように、実施例3に係る距離映像演算は、ステップ110においてnに1を設定し、ステップ120においてテレビ映像信号の最初のフレームf(1)が入力されたか否かが判定され、フレームf(1)が入力されたと判定されるまで制御が保留され、フレームf(1)が入力された場合(Y)に、破線矢印で示す方向で、ステップ140に進む。そして、ステップ140において、発光部3が関数f1(t)で制御されて第1の映像信号V1(1)が取得される。そして、ステップ170に進んで、発光部3が関数f2(t)で制御されて第2の映像信号V2(1)が取得され、ステップ180においてメモリにM2(1)として記憶される。さらに、ステップ190に進んで、発光部3の発光を停止させて第3の映像信号V3(1)が取得され、ステップ200においてメモリにM3(1)として記憶される。
Further, as shown in FIG. 6, in the distance video calculation according to the third embodiment, n is set to 1 in step 110, and whether or not the first frame f (1) of the TV video signal is input in step 120 is determined. Control is suspended until it is determined that the frame f (1) is input, and when the frame f (1) is input (Y), the process proceeds to step 140 in the direction indicated by the dashed arrow. In
この結果、下記の数式に示すように、ステップ215においてd(1)が下記する数式によって演算され、ステップ220においてd(1)が出力され、ステップ230においてnに1が付加される。
As a result, as shown in the following equation, d (1) is calculated by the following equation in step 215, d (1) is output in
このように、実施例3に示される距離演算においては、図10に示すように、フレーム毎に第1の演算用映像信号V1、第2の演算用映像信号V2及び第3の演算用映像信号V3が取得され、これに基づいて距離映像信号dがフレーム毎に演算されるので、実施例1の場合よりも距離映像信号dの更新速度を向上でき、動く被写体の撮影特性を向上できるものである。さらに、第3の映像信号V3’を取得したことによって外光を排除することができるので、さらに精密な距離検出を可能としたものである。 Thus, in the distance calculation shown in the third embodiment, as shown in FIG. 10, the first calculation video signal V1, the second calculation video signal V2, and the third calculation video signal are shown for each frame. Since V3 is acquired and the distance video signal d is calculated for each frame based on this, the update speed of the distance video signal d can be improved and the shooting characteristics of the moving subject can be improved compared to the case of the first embodiment. is there. Further, since the external light can be excluded by acquiring the third video signal V3 ', it is possible to detect the distance more precisely.
以上説明したように、この発明によれば、カラー映像の取得と同時に距離映像を取得することができるので、生放送中においても即座に画面の切り出しや画面合成が可能となるものである。また、これによって、従来のクロマキー手法では困難であったCGと実写映像との合成が可能となる。 As described above, according to the present invention, since a distance image can be acquired simultaneously with the acquisition of a color image, the screen can be immediately cut out and the screen can be combined even during live broadcasting. This also makes it possible to synthesize CG and live-action video, which was difficult with the conventional chroma key method.
1 距離検出装置
2 距離検出用カメラ
3 発光部
4 撮像部
5 コントロールユニット
9 セットアップ
10 画角信号変換
11 D/A変換
12 同期信号出力回路
13 ハイビジョンカメラ
14 CCU
15 ディレイ回路
20 距離映像演算部
40 メディアンフィルタ
41 画角信号変換
42 アップコンバート
50 位置検出ノイズ低減装置
DESCRIPTION OF
DESCRIPTION OF SYMBOLS 15
Claims (26)
前記第1の特性と異なる第2の特性で強度変調する光を被写体に照射し、被写体からの反射光の変化を検出して第2の映像信号とし、
前記第1の映像信号及び前記第2の映像信号から、下記する数式1によって距離算出演算を行い、被写体との間の距離を画像の明暗で示した距離映像とし、
距離映像を出力することを特徴とする距離検出方法。
Irradiating the subject with light that is intensity-modulated with a second characteristic different from the first characteristic, detecting a change in reflected light from the subject, and obtaining a second video signal;
From the first video signal and the second video signal, a distance calculation calculation is performed according to the following formula 1, and a distance image between the subject and the distance is indicated by the brightness of the image,
A distance detection method characterized by outputting a distance image.
前記第1の特性と異なる第2の特性で強度変調する光を被写体に照射し、被写体からの反射光の変化を検出して第2の映像信号とし、
光を照射しない状態で、被写体を撮影して第3の映像信号を検出し、
前記第1の映像信号、前記第2の映像信号及び第3の映像信号から、下記する数式2によって距離算出演算を行い、被写体との間の距離を画像の明暗で示した距離映像とし、
距離映像を出力することを特徴とする距離検出方法。
Irradiating the subject with light that is intensity-modulated with a second characteristic different from the first characteristic, detecting a change in reflected light from the subject, and obtaining a second video signal;
Shoot the subject and detect the third video signal without illuminating the light,
From the first video signal, the second video signal, and the third video signal, a distance calculation calculation is performed according to Equation 2 below, and the distance between the subject is expressed as a distance video indicating the brightness of the image,
A distance detection method characterized by outputting a distance image.
前記第1の特性と異なる第2の特性で強度変調する光を被写体に照射し、被写体からの反射光の変化を検出して第2の映像信号とする第2の映像信号検出手段:
前記第1の映像信号及び前記第2の映像信号から、下記する数式1によって距離算出演算を行い、被写体との間の距離を画像の明暗で示した距離映像とする距離映像演算手段;及び
距離映像を出力する出力手段とによって少なくとも構成されることを特徴とする距離検出装置。
Second video signal detecting means for irradiating the subject with light that is intensity-modulated with a second characteristic different from the first characteristic, and detecting a change in reflected light from the subject to obtain a second video signal:
Distance video calculation means for performing distance calculation calculation from the first video signal and the second video signal according to the following formula 1, and setting the distance between the subject and the distance video indicated by the brightness of the image; and distance A distance detection device comprising at least output means for outputting an image.
第1の特性と異なる第2の特性で強度変調する光を被写体に照射し、被写体からの反射光の変化を検出して第2の映像信号とする第2の映像信号検出手段:
光を照射しない状態で、被写体を撮影し、第3の映像信号を検出する第3の映像信号検出手段:
前記第1の映像信号、前記第2の映像信号及び前記第3の映像信号から、下記する数式2によって距離算出演算を行い、被写体との間の距離を画像の明暗で示した距離映像とする距離映像演算手段;及び
距離映像を出力する出力手段とによって少なくとも構成されることを特徴とする距離検出装置。
Second video signal detection means for irradiating the subject with light that is intensity-modulated with a second characteristic different from the first characteristic, and detecting a change in reflected light from the subject to obtain a second video signal:
Third video signal detecting means for photographing a subject and detecting a third video signal without irradiating light:
From the first video signal, the second video signal, and the third video signal, a distance calculation calculation is performed by the following formula 2, and a distance video in which the distance to the subject is indicated by the brightness of the image is obtained. A distance detection apparatus comprising at least a distance image calculation means; and an output means for outputting a distance image.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003402531A JP2005164349A (en) | 2003-12-02 | 2003-12-02 | Distance detecting method and apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003402531A JP2005164349A (en) | 2003-12-02 | 2003-12-02 | Distance detecting method and apparatus |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005164349A true JP2005164349A (en) | 2005-06-23 |
Family
ID=34726072
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003402531A Pending JP2005164349A (en) | 2003-12-02 | 2003-12-02 | Distance detecting method and apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005164349A (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100588296B1 (en) | 2005-02-16 | 2006-06-12 | 성균관대학교산학협력단 | Method and system of structural light based 3d depth imaging using signal separation coding and error correction thereof |
JP2012506994A (en) * | 2008-07-15 | 2012-03-22 | サムスン エレクトロニクス カンパニー リミテッド | Video processing method |
-
2003
- 2003-12-02 JP JP2003402531A patent/JP2005164349A/en active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100588296B1 (en) | 2005-02-16 | 2006-06-12 | 성균관대학교산학협력단 | Method and system of structural light based 3d depth imaging using signal separation coding and error correction thereof |
JP2012506994A (en) * | 2008-07-15 | 2012-03-22 | サムスン エレクトロニクス カンパニー リミテッド | Video processing method |
KR101556593B1 (en) * | 2008-07-15 | 2015-10-02 | 삼성전자주식회사 | Method for Image Processing |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10560642B2 (en) | Image processing device, image processing method and imaging device | |
JP4831760B2 (en) | 3D information detection method and apparatus | |
US10591711B2 (en) | Microscope and method for obtaining a high dynamic range synthesized image of an object | |
JP2006005608A (en) | Imaging device | |
CN112243091B (en) | Three-dimensional endoscope system, control method, and storage medium | |
JP2012235377A (en) | Image processing apparatus, image processing method, and program | |
KR101753261B1 (en) | Photographing system and method for synchronizing image quality thereof | |
JP2016086246A (en) | Image processing apparatus and method, and imaging device | |
US20180049632A1 (en) | Endoscope apparatus | |
JP2019047169A (en) | Apparatus, method, and program for generating high dynamic range image | |
JP2001285762A (en) | Image printer | |
US8115858B2 (en) | System and method for acquiring moving images | |
JP2009200743A (en) | Image processor, image processing method, image processing program and imaging apparatus | |
JP2018050149A (en) | Image processing apparatus | |
CN112738410A (en) | Imaging method and device and endoscope equipment | |
JP2013138522A (en) | Image processing apparatus and program | |
JP2005164349A (en) | Distance detecting method and apparatus | |
JP2010056796A (en) | Image processing apparatus, and program | |
JP4547213B2 (en) | Object detection apparatus and method | |
JP2009042098A (en) | Object detector of image processing type | |
JP2011135379A (en) | Imaging apparatus, imaging method and program | |
JP2005004287A (en) | Face image detecting device and its control method | |
WO2024154315A1 (en) | Image processing device, image processing method, and recording medium | |
JP6141129B2 (en) | IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND COMPUTER PROGRAM | |
JP5772251B2 (en) | Camera system and image generation method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061013 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100126 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100309 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100510 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20100907 |