[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP4965894B2 - Video display system - Google Patents

Video display system Download PDF

Info

Publication number
JP4965894B2
JP4965894B2 JP2006128358A JP2006128358A JP4965894B2 JP 4965894 B2 JP4965894 B2 JP 4965894B2 JP 2006128358 A JP2006128358 A JP 2006128358A JP 2006128358 A JP2006128358 A JP 2006128358A JP 4965894 B2 JP4965894 B2 JP 4965894B2
Authority
JP
Japan
Prior art keywords
parameter
pixel value
unit
value conversion
adjustment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006128358A
Other languages
Japanese (ja)
Other versions
JP2007300540A (en
Inventor
剛 皆川
秀行 坂井
崇文 小池
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2006128358A priority Critical patent/JP4965894B2/en
Publication of JP2007300540A publication Critical patent/JP2007300540A/en
Application granted granted Critical
Publication of JP4965894B2 publication Critical patent/JP4965894B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Electric Information Into Light Information (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Projection Apparatus (AREA)

Description

本発明は、映像表示面上に表示される映像を複数の視点位置において鑑賞するに適した映像表示システムに関する。   The present invention relates to a video display system suitable for viewing videos displayed on a video display surface at a plurality of viewpoint positions.

複数の視点位置において映像を鑑賞することのできる映像表示システムでは、一般に、映像を鑑賞する位置によって映像の見え方が異なる。見え方の変化は、映像表示面の指向性が高い場合は顕著であり、ある視点位置から高品質な映像が鑑賞できる場合であっても別の視点位置からは低品質の映像しか鑑賞することができない、という現象が発生する。   In a video display system in which a video can be viewed at a plurality of viewpoint positions, the appearance of the video generally differs depending on the position at which the video is viewed. The change in appearance is significant when the directivity of the video display surface is high, and even when high-quality video can be viewed from one viewpoint position, only low-quality video can be viewed from another viewpoint position. The phenomenon that is not possible occurs.

このような現象は、複数のプロジェクタから投映された映像をスクリーン上で光学的に合成して一つの映像として観客に提示する類の映像表示システム(以下、「マルチプロジェクション映像表示システム」と呼ぶ)において特に重要な課題となる。   Such a phenomenon is a kind of video display system in which videos projected from a plurality of projectors are optically synthesized on a screen and presented to the audience as a single video (hereinafter referred to as “multi-projection video display system”). Is a particularly important issue.

マルチプロジェクション映像表示システムでは、一般に、スクリーン上で隣り合う映像が互いに重なり合うように映像を投映し、重複投映部分に対して、光学的に、あるいは画像処理技術により、エッジブレンドと呼ばれる処理を施すことによって、複数映像の滑らかな接続を実現している。ここで、エッジブレンド処理とは、互いに重複して投映されている複数の映像が適切な比率で混合されるように各々の映像を加工する処理であり、通常、光学的な処理だけではなく所与の変換パラメタに基づいて入力画像の画素値を変換した上でプロジェクタから投映することにより実施される。   In a multi-projection video display system, generally, images are projected so that adjacent images on the screen overlap each other, and processing called edge blending is performed on the overlapped projection portion optically or by image processing technology. As a result, smooth connection of multiple images is realized. Here, the edge blending process is a process of processing each video so that a plurality of videos projected in an overlapping manner are mixed at an appropriate ratio. This is implemented by converting the pixel value of the input image based on a given conversion parameter and then projecting from the projector.

スクリーンの指向性が高い場合には、ある視点位置に対して適切な比率で混合されるように調整しても、別の視点位置に対しては適切な比率で混合されていないという結果になる。このため、指向性の高いスクリーンを使用したマルチプロジェクション映像表示システムにおいては、調整時の視点位置を除く多くの視点位置において映像の繋ぎ目が目立っていた。   When the directivity of the screen is high, even if it is adjusted so that it is mixed in an appropriate ratio with respect to one viewpoint position, it results in not being mixed in an appropriate ratio with respect to another viewpoint position. . For this reason, in a multi-projection video display system using a highly directional screen, video joints are conspicuous at many viewpoint positions except the viewpoint position at the time of adjustment.

このような問題点を改善する技術として、特許文献1が知られている。この文献には、映像表示システムの調整に用いる第1の視点位置とは異なる第2の視点位置において映像を鑑賞する場合に生じる問題を改善する技術が開示されている。この技術は、あらかじめ前記第1の視点位置および第2の視点位置におけるスクリーンの指向性に関する特性を計測しておき、映像表示システムの調整時においては、前記第1の視点位置に設置したカメラを用いて従来の調整技術による変換パラメタ推定処理を行う際に、その前処理として、前記第1の視点位置と前記第2の視点位置との前記スクリーンの指向性に関する特性の違いを考慮した補正処理を加える、というものである。なお、この補正処理は、具体的には、調整用にカメラで撮影した画像データに対して、前記第1の視点位置での見え方と前記第2の視点位置での見え方の違いを補正する処理である。
特開2004−80160号公報
As a technique for improving such a problem, Patent Document 1 is known. This document discloses a technique for improving a problem that occurs when an image is viewed at a second viewpoint position different from the first viewpoint position used for adjustment of the image display system. In this technique, characteristics relating to the directivity of the screen at the first viewpoint position and the second viewpoint position are measured in advance, and a camera installed at the first viewpoint position is used when adjusting the video display system. When performing conversion parameter estimation processing using a conventional adjustment technique using, as preprocessing, correction processing that takes into account the difference in characteristics related to the directivity of the screen between the first viewpoint position and the second viewpoint position Is to add. Specifically, this correction processing corrects the difference between the appearance at the first viewpoint position and the appearance at the second viewpoint position for the image data taken by the camera for adjustment. It is processing to do.
JP 2004-80160 A

特許文献1記載の技術では、予め想定する視点位置毎にスクリーンの指向性に関する特性を計測しておく必要がある。すなわち、映像を鑑賞することのできる位置が広範囲に渡る場合に計測コストが高くなる。また、想定していない視点位置については、想定済みの視点位置に対応する変換パラメタのひとつを選択することにより対応するか、あるいはスクリーンの指向性に関する特性を計測し直すことが必要となる。   In the technique described in Patent Document 1, it is necessary to measure characteristics relating to the directivity of the screen for each viewpoint position assumed in advance. That is, the measurement cost increases when the positions where the video can be viewed are in a wide range. In addition, it is necessary to deal with an unexpected viewpoint position by selecting one of the conversion parameters corresponding to the assumed viewpoint position, or it is necessary to remeasure the characteristics related to the directivity of the screen.

また、前記技術では、(1)まず、観客の視点位置を決定し、(2)次にスクリーンの指向性に関する補正を施し、(3)その上で補正された画像データから実際に使用する変換パラメタを算出する、という処理フローが必要となる。このため、観客の視点位置を決定してから変換パラメタが生成されるまでの計算コストが高くなる。   In the above technique, (1) first, the viewpoint position of the spectator is determined, (2) next, correction regarding the directivity of the screen is performed, and (3) conversion that is actually used from the corrected image data. A processing flow of calculating parameters is required. For this reason, the calculation cost from when the viewpoint position of the audience is determined until the conversion parameter is generated increases.

本発明はこれらの問題点を鑑みてなされたもので、表示される映像を調整位置とは異なる視点位置から見る場合に生じる映像品質の劣化を簡易に補正することのできる映像表示システムを提供するものである。   The present invention has been made in view of these problems, and provides an image display system capable of easily correcting deterioration in image quality that occurs when a displayed image is viewed from a viewpoint position different from the adjustment position. Is.

本発明は上記課題を解決するため、次のような手段を採用した。   In order to solve the above problems, the present invention employs the following means.

ユーザに提示するための映像を出力する映像生成部と、
前記映像生成部の出力した映像をパラメタ記憶部に格納した画素値変換パラメタに基づいて補正して出力する補正部と、
前記補正部の出力した映像を表示する、光線制御子を備えた表示部と、
第一の調整位置において良好な補正結果が得られる第一の画素値変換パラメタを記憶する第一の記憶部と、
第二の調整位置において良好な補正結果が得られる第二の画素値変換パラメタを記憶する第二の記憶部と、
前記第一及び第二の画素値変換パラメタを用いて第三の画素値変換パラメタを算出し前記パラメタ記憶部に格納するパラメタ合成部と、
調整位置を選択する選択コマンド、及び、前記第一または第二の画素値変換パラメタを修正する修正コマンド、を入力するためのコマンド入力部と、
コマンド入力部から入力されたコマンドに従って映像表示システムを制御するコマンド制御部を備え、
前記コマンド制御部は、
前記選択コマンドによって前記第一の調整位置が選択された場合には、第一の画像を前記第一の画素値変換パラメタで補正した映像を前記補正部から出力し、
前記選択コマンドによって前記第二の調整位置が選択された場合には、第二の画像を前記第二の画素値変換パラメタで補正した映像を前記補正部から出力し、
前記修正コマンドが入力された場合には、前記選択コマンドによって選択されている調整位置に対応する画素値変換パラメタに対して前記コマンド入力部から入力された修正を施した上で、修正後の前記第一及び第二の画素値変換パラメタを用いて前記パラメタ合成部で前記第三の画素値変換パラメタを算出し前記パラメタ記憶部に格納する。
A video generator that outputs video for presentation to the user;
A correction unit that corrects and outputs the video output from the video generation unit based on a pixel value conversion parameter stored in a parameter storage unit;
A display unit having a light beam controller for displaying an image output from the correction unit;
A first storage unit for storing a first pixel value conversion parameter for obtaining a good correction result at the first adjustment position;
A second storage unit for storing a second pixel value conversion parameter for obtaining a good correction result at the second adjustment position;
A parameter combining unit that calculates a third pixel value conversion parameter using the first and second pixel value conversion parameters and stores the third pixel value conversion parameter in the parameter storage unit;
A command input unit for inputting a selection command for selecting an adjustment position and a correction command for correcting the first or second pixel value conversion parameter;
A command control unit that controls the video display system according to the command input from the command input unit,
The command control unit
When the first adjustment position is selected by the selection command, a video obtained by correcting the first image with the first pixel value conversion parameter is output from the correction unit,
When the second adjustment position is selected by the selection command, a video obtained by correcting the second image with the second pixel value conversion parameter is output from the correction unit,
When the correction command is input, after the correction input from the command input unit to the pixel value conversion parameter corresponding to the adjustment position selected by the selection command, The parameter combining unit calculates the third pixel value conversion parameter using the first and second pixel value conversion parameters, and stores the third pixel value conversion parameter in the parameter storage unit.

本発明は、以上の構成を備えるため、表示される映像を調整位置とは異なる視点位置から見る場合に生じる映像品質の劣化を簡易に補正することができる。   Since the present invention has the above-described configuration, it is possible to easily correct deterioration in video quality that occurs when a displayed video is viewed from a viewpoint position different from the adjustment position.

以下、第1の実施形態について説明する。本実施形態は、駅の連絡通路に設置する映像表示システムなど、線状に分布する観客に対して映像を提示するような映像表示システムに適用する場合に好適な例である。   The first embodiment will be described below. The present embodiment is an example suitable for application to a video display system that presents video to a linearly distributed audience, such as a video display system installed in a communication passage of a station.

図1は、本実施形態における映像表示システムを説明する図である。図において、スクリーン110は、背面投射型のスクリーンである。スクリーン110上には、図示しないプロジェクタ220(220−1乃至220−4)により、背面側、すなわちスクリーン110を挟んで通路と反対側から映像が投映されている。プロジェクタ220−1乃至220−4は、水平投映範囲130(130−1乃至130−4)で示されるように隣り合う映像が互いに重複するように配置される。   FIG. 1 is a diagram illustrating a video display system according to the present embodiment. In the figure, a screen 110 is a rear projection type screen. On the screen 110, a projector 220 (220-1 to 220-4) (not shown) projects an image from the back side, that is, from the opposite side of the passage with the screen 110 in between. The projectors 220-1 to 220-4 are arranged so that adjacent images overlap each other as indicated by the horizontal projection range 130 (130-1 to 130-4).

図示しない映像生成装置200が出力した映像に、図示しない映像補正装置210を用いて幾何補正処理および画素値変換処理を施してプロジェクタ220から投映することにより、スクリーン110上に複数の映像が全体として滑らかに繋がった1つの映像として表示される。   A video output from a video generation device 200 (not shown) is subjected to geometric correction processing and pixel value conversion processing using a video correction device 210 (not shown) and projected from the projector 220, whereby a plurality of videos are displayed on the screen 110 as a whole. Displayed as one smoothly connected video.

本実施形態では、スクリーン110として、背面投射型の平面形状のスクリーンを使用したが、これに限られるものではない。例えば、正面投射型のスクリーンを使用してもよいし、曲面形状のスクリーンを使用してもよい。なお、曲面形状のスクリーンを使用する場合は、後述の調整位置の数を増やしておくことが望ましい。   In the present embodiment, a rear projection type plane-shaped screen is used as the screen 110, but is not limited thereto. For example, a front projection type screen may be used, or a curved screen may be used. When a curved screen is used, it is desirable to increase the number of adjustment positions described later.

観客140(140−1乃至140−3)は、例えば、駅の連絡通路を歩きながら壁面のスクリーン110に表示される映像を眺める歩行者である。本実施形態では、観客140の空間的な分布を観客分布検出部120で検出し、検出した分布は前記画素値変換処理で使用する画素値変換パラメタに反映させる。   The audience 140 (140-1 to 140-3) is, for example, a pedestrian who watches an image displayed on the screen 110 on the wall surface while walking along a communication path of a station. In this embodiment, the spatial distribution of the audience 140 is detected by the audience distribution detection unit 120, and the detected distribution is reflected in the pixel value conversion parameter used in the pixel value conversion process.

観客分布検出部120(120−1乃至120−3)は、監視カメラを使用し、背景差分などの既存の技術を用いて移動体の検出を行うものである。ただし、観客分布検出部120は、観客の空間分布が検出できるものであればよく、本実施形態に限定されるものではない。例えば、ステレオビジョンセンサ、赤外線センサ、圧力センサ等、用途に応じて適宜、既存の技術を用いたセンサを使用することができる。   The audience distribution detection unit 120 (120-1 to 120-3) uses a monitoring camera and detects a moving object using an existing technique such as background difference. However, the audience distribution detection unit 120 may be anything that can detect the spatial distribution of the audience, and is not limited to this embodiment. For example, a sensor using an existing technique can be used as appropriate according to the application, such as a stereo vision sensor, an infrared sensor, or a pressure sensor.

なお、本実施形態では、観客の空間分布を、通路に沿った1次元の分布として図示したが、通路の幅が広い場合には2次元の分布で考えてもよい。また、高い建物の吹き抜け等に設置したスクリーンに映像を表示するような場合には3次元の分布で考えるようにしてもよい。   In this embodiment, the spatial distribution of the audience is illustrated as a one-dimensional distribution along the passage, but may be considered as a two-dimensional distribution when the width of the passage is wide. In addition, when an image is displayed on a screen installed in an atrium of a high building, a three-dimensional distribution may be considered.

映像補正装置210を用いてスクリーン110上で滑らかに繋がった1つの映像を得るためには、あらかじめ前記幾何補正処理および前記画素値変換処理で使用する幾何補正パラメタおよび画素値変換パラメタを生成しておくことが必要である。調整位置において綺麗に見えるようなパラメタを得る場合には、これらは既存の技術で生成することができる。なお、前記画素値変換パラメタは調整した位置に依存して異なるパラメタとなる。特に本実施形態のように背面投射型のスクリーンを使用した場合、該スクリーンの光学特性は指向性が高く、調整位置への依存度が高くなる。   In order to obtain one image smoothly connected on the screen 110 using the image correction device 210, a geometric correction parameter and a pixel value conversion parameter used in the geometric correction process and the pixel value conversion process are generated in advance. It is necessary to keep. In order to obtain parameters that look beautiful at the adjustment position, these can be generated by existing techniques. The pixel value conversion parameter is a different parameter depending on the adjusted position. In particular, when a rear projection type screen is used as in this embodiment, the optical characteristics of the screen are high in directivity and highly dependent on the adjustment position.

本実施形態においては、調整位置100−1乃至100−3のそれぞれの位置(3箇所)毎にそれぞれ綺麗に見えるような画素値変換パラメタを生成しておき(このとき、例えば調整位置100−1で調整した画素値変換パラメタを使用して調整位置100−3から映像を鑑賞すると、複数の映像の繋ぎ目が暗く沈んで見える等の品質劣化が見られる)、これら3つの画素値変換パラメタを、観客の分布に応じて混合して使用する。なお、この詳細は図2乃至図5を用いて説明する。   In the present embodiment, a pixel value conversion parameter is generated for each of the adjustment positions 100-1 to 100-3 (three locations) so that the pixel value conversion parameter looks beautiful (in this case, for example, the adjustment position 100-1). When the image is viewed from the adjustment position 100-3 using the pixel value conversion parameter adjusted in step 3, the quality deterioration such as the joints of a plurality of images appearing dark and sinking is seen). Use mixed according to the audience distribution. Details of this will be described with reference to FIGS.

前記調整位置100(100−1乃至100−3)の配置は、観客が分布可能な範囲の両端および中央付近とするとよい。これにより、複数の画素値変換パラメタを混合する際に本質的に内挿処理だけで済むようにすることができ、誤差による悪影響を低減することができる。なお、調整位置の数は2箇所以上であればよく、3箇所に限るものではない。調整位置は、観客が分布可能な範囲の両端に加え、観客が分布可能な範囲の内部に必要なだけ設定すればよい。また、観客が分布可能な範囲の両端での映像品質を重視しない場合には、調整位置100を観客が分布可能な範囲の両端に配置する必要はない。この場合、複数の画素値変換パラメタを混合する際に、内挿処理によって混合することができる部分については内挿処理によって混合し、それ以外の部分に関しては外挿処理によって混合すればよい。   The arrangement of the adjustment positions 100 (100-1 to 100-3) is preferably near both ends and the center of the range in which the audience can be distributed. As a result, when mixing a plurality of pixel value conversion parameters, only interpolation processing can be essentially performed, and adverse effects due to errors can be reduced. The number of adjustment positions may be two or more, and is not limited to three. The adjustment positions may be set as necessary within the range in which the audience can be distributed in addition to the both ends of the range in which the audience can be distributed. In addition, when the video quality at both ends of the range in which the audience can be distributed is not important, it is not necessary to arrange the adjustment positions 100 at both ends of the range in which the audience can be distributed. In this case, when a plurality of pixel value conversion parameters are mixed, portions that can be mixed by interpolation processing are mixed by interpolation processing, and other portions may be mixed by extrapolation processing.

図2は、映像表示システムの詳細を説明する図である。なお、図2において図1に示される部分と同一部分については同一符号を付してその説明を省略する。   FIG. 2 is a diagram for explaining the details of the video display system. 2 that are the same as those shown in FIG. 1 are given the same reference numerals, and descriptions thereof are omitted.

本実施形態の映像表示システムは、映像生成装置200、映像補正装置210、プロジェクタ220、およびスクリーン110を備える。このシステムでは、映像生成装置200により生成した映像を映像補正装置210で補正し、補正後の映像データをプロジェクタ220からスクリーン110上に投映することにより、観客に対して映像を提供する。   The video display system of this embodiment includes a video generation device 200, a video correction device 210, a projector 220, and a screen 110. In this system, the video generated by the video generation device 200 is corrected by the video correction device 210, and the corrected video data is projected on the screen 110 from the projector 220, thereby providing the video to the audience.

映像生成装置200は、プロジェクタ220の台数に等しい4チャンネル分の映像を画像補正部215に供給する。具体的な構成としては、マトリクススイッチャを用いて1つの映像を必要なチャンネル数だけ複製して出力するような構成であってもよいし、スキャンコンバータを用いて1つの映像から各チャンネルの担当部分の領域を切り出して出力するような構成としてもよいし、それらを併用するような構成としてもよい。また、あらかじめ各チャンネルの担当領域毎に分割して磁気ディスク装置や光ディスク等の記憶媒体に格納しておいた映像を、複数の機器で同期を取りながら再生するような構成としてもよい。その他、用途に応じて適宜、既存の技術を用いた映像生成装置を単体或いは組み合わせて使用することができる。   The video generation device 200 supplies video for four channels equal to the number of projectors 220 to the image correction unit 215. As a specific configuration, a matrix switcher may be used to copy and output one video for the required number of channels, or a scan converter may be used to assign each channel from one video. It is good also as a structure which cuts out and outputs this area | region, and is good also as a structure which uses them together. Further, it may be configured such that a video that is divided in advance for each channel's assigned area and stored in a storage medium such as a magnetic disk device or an optical disk is reproduced while being synchronized with a plurality of devices. In addition, a video generation apparatus using existing technology can be used alone or in combination as appropriate according to the application.

プロジェクタ220としては、液晶プロジェクタ等、用途に応じて適宜既存の技術を用いた装置を使用することができる。なお、入力された映像に応じてコントラスト等を自動で調整する機能が付いている装置を使用する場合には、前記自動調整機能をOFFにしておくことが必要である。   As the projector 220, a device using existing technology can be used as appropriate according to the application, such as a liquid crystal projector. Note that when using a device having a function of automatically adjusting the contrast or the like according to the input video, it is necessary to turn off the automatic adjustment function.

映像補正装置210は、観客分布検出部120、演算処理装置211、主記憶装置213、外部記憶装置214、および画像補正部215を備える。   The video correction device 210 includes an audience distribution detection unit 120, an arithmetic processing device 211, a main storage device 213, an external storage device 214, and an image correction unit 215.

演算処理装置211は、外部記憶装置214から必要に応じてプログラムやデータを主記憶装置213に読み込みつつ、画像補正部215に格納する画素値変換パラメタの更新を始めとする各種処理を行う。   The arithmetic processing device 211 performs various processes including updating of a pixel value conversion parameter stored in the image correction unit 215 while reading a program and data from the external storage device 214 to the main storage device 213 as necessary.

主記憶装置213には、演算処理装置211によって外部記憶装置214から読み込まれるプログラムやデータの他、観客分布データ231を一時的に格納する。観客分布データ231は、観客の人数と各々の観客の位置情報で構成され、図1で説明した観客分布検出部120によって逐次更新される。なお、本実施形態では観客分布データ231を主記憶装置213に格納するようにしたが、外部記憶装置214に格納するようにし、必要に応じて主記憶装置213に読み込むようにしてもよい。   The main storage device 213 temporarily stores audience distribution data 231 in addition to programs and data read from the external storage device 214 by the arithmetic processing unit 211. The audience distribution data 231 includes the number of audiences and position information of each audience, and is sequentially updated by the audience distribution detection unit 120 described with reference to FIG. In this embodiment, the audience distribution data 231 is stored in the main storage device 213, but may be stored in the external storage device 214 and read into the main storage device 213 as necessary.

外部記憶装置214には、パラメタ初期化プログラム241、パラメタ更新プログラム242、設計データ243、調整済み幾何補正パラメタデータ244、調整済み画素値変換パラメタデータ245を格納する。外部記憶装置214としては、磁気ディスク装置や光ディスク等を使用することができる。また、外部記憶装置214の代わりにデータ通信装置を備えるような構成として、外部記憶装置214に格納していたプログラムやデータを、ネットワーク等を介してシステムの外部から取得するようにしてもよい。   The external storage device 214 stores a parameter initialization program 241, a parameter update program 242, design data 243, adjusted geometric correction parameter data 244, and adjusted pixel value conversion parameter data 245. As the external storage device 214, a magnetic disk device, an optical disk, or the like can be used. Further, as a configuration including a data communication device instead of the external storage device 214, the program and data stored in the external storage device 214 may be acquired from outside the system via a network or the like.

画像補正部215は、映像生成装置200から供給される映像に対して、幾何補正および色や明るさに関する補正を施してプロジェクタ220に供給する。本実施形態においては入力チャンネルと出力チャンネルを1対1に対応させ、後述(図3)の画像補正装置300を4つ使用する構成とする。なお、本明細書では、一貫して入力チャンネル数と出力チャンネル数が同数となるような構成で説明を行うが、これは本質には関係なく、例えば、複数の入力映像を繋ぎ合わせて格納することが可能であるような大きさを持ったフレームバッファを備えるような構成とすることにより、入出力のチャンネル数が異なる場合にも適用することができる。   The image correction unit 215 performs geometric correction and correction related to color and brightness on the video supplied from the video generation device 200 and supplies the corrected video to the projector 220. In the present embodiment, the input channel and the output channel are made to correspond one-to-one, and four image correction apparatuses 300 described later (FIG. 3) are used. In this specification, the description will be made with a configuration in which the number of input channels and the number of output channels are consistently the same, but this is not essential, and for example, a plurality of input videos are connected and stored. By adopting a configuration including a frame buffer having such a size that it is possible, the present invention can be applied even when the number of input / output channels is different.

パラメタ初期化プログラム241は、演算処理装置211によってシステム起動を契機にして開始され、1度だけ実行される。具体的には、画像補正部215に対し入出力の映像信号形式の設定等の初期化処理を行い、さらに、調整済み幾何補正パラメタデータ244(後述)を画像補正部215に設定し、さらに、調整済み画素値変換パラメタデータ245(後述)のうち調整位置100−2に関連して記憶されている、各々のプロジェクタ220−1乃至220−4に対応する画素値変換パラメタを画像補正部215に設定する処理を行う。   The parameter initialization program 241 is started when the arithmetic processing unit 211 starts the system and is executed only once. Specifically, initialization processing such as setting of the input / output video signal format is performed on the image correction unit 215, and adjusted geometric correction parameter data 244 (described later) is set in the image correction unit 215. Among the adjusted pixel value conversion parameter data 245 (described later), pixel value conversion parameters corresponding to the projectors 220-1 to 220-4 stored in association with the adjustment position 100-2 are stored in the image correction unit 215. Perform the setting process.

なお、画素値変換パラメタに関しては、調整位置100−2ではなく調整位置100−1や調整位置100−3に関連して記憶されているものを設定してもよいし、後述(図5)の処理で生成された画素値変換パラメタを外部記憶装置214に記憶しておき、それを設定するようにしてもよい。また、画像補正装置300(図3)のパラメタ記憶部316を不揮発性のメモリ等で構成し、幾何補正パラメタ322および画素値変換パラメタ323をシステム終了後も保持しておけるようにした場合には、システムの2回目以降の起動時においては、パラメタ初期化プログラム241で幾何補正パラメタおよび画素値変換パラメタを画像補正装置300に設定する処理を省略してもよい。   As for the pixel value conversion parameters, those stored in relation to the adjustment position 100-1 and the adjustment position 100-3 instead of the adjustment position 100-2 may be set. The pixel value conversion parameter generated by the processing may be stored in the external storage device 214 and set. Further, when the parameter storage unit 316 of the image correction apparatus 300 (FIG. 3) is configured by a non-volatile memory or the like, the geometric correction parameter 322 and the pixel value conversion parameter 323 can be retained even after the system is terminated. In the second and subsequent activations of the system, the process of setting the geometric correction parameter and the pixel value conversion parameter in the image correction apparatus 300 by the parameter initialization program 241 may be omitted.

パラメタ更新プログラム242は、パラメタ初期化プログラム241の終了を契機として開始され、システムが動作している間は繰り返し実行される。パラメタ更新プログラム242の詳細は後述(図5)する。   The parameter update program 242 is started when the parameter initialization program 241 ends, and is repeatedly executed while the system is operating. Details of the parameter update program 242 will be described later (FIG. 5).

パラメタ更新プログラム242を実行する際、演算処理装置211は、映像表示システム全体に固有の基準座標系に基づいて処理を行う。設計データ243は、該基準座標系における各々の調整位置100−1〜100−3の座標値、スクリーン110に固有の座標系を基準座標系に変換するためのパラメタ、観客分布検出部120に固有の座標系を基準座標系に変換するためのパラメタ、各々のプロジェクタ220−1乃至220−4に固有の座標系をスクリーン110に固有の座標系に変換するためのパラメタ、および映像生成装置200から供給される各チャンネルの映像に固有の座標系を各々対応するプロジェクタ220−1乃至220−4に固有の座標系に変換するためのパラメタを含む座標変換のためのデータである。設計データ243は、映像表示システムの設計時にあらかじめ決定された設計値を用いる。演算処理装置211は、必要に応じて設計データ243に基づき、既知の方法を用いて各々の装置に固有の座標系で表現されたデータを基準座標系での表現に変換して使用する。   When executing the parameter update program 242, the arithmetic processing unit 211 performs processing based on a reference coordinate system unique to the entire video display system. The design data 243 includes coordinate values of the respective adjustment positions 100-1 to 100-3 in the reference coordinate system, parameters for converting the coordinate system unique to the screen 110 to the reference coordinate system, and unique to the audience distribution detector 120. Parameters for converting the coordinate system of the projector 110-1 to the reference coordinate system, parameters for converting the coordinate system unique to each of the projectors 220-1 to 220-4 to the coordinate system unique to the screen 110, and the image generation device 200 This is data for coordinate conversion including parameters for converting a coordinate system unique to the supplied video of each channel into a coordinate system unique to the corresponding projector 220-1 to 220-4. As the design data 243, design values determined in advance at the time of designing the video display system are used. The arithmetic processing unit 211 converts data expressed in a coordinate system unique to each device into a representation in a reference coordinate system using a known method based on the design data 243 as necessary.

調整済み幾何補正パラメタデータ244は、各々のプロジェクタ220−1乃至220−4に対応する調整済みの幾何補正パラメタの集合、すなわち、スクリーン110上で映像が幾何学的に滑らかに繋がるような幾何補正パラメタの集合である。このような幾何補正パラメタは、既存の技術を用いてあらかじめ生成しておく。具体的には、単純に設計値に基づいて生成してもよいし、調整用の撮像装置を備える構成として、例えば特開2002−72359号公報に記載の方法によって生成してもよい。また、同じく調整用の撮像装置を備える構成として、映像生成装置200が供給する各チャンネルの映像に固有の座標系と、所定の位置(設計値としてあらかじめ与えられた位置)から所定の条件(設計値としてあらかじめ与えられた姿勢や画角)において調整用の撮像装置でスクリーン110上の映像全体を撮影した撮影画像データ上の座標系との対応を、映像生成装置200が供給する各チャンネルごとに空間コード化法(井口征士,佐藤宏介,3次元画像計測,昭晃堂,東京,1990,pp.80−91)等の既存の方法によって生成した上で、該生成した座標系対応データと、設計値から算出した「撮影画像データ上の座標系において映像生成装置200が供給する各チャンネルの映像がどのように撮影されているべきか」というデータに基づいて、生成するようにしてもよい。なお、幾何補正パラメタの具体的な実施形態については後述(図3)する。   The adjusted geometric correction parameter data 244 is a set of adjusted geometric correction parameters corresponding to each of the projectors 220-1 to 220-4, that is, a geometric correction in which an image is geometrically smoothly connected on the screen 110. A set of parameters. Such geometric correction parameters are generated in advance using existing techniques. Specifically, it may be generated simply based on a design value, or may be generated by a method described in JP-A-2002-72359, for example, as a configuration including an adjustment imaging device. Similarly, the image pickup apparatus for adjustment is also provided with a coordinate system unique to each channel image supplied by the image generation device 200 and a predetermined condition (designed value) as a predetermined condition (designed value). The correspondence with the coordinate system on the captured image data obtained by capturing the entire image on the screen 110 with the image capturing device for adjustment (at a preliminarily given posture and angle of view) for each channel supplied by the image generating device 200. Generated by an existing method such as a spatial encoding method (Seiji Iguchi, Kosuke Sato, 3D image measurement, Shosodo, Tokyo, 1990, pp. 80-91), and the generated coordinate system correspondence data; “How should the video of each channel supplied by the video generation device 200 be captured in the coordinate system on the captured image data” calculated from the design value? Based on over data, it may be generated. A specific embodiment of the geometric correction parameter will be described later (FIG. 3).

また、調整済み画素値変換パラメタデータ245は、調整位置100−1乃至100−3のそれぞれの位置で調整された、各々のプロジェクタ220−1乃至220−4に対応する画素値変換パラメタの集合であり、各々の調整位置100−1乃至100−3に関連付けて記憶される。このような画素値変換パラメタ、即ち、所定の調整位置で映像を鑑賞するのに好適な画素値変換パラメタは、既存の技術、例えば、特願2006−24627号、あるいは特開2002−72359号公報に記載の技術などを用いてあらかじめ生成しておく。なお、画素値変換パラメタの具体的な実施形態については後述(図4)する。   The adjusted pixel value conversion parameter data 245 is a set of pixel value conversion parameters corresponding to the projectors 220-1 to 220-4 adjusted at the respective adjustment positions 100-1 to 100-3. Yes, and stored in association with each of the adjustment positions 100-1 to 100-3. Such a pixel value conversion parameter, that is, a pixel value conversion parameter suitable for viewing an image at a predetermined adjustment position is known in the art, for example, Japanese Patent Application No. 2006-24627 or Japanese Patent Application Laid-Open No. 2002-72359. It is generated in advance using the technique described in. A specific embodiment of the pixel value conversion parameter will be described later (FIG. 4).

図3は、画像補正装置300の詳細を説明する図である。画像補正装置300は、映像入力部310、フレームメモリ311、幾何補正部312、画素値変換部313、映像出力部314、パラメタ設定部315、およびパラメタ記憶部316を備える。パラメタ記憶部316には、幾何補正パラメタ322および画素値変換パラメタ323を格納する。   FIG. 3 is a diagram for explaining the details of the image correction apparatus 300. The image correction apparatus 300 includes a video input unit 310, a frame memory 311, a geometric correction unit 312, a pixel value conversion unit 313, a video output unit 314, a parameter setting unit 315, and a parameter storage unit 316. The parameter storage unit 316 stores a geometric correction parameter 322 and a pixel value conversion parameter 323.

映像入力部310は、映像生成装置200から供給された1チャンネル分の映像を読み込み、デジタル画像データとしてフレームメモリ311に書き込む。該映像がアナログ信号で供給される場合には、A/D変換器を備えた構成とすればよい。   The video input unit 310 reads the video for one channel supplied from the video generation device 200 and writes it into the frame memory 311 as digital image data. When the video is supplied as an analog signal, a configuration including an A / D converter may be used.

フレームメモリ311は、1チャンネル分の入力映像が格納可能な大きさのメモリを2フレーム分だけ備える構成とし、1フレーム分を映像入力部からの書き込み用に、残りの1フレーム分を幾何補正部からの読み出し用に、奇数フレームと偶数フレームとで役割を交互に交代しながら使用される。   The frame memory 311 is configured to have a memory having a size enough to store input video for one channel for two frames, and one frame for writing from the video input unit, and the remaining one frame for geometric correction unit For reading from a frame, it is used by alternately changing the roles of odd frames and even frames.

幾何補正部312は、パラメタ記憶部316に格納されている幾何補正パラメタ322に基づいてフレームメモリ311上の画像データに幾何補正を行った結果の画像データを画素値変換部313に対して出力する。ここで、幾何補正パラメタ322は、幾何補正部312の出力する画像データの各々の画素に対して該画素の画素値をフレームメモリ311上のどの画素を参照してどのように決定するかを定義したパラメタである。例えば、各画素について実数値Xと実数値Yの組を格納しておき、それをフレームメモリ上の(X,Y)という座標値に対応させて、基準色(例えばR,G,B)毎に、四近傍画素の双線形補間によって画素値を定めるように実装すればよい。なお、フレームメモリ上に対応する座標値がない場合には、幾何補正パラメタ322の当該位置にあらかじめ定めた例外値を入れておき、幾何補正部312はこのような画素に対して常に「黒」すなわち(R,G,B)=(0,0,0)を出力するように構成する。   The geometric correction unit 312 outputs, to the pixel value conversion unit 313, image data obtained as a result of performing geometric correction on the image data on the frame memory 311 based on the geometric correction parameter 322 stored in the parameter storage unit 316. . Here, the geometric correction parameter 322 defines how the pixel value of each pixel of the image data output from the geometric correction unit 312 is determined with reference to which pixel on the frame memory 311. Parameter. For example, a set of a real value X and a real value Y is stored for each pixel, and is associated with a coordinate value (X, Y) on the frame memory for each reference color (for example, R, G, B). In addition, the pixel value may be determined by bilinear interpolation of four neighboring pixels. If there is no corresponding coordinate value on the frame memory, a predetermined exceptional value is entered at the position of the geometric correction parameter 322, and the geometric correction unit 312 always displays “black” for such a pixel. That is, (R, G, B) = (0, 0, 0) is output.

画素値変換部313は、パラメタ記憶部316に格納されている画素値変換パラメタ323に基づいて、幾何補正部312から入力された画像中の各画素に対して画素値を変換して映像出力部314に対して出力するものであり、映像の色や明るさの補正に相当する処理を行う部分である。画素値変換部313の入力および出力となる画像の解像度は、いずれも画像補正装置300の出力となる映像の解像度に等しい。画素値変換パラメタ323の詳細は後述する(図4)。   The pixel value conversion unit 313 converts the pixel value for each pixel in the image input from the geometric correction unit 312 based on the pixel value conversion parameter 323 stored in the parameter storage unit 316 and outputs a video output unit. This is output to 314, and is a part that performs processing corresponding to correction of the color and brightness of the video. The resolution of the image that is the input and output of the pixel value conversion unit 313 is equal to the resolution of the video that is the output of the image correction apparatus 300. Details of the pixel value conversion parameter 323 will be described later (FIG. 4).

映像出力部314は、画素値変換部313から出力された画像データを映像信号に変換してプロジェクタ220に出力する。プロジェクタ220がアナログ映像信号を投映するように構成されている場合には、D/A変換器を備えた構成とすればよい。   The video output unit 314 converts the image data output from the pixel value conversion unit 313 into a video signal and outputs the video signal to the projector 220. When the projector 220 is configured to project an analog video signal, the projector 220 may be configured to include a D / A converter.

パラメタ設定部315は、演算処理装置211の指示により画像補正装置300に入力された幾何補正パラメタをパラメタ記憶部316に幾何補正パラメタ322として記憶させ、かつ、演算処理装置211の指示により画像補正装置300に入力された画素値変換パラメタをパラメタ記憶部316に画素値変換パラメタ323として記憶させる。   The parameter setting unit 315 stores the geometric correction parameter input to the image correction device 300 in accordance with an instruction from the arithmetic processing device 211 in the parameter storage unit 316 as the geometric correction parameter 322, and the image correction device in accordance with an instruction from the arithmetic processing device 211. The pixel value conversion parameter input to 300 is stored in the parameter storage unit 316 as the pixel value conversion parameter 323.

フレームメモリ311およびパラメタ記憶部316としてはRAMを、幾何補正部312および画素値変換部313としてはFPGAやASICを使用し、パラメタ設定部315としてはUSBやPCIバス等の入力インタフェースとこの制御および入力されたデータを処理するためのFPGAやASIC等の組を使用することができる。しかし、これらを使用することに限定されるものではない。   The frame memory 311 and the parameter storage unit 316 use a RAM, the geometric correction unit 312 and the pixel value conversion unit 313 use an FPGA or ASIC, and the parameter setting unit 315 uses an input interface such as a USB or PCI bus, A set of FPGA, ASIC, etc. for processing the input data can be used. However, it is not limited to using these.

なお、画像補正装置300の構成は図3の構成に限るものではない。例えば、映像生成装置200からあらかじめ必要な幾何補正を施した映像が供給される場合や、スクリーン110とプロジェクタ220とを厳密に正しく設置した場合など、画像補正装置300で幾何補正を施す必要がない場合には幾何補正部312を省略してもよい。この場合には、パラメタ記憶部316に幾何補正パラメタ322を記憶する必要もない。   The configuration of the image correction apparatus 300 is not limited to the configuration of FIG. For example, it is not necessary to perform geometric correction in the image correction apparatus 300 when a video having been subjected to necessary geometric correction is supplied from the video generation apparatus 200 or when the screen 110 and the projector 220 are installed strictly correctly. In this case, the geometric correction unit 312 may be omitted. In this case, it is not necessary to store the geometric correction parameter 322 in the parameter storage unit 316.

また、例えば、想定される幾何補正量の最大値(この場合、垂直方向の変化量の最大値)があらかじめ与えられている場合には、読み書きのタイミングを1ライン毎に制御することで、フレームメモリ311を、前記幾何補正量の最大値に依存して決まるライン数だけのラインバッファに代えて実施することもできる。   Further, for example, when a maximum value of the assumed geometric correction amount (in this case, the maximum value of the change amount in the vertical direction) is given in advance, the frame can be controlled by controlling the read / write timing for each line. The memory 311 may be implemented in place of the line buffers having the number of lines determined depending on the maximum value of the geometric correction amount.

図4は、画素値変換パラメタ323の表現方法を説明する図である。画素値変換パラメタ323は、画素毎および基準色(例えばR,G,B)毎に独立して、入力画素値に対して出力画素値が一意に定まるような特性関数400を備える。図の例では、特性関数400は区分線形関数であり、入力画素値0、64、128、192、255のそれぞれに対して出力画素値L0、L1、L2、L3、L4を対応させることで定義される。なお、特性関数400の表現方法はこれに限るものではなく、区分線形関数の区分数の変更やルックアップテーブルによる表現、モデル表現(例えば、「出力画素値を正規化したものは入力画素値を正規化したもののγ乗に等しい」とモデル化し、各画素および各色毎にオフセットの値など正規化に必要となるパラメタとγの値とを保持するようにする)等、種々の表現を用いることができる。   FIG. 4 is a diagram for explaining a method of expressing the pixel value conversion parameter 323. The pixel value conversion parameter 323 includes a characteristic function 400 such that an output pixel value is uniquely determined with respect to an input pixel value independently for each pixel and each reference color (for example, R, G, B). In the example of the figure, the characteristic function 400 is a piecewise linear function and is defined by associating the output pixel values L0, L1, L2, L3, and L4 with the input pixel values 0, 64, 128, 192, and 255, respectively. Is done. Note that the expression method of the characteristic function 400 is not limited to this, but the change of the number of pieces of the piecewise linear function, the expression by the lookup table, the model expression (for example, “the normalized output pixel value is the input pixel value Use a variety of expressions, such as `` equal to the γ-th power of the normalized one '' and keep the parameters necessary for normalization such as the offset value for each pixel and each color and the value of γ) Can do.

図5は、本実施形態のパラメタ更新プログラム242の処理を説明する図である。この処理は、パラメタ初期化プログラム241の終了を契機として開始され、システムが動作している間は繰り返し実行される。   FIG. 5 is a diagram for explaining processing of the parameter update program 242 of this embodiment. This process is started when the parameter initialization program 241 ends, and is repeatedly executed while the system is operating.

演算処理装置211は、パラメタ更新プログラム242を外部記憶装置214から主記憶装置213に読み込んで実行する。実行が開始されると、まず、観客分布検出部120が非同期で更新している最新の観客分布データ231を読み込む(S501)。   The arithmetic processing unit 211 reads the parameter update program 242 from the external storage device 214 to the main storage device 213 and executes it. When the execution is started, first, the latest audience distribution data 231 updated asynchronously by the audience distribution detection unit 120 is read (S501).

次に、パラメタ合成処理を行う(S502)。パラメタ合成処理は、観客分布データ231、設計データ243、および調整済み画素値変換パラメタデータ245に基づいて、現在の観客分布に対して最適であると期待される画素値変換パラメタを生成し、生成した画素値変換パラメタで画像補正装置300内の画素値変換パラメタを更新する処理である。本処理は、各々のプロジェクタ220−1乃至220−4に対応する画素値変換パラメタ毎に独立に実施することができる。   Next, parameter composition processing is performed (S502). The parameter synthesis process generates and generates pixel value conversion parameters that are expected to be optimal for the current audience distribution based on the audience distribution data 231, the design data 243, and the adjusted pixel value conversion parameter data 245. In this process, the pixel value conversion parameter in the image correction apparatus 300 is updated with the pixel value conversion parameter. This process can be performed independently for each pixel value conversion parameter corresponding to each projector 220-1 to 220-4.

本実施形態では、まず、個々の観客毎に独立に、該観客にとって最適であると期待される画素値変換パラメタ(以下、「暫定画素値変換パラメタ」と呼ぶ)を算出し、算出された複数(観客分布データ231に検出されている観客数に等しい)の暫定画素値変換パラメタをもとに実際に画像補正装置300内の画素値変換パラメタを更新するための画素値変換パラメタ(以下、「更新画素値変換パラメタ」と呼ぶ)を算出する。   In this embodiment, first, pixel value conversion parameters expected to be optimal for the audience (hereinafter referred to as “provisional pixel value conversion parameters”) are calculated independently for each audience, Based on the provisional pixel value conversion parameter (equal to the number of spectators detected in the audience distribution data 231), the pixel value conversion parameter (hereinafter referred to as “the pixel value conversion parameter” for actually updating the pixel value conversion parameter in the image correction apparatus 300). The updated pixel value conversion parameter ”is calculated.

観客aに対応する暫定画素値変換パラメタは、(1)式にしたがって算出する。

Figure 0004965894
The provisional pixel value conversion parameter corresponding to the audience a is calculated according to the equation (1).
Figure 0004965894

ここで、Ta(X)は暫定画素値変換パラメタの画素位置Xにおけるパラメタの値(本実施形態では図4の(L0,L1,L2,L3,L4)で表されるベクトル値)である。We(Yp,Ya)は調整位置pの基準座標系上の座標Ypと観客aの基準座標系上の座標Yaとで決定される重み値であり、調整位置pに関する総和が1になるように正規化されている。Tp(X)は調整位置pに対応する調整済み画素値変換パラメタの画素位置Xにおける値であり、Ta(X)と同様のベクトル値である。   Here, Ta (X) is a parameter value at the pixel position X of the provisional pixel value conversion parameter (in this embodiment, a vector value represented by (L0, L1, L2, L3, L4) in FIG. 4). We (Yp, Ya) is a weight value determined by the coordinate Yp on the reference coordinate system of the adjustment position p and the coordinate Ya on the reference coordinate system of the spectator a, so that the sum relating to the adjustment position p is 1. It has been normalized. Tp (X) is a value at the pixel position X of the adjusted pixel value conversion parameter corresponding to the adjustment position p, and is a vector value similar to Ta (X).

We(Yp,Ya)は、例えば、(2)式を用いて算出した値を正規化することで算出できる。

Figure 0004965894
We (Yp, Ya) can be calculated, for example, by normalizing the value calculated using equation (2).
Figure 0004965894

ここで、εは所与の定数であり、観客aの位置Yaが、ある調整位置Ypに一致する場合に、暫定画素値変換パラメタが該調整位置pに対応する調整済み画素値変換パラメタと略一致するような値を設定しておく。例えば、最も近い2つの調整位置の間のユークリッド距離がdである場合、d/10000という値を設定すればよい。また、D(Yp,Ya)はYpとYaの間のユークリッド距離である。   Here, ε is a given constant, and when the position Ya of the audience a coincides with a certain adjustment position Yp, the provisional pixel value conversion parameter is substantially the same as the adjusted pixel value conversion parameter corresponding to the adjustment position p. Set a value that matches. For example, when the Euclidean distance between the two closest adjustment positions is d, a value of d / 10000 may be set. D (Yp, Ya) is the Euclidean distance between Yp and Ya.

更新画素値変換パラメタは、前記のように算出された複数の暫定画素値変換パラメタを用いて、(3)式にしたがって算出する。

Figure 0004965894
The updated pixel value conversion parameter is calculated according to the equation (3) using the plurality of provisional pixel value conversion parameters calculated as described above.
Figure 0004965894

ここで、T(X)は更新画素値変換パラメタの画素位置Xにおけるパラメタの値(ベクトル値)であり、Wx(Yx,Ya)は画素位置Xの基準座標系上の座標Yxと観客aの基準座標系上の座標Yaとで決定される重み値であり、観客aに関する総和が1になるように正規化されている。Ta(X)は暫定画素値変換パラメタの画素位置Xにおけるパラメタの値(ベクトル値)である。   Here, T (X) is the parameter value (vector value) at the pixel position X of the updated pixel value conversion parameter, and Wx (Yx, Ya) is the coordinate Yx on the reference coordinate system of the pixel position X and the audience a It is a weight value determined by the coordinate Ya on the reference coordinate system, and is normalized so that the sum relating to the audience a becomes 1. Ta (X) is the parameter value (vector value) at the pixel position X of the provisional pixel value conversion parameter.

Wx(Yx,Ya)は、例えば、(4)式を用いて算出した値を正規化することで算出することができる。

Figure 0004965894
Wx (Yx, Ya) can be calculated, for example, by normalizing the value calculated using the equation (4).
Figure 0004965894

ここで、D(Yx,Ya)はYxとYaの間のユークリッド距離である。   Here, D (Yx, Ya) is the Euclidean distance between Yx and Ya.

前記パラメタ合成処理(S502)の終了後、演算処理装置211は、パラメタ登録処理を行う(S503)。パラメタ登録処理は、パラメタ合成処理(S502)で生成した更新画素値変換パラメタを、各々対応する画像補正装置300の画素値変換パラメタ323として登録する処理である。この処理は、各々のプロジェクタ220−1乃至220−4に対応する更新を同時に実施するように構成することが望ましい。   After the parameter synthesis process (S502) ends, the arithmetic processing unit 211 performs a parameter registration process (S503). The parameter registration process is a process of registering the updated pixel value conversion parameter generated in the parameter synthesis process (S502) as the pixel value conversion parameter 323 of the corresponding image correction apparatus 300. It is desirable that this processing is configured to simultaneously perform the update corresponding to each projector 220-1 to 220-4.

パラメタ登録処理(S503)の終了後、演算処理装置211は、パラメタ更新プログラム242の実行を終了する。   After the parameter registration process (S503) ends, the arithmetic processing unit 211 ends the execution of the parameter update program 242.

なお、本実施形態では、パラメタ合成処理(S502)を、(a)暫定画素値変換パラメタの生成、および(b)更新画素値変換パラメタの生成の2段階に分けて実施したが、これらを合成して一回の計算で実施するようにしてもよい。この場合には、あらかじめ(1)式を(3)式に代入して整理した式を用いることにより実施すればよい。   In this embodiment, the parameter synthesis process (S502) is performed in two stages: (a) provisional pixel value conversion parameter generation and (b) update pixel value conversion parameter generation. Then, it may be carried out by a single calculation. In this case, what is necessary is just to implement by using the formula which substituted the formula (1) into the formula (3) and arranged beforehand.

また、本実施形態では、パラメタ合成処理(S502)を複数の調整済み画素値変換パラメタの重み付き平均をとる処理としたが、これに限るものではない。例えば、暫定画素値変換パラメタの生成においては、観客aの存在する区間を判別し、該区間の両端の調整位置における調整済み画素値変換パラメタから内挿処理によって暫定画素値変換パラメタを生成してもよい。あるいは、より単純に、一番近い調整位置における調整済み画素値変換パラメタをそのまま暫定画素値変換パラメタとして使用するようにしてもよい。   In the present embodiment, the parameter synthesis process (S502) is a process of taking a weighted average of a plurality of adjusted pixel value conversion parameters, but the present invention is not limited to this. For example, in the generation of the provisional pixel value conversion parameter, the section in which the audience a exists is determined, and the provisional pixel value conversion parameter is generated by interpolation processing from the adjusted pixel value conversion parameters at the adjustment positions at both ends of the section. Also good. Or, more simply, the adjusted pixel value conversion parameter at the closest adjustment position may be used as it is as the temporary pixel value conversion parameter.

また、本実施形態では、重み値の計算をユークリッド距離で実施したが、これに限るものではない。例えば、図1に示されているように、調整位置100−1乃至100−3を結ぶ想定経路を設定し、基準座標系の座標値を該想定経路上の1次元の座標値に変換する変換関数を用いて変換した上で、その1次元の座標値を用いて計算してもよい。前記変換関数は、例えば基準座標系の座標値をそれに最も近い想定経路上の座標値に変換するような関数であってもよいし、また、基準座標系で表されている空間をあらかじめ複数の小領域に分割し、該小領域の各々について想定経路上の座標値を規定した変換テーブルをあらかじめ作成しておき、該変換テーブルを用いて変換するようなものでもよい。なお、前記想定経路を、想定される観客の平均的な身長を考慮して設定してもよいことは、言うまでもない。   In this embodiment, the weight value is calculated using the Euclidean distance. However, the present invention is not limited to this. For example, as illustrated in FIG. 1, conversion is performed in which an assumed route that connects the adjustment positions 100-1 to 100-3 is set, and the coordinate value of the reference coordinate system is converted into a one-dimensional coordinate value on the assumed route You may calculate using the one-dimensional coordinate value, after converting using a function. The conversion function may be, for example, a function that converts a coordinate value of a reference coordinate system into a coordinate value on an assumed route that is closest to the conversion function. It is also possible to divide into small areas, create in advance a conversion table that defines the coordinate values on the assumed path for each of the small areas, and perform conversion using the conversion table. Needless to say, the assumed route may be set in consideration of the average height of the assumed audience.

このように、重み値の計算を1次元の座標値に基づいて実施するような実施形態とすることにより、想定経路が曲線となる場合に、「距離」を道のりとして扱うことができるため、より好適であると期待できる画素値変換パラメタを得ることができる。   In this way, by adopting an embodiment in which the calculation of the weight value is performed based on the one-dimensional coordinate value, when the assumed route is a curve, the “distance” can be treated as a route. A pixel value conversion parameter that can be expected to be suitable can be obtained.

また、観客分布検出部が観客aの視点位置を厳密に検出することが困難である場合にも、検出の際の分散が大きく誤差も大きいと予想される高さ方向の成分の悪影響を抑え、好適であると期待できる画素値変換パラメタを得ることができる。なお、高さ方向の視点の存在範囲は観客の個体差に依存して決まるものであり、観客の移動量に依存して決まる視点の存在範囲に比べ一般に狭いため、完全に無視した場合でもこの影響は軽微である。   Further, even when it is difficult for the spectator distribution detection unit to accurately detect the viewpoint position of the spectator a, the adverse effect of the component in the height direction that is expected to have a large variance and a large error in detection, A pixel value conversion parameter that can be expected to be suitable can be obtained. Note that the existence range of the viewpoint in the height direction is determined depending on the individual difference of the audience, and is generally narrower than the existence area of the viewpoint determined depending on the amount of movement of the audience, so even if it is completely ignored The impact is minor.

以上説明したように、本実施形態によれば、現在の観客分布を検出し、観客の視点位置に依存しない数箇所の計測位置においてあらかじめ調整しておいた調整済み画素値変換パラメタを、観客分布に基づいて混合することによって、検出された観客分布において最適であると期待される画素値変換パラメタを生成することができる。このため、大域的な最適化を必要とせず、個別に単純な方法で画素値変換パラメタを生成することができ、従来技術に比べより低いコストで観客が感じる映像の品質を向上させることができる。   As described above, according to the present embodiment, the current audience distribution is detected, and adjusted pixel value conversion parameters that have been adjusted in advance at several measurement positions that do not depend on the viewpoint position of the audience are represented by the audience distribution. The pixel value conversion parameter expected to be optimal in the detected audience distribution can be generated by mixing based on the above. For this reason, pixel value conversion parameters can be generated individually by a simple method without requiring global optimization, and the image quality perceived by the audience can be improved at a lower cost than the conventional technology. .

なお、本実施形態においては、基準座標系における各々の調整位置100−1乃至100−3の座標値を設計値として与えたが、調整済み画素値変換パラメタを生成する際に、各々のプロジェクタ220−1乃至220−4に固有の座標系と調整に使用する撮影装置に固有の座標系との間の対応関係を定義した座標間対応データを生成する場合には、該座標間対応データと設計データ243とから既存の方法を用いて推定した値を使用してもよい。   In this embodiment, the coordinate values of the respective adjustment positions 100-1 to 100-3 in the reference coordinate system are given as design values. However, when the adjusted pixel value conversion parameter is generated, each projector 220 is generated. When generating the correspondence data between the coordinates defining the correspondence between the coordinate system unique to -1 to 220-4 and the coordinate system unique to the imaging apparatus used for adjustment, the coordinate correspondence data and design A value estimated from the data 243 using an existing method may be used.

また、本実施形態においては、調整済み画素値変換パラメタデータ245は画素値変換パラメタの集合であるとしたが、この「画素値変換パラメタ」とは、画像補正装置300に格納する画素値変換パラメタ323と同等以上の情報を備えるものであればよく、具体的な表現方法は異なっていてもよい。   In this embodiment, the adjusted pixel value conversion parameter data 245 is a set of pixel value conversion parameters, but this “pixel value conversion parameter” refers to a pixel value conversion parameter stored in the image correction apparatus 300. Any information may be provided as long as it has information equivalent to or more than H.323, and the specific expression method may be different.

また、本実施形態においては、観客分布検出部120を用いてすべての観客の空間分布を検出したが、これに限るものではない。例えば、デパートの吹抜けに階を跨るように縦長に設置されたスクリーンに、前記吹抜けの中央部に設置されたガラス張りのエレベーターの乗客に向けた映像を表示するような場合には、デパートの各階に存在する観客は無視し、エレベーターの位置に1人だけ観客がいるものとして、すなわちエレベーターの高さの関数として、画素値変換パラメタを生成すればよい。   In the present embodiment, the spatial distribution of all the audiences is detected using the audience distribution detection unit 120, but the present invention is not limited to this. For example, when displaying an image directed to passengers of a glass-walled elevator installed in the center of the atrium on a screen installed vertically so as to straddle the floor in the atrium of the department store, on each floor of the department store The existing audience is ignored, and the pixel value conversion parameter may be generated as if there is only one audience at the elevator position, that is, as a function of the elevator height.

また、本実施形態においては、パラメタ更新プログラム242を繰り返し実行することで、画像補正部215に設定する画素値変換パラメタを逐次更新し、観客分布検出部120がその都度検出した観客分布に適した映像を提示できるようにしたが、これに限るものではない。例えば、遊園地のジェットコースターを囲むように設置したスクリーンに観客とのインタラクションのない映像を表示するような場合には、あらかじめ出発時刻を起点とした各時刻における観客の位置を計算することによって、各時刻に対して適切な画素値変換パラメタをあらかじめ生成し、該画素値変換パラメタに基づいて画像補正部215で為される補正と等価な補正を施した映像をあらかじめ生成した上で、その補正済みの映像を映像生成装置200からプロジェクタ220に対して映像補正装置210を介さずに直接出力するようにしてもよい。   In the present embodiment, by repeatedly executing the parameter update program 242, the pixel value conversion parameters set in the image correction unit 215 are sequentially updated, and suitable for the audience distribution detected by the audience distribution detection unit 120 each time. Although video can be presented, it is not limited to this. For example, when displaying an image without interaction with the audience on a screen installed around a roller coaster in an amusement park, by calculating the position of the audience at each time starting from the departure time in advance, An appropriate pixel value conversion parameter is generated in advance for each time, and an image that has been corrected in advance equivalent to the correction performed by the image correction unit 215 based on the pixel value conversion parameter is generated in advance. The already generated video may be directly output from the video generation device 200 to the projector 220 without passing through the video correction device 210.

また、本実施形態は、例えば、調整位置100−2で調整した画素値変換パラメタを画像補正部に格納して画像補正を行いたいが調整位置100−2に直接撮影装置を設置して調整を行うことができないような場合に、調整位置100−1で調整した画素値変換パラメタと調整位置100−3で調整した画素値変換パラメタとを合成して調整位置100−2における画素値変換パラメタを生成するような用途にも適用することが可能である。   In the present embodiment, for example, the pixel value conversion parameter adjusted at the adjustment position 100-2 is stored in the image correction unit to perform image correction. However, the adjustment is performed by directly installing the photographing apparatus at the adjustment position 100-2. If the pixel value conversion parameter adjusted at the adjustment position 100-1 and the pixel value conversion parameter adjusted at the adjustment position 100-3 are combined, the pixel value conversion parameter at the adjustment position 100-2 is obtained. It is also possible to apply to uses such as generating.

次に、第2の実施形態を説明する。本実施形態は、動く歩道やエスカレータの脇に設置する映像表示システムなど、定点観測によって観客分布の時間的な変化が予測しやすい映像表示システムに適用する場合に好適な例である。   Next, a second embodiment will be described. This embodiment is a suitable example when applied to a video display system in which a temporal change in audience distribution can be easily predicted by fixed point observation, such as a video display system installed beside a moving sidewalk or an escalator.

図6は、本実施形態の映像表示システムを説明する図である。なお、図において図1に示される部分と同一部分については同一符号を付してその説明を省略する。   FIG. 6 is a diagram for explaining the video display system of the present embodiment. In the figure, the same parts as those shown in FIG.

スクリーン110には、図1の例と同様に映像が投映されている。ただし、本実施形態においては、映像補正装置として、図1における映像補正装置に代え、映像補正装置710(図7)が使用される。   An image is projected on the screen 110 as in the example of FIG. However, in this embodiment, a video correction device 710 (FIG. 7) is used as the video correction device instead of the video correction device in FIG.

観客640(640−1乃至640−3)は、例えば、動く歩道630に乗って壁面のスクリーン110に表示されている映像を眺める歩行者である。本実施形態では、観客640−1乃至640−3がそれぞれ動く歩道630に乗った時刻を入場者検出部620で検出し、検出時刻と現在時刻、および動く歩道630の動く速度631を基に観客640の空間的な分布を推定した上で、前記画素値変換処理で使用する画素値変換パラメタに反映させる。   The audience 640 (640-1 to 640-3) is, for example, a pedestrian who views a video displayed on the screen 110 on the wall surface on a moving sidewalk 630. In this embodiment, the time when the spectators 640-1 to 640-3 get on the moving sidewalk 630 is detected by the attendee detection unit 620, and the spectator is based on the detection time and the current time and the moving speed 631 of the moving sidewalk 630. After estimating the spatial distribution of 640, it is reflected in the pixel value conversion parameter used in the pixel value conversion process.

入場者検出部620は、レーザを用いた距離センサであり、動く歩道630の入口に設置され、センサで検出される距離の変化を利用して観客が動く歩道630に乗ったことを検出する。入場者検出部620は、検出した情報に基づいて、逐次、入場者データ732(図7)を更新する。なお、入場者検出部620は、定点において人流を検出できるようなものであればよく、実施の形態は本実施形態に限定されるものではない。例えば、ステレオビジョンセンサ、赤外線センサ、圧力センサ等、用途に応じて適宜既存の技術を用いたセンサを使用することができる。   The visitor detection unit 620 is a distance sensor using a laser, is installed at the entrance of the moving sidewalk 630, and detects that the spectator has got on the moving sidewalk 630 using a change in the distance detected by the sensor. The visitor detection unit 620 sequentially updates the visitor data 732 (FIG. 7) based on the detected information. The attendee detection unit 620 may be anything that can detect a human flow at a fixed point, and the embodiment is not limited to this embodiment. For example, a sensor using an existing technique can be used as appropriate according to the application, such as a stereo vision sensor, an infrared sensor, or a pressure sensor.

図7は、映像表示システムの詳細を説明する図である。なお、図において図2に示される部分と同一部分については同一符号を付してその説明を省略する。   FIG. 7 is a diagram for explaining the details of the video display system. In the figure, the same parts as those shown in FIG.

本実施形態の映像表示システムは、映像生成装置200、映像補正装置710、プロジェクタ220、およびスクリーン110を備え、映像生成装置200で生成した映像を映像補正装置710で補正し、補正後の映像データをプロジェクタ220からスクリーン110上に投映することにより、観客に対して映像を提供する。   The video display system of the present embodiment includes a video generation device 200, a video correction device 710, a projector 220, and a screen 110. The video generated by the video generation device 200 is corrected by the video correction device 710 and corrected video data. Is projected from the projector 220 onto the screen 110, thereby providing an image to the audience.

映像補正装置710は、入場者検出部620、演算処理装置211、主記憶装置213、外部記憶装置214、および画像補正部215を備える。   The video correction device 710 includes a visitor detection unit 620, an arithmetic processing device 211, a main storage device 213, an external storage device 214, and an image correction unit 215.

主記憶装置213には、演算処理装置211によって外部記憶装置214から読み込まれるプログラムやデータの他に、入場者データ732を一時的に格納する。入場者データ732は図6で説明した入場者検出部620によって逐次更新されるデータであり、この詳細は後述(図8)する。   The main storage device 213 temporarily stores visitor data 732 in addition to programs and data read from the external storage device 214 by the arithmetic processing unit 211. The visitor data 732 is data that is sequentially updated by the visitor detection unit 620 described with reference to FIG. 6, and details thereof will be described later (FIG. 8).

外部記憶装置214には、パラメタ初期化プログラム241、パラメタ更新プログラム742、設計データ743、調整済み幾何補正パラメタデータ244、調整済み画素値変換パラメタデータ245を格納する。   The external storage device 214 stores a parameter initialization program 241, a parameter update program 742, design data 743, adjusted geometric correction parameter data 244, and adjusted pixel value conversion parameter data 245.

パラメタ更新プログラム742は、パラメタ初期化プログラム241の終了を契機として開始され、システムが動作している間は、単位時間Δt毎に繰り返し実行される。パラメタ更新プログラム742の詳細は後述(図9)する。   The parameter update program 742 is started when the parameter initialization program 241 ends, and is repeatedly executed every unit time Δt while the system is operating. Details of the parameter update program 742 will be described later (FIG. 9).

設計データ743は、パラメタ更新プログラム742で使用される重み値を含むデータである。本実施形態は、動く歩道が単位時間Δtの間に全体長の1/8だけ進む場合の例であり、動く歩道630を8つの区間に等しく分割し、各区間に存在すると推測される観客の位置をあらかじめ定めた当該区間を代表する位置で近似することで処理を単純化する。 重み値We(Yp,Ys)および重み値Wx(Yx,Ys)に関しては、各区間の中央の位置の座標値Ysを用いて、第1の実施形態と同様に計算すればよい。Ysは設計値として求めることが可能であるため、これらの重み値はあらかじめ計算しておくことができる。なお、We(Yp,Ys)に関しては正規化した値を使用するが、Wx(Yx,Ys)に関しては正規化の必要はない。   The design data 743 is data including a weight value used in the parameter update program 742. This embodiment is an example in which the moving sidewalk advances by 1/8 of the overall length during the unit time Δt. The moving sidewalk 630 is equally divided into eight sections, and the spectators estimated to exist in each section The process is simplified by approximating the position with a position representative of the predetermined section. The weight value We (Yp, Ys) and the weight value Wx (Yx, Ys) may be calculated in the same manner as in the first embodiment using the coordinate value Ys of the center position of each section. Since Ys can be obtained as a design value, these weight values can be calculated in advance. Note that a normalized value is used for We (Yp, Ys), but normalization is not necessary for Wx (Yx, Ys).

なお、本実施形態のような用途では、一般に、観客の斜め前に位置する部分の映像が綺麗に見えることが重要であると推測される。また、観客がすでに通り過ぎてしまった部分の映像の重要度は低いと予想される。このため、Wx(Yx,Ys)の値を計算する際には、それらの要素を考慮して計算するようにしてもよい。例えば、動く歩道630の動く速度631を所定の大きさに正規化した上でYsに加え、Wx(Yx,Ys)の値をその位置を基準として計算するようにしてもよいし、動く歩道630の動く速度631とYsからYxに向かうベクトルを大きさ1に正規化したものとの内積をWx(Yx,Ys)の値に反映させるようにしてもよい。   It should be noted that it is presumed that it is important for an application such as the present embodiment that the image of the portion located obliquely in front of the audience looks beautiful. In addition, it is expected that the importance of the video where the audience has already passed is low. For this reason, when calculating the value of Wx (Yx, Ys), it may be calculated in consideration of these factors. For example, the moving speed 631 of the moving sidewalk 630 may be normalized to a predetermined size and added to Ys, and the value of Wx (Yx, Ys) may be calculated based on the position, or the moving sidewalk 630 may be calculated. The inner product of the moving speed 631 and the vector from Ys to Yx normalized to size 1 may be reflected in the value of Wx (Yx, Ys).

図8は、入場者データ732のデータ構造を説明する図である。本実施形態では、動く歩道630を8つの区間に分割して扱うため、各々の区間に存在すると見做される人数を格納するための領域を8つ用意する。本実施形態の場合、一定時間が経過した後には観客が動く歩道の出口を出てしまっていると考えられるため、計数データは一定時間の経過後には不要になる。従って本実施形態では、入場者データ732をリングバッファとして保持する。   FIG. 8 is a diagram for explaining the data structure of the visitor data 732. In this embodiment, since the moving sidewalk 630 is divided into eight sections and handled, eight areas for storing the number of persons considered to be present in each section are prepared. In the case of this embodiment, since it is considered that the spectator has exited the sidewalk where the spectator moves after a certain time has elapsed, the counting data becomes unnecessary after the lapse of a certain time. Therefore, in this embodiment, the visitor data 732 is held as a ring buffer.

入場者検出部620は、入場者を検出すると、現在時刻ポインタ800が指し示す領域810のデータを「1」増やす。演算処理装置211は、単位時間Δt毎に現在時刻ポインタ800を右に1つ移動させ、移動後の領域のデータを「0」に初期化する。なお、現在時刻ポインタ800が最も右の領域812を指している場合には、最も左の領域813に移動させる。   When the visitor detection unit 620 detects a visitor, it increases the data in the area 810 indicated by the current time pointer 800 by “1”. The arithmetic processing unit 211 moves the current time pointer 800 to the right by every unit time Δt, and initializes the data in the moved area to “0”. When the current time pointer 800 points to the rightmost area 812, the current time pointer 800 is moved to the leftmost area 813.

図8の状態においては、領域810に記憶されている人数が動く歩道の入口に最も近い区間(s=1)に存在すると推測される観客の人数を表し、領域813に向かって徐々に出口に近い区間に移動し、領域811に記憶されている人数が動く歩道の出口に最も近い区間(s=8)に存在すると推測される観客の人数を表している。   In the state of FIG. 8, the number of spectators who are estimated to exist in the section (s = 1) closest to the entrance of the moving walk where the number of people stored in the area 810 is represented, and gradually toward the area 813 This represents the number of spectators who have moved to the nearest section and are estimated to be in the section (s = 8) closest to the exit of the moving walk where the number of people stored in the area 811 moves.

リングバッファの具体的な例としては、人数を格納する領域を配列として確保し、現在時刻ポインタ800を当該配列のインデックスとして保持すればよい。   As a specific example of the ring buffer, an area for storing the number of people may be secured as an array, and the current time pointer 800 may be held as an index of the array.

図9は、パラメタ更新プログラム742の処理を説明する図である。この処理は、パラメタ初期化プログラム241の終了を契機として開始され、システムが動作している間は繰り返し実行される。   FIG. 9 is a diagram for explaining the processing of the parameter update program 742. This process is started when the parameter initialization program 241 ends, and is repeatedly executed while the system is operating.

演算処理装置211は、パラメタ更新プログラム742を外部記憶装置214から主記憶装置213に読み込んで実行することにより、まず、入場者検出部620が非同期に更新している最新の入場者データ732を読み込む(S901)。   The arithmetic processing unit 211 reads the parameter update program 742 from the external storage device 214 to the main storage device 213 and executes it, thereby first reading the latest visitor data 732 updated asynchronously by the visitor detection unit 620. (S901).

次に、観客分布推定処理を行う(S902)。観客分布推定処理は、入場者データから観客の人数と各々の観客の位置情報を推定する処理である。本実施形態では、入場者データ732が本質的に等価な情報を備えているため具体的な処理は必要ないが、動く歩道の長さや速度等のデータに基づいてより厳密な計算を行うことが必要な場合には、観客分布推定処理(S902)において観客分布を推定し、推定した観客分布を観客分布データ731として主記憶装置213に格納した上で、パラメタ合成処理(S903)において該観客分布データ731を用いて第1の実施形態と同様の処理を行うようにすればよい。   Next, audience distribution estimation processing is performed (S902). The audience distribution estimation process is a process of estimating the number of spectators and the position information of each spectator from the visitor data. In the present embodiment, since the visitor data 732 includes essentially equivalent information, no specific processing is required, but more precise calculation can be performed based on data such as the length and speed of the moving sidewalk. If necessary, the audience distribution is estimated in the audience distribution estimation process (S902), the estimated audience distribution is stored as the audience distribution data 731 in the main memory 213, and then the audience distribution is obtained in the parameter synthesis process (S903). Processing similar to that of the first embodiment may be performed using the data 731.

観客分布推定処理(S902)の終了後、演算処理装置211は、パラメタ合成処理を行う(S903)。パラメタ合成処理(S903)は(5)式および(6)式を用いて、第1の実施形態におけるパラメタ合成処理(S502)と同様に実行する。

Figure 0004965894
Figure 0004965894
After the audience distribution estimation process (S902) ends, the arithmetic processing unit 211 performs a parameter synthesis process (S903). The parameter synthesis process (S903) is executed in the same manner as the parameter synthesis process (S502) in the first embodiment using the equations (5) and (6).
Figure 0004965894
Figure 0004965894

なお、本実施形態においては、重み値We(Yp,Ys)およびWx(Yx,Ys)は設計データ743に記憶されている値を使用する。ここで、ρ(s)は区間sに存在すると推測される人数であり、入場者データ732から得ることができる。   In the present embodiment, values stored in the design data 743 are used as the weight values We (Yp, Ys) and Wx (Yx, Ys). Here, ρ (s) is the number of people estimated to exist in the section s, and can be obtained from the visitor data 732.

パラメタ合成処理(S903)の終了後、演算処理装置211はパラメタ登録処理(S904)を実施して、パラメタ更新プログラム742の実行を終了する。パラメタ登録処理(S904)は、第1の実施形態におけるパラメタ登録処理(S503)(図5)と同様に実施すればよい。   After the parameter synthesis process (S903) ends, the arithmetic processing unit 211 performs a parameter registration process (S904), and ends the execution of the parameter update program 742. The parameter registration process (S904) may be performed in the same manner as the parameter registration process (S503) (FIG. 5) in the first embodiment.

以上、本実施形態によれば、定点観測と適切なモデル化により現在の観客分布を推定することにより、第1の実施形態に比べて観客の分布を簡易な方法で得ることができ、また、推定した観客分布を複数の区間に離散化して扱い、各区間に関係する重み値をあらかじめ設計値として保持しておくことで、第1の実施形態に比べてパラメタ合成処理を簡易な方法で実施することができる。すなわち、本実施形態によれば、第1の実施形態に比べてさらに低いコストで観客が感じる映像の品質を向上させることができる。   As described above, according to the present embodiment, by estimating the current audience distribution by fixed point observation and appropriate modeling, the audience distribution can be obtained in a simpler method than in the first embodiment, The estimated audience distribution is discretized into a plurality of sections, and weight values related to each section are stored as design values in advance, so that parameter synthesis processing is performed in a simpler method than in the first embodiment. can do. That is, according to the present embodiment, it is possible to improve the quality of the image felt by the audience at a lower cost than in the first embodiment.

なお、本実施形態では動く歩道の入口だけで入場者の計数を実施したが、さらに動く歩道上の数点において該位置を通過する観客数を計数することで、より実際に近い観客の分布を推定し、画素値変換パラメタに反映させるようにしてもよい。   In this embodiment, the number of visitors was counted only at the entrance of the moving sidewalk.However, by counting the number of spectators passing through the position at several points on the moving sidewalk, the distribution of the spectators closer to reality can be obtained. It may be estimated and reflected in the pixel value conversion parameter.

また、本実施形態の本質は、定点計測によるデータから観客の分布を推定して最適と期待される画素値変換パラメタを生成することにあるため、例えば、双方向の動く歩道である場合や、動く歩道上を歩く観客がいる場合にも、それぞれに対応するモデルを作成し、該モデルに従って観客の分布を推定することにより、例示した形態と同様に、観客の分布に対して最適と期待される画素値変換パラメタを生成することができる。   In addition, since the essence of the present embodiment is to generate a pixel value conversion parameter that is expected to be optimal by estimating the spectator distribution from data by fixed point measurement, for example, when it is a bidirectional moving walkway, Even when there are spectators walking on a moving sidewalk, by creating models corresponding to each and estimating the spectator distribution according to the model, it is expected to be optimal for the spectator distribution in the same way as in the illustrated form. The pixel value conversion parameter can be generated.

また、本実施形態においては、ρ(s)に関する重み付き平均としてパラメタ合成処理を実施したが、これに限るものではない。例えば、ρ(s)が最大となる区間sだけに基づいて、すなわち他の区間に関してはρ(s)を0であるとみなして、パラメタ合成処理を実施するようにしてもよい。   In the present embodiment, the parameter synthesis process is performed as a weighted average for ρ (s), but the present invention is not limited to this. For example, the parameter synthesis process may be performed based on only the section s in which ρ (s) is maximum, that is, regarding other sections, ρ (s) is regarded as 0.

次に、第3の実施形態を説明する。本実施形態は、第2の実施形態で使用していた画像補正装置300に代え、図10で説明する画像補正装置1000を使用することにより、システム運用時のデータ転送コストを考慮して処理コストの低減を図ったものである。なお、本実施形態においては、説明を簡便にするため、Wx(Yx,Ys)=1であるとして説明を行うが、これに限るものではない。Wx(Yx,Ys)はあらかじめ計算しておくことのできる固定値であるから、この値が画素毎に異なる値を有する場合には、後述のパラメタ記憶部316(図10)に各区間に対応するWx(Yx,Ys)のデータを格納する領域を設けた上で、画素値合成部1011の処理を、Wx(Yx,Ys)を加味した重み付き平均を取るように変更すればよい。   Next, a third embodiment will be described. In the present embodiment, instead of the image correction apparatus 300 used in the second embodiment, an image correction apparatus 1000 described with reference to FIG. 10 is used, so that processing costs are considered in consideration of data transfer costs during system operation. This is intended to reduce this. In the present embodiment, in order to simplify the description, the description will be made assuming that Wx (Yx, Ys) = 1, but the present invention is not limited to this. Since Wx (Yx, Ys) is a fixed value that can be calculated in advance, when this value has a different value for each pixel, the parameter storage unit 316 (FIG. 10) described later corresponds to each section. An area for storing data of Wx (Yx, Ys) to be performed may be provided, and the processing of the pixel value synthesis unit 1011 may be changed to take a weighted average taking Wx (Yx, Ys) into consideration.

図10は、本実施形態の画像補正装置を説明する図である。なお、図において図3に示される部分と同一部分については同一符号を付してその説明を省略する。   FIG. 10 is a diagram illustrating the image correction apparatus according to the present embodiment. In the figure, the same parts as those shown in FIG. 3 are denoted by the same reference numerals and description thereof is omitted.

画像補正装置1000は、映像入力部310、フレームメモリ311、幾何補正部312、画素値変換部1010、画素値合成部1011、映像出力部314、パラメタ設定部315、およびパラメタ記憶部316を備える。パラメタ記憶部316には、幾何補正パラメタ322、画素値変換パラメタ1020、混合比率パラメタ1021、および混合重みパラメタ1022を格納する。   The image correction apparatus 1000 includes a video input unit 310, a frame memory 311, a geometric correction unit 312, a pixel value conversion unit 1010, a pixel value synthesis unit 1011, a video output unit 314, a parameter setting unit 315, and a parameter storage unit 316. The parameter storage unit 316 stores a geometric correction parameter 322, a pixel value conversion parameter 1020, a mixing ratio parameter 1021, and a mixing weight parameter 1022.

画素値変換パラメタ1020は、調整済みの画素値変換パラメタであり、調整位置の数(本実施形態では100−1乃至100−3の「3」)に等しい数のパラメタを含む。画素値変換パラメタ1020は、システムの起動時に演算処理装置211によってあらかじめ画像補正装置1000に設定されるパラメタである。   The pixel value conversion parameter 1020 is an adjusted pixel value conversion parameter, and includes a number of parameters equal to the number of adjustment positions (“3” of 100-1 to 100-3 in this embodiment). The pixel value conversion parameter 1020 is a parameter that is set in the image correction apparatus 1000 in advance by the arithmetic processing unit 211 when the system is activated.

混合比率パラメタ1021は、各区間における各々の画素値変換パラメタの混合比率(全画素に共通のベクトル値)であり、We(Yp,Ys)に相当し、区間数(本実施形態では「8」)に等しい数のパラメタを含む。混合比率パラメタ1021は、システムの起動時に演算処理装置211によってあらかじめ画像補正装置1000に設定されるパラメタである。   The mixing ratio parameter 1021 is a mixing ratio (vector value common to all pixels) of each pixel value conversion parameter in each section, corresponds to We (Yp, Ys), and the number of sections (in the present embodiment, “8”). ) Contains the same number of parameters. The mixing ratio parameter 1021 is a parameter that is set in the image correction apparatus 1000 in advance by the arithmetic processing unit 211 when the system is activated.

混合重みパラメタ1022は、各区間に存在すると推定される人数であり、入場者データ732に相当するパラメタである。このため、入場者データ732と同様に、リングバッファで保持してもよく、この場合には、単位時間Δt毎に演算処理装置211が確定した最新の通過人数を画像補正装置1000に送信し、送信された情報を受信したパラメタ設定部315が現在時刻ポインタの更新を行った上で、更新後の位置に受信した情報を書き込むようにする。なお、単純に、演算処理装置が各区間に存在すると推定される人数を毎回すべて送信するようにしてもよい。   The mixing weight parameter 1022 is the number of people estimated to exist in each section, and is a parameter corresponding to the visitor data 732. For this reason, as with the visitor data 732, it may be held in a ring buffer. In this case, the latest passing number determined by the arithmetic processing unit 211 per unit time Δt is transmitted to the image correction apparatus 1000, The parameter setting unit 315 that has received the transmitted information updates the current time pointer, and then writes the received information in the updated position. In addition, you may make it simply transmit every time the number of persons estimated that the arithmetic processing apparatus exists in each area.

画素値変換部1010は、パラメタ記憶部316に記憶されている画素値変換パラメタ1020と混合比率パラメタ1021とに基づいて、幾何補正部312から入力された画像中の各画素に対して画素値を変換して画素値合成部に対して出力するものである。ここで、画素値の変換は区間毎に独立に実施され、区間数に等しい数の画像(以下、「暫定画像」と呼ぶ)が画素値合成部に対して出力される。暫定画像とは、該画像を画像補正装置1000の補正結果としてそのまま出力した場合に、該画像に対応する区間において最適な見え方が得られると期待される画像である。   The pixel value conversion unit 1010 calculates a pixel value for each pixel in the image input from the geometric correction unit 312 based on the pixel value conversion parameter 1020 and the mixture ratio parameter 1021 stored in the parameter storage unit 316. This is converted and output to the pixel value synthesis unit. Here, pixel value conversion is performed independently for each section, and a number of images equal to the number of sections (hereinafter referred to as “provisional images”) are output to the pixel value synthesis unit. The provisional image is an image that is expected to obtain an optimal appearance in a section corresponding to the image when the image is output as it is as a correction result of the image correction apparatus 1000.

画素値合成部1011は、画素値変換部1010から入力された区間数に等しいだけの数の暫定画像を、パラメタ記憶部316に記憶されている混合重みパラメタ1022に基づいて合成し、映像出力部314に対して出力するものである。具体的には、画素毎に、各区間に対応する暫定画像の画素値に各区間の人数を乗算した上ですべての区間の乗算結果を加算し、加算結果を全区間の人数の総和で除算する。   The pixel value synthesizing unit 1011 synthesizes the provisional images as many as the number of sections input from the pixel value converting unit 1010 based on the mixing weight parameter 1022 stored in the parameter storage unit 316, and outputs a video output unit 314 is output. Specifically, for each pixel, the pixel value of the provisional image corresponding to each section is multiplied by the number of people in each section, and the multiplication result of all sections is added, and the addition result is divided by the total number of people in all sections. To do.

以上、本実施形態によれば、混合重みパラメタ1022(あるいはこの一部)のみを画像補正部に送信するだけで第2の実施形態と類似の処理を実現することができる。このため、データ転送コストも考慮した場合、すなわち、パラメタ設定部315を介したデータ転送が画像補正装置内のデータ転送に比べて遅い場合に、第2の実施形態に比べてさらに低いコストで観客が感じる映像の品質を向上させることができる。   As described above, according to the present embodiment, processing similar to that of the second embodiment can be realized by only transmitting the mixture weight parameter 1022 (or a part thereof) to the image correction unit. For this reason, when the data transfer cost is also taken into consideration, that is, when the data transfer via the parameter setting unit 315 is slower than the data transfer in the image correction apparatus, the audience can be reduced at a lower cost than the second embodiment. Can improve video quality.

次に、第4の実施形態について説明する。本実施形態は、映画館や会議室等、観客の分布が2次元的な広がりを持つような映像表示システムに適用する場合に好適である。また、観客の重要度に座席の価格などに応じた優劣があり、各々の観客に前記重要度の優劣に見合った品質の映像を提供するような映像表示システムを構築する場合に特に好適である。   Next, a fourth embodiment will be described. The present embodiment is suitable for application to a video display system such as a movie theater or a conference room where the audience distribution has a two-dimensional spread. Also, it is particularly suitable when constructing a video display system in which the importance level of the audience has superiority or inferiority according to the price of the seat, etc., and each of the audiences is provided with a video having a quality commensurate with the importance level. .

図11は、本実施形態の映像表示システムを説明する図である。本実施形態では、あらかじめ調整位置1100−1乃至1100−4のそれぞれにおいて綺麗に見えるような画素値変換パラメタを生成しておき、それら4つの画素値変換パラメタを、観客の分布に応じて混合して使用する。観客の分布が2次元的な広がりを持つことが想定される場合には、図示されているように、調整位置1100の分布も、想定される観客の分布を概ね覆うように2次元に分布させることが望ましい。   FIG. 11 is a diagram for explaining the video display system of the present embodiment. In the present embodiment, pixel value conversion parameters that can be clearly seen at each of the adjustment positions 1100-1 to 1100-4 are generated in advance, and these four pixel value conversion parameters are mixed according to the audience distribution. To use. When the audience distribution is assumed to have a two-dimensional spread, as shown in the figure, the distribution of the adjustment position 1100 is also two-dimensionally distributed so as to substantially cover the assumed audience distribution. It is desirable.

斜線を付した座席1120は特別席であり、他の座席1121は一般席である。特別席の鑑賞券は、通常、一般席の鑑賞券に比べて高い価格で販売されるため、それに見合った映像品質が要求される。本実施形態では、特別席の観客に、一般席の観客に比べて高品質な映像を提供する。   The hatched seat 1120 is a special seat, and the other seats 1121 are general seats. Special appreciation tickets are usually sold at a higher price than regular seat appreciation tickets, and therefore image quality corresponding to them is required. In the present embodiment, a high-quality image is provided to the special seat audience as compared to the general seat audience.

図12は、映像表示システムの詳細を説明する図である。なお、図において図2に示される部分と同一部分については同一符号を付してその説明を省略する。   FIG. 12 is a diagram for explaining the details of the video display system. In the figure, the same parts as those shown in FIG.

本実施形態の映像表示システムは、映像生成装置200、映像補正装置1210、プロジェクタ220、およびスクリーン110を備え、映像生成装置200で生成した映像を映像補正装置1210で補正し、補正後の映像データをプロジェクタ220からスクリーン110上に投映することにより、観客に対して映像を提供する。   The video display system of the present embodiment includes a video generation device 200, a video correction device 1210, a projector 220, and a screen 110. The video generated by the video generation device 200 is corrected by the video correction device 1210, and the corrected video data Is projected from the projector 220 onto the screen 110, thereby providing an image to the audience.

映像補正装置1210は、演算処理装置211、主記憶装置213、外部記憶装置214、画像補正部215、およびデータ通信装置1260を備える。   The video correction device 1210 includes an arithmetic processing device 211, a main storage device 213, an external storage device 214, an image correction unit 215, and a data communication device 1260.

主記憶装置213には、演算処理装置211によって外部記憶装置214から読み込まれるプログラムやデータの他、観客分布データ1231を一時的に格納する。観客分布データ1231は、観客の人数と各々の観客の座席情報とで構成され、パラメタ更新プログラム1242の実行時に、各座席の発券情報を図示しない(外部の)鑑賞券発券システム等の管理するデータベースからデータ通信装置1260を介して読み込むことにより更新する。   The main storage device 213 temporarily stores audience distribution data 1231 in addition to programs and data read from the external storage device 214 by the arithmetic processing unit 211. Audience distribution data 1231 is composed of the number of spectators and seat information of each spectator. When executing the parameter update program 1242, a database managed by an (external) appreciation ticket issuing system or the like not shown in the drawing. To update by reading from the data communication device 1260.

外部記憶装置214には、パラメタ初期化プログラム241、パラメタ更新プログラム1242、設計データ1243、調整済み幾何補正パラメタデータ244、調整済み画素値変換パラメタデータ245を格納する。   The external storage device 214 stores a parameter initialization program 241, a parameter update program 1242, design data 1243, adjusted geometric correction parameter data 244, and adjusted pixel value conversion parameter data 245.

設計データ1243は、各調整位置の座標、各座席の座標、および各座席の重要度を含むデータである。各座席の重要度は、システム管理者がシステム運営方針(鑑賞券の価格差を重要度にどの程度反映させるか)に従ってあらかじめ定めたものを格納する。   The design data 1243 is data including coordinates of each adjustment position, coordinates of each seat, and importance of each seat. The importance of each seat is stored in advance by the system administrator according to the system management policy (how much the price difference of appreciation tickets is reflected in the importance).

パラメタ更新プログラム1242は、各回の上映毎に繰り返し実行されるものであり、第1の実施形態におけるパラメタ更新プログラム242(図5)と同様の処理フローである。   The parameter update program 1242 is repeatedly executed for each screening, and has the same processing flow as the parameter update program 242 (FIG. 5) in the first embodiment.

たとえば、観客分布データ読み込み処理(S501)は、各座席の販売状況データを、外部の鑑賞券発券システム等の管理するデータベースからデータ通信装置1260を使用してネットワーク経由で読み込むことにより実施する。   For example, the audience distribution data reading process (S501) is performed by reading the sales status data of each seat from a database managed by an external appreciation ticket issuing system or the like using the data communication device 1260 via the network.

パラメタ合成処理(S502)は、前記(5)式および(6)式に基づいて実施する。このとき、区間sを座席sに読み替え、ρ(s)を座席sの重要度と読み替え、さらに「Wx(Yx,Ys)=1」として実施する。ただし、座席sの鑑賞券が発券されていない場合には、座席sの重要度を0として扱う。なお、「Wx(Yx,Ys)=1」とするのは、本実施形態のような用途においては各座席の観客は映像全体を視野に入れているため、画素位置に依存して重み値を変化させるのは適切でないと考えられるためであり、必要に応じてWx(Yx,Ys)の値を他の実施形態と同様に画素毎・座席毎に個別の値とすることは可能である。   The parameter synthesizing process (S502) is performed based on the expressions (5) and (6). At this time, the section s is read as the seat s, ρ (s) is read as the importance of the seat s, and further, “Wx (Yx, Ys) = 1” is executed. However, when the appreciation ticket for seat s has not been issued, the importance of seat s is treated as zero. Note that “Wx (Yx, Ys) = 1” is set because the audience in each seat is viewing the entire video in the application as in the present embodiment, and the weight value depends on the pixel position. This is because it is considered that it is not appropriate to change the value, and the value of Wx (Yx, Ys) can be set to an individual value for each pixel and for each seat, as in the other embodiments, as necessary.

以上、本実施形態によれば、観客の分布が2次元的な広がりを持っており、観客毎に重要度に差がある場合にも、前記重要度を反映させつつ、低いコストで観客が感じる映像の品質を向上させることができる。   As described above, according to the present embodiment, even when the audience distribution has a two-dimensional spread and there is a difference in importance for each audience, the audience feels at a low cost while reflecting the importance. Video quality can be improved.

なお、パラメタ更新プログラム1242は、発券状況の変化に依存して実行するようにしてもよい。また、We(Yp,Ys)の計算方法に関しては、例えば、調整位置1100−1乃至1100−4を母点として2次元空間をドロネー三角形分割し、各座席に対して該座席を含む三角形の頂点にあたる調整位置のみを使って線形補間によって算出する等、他の方法によって実施してもよい。   The parameter update program 1242 may be executed depending on a change in the ticketing situation. As for the calculation method of We (Yp, Ys), for example, a two-dimensional space is divided into Delaunay triangles using the adjustment positions 1100-1 to 1100-4 as a generating point, and a vertex of a triangle including the seat for each seat For example, the calculation may be performed by other methods such as calculating by linear interpolation using only the adjustment position.

また、本実施例においては、あらかじめ位置と重要度とが固定されている座席に対して各座席の販売状況データに基づいてパラメタ合成処理を実施したが、これに限るものではない。例えば、イベント会場に設置された映像表示システムであれば、各々の観客に渡された名札等に付属させた無線タグを読み込むことによって個人を識別し、各々の観客の位置と重要度とを検出した上で、検出された位置と重要度とに基づいてパラメタ合成処理を実施するようにしてもよい。   In the present embodiment, the parameter composition processing is performed on the seats whose position and importance are fixed in advance based on the sales status data of each seat. However, the present invention is not limited to this. For example, in the case of a video display system installed at an event venue, an individual is identified by reading a wireless tag attached to a name tag given to each spectator, and the position and importance of each spectator are detected. In addition, the parameter synthesis process may be performed based on the detected position and importance.

次に、第5の実施形態について説明する。本実施形態は、光線再生方式の映像表示システムの調整に適用する場合に好適である。ここで、光線再生方式の映像表示システムは、裸眼立体視等の用途で広く利用されている公知の技術である。   Next, a fifth embodiment will be described. The present embodiment is suitable for application to adjustment of a light reproduction type video display system. Here, the image display system of the light beam reproduction system is a known technique that is widely used in applications such as autostereoscopic viewing.

本実施形態では、映像表示装置として、光線再生方式の一方式であるインテグラルフォトグラフィ技術を用いた装置を使用する。インテグラルフォトグラフィ技術においては、光線制御子として、レンズアレイを使用する。まず、前記装置の概要を図13および図14を用いて説明した後に、図15〜図17で本実施形態について説明する。   In the present embodiment, an apparatus using an integral photography technique, which is one method of light beam reproduction, is used as an image display apparatus. In the integral photography technology, a lens array is used as a light controller. First, the outline of the apparatus will be described with reference to FIGS. 13 and 14, and then the present embodiment will be described with reference to FIGS.

図13および図14は、それぞれ、本実施形態の映像表示装置の映像表示方法を説明するための側面図および平面図である。   13 and 14 are a side view and a plan view, respectively, for explaining the video display method of the video display device of the present embodiment.

図13において、観客は、映像表示面1310に表示された映像を、レンズアレイ1320を通して鑑賞する。このときの映像の見え方は、次のようになる。   In FIG. 13, the spectator views the video displayed on the video display surface 1310 through the lens array 1320. At this time, the image is viewed as follows.

図14において、各々の矩形は映像表示面1310上の画素を示し、各々の円はレンズアレイ1320上のレンズを示している。各々のレンズには、映像表示面1310上の担当する領域が決められており、観客には、各レンズの位置に、該レンズが担当する領域のうちの1点が見える。各々のレンズに関して、担当領域中のどの位置が見えるかは、観客の鑑賞位置に依存して光学的に決定される。例えば、レンズ1421の担当領域は縦4画素×横4画素から成る矩形領域1411であり、ある鑑賞位置からは、レンズ1421の位置に、斜線を付した画素1412があるように見える。なお、各鑑賞位置に対して各々のレンズの位置に前記レンズの担当領域中のどの位置が見えるかは設計値から計算によって求めることができる。その際、図14の斜線で示すように、各々の担当領域中で相対的に同一位置が見えるとは限らないため、各々のレンズに対して計算を行うことが必要である。   In FIG. 14, each rectangle represents a pixel on the video display surface 1310, and each circle represents a lens on the lens array 1320. For each lens, a region in charge on the video display surface 1310 is determined, and the audience can see one of the regions in charge of the lens at the position of each lens. For each lens, which position in the assigned area is visible is optically determined depending on the viewing position of the audience. For example, the area in charge of the lens 1421 is a rectangular area 1411 composed of 4 vertical pixels × 4 horizontal pixels, and from a certain viewing position, it appears that there is a hatched pixel 1412 at the position of the lens 1421. Note that it is possible to calculate from the design value which position in the assigned region of the lens is visible at each lens position with respect to each viewing position. At that time, as indicated by the hatched lines in FIG. 14, it is not always possible to see the same position in each assigned region, and therefore it is necessary to perform calculation for each lens.

図15は、本実施形態の映像表示システムおよびその調整システムを説明する図である。なお、図において図2に示される部分と同一部分については同一符号を付してこの説明を省略する。   FIG. 15 is a diagram illustrating a video display system and an adjustment system thereof according to the present embodiment. In the figure, the same parts as those shown in FIG.

本実施形態の映像表示システムは、映像生成装置1500、画像補正装置1510、映像表示装置1520を備え、映像生成装置1500で生成した映像を、画像補正装置1510で画素値変換パラメタ1511に基づいて補正し、補正後の映像データを映像表示装置1520で表示することにより、観客に対して映像を提供するものである。   The video display system according to this embodiment includes a video generation device 1500, an image correction device 1510, and a video display device 1520. The video generated by the video generation device 1500 is corrected based on the pixel value conversion parameter 1511 by the image correction device 1510. Then, the corrected video data is displayed on the video display device 1520 to provide video to the audience.

また、本実施形態の調整システムは、パラメタ生成装置1550、撮影装置1560、撮影条件制御装置1570を備え、画像補正装置1510内の画素値変換パラメタ1511を変更しながら、映像表示装置1520で表示された映像を撮影した撮影画像データに基づき、映像表示システムで良好な映像を表示するのに適した画素値変換パラメタ1511を生成するものである。   Further, the adjustment system of the present embodiment includes a parameter generation device 1550, a photographing device 1560, and a photographing condition control device 1570, and is displayed on the video display device 1520 while changing the pixel value conversion parameter 1511 in the image correction device 1510. A pixel value conversion parameter 1511 suitable for displaying a good video on the video display system is generated based on the captured image data obtained by shooting the video.

映像生成装置1500は、映像表示装置1520を用いて表示するのに好適な1チャンネル分の映像を生成して、画像補正装置1510に供給する。例えば、DVDプレイヤーを用いてDVDメディアに記録された所定の映像を供給するようにしてもよいし、PCを用いてインタラクティブなコンテンツ映像を供給するようにしてもよいが、これらの例に限るものではない。   The video generation device 1500 generates video for one channel suitable for display using the video display device 1520 and supplies the video to the image correction device 1510. For example, a predetermined video recorded on a DVD medium may be supplied using a DVD player, or an interactive content video may be supplied using a PC. However, the present invention is not limited to these examples. is not.

画像補正装置1510は、画像補正装置300(図3)からフレームメモリ311と幾何補正部312を取り除いたものである。すなわち、幾何補正機能を備えないため、パラメタ記憶部316に幾何補正パラメタ322を格納する必要もない。なお、本実施形態の映像表示システムにおいて、画像補正装置1510の代わりに画像補正装置300を用いてもよいことは言うまでもない。   The image correction device 1510 is obtained by removing the frame memory 311 and the geometric correction unit 312 from the image correction device 300 (FIG. 3). That is, since the geometric correction function is not provided, it is not necessary to store the geometric correction parameter 322 in the parameter storage unit 316. Needless to say, the image correction apparatus 300 may be used in place of the image correction apparatus 1510 in the video display system of the present embodiment.

映像表示装置1520は光線再生方式の映像表示装置であり、本実施形態では、画像補正装置1510から送信された画像データを表示する映像表示面1310と、レンズアレイ1320を備える。なお、レンズアレイを備えたシステムへの適用に限定されるものではなく、例えば、レンチキュラーレンズを備えた映像表示システムなど、他の光線再生方式の映像表示システムに対しても適用可能である。   The video display device 1520 is a light reproduction type video display device, and in this embodiment, includes a video display surface 1310 for displaying image data transmitted from the image correction device 1510 and a lens array 1320. The present invention is not limited to application to a system including a lens array, and can be applied to other light reproduction type image display systems such as an image display system including a lenticular lens.

パラメタ生成装置1550は、演算処理装置211、主記憶装置213、外部記憶装置214、画像補正制御部1551、撮影制御部1552、および撮影条件制御部1553を備える。主記憶装置213には演算処理装置211によって外部記憶装置214から読み込まれるプログラムやデータを一時的に格納する。   The parameter generation device 1550 includes an arithmetic processing device 211, a main storage device 213, an external storage device 214, an image correction control unit 1551, a shooting control unit 1552, and a shooting condition control unit 1553. The main storage device 213 temporarily stores programs and data read from the external storage device 214 by the arithmetic processing unit 211.

外部記憶装置214には、パラメタ生成プログラム1541、パラメタ調整プログラム1542、パターン表示プログラム1543、撮影条件制御プログラム1544、設計データ1545、調整用パターンデータ1546、座標対応データ1547、および調整済み画素値変換パラメタデータ1548を格納する。   The external storage device 214 includes a parameter generation program 1541, a parameter adjustment program 1542, a pattern display program 1543, an imaging condition control program 1544, design data 1545, adjustment pattern data 1546, coordinate correspondence data 1547, and adjusted pixel value conversion parameters. Data 1548 is stored.

パラメタ生成プログラム1541は、調整システムの起動を契機に開始され、映像表示システムで使用するに適した画素値変換パラメタを生成して画像補正装置1510に設定するプログラムである。該プログラムの詳細は後述(図16)する。   The parameter generation program 1541 is a program that is started when the adjustment system is started, generates a pixel value conversion parameter suitable for use in the video display system, and sets it in the image correction apparatus 1510. Details of the program will be described later (FIG. 16).

パラメタ調整プログラム1542は、パラメタ生成プログラム1541の実行中に呼び出されるプログラムであり、調整済み画素値変換パラメタデータ1548を生成するものである。該プログラムの詳細は後述(図17)する。   The parameter adjustment program 1542 is a program that is called during the execution of the parameter generation program 1541, and generates adjusted pixel value conversion parameter data 1548. Details of the program will be described later (FIG. 17).

パターン表示プログラム1543は、該プログラムの入力として、あるパターン画像データが与えられた時に、入力された映像に依存せずに画像補正装置1510が前記パターン画像データに現在処理対象としている調整済み画素値変換パラメタを施した結果を出力するような画素値変換パラメタを生成して、画像補正装置1510に設定するプログラムである。具体的には、画素毎に独立に、現在処理対象としている調整済み画素値変換パラメタに基づく変換結果を算出し、すべての入力画素値に対して該変換結果が出力画素値となるような画素値変換パラメタを生成し設定する。   The pattern display program 1543, when given pattern image data is input as the program, the adjusted pixel value that the image correction apparatus 1510 is currently subject to processing to the pattern image data without depending on the input video. This is a program that generates a pixel value conversion parameter that outputs a result of applying the conversion parameter, and sets it in the image correction apparatus 1510. Specifically, a pixel for which a conversion result based on the adjusted pixel value conversion parameter currently being processed is calculated independently for each pixel, and the conversion result is an output pixel value for all input pixel values. Generate and set value conversion parameters.

撮影条件制御プログラム1544は、演算処理装置211が撮影条件制御部1553を介して撮影条件制御装置1570の制御を行うために使用するプログラムであり、位置と姿勢を規定するための6つのパラメタから、撮影条件制御装置1570を制御するための制御コマンドを生成するものである。   The shooting condition control program 1544 is a program used by the arithmetic processing unit 211 to control the shooting condition control device 1570 via the shooting condition control unit 1553. From the six parameters for defining the position and orientation, A control command for controlling the photographing condition control device 1570 is generated.

設計データ1545には、あらかじめ設計値として決めたデータが格納される。本実施形態では、調整ポイント(=撮影を行う位置)の数、映像表示面1310上の各々の画素に対応する該画素の担当する光線方向を表す方向ベクトル(大きさが1になるように正規化されている)、同じく各々の画素に対応する該画素の担当であるレンズの識別子と、各々のレンズに対応する各調整ポイントの方向を表す方向ベクトル(大きさが1になるように正規化されている)、ならびに各々の調整ポイントに対応する撮影装置1560の位置および姿勢を制御するための情報とを含むように構成する。   The design data 1545 stores data determined in advance as design values. In the present embodiment, the number of adjustment points (= the position where the image is taken), the direction vector representing the direction of the light ray assigned to each pixel corresponding to each pixel on the image display surface 1310 (regular so that the magnitude is 1). Similarly, the identifier of the lens that is in charge of the pixel corresponding to each pixel and the direction vector (normalized so that the size is 1) indicating the direction of each adjustment point corresponding to each lens And information for controlling the position and orientation of the photographing apparatus 1560 corresponding to each adjustment point.

調整用パターンデータ1546には、パラメタ調整プログラムにおいて使用される、複数枚の調整用パターン画像データが格納されている。具体的には、グレイコードパターン等、図17のパラメタ調整処理における座標対応データ生成処理(S1703)およびフィードバック調整処理(S1704)で使用する画像データを含むように構成する。   The adjustment pattern data 1546 stores a plurality of adjustment pattern image data used in the parameter adjustment program. Specifically, it is configured to include image data used in the coordinate correspondence data generation process (S1703) and feedback adjustment process (S1704) in the parameter adjustment process of FIG. 17, such as a gray code pattern.

座標対応データ1547は、映像表示面1310上の座標値と撮影装置1560で撮影した撮影画像データ上の座標値との対応関係を表現したデータであり、パラメタ調整プログラム1542の実行時に生成されて格納される。   The coordinate correspondence data 1547 is data representing the correspondence between the coordinate values on the video display surface 1310 and the coordinate values on the photographed image data photographed by the photographing device 1560, and is generated and stored when the parameter adjustment program 1542 is executed. Is done.

調整済み画素値変換パラメタデータ1548は、複数の調整済み画素値変換パラメタの集合体であり、個々の調整済み画素値変換パラメタは、複数の調整ポイントのいずれかに対応し、当該調整ポイントで鑑賞した場合に良好な映像が見られる画素値変換パラメタである。調整済み画素値変換パラメタデータ1548は、パラメタ調整プログラム1542の実行時に生成されて、格納される。本実施形態では、各々の調整済み画素値変換パラメタの初期値は恒等変換パラメタとするが、2回目以降の調整では、前回の調整結果をそのまま使用するようにしてもよい。   The adjusted pixel value conversion parameter data 1548 is an aggregate of a plurality of adjusted pixel value conversion parameters, and each adjusted pixel value conversion parameter corresponds to one of the plurality of adjustment points and is viewed at the adjustment point. In this case, the pixel value conversion parameter allows a good video to be seen. The adjusted pixel value conversion parameter data 1548 is generated and stored when the parameter adjustment program 1542 is executed. In this embodiment, the initial value of each adjusted pixel value conversion parameter is the identity conversion parameter. However, in the second and subsequent adjustments, the previous adjustment result may be used as it is.

画像補正制御部1551は、演算処理装置211の指示に従い、画像補正装置1510に画素値変換パラメタ1511を格納する処理を行う。画像補正装置1510との間のデータ送受信のインタフェースとしては、画像補正装置1510側に合わせたものを使用する。また、映像表示システムが調整システムを常時備えるような構成とする場合には、画像補正制御部1551を備えた構成とせずに、画像補正装置1510をパラメタ生成装置1550のデータバスに直接接続するような構成としてもよい。   The image correction control unit 1551 performs processing for storing the pixel value conversion parameter 1511 in the image correction device 1510 in accordance with an instruction from the arithmetic processing device 211. As an interface for data transmission / reception with the image correction apparatus 1510, an interface suitable for the image correction apparatus 1510 is used. Further, when the video display system is configured to always include the adjustment system, the image correction device 1510 is directly connected to the data bus of the parameter generation device 1550 without using the configuration including the image correction control unit 1551. It is good also as a simple structure.

撮影制御部1552は、演算処理装置211の指示に従い、撮影装置1560に制御コマンドを送信することで、撮影装置1560の制御を行う。また、撮影装置1560から送信された撮影画像データを受信し、演算処理装置211の指示に従って、主記憶装置213または外部記憶装置214に格納する処理を行う。撮影装置1560との間の制御コマンドや撮影画像データの送受信のためのインタフェースとしては、USBインタフェースやIEEE1394インタフェース等、撮影装置1560側のインタフェースに合わせたものを使用する。   The imaging control unit 1552 controls the imaging device 1560 by transmitting a control command to the imaging device 1560 in accordance with an instruction from the arithmetic processing device 211. In addition, the captured image data transmitted from the imaging device 1560 is received and stored in the main storage device 213 or the external storage device 214 in accordance with an instruction from the arithmetic processing device 211. As an interface for transmitting / receiving control commands and captured image data to / from the image capturing apparatus 1560, an interface suitable for an interface on the image capturing apparatus 1560 side, such as a USB interface or an IEEE1394 interface, is used.

撮影条件制御部1553は、演算処理装置211の指示に従い、撮影条件制御装置1570に制御コマンドを送信することで撮影条件制御装置1570の制御を行う。撮影条件制御装置1570との間の制御コマンドの送受信のためのインタフェースとしては、RS−232Cインタフェース等、撮影条件制御装置1570側のインタフェースに合わせたものを使用する。   The shooting condition control unit 1553 controls the shooting condition control device 1570 by transmitting a control command to the shooting condition control device 1570 in accordance with an instruction from the arithmetic processing device 211. As an interface for transmitting and receiving control commands to and from the imaging condition control device 1570, an interface suitable for an interface on the imaging condition control device 1570 side, such as an RS-232C interface, is used.

撮影装置1560は、例えばデジタルカメラであり、撮影制御部1552から送信された制御コマンドによって、露出の設定、被写体の撮影、および撮影した画像データの送信を行う機能を備えたものである。撮影制御部1552との間の制御コマンドや撮影画像データの授受のためのインタフェースとしては、USBインタフェースや、IEEE1394インタフェース等、既存のインタフェースを使用することができる。   The photographing apparatus 1560 is, for example, a digital camera, and has functions of setting exposure, photographing a subject, and transmitting photographed image data according to a control command transmitted from the photographing control unit 1552. An existing interface such as a USB interface or an IEEE 1394 interface can be used as an interface for exchanging control commands and captured image data with the imaging control unit 1552.

撮影条件制御装置1570は、例えばロボットハンドであり、撮影装置1560を保持し、撮影条件制御部1553から送信された制御コマンドによって、撮影装置1560の位置と姿勢を制御する。撮影条件制御部1553との間の制御コマンドの送受信のためのインタフェースとしては、RS−232Cインタフェース等、既存のインタフェースを使用することができる。   The imaging condition control device 1570 is, for example, a robot hand, holds the imaging device 1560, and controls the position and orientation of the imaging device 1560 by a control command transmitted from the imaging condition control unit 1553. An existing interface such as an RS-232C interface can be used as an interface for transmitting and receiving control commands to and from the imaging condition control unit 1553.

図16は、本実施形態のパラメタ生成プログラム1541の処理を説明する図である。   FIG. 16 is a diagram for explaining the processing of the parameter generation program 1541 of this embodiment.

パラメタ生成処理は、まず最初にパラメタ調整処理を行って調整済み画素値変換パラメタデータ1548を生成し(S1601)、次に、パラメタ合成処理(S1602)において、各々の画素毎に、パラメタ調整処理(S1601)で生成した調整済み画素値変換パラメタデータ1548に基づいて画素値変換パラメタを生成し、生成された画素値変換パラメタを画像補正装置1510に画素値変換パラメタ1511として設定する処理である。なお、パラメタ調整処理(S1601)の処理の詳細は後述(図17)する。   In the parameter generation process, first, the parameter adjustment process is performed to generate adjusted pixel value conversion parameter data 1548 (S1601). Next, in the parameter synthesis process (S1602), the parameter adjustment process (S1602) is performed for each pixel. In this process, a pixel value conversion parameter is generated based on the adjusted pixel value conversion parameter data 1548 generated in step S1601), and the generated pixel value conversion parameter is set as the pixel value conversion parameter 1511 in the image correction device 1510. Details of the parameter adjustment process (S1601) will be described later (FIG. 17).

パラメタ合成処理(S1602)では、各々の画素に対して、該画素の担当する方向と、該画素の担当となっているレンズに対して各調整ポイントがどの方向にあるかの情報から、各調整ポイントに対応する重み値を決定し、該重み値に基づいて各々の調整済み画素値変換パラメタの当該画素に対応するパラメタ値(ベクトル値)の重み付き平均をとって当該画素の画素値変換パラメタとする。重み値の決定方法は、例えば、前記担当方向と調整ポイントの方向とのそれぞれを表現する方向ベクトル同士の内積の値を使用すればよい。生成した前記画素値変換パラメタは、画像補正装置1510に画素値変換パラメタ1511として格納する。なお、実際の撮影装置1560の位置が各々の調整ポイントの位置と厳密に一致しない場合にも、各レンズに対する各調整ポイントの方向については設計値をこのまま使用して近似計算すればよいが、座標対応データ1547と設計値から正しい位置を推定して使用するようにしてもよい。   In the parameter composition process (S1602), for each pixel, each adjustment is determined based on the direction in which the pixel is assigned and the direction in which each adjustment point is with respect to the lens in charge of the pixel. A weight value corresponding to the point is determined, and based on the weight value, a weighted average of the parameter values (vector values) corresponding to the pixels of each adjusted pixel value conversion parameter is taken, and the pixel value conversion parameter of the pixel And As a method for determining the weight value, for example, a value of an inner product between the direction vectors expressing the assigned direction and the direction of the adjustment point may be used. The generated pixel value conversion parameter is stored in the image correction apparatus 1510 as the pixel value conversion parameter 1511. Even when the actual position of the photographing apparatus 1560 does not exactly match the position of each adjustment point, the direction of each adjustment point with respect to each lens may be approximated using the design value as it is. The correct position may be estimated from the correspondence data 1547 and the design value and used.

図17は、本実施形態のパラメタ調整プログラム1542の処理を説明する図である。   FIG. 17 is a diagram for explaining processing of the parameter adjustment program 1542 of the present embodiment.

パラメタ調整処理が開始されると、まず、調整ポイントのシリアル番号であるNを0に初期化し(S1701)、次に、第N番目の調整ポイントに対して、撮影条件制御処理を行う(S1702)。撮影条件制御処理(S1702)は、設計データ1545で規定されている設計値に基づいて、撮影装置1560の位置と姿勢とを第N番目の調整ポイントに対応する位置と姿勢に合致するように制御する処理である。前記処理(S1702)は、演算処理装置211が撮影条件制御プログラム1544を使用して撮影条件制御部1533を介して撮影条件制御装置1570を制御することによって実施する。なお、前記制御は設計値に基づいて為されればよく、各装置の設置誤差等がある場合にも、制御後の映像表示装置1520と撮影装置1560の相対的な位置関係を厳密に理想的な条件に合わせる必要はない。   When parameter adjustment processing is started, first, N, which is the serial number of the adjustment point, is initialized to 0 (S1701), and then shooting condition control processing is performed for the Nth adjustment point (S1702). . The imaging condition control process (S1702) controls the position and orientation of the imaging device 1560 so as to match the position and orientation corresponding to the Nth adjustment point based on the design values defined in the design data 1545. It is processing to do. The processing (S1702) is performed by the arithmetic processing unit 211 controlling the photographing condition control device 1570 via the photographing condition control unit 1533 using the photographing condition control program 1544. Note that the control may be performed based on design values, and the relative positional relationship between the video display device 1520 and the imaging device 1560 after the control is strictly ideal even when there is an installation error of each device. It is not necessary to meet the specific conditions.

次に、座標対応データ生成処理(S1703)を行う。この処理は、撮影位置から見えている映像表示面1310上の座標値と、撮影装置1560で撮影した撮影画像データ上の座標値との対応関係を求めるものである。これは例えば、グレイコード(交番2進コード)と呼ばれる複数枚のパターン画像データ(縞の幅が異なる複数枚の縦縞および横縞の画像データを1セットにしたもの)の組を、パターン表示プログラム1543を繰り返し使用することによって映像表示装置1520で順次表示し、それらを撮影装置1560で順次撮影した撮影画像データに基づいて求めることができる。この方法は「空間コード化法」と呼ばれる方法であり、「井口征士,佐藤宏介,3次元画像計測,昭晃堂,東京,1990,pp.80−91」等に記載のある公知の技術である。なお、座標対応データ生成処理(S1703)おいて使用されるパターン画像データは、調整用パターンデータ1546の中に格納しておく。   Next, coordinate corresponding data generation processing (S1703) is performed. In this process, the correspondence between the coordinate value on the video display surface 1310 seen from the photographing position and the coordinate value on the photographed image data photographed by the photographing device 1560 is obtained. For example, a pattern display program 1543 is a group of a plurality of pattern image data called gray code (alternating binary code) (a set of image data of a plurality of vertical stripes and horizontal stripes having different stripe widths). Are repeatedly displayed on the video display device 1520, and they can be obtained based on the captured image data sequentially captured by the photographing device 1560. This method is a method called “spatial coding method”, which is a known technique described in “Seiji Iguchi, Kosuke Sato, 3D image measurement, Shosodo, Tokyo, 1990, pp. 80-91”. is there. Note that the pattern image data used in the coordinate correspondence data generation process (S1703) is stored in the adjustment pattern data 1546.

次に、フィードバック調整処理を行う(S1704)。フィードバック調整処理(S1704)においては、同一のレンズが担当する複数の画素を同一視して、フィードバック調整を実施する。すなわち、同一のレンズが担当する複数の画素のうち実際に撮影されている画素は1画素だけであるが、誤差の影響を低減するため、同一のレンズが担当する複数の画素に対応する画素値変換パラメタに関しては、フィードバック調整処理(S1704)の実行中は常に互いに同じ変化をするように構成する。なお、具体的なフィードバック調整の方法に関しては、例えば、特願2006−24627号記載の方法を用いることができる。   Next, feedback adjustment processing is performed (S1704). In the feedback adjustment process (S1704), feedback adjustment is performed by equating a plurality of pixels handled by the same lens. In other words, although only one pixel is actually photographed among a plurality of pixels in charge of the same lens, pixel values corresponding to a plurality of pixels in charge of the same lens in order to reduce the influence of errors. The conversion parameter is configured to always change in the same manner during the execution of the feedback adjustment process (S1704). For a specific feedback adjustment method, for example, the method described in Japanese Patent Application No. 2006-24627 can be used.

次に、パラメタ補完処理を行う(S1705)。パラメタ補完処理(S1705)は、フィードバック調整処理(S1704)の結果生成された画素値変換パラメタに対して、座標対応データ生成処理(S1703)により撮影画像データとの座標値の対応関係が求まっている画素に対応する画素値変換パラメタに基づいて、その他の画素の画素値変換パラメタを再構成し、再構成後の画素値変換パラメタを、調整済み画素値変換パラメタデータ1548の第N番目の調整ポイントに対応する調整済み画素値変換パラメタとして格納する処理である。なお、前記再構成処理は、既存の内挿処理および外挿処理によって実施すればよい。   Next, parameter complement processing is performed (S1705). In the parameter complementing process (S1705), for the pixel value conversion parameter generated as a result of the feedback adjustment process (S1704), the correspondence relationship of the coordinate values with the captured image data is obtained by the coordinate corresponding data generation process (S1703). Based on the pixel value conversion parameter corresponding to the pixel, the pixel value conversion parameter of the other pixel is reconfigured, and the reconfigured pixel value conversion parameter is used as the Nth adjustment point of the adjusted pixel value conversion parameter data 1548. Is stored as an adjusted pixel value conversion parameter corresponding to. The reconstruction processing may be performed by existing interpolation processing and extrapolation processing.

パラメタ補完処理(S1705)の終了後、調整が必要なすべての調整ポイントについて調整が完了したか否かを判定する(S1706)。まだ調整が完了していない調整ポイントがある場合には、調整ポイントのシリアル番号であるNを「1」だけ増やし(S1707)、撮影条件制御処理(S1702)に戻って処理を続ける。すべての調整ポイントについて調整が完了している場合には、パラメタ調整処理を終了する。   After completion of the parameter complementing process (S1705), it is determined whether or not adjustment has been completed for all adjustment points that need to be adjusted (S1706). If there is an adjustment point for which adjustment has not yet been completed, N, which is the serial number of the adjustment point, is incremented by “1” (S1707), and the process returns to the shooting condition control process (S1702) to continue the process. If the adjustment has been completed for all the adjustment points, the parameter adjustment process is terminated.

以上説明したように、本実施形態によれば、光線再生方式の映像表示システムを使用する場合に、数多の視点位置において良好に鑑賞できる映像を、数箇所の調整ポイントにおける調整によって提供することができる。   As described above, according to the present embodiment, when a light reproduction type image display system is used, an image that can be satisfactorily viewed at many viewpoint positions is provided by adjustment at several adjustment points. Can do.

なお、本実施形態では、撮影装置1560の位置や姿勢を撮影条件制御装置1570で制御しながら撮影したデータに基づいて調整を行ったが、この制御部分を、複数の撮影装置を備えることで代えることも可能である。すなわち、調整が必要な調整ポイントの数に等しい数の撮影装置を備え、設計値に基づいて位置と姿勢を固定した上で、映像表示システムの調整を開始すればよい。その際、複数の撮影装置の特性をできるだけ揃えておくことが望ましいが、本実施形態では複数の調整済み画素値変換パラメタの重み付き平均として画素値変換パラメタを生成しているため、個々の撮影装置の特性に多少のばらつきがある場合でも、破綻することなく調整が可能である。   In this embodiment, the position and orientation of the image capturing device 1560 are adjusted based on data captured while being controlled by the image capturing condition control device 1570. However, this control portion is replaced with a plurality of image capturing devices. It is also possible. That is, it is only necessary to provide the same number of imaging devices as the number of adjustment points that need to be adjusted, fix the position and orientation based on the design values, and then start the adjustment of the video display system. At that time, it is desirable to have the characteristics of the plurality of imaging devices as uniform as possible. However, in this embodiment, the pixel value conversion parameter is generated as a weighted average of the plurality of adjusted pixel value conversion parameters. Even if there is some variation in the characteristics of the device, adjustment is possible without failure.

また、本実施形態では、図17におけるフィードバック調整処理(S1704)において、調整ポイントから見えている画素に対してフィードバック調整による調整を行ったが、個々の調整ポイントにおいては、各レンズを1画素と見立てた映像として扱うことができるため、他の調整方法、例えば特開2002−72359号公報に示される方法などを使用して調整するようにしてもよい。   In the present embodiment, in the feedback adjustment process (S1704) in FIG. 17, the adjustment is performed by feedback adjustment on the pixels that are visible from the adjustment point. However, at each adjustment point, each lens is regarded as one pixel. Since the image can be handled as an image, it can be adjusted using another adjustment method, for example, the method disclosed in Japanese Patent Laid-Open No. 2002-72359.

次に、第6の実施形態について説明する。本実施形態は、小型の光線再生方式の映像表示システムの製造工程における調整フェーズにおいて、ロボットアームによって映像表示システムを運搬し、固定カメラを用いて次々に簡易調整していくような場合など、映像表示システムの簡易調整に適用する場合に好適である。   Next, a sixth embodiment will be described. In this embodiment, the image display system is transported by a robot arm in the adjustment phase in the manufacturing process of a small-sized light reproduction type image display system, and is simply adjusted one after another using a fixed camera. This is suitable when applied to simple adjustment of a display system.

図18は、本実施形態の映像表示システムおよびこの調整システムを説明する図である。なお、図において図15に示される部分と同一部分については同一符号を付してこの説明を省略する。   FIG. 18 is a diagram for explaining the video display system and the adjustment system of the present embodiment. In the figure, the same parts as those shown in FIG. 15 are denoted by the same reference numerals and description thereof is omitted.

本実施形態の調整システムは、パラメタ生成装置1850、撮影装置1560、姿勢制御装置1870を備える。また、パラメタ生成装置1850は、演算処理装置211、主記憶装置213、外部記憶装置214、画像補正制御部1551、撮影制御部1552、姿勢制御部1853を備える。また、外部記憶装置214には、パラメタ生成プログラム1841、パラメタ調整プログラム1842、パターン表示プログラム1543、姿勢制御プログラム1844、設計データ1845、調整用パターンデータ1846、および調整済み画素値変換パラメタデータ1847が格納される。   The adjustment system of this embodiment includes a parameter generation device 1850, a photographing device 1560, and an attitude control device 1870. The parameter generation device 1850 includes an arithmetic processing device 211, a main storage device 213, an external storage device 214, an image correction control unit 1551, an imaging control unit 1552, and an attitude control unit 1853. The external storage device 214 stores a parameter generation program 1841, a parameter adjustment program 1842, a pattern display program 1543, an attitude control program 1844, design data 1845, adjustment pattern data 1846, and adjusted pixel value conversion parameter data 1847. Is done.

パラメタ生成プログラム1841は、パラメタ生成プログラム1541(図15)においてパラメタ調整プログラム1542を使用して行っていたパラメタ調整処理の代わりに、パラメタ調整プログラム1842を使用してパラメタ調整処理を行うようにしたものである。なお、パラメタ調整プログラム1842の処理の詳細は後述(図19)する。   The parameter generation program 1841 performs parameter adjustment processing using the parameter adjustment program 1842 instead of the parameter adjustment processing performed using the parameter adjustment program 1542 in the parameter generation program 1541 (FIG. 15). It is. Details of the process of the parameter adjustment program 1842 will be described later (FIG. 19).

姿勢制御プログラム1844は、演算処理装置211が姿勢制御部1853を介して姿勢制御装置1870の制御を行うために使用するプログラムであり、姿勢を規定するための3つの角度パラメタから、姿勢制御装置1870を制御するための制御コマンドを生成する。   The attitude control program 1844 is a program used by the arithmetic processing unit 211 to control the attitude control apparatus 1870 via the attitude control unit 1853. From the three angle parameters for defining the attitude, the attitude control apparatus 1870 is used. Generate control commands to control

設計データ1845には、あらかじめ設計値として決めたデータが格納される。本実施形態では、調整が必要な調整ポイント(調整に用いる複数の撮影位置)の数、各々の調整ポイントに対応する位置ずれの許容度、各々の調整ポイントに対応する映像表示装置の姿勢を制御するための情報、姿勢の微調整で使用する姿勢制御パラメタの変動範囲および変動間隔、ならびに図19に示す調整要否の判定(S1904)において使用する閾値および撮影画像データ上の部分領域の情報とを含むように構成する。   The design data 1845 stores data determined as design values in advance. In the present embodiment, the number of adjustment points that need to be adjusted (a plurality of shooting positions used for adjustment), the tolerance of misalignment corresponding to each adjustment point, and the attitude of the video display device corresponding to each adjustment point are controlled. Information, the range and interval of the attitude control parameter used in attitude fine adjustment, the threshold used in the determination of necessity of adjustment shown in FIG. 19 (S1904), and information on the partial area on the captured image data Is configured to include.

調整用パターンデータ1846は、パターン表示プログラム1543の入力とするための複数枚の画像データの集合であり、各々の調整ポイント毎に独立に設計値に基づいてあらかじめ生成されたものである。具体的なパターンの特徴は後述(図19)する。   The adjustment pattern data 1846 is a set of a plurality of pieces of image data to be input to the pattern display program 1543, and is generated in advance based on the design value independently for each adjustment point. Specific pattern features will be described later (FIG. 19).

調整済み画素値変換パラメタデータ1847は、複数の調整済み画素値変換パラメタの集合体であり、個々の調整済み画素値変換パラメタは、複数の調整ポイントのいずれかに対応し、対応する調整ポイントで鑑賞した場合に良好な映像が見られる画素値変換パラメタである。調整済み画素値変換パラメタデータ1847は、パラメタ調整プログラム1842の実行時に生成されて、格納される。本実施形態では、各々の調整済み画素値変換パラメタの初期値は恒等変換パラメタであるとするが、2回目以降の調整では、前回の調整結果をそのまま使用するようにしてもよい。なお、本実施形態は映像表示システムの簡易調整に主眼を置いた例であるため、各々の処理は各画素の特性を線形であると近似して実施する。すなわち、各々の調整済みパラメタは1次元ベクトル(R,G,Bの3色で扱う場合には3次元ベクトル)として扱い、入力画素値の最大値に対してのみ、撮影に基づいた調整を行う。   The adjusted pixel value conversion parameter data 1847 is an aggregate of a plurality of adjusted pixel value conversion parameters, and each adjusted pixel value conversion parameter corresponds to one of the plurality of adjustment points, and corresponds to the corresponding adjustment point. This is a pixel value conversion parameter that allows a good image to be seen when viewed. The adjusted pixel value conversion parameter data 1847 is generated and stored when the parameter adjustment program 1842 is executed. In this embodiment, it is assumed that the initial value of each adjusted pixel value conversion parameter is an identity conversion parameter, but in the second and subsequent adjustments, the previous adjustment result may be used as it is. Since the present embodiment is an example that focuses on simple adjustment of the video display system, each processing is performed by approximating that the characteristics of each pixel are linear. In other words, each adjusted parameter is treated as a one-dimensional vector (a three-dimensional vector in the case of handling with three colors of R, G, and B), and only the maximum value of the input pixel value is adjusted based on photographing. .

姿勢制御部1853は、演算処理装置211の指示に基づき、姿勢制御装置1870の動作を制御する。姿勢制御装置1870との間で制御コマンドの送受信に使用するインタフェースとしては、例えば、RS−232Cインタフェース等、姿勢制御装置1870側に合わせたものを使用する。   The posture control unit 1853 controls the operation of the posture control device 1870 based on an instruction from the arithmetic processing device 211. As an interface used for transmission / reception of a control command to / from the attitude control device 1870, for example, an RS232C interface or the like adapted to the attitude control device 1870 side is used.

姿勢制御装置1870は、例えばロボットアームであり、映像表示装置1520を保持し、姿勢制御部1853から送られた制御コマンドに従って映像表示装置1520の姿勢を制御するものである。姿勢制御部1853との間の制御コマンドの送受信に使用するインタフェースとしては、RS−232Cインタフェース等、既存のインタフェースを使用することができる。   The posture control device 1870 is, for example, a robot arm, holds the video display device 1520, and controls the posture of the video display device 1520 according to a control command sent from the posture control unit 1853. An existing interface such as an RS-232C interface can be used as an interface used to transmit and receive control commands to and from the attitude control unit 1853.

図19は、本実施形態のパラメタ調整プログラム1842の処理を説明する図である。パラメタ調整処理が開始されると、まず、調整ポイントのシリアル番号であるNを0に初期化する(S1901)。   FIG. 19 is a diagram illustrating the processing of the parameter adjustment program 1842 of this embodiment. When the parameter adjustment process is started, first, N, which is the serial number of the adjustment point, is initialized to 0 (S1901).

次に、第N番目の調整用パターン表示処理を行う(S1902)。この処理は、第N番目の調整ポイントに対応する現在の調整済み画素値変換パラメタで、第N番目の調整ポイント用の調整用パターンを表示する処理である。ここで、第N番目の調整ポイント用の調整用パターンとは、第N番目の調整ポイントから見た場合には「白」が、それ以外のポイントから見た場合には「黒」が見えるように、黒地に白点を描画したパターンである(このときに「白」が描画されている画素を、以下「第N番目の調整ポイントに対応する制御点」と呼ぶ)。   Next, an Nth adjustment pattern display process is performed (S1902). This process is a process of displaying the adjustment pattern for the Nth adjustment point with the current adjusted pixel value conversion parameter corresponding to the Nth adjustment point. Here, the adjustment pattern for the Nth adjustment point is such that “white” is seen when viewed from the Nth adjustment point, and “black” is seen when viewed from other points. A pattern in which a white point is drawn on a black background (a pixel in which “white” is drawn at this time is hereinafter referred to as a “control point corresponding to the Nth adjustment point”).

調整用パターン表示処理(S1902)は、具体的には、第N番目の調整ポイントに対応する現在の調整済み画素値変換パラメタを格納した画像補正装置1510に第N番目の調整ポイント用の調整パターンが入力された時の画像補正装置1510の出力結果をパターン表示プログラム1543を用いて計算し、任意の入力に対して該計算結果を出力するような画素値変換パラメタを画像補正装置1510に格納する処理である。例えば、画素値変換パラメタとして図4で説明した表現方法のものを用いた場合には、各画素に対して、L0乃至L4がすべて出力したい画素値に等しくなるように設定することで、そのような画素値変換パラメタを生成することができる。なお、白点の大きさに関しては、設計データ1845に格納されている第N番目の調整ポイントに対応する位置ずれの許容度に合わせて決定される値を用いればよい。   Specifically, in the adjustment pattern display process (S1902), the adjustment pattern for the Nth adjustment point is stored in the image correction device 1510 that stores the current adjusted pixel value conversion parameter corresponding to the Nth adjustment point. The output result of the image correction device 1510 when the input is input is calculated using the pattern display program 1543, and a pixel value conversion parameter for outputting the calculation result for any input is stored in the image correction device 1510. It is processing. For example, when the expression method described in FIG. 4 is used as the pixel value conversion parameter, by setting L0 to L4 to be equal to the pixel value to be output for each pixel, A pixel value conversion parameter can be generated. As for the size of the white point, a value determined in accordance with the tolerance of misalignment corresponding to the Nth adjustment point stored in the design data 1845 may be used.

次に、姿勢制御処理を行う(S1903)。姿勢制御処理(S1903)は、撮影装置1560が映像表示装置1520に対して相対的に第N番目の調整ポイントに位置するように、姿勢制御装置1870を制御して映像表示装置1520の姿勢を制御する処理である。具体的には、撮影装置1560がレンズアレイ1320を通して映像表示面1310を撮影したデータに基づいて、全体がもっとも明るく見えるように、映像表示装置1520の姿勢を制御する。   Next, posture control processing is performed (S1903). The attitude control process (S1903) controls the attitude of the video display device 1520 by controlling the attitude control device 1870 so that the photographing device 1560 is positioned at the Nth adjustment point relative to the video display device 1520. It is processing to do. Specifically, the attitude of the video display device 1520 is controlled so that the entire image appears brightest based on data obtained by the video shooting device 1560 shooting the video display surface 1310 through the lens array 1320.

本実施形態は撮影装置1560と姿勢制御装置1870の位置を固定して実施する場合の例であり、設計データ1845に基づいて姿勢を制御した後、設置誤差を始めとする様々な誤差の影響を吸収するため、設計値周辺の姿勢制御パラメタに関してしらみつぶしに探索を行って最善のものを選択する。この探索における姿勢制御パラメタの変動範囲と姿勢制御パラメタの変動間隔に関しては、姿勢制御装置1870の仕様や想定される誤差の範囲に応じて決定され、あらかじめ設計データ1845内に格納されている値を使用する。   This embodiment is an example in the case where the positions of the photographing device 1560 and the posture control device 1870 are fixed. After the posture is controlled based on the design data 1845, the influence of various errors such as installation errors is affected. In order to absorb, the best one is selected by exhaustively searching for the attitude control parameters around the design value. The attitude control parameter fluctuation range and attitude control parameter fluctuation interval in this search are determined according to the specifications of the attitude control device 1870 and the assumed error range, and values stored in the design data 1845 in advance are used. use.

次に、第N番目の調整ポイントに対して調整が必要か否かを判定する(S1904)。調整要否の判定処理(S1904)は、撮影装置1560がレンズアレイ1320を通して映像表示面1310を撮影したデータ内において、映像表示領域内の複数の部分領域の各々に対して明るさの平均値を求め、この平均値の分散があらかじめ決めた閾値(設計データ1845内に格納されている)以下であれば調整不要と判断し、それ以外の場合には調整が必要であると判断する。なお、ここでは各部分領域の代表値を求めることができればよいため、平均値の代わりに中央値を使用するようにしてもよい。また、撮影画像データの画素値を明るさに変換するための特性関数が設計データとして与えられていない場合には、直接撮影画像データの画素値を使って計算してもよい。また、前記部分領域に関しては、各々の調整ポイント毎に設計値に基づいてあらかじめ計算し、設計データ1845内に格納しておくが、映像表示領域を検出するためのパターンを映像表示装置で表示し、それを撮影したデータに基づいて動的に作成するようにしてもよい。   Next, it is determined whether or not adjustment is necessary for the Nth adjustment point (S1904). In the adjustment necessity determination process (S1904), the average value of the brightness is calculated for each of the plurality of partial areas in the video display area in the data obtained by the imaging apparatus 1560 shooting the video display surface 1310 through the lens array 1320. If the variance of the average value is equal to or less than a predetermined threshold value (stored in the design data 1845), it is determined that adjustment is unnecessary, and otherwise, it is determined that adjustment is necessary. Here, since it is only necessary to obtain a representative value of each partial region, a median value may be used instead of the average value. Further, when the characteristic function for converting the pixel value of the photographed image data into brightness is not given as the design data, the calculation may be performed using the pixel value of the photographed image data directly. The partial area is calculated in advance for each adjustment point based on the design value and stored in the design data 1845. A pattern for detecting the video display area is displayed on the video display device. Alternatively, it may be dynamically created based on the data obtained by photographing it.

なお、該部分領域の和集合が撮影画像データ上の映像表示領域の全体を覆っていることは必要でなく、撮影時の誤差の影響が緩和できる程度の大きさで、要求する精度に応じた個数の部分領域を抽出すればよい。例えば、撮影画像データ上の映像表示領域を3×3のほぼ同じ大きさの部分領域に分割し、該各々の部分領域の中央付近から、映像表示領域全体の5%程度の大きさの部分領域を抽出して判定に使用すればよい。   It is not necessary for the union of the partial areas to cover the entire video display area on the photographed image data, and it is large enough to mitigate the effects of errors during photographing, depending on the required accuracy. The number of partial regions may be extracted. For example, the video display area on the photographed image data is divided into 3 × 3 partial areas having approximately the same size, and a partial area having a size of about 5% of the entire video display area from the center of each partial area. May be extracted and used for determination.

調整要否の判定処理(S1904)において調整が必要であると判定された場合には、パラメタ更新処理(S1905)を行い、調整用パターン表示処理(S1902)に戻って処理を続ける。   If it is determined in the adjustment necessity determination process (S1904) that adjustment is necessary, a parameter update process (S1905) is performed, and the process returns to the adjustment pattern display process (S1902) to continue the process.

パラメタ更新処理(S1905)は、撮影装置1560がレンズアレイ1320を通して映像表示面1310を撮影したデータと、第N番目の調整ポイントに対応する現在の調整済み画素値変換パラメタとに基づき、第N番目の調整ポイントに対応する調整済み画素値変換パラメタを更新する処理である。この処理は、まず、第N番目の調整ポイントに対応する制御点の集合に対して、明るく撮影されている制御点を暗く撮影されている制御点に合わせるように各々の制御点に対するパラメタを修正し、次に、各々の画素に対応するパラメタの値を、前記制御点の各々に対する修正後のパラメタの値から双線形補間など既存の内挿法や外挿法によって決定することで実施する。調整が不十分である場合には、S1902乃至S1905の処理が繰り返して実施されるため、パラメタ更新処理(S1905)における制御点に対するパラメタの修正は、厳密に実施する必要はない。   The parameter update process (S1905) is based on the data obtained by photographing the video display surface 1310 through the lens array 1320 by the photographing apparatus 1560 and the current adjusted pixel value conversion parameter corresponding to the Nth adjustment point. This is a process of updating the adjusted pixel value conversion parameter corresponding to the adjustment point. In this process, first, for the set of control points corresponding to the Nth adjustment point, the parameters for each control point are corrected so that the control point being brightly photographed matches the control point being photographed darkly. Then, the parameter value corresponding to each pixel is determined by determining the value of the corrected parameter for each of the control points by an existing interpolation method or extrapolation method such as bilinear interpolation. If the adjustment is insufficient, the processing of S1902 to S1905 is repeatedly performed, so that the parameter correction for the control point in the parameter update processing (S1905) does not need to be performed strictly.

調整要否の判定処理(S1904)において調整が不要であると判定された場合には、調整が必要なすべての調整ポイントについて調整が完了したか否かを判定する(S1906)。まだ調整が完了していない調整ポイントがある場合には、S1907で調整ポイントのシリアル番号であるNを「1」だけ増やし、S1902に戻って処理を続ける。すべての調整ポイントについて調整が完了している場合には、パラメタ調整処理を終了する。   If it is determined in the adjustment necessity determination process (S1904) that adjustment is not necessary, it is determined whether adjustment has been completed for all adjustment points that require adjustment (S1906). If there is an adjustment point for which adjustment has not yet been completed, N, which is the serial number of the adjustment point, is increased by “1” in S1907, and the process returns to S1902 and continues. If the adjustment has been completed for all the adjustment points, the parameter adjustment process is terminated.

以上、本実施形態によれば、光線再生方式の映像表示システムの調整時に、撮影装置との位置関係が設計データと略一致するように映像表示装置の姿勢を制御した上で映像調整を行うようにしたことにより、複数の位置における撮影処理を含む調整処理全体における機器の総移動量を抑えながら光線再生方式の映像表示システムを調整することのできる調整システムを提供することができる。   As described above, according to the present embodiment, at the time of adjustment of the light reproduction type image display system, the image adjustment is performed after controlling the attitude of the image display device so that the positional relationship with the imaging device substantially matches the design data. By doing so, it is possible to provide an adjustment system capable of adjusting a light reproduction type video display system while suppressing the total movement amount of devices in the entire adjustment processing including photographing processing at a plurality of positions.

次に、第7の実施形態について説明する。本実施形態は、携帯電話用のディスプレイとして光線再生方式の映像表示システムを適用する場合など、ユーザが目視で簡単に映像品質を調整できることが望ましい場合に好適な例である。   Next, a seventh embodiment will be described. This embodiment is a suitable example when it is desirable for the user to be able to easily adjust the video quality visually, such as when applying a light reproduction type video display system as a display for a mobile phone.

図20は、本実施形態の映像表示システムおよびこの調整システムを説明する図である。なお、図において図18に示される部分と同一部分については同一符号を付してこの説明を省略する。   FIG. 20 is a diagram illustrating the video display system and the adjustment system according to the present embodiment. In the figure, the same parts as those shown in FIG. 18 are denoted by the same reference numerals and description thereof is omitted.

本実施形態においては、パラメタ生成装置1850(図18)から撮影制御部1552と姿勢制御部1853を取り除き、新たにコマンド入力部2052を備えたパラメタ生成装置2050を使用して画素値変換パラメタを生成する。   In the present embodiment, the imaging control unit 1552 and the posture control unit 1853 are removed from the parameter generation device 1850 (FIG. 18), and a pixel value conversion parameter is generated using the parameter generation device 2050 that newly includes the command input unit 2052. To do.

また、第6の実施形態(図18)で使用していた撮影装置1560および姿勢制御装置1870は本実施形態では不要であり、このため、外部記憶装置214に格納していた姿勢制御プログラム1844も不要である。また、本実施形態では、パラメタ生成プログラム1841の代わりにパラメタ生成プログラム2041を、パラメタ調整プログラム1842の代わりにパラメタ調整プログラム2042を、設計データ1845の代わりに設計データ2045を、それぞれ外部記憶装置214に格納し、使用する。   In addition, the photographing device 1560 and the posture control device 1870 used in the sixth embodiment (FIG. 18) are unnecessary in this embodiment, and therefore the posture control program 1844 stored in the external storage device 214 is also used. It is unnecessary. In this embodiment, the parameter generation program 2041 is replaced with the parameter generation program 1841, the parameter adjustment program 2042 is replaced with the parameter adjustment program 1842, and the design data 2045 is replaced with the design data 1845, respectively. Store and use.

コマンド入力部2052は、「パラメタ調整開始」コマンドと、画面の四隅のそれぞれに対する「明るくする」および「暗くする」というコマンドと、「現在の視点位置での調整を完了する」というコマンドを入力する機能を備えるものである。具体的には、キー入力インタフェースで構成すればよい。本実施形態では、パラメタ生成プログラム2041は、コマンド入力部2052からの「パラメタ調整開始」コマンドを契機にして演算処理装置211によって実行される。   The command input unit 2052 inputs a “parameter adjustment start” command, commands “brighten” and “darken” for each of the four corners of the screen, and a command “complete adjustment at the current viewpoint position”. It has a function. Specifically, a key input interface may be used. In the present embodiment, the parameter generation program 2041 is executed by the arithmetic processing unit 211 in response to a “parameter adjustment start” command from the command input unit 2052.

パラメタ生成プログラム2041が実行されると、まず、パラメタ調整プログラム2042を用いてパラメタ調整処理が実施され、その後、第6の実施形態と同様にパラメタ合成処理が行われる。なお、パラメタ調整プログラム2042の処理の詳細は後述(図21)する。   When the parameter generation program 2041 is executed, first, parameter adjustment processing is performed using the parameter adjustment program 2042, and then parameter synthesis processing is performed as in the sixth embodiment. Details of the processing of the parameter adjustment program 2042 will be described later (FIG. 21).

設計データ2045には、あらかじめ設計値として決めたデータが格納される。本実施形態では、各調整コマンドが各制御点に対してどのような修正を施すものかを定義したデータ、調整が必要な調整ポイント(=調整に用いる複数の視点位置)の数、各調整ポイントにおける位置ずれの許容度、および各調整ポイントに対応する制御点の位置を含むように構成する。   The design data 2045 stores data determined as design values in advance. In the present embodiment, data that defines what correction each adjustment command applies to each control point, the number of adjustment points (= a plurality of viewpoint positions used for adjustment) that need adjustment, and each adjustment point The position deviation tolerance in FIG. 5 and the position of the control point corresponding to each adjustment point are included.

図21は、本実施形態のパラメタ調整プログラム2042の処理を説明する図である。   FIG. 21 is a diagram for explaining processing of the parameter adjustment program 2042 of this embodiment.

パラメタ調整処理が開始されると、まず、調整ポイントのシリアル番号であるNを0に初期化し(S2101)、続いて、図19のS1902と同様の方法によって第N番目の調整用パターン表示処理を行う(S2102)。   When the parameter adjustment process is started, first, N, which is the serial number of the adjustment point, is initialized to 0 (S2101), and then the Nth adjustment pattern display process is performed by the same method as S1902 in FIG. Perform (S2102).

次に、ユーザコマンド入力処理を行う(S2103)。ユーザコマンド入力処理(S2103)処理では、演算処理装置211は、ユーザから何らかのコマンド入力が為されるまで、次の処理へ移らずにコマンド入力を待ち続ける。ユーザから何らかのコマンドが入力された場合、まずS2104において、入力されたコマンドが調整コマンドか否かを判定する。判定の結果が調整コマンドであった場合にはパラメタ更新処理(S2105)に移り、入力された調整コマンドの定義と第N番目の調整ポイントに対応する現在の調整済み画素値変換パラメタとに基づいて、第N番目の調整ポイントに対応する調整済み画素値変換パラメタの更新を行った上で、調整用パターン表示処理(S2102)に戻って処理を繰り返す。ここで、パラメタ更新処理(S2105)の処理は、実際に映像表示面1310上のどの位置が見えているかに依存せず、第N番目の調整ポイントに対応する制御点の集合に対して、調整コマンドに基づく修正を行った上で、各々の画素に対応するパラメタの値について該制御点の各々に対する修正後のパラメタの値から双線形補間など既存の内挿法や外挿法によって決定することによって実施する。   Next, user command input processing is performed (S2103). In the user command input process (S2103), the arithmetic processing unit 211 continues to wait for a command input without proceeding to the next process until any command is input from the user. When any command is input from the user, first, in S2104, it is determined whether or not the input command is an adjustment command. If the result of the determination is an adjustment command, the process proceeds to parameter update processing (S2105). Based on the definition of the input adjustment command and the current adjusted pixel value conversion parameter corresponding to the Nth adjustment point. After updating the adjusted pixel value conversion parameter corresponding to the Nth adjustment point, the process returns to the adjustment pattern display process (S2102) and the process is repeated. Here, the process of the parameter update process (S2105) does not depend on which position on the video display surface 1310 is actually seen, and the adjustment is performed on the set of control points corresponding to the Nth adjustment point. After performing the correction based on the command, the parameter value corresponding to each pixel is determined by the existing interpolation or extrapolation method such as bilinear interpolation from the corrected parameter value for each of the control points. To implement.

判定の結果が調整コマンドでない場合には、S2106において、入力されたコマンドが調整完了コマンドか否かを判定し、判定の結果が調整完了コマンドでない場合には、ユーザコマンド入力処理(S2103)に戻って処理を繰り返す。   If the determination result is not an adjustment command, it is determined in step S2106 whether the input command is an adjustment completion command. If the determination result is not an adjustment completion command, the process returns to the user command input process (S2103). Repeat the process.

判定の結果が調整完了コマンドである場合には、調整が必要なすべての調整ポイントについて調整が完了したか否かを判定し(S2107)、まだ調整が完了していない調整ポイントがある場合には調整ポイントのシリアル番号であるNを「1」だけ増やして(S2108)、調整用パターン表示処理(S2102)に戻って処理を繰り返す。また、すべての調整ポイントについて調整が完了している場合には、パラメタ調整処理を終了する。   If the result of the determination is an adjustment completion command, it is determined whether or not adjustment has been completed for all adjustment points that require adjustment (S2107), and if there is an adjustment point that has not yet been adjusted. N, which is the serial number of the adjustment point, is incremented by “1” (S2108), the process returns to the adjustment pattern display process (S2102) and the process is repeated. If the adjustment has been completed for all the adjustment points, the parameter adjustment process is terminated.

以上説明したように、本実施形態によれば、光線再生方式の映像表示システムの調整時に、ユーザが調整ポイントを視認できる画像を表示するようにしたことにより、ユーザが目視で簡単に映像品質を調整できる調整システムを提供することができる。   As described above, according to the present embodiment, when the image display system of the light reproduction system is adjusted, an image that allows the user to visually recognize the adjustment point is displayed. An adjustment system that can be adjusted can be provided.

なお、本稿における本質は、実際に使用する画素値変換パラメタを、複数の調整位置の各々において映像が良好に鑑賞されるような画素値変換パラメタの集合から合成して生成する点にあり、前記各々の実施形態に記載の特徴を、用途に合わせて適宜組み合わせて使用してもよいことは言うまでもない。   Note that the essence in this paper is that the pixel value conversion parameters that are actually used are generated by combining from a set of pixel value conversion parameters that allow a video to be satisfactorily viewed at each of a plurality of adjustment positions. It goes without saying that the features described in each embodiment may be used in appropriate combination according to the application.

以上説明したように、本実施形態によれば、入力画像の画素値を所与の変換パラメタに基づいて変換して表示する映像表示システムにおいて、システムの調整時に、複数の代表視点位置のそれぞれで良好な映像を鑑賞するための変換パラメタをそれぞれ独立に生成しておき、システムの運用時には観客の分布や表示位置などに応じて、それら複数の変換パラメタの混合比率を変えながら合成した変換パラメタを使用して、入力画像の画素値を変換し表示する。即ち、従来のように、指向性に関する特性を独立して扱うことで特定の視点位置における理論的に正しい変換パラメタを求めようとするのではなく、各々の代表視点位置に対応する変換パラメタには指向性に関する特性が既に織り込まれているとして、映像を鑑賞する視点位置の分布に合わせ、より簡易な方法で、尤もらしい変換パラメタを生成して使用する。   As described above, according to the present embodiment, in the video display system that converts and displays the pixel value of the input image based on a given conversion parameter, at each of a plurality of representative viewpoint positions during system adjustment. Conversion parameters for appreciating good images are generated independently, and when the system is operated, conversion parameters synthesized by changing the mixing ratio of these conversion parameters according to the audience distribution and display position etc. Used to convert and display the pixel value of the input image. That is, instead of trying to obtain a theoretically correct conversion parameter at a specific viewpoint position by treating the directivity characteristics independently, as in the past, the conversion parameters corresponding to each representative viewpoint position Assuming that the characteristics related to directivity have already been factored in, it is possible to generate and use a plausible conversion parameter by a simpler method in accordance with the distribution of the viewpoint position for viewing the video.

このため、複数の視点位置において映像を鑑賞することのできる映像表示システムにおいて、映像を鑑賞する位置によって映像の見え方が大きく異なる場合に、より低いコストで鑑賞者が感じる映像の品質を改善することができる。   For this reason, in a video display system in which video can be viewed at a plurality of viewpoint positions, when the appearance of the video varies greatly depending on the video viewing position, the quality of the video felt by the viewer is improved at a lower cost. be able to.

第1の実施形態における映像表示システムを説明する図。The figure explaining the video display system in a 1st embodiment. 第1の実施形態における映像表示システムの詳細を説明する図。The figure explaining the detail of the video display system in 1st Embodiment. 第1の実施形態における画像補正装置300の詳細を説明する図。The figure explaining the detail of the image correction apparatus 300 in 1st Embodiment. 第1の実施形態における画素値変換パラメタ323の表現方法を説明する図。FIG. 6 is a diagram illustrating a method for expressing a pixel value conversion parameter 323 according to the first embodiment. 第1の実施形態におけるパラメタ更新プログラム242の処理を説明する図。The figure explaining the process of the parameter update program 242 in 1st Embodiment. 第2の実施形態における映像表示システムを説明する図。The figure explaining the video display system in 2nd Embodiment. 第2の実施形態における映像表示システムの詳細を説明する図。The figure explaining the detail of the video display system in 2nd Embodiment. 第2の実施形態における入場者データ732のデータ構造を説明する図。The figure explaining the data structure of the visitor data 732 in 2nd Embodiment. 第2の実施形態におけるパラメタ更新プログラム742の処理を説明する図。The figure explaining the process of the parameter update program 742 in 2nd Embodiment. 第3の実施形態における画像補正装置を説明する図。The figure explaining the image correction apparatus in 3rd Embodiment. 第4の実施形態における映像表示システムを説明する図。The figure explaining the video display system in 4th Embodiment. 第4の実施形態における映像表示システムの詳細を説明する図。The figure explaining the detail of the video display system in 4th Embodiment. 第5の実施形態における映像表示装置の映像表示方法を説明するための側面図。The side view for demonstrating the video display method of the video display apparatus in 5th Embodiment. 第5の実施形態における映像表示装置の映像表示方法を説明するための平面図。The top view for demonstrating the video display method of the video display apparatus in 5th Embodiment. 第5の実施形態における映像表示システムおよびその調整システムを説明する図。The figure explaining the video display system in 5th Embodiment, and its adjustment system. 第5の実施形態におけるパラメタ生成プログラム1541の処理を説明する図。The figure explaining the process of the parameter generation program 1541 in 5th Embodiment. 第5の実施形態におけるパラメタ調整プログラム1542の処理を説明する図。The figure explaining the process of the parameter adjustment program 1542 in 5th Embodiment. 第6の実施形態における映像表示システムおよびその調整システムを説明する図。The figure explaining the video display system and its adjustment system in 6th Embodiment. 第6の実施形態におけるパラメタ調整プログラム1842の処理を説明する図。The figure explaining the process of the parameter adjustment program 1842 in 6th Embodiment. 第7の実施形態における映像表示システムおよびその調整システムを説明する図。The figure explaining the video display system in 7th Embodiment, and its adjustment system. 第7の実施形態におけるパラメタ調整プログラム2042の処理を説明する図。The figure explaining the process of the parameter adjustment program 2042 in 7th Embodiment.

符号の説明Explanation of symbols

100 調整位置
110 スクリーン
120 観客分布検出部
130 1台のプロジェクタの水平投映範囲
140 観客
1310 映像表示面
1320 レンズアレイ
1411 矩形領域
1412 画素
1421 レンズ
DESCRIPTION OF SYMBOLS 100 Adjustment position 110 Screen 120 Audience distribution detection part 130 Horizontal projection range of one projector 140 Audience 1310 Video display surface 1320 Lens array 1411 Rectangular area 1412 Pixel 1421 Lens

Claims (4)

ユーザに提示するための映像を出力する映像生成部と、
前記映像生成部の出力した映像をパラメタ記憶部に格納した画素値変換パラメタに基づいて補正して出力する補正部と、
前記補正部の出力した映像を表示する、光線制御子を備えた表示部と、
第一の調整位置において良好な補正結果が得られる第一の画素値変換パラメタを記憶する第一の記憶部と、
第二の調整位置において良好な補正結果が得られる第二の画素値変換パラメタを記憶する第二の記憶部と、
前記第一及び第二の画素値変換パラメタを用いて第三の画素値変換パラメタを算出し前記パラメタ記憶部に格納するパラメタ合成部と、
調整位置を選択する選択コマンド、及び、前記第一または第二の画素値変換パラメタを修正する修正コマンド、を入力するためのコマンド入力部と、
コマンド入力部から入力されたコマンドに従って映像表示システムを制御するコマンド制御部を備え、
前記コマンド制御部は、
前記選択コマンドによって前記第一の調整位置が選択された場合には、第一の画像を前記第一の画素値変換パラメタで補正した映像を前記補正部から出力し、
前記選択コマンドによって前記第二の調整位置が選択された場合には、第二の画像を前記第二の画素値変換パラメタで補正した映像を前記補正部から出力し、
前記修正コマンドが入力された場合には、前記選択コマンドによって選択されている調整位置に対応する画素値変換パラメタに対して前記コマンド入力部から入力された修正を施した上で、修正後の前記第一及び第二の画素値変換パラメタを用いて前記パラメタ合成部で前記第三の画素値変換パラメタを算出し前記パラメタ記憶部に格納する、
映像表示システム。
A video generator that outputs video for presentation to the user;
A correction unit that corrects and outputs the video output from the video generation unit based on a pixel value conversion parameter stored in a parameter storage unit;
A display unit having a light beam controller for displaying an image output from the correction unit;
A first storage unit for storing a first pixel value conversion parameter for obtaining a good correction result at the first adjustment position;
A second storage unit for storing a second pixel value conversion parameter for obtaining a good correction result at the second adjustment position;
A parameter combining unit that calculates a third pixel value conversion parameter using the first and second pixel value conversion parameters and stores the third pixel value conversion parameter in the parameter storage unit;
A command input unit for inputting a selection command for selecting an adjustment position and a correction command for correcting the first or second pixel value conversion parameter;
A command control unit that controls the video display system according to the command input from the command input unit,
The command control unit
When the first adjustment position is selected by the selection command, a video obtained by correcting the first image with the first pixel value conversion parameter is output from the correction unit,
When the second adjustment position is selected by the selection command, a video obtained by correcting the second image with the second pixel value conversion parameter is output from the correction unit,
When the correction command is input, after the correction input from the command input unit to the pixel value conversion parameter corresponding to the adjustment position selected by the selection command, Calculating the third pixel value conversion parameter in the parameter combining unit using the first and second pixel value conversion parameters, and storing the third pixel value conversion parameter in the parameter storage unit;
Video display system.
前記第一の画像は、前記第一の調整位置で観察された場合に明るく見え、かつ、その他の位置で観察された場合に暗く見えるものであり、
前記第二の画像は、前記第二の調整位置で観察された場合に明るく見え、かつ、その他の位置で撮影された場合に暗く見えるものである、請求項1記載の映像表示システム。
The first image appears bright when observed at the first adjustment position and appears dark when observed at other positions;
2. The video display system according to claim 1, wherein the second image looks bright when observed at the second adjustment position and dark when photographed at another position.
ユーザに提示するための映像を出力する映像生成部と、
前記映像生成部の出力した映像をパラメタ記憶部に格納した画素値変換パラメタに基づいて補正して出力する補正部と、
前記補正部の出力した映像を表示する、光線制御子を備えた表示部と、
を備える映像表示システムで表示される映像の、明るさまたは色合いまたはその両方を調整する調整システムにおいて、
第一の調整位置において良好な補正結果が得られる第一の画素値変換パラメタ及び第二の調整位置において良好な補正結果が得られる第二の画素値変換パラメタを生成するパラメタ生成部と、
前記第一及び第二の画素値変換パラメタを用いて第三の画素値変換パラメタを算出し前記パラメタ記憶部に格納するパラメタ合成部と、
を備え、
前記パラメタ生成部は、位置及び姿勢が固定された撮影部と、前記撮影部に対する前記表示部の位置及び姿勢を制御する姿勢制御部と、を備えるように成されており、
前記姿勢制御部は、各々の前記調整位置を特定するための映像を前記補正部から出力し、前記撮影部で所望の画像が撮影されるように、前記撮影部に対する前記表示部の位置及び姿勢を制御すること、
を特徴とする、調整システム。
A video generator that outputs video for presentation to the user;
A correction unit that corrects and outputs the video output from the video generation unit based on a pixel value conversion parameter stored in a parameter storage unit;
A display unit having a light beam controller for displaying an image output from the correction unit;
In an adjustment system for adjusting brightness and / or hue of an image displayed by an image display system comprising:
A parameter generation unit for generating a first pixel value conversion parameter for obtaining a good correction result at the first adjustment position and a second pixel value conversion parameter for obtaining a good correction result at the second adjustment position;
A parameter combining unit that calculates a third pixel value conversion parameter using the first and second pixel value conversion parameters and stores the third pixel value conversion parameter in the parameter storage unit;
With
The parameter generation unit is configured to include an imaging unit whose position and orientation are fixed, and an orientation control unit that controls the position and orientation of the display unit with respect to the imaging unit,
The posture control unit outputs a video for specifying each of the adjustment positions from the correction unit, and the position and posture of the display unit with respect to the photographing unit so that a desired image is photographed by the photographing unit. To control,
An adjustment system characterized by.
ユーザに提示するための映像を出力する映像生成部と、
前記映像生成部の出力した映像をパラメタ記憶部に格納した画素値変換パラメタに基づいて補正して出力する補正部と、
前記補正部の出力した映像を表示する、光線制御子を備えた表示部と、
を備える映像表示システムで表示される映像の、明るさまたは色合いまたはその両方を調整する調整システムにおいて、
第一の調整位置において良好な補正結果が得られる第一の画素値変換パラメタ及び第二の調整位置において良好な補正結果が得られる第二の画素値変換パラメタを生成するパラメタ生成部と、
前記第一及び第二の画素値変換パラメタを用いて第三の画素値変換パラメタを算出し前記パラメタ記憶部に格納するパラメタ合成部と、
を備え、
前記パラメタ生成部は、撮影部と、前記表示部に対する前記撮影部の位置及び姿勢を制御する姿勢制御部と、を備えるように為されており、
前記姿勢制御部は、各々の前記調整位置を特定するための映像を前記補正部から出力し、前記撮影部で所望の画像が撮影されるように、前記表示部に対する前記撮影部の位置及び姿勢を制御すること、
を特徴とする、調整システム。
A video generator that outputs video for presentation to the user;
A correction unit that corrects and outputs the video output from the video generation unit based on a pixel value conversion parameter stored in a parameter storage unit;
A display unit having a light beam controller for displaying an image output from the correction unit;
The adjustment system of an image displayed on the video display system, adjust the brightness or shade, or both comprise,
A parameter generation unit for generating a first pixel value conversion parameter for obtaining a good correction result at the first adjustment position and a second pixel value conversion parameter for obtaining a good correction result at the second adjustment position;
A parameter combining unit that calculates a third pixel value conversion parameter using the first and second pixel value conversion parameters and stores the third pixel value conversion parameter in the parameter storage unit;
With
The parameter generation unit includes an imaging unit, and an attitude control unit that controls a position and an attitude of the imaging unit with respect to the display unit,
The posture control unit outputs a video for specifying each of the adjustment positions from the correction unit, and the position and posture of the photographing unit with respect to the display unit so that a desired image is photographed by the photographing unit. To control,
An adjustment system characterized by.
JP2006128358A 2006-05-02 2006-05-02 Video display system Expired - Fee Related JP4965894B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006128358A JP4965894B2 (en) 2006-05-02 2006-05-02 Video display system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006128358A JP4965894B2 (en) 2006-05-02 2006-05-02 Video display system

Publications (2)

Publication Number Publication Date
JP2007300540A JP2007300540A (en) 2007-11-15
JP4965894B2 true JP4965894B2 (en) 2012-07-04

Family

ID=38769629

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006128358A Expired - Fee Related JP4965894B2 (en) 2006-05-02 2006-05-02 Video display system

Country Status (1)

Country Link
JP (1) JP4965894B2 (en)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011091516A (en) * 2009-10-21 2011-05-06 Sharp Corp Projector and display adjustment method of the projector
JP5560771B2 (en) * 2010-02-26 2014-07-30 セイコーエプソン株式会社 Image correction apparatus, image display system, and image correction method
JP5032694B1 (en) * 2011-08-31 2012-09-26 株式会社東芝 Video processing apparatus and video processing method
WO2013145070A1 (en) * 2012-03-26 2013-10-03 Necディスプレイソリューションズ株式会社 Color unevenness correction apparatus, projector, and color unevenness correction method
JP2014202919A (en) * 2013-04-04 2014-10-27 株式会社リコー Information process system, information process method, information process program and image projection system
JP6115880B2 (en) * 2014-03-24 2017-04-19 パナソニックIpマネジメント株式会社 Projector control apparatus, projector system, and projector control method
WO2018135141A1 (en) * 2017-01-17 2018-07-26 ソニー株式会社 Information processing device, information processing method, and projection system
CN115223514B (en) * 2022-07-18 2023-05-16 深圳市安信泰科技有限公司 Liquid crystal display driving system and method capable of intelligently adjusting parameters

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06103939B2 (en) * 1992-07-13 1994-12-14 工業技術院長 Eye-tracking head-mounted display
JP3783977B2 (en) * 1997-02-17 2006-06-07 キヤノン株式会社 3D image device and 3D image display method
JPH11161216A (en) * 1997-09-26 1999-06-18 Denso Corp Image information display system
US6931596B2 (en) * 2001-03-05 2005-08-16 Koninklijke Philips Electronics N.V. Automatic positioning of display depending upon the viewer's location
JP3733321B2 (en) * 2001-11-16 2006-01-11 オリンパス株式会社 Image projection system
JP2003331171A (en) * 2002-05-10 2003-11-21 Nec Soft Ltd Booking server, method for sale by subscription, and program
JP3915603B2 (en) * 2002-06-07 2007-05-16 ソニー株式会社 Projection display
JP3911456B2 (en) * 2002-08-12 2007-05-09 オリンパス株式会社 Multi-projection system and correction data acquisition method in multi-projection system
JP2005099150A (en) * 2003-09-22 2005-04-14 Olympus Corp Image correction data calculation method of image display apparatus

Also Published As

Publication number Publication date
JP2007300540A (en) 2007-11-15

Similar Documents

Publication Publication Date Title
JP4965894B2 (en) Video display system
US8358873B2 (en) Hybrid system for multi-projector geometry calibration
US7800628B2 (en) System and method for generating scale maps
US7854518B2 (en) Mesh for rendering an image frame
US7907792B2 (en) Blend maps for rendering an image frame
Harville et al. Practical methods for geometric and photometric correction of tiled projector
CN101572787B (en) Computer vision precision measurement based multi-projection visual automatic geometric correction and splicing method
US9137504B2 (en) System and method for projecting multiple image streams
JP6418449B2 (en) Image processing apparatus, image processing method, and program
US10085008B2 (en) Image processing apparatus and method
US20070291184A1 (en) System and method for displaying images
US20170180680A1 (en) Object following view presentation method and system
KR20160034847A (en) System and method for calibrating a display system using a short throw camera
US11526072B2 (en) Information processing apparatus and method, and projection imaging apparatus and information processing method
JPWO2017006780A1 (en) Information processing apparatus and method, and program
US20100002074A1 (en) Method, device, and computer program for reducing the resolution of an input image
US20190320142A1 (en) Telepresence devices operation methods
JP2021532649A (en) Methods and data processing systems for image composition
JP2017157208A (en) Three-dimensional model generation method, three-dimensional model generation device, three-dimensional model generation system, and program for generating three-dimensional model
JP2004228824A (en) Stack projection device and its adjusting method
JP2009141508A (en) Television conference device, television conference method, program, and recording medium
Kern et al. Projector-based augmented reality for quality inspection of scanned objects
JP5509986B2 (en) Image processing apparatus, image processing system, and image processing program
JP6995554B2 (en) Imaging device and imaging method
JP2020160756A (en) Image generation device, image generation method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111013

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120321

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120330

R150 Certificate of patent or registration of utility model

Ref document number: 4965894

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150406

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees