JP6398235B2 - Image projection apparatus, image projection system, and control method for image projection apparatus - Google Patents
Image projection apparatus, image projection system, and control method for image projection apparatus Download PDFInfo
- Publication number
- JP6398235B2 JP6398235B2 JP2014047864A JP2014047864A JP6398235B2 JP 6398235 B2 JP6398235 B2 JP 6398235B2 JP 2014047864 A JP2014047864 A JP 2014047864A JP 2014047864 A JP2014047864 A JP 2014047864A JP 6398235 B2 JP6398235 B2 JP 6398235B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- pattern
- pattern image
- projection
- projected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Controls And Circuits For Display Device (AREA)
- Projection Apparatus (AREA)
- Transforming Electric Information Into Light Information (AREA)
Description
本発明は、画像投影装置、画像投影システム、及び画像投影装置の制御方法に関する。 The present invention relates to an image projection apparatus, an image projection system, and a control method for the image projection apparatus.
画像投影装置の一例であるプロジェクタに使用される代表的な表示デバイスとして、DMD(Digital Micro mirror Device)が挙げられる。DMDは、シリコン上の微細ミラーを画素単位に傾けることにより反射させた光で映像を作り出すデバイスである。反射方式であることからコントラスト性に優れ、また、微細ミラーの応答速度の速さから、RGB(Red Green Blue)各色の制御を1チップで行うことができるため、装置を小型化し易いという利点がある。 As a typical display device used for a projector which is an example of an image projection apparatus, there is a DMD (Digital Micro mirror Device). The DMD is a device that creates an image with light reflected by tilting a fine mirror on silicon in units of pixels. Since it is a reflection system, it has excellent contrast, and since the response speed of the fine mirror can control each color of RGB (Red Green Blue) with a single chip, there is an advantage that the device can be easily downsized. is there.
DMDは、ミラーを物理的にデバイス上に並べ、それを+10度、又は−10度という傾きを設け、オンかオフかの位置を採るような構造となっている。このオンの位置、又はオフの位置のときの光の反射の仕方によって、0又は1というような、光でのスイッチング動作を持たせている。 The DMD has a structure in which mirrors are physically arranged on a device, and the mirror is provided with an inclination of +10 degrees or -10 degrees, and the position of ON or OFF is taken. Depending on how the light is reflected at the on position or the off position, a switching operation with light such as 0 or 1 is provided.
DMDがどのようにして光のオン又はオフという動きを持たせているかというと、ランプから発せられた光がまずDMDデバイスに当たり、ミラーがオンの位置か、又はオフの位置かによって、反射される方向が決まる。オンの位置により反射された光はレンズを通りスクリーン上に投影される。ミラーがオフ位置のときは、光がレンズを通らない方向に反射するのでスクリーン上には黒い画像が再現される。すなわち、ミラーが実際にオンかオフかということによって、レンズに光が行っているのか否かにより、光学的に1、0のデジタル動作を実現している。 How the DMD makes the light turn on or off, the light emitted from the lamp hits the DMD device first and is reflected depending on whether the mirror is in the on or off position. The direction is determined. The light reflected by the ON position passes through the lens and is projected on the screen. When the mirror is in the off position, light is reflected in a direction that does not pass through the lens, so that a black image is reproduced on the screen. In other words, depending on whether the mirror is actually on or off, whether or not light is applied to the lens, an optical digital operation of 1 and 0 is realized.
そして、ミラー自体はオンかオフかの何れかの位置しか採らないので、階調としては、ある時間軸においてオンになっている時間がどれくらいであるかというものを設定することによりグレーの中間階調を出している。すなわち、ミラーはオンの位置かオフの位置か(0か1か)の位置を採るが、物理的にオンとオフとの中間の位置も通過点として瞬間的に通ることになる。ある時間軸において全部オンであれば全白となり、全部オフであれば全黒、50%オンで50%オフであれば真中の灰色(中間階調)という時間割り振りをしている。 And since the mirror itself takes only one of the positions of on and off, the gray level is set by setting what is the on time on a certain time axis as the gradation. The key is on. That is, the mirror takes an on position or an off position (0 or 1), but an intermediate position between the on and off positions also passes instantaneously as a passing point. On a certain time axis, all white is assigned if all are on, all black if all are off, and half gray (intermediate gray) if 50% on and 50% off.
画像投影装置の一例であるプロジェクタは、本来、平面度の高いスクリーンに投影することを前提とし、これに映像を投影する装置である。しかし、オフィスにおける通常使用や、展示ディスプレイ等の不定形物に投影するような応用利用の現場においては、必ずしも平面性が保証されない投影対象に対する投影が行われる。特許文献1には、特に、想定される標準的な投影映像の観察方向と、スリーンへの投影方向とが著しく異なる場合、スクリーンの歪曲による投影映像の見掛けの歪みが大きくなることが問題点として挙げられている。
A projector, which is an example of an image projection apparatus, is an apparatus that projects an image on a screen that is supposed to be projected on a screen with high flatness. However, in a normal use in an office or a field of application use where projection is performed on an irregular shaped object such as an exhibition display, projection onto a projection target for which flatness is not necessarily guaranteed is performed.
このような問題点に対し、特許文献1や特許文献1で引用する先行技術文献には、格子状に配置した点をパターン映像としてスクリーンに投影し、これを想定される観察方向から撮像して歪みを検出することにより、プロジェクタへの入力画像の補正を行い、観察方向からの歪みを低減する方法が開示されている。特に、特許文献1では、外部カメラを用いた画像歪み検出に適した方法として、中間階調で平坦部の背景画像を形成し、これを基準として、より低い階調レベルと高い階調レベルのパターンを格子状に千鳥配列にするパターン構成が開示されている。
With respect to such problems, in
また、特許文献2及び特許文献3には、曲面にプロジェクタからの投影による画像歪みを、規則的に配置されたな円パターンの投影画像の撮像結果から補正する技術が開示されている。特に、特許文献2には、自由曲面に対して斜めに配置されたプロジェクタが想定されている。
これらの特許文献に共通する技術思想は、均等に配置された円パターンの投影画像の撮像結果に基づいて画像歪みを算出する点に有るが、特許文献2及び特許文献3においては、パターンそのものに対して、外乱に対するロバスト性を向上させるための工夫は特に開示されていない。これに対し、特許文献1は、パターンのコントラストを向上させる工夫が開示されている点に特徴が有る。さらに、特許文献1は、投影されたパターン映像のただ一回の撮影画像に基づいて歪み補正を実施できるため、外部カメラを固定する必要がなく、手持ち撮影を可能としている点で優れている。
The technical concept common to these patent documents is that image distortion is calculated based on the imaging results of the projected images of circular patterns arranged uniformly. However, in
しかしながら、本来のスクリーンではない壁等への投影を想定した場合、撮影されたパターン画像(以下、「取得パターン画像」という。)には、壁面のテクスチャーや汚れ等様々なノイズが重畳してしまう。したがって、投影されるパターンには、撮影時の輝度ムラやノイズに対するより高いロバスト性が要求される。 However, when projection onto a wall or the like that is not the original screen is assumed, various noises such as wall texture and dirt are superimposed on the captured pattern image (hereinafter referred to as “acquired pattern image”). . Accordingly, the projected pattern is required to have higher robustness against luminance unevenness and noise during shooting.
この点に関し、特許文献1では、平坦領域を取得パターン画像における隣接する4×4の輝度のピーク、又は輝度のボトムの中点として検出し、背景の輝度勾配を検出する方法を採っている。そのため、外光や投影面テクスチャーの影響でコントラストが低下した取得パターン画像でのパターン検出限界を低くするためには、平坦領域検出に先立って、ピーク(ボトム)を正しく検出することが要求される。
In this regard,
これに対し、本発明は、画像投影手段としてのプロジェクタを中心に構成される映像投影システムの歪み検出において、取得パターン画像のピーク(ボトム)や平坦領域の検出を先行することなく、背景の輝度勾配の検出を可能とすることとしている。そのため、取得パターン画像のコントラスト低下やノイズの重畳に対して、よりロバストネスな歪み検出を可能とすることを解決課題としている。また、歪み検出を、単一の取得パターン画像で実現し、利便性を損なわないこと、さらに、取得パターン画像において、一部のパターン(特に周辺部)のパターンが欠損した場合であっても、ロバストに歪み検出を可能とすることも、併せて課題となる。 On the other hand, in the present invention, in the distortion detection of the video projection system configured mainly with the projector as the image projecting means, the brightness of the background is detected without preceding detection of the peak (bottom) or flat area of the acquired pattern image. The gradient can be detected. Therefore, it is an object of the present invention to make it possible to detect distortion more robustly with respect to a decrease in contrast of an acquired pattern image and noise superimposition. In addition, distortion detection is realized with a single acquired pattern image, and convenience is not impaired. Further, even in the case where a part of the pattern (particularly the peripheral portion) is missing in the acquired pattern image, It is also a challenge to enable robust strain detection.
そこで、本発明は、上記従来技術の問題点に鑑みてなされたものであって、撮影されたパターン画像のコントラスト低下やノイズの重畳に対して、よりロバストな歪み検出をすることが可能な画像投影装置を提供することを目的とする。 Therefore, the present invention has been made in view of the above-described problems of the prior art, and is an image that can perform more robust distortion detection with respect to a decrease in contrast of a captured pattern image and noise superimposition. An object is to provide a projection device.
上記課題を解決するため、本発明における画像投影装置は、投影面に投影される画像信号を入力する画像信号入力手段と、所定のパターン形状から構成されるパターン画像を生成するパターン画像生成手段と、前記パターン画像を前記投影面に投影する投影手段と、前記投影面に投影された前記パターン画像を撮像する撮像手段と、前記撮像されたパターン画像に基づいて画像信号の歪みを補正する補正パラメータを算出する幾何歪み検出手段と、前記算出された補正パラメータに基づいて、前記画像信号入力手段から入力された画像信号を補正する画像歪み補正手段と、を含み、前記所定のパターン形状を構成するパターンの平均輝度と前記所定のパターン形状を構成する背景の輝度とが略等しく、前記パターン画像は、最大輝度を有する第1の点を中心とする第1のパターン画像と、最小輝度を有する第2の点を中心とする第2のパターン画像と、前記最大輝度と前記最小輝度との中間の輝度を有する背景のパターン画像とから構成され、前記所定のパターン形状は、前記第1のパターン画像と前記第2のパターン画像とが、前記背景のパターン画像に対して格子状に千鳥配列された繰り返し形状であるいことを特徴とする。 In order to solve the above problems, an image projection apparatus according to the present invention includes an image signal input unit that inputs an image signal projected on a projection plane, and a pattern image generation unit that generates a pattern image composed of a predetermined pattern shape A projection unit that projects the pattern image onto the projection plane; an imaging unit that captures the pattern image projected onto the projection plane; and a correction parameter that corrects distortion of an image signal based on the captured pattern image And a geometric distortion detecting means for calculating the image signal inputted from the image signal input means based on the calculated correction parameter, and constituting the predetermined pattern shape and brightness of the background which constitutes the average luminance of the pattern and the predetermined pattern is substantially V equal, the pattern image has a maximum brightness A first pattern image centered on one point, a second pattern image centered on a second point having a minimum brightness, and a background pattern having a brightness intermediate between the maximum brightness and the minimum brightness And the predetermined pattern shape is a repetitive shape in which the first pattern image and the second pattern image are staggered in a grid pattern with respect to the background pattern image. It is characterized by.
本発明によれば、撮影されたパターン画像のコントラスト低下やノイズの重畳に対して、よりロバストな歪み検出をすることが可能な画像投影装置を得ることができる。 ADVANTAGE OF THE INVENTION According to this invention, the image projector which can perform distortion detection more robust with respect to the contrast fall of the image | photographed pattern image or noise superimposition can be obtained.
本発明は、プロジェクタ、特に非平面への投影を想定したプロジェクタから投影されるノイズを含んだパターン画像に対し、個々のパターンサイズよりも十分に大きい大域的な平滑化を施している。これにより、パターン画像の平均輝度を背景輝度に略等しくさせることができ、パターン抽出を行うよりも前に、背景の輝度分布を容易に抽出することが特徴となっている。 According to the present invention, global smoothing sufficiently larger than each pattern size is performed on a pattern image including noise projected from a projector, particularly a projector assuming projection onto a non-planar surface. As a result, the average brightness of the pattern image can be made substantially equal to the background brightness, and the background brightness distribution is easily extracted before pattern extraction.
以下、本発明を実施するための形態について図面を参照して詳細に説明する。なお、各図中、同一又は相当する部分には同一の符号を付しており、その重複説明は適宜に簡略化乃至省略する。 Hereinafter, embodiments for carrying out the present invention will be described in detail with reference to the drawings. In addition, in each figure, the same code | symbol is attached | subjected to the part which is the same or it corresponds, The duplication description is simplified thru | or abbreviate | omitted suitably.
まず、本実施形態に係る画像投影システムの基本構成について説明する図である。図1は、本実施形態に係る画像投影システムの基本構成について説明する図である。図1において、本実施形態に係る画像投影システムは、画像投影装置本体であるプロジェクタ1と、プロジェクタ1に映像信号を送信する情報処理装置の一例であるパーソナルコンピュータ(以下、PCという。)7とで構成される。また、プロジェクタ1からの映像を投影する被投影面となるスクリーン2と、スクリーン2に投影された投影画像9を撮影する撮像装置の一例であるカメラ4と、で構成される。
First, it is a figure explaining the basic composition of the image projection system concerning this embodiment. FIG. 1 is a diagram illustrating a basic configuration of an image projection system according to the present embodiment. In FIG. 1, an image projection system according to the present embodiment includes a
特に、図1では、被投影面として、つり下げ状のスクリーン2を例示しているが、極端な凹凸や模様を有しない壁面等で代用しても良い。また、画像入力手段としては、通常のカメラ4の他、携帯電話やタブレットPC、ノートPC等であっても、カメラを内蔵したデバイスであれば代用可能である。
In particular, FIG. 1 illustrates a suspended
この画像投影システムにおいて、通常の使用では、ユーザ8は、PC7からの映像を、プロジェクタ1を介して、スクリーン2に投影する。スクリーン2に歪みがある場合、投影画像9にも歪みを生じる。上述した特許文献1にもあるように、この歪みは、プロジェクタ1の画像の投影方向と、ユーザ8による投影画像9の観察方向との違いによって生じている。
In this image projection system, in normal use, the
この場合、ユーザ8は、後述するパターンの配列で構成されるパターン画像10をプロジェクタ1から投影し、これを、歪みを除去したい視点からカメラ4を用いて撮影する。次いで、ユーザ8は、撮影されたパターン画像10の歪んだ投影画像9を、通信手段を介して直接、又はPC7を経由して、プロジェクタ1に取り込む。以下に説明するように、プロジェクタ1は、この取得されたパターン画像に基づいて画像補正を行うことにより、ユーザ8の視点から見て、歪みが無い画像を投影する。
In this case, the
次に、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の構成について説明する。図2は、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の構成について説明する概略ブロック図である。 Next, the configuration of an image processing unit that performs distortion correction incorporated in the projector that configures the image projection system according to the present embodiment will be described. FIG. 2 is a schematic block diagram illustrating the configuration of an image processing unit that performs distortion correction incorporated in the projector that configures the image projection system according to the present embodiment.
図2において、映像信号入力部18は、通常はPC7からの映像信号を受け取り、これを後段の処理に流すが、パターン画像生成部17からの信号送信要求がある場合は、パターン画像生成部17からの信号を優先して後段の処理に流す。画像歪み検出のためのパターン画像10を投影する場合、ユーザ8はプロジェクタ1に備え付けられた指示部16、又はPC7上のユーティリティソフトウエアを介して、パターン画像生成手段であるパターン画像生成部17にパターン画像10の生成を指示する。パターン画像生成部17では、指示されたパターン画像信号を映像信号入力部18に送る。
In FIG. 2, the video
一方、前述のように、カメラ4、又はPC7を介して取得されたパターン画像10は、バッファ19に蓄積される。幾何歪み検出手段である幾何歪み検出部20は、バッファ19に蓄積された歪んだパターン画像から、補正パラメータを算出する。画像歪み補正手段である画像歪み補正部21は、PC7から映像信号入力部18に取得された映像信号を、フレームメモリ22上に展開しつつ、幾何歪み検出部20で算出された補正パラメータに基づいて補正する。補正された映像信号は、投影部23から投影画像9としてスクリーン2に投影される。
On the other hand, as described above, the
図2では、特に明示的に図示していないが、画像歪み補正部21は、指示部16からの指示、又はPC7上のユーティリティソフトウエアからの指示により、映像信号入力部18からの映像信号に対する画像歪み補正のオン・オフを切り替え可能となっている。また、図2では、画像歪み補正処理をプロジェクタ1側で行う実装での処理の流れを示した。
Although not specifically shown in FIG. 2, the image
しかしながら、これらのパターン画像生成手段、幾何歪み検出手段、及び画像歪み補正手段は、PC7側のソフトウエアとして実装することも可能である。以下の説明では、PC7上にインストールされたユーティリティソフトウエアの処理モジュールによる画像処理を、単にPC7の処理として記述する。 However, these pattern image generation means, geometric distortion detection means, and image distortion correction means can also be implemented as software on the PC 7 side. In the following description, the image processing by the processing module of utility software installed on the PC 7 is simply described as the processing of the PC 7.
次に、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正処理の動作について説明する。図3は、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正処理の動作について説明するフロー図である。 Next, the operation of the image distortion correction process of the image processing unit that performs distortion correction incorporated in the projector constituting the image projection system according to the present embodiment will be described. FIG. 3 is a flowchart for explaining the operation of the image distortion correction processing of the image processing unit that performs distortion correction incorporated in the projector constituting the image projection system according to the present embodiment.
以下説明する各処理は、図2に示すようにプロジェクタ1内に各処理手段を実装する場合も概ね同様であるが、ここでは特にPC7上のソフトウエアによって実現した場合を想定して説明する。
Each process described below is generally the same when each processing means is mounted in the
最初のstep1において、上述したように、ユーザ8は、PC7のユーティリティソフトウエアで実装されたユーザインタフェース40(後述の図8で詳述する。)を用いて、歪み検出に使用するパターンに対応する指示パラメータを与える。パターン画像生成手段であるソフトウエアモジュールは、指示パラメータに基づいて、例えば、図4に示すようなパターン画像を生成する。図4は、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像の例を示す図である。
In the
このときのパターン画像の生成方法としては二通りあり、一つは、予め保持された複数のパターン画像を、パターン識別番号を指示部16(図2)からの指示パラメータとして選択する実装である。もう一つは、パターン形状に対応する形状パラメータ(例えば、円の半径)を指示パラメータとして指定し、パターン画像生成部17において計算処理によってパターン画像を生成する実装方法がある。このとき生成されるパターンの詳細については、後述する。
There are two methods for generating a pattern image at this time. One is an implementation in which a plurality of pattern images held in advance are selected as pattern identification numbers as instruction parameters from the instruction unit 16 (FIG. 2). The other is a mounting method in which a shape parameter (for example, a radius of a circle) corresponding to a pattern shape is designated as an instruction parameter, and the pattern
step2において、生成されたパターン画像を、プロジェクタ1の映像信号入力部18に送り、スクリーン2に投影する。step3において、スクリーン2に投影されたパターン画像10をカメラ4で撮影し、PC7に送信する。このとき、カメラ4として、カメラ付き携帯電話のような通信機能を有した機器であれば、カメラ4とPC7との間で直接パターン画像データのやりとりが可能である。カメラ4に通信機能が備わってない場合は、ユーザ8がカメラ4の記録メディアを媒介してPC7にパターン画像データの受け渡しを行う。
In
step4において、step3で取得された歪みやノイズを含んだパターン画像10に対し、個々のパターンサイズよりは十分に小さい局所的な平滑化を施すことにより、局在するノイズの除去を行う。
In
一方、step5において、step3で取得された歪みやノイズを含んだパターン画像10に対し、個々のパターンサイズよりも十分に大きい大域的な平滑化を施す。これにより、画像全体の緩やかな輝度勾配が除去される。このとき、パターン画像10は、後述するように、パターンの平均輝度が背景輝度に略等しくなるよう設計されている。このため、step5における大域平滑化処理後に残留するパターン成分はほとんど無く、次のstep6における差分演算でのコントラストの低下が防止される。
On the other hand, in step 5, global smoothing sufficiently larger than the individual pattern size is performed on the
step6において、step4の処理結果と、step5の処理結果との差分を取ることにより、パターン画像の背景輝度が0に基準化される。step7において、step6の処理画像に基づいて、パターン画像中の各パターンの中心点を算出する。ここでは、まず、粗く探索したピーク・ボトム値を各中心点の推定値の初期値として、各中心点毎に、その近傍の輝度勾配から高精度な中心点の座標値(xα、yα)を算出する。ただし、αは単に抽出されピーク値pαを識別するための添字であって、パターン画像データのパターンの位置に関連付けられてはいない。また、ここでの座標値は、撮影画像配列の添字を実数拡張したものと考えて良い。
In step 6, by taking the difference between the processing result of
step8において、step7で取得された各ピーク値pαと、その座標値(xα、yα)のリストとの整合確認を行う。欠損点が存在する場合は、周辺のピーク値とその座標値とから欠損点を推定し補うと共に、各座標値(xα、yα)と、元のパターン画像データのパターンの配列としての添字(i、j)との関連付けを行う。
In
step9において、step8で関連付けられた、(i、j、xα、yα)に基づいて、上記特許文献1に記載された方法と同様の方法により、歪み補正パラメータを算出する。step10において、幾何歪み補正手段としての画像補正ソフトウエアモジュールに対して、step9において得られた歪み補正パラメータを設定することにより、出力映像の歪みが正しく補正される。
In
パターン画像10の例を示す図4において、パターン画像10は、中間輝度の背景部30上に、最大輝度である白色の点を中心とするパターン31aと、最小輝度である黒色の点を中心とするパターン31bとが格子状の千鳥配列で構成される。また、パターン31a、パターン31bそれぞれのパターンのプロジェクタ1による出力としての平均輝度が背景輝度に略等しくなるように、白色と黒色との面積比率が調整されている。なお、実際のパターン画像は、図4のパターン画像10を、概ね縦横2×2で連結した領域で構成されるが、図示の都合上、図4では1/4の領域を例示している。
In FIG. 4 showing an example of the
次に、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像のスクリーンへの投影像としての輝度分布の断面について説明する。図5は、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像のスクリーンへの投影像としての輝度分布の断面を模式的に表した図である。 Next, a cross section of the luminance distribution as a projection image of the pattern image projected by the projector constituting the image projection system according to this embodiment will be described. FIG. 5 is a diagram schematically showing a cross section of the luminance distribution as a projection image of the pattern image projected by the projector constituting the image projection system according to the present embodiment onto the screen.
図5において、横軸の位置が、図4のA−A´断面に対応する。パターン31a、パターン31bとも、それぞれ黒白の同心円を組み合わせることにより高いコントラストを確保するし、ピーク32、及びボトム33の検出を外乱に対してロバストなものとしている。また、ピーク32、及びボトム33の周辺の輝度勾配を大きくすることにより、図3のstep7における極値検出計算の収束性と精度が向上される。
In FIG. 5, the position of the horizontal axis corresponds to the AA ′ cross section of FIG. Both the
次に、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像を2値画像として構築した場合のパターン31b近傍の拡大図について説明する。図6は、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像を2値画像として構築した場合のパターン31b近傍の拡大図である。
Next, an enlarged view of the vicinity of the
図6では、領域全体で白色のドット数と黒色のドット数とが同数となるようにパターン31bを構成している。これにより、背景部30の白黒面積率とパターン31bの白黒面積率とを等しくすることで、プロジェクタ1の中間階調特性に因ることなく背景輝度とパターン31bの平均輝度とを略等しくすることができる。また、上記した図3のstep4における局所平滑化は、この背景パターンによって生じる微細な輝度ムラを除去することにより、step5における大域平滑化との差分を取るstep6において、不適切なモアレ(縞)が生じることを防いでいる。
In FIG. 6, the
次に、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像を2値画像として構築した場合のパターン31bのその他のバリエーションについて説明する。図7は、本実施形態に係る画像投影システムを構成するプロジェクタによって投影されるパターン画像を2値画像として構築した場合のパターン31bのその他のバリエーションを示す図である。
Next, other variations of the
図7において、それぞれのパターン35b、36b、37b、38bは、何れも、パターン31bと同様に、白色と黒色との面積率が等しく設定されている。それぞれのパターンは、最外周の円の直径(内径)に対する最内周の円の直径(内径)の比率が、パターン35bが0.2、パターン36bが0.3、パターン31bが0.4、パターン37bが0.5、パターン38bが1/√2に設定されている。また、これらのパターンの白黒反転図形として、対応する図示しないパターン35aから38aも定義される。
In FIG. 7, the
このように、3重の同心円としてパターンを構築することにより、中心円と、それを取り囲む白黒反転領域の比率に、ある程度自由度を持たせることが可能となる。これらのパターンから、実際の使用環境に合わせて、最もピーク値又はボトム値の検出に適したコントラストの高い投影画像を選択することにより、環境ノイズに対してよりロバストな歪み検出が可能となる。 In this way, by constructing the pattern as triple concentric circles, it becomes possible to give a certain degree of freedom to the ratio between the central circle and the black and white inversion area surrounding it. From these patterns, by selecting a projection image having a high contrast suitable for detecting the peak value or the bottom value in accordance with the actual use environment, distortion detection more robust against environmental noise can be performed.
また、白黒2色の2値画像データでパターン画像を構築することにより、プロジェクタにおいて入力映像の信号レベルと出力映像の明るさとの比率を設定するγ設定値に依存することなく、パターン画像の平均輝度を背景輝度に略等しくすることができるのである。これは、プロジェクタから発せられる投射光のエネルギーがオンになる画素数に概ね比例しているという仮定に基づいている。つまり、プロジェクタから発せられる投射光量を2値画像データで空間的(面積的)に制御しているので、パターン画像の設計者側が主体的にパターン画像を制御していることになる。 Further, by constructing a pattern image with binary image data of two colors of black and white, the average of the pattern image can be obtained without depending on the γ setting value for setting the ratio between the signal level of the input video and the brightness of the output video in the projector. The luminance can be made approximately equal to the background luminance. This is based on the assumption that the energy of the projection light emitted from the projector is approximately proportional to the number of pixels that are turned on. That is, the amount of light emitted from the projector is controlled spatially (in terms of area) with binary image data, so that the pattern image designer mainly controls the pattern image.
これに対し、上述したように、中間階調の輝度は、DMDがオンとなる時間によって制御される。したがって、2値画像データでパターン画像を構築しない場合、歪み補正は、ブラックボックス化されているDMD制御側の設計に依存してしまい、プロジェクタやカメラ自身の階調特性の影響を受けてしまうという問題がある。これに対し、本実施形態に係るパターン画像を用いることにより、プロジェクタやカメラといった既に実装されている階調特性の都合に拘束されることなく、パターン画像の平均輝度を背景輝度に略一致させることができるのである。 On the other hand, as described above, the brightness of the intermediate gradation is controlled by the time when the DMD is turned on. Therefore, when a pattern image is not constructed with binary image data, distortion correction depends on the design on the DMD control side that is made into a black box, and is affected by the gradation characteristics of the projector and the camera itself. There's a problem. On the other hand, by using the pattern image according to the present embodiment, the average luminance of the pattern image can be made to substantially match the background luminance without being restricted by the convenience of already installed gradation characteristics such as a projector and a camera. Can do it.
次に、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正の動作を実行させるユーザインタフェースの例について説明する。図8は、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正の動作を実行させるユーザインタフェースの例を示す図である。 Next, an example of a user interface that executes an image distortion correction operation of an image processing unit that performs distortion correction incorporated in the projector constituting the image projection system according to the present embodiment will be described. FIG. 8 is a diagram illustrating an example of a user interface that executes an image distortion correction operation of an image processing unit that performs distortion correction incorporated in a projector included in the image projection system according to the present embodiment.
図8において、ユーザインタフェース40は主として、パターンのプレビューを表示するプレビュー表示領域52と、第1パターンを選択するスライダ41と、第2パターンを選択するスライダ43とで構成される。また、第1パターンの反転スイッチ45と、第2パターンの反転スイッチ46と、パターン投影指示ボタン47とで構成される。また、プレビュー表示領域52には、表示画像の拡大、縮小を指示するための、拡大ボタン48と、縮小ボタン49とが設けられている。
In FIG. 8, the
第1パターン及び第2パターンは、プレビュー表示領域52に表示される互いに千鳥配置関係になる第1パターン50及び第2パターン51に対応する。また、スライダ41には、5段階の選択位置が設定されており、ハンドル42で選択位置を示すことにより、左側から順に対応する図7に示した反転パターンの一つが選択される。
The first pattern and the second pattern correspond to the
ここで、反転スイッチ45がチェックされている場合には、図7のパターンがそのまま対応付けられる。同様にして、第2パターンは、スライダ43、ハンドル44、反転スイッチ46を用いて選択される。したがって、図8に示す状態では、第1パターン(パターン50)として、図7のパターン35bの反転パターンが選択され、第2パターン(パターン51)として、図7のパターン37bが選択される。
Here, when the reversing
また、投影指示ボタン47はトグルボタンであり、押下された場合、再び押されるまでの間、パターン画像を優先してプロジェクタ1から投影する。特に、このような切り替え動作は、パターン画像生成部17が図2に示すようにプロジェクタ1に組み込まれている場合、次のような手順を踏んで行われる。すなわち、PC7のユーザインタフェースからの指示を、通信手段15、指示部16を介して受けた映像信号入力部18の入力の切り替えによって行われる。一方、パターン画像の生成等をPC7側のユーティリティソフトウエア内で実現する場合は、PC7からプロジェクタ1に送出される映像信号そのものが切り換えられることになる。
The
最後に、図3のstep8において説明した欠損値の扱いについて図9を用いて補足説明する。図9は、本実施形態に係る画像投影システムを構成するプロジェクタに組み込まれた歪み補正を行う画像処理部の画像歪み補正の動作について説明する図である。図9(a)は、パターン配列の取得画像上の(x、y)座標値を、上から下、左から右の順で順次決定する過程において、(i、j+1)要素のパターンの取得に失敗した場合を示す図である。また、図9(b)は、千鳥配置で異なる2種類のパターンを配置した場合を示す図である。
Finally, the handling of the missing value described in
図9(a)に示すように、全パターンを同一のパターンで構成した場合、(i、j)要素から見て、まだ対応付けが確定していない要素であって最も(i、j)要素に近いものを(i、j+1)要素として対応付けた場合について検討する。そうすると、本来選択されるべき図9(a)の破線で示した対応付けに失敗してしまうという問題が生じてしまう。 As shown in FIG. 9 (a), when all patterns are composed of the same pattern, the element (i, j) that has not yet been determined as viewed from the (i, j) element is the most (i, j) element. Let us consider a case in which elements close to are associated as (i, j + 1) elements. If it does so, the problem that the matching shown with the broken line of Fig.9 (a) which should be selected will fail will arise.
これに対して、図9(b)に示すように、千鳥配置で異なる2種類のパターンを配置した場合であれば、最も(i、j)要素に近い未確定要素である(i、j+1)が、(i、j)要素と同パターンとなってしまう。このことから、容易に(i、j+1)のパターンが欠損していることを検出することが可能となる。この場合、既に確定している(i、j)、(i−1、j+1)、(i−1、j+2)の確定要素、及び先に検出された(i、j+1)に基づいて、欠損要素(i、j+1)を線形補間により推定することが可能となる。 On the other hand, as shown in FIG. 9B, when two different patterns are arranged in a staggered arrangement, the element is an undetermined element closest to the (i, j) element (i, j + 1). However, it becomes the same pattern as the (i, j) element. From this, it is possible to easily detect that the pattern (i, j + 1) is missing. In this case, based on the already determined (i, j), (i-1, j + 1), (i-1, j + 2) determined elements and the previously detected (i, j + 1), the missing elements (I, j + 1) can be estimated by linear interpolation.
欠損画素が周辺部の場合の補間処理は、上記図9で説明した補間処理とは異なってくるが、少数の欠損であれば、同じタイプのパターンが連続することは同様である。よって、欠損していることがアルゴリズムの早い段階で確定することにより、効率の良い欠損値の補間処理を実現することができる。 The interpolation process in the case where the missing pixel is a peripheral part is different from the interpolation process described with reference to FIG. 9, but the same type of pattern continues if there are a small number of defects. Therefore, the missing value can be determined at an early stage of the algorithm, whereby efficient missing value interpolation processing can be realized.
以上説明したように、本発明によれば、プロジェクタから投影されたパターン画像を補正するための入力手段により取得された単一の撮影されたパターン画像に対し、十分な平滑化処理を施している。これにより、パターン画像のピーク又はボトムを個別に識別するよりも以前に背景輝度の分布を抽出することが可能となる。 As described above, according to the present invention, sufficient smoothing processing is performed on a single captured pattern image acquired by the input means for correcting the pattern image projected from the projector. . This makes it possible to extract the background luminance distribution before identifying the peak or bottom of the pattern image individually.
また、撮影されたパターン画像に若干のパターン欠損が生じた場合であっても、周辺パターンとの関係から欠損パターンを類推し、補間することが容易となる。さらに、パターン配列を千鳥配列で構成することにより、2種類のパターンの輝度レンジを異なるものとして組み合わせている。これにより、取得されたパターン画像の局所コントラストを確保し、より安定なパターン検出が可能となる。 Further, even when a slight pattern defect occurs in the captured pattern image, it is easy to infer and interpolate the defect pattern from the relationship with the peripheral pattern. Furthermore, by configuring the pattern arrangement in a staggered arrangement, the luminance ranges of the two types of patterns are combined as different ones. Thereby, the local contrast of the acquired pattern image is ensured and the more stable pattern detection becomes possible.
また、パターンの平均輝度と背景輝度とを略一致させるパターンとして、同心円状の内径比率の設定に自由度を持たせることにより、より適切なコントラストを確保するためのパターンの最適化を図ることが可能となる。そして、パターン画像を2値画像として構成するため、プロジェクタやカメラにおける階調特性の設定値の影響を受けることなく、パターン画像の平均輝度と背景画像の平均輝度とを略等しくすることができる。さらに、最適なコントラストが得られるパターン画像を、プロジェクタの設置現場の状況に合わせてユーザ自身が調整することが可能となる。 In addition, as a pattern that substantially matches the average luminance of the pattern and the background luminance, it is possible to optimize the pattern in order to ensure more appropriate contrast by providing a degree of freedom in setting the concentric inner diameter ratio. It becomes possible. Since the pattern image is configured as a binary image, the average luminance of the pattern image and the average luminance of the background image can be made substantially equal without being affected by the setting value of the gradation characteristics in the projector or camera. Furthermore, the user can adjust the pattern image that provides the optimum contrast according to the situation of the projector installation site.
なお、図3に示した本実施形態に係る画像投影システムを構成する各機能ブロックの各動作は、コンピュータ上のプログラムに実行させることもできる。すなわち、プロジェクタ1内の図示しない制御部、又はPC7内の図示しないCPUが、ROM等の記憶媒体に格納されたプログラムをロードする。そして、プログラムの各処理ステップが順次実行されることによって実現される。
In addition, each operation | movement of each functional block which comprises the image projection system which concerns on this embodiment shown in FIG. 3 can also be made to perform the program on a computer. That is, a control unit (not shown) in the
本発明によれば、撮影されたパターン画像のコントラスト低下やノイズの重畳に対して、よりロバストな歪み検出をすることが可能な画像投影装置、画像投影システム、及び画像投影装置の制御方法が得られる。 According to the present invention, an image projection apparatus, an image projection system, and an image projection apparatus control method capable of performing more robust distortion detection with respect to contrast reduction and noise superposition of a captured pattern image are obtained. It is done.
以上、本発明の好適な実施形態により本発明を説明した。ここでは特定の具体例を示して本発明を説明したが、特許請求の範囲に定義された本発明の広範囲な趣旨及び範囲から逸脱することなく、これら具体例に様々な修正及び変更が可能である。 The present invention has been described above by the preferred embodiments of the present invention. While the invention has been described with reference to specific embodiments thereof, various modifications and changes can be made to these embodiments without departing from the broader spirit and scope of the invention as defined in the claims. is there.
1 プロジェクタ
2 スクリーン
4 カメラ
7 PC
8 ユーザ
9 投影画像
10 パターン画像
15 通信手段
16 指示部
17 パターン画像生成部
18 映像信号入力部
19 バッファ
20 幾何歪み検出部
21 画像歪み補正部
22 フレームメモリ
23 投影部
30 背景部
31、35、36、37、38 パターン
32 ピーク
33 ボトム
40 ユーザインタフェース
41、43 スライダ
42、44 ハンドル
45、46 反転スイッチ
47 パターン投影指示ボタン
48 拡大ボタン
49 縮小ボタン
50 第1パターン
51 第2パターン
52 プレビュー表示領域
1
DESCRIPTION OF
Claims (8)
所定のパターン形状から構成されるパターン画像を生成するパターン画像生成手段と、
前記パターン画像を前記投影面に投影する投影手段と、
前記投影面に投影された前記パターン画像を撮像する撮像手段と、
前記撮像されたパターン画像に基づいて画像信号の歪みを補正する補正パラメータを算出する幾何歪み検出手段と、
前記算出された補正パラメータに基づいて、前記画像信号入力手段から入力された画像信号を補正する画像歪み補正手段と、
を含み、
前記所定のパターン形状を構成するパターンの平均輝度と前記所定のパターン形状を構成する背景の輝度とが略等しく、
前記パターン画像は、最大輝度を有する第1の点を中心とする第1のパターン画像と、最小輝度を有する第2の点を中心とする第2のパターン画像と、前記最大輝度と前記最小輝度との中間の輝度を有する背景のパターン画像とから構成され、
前記所定のパターン形状は、前記第1のパターン画像と前記第2のパターン画像とが、前記背景のパターン画像に対して格子状に千鳥配列された繰り返し形状である
ことを特徴とする画像投影装置。 An image signal input means for inputting an image signal projected on the projection surface;
Pattern image generation means for generating a pattern image composed of a predetermined pattern shape;
Projecting means for projecting the pattern image onto the projection plane;
Imaging means for imaging the pattern image projected on the projection plane;
Geometric distortion detecting means for calculating a correction parameter for correcting distortion of an image signal based on the captured pattern image;
Image distortion correction means for correcting the image signal input from the image signal input means based on the calculated correction parameter;
Including
The predetermined pattern shape and the average luminance of the pattern constituting the luminance of the background constituting the predetermined pattern is substantially V equal,
The pattern image includes a first pattern image centered on a first point having a maximum brightness, a second pattern image centered on a second point having a minimum brightness, the maximum brightness, and the minimum brightness. And a background pattern image having an intermediate brightness,
The predetermined pattern shape is a repetitive shape in which the first pattern image and the second pattern image are arranged in a staggered pattern in a grid pattern with respect to the background pattern image. An image projection device.
前記画像投影装置は、
前記投影面に投影される画像信号を入力する画像信号入力手段と、
所定のパターン形状から構成されるパターン画像を前記投影面に投影する投影手段と、を含み、
前記撮像装置は、
前記投影面に投影された前記パターン画像を撮像する撮像手段を含み、
前記情報処理装置は、
前記パターン画像を生成するパターン画像生成手段と、
前記撮像されたパターン画像に基づいて画像信号の歪みを補正する補正パラメータを算出する幾何歪み検出手段と、
前記算出された補正パラメータに基づいて、前記画像信号入力手段から入力された画像信号を補正する画像歪み補正手段と、
を含み、
前記所定のパターン形状を構成するパターンの平均輝度と前記所定のパターン形状を構成する背景の輝度とが略等しく、
前記パターン画像は、最大輝度を有する第1の点を中心とする第1のパターン画像と、最小輝度を有する第2の点を中心とする第2のパターン画像と、前記最大輝度と前記最小輝度との中間の輝度を有する背景のパターン画像とから構成され、
前記所定のパターン形状は、前記第1のパターン画像と前記第2のパターン画像とが、前記背景のパターン画像に対して格子状に千鳥配列された繰り返し形状である
ことを特徴とする画像投影システム。 An image projection system comprising: an image projection device that projects an image on a projection surface; an information processing device that controls the operation of the image projection device; and an imaging device that captures an image projected on the projection surface,
The image projector is
Image signal input means for inputting an image signal projected onto the projection plane;
Projecting means for projecting a pattern image composed of a predetermined pattern shape onto the projection plane,
The imaging device
Including imaging means for imaging the pattern image projected on the projection plane;
The information processing apparatus includes:
Pattern image generation means for generating the pattern image;
Geometric distortion detecting means for calculating a correction parameter for correcting distortion of an image signal based on the captured pattern image;
Image distortion correction means for correcting the image signal input from the image signal input means based on the calculated correction parameter;
Only including,
The average luminance of the pattern constituting the predetermined pattern shape and the luminance of the background constituting the predetermined pattern shape are substantially equal,
The pattern image includes a first pattern image centered on a first point having a maximum brightness, a second pattern image centered on a second point having a minimum brightness, the maximum brightness, and the minimum brightness. And a background pattern image having an intermediate brightness,
The predetermined pattern shape is a repetitive shape in which the first pattern image and the second pattern image are arranged in a staggered pattern in a grid pattern with respect to the background pattern image. Image projection system.
投影面に投影される画像信号を入力する工程と、
所定のパターン形状から構成されるパターン画像を生成する工程と、
前記パターン画像を前記投影面に投影する工程と、
前記投影面に投影された前記パターン画像を撮像する工程と、
前記撮像する工程により撮像されたパターン画像に基づいて画像信号の歪みを補正する補正パラメータを算出する工程と、
前記算出する工程により算出された補正パラメータに基づいて、前記画像信号を入力する工程により入力された画像信号を補正する工程と、
前記所定のパターン形状を構成するパターンの平均輝度と前記所定のパターン形状を構成する背景の輝度とを略等しくする工程と、
を含み、
前記パターン画像は、最大輝度を有する第1の点を中心とする第1のパターン画像と、最小輝度を有する第2の点を中心とする第2のパターン画像と、前記最大輝度と前記最小輝度との中間の輝度を有する背景のパターン画像とから構成され、
前記所定のパターン形状は、前記第1のパターン画像と前記第2のパターン画像とが、前記背景のパターン画像に対して格子状に千鳥配列された繰り返し形状である
ことを特徴とする制御方法。 A method for controlling an image projection apparatus, comprising:
Inputting an image signal to be projected on the projection surface;
Generating a pattern image composed of a predetermined pattern shape;
Projecting the pattern image onto the projection plane;
Capturing the pattern image projected on the projection plane;
Calculating a correction parameter for correcting distortion of the image signal based on the pattern image imaged in the imaging step;
Correcting the image signal input by the step of inputting the image signal based on the correction parameter calculated by the step of calculating;
Making the average luminance of the pattern constituting the predetermined pattern shape substantially equal to the luminance of the background constituting the predetermined pattern shape;
Only including,
The pattern image includes a first pattern image centered on a first point having a maximum brightness, a second pattern image centered on a second point having a minimum brightness, the maximum brightness, and the minimum brightness. And a background pattern image having an intermediate brightness,
The predetermined pattern shape is a repetitive shape in which the first pattern image and the second pattern image are arranged in a staggered pattern in a grid pattern with respect to the background pattern image. Control method to do.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014047864A JP6398235B2 (en) | 2014-03-11 | 2014-03-11 | Image projection apparatus, image projection system, and control method for image projection apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014047864A JP6398235B2 (en) | 2014-03-11 | 2014-03-11 | Image projection apparatus, image projection system, and control method for image projection apparatus |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015173339A JP2015173339A (en) | 2015-10-01 |
JP6398235B2 true JP6398235B2 (en) | 2018-10-03 |
Family
ID=54260426
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014047864A Expired - Fee Related JP6398235B2 (en) | 2014-03-11 | 2014-03-11 | Image projection apparatus, image projection system, and control method for image projection apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6398235B2 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7003913B2 (en) | 2016-04-27 | 2022-01-21 | ソニーグループ株式会社 | Image projection device, projection imaging system and correction method |
JP2018125673A (en) * | 2017-01-31 | 2018-08-09 | ヤマハ株式会社 | Image processing apparatus and image projection system |
KR102585556B1 (en) * | 2020-12-29 | 2023-10-06 | 주식회사 와이즈오토모티브 | Apparatus for testing camera image distortion and method thereof |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5910157B2 (en) * | 2012-02-23 | 2016-04-27 | 株式会社リコー | Image projection device |
-
2014
- 2014-03-11 JP JP2014047864A patent/JP6398235B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2015173339A (en) | 2015-10-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5842694B2 (en) | Image processing apparatus, projector, and projector control method | |
JP6089424B2 (en) | Image processing apparatus, projector, and projector control method | |
JP5604909B2 (en) | Correction information calculation apparatus, image processing apparatus, image display system, and image correction method | |
JP4232042B2 (en) | Projection control system, projector, program, information storage medium, and projection control method | |
JP5256899B2 (en) | Image correction apparatus, image correction method, projector and projection system | |
JP5962080B2 (en) | Image processing apparatus, projector, and projector control method | |
US20070091334A1 (en) | Method of calculating correction data for correcting display characteristic, program for calculating correction data for correcting display characteristic and apparatus for calculating correction data for correcting display characteristic | |
JP2015226144A (en) | Image processing system, imaging apparatus, image processing method, and program | |
JP6812862B2 (en) | Image processing system, imaging device, image processing method and program | |
JP6056290B2 (en) | Image processing apparatus, projector, and image processing method | |
JP2012008522A (en) | Control device and projection type image display device | |
CN112929617A (en) | Projector control method, projector and display system | |
JP2016085380A (en) | Controller, control method, and program | |
JP6398235B2 (en) | Image projection apparatus, image projection system, and control method for image projection apparatus | |
CN109076186B (en) | Display system and information processing method | |
JP7342856B2 (en) | Information processing device, information processing method, program | |
JP6696596B2 (en) | Image processing system, imaging device, image processing method and program | |
JP2013153392A (en) | Image processing apparatus and image processing method, and program | |
JP2009217174A (en) | Adjustment device and adjustment method for video display system, geometric information acquisition method, and program | |
WO2018214284A1 (en) | Image photographing method applied to terminal, and terminal device | |
JP2010026202A (en) | Image correcting device, image correcting method, projector, and projection system | |
JP2022042408A (en) | Information processing device | |
WO2018225530A1 (en) | Image processing device, image processing method, program, and projector device | |
JP2004347775A (en) | Image processing system, projector, program, information storage medium and image processing method | |
JP2019022024A (en) | Image processing apparatus, image processing method, and image processing program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170220 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20170315 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171114 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180109 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180301 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180807 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180820 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6398235 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |