[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP5081020B2 - Liquid crystal display with built-in optical sensor - Google Patents

Liquid crystal display with built-in optical sensor Download PDF

Info

Publication number
JP5081020B2
JP5081020B2 JP2008055201A JP2008055201A JP5081020B2 JP 5081020 B2 JP5081020 B2 JP 5081020B2 JP 2008055201 A JP2008055201 A JP 2008055201A JP 2008055201 A JP2008055201 A JP 2008055201A JP 5081020 B2 JP5081020 B2 JP 5081020B2
Authority
JP
Japan
Prior art keywords
image data
touch input
liquid crystal
display panel
crystal display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008055201A
Other languages
Japanese (ja)
Other versions
JP2009211527A (en
Inventor
克良 平木
Original Assignee
エルジー ディスプレイ カンパニー リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by エルジー ディスプレイ カンパニー リミテッド filed Critical エルジー ディスプレイ カンパニー リミテッド
Priority to JP2008055201A priority Critical patent/JP5081020B2/en
Priority to KR1020080131028A priority patent/KR101002323B1/en
Publication of JP2009211527A publication Critical patent/JP2009211527A/en
Application granted granted Critical
Publication of JP5081020B2 publication Critical patent/JP5081020B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02FOPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
    • G02F1/00Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
    • G02F1/01Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour 
    • G02F1/13Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour  based on liquid crystals, e.g. single liquid crystal display cells
    • G02F1/133Constructional arrangements; Operation of liquid crystal cells; Circuit arrangements
    • G02F1/1333Constructional arrangements; Manufacturing methods
    • G02F1/13338Input devices, e.g. touch panels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0412Digitisers structurally integrated in a display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/36Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source using liquid crystals

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Nonlinear Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Crystallography & Structural Chemistry (AREA)
  • Liquid Crystal (AREA)
  • Mathematical Physics (AREA)
  • Optics & Photonics (AREA)
  • Computer Hardware Design (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Position Input By Displaying (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

An optical sensor liquid crystal display improving the detection degree of touch input to a display panel is provided to calculate the difference between reflecting light about fingers built in the liquid crystal display. A plurality of optical sensors(23) detects peripheral light which is income from the outside and reflection light by the touch input of a display panel(21). A driver circuit operates the pixel of the display panel. A timing controller(1) includes an image data output unit(14) controlling the operation of the driver circuit. According to the output signal from a plurality of optical sensors, a touch input detector(3) detects the touch input. A gamma change circuit changes image data into image data in which the luminance is higher than image data which is input to the timing controller.

Description

この発明は、光センサを用いて表示パネルへのタッチ入力を検出する光センサ内蔵液晶表示装置に関する。   The present invention relates to a photosensor built-in liquid crystal display device that detects a touch input to a display panel using a photosensor.

従来の液晶表示装置は、複数の画素がマトリクス状に配置された表示パネルと、表示パネル内にマトリクス状に配置された複数の光検出回路とを備えている。各光検出回路は、入射光を当該入射光の光強度に応じた光電流に変換するフォトセンサ(光センサ)を有している。この液晶表示装置は、フォトセンサからの出力に基づいて、表示パネルへのタッチ入力を検出している(例えば、特許文献1参照)。   A conventional liquid crystal display device includes a display panel in which a plurality of pixels are arranged in a matrix, and a plurality of photodetector circuits arranged in a matrix in the display panel. Each photodetection circuit has a photosensor (photosensor) that converts incident light into a photocurrent corresponding to the light intensity of the incident light. This liquid crystal display device detects a touch input to the display panel based on an output from a photosensor (see, for example, Patent Document 1).

図6は、例えば特許文献1に示された従来の液晶表示装置の液晶ディスプレイ50を抜粋して示す断面図である。
図6において、液晶ディスプレイ50は、2枚の透明な基板の間に液晶が充填されて形成された表示パネル51と、表示パネル51の背面側から光(破線矢印参照)を照射するバックライト52と、表示パネル51内に配置された複数のフォトセンサ53とを備えている。また、液晶ディスプレイ50は、表示パネル51に表示される画像を制御する表示制御部と、フォトセンサ53からの出力信号を処理してタッチ入力を検出するタッチ入力検出部とを含む制御装置(図示せず)に接続されている。
FIG. 6 is a cross-sectional view showing an excerpt of the liquid crystal display 50 of the conventional liquid crystal display device disclosed in Patent Document 1, for example.
In FIG. 6, a liquid crystal display 50 includes a display panel 51 formed by filling a liquid crystal between two transparent substrates, and a backlight 52 that emits light (see broken line arrows) from the back side of the display panel 51. And a plurality of photosensors 53 arranged in the display panel 51. Further, the liquid crystal display 50 includes a display control unit that controls an image displayed on the display panel 51 and a touch input detection unit that processes an output signal from the photosensor 53 and detects a touch input (see FIG. (Not shown).

ここで、例えばユーザが表示パネル51上に指を置くと、指に対応した部分において、フォトセンサ53に入射される周囲光(2点鎖線矢印参照)が遮断されるか、または、バックライト52からの光が反射してフォトセンサ53に入射される。
これにより、指に対応した部分におけるフォトセンサ53からの出力信号の輝度レベルが、他の部分における出力信号の輝度レベルと比べて変動する。タッチ入力検出部は、この出力信号の輝度レベル変動に基づいて、表示パネル51へのタッチ入力を検出する。
Here, for example, when the user puts a finger on the display panel 51, ambient light (refer to a two-dot chain line arrow) incident on the photosensor 53 is blocked at the portion corresponding to the finger or the backlight 52. Is reflected and is incident on the photosensor 53.
As a result, the luminance level of the output signal from the photosensor 53 in the portion corresponding to the finger varies as compared with the luminance level of the output signal in the other portion. The touch input detection unit detects a touch input to the display panel 51 based on the luminance level variation of the output signal.

タッチ入力検出部は、例えば周囲が明るい場合には、フォトセンサ53に入射するはずの周囲光が指によって遮断されて影になる部分、すなわち出力信号の輝度レベルが他の部分よりも低い部分を、表示パネル51へのタッチ入力と検出している。
周囲が明るい場合におけるフォトセンサ53からの出力信号を画像にしたものと、この画像中に図示した線でこの画像を切断した断面における出力信号の輝度レベルとを図7に示す。
図7より、ユーザの指が影になって現れていることが分かる。また、出力信号の輝度レベルが指に対応する部分で大きく変化していることが分かる。
For example, when the surroundings are bright, the touch input detection unit detects a portion where ambient light that should be incident on the photosensor 53 is blocked by a finger and becomes a shadow, that is, a portion where the luminance level of the output signal is lower than other portions. The touch input to the display panel 51 is detected.
FIG. 7 shows an image of the output signal from the photosensor 53 when the surroundings are bright, and the luminance level of the output signal in a cross section obtained by cutting the image with a line shown in the image.
FIG. 7 shows that the user's finger appears as a shadow. Also, it can be seen that the luminance level of the output signal changes greatly in the portion corresponding to the finger.

また、タッチ入力検出部は、例えば周囲が暗い場合には、バックライト52からの光が指によって反射している部分、すなわち出力信号の輝度レベルが他の部分よりも高い部分を、表示パネル51へのタッチ入力と検出している。
周囲が暗い場合におけるフォトセンサ53からの出力信号を画像にしたものと、この画像中に図示した線でこの画像を切断した断面における出力信号の輝度レベルとを図8に示す。
図8より、ユーザの指にバックライト52からの光が反射して明るくなっていることが分かる。また、出力信号の輝度レベルが指に対応する部分で大きく変化していることが分かる。
In addition, when the surroundings are dark, for example, the touch input detection unit displays a portion where the light from the backlight 52 is reflected by the finger, that is, a portion where the luminance level of the output signal is higher than the other portions. The touch input is detected.
FIG. 8 shows an image of the output signal from the photosensor 53 when the surroundings are dark, and the luminance level of the output signal in a cross section obtained by cutting the image with the lines shown in the image.
From FIG. 8, it can be seen that the light from the backlight 52 is reflected on the user's finger and becomes brighter. Also, it can be seen that the luminance level of the output signal changes greatly in the portion corresponding to the finger.

特開2007−94606号公報JP 2007-94606 A

しかしながら、従来技術には、次のような問題点があった。
すなわち、ユーザが表示パネル上に指を置いた際に、周囲光と指による反射光との差がない場合、例えば周囲が明るい場合に明るい画像を表示した場合や、周囲が暗い場合に暗い画像を表示した場合には、影とも反射とも判断できない領域が存在する。このような領域では、表示パネルへのタッチ入力を検出することができないという問題点があった。
However, the prior art has the following problems.
That is, when the user places a finger on the display panel, if there is no difference between the ambient light and the reflected light from the finger, for example, a bright image is displayed when the surrounding is bright, or a dark image is displayed when the surrounding is dark Is displayed, there is a region where neither shadow nor reflection can be determined. In such a region, there is a problem that it is impossible to detect a touch input to the display panel.

周囲光と指による反射光との差がない場合におけるフォトセンサからの出力信号を画像にしたものと、この画像中に図示した線でこの画像を切断した断面における出力信号の輝度レベルとを図9に示す。
図9より、ユーザの指は、影としても反射としても認識することができない。また、出力信号の輝度レベルも大きく変化している部分がなく、タッチ入力を検出することができない。
A graph showing the output signal from the photosensor when there is no difference between the ambient light and the reflected light from the finger, and the luminance level of the output signal in the cross section obtained by cutting the image with the line shown in the image 9 shows.
From FIG. 9, the user's finger cannot be recognized as a shadow or a reflection. In addition, there is no portion in which the luminance level of the output signal is greatly changed, and the touch input cannot be detected.

この発明は、上記のような課題を解決するためになされたものであって、その目的は、表示パネルへのタッチ入力の検出精度を向上させることができる光センサ内蔵液晶表示装置を提供することにある。   The present invention has been made to solve the above-described problems, and an object of the present invention is to provide a liquid crystal display device with a built-in optical sensor that can improve the detection accuracy of touch input to the display panel. It is in.

この発明に係る光センサ内蔵液晶表示装置は、表示パネル内に配置され、外部から入射する周囲光および表示パネルへのタッチ入力による反射光を検出する複数の光センサと、表示パネルの画素を駆動するためのドライバ回路と、ドライバ回路の動作を制御する画像データ出力手段を有するタイミングコントローラと、複数の光センサからの出力信号に基づいて、タッチ入力を検出するタッチ入力検出手段とを備え、タイミングコントローラは、タイミングコントローラに入力される画像データのクロック周波数をN(Nは2以上の整数)倍してN倍クロック周波数を生成するPLL回路と、画像データをフレームメモリに書き込むとともに、N倍クロック周波数により、フレームメモリに書き込まれた画像データをN回繰り返し読み込んで出力するN倍速回路と、N倍速回路からの互いに同一のN枚の画像データのうち、少なくとも2枚の画像データを、N枚の画像データを合成したときの輝度を保持したまま、タイミングコントローラに入力された画像データよりも輝度の高い画像データと輝度の低い画像データとに変更し、変更後のN枚の画像データとして出力するガンマ変更回路とをさらに有し、画像データ出力手段は、ガンマ変更回路からの変更後のN枚の画像データを、所望の出力タイミングでドライバ回路に出力し、タッチ入力検出手段は、変更後のN枚の画像データを用いて、タッチ入力を検出するものである。   An optical sensor built-in liquid crystal display device according to the present invention is arranged in a display panel, drives a plurality of optical sensors that detect ambient light incident from the outside and reflected light by touch input to the display panel, and pixels of the display panel And a timing controller having an image data output means for controlling the operation of the driver circuit, and a touch input detection means for detecting a touch input based on output signals from a plurality of optical sensors. The controller multiplies the clock frequency of the image data input to the timing controller by N (N is an integer equal to or greater than 2) to generate an N-times clock frequency, and writes the image data to the frame memory and N-times clock The image data written in the frame memory is read N times repeatedly according to the frequency. The N-speed circuit and the N-speed circuit from the N-speed circuit to the timing controller while maintaining the luminance when combining the N image data of at least two pieces of image data. The image data output means further includes a gamma change circuit that changes the image data to a higher brightness and lower brightness than the input image data and outputs the changed N image data. The N image data after the change from the change circuit is output to the driver circuit at a desired output timing, and the touch input detection means detects the touch input using the N image data after the change. is there.

この発明の光センサ内蔵液晶表示装置によれば、N倍速回路は、N倍クロック周波数により、フレームメモリに書き込まれた画像データをN回繰り返し読み込んで出力する。また、ガンマ変更回路は、N倍速回路からの互いに同一のN枚の画像データのうち、少なくとも2枚の画像データを、タイミングコントローラに入力された画像データよりも輝度の高い画像データと輝度の低い画像データとに変更する。このとき、N枚の画像データを合成したときの輝度は、タイミングコントローラに入力された画像データの輝度と等しくされている。また、タッチ入力検出手段は、タイミングコントローラに入力された画像データよりも輝度の高い画像データと輝度の低い画像データとを用いて、タッチ入力を検出する。
ここで、輝度の高い画像データを用いることにより、例えばユーザの指によって反射する反射光を強くすることができる。また、輝度の低い画像データを用いることにより、ユーザの指による影を濃くすることができる。
そのため、ユーザの目に見える輝度を変えることなく、ユーザが表示パネル上に指を置いた際の周囲光と指による反射光との間に差を設けることができ、表示パネルへのタッチ入力の検出精度を向上させることができる。
According to the photosensor built-in liquid crystal display device of the present invention, the N × speed circuit repeatedly reads and outputs the image data written in the frame memory N times at the N × clock frequency. In addition, the gamma changing circuit outputs at least two pieces of image data out of the same N pieces of image data from the N-times speed circuit as image data having higher brightness and lower brightness than the image data input to the timing controller. Change to image data. At this time, the luminance when N pieces of image data are combined is equal to the luminance of the image data input to the timing controller. The touch input detection means detects touch input using image data having higher brightness and image data having lower brightness than the image data input to the timing controller.
Here, by using image data with high brightness, for example, reflected light reflected by a user's finger can be strengthened. Further, by using image data with low brightness, the shadow of the user's finger can be increased.
Therefore, it is possible to provide a difference between the ambient light when the user places the finger on the display panel and the reflected light by the finger without changing the luminance that is visible to the user. Detection accuracy can be improved.

以下、この発明の各実施の形態について図に基づいて説明するが、各図において同一、または相当する部分については、同一符号を付して説明する。
なお、以下の実施の形態では、画像データが60Hzのクロック周波数でタイミングコントローラに入力される場合を例に挙げて説明するが、クロック周波数は、この値に限定されない。
Hereinafter, embodiments of the present invention will be described with reference to the drawings. In the drawings, the same or corresponding parts will be described with the same reference numerals.
In the following embodiments, a case where image data is input to the timing controller at a clock frequency of 60 Hz will be described as an example, but the clock frequency is not limited to this value.

実施の形態1.
図1は、この発明の実施の形態1に係る光センサ内蔵液晶表示装置を示す構成図である。
図1において、この光センサ内蔵液晶表示装置は、タイミングコントローラ1と、液晶ディスプレイ2と、タッチ入力検出部3(タッチ入力検出手段)とを備えている。
ここで、タイミングコントローラ1には、60Hzのクロック周波数で画像データが入力されている。
Embodiment 1 FIG.
FIG. 1 is a block diagram showing a photosensor built-in liquid crystal display device according to Embodiment 1 of the present invention.
In FIG. 1, the optical sensor built-in liquid crystal display device includes a timing controller 1, a liquid crystal display 2, and a touch input detection unit 3 (touch input detection means).
Here, image data is input to the timing controller 1 at a clock frequency of 60 Hz.

まず、タイミングコントローラ1の構成について説明する。
タイミングコントローラ1は、PLL(Phase Locked Loop)回路11と、2倍速回路12(N倍速回路)と、ガンマ変更回路13と、画像データ出力部14(画像データ出力手段)と、フレームメモリ15とを含んでいる。
なお、フレームメモリ15は、タイミングコントローラ1の外部に設けられてもよい。
First, the configuration of the timing controller 1 will be described.
The timing controller 1 includes a PLL (Phase Locked Loop) circuit 11, a double speed circuit 12 (N double speed circuit), a gamma change circuit 13, an image data output unit 14 (image data output means), and a frame memory 15. Contains.
The frame memory 15 may be provided outside the timing controller 1.

続いて、タイミングコントローラ1の機能について説明する。
PLL回路11は、タイミングコントローラ1に入力される画像データのクロック周波数を2倍して2倍クロック周波数を生成する。具体的には、60Hzの2倍の120Hzのクロック周波数を生成する。
2倍速回路12は、タイミングコントローラ1に入力される画像データを一旦フレームメモリ15に書き込む。また、2倍速回路12は、PLL回路11で生成された2倍クロック周波数(120Hz)により、フレームメモリ15に書き込まれた画像データを2回繰り返し読み込んで、ガンマ変更回路13に出力する。
Next, the function of the timing controller 1 will be described.
The PLL circuit 11 doubles the clock frequency of the image data input to the timing controller 1 to generate a double clock frequency. Specifically, a clock frequency of 120 Hz, which is twice 60 Hz, is generated.
The double speed circuit 12 once writes the image data input to the timing controller 1 in the frame memory 15. The double speed circuit 12 repeatedly reads the image data written in the frame memory 15 twice with the double clock frequency (120 Hz) generated by the PLL circuit 11 and outputs the image data to the gamma change circuit 13.

ガンマ変更回路13は、2倍速回路12からの互いに同一の2枚の画像データのうち、一方の画像データを、タイミングコントローラ1に入力された画像データよりも輝度の高い画像データ(以下、「明画像データ」と称する)に変更する。また、ガンマ変更回路13は、他方の画像データを、タイミングコントローラ1に入力された画像データよりも輝度の低い画像データ(以下、「暗画像データ」と称する)に変更する。   The gamma changing circuit 13 selects one of the two identical image data from the double speed circuit 12 as image data having a higher luminance than the image data input to the timing controller 1 (hereinafter “bright”). (Referred to as “image data”). Further, the gamma changing circuit 13 changes the other image data to image data having a lower luminance than the image data input to the timing controller 1 (hereinafter referred to as “dark image data”).

ここで、ガンマ変更回路13は、ルックアップテーブルを有しており、入力された画像データの輝度に応じて所定の輝度を加算または除算して、入力された画像データを明画像データおよび暗画像データに変更する。
このとき、明画像データおよび暗画像データは、明画像データと暗画像データとを合成したときの輝度が、タイミングコントローラ1に入力された画像データの輝度と等しくなるように変更される。
また、ガンマ変更回路13は、明画像データおよび暗画像データを、2倍クロック周波数(120Hz)で画像データ出力部14に出力する。
画像データ出力部14は、明画像データおよび暗画像データを、所望のタイミングで液晶ディスプレイ2に駆動制御信号として出力する。
Here, the gamma changing circuit 13 has a look-up table, and adds or divides a predetermined luminance according to the luminance of the input image data, and the input image data is converted into a bright image data and a dark image. Change to data.
At this time, the brightness of the bright image data and the dark image data is changed so that the brightness when the bright image data and the dark image data are combined is equal to the brightness of the image data input to the timing controller 1.
The gamma changing circuit 13 outputs the bright image data and the dark image data to the image data output unit 14 at a double clock frequency (120 Hz).
The image data output unit 14 outputs bright image data and dark image data to the liquid crystal display 2 as drive control signals at a desired timing.

次に、液晶ディスプレイ2の構成について説明する。
液晶ディスプレイ2は、2枚の透明な基板の間に液晶が充填されて形成された表示パネル21と、表示パネル21の背面側から光(破線矢印参照)を照射するバックライト22と、表示パネル21内に配置された複数のフォトセンサ23(光センサ)とを備えている。
Next, the configuration of the liquid crystal display 2 will be described.
The liquid crystal display 2 includes a display panel 21 that is formed by filling a liquid crystal between two transparent substrates, a backlight 22 that emits light (see broken line arrows) from the back side of the display panel 21, and a display panel. And a plurality of photosensors 23 (photosensors) arranged in 21.

表示パネル21は、マトリクス状に配置された複数の画素を有している。また、フォトセンサ23は、表示パネル21内にマトリクス状に配置されている。なお、フォトセンサ23の数は、複数の画素と同数であってもよいし、複数の画素より少ない数であってもよい。
また、液晶ディスプレイ2には、表示パネル21に配置された複数の画素を駆動するための図示しないゲートドライバ(ドライバ回路)およびソースドライバ(ドライバ回路)が設けられている。
The display panel 21 has a plurality of pixels arranged in a matrix. The photosensors 23 are arranged in a matrix in the display panel 21. Note that the number of photosensors 23 may be the same as the plurality of pixels or may be smaller than the plurality of pixels.
The liquid crystal display 2 is provided with a gate driver (driver circuit) and a source driver (driver circuit) (not shown) for driving a plurality of pixels arranged on the display panel 21.

続いて、液晶ディスプレイ2の機能について説明する。
表示パネル21は、タイミングコントローラ1からゲートドライバおよびソースドライバに入力される駆動制御信号に応じて、明画像データおよび暗画像データに対応した画像を表示する。
このとき、明画像データおよび暗画像データは、2倍クロック周波数(120Hz)で出力されているので、ユーザの目には、タイミングコントローラ1に入力された画像データの輝度と同じ輝度で画像が表示されているように見える。
Next, functions of the liquid crystal display 2 will be described.
The display panel 21 displays an image corresponding to bright image data and dark image data in accordance with drive control signals input from the timing controller 1 to the gate driver and source driver.
At this time, since the bright image data and the dark image data are output at the double clock frequency (120 Hz), an image is displayed with the same brightness as the brightness of the image data input to the timing controller 1 to the user's eyes. Looks like it has been.

また、前述のように、例えばユーザが表示パネル21上に指を置くと、指に対応した部分において、フォトセンサ23に入射される周囲光(2点鎖線矢印参照)が遮断されるか、または、バックライト22からの光が反射してフォトセンサ23に入射される。このとき、フォトセンサ23は、入射光を入射光の光強度に応じた電流に変換し、出力信号をタイミングコントローラ1に出力する。   Further, as described above, for example, when the user places a finger on the display panel 21, ambient light (see a two-dot chain line arrow) incident on the photosensor 23 is blocked at a portion corresponding to the finger, or The light from the backlight 22 is reflected and incident on the photosensor 23. At this time, the photosensor 23 converts the incident light into a current corresponding to the light intensity of the incident light, and outputs an output signal to the timing controller 1.

タッチ入力検出部3は、液晶ディスプレイ2に設けられた複数のフォトセンサ23からの出力信号に基づいて、液晶ディスプレイ2の表示パネル21へのタッチ入力を検出し、例えばタッチ座標を出力する。なお、タッチ入力検出部3によるタッチ入力の検出は、上記背景技術で示したタッチ入力検出部と同様の処理によって実行される。   The touch input detection unit 3 detects touch input to the display panel 21 of the liquid crystal display 2 based on output signals from a plurality of photosensors 23 provided on the liquid crystal display 2, and outputs, for example, touch coordinates. The touch input detection by the touch input detection unit 3 is executed by the same process as the touch input detection unit described in the background art.

ここで、本願発明者は、ユーザが表示パネル21上に指を置いた際に、周囲光と指による反射光との差がない場合において、画像データを明画像データおよび暗画像データに変更し、タッチ入力を検出する実験を実施した。
実験方法は、以下の通りである。
Here, when the user places a finger on the display panel 21, the inventor changes the image data to bright image data and dark image data when there is no difference between ambient light and reflected light from the finger. An experiment to detect touch input was conducted.
The experimental method is as follows.

まず、画像データの輝度を256段階(0〜255)中の128段階目に設定した均一輝度画面(以下、「背景128/255ベタ画面」と称する)において、周囲の照度を調整し、タッチ入力を検出することができないタッチ検出不能照度に設定した。
背景128/255ベタ画面におけるフォトセンサ23からの出力信号を画像にしたものと、この画像中に図示した線でこの画像を切断した断面における出力信号の輝度レベルとを図2に示す。
図2より、ユーザの指は、影としても反射としても認識することができない。また、出力信号の輝度レベルも大きく変化している部分がなく、タッチ入力を検出することができない。
First, on the uniform luminance screen (hereinafter referred to as “background 128/255 solid screen”) in which the brightness of the image data is set at the 128th step in 256 steps (0 to 255), the ambient illuminance is adjusted, and touch input is performed. The illuminance is set so that the touch cannot be detected.
FIG. 2 shows an output signal from the photosensor 23 on the background 128/255 solid screen as an image and the luminance level of the output signal in a cross section obtained by cutting the image along the line shown in the image.
From FIG. 2, the user's finger cannot be recognized as a shadow or a reflection. In addition, there is no portion in which the luminance level of the output signal is greatly changed, and the touch input cannot be detected.

続いて、同じ照度条件において、画像データの輝度を背景128/255ベタ画面よりも高くして、背景255/255ベタ画面(明画像データ)に変更した。
背景255/255ベタ画面におけるフォトセンサ23からの出力信号を画像にしたものと、この画像中に図示した線でこの画像を切断した断面における出力信号の輝度レベルとを図3に示す。
図3より、ユーザの指にバックライト22からの光が反射して明るくなっていることが分かる。また、出力信号の輝度レベルが指に対応する部分で大きく変化していることが分かる(丸印参照)。
Subsequently, under the same illuminance conditions, the brightness of the image data was made higher than that of the background 128/255 solid screen and changed to the background 255/255 solid screen (bright image data).
FIG. 3 shows an output signal from the photosensor 23 on the background 255/255 solid screen as an image and the luminance level of the output signal in a cross section obtained by cutting the image along the line shown in the image.
FIG. 3 shows that the light from the backlight 22 is reflected on the user's finger and becomes brighter. In addition, it can be seen that the luminance level of the output signal changes greatly in the portion corresponding to the finger (see circle).

次に、同じ照度条件において、画像データの輝度を背景128/255ベタ画面よりも低くして、背景0/255ベタ画面(暗画像データ)に変更した。
背景0/255ベタ画面におけるフォトセンサ23からの出力信号を画像にしたものと、この画像中に図示した線でこの画像を切断した断面における出力信号の輝度レベルとを図4に示す。
図4より、ユーザの指が影になって現れていることが分かる。また、出力信号の輝度レベルが指に対応する部分で大きく変化していることが分かる(丸印参照)。
Next, under the same illuminance conditions, the brightness of the image data was made lower than that of the background 128/255 solid screen and changed to the background 0/255 solid screen (dark image data).
FIG. 4 shows an output signal from the photosensor 23 on the background 0/255 solid screen as an image and the luminance level of the output signal in a cross section obtained by cutting the image along the line shown in the image.
From FIG. 4, it can be seen that the user's finger appears as a shadow. In addition, it can be seen that the luminance level of the output signal changes greatly in the portion corresponding to the finger (see circle).

この実験結果を模式的に示すと、図5のようになる。
図5において、60Hzの画像データは、背景128/255ベタ画面を示している。また、120Hzの明画像データおよび暗画像データは、それぞれ背景255/255ベタ画面および背景0/255ベタ画面を示している。
The result of this experiment is schematically shown in FIG.
In FIG. 5, the image data of 60 Hz indicates a background 128/255 solid screen. The 120 Hz bright image data and dark image data indicate a background 255/255 solid screen and a background 0/255 solid screen, respectively.

図5より、背景128/255ベタ画面において、周囲の照度をタッチ検出不能照度に設定した場合には、出力信号の輝度レベルがフラットであり、タッチ入力を検出することができない。また、同じ照度条件において、背景128/255ベタ画面を255/255ベタ画面および背景0/255ベタ画面に変更した場合には、出力信号の輝度レベルに変化が生じ、タッチ入力を検出することができる。   As shown in FIG. 5, when the ambient illuminance is set to the touch undetectable illuminance on the background 128/255 solid screen, the luminance level of the output signal is flat and the touch input cannot be detected. In addition, when the background 128/255 solid screen is changed to a 255/255 solid screen and a background 0/255 solid screen under the same illuminance conditions, a change occurs in the luminance level of the output signal, and touch input can be detected. it can.

すなわち、60Hzのクロック周波数で入力される画像データを明画像データおよび暗画像データに変更し、120Hzのクロック周波数で出力することにより、ユーザの目に見える輝度を変えることなく、タッチ入力を検出することができる。   That is, by changing the image data input at a clock frequency of 60 Hz to bright image data and dark image data and outputting the image data at a clock frequency of 120 Hz, touch input is detected without changing the luminance visible to the user. be able to.

この発明の実施の形態1に係る光センサ内蔵液晶表示装置によれば、2倍速回路12は、2倍クロック周波数により、フレームメモリ15に書き込まれた画像データを2回繰り返し読み込んで出力する。ガンマ変更回路13は、2倍速回路12からの互いに同一の2枚の画像データのうち、一方の画像データを、タイミングコントローラ1に入力された画像データよりも輝度の高い明画像データに変更する。また、ガンマ変更回路13は、他方の画像データを、タイミングコントローラ1に入力された画像データよりも輝度の低い暗画像データに変更する。このとき、明画像データおよび暗画像データは、明画像データと暗画像データとを合成したときの輝度が、タイミングコントローラ1に入力された画像データの輝度と等しくなるように変更されている。また、タッチ入力検出部3は、明画像データおよび暗画像データを用いてタッチ入力を検出する。
ここで、明画像データを用いることにより、ユーザの指によって反射する反射光を強くすることができる。また、暗画像データを用いることにより、ユーザの指による影を濃くすることができる。
そのため、ユーザの目に見える輝度を変えることなく、ユーザが表示パネル21上に指を置いた際の周囲光と指による反射光との間に差を設けることができ、表示パネル21へのタッチ入力の検出精度を向上させることができる。
According to the optical sensor built-in liquid crystal display device according to the first embodiment of the present invention, the double speed circuit 12 repeatedly reads and outputs the image data written in the frame memory 15 at the double clock frequency. The gamma changing circuit 13 changes one of the two identical image data from the double speed circuit 12 to bright image data having higher luminance than the image data input to the timing controller 1. Further, the gamma changing circuit 13 changes the other image data to dark image data having lower luminance than the image data input to the timing controller 1. At this time, the brightness of the bright image data and the dark image data is changed so that the brightness when the bright image data and the dark image data are combined is equal to the brightness of the image data input to the timing controller 1. The touch input detection unit 3 detects touch input using the bright image data and the dark image data.
Here, by using the bright image data, the reflected light reflected by the user's finger can be strengthened. Further, by using the dark image data, it is possible to darken the shadow by the user's finger.
Therefore, it is possible to provide a difference between the ambient light when the user places the finger on the display panel 21 and the reflected light by the finger without changing the luminance visible to the user. Input detection accuracy can be improved.

なお、上記実施の形態1では、PLL回路11でクロック周波数を2倍にする場合について示したが、これに限定されない。
PLL回路11は、クロック周波数を3倍以上にしてもよい。このとき、フレームメモリ15に書き込まれた画像データは、3倍以上にされたクロック周波数に応じて繰り返し読み込まれてガンマ変更回路13に出力される。
また、ガンマ変更回路13は、入力された複数の同一の画像データのうち、少なくとも2枚の画像データを、明画像データおよび暗画像データに変更する。具体的には、例えばクロック周波数が3倍にされた場合において、ガンマ変更回路13は、1枚の画像データを明画像データに変更し、もう1枚の画像データを暗画像データに変更し、残り1枚の画像データは輝度を変更せずにそのまま出力する。
PLL回路11がクロック周波数を3倍以上にする場合には、よりユーザの目に見える輝度を変えることなく表示パネル21の表示を切り替えることができる。
In the first embodiment, the case where the clock frequency is doubled in the PLL circuit 11 has been described. However, the present invention is not limited to this.
The PLL circuit 11 may increase the clock frequency by three times or more. At this time, the image data written in the frame memory 15 is repeatedly read according to the clock frequency that has been tripled or more and output to the gamma changing circuit 13.
Further, the gamma changing circuit 13 changes at least two pieces of image data among the plurality of inputted same image data to bright image data and dark image data. Specifically, for example, when the clock frequency is tripled, the gamma changing circuit 13 changes one image data to bright image data, and the other image data to dark image data. The remaining image data is output as it is without changing the luminance.
When the PLL circuit 11 increases the clock frequency by three times or more, the display on the display panel 21 can be switched without changing the luminance visible to the user.

この発明の実施の形態1に係る光センサ内蔵液晶表示装置を示す構成図である。It is a block diagram which shows the liquid crystal display device with a built-in optical sensor which concerns on Embodiment 1 of this invention. 背景128/255ベタ画面におけるフォトセンサからの出力信号、および出力信号の輝度レベルを示す説明図である。It is explanatory drawing which shows the output signal from the photo sensor in the background 128/255 solid screen, and the luminance level of an output signal. 背景255/255ベタ画面におけるフォトセンサからの出力信号、および出力信号の輝度レベルを示す説明図である。It is explanatory drawing which shows the output signal from the photosensor in the background 255/255 solid screen, and the luminance level of an output signal. 背景0/255ベタ画面におけるフォトセンサからの出力信号、および出力信号の輝度レベルを示す説明図である。It is explanatory drawing which shows the output signal from the photo sensor in the background 0/255 solid screen, and the luminance level of an output signal. 画像データを明画像データおよび暗画像データに変更し、タッチ入力を検出する実験を実施した結果を示す模式図である。It is a schematic diagram which shows the result of having implemented the experiment which changes image data into bright image data and dark image data, and detects a touch input. 従来の液晶表示装置の液晶ディスプレイを抜粋して示す断面図である。It is sectional drawing which extracts and shows the liquid crystal display of the conventional liquid crystal display device. 周囲が明るい場合におけるフォトセンサからの出力信号、および出力信号の輝度レベルを示す説明図である。It is explanatory drawing which shows the luminance level of the output signal from a photosensor in case the periphery is bright, and an output signal. 周囲が暗い場合におけるフォトセンサからの出力信号、および出力信号の輝度レベルを示す説明図である。It is explanatory drawing which shows the luminance level of the output signal from a photosensor in case the periphery is dark, and an output signal. 周囲光と指による反射光との差がない場合におけるフォトセンサからの出力信号、および出力信号の輝度レベルを示す説明図である。It is explanatory drawing which shows the output signal from a photosensor in case there is no difference with ambient light and the reflected light by a finger | toe, and the luminance level of an output signal.

符号の説明Explanation of symbols

1 タイミングコントローラ、2 液晶ディスプレイ、3 タッチ入力検出部(タッチ入力検出手段)、11 PLL回路、12 2倍速回路(N倍速回路)、13 ガンマ変更回路、14 画像データ出力部(画像データ出力手段)、15 フレームメモリ、21 表示パネル、22 バックライト、23 フォトセンサ(光センサ)。   DESCRIPTION OF SYMBOLS 1 Timing controller, 2 Liquid crystal display, 3 Touch input detection part (touch input detection means), 11 PLL circuit, 12 Double speed circuit (N speed circuit), 13 Gamma change circuit, 14 Image data output part (Image data output means) , 15 frame memory, 21 display panel, 22 backlight, 23 photosensor (light sensor).

Claims (3)

表示パネル内に配置され、外部から入射する周囲光および前記表示パネルへのタッチ入力による反射光を検出する複数の光センサと、
前記表示パネルの画素を駆動するためのドライバ回路と、
前記ドライバ回路の動作を制御する画像データ出力手段を有するタイミングコントローラと、
前記複数の光センサからの出力信号に基づいて、前記タッチ入力を検出するタッチ入力検出手段と、を備え、
前記タイミングコントローラは、
前記タイミングコントローラに入力される画像データのクロック周波数をN(Nは2以上の整数)倍してN倍クロック周波数を生成するPLL回路と、
前記画像データをフレームメモリに書き込むとともに、前記N倍クロック周波数により、前記フレームメモリに書き込まれた前記画像データをN回繰り返し読み込んで出力するN倍速回路と、
前記N倍速回路からの互いに同一のN枚の前記画像データのうち、少なくとも2枚の画像データを、前記N枚の画像データを合成したときの輝度を保持したまま、前記タイミングコントローラに入力された前記画像データよりも輝度の高い画像データと輝度の低い画像データとに変更し、変更後のN枚の画像データとして出力するガンマ変更回路と、をさらに有し、
前記画像データ出力手段は、前記ガンマ変更回路からの前記変更後のN枚の画像データを、所望の出力タイミングで前記ドライバ回路に出力し、
前記タッチ入力検出手段は、前記変更後のN枚の画像データを用いて、前記タッチ入力を検出すること
を特徴とする光センサ内蔵液晶表示装置。
A plurality of optical sensors arranged in the display panel for detecting ambient light incident from the outside and reflected light by touch input to the display panel;
A driver circuit for driving the pixels of the display panel;
A timing controller having image data output means for controlling the operation of the driver circuit;
Touch input detection means for detecting the touch input based on output signals from the plurality of optical sensors,
The timing controller is
A PLL circuit that generates N times the clock frequency by multiplying the clock frequency of the image data input to the timing controller by N (N is an integer of 2 or more);
Writing the image data into the frame memory, and N-times speed circuit for repeatedly reading and outputting the image data written in the frame memory N times at the N-times clock frequency;
Among the N pieces of the same image data from the N double speed circuit, at least two pieces of image data are input to the timing controller while maintaining the brightness when the N pieces of image data are combined. A gamma change circuit that changes the image data to be higher and lower in brightness than the image data, and outputs the changed image data as N pieces of image data.
The image data output means outputs the N pieces of image data after the change from the gamma change circuit to the driver circuit at a desired output timing,
The liquid crystal display device with a built-in optical sensor, wherein the touch input detection means detects the touch input using the N pieces of image data after the change.
前記光センサは、前記周囲光および前記反射光を光強度に応じた電流に変換するフォトセンサであることを特徴とする請求項1に記載の光センサ内蔵液晶表示装置。   The liquid crystal display device with a built-in optical sensor according to claim 1, wherein the optical sensor is a photosensor that converts the ambient light and the reflected light into a current corresponding to light intensity. 前記Nは、2であることを特徴とする請求項1または請求項2に記載の光センサ内蔵液晶表示装置。   3. The liquid crystal display device with a built-in optical sensor according to claim 1, wherein the N is two.
JP2008055201A 2008-03-05 2008-03-05 Liquid crystal display with built-in optical sensor Expired - Fee Related JP5081020B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008055201A JP5081020B2 (en) 2008-03-05 2008-03-05 Liquid crystal display with built-in optical sensor
KR1020080131028A KR101002323B1 (en) 2008-03-05 2008-12-22 Liquid Crystal Display Device with Built-in Optical Sensor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008055201A JP5081020B2 (en) 2008-03-05 2008-03-05 Liquid crystal display with built-in optical sensor

Publications (2)

Publication Number Publication Date
JP2009211527A JP2009211527A (en) 2009-09-17
JP5081020B2 true JP5081020B2 (en) 2012-11-21

Family

ID=41184591

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008055201A Expired - Fee Related JP5081020B2 (en) 2008-03-05 2008-03-05 Liquid crystal display with built-in optical sensor

Country Status (2)

Country Link
JP (1) JP5081020B2 (en)
KR (1) KR101002323B1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8823671B2 (en) 2010-04-01 2014-09-02 Sharp Kabushiki Kaisha Display device with touch sensor
US20130016057A1 (en) * 2010-04-01 2013-01-17 Tomohiko Nishimura Touch-sensor-equipped display device

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4377013B2 (en) * 1999-11-18 2009-12-02 國寛 渡辺 Solid-state imaging device and solid-state imaging device
JP4153193B2 (en) * 2001-11-02 2008-09-17 株式会社タムラ製作所 Signal generation apparatus and image system
JP4257221B2 (en) * 2003-03-31 2009-04-22 東芝松下ディスプレイテクノロジー株式会社 Display device and information terminal device
JP4510738B2 (en) * 2005-09-28 2010-07-28 株式会社 日立ディスプレイズ Display device

Also Published As

Publication number Publication date
KR101002323B1 (en) 2010-12-20
KR20090095451A (en) 2009-09-09
JP2009211527A (en) 2009-09-17

Similar Documents

Publication Publication Date Title
TWI423198B (en) Display apparatus and method for adjusting gray-level of screen image depending on environment illumination
JP5347035B2 (en) Display device with optical sensor
JP5072087B2 (en) Liquid crystal display device and liquid crystal display method
US9626916B2 (en) Display driver
JP5631565B2 (en) Display device
KR20090097123A (en) Display apparatus and position detecting method
WO2017113343A1 (en) Method for adjusting backlight brightness and terminal
JP2001350134A (en) Liquid crystal display device
JP2010197570A (en) Liquid crystal display device
JPWO2012108095A1 (en) LIGHT EMITTING CONTROL DEVICE AND METHOD, LIGHT EMITTING DEVICE, IMAGE DISPLAY DEVICE, PROGRAM, AND RECORDING MEDIUM
TWI418976B (en) Display power saving method and electronic system
JP2009031666A (en) Display device with integrated touch panel
JP2009157605A (en) Display device and method, program, and electronic device
US11289037B2 (en) Image processing device, display device, and image processing method
JP5081020B2 (en) Liquid crystal display with built-in optical sensor
KR101665132B1 (en) Apparatus and mehtod for image qualtiy improving in image display device
US11328680B2 (en) Image processing device and liquid crystal display device
EP2337012B1 (en) Display apparatus comprising a backlight and method of driving the same
JP4588936B2 (en) Liquid crystal display device and automatic dimming control method thereof
EP2863381A1 (en) Display device, display method, and program
JPWO2014030496A1 (en) Liquid crystal display
KR102200833B1 (en) Liquid Crystal Display Device
JP2010182062A (en) Electrooptical device and electronic apparatus
JP4457548B2 (en) Image display apparatus, control method thereof, and control program
KR101548493B1 (en) Liquid crystal display device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110127

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120828

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120831

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150907

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5081020

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees