[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6641763B2 - 表示システム - Google Patents

表示システム Download PDF

Info

Publication number
JP6641763B2
JP6641763B2 JP2015153170A JP2015153170A JP6641763B2 JP 6641763 B2 JP6641763 B2 JP 6641763B2 JP 2015153170 A JP2015153170 A JP 2015153170A JP 2015153170 A JP2015153170 A JP 2015153170A JP 6641763 B2 JP6641763 B2 JP 6641763B2
Authority
JP
Japan
Prior art keywords
image data
display
unit
image
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015153170A
Other languages
English (en)
Other versions
JP2017034494A (ja
Inventor
小林 伸一
伸一 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2015153170A priority Critical patent/JP6641763B2/ja
Priority to US15/213,939 priority patent/US10334169B2/en
Publication of JP2017034494A publication Critical patent/JP2017034494A/ja
Application granted granted Critical
Publication of JP6641763B2 publication Critical patent/JP6641763B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、表示システムに関する。
表示システムの一つとして、画像を撮影して表示する技術が表示する技術が知られている(例えば、特許文献1,2)。
特開2012−160898号公報 特開2012−023768号公報
特許文献1の技術では、作業者の頭部に装着されるヘッドマウントディスプレイと、表示装置とを備える遠隔支援システムが開示されている。この遠隔支援システムは、ヘッドマウントディスプレイが備えるカメラによって撮像された対象物を遠隔のモニター装置に表示させる。特許文献1の技術では、作業者が首を傾けた場合でも表示装置に表示される対象物の傾きを抑制するために、撮像された画像データーに対して傾き補正を行っている。
また、特許文献2の技術では、撮像装置が閾値を越える加速度で移動していると判定された場合に、撮像装置の撮像部のフレームレートを低下させている。
撮像部とは異なる場所に位置する表示装置に動画像を表示させる場合において、撮影者の意図しない動きによって、動画像が揺れているように表示装置に表示される場合がある。この場合、以下に例示するように、動画像が揺れているように表示されることに起因する種々の不具合が生じ得る。例えば、表示装置に表示された動画像を見る者が映像酔いを起こすという不具合があった。また例えば、表示装置に表示された動画像中の対象物を正確に把握できないという不具合があった。
一方で、撮像部の揺れを検出して、検出した揺れをキャンセルするように動画像データーを補正して表示装置に表示させることで、上記の不具合の発生を低減することが考えられる。しかしながら、検出した揺れをキャンセルするように動画像データーを補正する場合、撮影者が意図して撮像部を動かした場合においても動画像が補正されるため、実際に取得したい動画像とは異なる動画像が表示装置に表示されるという問題があった。
このほか、表示システムにおいて、小型化、低コスト化、省電力化、製造の容易化、使い勝手の向上等が望まれている。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。
[形態1]
表示システムであって、画像を撮像する撮像部と、前記撮像部が撮像した前記画像をフレーム画像データーとして記憶する記憶部と、前記撮像部の動きを検出するためのセンサーと、前記フレーム画像データーが表す前記画像の所定の切出領域を切り出して表示用画像データーを生成するデーター処理部と、前記表示用画像データーを表示装置に送信するデーター送信部と、を備え、前記データー処理部は、前記センサーにより検出された前記撮像部の動きが、所定の条件を満たす場合は、前記フレーム画像データーを切り出すための前記切出領域の位置を規定する規定位置を予め設定された基準切出位置に設定して前記フレーム画像データーから前記表示用画像データーを生成し、前記動きが前記所定の条件を満たさない場合は、基準位置からの前記撮像部の動きとは反対の方向に前記規定位置を前記基準切出位置からずらして前記フレーム画像データーから前記表示用画像データーを生成し、前記データー処理部は、前記所定の条件を満たさない場合に生成された前記表示用画像データーとしての第1の表示用画像データーが表す第1画像の後に、前記所定の条件を満たす場合に生成された前記表示用画像データーとしての第2の表示用画像データーが表す第2画像が前記表示装置に表示される場合に、前記第1画像と前記第2画像との差分を補間する補間表示用画像データーを生成する補間処理部を含み、前記補間処理部は、時系列に並んだ前記第1の表示用画像データーと前記第2の表示用画像データーとの間に前記補間表示用画像データーを挿入する、表示システム。
この形態によれば、対象物を含む動画像を表示装置に表示させつつ、所定の条件を満たさない撮像部の動きに起因した表示装置に表示される画像の揺れを低減できる。また、この形態によれば、時系列に並んだ第1の画像と第2の画像との間に補間画像が挿入されて表示装置に表示されるため、表示装置に表示された画像の内容が突然に切り替わることを抑制できる。
[形態2]
表示システムであって、画像を撮像する撮像部と、前記撮像部の動きを検出するためのセンサーと、前記画像の所定の切出領域を切り出して表示用画像データーを生成するデーター処理部と、前記表示用画像データーを表示装置に送信するデーター送信部と、を備え、前記データー処理部は、前記センサーにより検出された前記撮像部の動きが、所定の条件を満たす場合は、前記画像を切り出すための前記切出領域の位置を規定する規定位置を予め設定された基準切出位置に設定して前記表示用画像データーを生成し、前記動きが前記所定の条件を満たさない場合は、基準位置からの前記撮像部の動きとは反対の方向に前記規定位置を前記基準切出位置からずらして前記表示用画像データーを生成し、前記データー処理部は、前記所定の条件を満たさない場合に生成された前記表示用画像データーとしての第1の表示用画像データーが表す第1画像の後に、前記所定の条件を満たす場合に生成された前記表示用画像データーとしての第2の表示用画像データーが表す第2画像が前記表示装置に表示される場合に、前記第1画像と前記第2画像との差分を補間する補間表示用画像データーを生成する補間処理部を含み、前記補間処理部は、時系列に並んだ前記第1の表示用画像データーと前記第2の表示用画像データーとの間に前記補間表示用画像データーを挿入し、前記表示システムは、さらに、前記撮像部と前記画像に含まれる所定の対象物との距離を検出する距離検出部を有し、前記データー処理部は、さらに、前記距離検出部が検出した前記距離に応じて前記切出領域の大きさを変化させる切出領域設定部を有し、前記データー処理部の前記切出領域設定部は、前記距離が大きいほど前記切出領域を大きくする、表示システム。
この形態によれば、対象物を含む動画像を表示装置に表示させつつ、所定の条件を満たさない撮像部の動きに起因した表示装置に表示される画像の揺れを低減できる。またこの形態によれば、距離検出部が検出した距離に応じて切出領域の大きさを変えることができる。具体的には、表示部に表示される対象物の大きさが大きく変動することを抑制できる。また、この形態によれば、時系列に並んだ第1の画像と第2の画像との間に補間画像が挿入されて表示装置に表示されるため、表示装置に表示された画像の内容が突然に切り替わることを抑制できる。
(1)本発明の一形態によれば、表示システムが提供される。この表示システムは、画像を撮像する撮像部と、前記撮像部の動きを検出するためのセンサーと、前記画像の所定の切出領域を切り出して表示用画像データーを生成するデーター処理部と、前記表示用画像データーを表示装置に送信するデーター送信部と、を備え、前記データー処理部は、前記センサーにより検出された前記撮像部の動きが、所定の条件を満たす場合は、前記フレーム画像を切り出すための前記切出領域の規定位置を予め設定された基準切出位置に設定して前記表示用画像データーを生成し、前記動きが前記所定の条件を満たさない場合は、基準位置からの前記撮像部の動きとは反対の方向に前記規定位置を前記基準切出位置からずらして前記表示用画像データーを生成する。この形態によれば、対象物を含む動画像を表示装置に表示させつつ、所定の条件を満たさない撮像部の動きに起因した表示装置に表示される画像の揺れを低減できる。なお、本明細書において、データー処理部が画像を切り出す態様として、画像データーから表示用画像データーとして用いるデーターを読み出す態様も含む。
(2)上記形態の表示システムであって、前記所定の条件は、前記基準位置からの前記撮像部の移動量が連続して所定の時間以上だけ所定の閾値以上であるという条件であっても良い。この形態によれば、所定の時間よりも短い時間に生じた所定の閾値以上の撮像部の動きは表示装置に表示される画像に反映されないため、表示装置に表示される画像の揺れをさらに低減できる。
(3)上記形態の表示システムであって、前記データー処理部は、前記所定の条件を満たさない場合に生成された第1の前記表示用画像データーが表す第1画像の後に、前記所定の条件を満たす場合に生成された第2の前記表示用画像データーが表す第2画像が前記表示装置に表示される場合に、前記第1画像と前記第2画像との差分を補間する補間表示用画像データーを生成する補間処理部を含み、前記補間処理部は、時系列に並んだ前記第1と第2の表示用画像データーの間に前記補間表示用画像データーを挿入しても良い。この形態によれば、時系列に並んだ第1の画像と第2の画像との間に補間画像が挿入されて表示装置に表示されるため、表示装置に表示された画像の内容が突然に切り替わることを抑制できる。
(4)上記形態の表示システムであって、前記データー処理部は、前記撮像部が撮像し第1のフレームレートで生成された複数の画像を間引いて前記データー送信部によって前記第1のフレームレートよりも低い第2のフレームレートで前記表示用画像データーを送信させることが可能であり、前記補間処理部は、時系列において、前記第1の表示用画像データーの元となる前記画像データーと前記第2の表示用画像データーの元となる前記画像データーとの間に位置し、前記第2のフレームレートでは間引かれる予定の前記画像データーとしての補間用画像データーを選択し、前記補間用画像データーが表す画像に対して前記基準切出位置を中心とする前記切出領域で切り出して前記補間表示用画像データーを生成しても良い。この形態によれば、第2のフレームレートでは間引かれる予定の画像を有効に用いて補間表示用画像データーを生成できる。
(5)上記形態の表示システムであって、前記補間処理部は、前記第1の表示用画像データーの元となる第1の前記画像データーと、前記第2の表示用画像データーの元となる第2の前記画像データーとの時系列において間に位置する少なくとも1つの前記表示用画像データーの元となる前記画像データーに対して、前記第1の画像データーが生成されてから前記第2の画像データーが生成されるまでの間の前記撮像部の動きを補間するように前記規定位置を設定して前記補間表示用画像データーを生成しても良い。この形態によれば、表示用画像データーの元となる画像データーを用いて補間表示用画像データーを生成できる。
(6)上記形態の表示システムであって、前記データー処理部は、さらに、注目すべき注目領域に基づいて前記基準切出位置を設定する切出位置設定部を有しても良い。この形態によれば、注目領域に基づいて基準切出位置を容易に設定できる。
(7)上記形態の表示システムであって、前記切出位置設定部は、所定の期間において前記撮像部が撮像した複数の前記画像のうち重なる画像領域を前記注目領域として前記基準切出位置を設定しても良い。この形態によれば、重なる画像領域に基づいて注目領域を容易に設定できる。
(8)上記形態の表示システムであって、前記切出位置設定部は、外部から指定された指定対象物を含む領域を前記注目領域として前記基準切出位置を設定しても良い。この形態によれば、外部から指定された指定対象物を含む領域を注目領域として設定できる。
(9)上記形態の表示システムであって、さらに、前記指定対象物を前記撮像部の使用者に視認させる画像表示部を有しても良い。この形態によれば、使用者が画像表示部で指定対象物を視認できる。
(10)上記形態の表示システムであって、さらに、注目対象物を検出するための特徴情報を記憶する記憶部を有し、前記切出位置設定部は、前記特徴情報を用いて画像データーが表す前記画像の中に前記注目対象物を検出した場合に、前記注目対象物を含む領域を前記注目領域として決定して前記基準切出位置を設定しても良い。この形態によれば、切出位置設定部によって自動的に注目対象物を検出することによって、基準切出位置を設定できる。
(11)上記形態の表示システムであって、前記切出位置設定部は、前記注目領域の規定位置を前記基準切出位置として設定しても良い。この形態によれば、基準切出位置を中心とする切出領域内に注目対象物を確実に位置させることができる。
(12)上記形態の表示システムであって、さらに、前記撮像部と前記画像に含まれる所定の対象物との距離を検出する距離検出部を有し、前記データー処理部は、さらに、前記距離検出部が検出した前記距離に応じて前記切出領域の大きさを変化させる切出領域設定部を有しても良い。この形態によれば、距離検出部が検出した距離に応じて切出領域の大きさを変えることができる。
(13)上記形態の表示システムであって、前記データー処理部は、前記距離が大きいほど前記切出領域を大きくしても良い。この形態によれば、表示部251に表示される対象物の大きさが大きく変動することを抑制できる。
(14)上記形態の表示システムであって、前記距離検出部は、前記所定の対象物の実際の大きさと、前記画像における前記所定の対象物の大きさとを比較することで、前記距離を検出しても良い。この形態によれば、所定の対象物の大きさと画像における所定の対象物の大きさとを比較して距離を検出できる。
(15)上記形態の表示システムであって、前記画像を表す画像データーと、前記画像データーが生成されたときの前記センサーの検出情報とのそれぞれには同じ識別情報が付与されていても良い。この形態によれば、画像データーと検出情報とを容易に対応付けることができる。
(16)上記形態の表示システムであって、さらに、前記撮像部が撮影した前記画像を取得する情報処理装置を有し、前記データー処理部は前記情報処理装置に設けられていても良い。この形態の表示システムによれば、サーバーにデーター処理部の機能を搭載できる。
(17)上記形態の表示システムであって、虚像を表示し、外界を透過可能な表示部を有する画像表示装置を有し、前記データー処理部は前記画像表示装置に設けられていても良い。この形態によれば、画像表示装置にデーター処理部の機能を搭載できる。
(18)上記形態の表示システムであって、さらに、前記表示用画像データーが表す表示用画像を表示する前記表示装置を有し、前記データー処理部は前記表示装置に設けられていても良い。この形態によれば、表示装置にデーター処理部の機能を搭載できる。
上述した本発明の各形態の有する複数の構成要素は全てが必須のものではなく、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、適宜、前記複数の構成要素の一部の構成要素について、その変更、削除、新たな構成要素との差し替え、限定内容の一部削除を行うことが可能である。また、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、上述した本発明の一形態に含まれる技術的特徴の一部または全部を上述した本発明の他の形態に含まれる技術的特徴の一部または全部と組み合わせて、本発明の独立した一形態とすることも可能である。
例えば、本発明の一形態は、撮像部と、センサーと、データー処理部と、データー送信部との4つの要素のうちの一部または全部の要素を備えた装置として実現可能である。すなわち、この装置は、撮像部を有していてもよく、有していなくてもよい。また、この装置は、センサーを有していてもよく、有していなくてもよい。また、この装置は、データー処理部を有していてもよく、有していなくてもよい。また、この装置は、データー送信部を有していてもよく、有していなくてもよい。こうした装置は、例えば表示システムとして実現できるが、表示システム以外の他のシステムとしても実現可能である。前述した表示システムの各形態の技術的特徴の一部または全部は、いずれもこの装置に適用することが可能である。
なお、本発明は、種々の態様で実現することが可能であり、例えば、表示システム、表示システムを制御する方法、頭部装着型表示装置を備える画像表示システム、表示システムの機能を実現するためのコンピュータープログラム、そのコンピュータープログラムを記憶した記憶媒体等の形態で実現することができる。
第1実施形態における表示システムの概略構成を示す説明図である。 作業対象物としてのプリンターの外観斜視図である。 第1実施形態のHMDの構成を機能的に示すブロック図である。 HMDによる拡張現実表示の一例を示す説明図である。 サーバーの構成を機能的に示すブロック図である。 切出領域と撮像領域との関係を説明するための図である。 CPUが実行する画像データーの処理フローである。 切出位置設定部が設定する基準切出領域を説明するための図である。 処理フローを説明するための図である。 カメラの水平面内での動きの変化を示す図である。 基準時刻における撮像領域と基準切出領域との関係を示す図である。 時刻t1における撮像領域と切出領域との関係を示す図である。 時刻t8における撮像領域と切出領域との関係を示す図である。 第2実施形態のHMDの構成を機能的に示すブロック図である。 第2実施形態のサーバーの構成を機能的に示すブロック図である。 補間処理部が実行する補間処理方法について説明するための図である。 補間処理部が実行する他の補間処理方法について説明するための図である。 切出領域設定部の処理内容を説明するための図である。 基準切出位置の第1の他の設定方法を説明するための図である。 基準切出位置の第2の他の設定方法を説明するための図である。 基準切出位置の第3の他の設定方法を説明するための図である。
A.第1実施形態:
A−1.表示システムの構成:
図1は、本発明の第1実施形態における表示システムの概略構成を示す説明図である。図2は、作業対象物としてのプリンター70の外観斜視図である。
表示システム1(図1)は、画像表示装置としての頭部装着型表示装置100と、データー処理装置(情報処理装置)としてのサーバー60と、表示装置としてのパーソナルコンピューター(PC)250と、を備える。PC250は、画像を表示するための表示部251を有する。表示部251は、サーバー60を経由して頭部装着型表示装置100から送信される動画像を表示する。
頭部装着型表示装置100は、通信キャリアBSを介して無線通信でインターネットINTに接続されている。PC200は、通信キャリアBSを介して無線通信でインターネットINTに接続されている。サーバー60は、有線通信でインターネットINTに接続されている。この結果、サーバー60、頭部装着型表示装置100、PC250は互いにインターネットINTを介してデーター通信できる。通信キャリアBSは、送受信アンテナや、無線基地局、交換局を含む。
表示システム1は、例えば、遠隔支援システムとして利用できる。遠隔支援システムは、例えば、使用者が装着した頭部装着型表示装置100によって取得された動画像を遠隔の表示部251に表示させて、PC250を操作する指示者が動画像をもとに使用者に作業内容を指示する。本実施形態では、使用者が図2に示す作業対象物としてのプリンター70の初期設定や保守・点検を行う際の表示システム1の動作を説明する。すなわち、頭部装着型表示装置100によってプリンター70を含む動画像を取得し、取得した動画像を表示部251に表示させる。そして、PC100を操作する指示者が使用者に対してプリンター70に対する作業内容を指示する。
プリンター70(図2)は、図示しないロール紙を搬送してロール紙上にインクを吐出して画像を形成するインクジェットプリンターである。プリンター70は、ロール紙を配置する給紙スロット71と、ロール紙のスピンドルをセットするスピンドル受け75と、ロール紙を覆う開閉可能なカバー72と、画像が形成されたロール紙が排出される排出部76と、排出されたロール紙を保持する箱型の保持部77と、プリンター70の状態(例えば、インク切れ状態や電源状態)を表示したりプリンター70の動作を設定するための操作パネル78と、を備える。
操作パネル78は、プリンター70の動作(例えば、電源ON/OFF)を制御するための各種ボタンB1〜B6と、プリンター70の状態を表示するための各種ランプD1〜D4と、プリンター70の状態などを表示するディスプレイ79とを有する。
頭部装着型表示装置100(図1)は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態のHMD100は、利用者が、虚像を視認すると同時に外景も直接視認することができる光学透過型のヘッドマウントディスプレイである。
サーバー60は、動画像データーDM1、及び、HMD100が備える9軸センサー66の検出情報DT1をHMD100から受信する。サーバー60は、第1のフレームレートFR1で動画像データーDM1を受信する。サーバー60は、受信した動画像データーDM1及び検出情報DT1に基づいて動画像データーDM1を構成するフレーム画像データーFM1に対して所定のデーター処理を施して表示用フレーム画像データーFM2を生成する。サーバー60は、生成した表示用フレーム画像データーFM2を順次、PC250に送信する。また、サーバー60は、表示用フレーム画像データーFM2を第2のフレームレートFR2でPC250に送信可能である。第2のフレームレートFR2は第1のフレームレートFR1よりも低い。例えば、第1のフレームレートFR1は30fpsであり、第2のフレームレートFR2は5fpsである。なお、フレーム画像データーは、表示部251によって表示される画像を形成するため、フレーム画像とも呼ぶことができる。
表示用フレーム画像データーFM2を受信したPC250は、表示部251に第2のフレームレートFR2によって表示用フレーム画像データーFM2を表示させる。これにより、表示部251は、動画像データーDM2が表す動画像を表示する。表示システム1を遠隔支援システムとして利用する場合、指示者は、表示部251に表示された動画像を見て、HMD100を装着する使用者に対して作業内容などの指示を行う。なお、サーバー60が実行するフレーム画像データーFM1のデーター処理の詳細については後述する。
A−2.頭部装着型表示装置(HMD)の構成:
図3は、HMD100の構成を機能的に示すブロック図である。図1と図3を用いてHMD100の構成について説明する。図1に示すようにHMD100は、ヘッドフォン部90と、画像表示部20と、マイク部30と、制御部10とを備える。
ヘッドフォン部90は、使用者の頭部に装着可能である。ヘッドフォン部90は、頭部に沿って装着可能なように湾曲したヘッドバンド91と、ヘッドバンド91の両端に設けられた右左のイヤーカップ92,93とを備える。右側のイヤーカップ92の内部には音響の右チャンネル用のスピーカー94(図3)が設けられており、左側のイヤーカップ93の内部には音響の左チャンネル用のスピーカー95(図3)が設けられている。ヘッドバンド91には、画像表示部20が固定した形で取り付けられている。
画像表示部20は、使用者の頭部に装着された状態において使用者に虚像を視認させることが可能である。画像表示部20は、眼鏡形状を有している。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、を含む。右光学像表示部26および左光学像表示部28は、それぞれ、使用者がヘッドバンド91を装着した際に使用者の右および左の眼前に位置する。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに接続されている。
右保持部21は、右光学像表示部26の他端である端部ERから略水平方向に延び、ヘッドバンド91の右側の端部付近に固定されている。同様に、左保持部23は、左光学像表示部28の他端である端部ELから略水平方向に延び、ヘッドバンド91の左側の端部付近に固定されている。右保持部21および左保持部23は、ヘッドバンド91を頭部に装着した使用者の眼前に光学像表示部26,28が位置するよう、光学像表示部26,28を保持する。
右表示駆動部22は、右保持部21の内側、換言すれば、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。また、左表示駆動部24は、左保持部23の内側に配置されている。なお、以降では、右保持部21および左保持部23を区別せず「保持部」として説明する。同様に、右表示駆動部22および左表示駆動部24を区別せず「表示駆動部」として説明し、右光学像表示部26および左光学像表示部28を区別せず「光学像表示部」として説明する。
表示駆動部は、液晶ディスプレイ(Liquid Crystal Display、以下「LCD」と呼ぶ)241、242や投写光学系251、252等を含む(図3)。表示駆動部の構成の詳細は後述する。光学部材としての光学像表示部は、導光板261、262(図3)と調光板とを含んでいる。導光板261、262は、光透過性の樹脂材料等によって形成され、表示駆動部から出力された画像光を使用者の眼に導く。調光板は、薄板状の光学素子であり、画像表示部20の表側(使用者の眼の側とは反対の側)を覆うように配置されている。調光板は、導光板261、262を保護し、導光板261、262の損傷や汚れの付着等を抑制する。また、調光板の光透過率を調整することによって、使用者の眼に入る外光量を調整して虚像の視認のしやすさを調整することができる。なお、調光板は省略可能である。
マイク部30(図1)は、マイクロフォン31と、アーム32と、連結部33と、を有する。マイクロフォン31は、音声を電気信号に変換する音声入力部であり、アーム32の先端に接続されている。アーム32のマイクロフォン31とは反対側の端部は、連結部33によって、画像表示部20の右イヤーカップ92の上面92aに連結されている。連結されることで、マイクロフォン31は、使用者の口の前に位置する。なお、連結部33は、アーム32を回動可能に、かつ任意のポジションに固定可能に連結する。
画像表示部20、マイク部30、および、ヘッドフォン部90の一体物と、制御部10との間は、接続コード40によって接続される。接続コード40の一端は、ヘッドフォン部90の右イヤーカップ92内に挿入され、必要に応じて分岐され、画像表示部20の左右の表示駆動部22,24、左右のスピーカー94,95や、マイク部30のマイクロフォン31に接続されている。接続コード40の他端は、制御部10に接続されている。接続コード40における右イヤーカップ92と反対側の端部と、制御部10とのそれぞれには、互いに嵌合するコネクター(図示省略)が設けられている。接続コード40のコネクターと制御部10のコネクターとの嵌合や嵌合解除により、上記の一体物と制御部10との間が接続されたり切り離されたりする。接続コード40には、例えば、金属ケーブルや光ファイバーを採用することができる。
制御部10(図1)は、HMD100を制御するための装置である。制御部10は、点灯部12と、タッチパッド14と、十字キー16と、電源スイッチ18とを含んでいる。点灯部12は、HMD100の動作状態(例えば、電源のON/OFF等)を、その発光態様によって通知する。点灯部12としては、例えば、LED(Light Emitting Diode)を用いることができる。タッチパッド14は、タッチパッド14の操作面上での接触操作を検出して、検出内容に応じた信号を出力する。タッチパッド14としては、静電式や圧力検出式、光学式といった種々のタッチパッドを採用することができる。十字キー16は、上下左右方向に対応するキーや十字キーの中心部分への押下操作を検出して、検出内容に応じた信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、HMD100の電源の状態を切り替える。
制御部10(図3)は、入力情報取得部110と、記憶部120と、電源130と、無線通信部132と、GPSモジュール134と、CPU140と、インターフェイス180と、送信部(Tx)51,52と、タイマー135を備える。各部は図示しないバスにより相互に接続されている。
入力情報取得部110は、例えば、タッチパッド14や十字キー16、電源スイッチ18などに対する操作入力に応じた信号を取得する。記憶部120は、ROM、RAM、DRAM、ハードディスク等によって構成されている。
電源130は、HMD100の各部に電力を供給する。電源130としては、例えば、リチウムポリマーバッテリー、リチウムイオンバッテリーなどの二次電池を用いることができる。さらに、二次電池に替えて、一次電池や燃料電池でもよいし、無線給電を受けて動作するようにしてもよい。さらには、太陽電池とキャパシターから給電を受けるようにしてもよい。無線通信部132は、無線LANやBluetooth(登録商標)、iBeacon(登録商標)といった所定の無線通信規格に則って、他の機器との間で無線通信を行う。GPSモジュール134は、GPS衛星からの信号を受信することにより、自身の現在位置を検出する。
CPU140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、オペレーティングシステム(ОS)150、画像処理部160、表示制御部162、および音声処理部170として機能する。
画像処理部160は、インターフェイス180や無線通信部132を介して入力されるコンテンツ(映像)に基づいて信号を生成する。そして、画像処理部160は、生成した信号を、接続コード40を介して画像表示部20に供給することで、画像表示部20を制御する。画像表示部20に供給するための信号は、アナログ形式とディジタル形式の場合で異なる。アナログ形式の場合、画像処理部160は、クロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、画像データーDataとを生成し、送信する。具体的には、画像処理部160は、コンテンツに含まれる画像信号を取得する。取得した画像信号は、例えば動画像の場合、一般的に1秒あたり30枚のフレーム画像から構成されているアナログ信号である。画像処理部160は、取得した画像信号から垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離し、それらの周期に応じて、PLL回路等によりクロック信号PCLKを生成する。画像処理部160は、同期信号が分離されたアナログ画像信号を、A/D変換回路等を用いてディジタル画像信号に変換する。画像処理部160は、変換後のディジタル画像信号を、RGBデーターの画像データーDataとして、1フレームごとに記憶部120内のDRAMに格納する。
一方、ディジタル形式の場合、画像処理部160は、クロック信号PCLKと、画像データーDataとを生成し、送信する。具体的には、コンテンツがディジタル形式の場合、クロック信号PCLKが画像信号に同期して出力されるため、垂直同期信号VSyncおよび水平同期信号HSyncの生成と、アナログ画像信号のA/D変換とが不要となる。なお、画像処理部160は、記憶部120に格納された画像データーDataに対して、解像度変換処理や、輝度、彩度の調整といった種々の色調補正処理や、キーストーン補正処理等の画像処理を実行してもよい。
画像処理部160は、生成されたクロック信号PCLK、垂直同期信号VSync、水平同期信号HSyncと、記憶部120内のDRAMに格納された画像データーDataとを、送信部51,52を介してそれぞれ送信する。なお、送信部51を介して送信される画像データーDataを「右眼用画像データーData1」とも呼び、送信部52を介して送信される画像データーDataを「左眼用画像データーData2」とも呼ぶ。送信部51、52は、制御部10と画像表示部20との間におけるシリアル伝送のためのトランシーバーとして機能する。
表示制御部162は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部162は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFFや、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFFや、左バックライト制御部202による左バックライト222の駆動ON/OFFなどを個別に制御することにより、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。表示制御部162は、右LCD制御部211と左LCD制御部212とに対する制御信号を、送信部51および52を介してそれぞれ送信する。同様に、表示制御部162は、右バックライト制御部201と左バックライト制御部202とに対する制御信号を、それぞれ送信する。
音声処理部170は、外部(例えば、コンテンツ)からの音声信号を取得し、取得した音声信号を増幅して、連結部材46に接続された右イヤーカップ92内のスピーカー94および左イヤーカップ93内のスピーカー95に対して供給する。なお、例えば、Dolby(登録商標)システムを採用した場合、音声信号に対する処理がなされ、右左のスピーカー94,95からは、それぞれ、例えば周波数等が変えられた異なる音が出力される。
インターフェイス180は、制御部10に対して、コンテンツの供給元となる種々の外部機器OAを接続するためのインターフェイスである。外部機器ОAとしては、例えば、パーソナルコンピューター291や携帯電話端末292、ゲーム端末293等がある。インターフェイス180としては、例えば、USBインターフェイスや、マイクロUSBインターフェイス、メモリーカード用インターフェイス等を用いることができる。
画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、撮像部としてのカメラ61(図1も参照)と、9軸センサー66と、を備えている。タイマー135は、現在時刻を検出する機能を有する。
カメラ61は、RGBカメラであり、使用者が画像表示部20を装着した際の使用者の鼻根部に対応する位置に配置されている。そのため、カメラ61は、HMD100の所定の向き、すなわち、使用者が画像表示部20を頭部に装着した状態において使用者が向いている方向の外界をカラー撮像する。なお、カメラ61は、RGBカメラに換えて、白黒カメラとすることができる。カメラ61は、動画像を撮像する。撮像された動画像は、複数のフレーム画像データーFM1から構成される動画像データーDM1として記憶部120に記憶される。また、フレーム画像データーFM1には、タイマー135によってフレーム画像データーFM1が記憶部120に記憶された時点の時刻データーが付与されている。フレーム画像データーFM1が記憶部120に記憶された時点とは、フレーム画像データーFM1が生成された時点であるとも言える。
センサーとしての9軸センサー66は、加速度(X軸、Y軸、Z軸の3軸)、角速度(3軸)、地磁気(3軸)を検出するモーションセンサーであり、本実施形態では使用者の眉間に対応する位置に配置されている。9軸センサー66は、画像表示部20に設けられている。これにより、画像表示部20が使用者の頭部に装着されているときには、9軸センサー66の検出情報DT1に基づいて使用者の頭部(詳細には、カメラ61)の動きを検出できる。検出された頭部の動きから画像表示部20の向き、すなわち、使用者の視界を特定できる。9軸センサー66のセンサー検出情報は記憶部120に記憶される。また、検出情報DT1には、タイマーによって検出情報DT1が記憶部120に記憶された時点の時刻データーが付与されている。上記のごとく、フレーム画像データーFM1と検出情報DT1とには、同じ識別情報としての時刻データーが付与されている。時刻データーによって、フレーム画像データーFM1と検出情報DT1とを容易に対応付けることができる。なお、識別情報は時刻データーに限定されるものではない。例えば、識別情報は、同じ内容を表すデーター(例えば、番号データー)であっても良い。
右表示駆動部22は、受信部(Rx)53と、光源として機能する右バックライト(BL)制御部201および右バックライト(BL)221と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251とを含んでいる。なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241とを総称して「画像光生成部」とも呼ぶ。
受信部53は、制御部10と画像表示部20との間におけるシリアル伝送のためのレシーバーとして機能する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データーData1とに基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することによって、右LCD241を透過する光の透過率を変化させることにより、右バックライト221から照射される照明光を、画像を表す有効な画像光へと変調する。
右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。右光学像表示部26としての右導光板261は、右投写光学系251から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REに導く。光学像表示部は、画像光を用いて使用者の眼前に虚像を形成する限りにおいて任意の方式を用いることができ、例えば、回折格子を用いてもよいし、半透過反射膜を用いてもよい。なお、HMD100が画像光を出射することを、本明細書では「画像を表示する」とも呼ぶ。
左表示駆動部24は、右表示駆動部22と同様の構成を有している。すなわち、左表示駆動部24は、受信部(Rx)54と、光源として機能する左バックライト(BL)制御部202および左バックライト(BL)222と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252とを含んでいる。右LCD241と同様に、左LCD242は、マトリクス状に配置された各画素位置の液晶を駆動することによって、左LCD242を透過する光の透過率を変化させることにより、左バックライト222から照射される照明光を、画像を表す有効な画像光へと変調する。なお、本実施形態ではバックライト方式を採用することとしたが、フロントライト方式や、反射方式を用いて画像光を射出してもよい。
図4は、HMD100による拡張現実表示の一例を示す説明図である。図4では、使用者の視界VRを例示している。上述のようにして、HMD100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は拡張現実(AR)としての画像VIを視認する。また、光学像表示部26,28が外界SCからの光を透過することで、使用者は外界SCを視認する。このように、本実施形態のHMD100の使用者は、視界VRのうち画像VIが表示された部分については、画像VIと、画像VIの背後に外界SCと、を見ることができる。また、視界VRのうち画像VIが表示されていない部分については、外界SCだけを見ることができる。
図4の例では、画像VIa,VIbは、使用者が所定の作業を行うための待ち受け画面である。右下の画像VIbには、サーバー60が実行するフレーム画像データーFM1のデーター処理のトリガーとなるデーター処理開始マークSMが表示されている。また、左上の画像VIaには、カメラ61が撮像している画像が表示されている。使用者は、カメラ61が撮像している画像VIaを参考にして、注目対象物(例えば、操作パネル78)が撮像領域CPRの中心RCeとなるように、頭部の位置を調整することでカメラ61の向きを設定する。そして、使用者は、データー処理開始マークSMを選択する。これにより、注目対象物が撮像領域CPRの中心RCeに配置されたフレーム画像データーFM1であって処理開始データーSDが付与されたフレーム画像データーFM1が生成されて記憶部120に記憶される。
A−3.サーバーの構成:
図5は、サーバー60の構成を機能的に示すブロック図である。サーバー60は、CPU640と、ROM670と、RAM672と、通信インターフェイス(I/F)632と、記憶部620とを備える。各部は、図示しないバスにより相互に接続されている。
CPU640は、ROM320や記憶部620に格納されているコンピュータープログラムをRAM672に展開して実行することにより、サーバー60の各部を制御する。その他、CPU640は、通信インターフェイス(I/F)632を通じて外部からデーターを取得するデーター取得部642と、通信I/F632を通じて外部へデーターを送信するデーター送信部648としても機能する。
通信インターフェイス340は、無線通信インターフェイスと、有線通信インターフェイスとを含んでいる。無線通信インターフェイスは、図示しない送受信回路を含み、アンテナを介して受信した電波の復調とデーターの生成、および、アンテナを介して送信する電波の生成と変調を行う。有線通信インターフェイスは、有線ケーブルを介して他の装置と接続される。
記憶部350は、DRAM、ハードディスク等によって構成されている。記憶部350は、条件判定部644で用いられる条件テーブル621を記憶する。また、記憶部350は、カメラ61が撮像した動画像データーDM1を記憶する。
CPU640は、ROM670に格納されているコンピュータープログラムをRAM672に転送して実行することによって、データー処理部646として機能する。データー処理部646は、切出位置設定部641と、切出部643と、条件判定部644とを含む。データー処理部646は、記憶部620に記憶された複数のフレーム画像データーFM1の一部を抽出して、抽出したフレーム画像データーFM1に対してデーター処理を行うことで表示用フレーム画像データーFM2を生成する。また、データー処理部646は、データー送信部648を介して第2のフレームレートFR2で表示用フレーム画像データーFM2をPC250に送信可能である。
切出部643は、動画像データーDM1を構成するフレーム画像データーFM1に対して、フレーム画像データーFM1が表すフレーム画像の中から所定の切出領域を切り出して、表示部251に表示させるための表示用フレーム画像データーFM2を生成する。
図6は、切出領域EPRと、フレーム画像データーFM1が表すカメラ61の撮像領域CPRとの関係を説明するための図である。カメラ61によって、操作パネル78を含む撮像領域CPRが撮像された場合、切出部643は撮像領域CPRよりも小さい切出領域EPRをフレーム画像から切り出して表示用フレーム画像データーFM2を生成する。PC250は、切出領域EPRと表示部251の表示領域との大きさが一致するように表示用フレーム画像データーFM2を表示部251に表示させる。処理開始データーSDを受信する前のサーバー60の通常モードでは、切出領域EPRの規定位置としての中心位置Ceは、撮像領域CPRの中心RCeに設定されている。また、サーバー60は、処理開始データーSDを受信すると、処理モードに移行する。処理モードでは、所定の条件を満たすか否かによって中心位置Ceの位置が決定される。なお、規定位置は、切出領域EPRの位置を規定していれば中心位置Ceに限定されるものではなく、例えば、切出領域EPの4隅の少なくとも一つの座標位置を規定位置としても良い。
本実施形態では、切出領域EPRの大きさは予め設定された一定の値である。なお、切出領域EPRの大きさはこれに限定されるものではなく、撮像領域CPRよりも小さい範囲であれば、HMD10(詳細には、カメラ61)とフレーム画像データーFM1が表すフレーム画像に含まれる所定の対象物(例えば、プリンター70の操作パネル78)との距離に応じて変更しても良い。
切出位置設定部641(図5)は、処理モードのときに、注目すべき注目領域に基づいて切出領域EPRの中心位置を設定する。条件判定部644は、9軸センサー66の検出情報DT1によって検出されるカメラ61の動きが、条件テーブル621に規定された所定の条件を満たすか否かを判定する。また、条件判定部644は、フレーム画像データーFM1に処理開始データーSDが付与されているか否かを判定する。
切出部643は、切出位置設定部641によって中心位置が設定された切出領域EPRを用いて、フレーム画像データーFM1から表示用フレーム画像データーFM2を生成する。表示用フレーム画像データーFM2は、記憶部620に記憶される。
データー送信部648は、記憶部620に記憶された動画像データーDM2を構成する複数のフレーム画像データーFM2をデーター処理部646からの指示に基づいて第2のフレームレートFR2でPC250に送信する。
A−4.CPU640が実行する画像データーの処理フロー:
図7は、CPU640が実行する画像データーの処理フローである。図7に示す処理フローは、HMD60とサーバー60との通信、及び、サーバー60とPC250の通信が接続された後に実行される。
まず、サーバー60のデーター取得部642は、HMD10の記憶部120に記憶されたフレーム画像データーFM1及び検出情報DT1を一定時間間隔で取得して、記憶部620に記憶させる(ステップS10)。
条件判定部644は、フレーム画像データーFM1に処理開始データーSDが付与されているか否かを判定する(ステップS15)。フレーム画像データーFM1に処理開始データーSDが付与されていないと判定された場合は、サーバー60は通常モードによって表示用フレーム画像データーFM2を生成する。すなわち、切出部643は、撮像領域CPRの中心RCeが中心位置Ceとなる切出領域EPRでフレーム画像を切り出して表示用フレーム画像データーFM2を生成する(ステップS70)。ステップS70で生成された表示用フレーム画像データーFM2は、データー送信部648によってPC250に送信される(ステップS84)。
フレーム画像データーFM1に処理開始データーSDが付与されていると判定された場合は、サーバー60は処理モードによって表示用フレーム画像データーFM2を生成する。まず、切出位置設定部641は、処理開始データーSDが付与されたフレーム画像データーFM1に対して、基準切出位置Csを中心とする切出領域EPRを設定する(ステップS20)。ここで、基準切出位置Csを中心とする切出領域EPRを基準切出領域EPRsとも呼ぶ。本実施形態では、基準切出位置Csは、撮像領域CPRの中心RCeの座標位置である。
図8は、切出位置設定部641が設定する基準切出領域EPRsを説明するための図である。本実施形態では、切出位置設定部641は、HMD100の使用者の視野の中心及びその周囲が注目領域であると推定して、使用者の視野の中心を基準切出位置Csとして設定する。すなわち、切出位置設定部641は、フレーム画像データーFM1が表す撮像領域CPRの中心RCeを基準切出位置Csとして設定する。例えば、操作パネル78を作業対象とする作業場面では、使用者は、カメラ61が撮像している画像VIa(図4)を参考にして、操作パネル78が撮像領域CPRの中心RCeとなるようにカメラ61の向きを設定する。そして、使用者は、データー処理開始マークSM(図4)を選択する。これにより、操作パネル78が撮像領域CPRの中心RCeに配置されたフレーム画像データーFM1であって処理開始データーSDが付与されたフレーム画像データーFM1が生成される。
ステップS20の後に、条件判定部644は、9軸センサー66の検出情報DT1を元にカメラ61の動きを算出し、算出された動きが条件テーブル621に記憶された所定の条件を満たすか否かを判定する(ステップS30)。所定の条件は、カメラ61の移動量と、処理開始データーSDから生成された基準時刻からの時間とを含む。所定の条件は、使用者が作業を行う対象物を意図的に変えたか否かを判定できる条件に設定されることが好ましい。
所定の条件は、カメラ61の移動量が連続して所定の時間だけ所定の閾値以上であるという条件である。所定の閾値は、水平方向に沿った移動量、鉛直方向に沿った移動量、各軸(X軸,Y軸,Z軸)を中心とする回転方向の移動量の少なくとも1つに関する閾値である。所定の閾値は、使用者が対象物に対して作業(操作)を行ってる場合の頭の最大揺れ量以上に設定することが好ましい。また、所定の時間は、使用者が作業する対象物を意図して変えたと推認できる程度の時間に設定することが好ましい。
本実施形態では、所定の条件は以下の条件である。
<所定の条件>
処理開始データーSDが生成された基準時刻t0におけるカメラ61の位置を基準位置として、鉛直方向を中心として絶対値でθa以上のカメラ61の回転方向の移動量(角度変化)が連続して所定の時間Pt以上生じた。
ここで、所定の時間Ptは、例えば2〜6秒の範囲に設定される。
条件判定部644によって、動きが所定の条件を満たすと判定された場合は(ステップS30:YES)、ステップS60の処理が実行される。すなわち、切出部643は、フレーム画像を切り出すための切出領域の中心位置を予め設定された基準切出位置Csに設定して表示用フレーム画像データー(標準画像データー)FM2を生成する(ステップS60)。すなわち、フレーム画像データーFM2が表すフレーム画像を基準切出領域EPRsで切り出して、表示用フレーム画像データーFM2を生成する。基準切出領域EPRsを用いて生成された表示用フレーム画像データーFM2を標準画像データーFM2sとも呼ぶ。ステップS60で生成された標準画像データーFM2sは、データー送信部648によってPC250に送信される(ステップS83)。
条件判定部644によって、動きが所定の条件を満たさないと判定された場合は(ステップS30:NO)、ステップS40が実行される。すなわち、切出部643は、カメラ61の動きが表示用フレーム画像FM2に反映されないように、切出領域の中心位置を基準切出位置Csからずらして表示用フレーム画像データーFM2を生成する(ステップS40)。基準切出位置Csからずらされた切出領域の中心位置を補正後切出位置Ctとも呼ぶ。また、補正後切出位置Ctを中心とする切出領域を補正後切出領域EPRtとも呼ぶ。補正後切出領域EPRtを用いて生成された表示用フレーム画像データーFM2を補正画像データーFM2tとも呼ぶ。本実施形態では、カメラ61の基準時刻t0からの動きに対応するフレーム画像データーFM1におけるフレーム内動き分だけ、フレーム画像データーFM1上の切出領域の中心位置を基準切出位置Csからずらす。フレーム内動きは、基準時刻t0におけるフレーム画像データーFM1と、処置対象のフレーム画像データーFM1とを比較して算出しても良いし、カメラ61と注目対象物(例えば、操作パネル78)との距離が既値の場合は、カメラ61の動きに基づいて算出して良い。ステップS40で生成された補正画像データーFM2tは、データー送信部648によってPC250に送信される(ステップS82)。
A−5.基準切出領域EPRsと補正後切出領域EPRtの具体例:
図9は、処理フローを説明するための図である。図10は、カメラ61の水平面内での動きの変化を示す図である。図11は、基準時刻t0における撮像領域CPRと基準切出領域EPRsとの関係を示す図である。図12は、時刻t1における撮像領域CPRと切出領域EPRとの関係を示す図である。図13は、時刻t8における撮像領域CPRと切出領域EPRとの関係を示す図である。
使用者99は、プリンター70の操作パネル78を操作した後に、スピンドル受け75(図2)を操作し、更にその後に操作パネル78を操作する。図9に示すように、使用者99がプリンターの操作パネル78を操作する際には、視線の方向が矢印Y1近傍を向いており、スピンドル受け75を操作する際には、頭部を回転させて視線の方向が矢印Y2近傍を向く。図10において、時刻t0〜時刻t6までの期間では、使用者99は操作パネル78を操作しており、時刻t7〜時刻t9では、スピンドル受け75を操作する。さらに時刻t10以降は、使用者99は操作パネル78を操作する。時刻t8〜時刻t9の期間では、カメラ61の動きが所定の条件を満たしている。また、時刻t2〜時刻t5の期間では、使用者は、周囲の音(例えば、物音)に反応して、音の方向を見るために突発的に頭を回転させた後に、再び操作パネル78の方向に視線の方向を変えている。
図11に示すように、時刻t0におけるフレーム画像データーFM1には、処理開始データーSDが付与されている。よって切出位置設定部641は、フレーム画像データーFM1が表す撮像領域CPRの中心RCeを基準切出位置Csとして設定する(図7のステップS20)。時刻t0における9軸センサー66の検出情報DT1は、カメラ61の動きを算出するための基準情報を表す。つまり、条件判定部644は、時刻t0におけるカメラ61の位置を基準とした時刻t0以降のカメラ61の動きが、所定の条件を満たすか否かについて判定する。
図10に示すように、時刻t2におけるカメラ61は、基準時刻t0におけるカメラ61よりも時計回りにθ1だけ回転移動している。θ1は、所定の閾値θaよりも小さい。条件判定部644は、カメラ61が時計回りにθ1だけ回転移動したことを検出情報DT1を元に算出し、算出したカメラ61の移動量θ1が所定の閾値θaよりも小さいと判定する。つまり、条件判定部644は、時刻t2におけるカメラ61の動きが所定の条件を満たさないと判定する(ステップS30:NO)。
切出位置設定部641は、時刻t2におけるフレーム画像データーFM1に対して補正後切出位置Ctを設定する。すなわち、図12に示すように、切出位置設定部641は、カメラ61の動き(+θ1)とは反対の方向に、切出領域の中心位置を基準切出位置Csからずらすことで補正後切出位置Ctを設定する。本実施形態では、切出位置設定部641は、フレーム画像(フレーム画像データーFM1が表すフレーム画像)において、切出位置をカメラ61の動きとは反対の動き分(−L1)だけ基準切出位置Csからずらすことで補正後切出位置Ctを設定する。補正後切出位置Ctが設定されることで、補正後切出位置Ctを中心とする一定範囲の補正後切出領域EPRtが設定される。切出部643は、フレーム画像データーFM1が表すフレーム画像を補正後切出領域EPRtで切り出して補正画像データーFM2tを生成する。補正画像データーFM2tは、カメラ61の動きがキャンセルされるように、中心に操作パネル78が位置する。このため、時刻t2の表示用フレーム画像は、基準時刻t0からカメラ61が動いていないときの画像のようにPC250の表示部251に表示される。また、カメラ61の移動量が所定の閾値θa以上である時刻t3から時刻t4の期間においても、所定の時間Ptの条件を満たさないため、カメラ61の動きが所定の条件を満たさないと判定される。この場合、時刻t2におけるフレーム画像データーFM1のデーター処理と同様に、カメラ61の動きに対応させた分だけ切出領域の中心位置がデーター処理部646によってずらされる。なお、補正後切出領域EPRtの一部が、撮像領域CPRの範囲外に位置した場合には、範囲外に位置する領域の画像データーを黒データーや白データーにしても良い。また、範囲外に位置する領域の画像データーを、範囲内に位置する領域の画像データーを元に生成しても良い。
図10の時刻t8において、条件判定部644は、カメラ61の動きが所定の条件を満たしたと判定する。この場合、図13に示すように、切出位置設定部641は基準切出位置Csを設定する。そして、データー処理部646は、基準切出位置Csを中心とする基準切出領域EPRsで標準画像データーFM2sを生成する。すなわち、時刻t8の表示用フレーム画像は、基準時刻t0からのカメラ61の動きを反映した画像である。すなわち、スピンドル受け75を含む画像が表示用フレーム画像としてPC250の表示部251に表示される。
図10に示すように、時刻t9以降では、カメラ61の動きが所定の条件を満たさないため、データー処理部646は補正後切出領域EPRtを用いて補正画像データーFM2tを生成する。
以上のように、上記第1実施形態によれば、対象物(例えば操作パネル78)を含む動画像を表示部251に表示させつつ、所定の条件を満たさないカメラ61の動きに起因した表示部251に表示される画像の揺れを低減できる。また、所定の条件が、所定の時間という時間に関する条件も含む。これにより、カメラ61の移動量が所定の閾値以上である場合でも、移動量が所定の閾値以上の時間が所定の時間より短い場合には、カメラ61の動きを反映するように切出領域EPRの中心位置Ceが基準切出位置Csからずらされる。これにより。所定の時間よりも短い時間に生じた所定の閾値以上のカメラ61の動きは表示部251に表示される画像に反映されないため、表示部251に表示される画像の揺れをさらに低減できる。つまり、使用者が突発的に頭を動かした場合でも、その突発的な動きは表示部251に表示される画像に反映されない。
また上記第1実施形態によれば、切出位置設定部641は、注目すべき注目領域に基づいて基準切出位置Csを設定している。これにより、注目領域に基づいて容易に基準切出位置Csを設定できる。また上記第1実施形態によれば、サーバー60がデーター処理部646と記憶部620とを有する。これにより、データー処理部646及び記憶部620の機能をHMD100に搭載する必要がないため、HMD100のコストを低減できる。
B.第2実施形態:
B−1.HMD及びサーバーの構成:
図14は、第2実施形態のHMD100aの構成を機能的に示すブロック図である。第1実施形態のHMD100(図3)と第2実施形態のHMD100aとの異なる点は、HMD100aが新たにTOFセンサー部62と距離検出部164とを備える点である。その他の第2実施形態のHMD100aの構成については、第1実施形態のHMD100の構成と同様であるため、同様の構成については第1実施形態と同じ符号を付すと共に説明を省略する。TOFセンサー部62は、受光素子と赤外線LEDとを備える。
距離検出部164は、TOFセンサー部62が検出した赤外線の反射光について、TOF(Time of Flight)方式を用いることで、赤外線LEDから赤外線が発光されてから特定の対象物に反射してTOFセンサー部62の受光素子が受光するまでの時間を算出することで、TOFセンサー部62が配置された画像表示部20から特定の対象物までの距離(対象物距離)を検出する距離画像センサーである。
なお、距離を検出するための構成は上記に限定されるものではなく、以下の種々の他の検出方法を採用可能である。
・第1の他の距離検出方法:距離検出部164は、GPSモジュール134によって特定された画像表示部20の位置と予め記憶部120に記憶された対象物との位置とに基づいて対象物距離を検出する。
・第2の他の距離検出方法:カメラ61が間隔を開けて2つ設けられている場合は、9軸センサー66によって検出される画像表示部20の向き(使用者の視線の方向)と、2つのカメラ61によって撮像された2つの対象物を含む画像と、に基づいて三角法を用いて対象物距離を検出する。
・第3の他の距離検出方法:距離検出部164は、対象物の実際の大きさと、フレーム画像における対象物の大きさとを比較することで、対象物距離を検出する。この場合、記憶部120には、対象物の実際の大きさを表すデーターが記憶されている。
対象物距離の距離データーDLは、現在時刻を表す時刻データーが付与されて記憶部120に記憶される。距離データーDLは、サーバー60aに送信される。なお、距離データーDLは、同じ時刻のときに生成されたフレーム画像データーFMに付与されても良い。
図15は、第2実施形態のサーバー60aの構成を機能的に示すブロック図である。第1実施形態のサーバー60(図5)と第2実施形態のHMD100aとの異なる点は、サーバー60aが記憶部620aに新たに距離データーDLを記憶している点と、データー処理部646aが、新たに補間処理部647と切出領域設定部645とを備える点である。その他の第2実施形態のサーバー60aの構成については、第1実施形態のサーバー60の構成と同様であるため、同様の構成については第1実施形態と同じ符号を付すと共に説明を省略する。
補間処理部647は、表示部251に表示される動画全体の動きを滑らかにするための処理を実行する。補間処理部647は、カメラ61の動きが所定の条件を満たさない場合に生成される補正画像データーFM2tと、カメラ61の動きが所定の条件を満たす場合に生成される標準画像データーFM2sとが表す2つの表示用フレーム画像の間に挿入する新たな表示用フレーム画像(補間表示用フレーム画像)を生成する。補間処理部647による補間処理は、図7に示すステップS30とステップS60との間に実行される。補間処理部647の詳細は後述する。
切出領域設定部645は、距離検出部164によって検出された距離データーDLに応じて切出領域EPRの大きさを変化させる。本実施形態では、表示部251に表示される対象物の大きさが略一定となるように距離データーDLが表す対象物距離が大きいほど切出領域EPRを大きくする。なお、対象物距離が大きくなるにしたがって段階的に切出領域EPRを大きくしても良い。切出領域設定部645の詳細は後述する。
B−2.補間処理部の処理内容:
図16は、補間処理部647が実行する補間処理方法について説明するための図である。図16(A)は、使用者99の前方の外界SCを示している。図16(B)は、各時刻におけるPC250の表示部251に表示されたフレーム画像を表している。図16(C)は、データー処理部646aの処理内容を説明するための図である。
図16(A)に示すように、外界SCには、右から順に、第1対象物M1と第2対象物M2と第3対象物M3が配置されている。基準時刻t0から時刻t2までは、使用者99は第1対象物M1の作業を行い、次に使用者は矢印Yaに示すように右側から左側へと移動して、時刻t3以降は第2対象物M2の作業を行う。基準時刻t0から時刻t2までは、カメラ61の動きが所定の条件を満たしておらず、時刻t3以降ではカメラ61の動きが所定の条件を満たしているものと仮定する。また、データー処理部646は、所定間隔Δtごとに表示部251にフレーム画像を表示させるために第2のフレームレートFR2で表示用フレーム画像データーFM2をPC250に送信する。
切出部643は、基準時刻t0から時刻t2までの期間では、補正後切出領域EPRtを用いてフレーム画像データーFM1から補正画像データーFM2tを生成する。この補正画像データーFM2tはデーター送信部648によってPC250に送信され、PC250は、補正画像データーFM2tが表す第1画像を表示する。すなわち、カメラ61の動きに対応することなく第1対象物M1の位置が変化しない動画が、表示部251に表示される。図16(B)に示すように、時刻t2までは、第1対象物M1が表示部251の中心となる画像が表示されている。
切出部643は、時刻t3以降では、基準切出領域EPRsを用いてフレーム画像データーFM1から標準画像データーFM2sを生成する。この標準画像データーFM2sはデーター送信部648によってPC250に送信され、PC250は、標準画像データーFM2sが表す第2画像を表示する。図16(B)に示すように、時刻t3では、第2対象物M2が表示部251の中心となる画像が表示されている。すなわち、補間処理部647が機能しない場合には、時刻t2の第1画像の次に時刻t3の第2画像が表示部251に突然に表示されることになり、表示部251側の指示者に対して違和感を生じさせる原因となる。時刻t2はカメラ61の動きが所定の条件を満たさない時点であり、時刻t3はカメラ61の動きが所定の条件を満たす時点である。
よって、補間処理部647は、以下の説明するように補間画像処理を実行する。まず、補間処理部647は、記憶部620aに記憶された時刻t2と時刻t3の間に撮像された複数のフレーム画像データーFM1としての補間用フレーム画像データーの中から少なくとも1枚のデーターを選択する。図16(c)では、補間処理部647は、時刻tgと時刻tmと時刻tyのときのフレーム画像データーFM1を選択している。次に、選択したフレーム画像データーFM1のフレーム画像を基準切出領域EPRsで切り出して補間画像データーFM2mを生成する。補間画像データーFM2mは、記憶部620aに記憶される。補間画像データーFM2mは、表示部251に表示するための画像データーであるため、「補間表示用フレーム画像データーFM2m」とも呼ぶ。補間画像データーFM2mは、カメラ61の動きを反映した画像を表す。
補間処理部647は、時系列に並んだ第1の表示用フレーム画像データー(第1の画像)と第2の表示用フレームが画像データー(第2の画像)との間に、生成された時刻tg、時刻tm、時刻tyのときの補間画像データーFM2mをこの順番で記憶部620aに記憶させる。すなわち、補間処理部647は、第2のフレームレートFR2で時系列で送信する時刻t2の補正画像データーFM2tと時刻t3の標準画像データーFM2sとの間に補間画像データーFM2mを挿入して、データー送信部648によってこれらの画像データーをPC250に送信させる。つまり、時刻t2〜t3の間は、第2のフレームレートFR2よりも高いフレームレートでカメラ61の動きを反映した画像が表示部251に表示される。具体的には、時刻t2〜時刻t3では、早送りのような動画であって第1対象物M1から第2対象物M2へと円滑に画像が切り替わる動画が表示部251に表示される。これにより、時刻t2〜時刻t3の間に表示部251に表示される画像の動きが滑らかになり、表示部251を見る指示者が動画について違和感を感じることを抑制できる。また、第2のフレームレートFR2では用いられないフレーム画像を有効に利用して補間画像データーFM2mを生成できる。
B−3.補間処理部の他の処理方法:
補間処理部647が実行する補間処理方法は上記に限定されるものではなく、カメラ61の動きが所定の条件を満たさない場合に生成された第1の表示用フレーム画像データーが表す第1画像の後に、所定の条件を満たす場合に生成された第2の表示用フレーム画像データーが表す第2画像がPC250に表示される場合に、第1画像と第2画像との差分を補間するような補間画像データーFM2mを生成できれば、他の処理方法であっても良い。補間処理部647が実行する他の処理方法の具体例を以下に説明する。
図17は、補間処理部647が実行する他の補間処理方法について説明するための図である。図17(A)は、使用者99の前方の外界SCを示している。図17(B)は、データー処理部646aの処理内容を説明するための図である。
基準時刻t0から時刻t2までは、使用者99は第1対象物M1の作業を行い、次に使用者は距離Lだけ右側から左側へと移動して、時刻t3以降は第2対象物M2の作業を行う。距離Lに相当するフレーム画像データーFM1上の距離は距離Lpである。基準時刻t0から時刻t2までは、カメラ61の動きが所定の条件を満たしておらず、時刻t3以降ではカメラ61の動きが所定の条件を満たしているものと仮定する。また、データー処理部646aは、所定間隔Δtごとに表示部251にフレーム画像を表示させるために第2のフレームレートFR2で表示用フレーム画像データーFM2をPC250に送信する。
補間処理部647は、第2のフレームレートFR2を維持したまま、カメラ61の動きが所定の条件を満たさない時点と所定の条件を満たす時点との境界部分におけるフレーム画像データーFM1の補間を行う。補間処理部647によって補間処理が実行されるフレーム画像のフレーム数は予め設定されていても良いし、カメラ61の移動量によって可変であっても良い。本実施形態では、補間処理が実行されるフレーム画像のフレーム数は2フレームである。なお、カメラ61の移動量によって補間処理を行うフレーム数を可変させる場合は、移動量が大きくなるほどフレーム数を多くすることが好ましい。こうすることで、表示部251に表示される画像の動きがより滑らかになる。
補間処理部647は、カメラ61の動きが所定の条件を満たした時刻から、時系列に並ぶ時刻t3と時刻t4の2つのフレーム画像データーFM1に対して、カメラ61の動きを補間するように切出領域EPRの中心位置Ceを設定する。具体的には、時刻t3のフレーム画像データーFM1に対して、基準切出位置Csからカメラ61の動きとは反対の方向に(2×Lp)/3だけずらした位置を中心位置Ceとして設定する。そして設定した中心位置Ceを中心とする切出領域EPRでフレーム画像データーFM1を切り出して補間画像データーFM2mを生成する。また、時刻t4のフレーム画像データーFM1に対して、基準切出位置Csからカメラ61の動きとは反対の方向に(1×Lp)/3だけずらした位置を中心位置Ceとして設定する。そして設定した中心位置Ceを中心とする切出領域EPRでフレーム画像データーFM1を切り出して補間画像データーFM2mを生成する。なお、時刻t3の補間画像データーFM2mは、撮像領域CPRの範囲外にも切出領域EPRが位置するため、切出領域EPRのうち撮像領域CPRの外側部分は、時刻t3の前後のフレーム画像を元に画像を予想して生成している。
このように、補間処理部647は、各フレーム画像データーFM1に対してカメラ61の動きとは反対の方向に、以下の関係式(1)で算出される距離(ずらし量)だけ基準切出位置Csからずらして中心位置Ceを設定する。
[数1]
ずらし量Ls=(Nn×Lp)/(Fn+1)・・・(1)
ここで、Nnは時系列に並んだ補間処理を行うフレームの最後から数えた順番、Lpはカメラ61の移動量Lに相当するフレーム画像データーFM1上での距離、Fnは補間処理を行うフレーム枚数である。
このように、補間処理部647は、第1のフレーム画像データーとしてのフレーム画像データーFM1と、第2のフレーム画像データーとしてのフレーム画像データーFM1との時系列において間に位置する少なくとも1つのフレーム画像データーFMに対して、カメラ61の動きを補間するように中心位置Ceを設定して補間画像データーFM2mを生成する。これにより、時刻t2〜時刻t5の間に表示部251に表示される画像の動きが滑らかになり、表示部251を見る指示者が動画について違和感を感じることを抑制できる。また、第2のフレームレートFR2で表示部251に動画を表示させつつ、表示部25を見る指示者が動画についての違和感を感じることを抑制できる。
なお、図17に示す補間処理は、カメラ61の動きが所定の条件を満たさないと判定されたフレーム画像データーFM1に対して実行しても良い。すなわち、図7に示すステップS30とステップS40との間に実行しても良い。例えば、カメラ61の動きが所定の条件を満たさない時点と所定の条件を満たす時点との境界部分のデーターである時刻t1と時刻t2のフレーム画像データーFM1に対して補間処理を行う場合を説明する。この場合、時刻t2のフレーム画像データーFM1に対して、補正後切出位置Ctからカメラ61の動きと同じ方向に(2×Lp)/3だけずらした位置を中心位置Ceとして設定する。また、時刻t1のフレーム画像データーFM1に対して、補正後切出位置Ctからカメラ61の動きと同じ方向に(1×Lp)/3だけずらした位置を中心位置Ceとして設定する。
図18は、切出領域設定部645の処理内容を説明するための図である。図18(B)に示す場合よりも図18(A)に示す場合のほうが、距離データーDLが表す対象物距離が大きい。このとき、切出領域設定部645は、中心位置Ceを中心とする切出領域EPRを対象物距離が大きいほど大きく設定する。これにより、表示部251に表示される対象物(例えば、操作パネル78)の大きさが大きく変動することを抑制できる。
上記第2実施形態によれば、第1実施形態と同様の構成については同様の効果を奏する。また、上記第2実施形態によれば、サーバー60aが補間処理部647を有するため、所定の条件を満たさない時点と所定の条件を満たす時点との境界部分において、表示部251に表示された画像の内容が突然に切り替わることを抑制できる。
C.切出位置設定部の変形例:
上記第1,第2実施形態では、切出位置設定部641(図5,図15)は、フレーム画像データーFM1が表す撮像領域CPRの中心RCeを基準切出位置Csとして設定していたが、これに限定されるものではなく、例えば、以下の第1〜第3の他の設定方法のいずれかによって基準切出位置Csを設定しても良い。
図19は、基準切出位置Csの第1の他の設定方法を説明するための図である。切出位置設定部641は、データー処理開始マークSMが選択されてから所定の期間(時刻t1a〜時刻t1d:例えば1〜10秒間)において撮像された複数のフレーム画像FM1a〜FM1dのうちの注目候補領域FAAの中で、重なる画像領域を注目領域AAとして決定する。また、切出位置設定部641は、決定した注目領域AAの中心位置を基準切出位置Csとして設定する。各注目候補領域FAAは、各フレーム画像FM1a〜FM1dの中心位置Rceを中心とするフレーム画像FM1a〜FM1dよりも小さい一定の領域である。切出位置設定部641は、ある時刻(例えば時刻t1a)のフレーム画像FM1aの注目候補領域FAA内に存在する注目領域AAの画像を画像処理によって判別する。そして、フレーム画像FM1a内における注目領域AAの中心位置を基準切出位置として設定する。このように第1の他の設定方法によれば、使用者や指示者に操作によることなく、重なるデーターに基づいて注目領域AAを容易に設定できる。
また、第1の他の設定方法は上記に限定されるものではなく、HMD100の使用者の視線の方向や瞳孔の開閉状態に基づいて注目領域AAとして決定しても良い。例えば、HMD100に新たに使用者の視線の方向や瞳孔の状態を検出するセンサーやカメラを設ける。視線の方向に基づいて注目領域AAを決定する方法としては、例えば、使用者の視線の方向が所定の時間、一定の領域内にあることをHMD100が判定した場合に、一定の領域を注目領域AAとして決定しても良い。また、瞳孔の開閉状態に基づいて注目領域AAを決定する方法としては、例えば、センサーやカメラによって瞳孔の開閉状態を検出し、検出結果に基づいて使用者が注目している一定の領域を推定する。そして、推定した一定の領域を注目領域AAとして決定する。
図20は、基準切出位置Csの第2の他の設定方法を説明するための図である。切出位置設定部641は、外部(例えば、指示者)から指定された指定対象物を含む領域を注目領域として切出中心位置を設定する。例えば、PC250の指示者はHMD100の使用者に対して、HMD100の使用者に注目すべき対象物(指定対象物)を指定して、画像表示部20に指定対象物を画像VIaとして表示させる。図20では、ディスプレイ79の画像が画像表示部20に表示されている。使用者は、画像表示部20に表示された注目領域を表す枠状の画像97内に外景に存在するディスプレイ79が位置するように、十字キー16(図1)を用いて枠画像97を移動させる。枠画像97は、枠画像97の中心位置を示すマーク101を含む。使用者は、枠画像97内にディスプレイ79を含む操作パネル78を位置させた後に、画像表示されたデーター処理開始マークSMを選択する。これにより、枠画像97の中心が基準切出位置Csに設定される。このように第2の他の設定方法によれば、外部から指定された指定対象物を含む領域を注目領域として設定できる。また、画像表示部20に指定対象物の画像が表示されるため、使用者は画像表示部20に表示された画像を視認することで容易に指定対象物を認識できる。
上記の第2の他の設定方法では、枠画像97を用いて指定対象物を指定することによって注目領域を設定したが、これに限定されるものではなく、枠画像97に代えて指定対象物を指定可能な他の方法を採用しても良い。例えば、外景を透過可能な色がついた画像(色画像)を画像表示部20に表示して、色画像内に指定対象物である操作パネル79が位置するように色画像を移動させる。そして、データー処理開始マークSMを選択することによって、色画像の中心が基準切出位置Csに設定される。色画像の外形形状は、矩形、円形など種々の形状を採用可能である。
図21は、基準切出位置Csの第3の他の設定方法を説明するための図である。図21(A)は、注目オブジェクトテーブル122を説明するための図である。図21(B)は、基準切出位置Csの設定方法を説明するための図である。
図21(A)に示すように、HMD100の記憶部120は、注目オブジェクトを記憶する注目オブジェクトテーブル122を新たに有する。注目オブジェクトテーブル122は、注目対象物ごとに注目対象物を特定するための特徴情報を有する。特徴情報は、注目対象物の形状や大きさや色などの情報である。図21に示す注目オブジェクトテーブル122には、プリンター70の各部(例えば、ディスプレイ79)ごとに特徴情報が記憶されている。
切出位置設定部641は、パターンマッチングによって、フレーム画像データーFMの中から注目オブジェクトテーブル122に記憶された1つの注目対象物を検出すると、検出した注目オブジェクトを含む領域を注目領域AAとして決定する。そして、切出位置設定部641は、注目領域AAの中心位置を基準切出位置Csとして設定する。例えば、図21(B)に示すように、切出位置設定部641は、フレーム画像データーFMの中から操作パネル78を検出する。そして操作パネル78を含む注目領域AAの中心位置を基準切出位置Csとして設定する。基準切出位置Csが設定されたことを処理開始データーSDを受信したとみなしてステップS20(図7)以降の処理がサーバー60,60aによって実行される。なお、注目対象物を検出するためのフレーム画像データーFM1の検出領域DAは、撮像領域CPRよりも小さい領域であって、撮像領域CPRの中心位置を含む領域であることが好ましい。こうすることで、注目対象物が撮像領域CPRの端に位置するときに注目対象物が検出されることを防止できるため、基準切出位置Csが撮像領域CPRの端近傍に設定されることを防止できる。第3の他の設定方法によれば、切出位置設定部641によって自動的に注目対象物を検出することによって、基準切出位置Csを設定できる。
D.変形例:
上記実施形態において、ハードウェアによって実現されるとした構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されるとした構成の一部をハードウェアに置き換えるようにしてもよい。その他、以下のような変形も可能である。
・変形例1:
上記第1,第2実施形態では、表示用フレーム画像データーFM2を生成するためのデータ処理要素(記憶部620,620a及びデーター処理部646,646a)がHMD100とPC250との間のデーターを中継するサーバー60,60aに設けられていたが、これに限定されるものではない。例えば、記憶部620,620a及びデーター処理部646,646aはHMD100に設けられていても良いし、PC250に設けられていても良い。こうすることで、単一の装置(例えば、HMD100)を用いた動画像データーのデーター処理を行うことができる。
また、表示用フレーム画像データーFM2を生成するためのデータ処理要素(データー処理部646,646aや記憶部620,620a)を有する情報処理装置が、HMD100と表示部251(図1)の少なくとも一方と有線ケーブルによって接続されていても良い。また、HMD100とPC250のいずれかがデーター処理要素を有し、HMD100とPC250とが有線ケーブルによって接続されていても良い。
・変形例2:
上記実施形態では、画像表示装置の例としてHMD100を用いたがこれに限定されるものではない。画像表示装置は、動画像を撮像する撮像部と、撮像部の動きを検出するためのセンサーとを少なくとも有していれば良く、例えばビデオカメラやスマートフォンやタブレット型端末やロボットであっても良い。また、画像表示装置は画像を表示する機能を有していなくても良く、この場合、動画像取得装置と呼ぶこともできる。また、上記の表示システム1は遠隔支援システムを例に説明したがこれに限定されるものではない。例えば、野球中継を行うシステムなどに本発明は適用しても良い。また、HMD100,サーバー60,60a,PC250の構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。
HMD100は、両眼タイプの透過型HMDであるものとしたが、単眼タイプのHMDとしてもよい。また、使用者がHMDを装着した状態において外景の透過が遮断される非透過型HMDとして構成してもよいし、非透過型HMDにカメラを搭載したビデオシースルーとして構成してもよい。また、例えば、画像表示部20が備える右光学像表示部26および左光学像表示部28(図1)を、上記実施形態よりも小さく形成し、HMDの装着時における利用者の左右の眼の斜め上や斜め下などにそれぞれ配置しても良い。このように、光学像表示部は利用者の眼の近傍に配置されていれば足りる。光学像表示部を形成する光学部材の大きさは任意であり、光学像表示部が利用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が利用者の眼を完全に覆わない態様でもよい。すなわち、光学像表示部の先にある外界からの光が、光学像表示部を覆っていない部分から瞳孔に入る瞳分割型のHMDを本発明に採用しても良い。また、例えば、画像表示部として、眼鏡のように装着する画像表示部に代えて、通常の平面型ディスプレイ装置(液晶ディスプレイ装置、プラズマディスプレイ装置、有機ELディスプレイ装置等)を採用してもよい。この場合にも、制御部と画像表示部との間の接続は、有線の信号伝送路を介した接続であってもよいし、無線の信号伝送路を介した接続であってもよい。このようにすれば、制御部を、通常の平面型ディスプレイ装置のリモコンとして利用することもできる。また、例えば、画像表示部として、眼鏡のように装着する画像表示部に代えて、例えば帽子のように装着する画像表示部といった他の形状の画像表示部を採用してもよい。また、イヤホンは耳掛け型やヘッドバンド型を採用してもよく、省略しても良い。また、例えば、自動車や飛行機等の車両、またはその他の交通手段に搭載されるヘッドアップディスプレイ(HUD、Head-Up Display)として構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたHMDとして構成されてもよい。また、例えば、手持ち型のハンドヘルドディスプレイ(Hand held display)として構成されてもよい。
・変形例3:
上記第1,第2実施形態では、切出位置設定部641は、9軸センサー66の検出情報DT1に基づいて補正後切出位置Ctを設定していたが、これに限定されるものではない。例えば、カメラ61の定常的な動き(すなわち、HMD100の使用者の頭の定常的な揺れ)を予め計測しておき、予め計測した動きに基づいて切出位置設定部641が補正後切出位置Ctを設定しても良い。
・変形例4:
上記第1,第2実施形態では、基準切出位置Csは撮像領域CPRの中心RCeを基準切出位置Csとして設定していたが、これに限定されるものではない。例えば、基準切出位置Csは、使用者や指示者によって指定されても良いし、撮像領域CPRの中心RCeからずれた位置に設定されても良い。
・変形例5:
上記第2実施形態では、距離検出部164は距離データーDLが表す対象物距離が大きいほど切出領域EPRを大きくしたが、これに限定されるものではない。例えば、距離検出部164は距離データーDLが表す対象物距離が大きいほど切出領域EPRを小さくしても良い。
また、カメラ61と所定の対象物との距離(対象物距離)に代えて、HMD100の使用者の頭部の移動速度に応じて切出領域EPRの大きさを変化させても良い。頭部の移動速度は、9軸センサー66によって検出したり、9軸センサー66の検出結果に基づいてCPU140が算出したりする。例えば、移動速度が速いほど切出領域を大きくしても良い。こうすることで、広範囲の領域を表示部251に表示できるため、頭部の動きを指示者がより認識し易くできる。
・変形例6:
上記第1,2実施形態では、切出位置設定部641は、カメラ61の動きとは反対の方向であって、フレーム画像中におけるカメラ61の基準位置からの移動量分だけ、基準切出位置Csをずらすことで補正後切出位置Ctを設定していたが、補正後切出位置Ctの設定方法はこれに限定されるものではない。例えば、切出位置設定部641は、カメラ61の動きが表示部251に反映されることを抑制できるように補正後切出位置Ctを設定しても良い。具体的には、切出位置設定部641は、カメラ61の動きとは反対の方向であって、カメラ61の基準位置からの移動量未満(例えば、移動量の1/3や2/3)の距離だけ基準切出位置Csをずらすことで補正後切出位置Ctを設定しても良い。
・変形例7:
表示装置が、両眼タイプのHMDであったり、3次元的に画像を表示可能である場合、以下のように立体的に画像を表示しても良い。具体的には、所定の対象物と撮像部までの距離を距離検出部164によって検出し、検出結果に応じた視差を付して支持者の左右の目で視認されるそれぞれのフレーム画像を生成して、立体的に画像を表示させても良い。
・変形例8:
上記実施形態では、HMD100のカメラ61は時系列的に連続する複数のフレーム画像データーFM1を動画像データーDM1としてサーバー60、60aに送信し、サーバー60,60aのデーター処理部646,646aは、動画像データーDM1に対してデーター処理を行っていたが、これに限定されるものではない。例えば、HMD100のカメラ61は、所定期間ごとに画像を撮像し、撮像した複数の画像をサーバー60、60aに送信し、サーバー60,60aのデーター処理部646,646aが複数の画像データーに対してデーター処理を行っても良い。
・変形例9:
本発明は、上述の実施形態や実施例、変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、実施例、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
1…表示システム
10…制御部
12…点灯部
14…タッチパッド
16…十字キー
18…電源スイッチ
20…画像表示部
21…右保持部
22…右表示駆動部
23…左保持部
24…左表示駆動部
25…表示部
26…右光学像表示部
28…左光学像表示部
30…マイク部
31…マイクロフォン
32…アーム
33…連結部
40…接続コード
46…連結部材
51…送信部
52…送信部
53…受信部
60,60a…サーバー
61…カメラ
62…TOFセンサー部
66…9軸センサー
70…プリンター
71…給紙スロット
72…カバー
76…排出部
77…保持部
78…操作パネル
79…ディスプレイ
90…ヘッドフォン部
91…ヘッドバンド
92…右イヤーカップ
92a…上面
93…左イヤーカップ
94…スピーカー
95…スピーカー
97…枠画像
99…使用者
100…頭部装着型表示装置
101…マーク
110…入力情報取得部
120…記憶部
122…注目オブジェクトテーブル
130…電源
132…無線通信部
134…GPSモジュール
135…タイマー
140…CPU
160…画像処理部
162…表示制御部
164…距離検出部
170…音声処理部
180…インターフェイス
201…右バックライト制御部
202…左バックライト制御部
211…右LCD制御部
212…左LCD制御部
221…右バックライト
222…左バックライト
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
291…パーソナルコンピューター
292…携帯電話端末
293…ゲーム端末
320…ROM
340…通信インターフェイス
350…記憶部
620,620a…記憶部
621…条件テーブル
640…CPU
641…切出位置設定部
642…データー取得部
643…切出部
644…条件判定部
645…切出領域設定部
646,646a…データー処理部
647…補間処理部
648…データー送信部
670…ROM
672…RAM
AA…注目領域
BS…通信キャリア
CPR…撮像領域
Ce…中心位置
Cs…基準切出位置
Ct…補正後切出位置
DA…検出領域
DL…距離データー
DM1,DM2…動画像データー
DT1…検出情報
EPR…切出領域
EPRs…基準切出領域
EPRt…補正後切出領域
FM,FM1…フレーム画像データー
FM2…表示用フレーム画像データー
FM2m…補間画像データー
FM2s…標準画像データー
FM2t…補正画像データー
FR1…第1のフレームレート
FR2…第2のフレームレート
M1…第1対象物
M2…第2対象物
M3…第3対象物

Claims (18)

  1. 表示システムであって、
    画像を撮像する撮像部と、
    前記撮像部が撮像した前記画像をフレーム画像データーとして記憶する記憶部と、
    前記撮像部の動きを検出するためのセンサーと、
    前記フレーム画像データーが表す前記画像の所定の切出領域を切り出して表示用画像データーを生成するデーター処理部と、
    前記表示用画像データーを表示装置に送信するデーター送信部と、を備え、
    前記データー処理部は、
    前記センサーにより検出された前記撮像部の動きが、所定の条件を満たす場合は、前記フレーム画像データーが表す前記画像を切り出すための前記切出領域の位置を規定する規定位置を予め設定された基準切出位置に設定して前記フレーム画像データーから前記表示用画像データーを生成し、
    前記動きが前記所定の条件を満たさない場合は、基準位置からの前記撮像部の動きとは反対の方向に前記規定位置を前記基準切出位置からずらして前記フレーム画像データーから前記表示用画像データーを生成し、
    前記データー処理部は、
    前記所定の条件を満たさない場合に生成された前記表示用画像データーとしての第1の表示用画像データーが表す第1画像の後に、前記所定の条件を満たす場合に生成された前記表示用画像データーとしての第2の表示用画像データーが表す第2画像が前記表示装置に表示される場合に、前記第1画像と前記第2画像との差分を補間する補間表示用画像データーを生成する補間処理部を含み、
    前記補間処理部は、時系列に並んだ前記第1の表示用画像データーと前記第2の表示用画像データーとの間に前記補間表示用画像データーを挿入する、表示システム。
  2. 請求項1に記載の表示システムであって、
    前記所定の条件は、前記基準位置からの前記撮像部の移動量が連続して所定の時間以上だけ所定の閾値以上であるという条件である、表示システム。
  3. 請求項1または請求項2に記載の表示システムであって、
    前記データー処理部は、前記撮像部が撮像し第1のフレームレートで生成された複数の画像を間引いて前記データー送信部によって前記第1のフレームレートよりも低い第2のフレームレートで前記表示用画像データーを送信させることが可能であり、
    前記補間処理部は、
    時系列において、前記第1の表示用画像データーの元となる前記フレーム画像データーとしての第1の画像データーと前記第2の表示用画像データーの元となる前記フレーム画像データーとしての第2の画像データーとの間に位置し、前記第2のフレームレートでは間引かれる予定の前記フレーム画像データーとしての補間用画像データーを選択し、
    前記補間用画像データーが表す画像に対して前記基準切出位置を中心とする前記切出領域で切り出して前記補間表示用画像データーを生成する、表示システム。
  4. 請求項1または請求項2に記載の表示システムであって、
    前記補間処理部は、
    前記第1の表示用画像データーの元となる前記フレーム画像データーとしての第1の画像データーと、前記第2の表示用画像データーの元となる前記フレーム画像データーとしての第2の画像データーとの時系列において間に位置する少なくとも1つの前記表示用画像データーの元となる前記フレーム画像データーが表す前記画像に対して、前記第1の画像データーが生成されてから前記第2の画像データーが生成されるまでの間の前記撮像部の動きを補間するように前記規定位置を設定して前記補間表示用画像データーを生成する、表示システム。
  5. 請求項1から請求項までのいずれか一項に記載の表示システムであって、
    前記データー処理部は、さらに、
    注目すべき注目領域に基づいて前記基準切出位置を設定する切出位置設定部を有する、表示システム。
  6. 請求項に記載の表示システムであって、
    前記切出位置設定部は、所定の期間において前記撮像部が撮像した複数の前記画像のうち重なる画像領域を前記注目領域として前記基準切出位置を設定する、表示システム。
  7. 請求項に記載の表示システムであって、
    前記切出位置設定部は、外部から指定された指定対象物を含む領域を前記注目領域として前記基準切出位置を設定する、表示システム。
  8. 請求項に記載の表示システムであって、さらに、
    前記指定対象物を前記撮像部の使用者に視認させる画像表示部を有する、表示システム。
  9. 請求項に記載の表示システムであって、
    前記記憶部は、注目対象物を検出するための特徴情報を記憶し、
    前記切出位置設定部は、前記特徴情報を用いて前記フレーム画像データーが表す前記画像の中に前記注目対象物を検出した場合に、前記注目対象物を含む領域を前記注目領域として決定して前記基準切出位置を設定する、表示システム。
  10. 請求項から請求項までのいずれか一項に記載の表示システムであって、
    前記切出位置設定部は、前記注目領域の規定位置を前記基準切出位置として設定する、表示システム。
  11. 請求項1から請求項10までのいずれか一項に記載の表示システムであって、さらに、
    前記撮像部と前記画像に含まれる所定の対象物との距離を検出する距離検出部を有し、
    前記データー処理部は、さらに、前記距離検出部が検出した前記距離に応じて前記切出領域の大きさを変化させる切出領域設定部を有する、表示システム。
  12. 請求項11に記載の表示システムであって、
    前記データー処理部は、前記距離が大きいほど前記切出領域を大きくする、表示システム。
  13. 請求項11又は請求項12に記載の表示システムであって、
    前記距離検出部は、
    前記所定の対象物の実際の大きさと、前記画像における前記所定の対象物の大きさとを比較することで、前記距離を検出する、表示システム。
  14. 請求項1から請求項13までのいずれか一項に記載の表示システムであって、
    前記画像を表す前記フレーム画像データーと、前記フレーム画像データーが生成されたときの前記センサーの検出情報とのそれぞれには同じ識別情報が付与されている、表示システム。
  15. 請求項1から請求項14までのいずれか一項に記載の表示システムであって、さらに、
    前記撮像部が撮影した前記画像を取得する情報処理装置を有し、
    前記データー処理部は前記情報処理装置に設けられている、表示システム。
  16. 請求項1から請求項14までのいずれか一項に記載の表示システムであって、
    虚像を表示し、外界を透過可能な表示部を有する画像表示装置を有し、
    前記データー処理部は前記画像表示装置に設けられている、表示システム。
  17. 請求項1から請求項14までのいずれか一項に記載の表示システムであって、さらに、
    前記表示用画像データーが表す表示用画像を表示する前記表示装置を有し、
    前記データー処理部は前記表示装置に設けられている、表示システム。
  18. 表示システムであって、
    画像を撮像する撮像部と、
    前記撮像部の動きを検出するためのセンサーと、
    前記画像の所定の切出領域を切り出して表示用画像データーを生成するデーター処理部と、
    前記表示用画像データーを表示装置に送信するデーター送信部と、を備え、
    前記データー処理部は、
    前記センサーにより検出された前記撮像部の動きが、所定の条件を満たす場合は、前記画像を切り出すための前記切出領域の位置を規定する規定位置を予め設定された基準切出位置に設定して前記表示用画像データーを生成し、
    前記動きが前記所定の条件を満たさない場合は、基準位置からの前記撮像部の動きとは反対の方向に前記規定位置を前記基準切出位置からずらして前記表示用画像データーを生成し、
    前記データー処理部は、
    前記所定の条件を満たさない場合に生成された前記表示用画像データーとしての第1の表示用画像データーが表す第1画像の後に、前記所定の条件を満たす場合に生成された前記表示用画像データーとしての第2の表示用画像データーが表す第2画像が前記表示装置に表示される場合に、前記第1画像と前記第2画像との差分を補間する補間表示用画像データーを生成する補間処理部を含み、
    前記補間処理部は、時系列に並んだ前記第1の表示用画像データーと前記第2の表示用画像データーとの間に前記補間表示用画像データーを挿入し、
    前記表示システムは、さらに、
    前記撮像部と前記画像に含まれる所定の対象物との距離を検出する距離検出部を有し、
    前記データー処理部は、さらに、前記距離検出部が検出した前記距離に応じて前記切出領域の大きさを変化させる切出領域設定部を有し、
    前記データー処理部の前記切出領域設定部は、前記距離が大きいほど前記切出領域を大きくする、表示システム。
JP2015153170A 2015-08-03 2015-08-03 表示システム Active JP6641763B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015153170A JP6641763B2 (ja) 2015-08-03 2015-08-03 表示システム
US15/213,939 US10334169B2 (en) 2015-08-03 2016-07-19 Display system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015153170A JP6641763B2 (ja) 2015-08-03 2015-08-03 表示システム

Publications (2)

Publication Number Publication Date
JP2017034494A JP2017034494A (ja) 2017-02-09
JP6641763B2 true JP6641763B2 (ja) 2020-02-05

Family

ID=57986438

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015153170A Active JP6641763B2 (ja) 2015-08-03 2015-08-03 表示システム

Country Status (2)

Country Link
US (1) US10334169B2 (ja)
JP (1) JP6641763B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11108670B2 (en) 2015-09-09 2021-08-31 Vantrix Corporation Streaming network adapted to content selection
US11287653B2 (en) 2015-09-09 2022-03-29 Vantrix Corporation Method and system for selective content processing based on a panoramic camera and a virtual-reality headset
US10506006B2 (en) 2015-09-09 2019-12-10 Vantrix Corporation Method and system for flow-rate regulation in a content-controlled streaming network
US10419770B2 (en) 2015-09-09 2019-09-17 Vantrix Corporation Method and system for panoramic multimedia streaming
US12063380B2 (en) 2015-09-09 2024-08-13 Vantrix Corporation Method and system for panoramic multimedia streaming enabling view-region selection
US10694249B2 (en) 2015-09-09 2020-06-23 Vantrix Corporation Method and system for selective content processing based on a panoramic camera and a virtual-reality headset
WO2018051964A1 (ja) * 2016-09-14 2018-03-22 株式会社スクウェア・エニックス 映像表示システム及び映像表示方法、映像表示プログラム
KR102042131B1 (ko) * 2018-01-30 2019-11-07 광운대학교 산학협력단 단말기에서 실시간 글자 인식시 영상을 안정화하는 방법
ES2898216T3 (es) * 2018-03-28 2022-03-04 Ericsson Telefon Ab L M Pantalla montada en la cabeza y método para reducir el mareo por movimiento inducido visualmente en una pantalla remota conectada
US11743593B2 (en) 2019-03-29 2023-08-29 Sony Group Corporation Imaging device, imaging signal processing device, and imaging signal processing method to reduce image display delay
JP7423270B2 (ja) * 2019-11-14 2024-01-29 キヤノン株式会社 表示装置
DE112021003465T5 (de) * 2020-06-30 2023-05-17 Sony Group Corporation Informationsprozessor, informationsverarbeitungsverfahren und speichermedium
CN114594600B (zh) * 2020-12-03 2023-08-15 中移(成都)信息通信科技有限公司 近眼显示系统、固定装置及其信号处理方法、设备及介质
WO2022201683A1 (ja) * 2021-03-23 2022-09-29 株式会社Jvcケンウッド 遠隔被制御装置、画像表示装置、及び映像表示制御方法
JP2023092638A (ja) * 2021-12-22 2023-07-04 株式会社Jvcケンウッド 画像表示装置及び画像表示方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002229089A (ja) * 2001-02-02 2002-08-14 Fuji Photo Optical Co Ltd 防振装置
US7880769B2 (en) * 2004-02-13 2011-02-01 Qualcomm Incorporated Adaptive image stabilization
JP4753065B2 (ja) * 2005-02-04 2011-08-17 富士フイルム株式会社 像振れ補正装置
EP2507764A4 (en) * 2009-11-30 2013-06-19 Hewlett Packard Development Co STABILIZING A SUBJECT OF INTEREST IN A CAPTURED VIDEO
US8493454B1 (en) * 2010-02-17 2013-07-23 Ambarella, Inc. System for camera motion compensation
JP5625995B2 (ja) * 2010-05-10 2014-11-19 カシオ計算機株式会社 被写体追跡装置、被写体追跡方法及びプログラム
JP2012160898A (ja) * 2011-01-31 2012-08-23 Brother Ind Ltd 画像処理装置
JP5868618B2 (ja) * 2011-06-14 2016-02-24 オリンパス株式会社 情報処理装置、画像処理システム及びプログラム
JP2012023768A (ja) 2011-09-29 2012-02-02 Sanyo Electric Co Ltd 撮像装置
JP5990998B2 (ja) 2012-04-23 2016-09-14 セイコーエプソン株式会社 虚像表示装置
JP6332996B2 (ja) * 2013-04-17 2018-05-30 キヤノン株式会社 動画像処理装置および撮像装置、動画像処理方法
JP6252002B2 (ja) 2013-07-11 2017-12-27 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法
TW201502581A (zh) 2013-07-11 2015-01-16 Seiko Epson Corp 頭部配戴型顯示裝置及頭部配戴型顯示裝置之控制方法
US20150022677A1 (en) * 2013-07-16 2015-01-22 Qualcomm Incorporated System and method for efficient post-processing video stabilization with camera path linearization
CN104349039B (zh) * 2013-07-31 2017-10-24 展讯通信(上海)有限公司 视频防抖方法和装置
EP2996017B1 (en) * 2014-09-11 2022-05-11 Nokia Technologies Oy Method, apparatus and computer program for displaying an image of a physical keyboard on a head mountable display
JP2016062486A (ja) * 2014-09-19 2016-04-25 株式会社ソニー・コンピュータエンタテインメント 画像生成装置および画像生成方法
KR102028088B1 (ko) * 2015-04-30 2019-10-02 구글 엘엘씨 눈과는 상이한 렌즈들의 위치를 교정하는 실제 장면을 보기 위한 가상 안경 세트

Also Published As

Publication number Publication date
US20170041544A1 (en) 2017-02-09
JP2017034494A (ja) 2017-02-09
US10334169B2 (en) 2019-06-25

Similar Documents

Publication Publication Date Title
JP6641763B2 (ja) 表示システム
US10162412B2 (en) Display, control method of display, and program
US11536964B2 (en) Head-mounted display apparatus, display control method, and computer program
US9823473B2 (en) Head-mounted display device and control method for head-mounted display device
US10073262B2 (en) Information distribution system, head mounted display, method for controlling head mounted display, and computer program
US20160133051A1 (en) Display device, method of controlling the same, and program
US20140225812A1 (en) Head mounted display, control method for head mounted display, and image display system
JP6094305B2 (ja) 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
JP2014192550A (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
US9846305B2 (en) Head mounted display, method for controlling head mounted display, and computer program
US10082671B2 (en) Head-mounted display, method of controlling head-mounted display and computer program to measure the distance from a user to a target
JP2016142887A (ja) 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム
US20180241983A1 (en) Display device and control method therefor
US20160035137A1 (en) Display device, method of controlling display device, and program
US20150279110A1 (en) Head mounted display, and control method for head mounted display
JP6620417B2 (ja) 表示装置およびその制御方法、並びにコンピュータープログラム
JP6252002B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6582374B2 (ja) 表示装置およびその制御方法、並びにコンピュータープログラム
JP2015087523A (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム
JP2016033763A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6683218B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6304415B2 (ja) 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
JP2016034091A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6287399B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6394174B2 (ja) 頭部装着型表示装置、画像表示システム、頭部装着型表示装置を制御する方法、および、コンピュータープログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180720

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190404

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190704

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190917

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191029

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20191107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191216

R150 Certificate of patent or registration of utility model

Ref document number: 6641763

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150