JP7556245B2 - 情報処理装置、表示装置、情報処理システムおよびプログラム - Google Patents
情報処理装置、表示装置、情報処理システムおよびプログラム Download PDFInfo
- Publication number
- JP7556245B2 JP7556245B2 JP2020156605A JP2020156605A JP7556245B2 JP 7556245 B2 JP7556245 B2 JP 7556245B2 JP 2020156605 A JP2020156605 A JP 2020156605A JP 2020156605 A JP2020156605 A JP 2020156605A JP 7556245 B2 JP7556245 B2 JP 7556245B2
- Authority
- JP
- Japan
- Prior art keywords
- objects
- user
- group
- virtual space
- document
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 75
- 230000004044 response Effects 0.000 claims description 23
- 230000008859 change Effects 0.000 claims description 7
- 238000010586 diagram Methods 0.000 description 28
- 238000000034 method Methods 0.000 description 14
- 239000003550 marker Substances 0.000 description 12
- 230000008569 process Effects 0.000 description 10
- 239000000284 extract Substances 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 238000005259 measurement Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 239000011796 hollow space material Substances 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/01—Indexing scheme relating to G06F3/01
- G06F2203/012—Walk-in-place systems for allowing a user to walk in a virtual environment while constraining him to a given position in the physical environment
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- Computer Hardware Design (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Geometry (AREA)
- Multimedia (AREA)
- User Interface Of Digital Computer (AREA)
Description
本発明は、仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる情報処理装置等を提供することを目的とする。
請求項2に記載の発明は、プロセッサを備え、前記プロセッサは、仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示し、前記複数のオブジェクトからオブジェクト群を抽出し、前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定し、前記ユーザが前記オブジェクト群の中から前記一のオブジェクトの選択を行うときに、前記操作オブジェクトの仮想空間内の移動を案内する案内領域を設定し、前記操作オブジェクトの仮想空間内の移動を案内する前記案内領域としてのオブジェクトであって、前記オブジェクト群を構成するオブジェクトの個数で区切られたそれぞれの区間が当該オブジェクトの何れかに対応している案内オブジェクトをさらに表示し、前記区間の中で、前記操作オブジェクトに最も近い区間に対応する前記オブジェクトを前記一のオブジェクトとして特定し、特定した前記一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示することを特徴とする情報処理装置である。
請求項3に記載の発明は、前記案内オブジェクトは、線および面の少なくとも一方として表示されることを特徴とする請求項2に記載の情報処理装置である。
請求項4に記載の発明は、前記プロセッサは、前記オブジェクト群の仮想空間内の位置とユーザの視野との関係により、特定した前記一のオブジェクトの表示態様を変更することを特徴とする請求項1に記載の情報処理装置である。
請求項5に記載の発明は、前記表示態様の変更は、特定した前記一のオブジェクトの位置を移動して表示するときの方向であることを特徴とする請求項1に記載の情報処理装置である。
請求項6に記載の発明は、前記プロセッサは、前記オブジェクト群を構成するオブジェクトの仮想空間内の姿勢により、特定した前記一のオブジェクトの姿勢を変化させて表示させることを特徴とする請求項1に記載の情報処理装置である。
請求項7に記載の発明は、仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトと、を表示し、前記操作オブジェクトの仮想空間内の操作に応じ、前記複数のオブジェクトから抽出されたオブジェクト群の中から特定された一のオブジェクトを、当該オブジェクト群の当該仮想空間内の位置と前記ユーザの頭部の位置との関係により、当該一のオブジェクトの表示態様を変更して表示することで、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する表示装置である。
請求項8に記載の発明は、プロセッサを備え、前記プロセッサは、仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示し、前記複数のオブジェクトからオブジェクト群を抽出し、前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定し、前記オブジェクト群の仮想空間内の位置とユーザの頭部の位置との関係により、特定した前記一のオブジェクトの表示態様を変更することで、当該一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示することを特徴とする情報処理システムである。
請求項9に記載の発明は、仮想空間を表示する表示装置と、前記表示装置で表示する仮想空間の表示情報を作成する情報処理装置と、を備え、前記情報処理装置は、プロセッサを備え、前記プロセッサは、仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示し、前記複数のオブジェクトからオブジェクト群を抽出し、前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定し、前記ユーザが前記オブジェクト群の中から前記一のオブジェクトの選択を行うときに、前記操作オブジェクトの仮想空間内の移動を案内する案内領域を設定し、前記操作オブジェクトの仮想空間内の移動を案内する前記案内領域としてのオブジェクトであって、前記オブジェクト群を構成するオブジェクトの個数で区切られたそれぞれの区間が当該オブジェクトの何れかに対応している案内オブジェクトをさらに表示し、前記区間の中で、前記操作オブジェクトに最も近い区間に対応する前記オブジェクトを前記一のオブジェクトとして特定し、特定した前記一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示することを特徴とする情報処理システムである。
請求項10に記載の発明は、コンピュータに、仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示する機能と、前記複数のオブジェクトからオブジェクト群を抽出する機能と、前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定する機能と、前記オブジェクト群の仮想空間内の位置とユーザの頭部の位置との関係により、特定した前記一のオブジェクトの表示態様を変更することで、当該一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する機能と、を実現させるためのプログラムである。
請求項11に記載の発明は、コンピュータに、仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示する機能と、前記複数のオブジェクトからオブジェクト群を抽出する機能と、前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定する機能と、前記ユーザが前記オブジェクト群の中から前記一のオブジェクトの選択を行うときに、前記操作オブジェクトの仮想空間内の移動を案内する案内領域を設定する機能と、前記操作オブジェクトの仮想空間内の移動を案内する前記案内領域としてのオブジェクトであって、前記オブジェクト群を構成するオブジェクトの個数で区切られたそれぞれの区間が当該オブジェクトの何れかに対応している案内オブジェクトをさらに表示する機能と、前記区間の中で、前記操作オブジェクトに最も近い区間に対応する前記オブジェクトを前記一のオブジェクトとして特定する機能と、特定した前記一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する機能と、を実現させるためのプログラムである。
請求項2の発明によれば、仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる情報処理装置を提供することができる。また、ユーザがオブジェクトの選択を行う際に、入力装置の操作がより容易になる。また、ユーザが、案内領域を案内オブジェクトとして、視覚的に把握することができる。また、一のオブジェクトの特定が、より容易になる。
請求項3の発明によれば、ユーザにより認識しやすい案内オブジェクトを表示することができる。
請求項4~6の発明によれば、ユーザが、一のオブジェクトを、より認識しやすくなる。
請求項7の発明によれば、仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる表示画面を表示する表示装置を提供することができる。また、ユーザが、一のオブジェクトを、より認識しやすくなる。
請求項8の発明によれば、仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる情報処理システムを提供することができる。また、ユーザが、一のオブジェクトを、より認識しやすくなる。
請求項9の発明によれば、仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる情報処理システムを提供することができる。また、ユーザがオブジェクトの選択を行う際に、入力装置の操作がより容易になる。また、ユーザが、案内領域を案内オブジェクトとして、視覚的に把握することができる。また、一のオブジェクトの特定が、より容易になる。
請求項10の発明によれば、仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる機能をコンピュータにより実現できる。また、ユーザが、一のオブジェクトを、より認識しやすくなる。
請求項11の発明によれば、仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる機能をコンピュータにより実現できる。また、ユーザがオブジェクトの選択を行う際に、入力装置の操作がより容易になる。また、ユーザが、案内領域を案内オブジェクトとして、視覚的に把握することができる。また、一のオブジェクトの特定が、より容易になる。
図1は、本実施の形態における情報処理システム1の構成例を示す図である。
図示するように本実施の形態の情報処理システム1は、表示情報を作成する情報処理装置10と、表示情報を基に表示画面20aに画像を表示する表示装置20と、情報の入力を行う入力装置30と、ユーザの頭部、表示装置20および入力装置30を撮影するカメラ40とを備える。
さらに、ドキュメントのオブジェクトは、任意の位置および姿勢でVR空間内に配置することができ、さらにユーザの過去の操作の結果を反映することもでき、情報処理装置10が、位置および姿勢を算出する。
また、情報処理装置10は、外部との通信を行うための通信インタフェースを備える。
本実施の形態では、表示装置20は、表示画面20aにドキュメントの閲覧や操作のためのVR空間を表示する。また、この表示画面20aは、視差を提示でき、ユーザは奥行きなど3次元的にVR空間を認識することができる。
入力装置30が、ユーザの手や指である場合、マイクロソフト社のKinect(登録商標)等のように、RGBカメラ、深度センサ等を備えるカメラ40で撮影する。そして、情報処理装置10が、ユーザの手や指の動きを解析することで、ユーザの手や指の3次元座標を取得することができる。
光学系は、単一のレンズまたは複数のレンズを組み合わせて構成される。光学系は、レンズの組み合わせおよびレンズ表面に施されたコーティング等により、各種の収差が除去されている。イメージセンサは、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を配列して構成される。
また、情報処理装置10と入力装置30とは、例えば、USB(Universal Serial Bus)を介して接続されている。なお、USBに代えて、IEEE1394やRS-232C等を介して接続されていてもよい。ただし、これに限られるものではなく、無線LAN(Local Area Network)、ブルートゥース(Bluetooth)(登録商標)等の無線接続であってもよい。
さらに情報処理装置10およびカメラ40とは、図示する例では、有線で接続されており、例えば、USB、IEEE1394、RS-232Cを介して接続されている。これによりカメラ40で撮影された画像の画像情報が、有線により情報処理装置10に送られる。ただし、これに限られるものではなく、上述した無線接続であってもよい。
しかしながら、複数のドキュメントオブジェクトが重なるなど、VR空間内で近接する位置にある場合、ドキュメントの選択が困難になる場合がある。
このうち、図2(a)は、ドキュメントオブジェクトの選択を行う前の状態を示している。
図示する例では、表示画面20aに、ドキュメントオブジェクトOd1~Od5が表示されている。また、入力装置オブジェクトOnとして、ユーザの手のオブジェクトが表示されている。そして、入力装置オブジェクトOnには、操作オブジェクトOsが表示される。操作オブジェクトOsは、入力装置オブジェクトOnの中でオブジェクトに対し操作を行う箇所を表す。この操作オブジェクトOsは、VR空間中で、一定の範囲を占める。この場合、操作オブジェクトOsは、ポインタであると言うこともできる。よって、例えば、ドキュメントオブジェクトOd5を選択しようとする場合、ユーザは、操作オブジェクトOsを、ドキュメントオブジェクトOd5に合わせ、入力装置30を使用して予め定められた操作を行う。この操作は、入力装置30がマウス型の入力デバイスであるときは、例えば、クリックなどの操作である。また、入力装置30がユーザの手や指であった場合は、予め定められたジェスチャーである。
ここでは、VR空間内に複数のオブジェクトの一例であるドキュメントオブジェクトOd1~Od5を表示する。そして、VR空間内にユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトOsを表示している。「入力情報」は、上述したクリックやジェスチャーなどの操作を行ったときに、ユーザの指示として情報処理装置10に入力される情報である。
そこで、本実施の形態では、情報処理システム1を以下の構成にし、この問題の抑制を図っている。
図示するように本実施の形態の情報処理装置10は、カメラ40から3次元測定結果や画像情報を取得する情報取得手段110と、ユーザの頭部、表示装置20および入力装置30の現実空間での位置および姿勢を決定する決定手段120と、ユーザの頭部、表示装置20および入力装置30の大きさ・形状等や、オブジェクトについての情報を保存する保存手段130と、ドキュメントオブジェクトを特定する特定手段140と、表示装置20の表示画面20aで表示する表示情報を作成する作成手段150とを備える。
この場合、カメラ40は、図1に示すように現実空間に存在するユーザの頭部、表示装置20および入力装置30を撮影する。そして、これらの3次元測定結果や撮影した画像情報は、カメラ40から情報処理装置10に送られ、情報取得手段110が取得する。この場合、画像情報は、動画の画像情報であるが、例えば、40ミリ秒毎など予め定められた短い時間間隔で撮影された複数の静止画の画像情報であってもよい。
また、情報取得手段110は、入力装置30から、入力情報を取得する。
また、保存手段130は、VR空間で表示するオブジェクトについての情報を保存する。オブジェクトについての情報は、例えば、オブジェクトの大きさ・形状の情報であり、形状を3次元座標またはその3次元座標を用いた数式で表現されるとともに、オブジェクトの特性を表す属性情報を含んでもよい。この特性を表す情報としては、表面の材質感を表す情報であったり、重さを表す情報であったり、硬さを表す情報等であってもよい。また、オブジェクトがドキュメントオブジェクトOdの場合、ドキュメントの内容についての情報を保存する。即ち、ドキュメントに含まれる文字情報や画像情報について記憶する。
図4は、情報処理システム1の動作について説明したフローチャートである。
まずカメラ40が、ユーザの頭部、表示装置20および入力装置30を撮影する(ステップ101)。そして、3次元測定結果や撮影した画像情報は、情報処理装置10に送られる。
この3次元測定結果や画像情報は、情報処理装置10の情報取得手段110が取得する(ステップ102)。
ここでは、まず画像からマーカーを抽出する(ステップ201)。このときマーカーが複数ある場合は、各マーカーの画像を抽出する。
そして、抽出したマーカーからID番号を取得する(ステップ202)。
さらに、撮影した画像中のマーカーの大きさや変形状態を基に、入力装置30等の位置および姿勢を決定する(ステップ203)。
そして、ID番号に対応する入力装置30等の位置および姿勢の情報を更新する(ステップ204)。
そして、作成手段150は、作成した表示情報を、表示装置20に送信し、表示装置20の表示情報取得手段210が取得する(ステップ105)。
そして、画像表示手段220が、表示情報を基に、表示画面20aに画像を表示する(ステップ106)。これにより、VR空間中に、ユーザ頭部オブジェクト、ディスプレイオブジェクト、入力装置オブジェクトOn、ドキュメントオブジェクトOdなどの各オブジェクトが表示される。
対して、近接ドキュメント選択モードである場合(ステップ107でYes)、特定手段140は、VR空間中の複数のドキュメントオブジェクトOdからオブジェクト群を抽出する。「オブジェクト群」は、オブジェクトの集まりであり、ここでは、下記の第1のオブジェクト群および第2のオブジェクト群である。
この場合、まず、特定手段140は、VR空間中の複数のドキュメントオブジェクトOdから第1のオブジェクト群G1を抽出する(ステップ108)。
さらに、特定手段140は、操作オブジェクトOsの位置により、第1のオブジェクト群G1の中から、第2のオブジェクト群G2を抽出する(ステップ109)。
特定手段140は、ユーザの視認する範囲R1にあるドキュメントオブジェクトOdを第1のオブジェクト群G1として抽出する。特定手段140は、ユーザの視認する範囲R1を、ユーザの頭部Tの位置や姿勢を基に算出する。そして、特定手段140は、この範囲R1に含まれるドキュメントオブジェクトOdを第1のオブジェクト群G1として選択する。
この範囲R1は、表示画面20aで表示する全ての領域とすることができる。図6(a)は、表示画面20aで表示する全ての領域をユーザの視認する範囲R1とした場合を示す。そして、この範囲R1内のドキュメントオブジェクトOdとして、ドキュメントオブジェクトOd1~Od12が、第1のオブジェクト群G1として抽出されたことを示している。
また、範囲R1は、表示画面20aで表示する一部の領域としてもよい。図6(b)は、表示画面20aで表示する一部の領域をユーザの視認する範囲R1とした場合を示す。そして、この範囲R1内のドキュメントオブジェクトOd5~Od8が、第1のオブジェクト群G1として抽出されたことを示している。
ここでは、図6(a)の状態から、特定手段140が、第2のオブジェクト群G2を選定した場合を示している。特定手段140は、操作オブジェクトOsの位置により、ドキュメントブジェクトOdの中から第2のオブジェクト群G2を抽出する。
ここでは、第1のオブジェクト群G1であるドキュメントオブジェクトOd1~Od12の中から、ドキュメントオブジェクトOd5~Od8が、第2のオブジェクト群G2として選定されたことを示している。つまりこの場合、操作オブジェクトOsの位置から近くにあるドキュメントオブジェクトOd5~Od8が、第2のオブジェクト群G2として選定される。この場合、近くにあるか否かは、VR空間中のユークリッド距離により判断される。即ち、この場合、操作オブジェクトOsの位置から、VR空間中のユークリッド距離が比較的小さいドキュメントオブジェクトOdが、第2のオブジェクト群G2として選定される。
そして、作成手段150は、特定した一のドキュメントオブジェクトOdを、このドキュメントオブジェクトOd以外の他のドキュメントオブジェクトOdに対し識別可能に表示する(ステップ111)。具体的には、作成手段150は、特定手段140が特定した一のドキュメントオブジェクトOdを、このドキュメントオブジェクトOd以外の他のドキュメントオブジェクトOdに対し順次移動させて表示する表示情報を作成する。
このうち、図8(a)は、特定した一のドキュメントオブジェクトOdを移動させる前の状態を示した図である。作成手段150は、第2のオブジェクト群G2が抽出されると、第2のオブジェクト群G2の近くに、操作オブジェクトOsのVR空間内の移動を案内するオブジェクトである案内オブジェクトOaを表示する。この案内オブジェクトOaは、ユーザが第2のオブジェクト群G2の中から一のドキュメントオブジェクトOdの選択を行うときに、操作オブジェクトOsのVR空間内の移動を案内する案内領域の一例である。「案内領域」は、VR空間内で、ユーザが一のドキュメントオブジェクトOdを選択するときに、操作オブジェクトOsの移動を案内するために表示される領域である。
そして、操作オブジェクトOsが移動するに従い、特定手段140が、一のドキュメントオブジェクトOdを特定し、作成手段150は、図8(b)~(e)に示すような表示情報を作成し、表示画面20aに表示させる。
具体的には、特定手段140は、設定された区間の中で、操作オブジェクトOsに最も近い区間に対応するドキュメントオブジェクトOdを一のドキュメントオブジェクトOdとして特定する。そして、作成手段150は、この一のドキュメントオブジェクトOdを、他のドキュメントオブジェクトOdに対し順次移動させるようにする。
このうち、図9(a)は、案内オブジェクトOaとして、曲線を使用して表示した場合を示した図である。この案内オブジェクトOaは、曲線Oa3と、区切り線Oa2とからなる。そして、図8(a)の場合と同様に、案内オブジェクトOaは、4つの区間に区切られ、それぞれの区間(1)~(4)は、ドキュメントオブジェクトOd5~Od8にそれぞれ対応する。
また、図9(b)は、案内オブジェクトOaとして、面を使用して表示した場合を示した図である。この案内オブジェクトOaは、面Oa4と、区切り線Oa2とからなる。そして、図8(a)の場合と同様に、案内オブジェクトOaは、4つの区間に区切られる。図9(b)では、この4つの区間を区間(1)~(4)として図示している。そして、図8(a)の場合と同様に、案内オブジェクトOaは、4つの区間に区切られ、それぞれの区間(1)~(4)は、ドキュメントオブジェクトOd5~Od8にそれぞれ対応する。
その結果、ドキュメントオブジェクトOdを選択された場合(ステップ112でYes)、特定手段140は、近接ドキュメント選択モードを終了する(ステップ113)。そして、選択されたドキュメントオブジェクトOdに対し、予め定められた処理が実行される(ステップ114)。この処理は、例えば、選択されたドキュメントオブジェクトOdの拡大表示や編集画面の表示などである。
その結果、近接ドキュメント選択モードの終了が選択された場合(ステップ115でYes)、近接ドキュメント選択モードを終了し、一連の処理を終了する。
対して、近接ドキュメント選択モードの終了が選択されていない場合(ステップ115でNo)、ステップ110に戻る。
また、作成手段150は、特定した一のドキュメントオブジェクトOdの表示態様を変更するようにしてもよい。具体的には、表示態様を変更は、例えば、特定した一のドキュメントオブジェクトOdを移動して表示するときの方向である。
このうち、図10(a)~(b)は、第2のオブジェクト群G2のVR空間内の位置とユーザの頭部Tの位置との関係により、特定した一のドキュメントオブジェクトOdの移動する方向を変更する場合について示した図である。
図10(a)は、VR空間内で、第2のオブジェクト群G2の上下方向の中心位置が、ユーザの頭部Tの位置よりも低い位置にある場合を示した図である。そしてこのとき、特定した一のドキュメントオブジェクトOdであるドキュメントオブジェクトOd6が移動する方向を示している。この場合、図示するように、ドキュメントオブジェクトOd6は、上方向へ移動した方が、ユーザは、これを認識しやすくなる。
即ち、この距離が小さすぎると、ドキュメントオブジェクトOdが移動したことを、ユーザは、認識しにくい。また、この距離が大きすぎると、ユーザの視野の範囲外にドキュメントオブジェクトOdが移動することになり、同様に、ドキュメントオブジェクトOdが移動したことを、ユーザは、認識しにくくなる。
このうち、図11(a)は、ドキュメントオブジェクトOdが移動するときの距離が小さすぎないようにする方法について示した図である。
ここでは、VR空間中で、第2のオブジェクト群G2に属するドキュメントオブジェクトOd5~Od8を包含する直方体状の領域R2を設定する。そして、領域R2の範囲を超え、領域R2とドキュメントオブジェクトOd6とが重ならない距離で、ドキュメントオブジェクトOd6を上方向に移動させた場合を示している。この場合、ドキュメントオブジェクトOd6と、他のドキュメントオブジェクトOd5、Od7、Od8とは、重なりが生じず、ユーザは、ドキュメントオブジェクトOd6が移動したことを認識しやすい。
ここでは、VR空間中で、ユーザの頭部Tに向かう方向に、ドキュメントオブジェクトOd6を移動する場合を示している。また、移動する距離は、ユーザの頭部Tの手前とする。この場合、ユーザ方向にドキュメントオブジェクトOd6が移動するため、ユーザの視野の範囲外にドキュメントオブジェクトOd6が移動することはない。この場合、ユーザは、ドキュメントオブジェクトOd6が移動したことを認識しやすい。
この場合、作成手段150は、第2のオブジェクト群G2のVR空間内の位置とユーザの視野との関係により、特定した一のドキュメントオブジェクトOdの表示態様を変更する、と言うこともできる。
図12(a)~(b)は、ドキュメントオブジェクトOdが移動するときに姿勢を変化させる場合について示した図である。
ここで、図12(a)は、ドキュメントオブジェクトOdが移動するときに姿勢を変化させない場合を示した図である。この場合、ドキュメントオブジェクトOd7が移動しているが、移動後のドキュメントオブジェクトOdの表示面は、ユーザ側に向いていないため、ユーザは、この表示面を認識しにくい。
この場合、作成手段150は、第2のオブジェクト群G2を構成するドキュメントオブジェクトOdのVR空間内の姿勢により、特定した一のドキュメントオブジェクトOdの姿勢を変化させて表示させる、と言うこともできる。
この場合、表示装置20では、ユーザがオブジェクト群の中から一のドキュメントオブジェクトOdの選択を行うときに、操作オブジェクトOsのVR空間内の移動を案内するオブジェクトである案内オブジェクトOaをさらに表示する。
また、表示装置20では、オブジェクト群のVR空間内の位置とユーザの頭部Tの位置との関係により、一のドキュメントオブジェクトOdの表示態様を変更して表示してもよい。
また、以上説明した形態では、オブジェクトとして、ドキュメントオブジェクトOdを選択する場合を説明したが、これに限られるものではなく、VR空間中で表示されるオブジェクトであれば、特に限定することなく適用が可能である。
さらに、以上説明した形態では、案内オブジェクトOaは、線や面により設定されたが、空間により設定されたり、立体形状のオブジェクトとして設定されてもよい。
またさらに、以上説明した形態では、表示装置20により仮想空間の表示、即ち、VR(Virtual Reality、仮想現実)を利用した表示を行ったが、これに限られるものではなく、AR(Augmented Reality、拡張現実)やMR(Mixed Reality、複合現実)を利用してもよい。
ここで以上説明を行った本実施の形態における情報処理装置10が行う処理は、例えば、アプリケーションソフトウェア等のプログラムとして用意される。
Claims (11)
- プロセッサを備え、
前記プロセッサは、
仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示し、
前記複数のオブジェクトからオブジェクト群を抽出し、
前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定し、
前記オブジェクト群の仮想空間内の位置とユーザの頭部の位置との関係により、特定した前記一のオブジェクトの表示態様を変更することで、当該一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する
ことを特徴とする情報処理装置。 - プロセッサを備え、
前記プロセッサは、
仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示し、
前記複数のオブジェクトからオブジェクト群を抽出し、
前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定し、
前記ユーザが前記オブジェクト群の中から前記一のオブジェクトの選択を行うときに、前記操作オブジェクトの仮想空間内の移動を案内する案内領域を設定し、
前記操作オブジェクトの仮想空間内の移動を案内する前記案内領域としてのオブジェクトであって、前記オブジェクト群を構成するオブジェクトの個数で区切られたそれぞれの区間が当該オブジェクトの何れかに対応している案内オブジェクトをさらに表示し、
前記区間の中で、前記操作オブジェクトに最も近い区間に対応する前記オブジェクトを前記一のオブジェクトとして特定し、
特定した前記一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する
ことを特徴とする情報処理装置。 - 前記案内オブジェクトは、線および面の少なくとも一方として表示されることを特徴とする請求項2に記載の情報処理装置。
- 前記プロセッサは、前記オブジェクト群の仮想空間内の位置とユーザの視野との関係により、特定した前記一のオブジェクトの表示態様を変更することを特徴とする請求項1に記載の情報処理装置。
- 前記表示態様の変更は、特定した前記一のオブジェクトの位置を移動して表示するときの方向であることを特徴とする請求項1に記載の情報処理装置。
- 前記プロセッサは、前記オブジェクト群を構成するオブジェクトの仮想空間内の姿勢により、特定した前記一のオブジェクトの姿勢を変化させて表示させることを特徴とする請求項1に記載の情報処理装置。
- 仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトと、を表示し、
前記操作オブジェクトの仮想空間内の操作に応じ、前記複数のオブジェクトから抽出されたオブジェクト群の中から特定された一のオブジェクトを、当該オブジェクト群の当該仮想空間内の位置と前記ユーザの頭部の位置との関係により、当該一のオブジェクトの表示態様を変更して表示することで、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する表示装置。 - プロセッサを備え、
前記プロセッサは、
仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示し、
前記複数のオブジェクトからオブジェクト群を抽出し、
前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定し、
前記オブジェクト群の仮想空間内の位置とユーザの頭部の位置との関係により、特定した前記一のオブジェクトの表示態様を変更することで、当該一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する
ことを特徴とする情報処理システム。 - 仮想空間を表示する表示装置と、
前記表示装置で表示する仮想空間の表示情報を作成する情報処理装置と、
を備え、
前記情報処理装置は、プロセッサを備え、
前記プロセッサは、
仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示し、
前記複数のオブジェクトからオブジェクト群を抽出し、
前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定し、
前記ユーザが前記オブジェクト群の中から前記一のオブジェクトの選択を行うときに、前記操作オブジェクトの仮想空間内の移動を案内する案内領域を設定し、
前記操作オブジェクトの仮想空間内の移動を案内する前記案内領域としてのオブジェクトであって、前記オブジェクト群を構成するオブジェクトの個数で区切られたそれぞれの区間が当該オブジェクトの何れかに対応している案内オブジェクトをさらに表示し、
前記区間の中で、前記操作オブジェクトに最も近い区間に対応する前記オブジェクトを前記一のオブジェクトとして特定し、
特定した前記一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する
ことを特徴とする情報処理システム。 - コンピュータに、
仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示する機能と、
前記複数のオブジェクトからオブジェクト群を抽出する機能と、
前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定する機能と、
前記オブジェクト群の仮想空間内の位置とユーザの頭部の位置との関係により、特定した前記一のオブジェクトの表示態様を変更することで、当該一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する機能と、
を実現させるためのプログラム。 - コンピュータに、
仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示する機能と、
前記複数のオブジェクトからオブジェクト群を抽出する機能と、
前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定する機能と、
前記ユーザが前記オブジェクト群の中から前記一のオブジェクトの選択を行うときに、前記操作オブジェクトの仮想空間内の移動を案内する案内領域を設定する機能と、
前記操作オブジェクトの仮想空間内の移動を案内する前記案内領域としてのオブジェクトであって、前記オブジェクト群を構成するオブジェクトの個数で区切られたそれぞれの区間が当該オブジェクトの何れかに対応している案内オブジェクトをさらに表示する機能と、
前記区間の中で、前記操作オブジェクトに最も近い区間に対応する前記オブジェクトを前記一のオブジェクトとして特定する機能と、
特定した前記一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する機能と、
を実現させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020156605A JP7556245B2 (ja) | 2020-09-17 | 2020-09-17 | 情報処理装置、表示装置、情報処理システムおよびプログラム |
US17/157,940 US20220084287A1 (en) | 2020-09-17 | 2021-01-25 | Information processing apparatus, display device, information processing system, and non-transitory computer readable medium storing program |
CN202110234602.3A CN114201034A (zh) | 2020-09-17 | 2021-03-03 | 显示装置、记录介质、信息处理装置、系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020156605A JP7556245B2 (ja) | 2020-09-17 | 2020-09-17 | 情報処理装置、表示装置、情報処理システムおよびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022050162A JP2022050162A (ja) | 2022-03-30 |
JP7556245B2 true JP7556245B2 (ja) | 2024-09-26 |
Family
ID=80626889
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020156605A Active JP7556245B2 (ja) | 2020-09-17 | 2020-09-17 | 情報処理装置、表示装置、情報処理システムおよびプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220084287A1 (ja) |
JP (1) | JP7556245B2 (ja) |
CN (1) | CN114201034A (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115240820A (zh) * | 2021-04-23 | 2022-10-25 | 中强光电股份有限公司 | 穿戴式装置及基于环境调整显示状态的方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014164449A (ja) | 2013-02-22 | 2014-09-08 | Sony Corp | 表示制御装置、表示装置、表示制御方法、およびプログラム |
JP2017500673A (ja) | 2013-10-01 | 2017-01-05 | クアンタム インターフェイス エルエルシー | 選択引力インターフェース、このようなインターフェースを有するシステム及び装置、これを作成及び使用する方法 |
JP2017117008A (ja) | 2015-12-21 | 2017-06-29 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置および操作受付方法 |
WO2017145423A1 (ja) | 2016-02-25 | 2017-08-31 | 日本電気株式会社 | 情報処理システム、情報処理装置、制御方法、及びプログラム |
WO2020110270A1 (ja) | 2018-11-29 | 2020-06-04 | マクセル株式会社 | 映像表示装置および方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7168084B1 (en) * | 1992-12-09 | 2007-01-23 | Sedna Patent Services, Llc | Method and apparatus for targeting virtual objects |
US10503359B2 (en) * | 2012-11-15 | 2019-12-10 | Quantum Interface, Llc | Selection attractive interfaces, systems and apparatuses including such interfaces, methods for making and using same |
JP2014229224A (ja) * | 2013-05-27 | 2014-12-08 | 船井電機株式会社 | オブジェクト選択装置 |
AU2016341196B2 (en) * | 2015-10-20 | 2021-09-16 | Magic Leap, Inc. | Selecting virtual objects in a three-dimensional space |
US10732797B1 (en) * | 2017-01-10 | 2020-08-04 | Lucasfilm Entertainment Company Ltd. | Virtual interfaces for manipulating objects in an immersive environment |
-
2020
- 2020-09-17 JP JP2020156605A patent/JP7556245B2/ja active Active
-
2021
- 2021-01-25 US US17/157,940 patent/US20220084287A1/en active Pending
- 2021-03-03 CN CN202110234602.3A patent/CN114201034A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014164449A (ja) | 2013-02-22 | 2014-09-08 | Sony Corp | 表示制御装置、表示装置、表示制御方法、およびプログラム |
JP2017500673A (ja) | 2013-10-01 | 2017-01-05 | クアンタム インターフェイス エルエルシー | 選択引力インターフェース、このようなインターフェースを有するシステム及び装置、これを作成及び使用する方法 |
JP2017117008A (ja) | 2015-12-21 | 2017-06-29 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置および操作受付方法 |
WO2017145423A1 (ja) | 2016-02-25 | 2017-08-31 | 日本電気株式会社 | 情報処理システム、情報処理装置、制御方法、及びプログラム |
WO2020110270A1 (ja) | 2018-11-29 | 2020-06-04 | マクセル株式会社 | 映像表示装置および方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114201034A (zh) | 2022-03-18 |
JP2022050162A (ja) | 2022-03-30 |
US20220084287A1 (en) | 2022-03-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US12073008B2 (en) | Three-dimensional object tracking to augment display area | |
US11048333B2 (en) | System and method for close-range movement tracking | |
JP6074170B2 (ja) | 近距離動作のトラッキングのシステムおよび方法 | |
Millette et al. | DualCAD: integrating augmented reality with a desktop GUI and smartphone interaction | |
US10372229B2 (en) | Information processing system, information processing apparatus, control method, and program | |
EP1804154A2 (en) | Computer input device enabling three degrees of freedom and related input and feedback methods | |
JP4991614B2 (ja) | レイアウト決定方法、プログラムおよび装置 | |
CN102947783A (zh) | 多点触控标记菜单和有方向性的和弦手势 | |
US20150040056A1 (en) | Input device and method for inputting characters | |
JP2001265523A (ja) | 情報入出力システム及び情報入出力方法、並びにプログラム記憶媒体 | |
JP2013037675A5 (ja) | ||
CN108027654B (zh) | 输入设备、输入方法和程序 | |
JP6344530B2 (ja) | 入力装置、入力方法、及びプログラム | |
JP6248462B2 (ja) | 情報処理装置及びプログラム | |
JP7087364B2 (ja) | 情報処理装置、情報処理システムおよびプログラム | |
JP2024520943A (ja) | キー機能実行方法、キー機能実行システム、キー機能実行装置、電子機器、及びコンピュータプログラム | |
JP6270495B2 (ja) | 情報処理装置、情報処理方法、コンピュータプログラム、及び記憶媒体 | |
JP7556245B2 (ja) | 情報処理装置、表示装置、情報処理システムおよびプログラム | |
JP6924285B2 (ja) | 情報処理装置 | |
JP2013114467A (ja) | 表示システム、表示方法およびプログラム | |
JP7439639B2 (ja) | 情報提示システム及びプログラム | |
GB2434227A (en) | Mouse that can sense rotation and lateral movements with the mouse processing the rotation data using location data send back by the computer | |
JP2012190466A (ja) | レイアウト決定方法、プログラムおよび装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230830 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240305 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240424 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240514 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240710 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240813 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240826 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7556245 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |