JP2016110249A - 空間手書き入力システム、空間手書き入力方法およびコンピュータプログラム - Google Patents
空間手書き入力システム、空間手書き入力方法およびコンピュータプログラム Download PDFInfo
- Publication number
- JP2016110249A JP2016110249A JP2014244709A JP2014244709A JP2016110249A JP 2016110249 A JP2016110249 A JP 2016110249A JP 2014244709 A JP2014244709 A JP 2014244709A JP 2014244709 A JP2014244709 A JP 2014244709A JP 2016110249 A JP2016110249 A JP 2016110249A
- Authority
- JP
- Japan
- Prior art keywords
- virtual plane
- pointer
- locus
- input
- trajectory
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 16
- 238000004590 computer program Methods 0.000 title claims description 4
- 230000014509 gene expression Effects 0.000 claims abstract description 19
- 238000001514 detection method Methods 0.000 claims abstract description 15
- 238000006243 chemical reaction Methods 0.000 claims abstract description 13
- 230000010365 information processing Effects 0.000 description 14
- 230000008859 change Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 238000013459 approach Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 239000000470 constituent Substances 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000006386 memory function Effects 0.000 description 1
- 238000010422 painting Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
- Position Input By Displaying (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
【課題】仮想平面に対する奥行き方向の操作軌跡を出力に反映させることにより、手書き入力システムの表現の幅を拡張するとともに、ユーザが仮想平面の位置を視覚的に把握できるようにすることを目的とする。
【解決手段】ポインタの移動軌跡の3次元座標を検出する座標検出部と、仮想平面を3次元空間内に設定する仮想平面設定部と、ポインタの移動軌跡の3次元座標を変換する座標変換部と、ポインタの移動軌跡のうち、XY平面上の軌跡を入力軌跡として取得する入力軌跡取得部と、ポインタの移動軌跡のうち、Z軸方向の位置から仮想平面に対する接触度を算出して取得する接触度取得部と、接触度が閾値を超える場合に入力軌跡をGUI画面に表示し、かつ、ポインタの位置および仮想平面までの距離を示すためのインジケータをGUI画面に表示する表示部と、を備え、表示部が接触度に応じて表示軌跡の表現を変化させることを特徴とする空間手書き入力システム。
【選択図】図3
【解決手段】ポインタの移動軌跡の3次元座標を検出する座標検出部と、仮想平面を3次元空間内に設定する仮想平面設定部と、ポインタの移動軌跡の3次元座標を変換する座標変換部と、ポインタの移動軌跡のうち、XY平面上の軌跡を入力軌跡として取得する入力軌跡取得部と、ポインタの移動軌跡のうち、Z軸方向の位置から仮想平面に対する接触度を算出して取得する接触度取得部と、接触度が閾値を超える場合に入力軌跡をGUI画面に表示し、かつ、ポインタの位置および仮想平面までの距離を示すためのインジケータをGUI画面に表示する表示部と、を備え、表示部が接触度に応じて表示軌跡の表現を変化させることを特徴とする空間手書き入力システム。
【選択図】図3
Description
本発明は、空間手書き入力システムに関し、具体的には、空間内の仮想平面を介したユーザの手書き入力に対して、仮想平面に対する奥行き方向の操作軌跡を反映した出力を可能とする空間手書き入力システムに関する。
近年、タッチパネルやジェスチャなどの、人間にとってより自然かつ直観的な操作でコンピュータ等の情報処理装置との情報の受け渡しを可能とする、ナチュラル・ユーザ・インターフェース(NUI)と呼ばれる技術の開発が進んでいる。
例えば特許文献1においては、電子ペンと表示装置とが通信可能に接続された空間手書きシステムであって、前記電子ペンは、ペン先の3次元空間の座標を検出する座標検出部と、空間内に設定されたポイントに基づいて、仮想平面を作成する仮想平面作成部と、前記3次元空間の座標の変化に基づいて、前記仮想平面の法線方向のペン先の動作を検出し、前記法線方向のペン先の移動量又は移動速度又は移動加速度が予め定めた閾値を超えた場合に、ストロークの切れ目として認識するストローク検出部と、前記ストロークの切れ目から次の切れ目までの、連続するストロークのペン先の軌跡を示す3次元空間の座標を、前記仮想平面の特定点を原点とする平面座標に変換する座標変換部と、変換した前記平面座標の情報を前記表示装置に出力する通信部と、を備え、前記表示装置は、前記平面座標の情報を受信して、前記仮想平面上のペン先の軌跡を画面上に表示する、ことを特徴とする空間手書きシステムが開示されている。また、特許文献2にも、同様の空間手書きシステムが開示されている。
特許文献1または2のように、所定の空間に仮想平面を設定し、仮想平面を介した手書き入力によりユーザがコンピュータ等と情報の受け渡しを行うことを可能とするシステムは、キーボードやマウスの操作と比べ、より自然で直観的な入力操作をユーザに提供すると同時に、入力の際の物理的制約(入力機器やその設置場所など)を軽減することを可能とし得るものである。仮想平面を用いたマンマシンインターフェースは、例えば医療の現場や食品製造の現場など、高い衛生管理が求められ、不要な物理的接触を避けることが求められる場面においても応用され得る。
これまで、仮想平面を用いて文字や図形を入力するシステムにおいては、ユーザの3次元空間における操作から仮想平面を基準とした2次元の軌跡を抽出し、そこに表れる文字や図形をより正確に認識するための技術が開示される一方で、操作の軌跡自体の表現方法についてはあまり着目されてこなかった。例えば特許文献1においては、3次元空間における操作の軌跡からユーザが入力する文字の切れ目を検出する技術が開示される一方で、文字を構成するストロークとして検出される軌跡の出力表現は、2次元座標における軌跡をそのまま一様な線で表すに過ぎないものであった。
また、仮想平面を用いた入力における基本的な問題点として、仮想平面はユーザの目に見えるものではないため、ユーザが仮想平面の位置を正確に把握することは容易とはいえないものであった。そのため、ユーザが文字または図形を仮想平面に入力する際、ユーザにとって仮想平面とポインタ(ユーザの指やペン型デバイスなど)との接触点がわかりにくく、自然な入力を妨げる要因となっていた。
本発明は以上のような課題を解決するためになされたものであり、仮想平面を用いた手書き入力において、仮想平面に対する奥行き方向の操作軌跡を出力に反映させることにより、手書き入力システムの表現の幅を拡張するとともに、ユーザが仮想平面の位置を視覚的に把握できるようにすることを目的とする。
上記課題を解決するために、本発明に係る空間手書き入力システムは、3次元空間におけるポインタの移動軌跡の3次元座標を検出する座標検出部と、GUI(Graphical User Interface)画面に対応した仮想平面を前記3次元空間内に設定する仮想平面設定部と、前記ポインタの前記移動軌跡の前記3次元座標を、前記仮想平面上にX軸とY軸を取り、XY平面に直交する方向にZ軸を取る座標に変換する座標変換部と、前記ポインタの前記移動軌跡のうち、前記XY平面上の軌跡を入力軌跡として取得する入力軌跡取得部と、前記ポインタの前記移動軌跡のうち、前記Z軸方向の位置から前記仮想平面に対する接触度を算出して前記入力軌跡と関連付けて取得する接触度取得部と、前記接触度が所定の閾値を超える場合に前記入力軌跡を表示軌跡として前記GUI画面に表示し、かつ、前記XY平面上の前記ポインタの位置および前記仮想平面までの前記Z軸方向の距離を示すためのインジケータを前記GUI画面に表示する表示部と、を備え、前記表示部が、前記接触度に応じて前記表示軌跡の表現を変化させることを特徴とする。
本発明の一実施形態によれば、本発明に係る空間手書き入力システムは、前記閾値が仮想平面との交点における前記接触度の値として設定され、前記接触度は前記仮想平面の手前側から奥側に向かって高くなるように算出されることを特徴とする。
本発明の一実施形態によれば、本発明に係る空間手書き入力システムは、前記表示部が、前記接触度が高いほど前記表示する軌跡の線の太さを増加させることを特徴とする。
本発明の一実施形態によれば、本発明に係る空間手書き入力システムは、前記表示部が、前記接触度が高いほど前記表示する軌跡の線の色の濃さを増加させることを特徴とする。
本発明の一実施形態によれば、本発明に係る空間手書き入力システムは、前記表示部が前記XY平面上の前記ポインタの現在位置を表すインジケータを前記GUI画面に表示し、前記インジケータが前記接触度に応じてその色、形、大きさ、または表現方法を変化させることを特徴とする。
本発明の一態様によれば、本発明に係る空間手書き入力方法は、3次元空間におけるポインタの移動軌跡の3次元座標を検出する座標検出工程と、GUI(Graphical User Interface)画面に対応した仮想平面を前記3次元空間内に設定する仮想平面設定工程と、前記ポインタの前記移動軌跡の前記3次元座標を、前記仮想平面上にX軸とY軸を取り、XY平面に直行する方向にZ軸を取る座標に変換する座標変換工程と、前記ポインタの前記移動軌跡のうち、前記XY平面上の軌跡を入力軌跡として取得する入力軌跡取得工程と、前記ポインタの前記移動軌跡のうち、前記Z軸方向の位置から前記仮想平面に対する接触度を算出し前記入力軌跡と関連付けて取得する接触度取得工程と、前記接触度が所定の閾値を超える場合に、前記入力軌跡を表示軌跡として前記GUI画面に表示する表示工程と、前記XY平面上の前記ポインタの位置および前記仮想平面までの前記Z軸方向の距離を示すためのインジケータを前記GUI画面に表示する工程と、を含み、前記表示工程は、前記接触度に応じて前記表示軌跡の表現を変化させることを特徴とする。
本発明の一態様によれば、本発明に係るコンピュータプログラムは、本発明に係る情報処理方法をコンピュータにより実行させることを特徴とする。
本発明によれば、ポインタの仮想平面に対する奥行き方向(Z軸方向)の位置情報から接触度を算出し、接触度に応じて、線の太さや色の濃さといった表示軌跡の表現を変化させることが可能となるため、仮想平面を用いた手書き入力システムにおける出力表現の幅が拡張され、出力における情報量を増加させることが可能となる。
また、ユーザにポインタと仮想平面の距離を視覚的にフィードバックすることが可能となるため、ユーザはそれを参照しながら入力を行うことにより、仮想平面に対する文字や図形等のより自然な入力が可能となる。これにより、仮想平面に対するより正確な入力が達成され、入力に引き続いて行われ得る文字認識等の精度の向上にも寄与する。
さらに、上述の利点の結果、ユーザが意図したとおりの精緻な手書きによる入力を、幅広い表現によって出力可能となることにより、仮想平面による手書き入力における情報量は、ペンや筆による紙媒体等の実平面への手書き入力の情報量と比べても遜色のないものとなり、書道や絵画といった芸術的な用途においても仮想平面による手書き入力を用いることが可能となり得る。
(実施例)
以下、本発明の空間手書き入力システムの実施形態を、図面を参照しながら説明する。なお、以下に示す実施例は本発明の空間手書き入力システムの好適な具体例であり、一般的な情報処理装置、センサ、および表示機器等のハードウェア構成および構造に即した種々の限定を付している場合もあるが、本発明の技術範囲は、特に本発明を限定する記載がない限り、これらの態様に限定されるものではない。また、以下に示す実施形態における構成要素は、適宜、既存の構成要素との置き換えが可能であり、かつ、他の既存の構成要素との組み合わせを含む様々なバリエーションが可能である。したがって、以下に示す実施形態の記載をもって、特許請求の範囲に記載された発明の内容を限定するものではない。
以下、本発明の空間手書き入力システムの実施形態を、図面を参照しながら説明する。なお、以下に示す実施例は本発明の空間手書き入力システムの好適な具体例であり、一般的な情報処理装置、センサ、および表示機器等のハードウェア構成および構造に即した種々の限定を付している場合もあるが、本発明の技術範囲は、特に本発明を限定する記載がない限り、これらの態様に限定されるものではない。また、以下に示す実施形態における構成要素は、適宜、既存の構成要素との置き換えが可能であり、かつ、他の既存の構成要素との組み合わせを含む様々なバリエーションが可能である。したがって、以下に示す実施形態の記載をもって、特許請求の範囲に記載された発明の内容を限定するものではない。
(構成概要)
図1は、本発明に係る空間手書き入力システムの構成の一例を模式的に示す図である。本実施例における空間手書き入力システム1は、センサ101、情報処理装置102、および表示装置103を備える。3次元空間に設定した仮想平面104上でユーザがポインタを動かして文字や図形を手書きすると、情報処理装置102は、センサ101を介して取得されるポインタ105の操作軌跡106に基づき、後述する手法を用いて表示軌跡108を決定し、表示装置103のGUI(Graphical User Interface)画面107に表示する。
図1は、本発明に係る空間手書き入力システムの構成の一例を模式的に示す図である。本実施例における空間手書き入力システム1は、センサ101、情報処理装置102、および表示装置103を備える。3次元空間に設定した仮想平面104上でユーザがポインタを動かして文字や図形を手書きすると、情報処理装置102は、センサ101を介して取得されるポインタ105の操作軌跡106に基づき、後述する手法を用いて表示軌跡108を決定し、表示装置103のGUI(Graphical User Interface)画面107に表示する。
センサ101は、所定範囲の空間内で、検知対象であるポインタ105の3次元座標を検出可能なものであればよく、例えば、赤外線カメラと赤外線射出LEDを備えるセンサを用いることが可能である。好適には、センサ101は、ポインタとして用いられる人間の手指の形状を検知可能であり、指の先端部を特徴点として認識し、その座標を検出することが可能である。センサ101は有線または無線で情報処理装置102と接続される。
情報処理装置102は、後述する情報処理が可能なものであればよく、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)、外部メモリ、入力I/F、および出力I/F等を備えるパーソナルコンピュータ(PC)や携帯端末等を用いることが可能である。
CPUは、記憶部であるROM等に記憶されているプログラムに従って、システムバスに接続される各デバイスを総括的に制御する。RAMは、CPUの主メモリ、ワークエリア等として機能するとともに、入力情報展開領域、環境データ格納領域としても用いられる。ROMは、各種プログラムおよびデータを格納する。入力I/Fは、センサ101からの入力を制御する。出力I/Fは、表示装置103への画面表示を制御する。構成によっては、スピーカへの音声出力を制御するようにしてもよい。外部メモリは、保存または読み取り可能な記憶媒体として機能し、オペレーティングシステム(OS)、Webブラウザ、およびアプリケーションが記憶されている。アプリケーション、および各モジュール(ソフトウェア)のプログラムは外部メモリに記憶され、必要に応じてRAMに読み出されてCPUにより実行される。これにより、アプリケーションまたは各モジュール(ソフトウェア)の機能を実現する。本実施例で説明する処理は、外部メモリに記録されたプログラムをRAMにロードし、CPUが実行することによって実現される。なお、プログラムは、外部メモリ以外にもRAMやROMにおいて記憶されてもよい。
なお、本実施形態において、センサ101、情報処理装置102、および表示装置103を別個の構成要素として記述するが、例えばセンサ101は情報処理装置102に内蔵されていてもよく、あるいは、情報処理装置102と表示装置103が一体化したHMD(Head Mounted Display)として構成してもよい。
(ソフトウェア構成)
図2は、本実施形態に係る空間手書き入力システムが行う処理を表す機能ブロック図である。図2に示す各構成部は、図1に示した情報処理装置102のCPUがROMまたは外部メモリに記憶されているプログラムをRAMにロードし、ロードされたプログラムをCPUが実行することで実現される。
図2は、本実施形態に係る空間手書き入力システムが行う処理を表す機能ブロック図である。図2に示す各構成部は、図1に示した情報処理装置102のCPUがROMまたは外部メモリに記憶されているプログラムをRAMにロードし、ロードされたプログラムをCPUが実行することで実現される。
座標検出部202は、センサ201の起動後、センサ101から送られてくる測定データに基づき、所定空間におけるポインタの移動軌跡の3次元座標を検出する。好適には、ポインタの少なくとも1点を特徴点として認識し、当該特徴点の座標を検出することが可能である。更に好適には、検知対象であるポインタの細長部分や棒状部分の先端部を特徴点として認識し、その座標を検出可能である。例えば、ポインタが人間の手である場合、手のひらを大きく広げた状態では各指の先端部が特徴点として認識され得るが、拳を握って1本の指のみを伸ばした場合、その指の先端部のみが特徴点として認識され得る。なお、座標検出部202は、センサ201に備えられていてもよい。
仮想平面設定部203は、センサ201の検知範囲の空間内に、任意の位置、大きさ、角度で仮想平面を設定し、その座標を仮想平面情報204として記憶する。仮想平面の設定は、センサ起動時に自動で行われるようにしてもよいし、センサ起動後、ユーザの特定の操作に応じて設定されるようにしてもよい。
座標変換部205は、座標検出部202が検出したポインタの移動軌跡を表す3次元座標(初期座標)を、設定された仮想平面に基づく座標(変換座標)に変換する。図3は、本実施形態における、初期座標軸と変換座標軸の関係の例を示す。座標検出部202は、予め設定された座標軸X’Y’Z’上でポインタの移動軌跡の3次元座標を取得する(初期座標)。後述する入力軌跡および接触度の取得といった処理のために、座標変換部205は、仮想平面情報204を参照して、初期座標軸上で検出された3次元座標(X’Y’Z’座標)を、仮想平面上にXY軸を取り、仮想平面に直交する方向にZ軸を取る変換座標軸上の座標(XYZ座標)に変換する。
入力軌跡取得部206は、ポインタの移動軌跡の変換後の座標のX軸およびY軸の値を参照し、XY平面上の2次元座標を入力軌跡として取得する。一方、接触度取得部207は、ポインタの移動軌跡の変換後の座標のZ軸の値を参照し、その値を用いて仮想平面に対する接触度を算出し、入力軌跡と関連付けて取得する。本実施形態において、接触度は、仮想平面の手前側から奥側に向かって高くなるように算出される。
表示部208は、入力軌跡と接触度に基づき、実際にGUI211に出力される表示軌跡を決定する。具体的には、接触度が予め設定された閾値を超える場合に、閾値を超える接触度と関連付けられた入力軌跡を表示軌跡とし、接触度の高さに応じて、表示軌跡の表現を変化させる。こうして決定された表示軌跡情報210が、GUI211への出力に用いられる。
また、表示部208は、入力軌跡と接触度に基づき、現在のポインタのXY平面上における位置と仮想平面に対する距離を取得し、インジケータ表示情報209として記憶する。表示部208は、このインジケータ表示情報209に基づき、ユーザが仮想平面の位置を把握するための視覚的フィードバックとしてのインジケータをGUI211上に表示する。
図4は、仮想平面とポインタおよび接触度の関係を示す図である。図4(A)および図4(B)はそれぞれ、ポインタが仮想平面と接触している状態を示す斜視図と側面図である。設定された仮想平面401にポインタ402が接近し、特徴点403が仮想平面401よりも深さ404だけ奥側に位置している。図4において、表示軌跡を決定するための接触度の閾値は仮想平面との交点における値として設定されており、特徴点403はこの閾値を超えた接触度を有していることになる。図4(C)は、仮想平面に対するポインタの深さと接触度の関係を例示する図である。図4(C)において、Z軸方向の深さbは、上述の閾値を指しており、この例においては仮想平面との交点を指す。ポインタ(特徴点)が深さbよりも奥側にあるとき、接触度は閾値よりも高くなり、入力軌跡が表示軌跡と判定されることとなる。また、Z軸方向の深さがbからcに近付くほど接触度は高くなり、深さcのときに上限値となる。深さcを超えると、それ以降接触度は一定となる。一方、ポインタ(特徴点)が深さbよりも手前側にあるとき、接触度は閾値を下回り、このときの入力軌跡は表示軌跡として判定されない。Z軸方向の深さがbからaに近付くほど接触度は低くなり、深さaのときに下限値となる。なお、本実施形態において、接触度の閾値を仮想平面との交点の値に設定したが、別の実施形態において、仮想平面よりも手前または奥に接触度の閾値を設定することも可能である。また、この例において深さaおよびcを接触度の上限および下限を定めるための任意の値として設定したが、別の実施形態において深さaおよびcを設定しないことも可能である。さらに、図4(C)において、Z軸方向の深さに応じて接触度が線形に変化するものとして記載したが、接触度を曲線的に変化させることも可能である。例えば、閾値から一定範囲では接触度の変化を小さくし、一定範囲を超えると接触度が大きく変化するように設定することも可能である。また、接触度の変化の仕方を複数種類用意し、GUI画面上の操作等によりユーザが選択可能なように構成することも可能である。
図5は、入力軌跡と接触度、および表示軌跡の関係を示す図である。入力軌跡取得部206によって2次元座標からなる入力軌跡が取得されるとき、併せて接触度取得部207により入力軌跡の2次元座標と関連付けられた接触度が取得される。表示部208は、入力軌跡と接触度に基づき、表示軌跡とその表現を決定する。図5において、入力軌跡の始端部および終端部の接触度は閾値を下回っており、そのため入力軌跡の始端部と終端部は表示軌跡には表れていない。また、入力軌跡の接触度は始端部から中間部にかけて高くなり、中間部から終端部にかけて再び低くなっている。こうした接触度の変化を反映して、表示軌跡はその始端部から中間部にかけて線が太くなり、中間部から終端部にかけて再び線が細くなっている。このように、接触度の変化に応じて表示軌跡の線の太さを変える実施形態においては、恰も紙媒体等の実平面上に筆で文字や絵を書くときのように、軽く触れれば細い線が描かれ、強く押し当てれば太い線が描かれるという「筆圧」の感覚をユーザに体験させることが可能である。なお、接触度に応じた表示軌跡の表現の変化は、線の太さの変化に限定されるものではない。別の実施形態においては、接触度に応じて線の色の濃さを変化させてもよく、あるいは、接触度に応じて線の太さと色の濃さを変化させてもよい。
図6は、接触度に応じたインジケータの表現方法の変化の一例を示す図である。この例では、ポインタが仮想平面にある程度近付き、接触度が任意に定めた下限値に達した場合に、輪郭線のみの円をインジケータとしてGUI画面に表示し、XY平面上のポインタの位置をユーザに通知する。ポインタが仮想平面に更に近付き、接触度が下限値を超えたとき、円周内に色をつけた新たな円を輪郭線の円の中心に発生させる。ポインタが仮想平面に近付き、接触度が上述の閾値に近付くにつれて、色つきの円を徐々に大きく表示し、接触度が閾値に達した場合に輪郭線の円と色つきの円が重なるようにする。このように、インジケータの位置によってXY平面上の位置を示し、インジケータの表現の変化によって仮想平面までの距離を示すことにより、ユーザはポインタと目に見えない仮想平面との3次元の位置関係を視覚的に把握することが可能となる。なお、こうしたユーザに対する視覚的フィードバックのためのインジケータの表現方法の変化に代えて、またはこれに加えて、インジケータの色、大きさ、形、透過度などを変化させてもよい。
(フローチャート)
図7は、本実施形態に係る空間手書き入力システムの処理の流れを示すフローチャートである。センサ201の起動後、ステップ700において、センサ201の検知範囲内の空間に仮想平面を設定する。仮想平面の設定は、センサ201の起動に関連付けて自動で行うようにしてもよいし、ユーザの特定の操作に応じて設定するようにしてもよい。ユーザが検知空間内でポインタを移動させると、ステップ702において、ポインタの移動軌跡の3次元座標が取得される。取得された3次元座標は、ステップ704において、仮想平面を基準とした座標軸の座標に変換される。次いで、ステップ706において、変換後の座標から入力軌跡と接触度が取得される。
図7は、本実施形態に係る空間手書き入力システムの処理の流れを示すフローチャートである。センサ201の起動後、ステップ700において、センサ201の検知範囲内の空間に仮想平面を設定する。仮想平面の設定は、センサ201の起動に関連付けて自動で行うようにしてもよいし、ユーザの特定の操作に応じて設定するようにしてもよい。ユーザが検知空間内でポインタを移動させると、ステップ702において、ポインタの移動軌跡の3次元座標が取得される。取得された3次元座標は、ステップ704において、仮想平面を基準とした座標軸の座標に変換される。次いで、ステップ706において、変換後の座標から入力軌跡と接触度が取得される。
次いで、ステップ708において、接触度が予め任意に設定された下限値を超えたか否かが判定され、下限値を超える接触度が検出されない場合はステップ702から再び繰り返される。下限値を超える接触度が検出されると、ステップ710において、ポインタと仮想平面の位置関係をユーザに視覚的にフィードバックするためのインジケータがGUI画面に表示される。その後、ステップ712では、ポインタが更に仮想平面に近付き、接触度が閾値を超えたか否かが判定され、閾値を超える接触度が検出されない場合はステップ710のインジケータの表示が継続される。閾値を超える接触度が検出されると、ステップ714において、閾値を超えた接触度と関連付けられた入力軌跡を、接触度に応じた表現による表示軌跡としてGUI画面に表示する。
その後、ステップ716において接触度が閾値を下回ったことが検出されるまで、連続的な表示軌跡が表示されることとなり、接触度が閾値を下回ったことが検出されると、ステップ718で表示軌跡の表示が終了する。この動作は、GUI画面上では表示される線の切れ目として表れることになる。その後、ステップ720で、ポインタが仮想平面から離れ、接触度が下限値を下回ったか否かが判定される。接触度が下限値を下回らない限り、ステップ710のインジケータ表示が継続され、接触度が下限値を下回ったことが検出されると、ステップ722でインジケータの表示が終了する。以上の処理が、本システムの起動中に繰り返し行われることとなる。
以上、本実施形態によれば、ポインタの仮想平面に対する奥行き方向(Z軸方向)の位置情報から仮想平面との接触度を算出して表示軌跡を決定するとともに、接触度に応じて線の太さや色の濃さといった表示軌跡の表現を変化させることが可能となるため、仮想平面を用いた手書き入力システムにおける出力表現の幅が拡張され、出力における情報量を増加させることが可能となる。また、ユーザにポインタと仮想平面の間の距離を視覚的にフィードバックすることが可能となり、ユーザにとって仮想平面までの距離の把握が容易となることにより、より自然な入力が可能となり、入力の正確性も向上にも貢献することが期待される。
(その他の実施形態)
以上、本発明の好適な実施形態について説明したが、本発明は、これらの実施形態に限定されるものではない。本発明の目的は、上述の実施例の機能を実現するプログラムコード(コンピュータプログラム)を格納した記憶媒体をシステムあるいは装置に供給し、供給されたシステムあるいは装置のコンピュータが記憶媒体に格納されたプログラムコードを読み出し実行することによっても達成される。この場合、記憶媒体から読み出されたプログラムコード自体が上述した実施例の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、上述した実施形態では、情報処理装置がプログラムを実行することにより、各処理部として機能するものとしたが、処理の一部または全部を専用の電子回路(ハードウェア)で構成するようにしても構わない。本発明は、説明された特定の実施例に限定されるものではなく、特許請求の範囲に記載された本発明の趣旨の範囲内において、種々の変形または変更が可能である。
以上、本発明の好適な実施形態について説明したが、本発明は、これらの実施形態に限定されるものではない。本発明の目的は、上述の実施例の機能を実現するプログラムコード(コンピュータプログラム)を格納した記憶媒体をシステムあるいは装置に供給し、供給されたシステムあるいは装置のコンピュータが記憶媒体に格納されたプログラムコードを読み出し実行することによっても達成される。この場合、記憶媒体から読み出されたプログラムコード自体が上述した実施例の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、上述した実施形態では、情報処理装置がプログラムを実行することにより、各処理部として機能するものとしたが、処理の一部または全部を専用の電子回路(ハードウェア)で構成するようにしても構わない。本発明は、説明された特定の実施例に限定されるものではなく、特許請求の範囲に記載された本発明の趣旨の範囲内において、種々の変形または変更が可能である。
101 センサ
102 情報処理装置
103 表示装置
104 仮想平面
105 ポインタ
106 操作軌跡
107 GUI画面
108 表示軌跡
102 情報処理装置
103 表示装置
104 仮想平面
105 ポインタ
106 操作軌跡
107 GUI画面
108 表示軌跡
Claims (7)
- 3次元空間におけるポインタの移動軌跡の3次元座標を検出する座標検出部と
GUI(Graphical User Interface)画面に対応した仮想平面を前記3次元空間内に設定する仮想平面設定部と、
前記ポインタの前記移動軌跡の前記3次元座標を、前記仮想平面上にX軸とY軸を取り、XY平面に直交する方向にZ軸を取る座標に変換する座標変換部と、
前記ポインタの前記移動軌跡のうち、前記XY平面上の軌跡を入力軌跡として取得する入力軌跡取得部と、
前記ポインタの前記移動軌跡のうち、前記Z軸方向の位置から前記仮想平面に対する接触度を算出し前記入力軌跡と関連付けて取得する接触度取得部と、
前記接触度が所定の閾値を超える場合に前記入力軌跡を表示軌跡として前記GUI画面に表示し、かつ、前記XY平面上の前記ポインタの位置および前記仮想平面までの前記Z軸方向の距離を示すためのインジケータを前記GUI画面に表示する表示部と、を備え、
前記表示部は、前記接触度に応じて前記表示軌跡の表現を変化させる、
空間手書き入力システム。 - 前記閾値は、前記仮想平面との交点における前記接触度の値として設定され、
前記接触度は、前記仮想平面の手前側から奥側に向かって高くなるように算出される、請求項1に記載の空間手書きシステム。 - 前記表示部は、前記接触度が高いほど前記表示する軌跡の線の太さを増加させる、請求項2に記載の空間手書き入力システム。
- 前記表示部は、前記接触度が高いほど前記表示する軌跡の線の色の濃さを増加させる、請求項2に記載の空間手書きシステム。
- 前記表示部は、前記XY平面上の前記ポインタの現在位置を表すインジケータを前記GUI画面に表示し、
前記インジケータは、前記接触度に応じてその色、形、大きさ、または表現方法が変化する、
請求項1〜4のいずれか1項に記載の空間手書きシステム。 - 3次元空間におけるポインタの移動軌跡の3次元座標を検出する座標検出工程と、
GUI(Graphical User Interface)画面に対応した仮想平面を前記3次元空間内に設定する仮想平面設定工程と、
前記ポインタの前記移動軌跡の前記3次元座標を、前記仮想平面上にX軸とY軸を取り、XY平面に直行する方向にZ軸を取る座標に変換する座標変換工程と、
前記ポインタの前記移動軌跡のうち、前記XY平面上の軌跡を入力軌跡として取得する入力軌跡取得工程と、
前記ポインタの前記移動軌跡のうち、前記Z軸方向の位置から前記仮想平面に対する接触度を算出し前記入力軌跡と関連付けて取得する接触度取得工程と、
前記接触度が所定の閾値を超える場合に、前記入力軌跡を表示軌跡として前記GUI画面に表示する表示工程と、
前記XY平面上の前記ポインタの位置および前記仮想平面までの前記Z軸方向の距離を示すためのインジケータを前記GUI画面に表示する工程と、を含み、
前記表示工程は、前記接触度に応じて前記表示軌跡の表現を変化させる、
空間手書き入力方法。 - 請求項6に記載の方法をコンピュータにより実行させることを特徴とするコンピュータプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014244709A JP2016110249A (ja) | 2014-12-03 | 2014-12-03 | 空間手書き入力システム、空間手書き入力方法およびコンピュータプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014244709A JP2016110249A (ja) | 2014-12-03 | 2014-12-03 | 空間手書き入力システム、空間手書き入力方法およびコンピュータプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016110249A true JP2016110249A (ja) | 2016-06-20 |
Family
ID=56123992
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014244709A Pending JP2016110249A (ja) | 2014-12-03 | 2014-12-03 | 空間手書き入力システム、空間手書き入力方法およびコンピュータプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2016110249A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020031493A1 (ja) * | 2018-08-08 | 2020-02-13 | 株式会社Nttドコモ | 端末装置および端末装置の制御方法 |
WO2021001894A1 (ja) * | 2019-07-01 | 2021-01-07 | 三菱電機株式会社 | 表示制御装置及び表示制御方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080120577A1 (en) * | 2006-11-20 | 2008-05-22 | Samsung Electronics Co., Ltd. | Method and apparatus for controlling user interface of electronic device using virtual plane |
JP2010015553A (ja) * | 2008-06-03 | 2010-01-21 | Shimane Pref Gov | 画像認識装置および操作判定方法並びにプログラム |
JP2010205223A (ja) * | 2009-03-06 | 2010-09-16 | Seiko Epson Corp | 仮想対象に対するジェスチャーに従う制御を行うシステム及び装置 |
US20140123079A1 (en) * | 2012-10-31 | 2014-05-01 | Huawei Device Co., Ltd. | Drawing control method, apparatus, and mobile terminal |
WO2014080829A1 (ja) * | 2012-11-22 | 2014-05-30 | シャープ株式会社 | データ入力装置 |
-
2014
- 2014-12-03 JP JP2014244709A patent/JP2016110249A/ja active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080120577A1 (en) * | 2006-11-20 | 2008-05-22 | Samsung Electronics Co., Ltd. | Method and apparatus for controlling user interface of electronic device using virtual plane |
JP2010015553A (ja) * | 2008-06-03 | 2010-01-21 | Shimane Pref Gov | 画像認識装置および操作判定方法並びにプログラム |
US20110141009A1 (en) * | 2008-06-03 | 2011-06-16 | Shimane Prefectural Government | Image recognition apparatus, and operation determination method and program therefor |
JP2010205223A (ja) * | 2009-03-06 | 2010-09-16 | Seiko Epson Corp | 仮想対象に対するジェスチャーに従う制御を行うシステム及び装置 |
US20140123079A1 (en) * | 2012-10-31 | 2014-05-01 | Huawei Device Co., Ltd. | Drawing control method, apparatus, and mobile terminal |
WO2014067110A1 (zh) * | 2012-10-31 | 2014-05-08 | 华为终端有限公司 | 绘图控制方法、装置及移动终端 |
WO2014080829A1 (ja) * | 2012-11-22 | 2014-05-30 | シャープ株式会社 | データ入力装置 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020031493A1 (ja) * | 2018-08-08 | 2020-02-13 | 株式会社Nttドコモ | 端末装置および端末装置の制御方法 |
JPWO2020031493A1 (ja) * | 2018-08-08 | 2021-08-12 | 株式会社Nttドコモ | 端末装置および端末装置の制御方法 |
JP6999822B2 (ja) | 2018-08-08 | 2022-01-19 | 株式会社Nttドコモ | 端末装置および端末装置の制御方法 |
WO2021001894A1 (ja) * | 2019-07-01 | 2021-01-07 | 三菱電機株式会社 | 表示制御装置及び表示制御方法 |
JPWO2021001894A1 (ja) * | 2019-07-01 | 2021-11-18 | 三菱電機株式会社 | 表示制御装置及び表示制御方法 |
JP7179180B2 (ja) | 2019-07-01 | 2022-11-28 | 三菱電機株式会社 | 表示制御装置及び表示制御方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11755137B2 (en) | Gesture recognition devices and methods | |
US12073008B2 (en) | Three-dimensional object tracking to augment display area | |
JP6074170B2 (ja) | 近距離動作のトラッキングのシステムおよび方法 | |
JP5930618B2 (ja) | 空間手書きシステム及び電子ペン | |
TWI502459B (zh) | 電子裝置及其觸控操作方法 | |
US9262012B2 (en) | Hover angle | |
JP2013037675A5 (ja) | ||
JP2017506392A (ja) | 空中超音波ペンジェスチャー | |
WO2015100146A1 (en) | Multiple hover point gestures | |
EP2482176A2 (en) | Multi-input gesture control for a display screen | |
JP6301736B2 (ja) | 電子機器及び方法 | |
JP6010253B2 (ja) | 電子機器、方法およびプログラム | |
JP6248462B2 (ja) | 情報処理装置及びプログラム | |
CN108027648A (zh) | 一种可穿戴设备的手势输入方法及可穿戴设备 | |
WO2013054155A1 (en) | Multi-touch human interface system and device for graphical input, and method for processing image in such a system. | |
CN105488832B (zh) | 光学数字尺 | |
EP3177983B1 (en) | Determining a position of an input object | |
JP2016110249A (ja) | 空間手書き入力システム、空間手書き入力方法およびコンピュータプログラム | |
CN104298438A (zh) | 电子装置及其触控操作方法 | |
US9430702B2 (en) | Character input apparatus and method based on handwriting | |
JP6264003B2 (ja) | 座標入力システム、座標指示部、座標入力部、座標入力システムの制御方法、及びプログラム | |
JP2016118947A (ja) | 角度調整可能な仮想平面を用いた空間手書き入力システム | |
CN112306242A (zh) | 一种基于书空手势的交互方法和系统 | |
TWM472863U (zh) | 具有三維輸入介面之電子裝置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171115 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180713 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180807 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20190219 |