JP7492904B2 - 表示装置、表示システムおよび表示方法 - Google Patents
表示装置、表示システムおよび表示方法 Download PDFInfo
- Publication number
- JP7492904B2 JP7492904B2 JP2020195388A JP2020195388A JP7492904B2 JP 7492904 B2 JP7492904 B2 JP 7492904B2 JP 2020195388 A JP2020195388 A JP 2020195388A JP 2020195388 A JP2020195388 A JP 2020195388A JP 7492904 B2 JP7492904 B2 JP 7492904B2
- Authority
- JP
- Japan
- Prior art keywords
- display
- image
- area
- original image
- display device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 242
- 238000012545 processing Methods 0.000 claims description 18
- 238000003384 imaging method Methods 0.000 claims description 5
- 230000008569 process Effects 0.000 description 69
- 238000010586 diagram Methods 0.000 description 64
- 230000000007 visual effect Effects 0.000 description 28
- 230000008859 change Effects 0.000 description 18
- 238000004891 communication Methods 0.000 description 9
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000010079 rubber tapping Methods 0.000 description 2
- 239000004984 smart glass Substances 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 230000035807 sensation Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
Images
Landscapes
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
Description
本発明は、このような背景を鑑みてなされたものであり、実空間で作業する作業者に適し、作業に係る情報を表示することを可能とする表示装置、表示システムおよび表示方法を提供することを課題とする。
図1は、第1の実施形態に係る表示システム10の構成を示す図である。表示システム10は、HMD(ヘッドマウントディスプレイ)100(表示装置)とスマートフォン200(携帯装置)とを含んで構成される。HMD100は、例えば、視界を覆うようにして頭部に装着するゴーグル型の表示装置である。HMD100とスマートフォン200とは、例えばUSB(Universal Serial Bus)ケーブルで接続されるが、他の規格のケーブルまたは無線で接続されてもよい。また、スマートフォン200にUSBを接続し、変換アダプタを介してHDMI(High-Definition Multimedia Interface)やDisplayPortなどの画像出力コネクタに変換し、HMD100に接続する形態でもよい。なお、HMD100には、メガネのようにかけて使用するスマートグラスも含めるものとする。同様に、スマートフォン200(携帯装置)には、タブレットやノートPCといった携帯可能な端末も含めるものとする。
図2は、第1の実施形態に係るHMD100の機能ブロック図である。HMD100は、CPU(Central Processing Unit)を含んで構成される制御部110、ROM(Read Only Memory)やRAM(Random Access Memory)、フラッシュメモリなどから構成される記憶部120、ディスプレイ181、センサ182、および不図示の通信部を含んで構成される。通信部は、USBやWi-Fi(登録商標)など1つ以上の通信インターフェースを備え、スマートフォン200との間でデータを送受信する。
センサ182は、例えばMEMS(Micro Electro Mechanical Systems)式のジャイロスコープを含むセンサであって、HMD100の角度または角速度を検出して制御部110に出力する。周囲の照度を測定する照度センサ、および周囲や作業者を撮影するカメラを含んでもよい。
表示元画像122は、スマートフォン200から受信した表示元画像230(後記する図3、図5参照)であって、ディスプレイ181に表示される視野画像の元となる画像データである。手順書座標123、関連図面座標124、および視野内手順書座標125は、スマートフォン200から受信した表示元画像122中の領域を示す座標データであって、後記するスマートフォン200(図3参照)が記憶する手順書座標222、関連図面座標223、および視野内手順書座標224とそれぞれ同等である。
図3は、第1の実施形態に係るスマートフォン200の機能ブロック図である。スマートフォン200は、CPUを含んで構成される制御部210、ROMやRAM、フラッシュメモリなどから構成される記憶部220、タッチパネルディスプレイ281、マイク282、および不図示の通信部を含んで構成される。通信部は、USBやWi-Fiなど1つ以上の通信インターフェースを備え、HMD100との間でデータを送受信する。
プログラム221は、制御部210を構成するCPUが実行するプログラムであって、スマートフォン200を制御する。プログラム221は、表示元画像生成処理(後記する図8参照)他の処理手順を含む。
図5は、第1の実施形態に係る表示元画像230の構成を示す図である。表示元画像230は、ディスプレイ181(図1および図2参照)に表示される画像の元となる画像データである。手順書配置領域231は、表示元画像230のなかで手順書の内容(図4のステップ番号241、作業対象部位242、作業内容243、関連図面244、完了フラグ245)が表示される領域である。図面配置領域232は、表示元画像230のなかで手順書に関連する図面(図4の関連図面244で識別され、図面データベース250に記憶されている図面)が表示される領域である。
図3に戻って、制御部210は、配置定義部211、および表示元画像生成部212を備える。配置定義部211は、表示システム10の利用者である作業者の指示を受け付けて、表示元画像230(図5参照)における手順書配置領域231や図面配置領域232の配置(配置座標)、および視野画像420(図6参照)における視野内手順書領域421の配置を定義(設定)する。配置定義部211は、定義された配置座標をHMD100に送信する。表示元画像生成部212は、作業者が作業している作業ステップに係る手順書および関連図面を含んだ表示元画像230を生成して、HMD100に送信する。
図7は、第1の実施形態に係る配置定義処理のシーケンス図である。図7を参照しながら、表示元画像230(図5参照)、および視野画像420(図6参照)に係る設定を行うスマートフォン200、およびHMD100の処理を説明する。
ステップS111においてスマートフォン200の配置定義部211は、表示システム10の利用者である作業者が指示した表示元画像230(図5参照)における手順書配置領域231の配置座標を取得して、手順書座標222(図3参照)に格納する。配置座標は、例えば領域の左上頂点および右下頂点の表示元画像230内での座標である。
ステップS113において配置定義部211は、作業者が指示した視野画像420(図6参照)における視野内手順書領域421の配置座標を取得して、視野内手順書座標224に格納する。
ステップS114において配置定義部211は、手順書座標222、関連図面座標223、および視野内手順書座標224をHMD100に送信する。
配置定義処理に続いて、作業者が表示システム10を利用して作業するときの表示システム10の処理を説明する。
図8は、第1の実施形態における表示元画像生成処理のフローチャートである。図8を参照しながら、スマートフォン200が表示元画像230を生成して、HMD100に送信する処理を説明する。
ステップS131においてスマートフォン200の表示元画像生成部212は、作業ステップの完了指示があれば(ステップS131→YES)ステップS132に進み、なければ(ステップS131→NO)ステップS133に進む。作業ステップの完了指示とは、作業者が1つの作業ステップが完了したことを記録することを表示システム10に指示することである。表示元画像生成部212は、マイク282(図3参照)で取得した音から、作業者の「作業ステップ完了」の発声を検出することで、作業ステップの完了指示の有無を判断してもよい。または、表示元画像生成部212は、作業者のタッチパネルディスプレイ281に表示された作業ステップ完了ボタンのタップを検出して、作業ステップの完了指示があったと判断してもよい。
ステップS133において表示元画像生成部212は、空白の画像を生成して、表示元画像230に格納する。
ステップS135において表示元画像生成部212は、関連図面を表示元画像230の図面配置領域232に描画する。詳しくは、表示元画像生成部212は、現在の作業ステップの関連図面244にある識別情報に対応する図面を図面データベース250から取得して図面配置領域232に描画する。
ステップS136において表示元画像生成部212は、表示元画像230をHMD100に送信して、ステップS131に戻る。
図9は、第1の実施形態における視野画像表示処理のフローチャートである。図9を参照しながら、HMD100がスマートフォン200から受信した表示元画像230(図8のステップS136参照)を基に視野画像をディスプレイ181に表示する処理を説明する。
ステップS151においてHMD100のデータ受信部111は、スマートフォン200が送信した表示元画像230を受信して表示元画像122に格納する。
ステップS152においてHMD100の視野画像表示部112は、手順書配置領域231(図5参照、手順書座標123で示される表示元画像122の部分領域)の画像を視野内手順書座標125で示されるディスプレイ181の領域(図6の視野内手順書領域421参照)に表示する。
ステップS154において視野画像表示部112は、視野領域233(図5参照)と図面配置領域232の重複領域を、ディスプレイ181の対応する領域に表示して、ステップS151に戻る。ディスプレイ181の対応する領域とは、ディスプレイ181の表示画像を視野画像420(図6参照)と見なすときに、視野画像420内の視野内図面領域422に対応する領域である。
HMD100のディスプレイ181には、作業者が作業している作業ステップの手順書と関連図面とが表示される。手順書はディスプレイ181の設定された位置(図6の視野内手順書領域421参照)に常時表示される。このため、作業者は手順書を常時参照しながら作業することができる。
関連図面は、作業者の頭部(HMD100)の向きに応じて表示される。仮に図面の位置が表示元画像230の右側に設定されたとする。すると、作業者が正面を向いているときには図面は表示されず、作業者は図面に邪魔されることなく作業できる。作業者は、右を向くことで図面を参照することができる。結果として作業者は、手でスマートフォン200やHMD100を操作することなく両手で作業しながら、手順書や図面を参照することができるようになる。
第1の実施形態では、視野画像420(図6参照)内の視野内手順書領域421には、手順書が常時表示されるが、作業者の指示より表示/非表示を切り替えられるようにしてもよい。また、手順書の表示領域は中央下側に固定されている(図6の視野内手順書領域421参照)が、作業者の指示により表示/非表示や表示位置を切り替えられるようにしてもよい。図面については、表示元画像230内の図面が、座標で指定される図面配置領域232を用いて図面を指定されるのではなく、背景色を指定して当該背景色以外の画素を図面として扱うようにしてもよい。以下、手順書の表示/非表示や表示位置の切り替え、背景色の指定を可能とする第2の実施形態を説明する。なお、手順書と同様に、作業者の指示より図面の表示/非表示を切り替えるようにしてもよい。
図10は、第2の実施形態に係るHMD100Aの機能ブロック図である。第1の実施形態のHMD100(図2参照)と比較して、記憶部120において関連図面座標124がなくなり、背景色126、および手順書表示フラグ127が追加される。背景色126は、図面の背景となる色であって、表示元画像122において背景色126以外の色の画素が図面となる。手順書表示フラグ127は、ディスプレイ181に手順書を表示するか否かを示すフラグである。データ受信部111Aは、スマートフォン200から表示元画像や手順書座標の他に、背景色や手順書表示フラグを受信して記憶部120に格納する。視野画像表示部112Aは、背景色126、手順書表示フラグ127を参照して、手順書と図面とをディスプレイ181に表示する。
図11は、第2の実施形態に係るスマートフォン200Aの機能ブロック図である。第1の実施形態のスマートフォン200と比較して、記憶部220において視野内手順書座標224に替わり、視野内手順書座標テーブル260(後記する図12参照)および視野内手順書座標識別番号269が記憶される。また、背景色126、および手順書表示フラグ127に対応する背景色225、および手順書表示フラグ226が追加される。
図13は、第2の実施形態に係る配置定義処理のシーケンス図(1)である。図14は、第2の実施形態に係る配置定義処理のシーケンス図(2)である。第2の実施形態においては、配置定義処理は、図13の処理に続いて、作業中に図14の処理が繰り返し実行される。
ステップS212において配置定義部211Aは、作業者が指示した表示元画像230における図面配置領域232の配置座標を取得して、関連図面座標223に格納する。
ステップS215において配置定義部211Aは、手順書座標222、視野内手順書座標識別番号269に対応する視野内手順書座標262(図12参照)、背景色225、および手順書表示フラグ226をHMD100Aに送信する。
ステップS216においてHMD100Aのデータ受信部111Aは、受信した手順書座標222、視野内手順書座標識別番号269に対応する視野内手順書座標262、背景色225、および手順書表示フラグ226を、それぞれ手順書座標123、視野内手順書座標125、背景色126、および手順書表示フラグ127に格納する。
ステップS223において配置定義部211Aは、手順書表示フラグ226(図11参照)を「ON」に設定する。
ステップS225において配置定義部211Aは、手順書表示フラグ226を「OFF」に設定する。
ステップS227において配置定義部211Aは、視野内手順書座標識別番号269を「1」に設定する。
ステップS229において配置定義部211Aは、視野内手順書座標識別番号269を「2」に設定する。
ステップS231において配置定義部211Aは、視野内手順書座標識別番号269を「3」に設定する。
ステップS233においてHMD100Aのデータ受信部111Aは、受信した視野内手順書座標識別番号269に対応する視野内手順書座標262、および手順書表示フラグ226を、それぞれ視野内手順書座標125、および手順書表示フラグ127に格納する。
なお、作業者が作業している間、配置定義部211A、およびデータ受信部111Aは、図14の処理を繰り返す。
図15は、第2の実施形態における表示元画像生成処理のフローチャートである。図15を参照しながら、スマートフォン200Aが表示元画像230を生成して、HMD100Aに送信する処理を説明する。
ステップS241~S242は、ステップS131~S132(図8参照)と同様の処理である。
ステップS244において表示元画像生成部212Aは、手順書表示フラグ226が「ON」であれば(ステップS244→YES)ステップS245に進み、「ON」でなければ(ステップS244→NO)ステップS246に進む。
ステップS245~S247は、ステップS134~S136と同様である。
図16は、第2の実施形態における視野画像表示処理のフローチャートである。図16を参照しながら、HMD100Aが表示元画像230から視野画像を生成してディスプレイ181に表示する処理を説明する。
ステップS261は、ステップS151(図9参照)と同様の処理である。
ステップS262において視野画像表示部112Aは、手順書表示フラグ127が「ON」であれば(ステップS262→YES)ステップS263に進み、「ON」でなければ(ステップS262→NO)ステップS265に進む。
ステップS264において視野画像表示部112Aは、手順書配置領域231(図5参照)以外の表示元画像122から背景色126以外の画素を関連図面として抽出する。
ステップS265において視野画像表示部112Aは、表示元画像122全体から背景色126以外の画素を関連図面として抽出する。
ステップS266は、ステップS153(図9参照)と同様の処理である。
ステップS267においてHMD100Aの視野画像表示部112Aは、視野領域233と、ステップS264またはステップS265で関連図面として抽出した画素との重複領域を、ディスプレイ181の対応する領域に表示して、ステップS261に戻る。換言すれば、視野画像表示部112Aは、視野領域233内にあって、ステップS264またはステップS265で関連図面として抽出された画素をディスプレイ181の対応する領域に表示して、ステップS261に戻る。
第1の実施形態と比較して、HMD100Aは、ディスプレイ181に表示する手順書について、作業者に指示に従って表示/非表示を切り替えたり、表示位置を切り替えたりすることができる。このため、作業者は、より広い視野を確保したい場合には非表示を選択したり、作業に応じて手順書を表示する位置を切り替えたりすることができるようになる。作業者は、作業ステップや作業者の姿勢などに応じて視野が確保しやすくなり、作業効率が向上する。また、図面の表示部分が座標ではなく色で指定されるため、矩形のような単純な形状に限らず、複雑な形状の図形が表示できるようになる。
第2の実施形態では、作業者はディスプレイ181に表示される手順書の位置を変えることができる。以下では、作業ステップに応じて図面の位置を変えることができる第3の実施形態を説明する。
なお、図示はしていないが、第3の実施形態においては、表示システム10B、HMD100B、表示元画像生成部212B、視野画像表示部112Bのように符号を付与する。
図18は、第3の実施形態における表示元画像生成処理のフローチャートである。ステップS343,S346,S347を除くステップS341~S347は、ステップS243,S246,S247を除くステップS241~S247(図15参照)とそれぞれ同様である。
ステップS346において表示元画像生成部212Bは、作業書データベース240Bを参照し、表示元画像230における現在の作業ステップの関連図面座標247(図17参照)に関連図面を描画する。
ステップS347において表示元画像生成部212Bは、表示元画像230、および背景色225をHMD100Bに送信する。
図19は、第3の実施形態における視野画像表示処理のフローチャートである。ステップS361を除くステップS361~S367は、ステップS261を除くステップS261~S267(図16参照)と同様である。
ステップS361において視野画像表示部112Bは、表示元画像230と背景色225とを受信し、それぞれ表示元画像122と背景色126(図10参照)とに格納する。
第2の実施形態と比較して、作業者は、作業ステップ(図面)ごとに図面の表示位置をあらかじめ設定しておくことができるようになる。これにより、作業部位に応じて図面が表示されるHMD100B(作業者の顔)の向きを決めることができ、表示システム10Bの使い勝手が向上する。
また、スマートフォン200Bは、それぞれの図面において最も使われていない色を背景色として選択しており、第2の実施形態と比較して作業者が背景色を設定する手間がなくなる。
上記した実施形態ではディスプレイ181には、手順書や図面が表示される。手順書や図面以外の情報が、ディスプレイ181に表示されるようにしてもよい。以下では、スマートフォンのバッテリ状態や時刻、後記するメッセージが表示される第4の実施形態を説明する。
視野内手順書・バッテリ状態座標224C(図22参照)は、視野画像420Cにおける視野内手順書・バッテリ状態領域421Cの配置座標である。視野内時計座標270は、視野画像420Cにおける視野内時計領域424の配置座標である。
図25は、第4の実施形態に係る配置定義処理のシーケンス図である。
ステップS411において配置定義部211Cは、表示システム10Cの利用者である作業者が指示した表示元画像230C(図23参照)における手順書配置領域231の配置座標を取得して、手順書座標222に格納する。
ステップS412において配置定義部211Cは、作業者が指示した表示元画像230Cにおける図面配置領域232の配置座標を取得して、関連図面座標223に格納する。
ステップS414において配置定義部211Cは、手順書・バッテリ状態配置領域236の配置座標を手順書・バッテリ状態座標を229に格納する。なお、手順書・バッテリ状態配置領域236は、手順書配置領域231とバッテリ状態配置領域235とを合わせた領域である。
ステップS416において配置定義部211Cは、作業者が指示した表示元画像230Cにおける時計配置領域234の配置座標を取得して、時計座標227に格納する。
ステップS417において配置定義部211Cは、作業者が指示した図面の背景色を取得して、背景色225に格納する。
ステップS419においてデータ受信部111Cは、受信した手順書・バッテリ状態座標229、関連図面座標223、時計座標227、視野内手順書・バッテリ状態座標224C、および背景色225を、それぞれ手順書・バッテリ状態座標123C、関連図面座標124、時計座標128、視野内手順書・バッテリ状態座標125C、および背景色126に格納する。
図26は、第4の実施形態における表示元画像生成処理のフローチャートである。第1の実施形態や第2の実施形態と比較して大きく異なる点は、管理者端末500からメッセージが届いた場合の処理である。
ステップS431~S433は、ステップS241~S243(図15参照)と同様の処理である。
ステップS435において表示元画像生成部212Cは、受信したメッセージをメッセージバッファ271に保存する。
ステップS436において表示元画像生成部212Cは、メッセージバッファ271内のメッセージを表示元画像230Cの手順書・バッテリ状態配置領域236(図23参照)に描画して、ステップS441に進む。
ステップS438において表示元画像生成部212Cは、メッセージバッファ271に保存されたメッセージを削除する。
ステップS439において表示元画像生成部212Cは、メッセージバッファ271にメッセージがあれば(ステップS439→YES)ステップS436に進み、なければ(ステップS439→NO)ステップS440に進む。
ステップS441は、ステップS135(図8参照)と同様である。
ステップS442において表示元画像生成部212Cは、時計(時刻)を表示元画像230Cの時計配置領域234に描画する。
ステップS444において表示元画像生成部212Cは、HMD100Cからカメラ183が取得した画像を受信して、管理者端末500に送信して、ステップS431に戻る。なお、HMD100Cがカメラ183の画像を送信する処理は、後記する図27のステップS456に対応する。
図27は、第4の実施形態における視野画像表示処理のフローチャートである。第2の実施形態の視野画像表示処理(図16参照)と比較して大きく異なる点は、カメラ183の画像を送信する処理(ステップS456参照)である。
ステップS451は、ステップS151(図9参照)と同様の処理である。
ステップS452において視野画像表示部112Cは、手順書・バッテリ状態配置領域236(図23参照、手順書・バッテリ状態座標123Cで示される表示元画像122の部分領域)を視野内手順書・バッテリ状態座標125Cで指定されるディスプレイ181の領域に表示する。
ステップS454は、ステップS153と同様の処理である。
ステップS455において視野画像表示部112Cは、視野領域233と、ステップS453で関連図面として抽出した画素との重複領域を、ディスプレイ181の対応する領域に表示する。換言すれば、視野画像表示部112Cは、視野領域233内にある、ステップS453で関連図面として抽出した画素をディスプレイ181の対応する領域に表示する。
ステップS456において視野画像表示部112Cは、カメラ183が撮像した画像をスマートフォン200Cに送信して、ステップS451に戻る。
第4の実施形態においては、手順書や図面の他に、スマートフォン200Cのバッテリ状態や時刻がディスプレイ181に表示される。これにより、作業を中断することなく、作業者はスマートフォン200Cのバッテリ状態や時刻を確認することができる。
管理者端末500を利用する管理者は、現場にはいないが、カメラ183の画像により作業の状態を知ることができる。また、管理者はメッセージを送信して作業者に指示したり、注意点を知らせて作業を支援したりすることができ、作業者は効率よく作業を進めることができるようになる。
上記した実施形態において作業者は、HMD100~100Cのディスプレイ181に表示される手順書や図面などのコンテンツの位置を変えることができる。第1の実施形態における配置定義部211(図3参照)は、スマートフォン200がHMD100に対して、あらかじめ手順書配置領域231や図面配置領域232、視野内手順書領域421の配置座標を送信する(図7記載のステップS114参照)。
(1)HMD100Dのディスプレイ181のアスペクト比は、16:9である。
(2)スマートフォン200Dのタッチパネルディスプレイ281のアスペクト比は、18:9である。
(3)表示元画像230(図5参照)のサイズ(大きさ、画素数)は、ディスプレイ181の3×3倍(縦横ともに3倍)とする。表示元画像230のアスペクト比は、ディスプレイ181と同じであって、16:9となる。
(4)表示元画像230とタッチパネルディスプレイ281の横の長さ(画素数)は同じである。
なお、上記した前提は一例であって、この限りではない。例えば、アスペクト比は16:9や18:9と異なるアスペクト比であってもよい。また、表示元画像230と、ディスプレイ181やタッチパネルディスプレイ281との大きさの比率が、上記と異なってもよい。
図28は、第5の実施形態に係るHMD100Dの機能ブロック図である。第1の実施形態のHMD100(図2参照)と比較して、手順書座標123の替わりに、手順書が配置される分割表示元画像領域の識別番号が格納される手順書領域番号123Dが記憶される。また、関連図面座標124、および視野内手順書座標125がなくなり、配置領域テーブル130(後記する図30参照)と背景色126が追加される。背景色126は、第2の実施形態(図10参照)と同様であって、手順書や図面の背景となる色であって、表示元画像230において背景色126以外の色の画素が手順書や図面となる。
番号131は、分割表示元画像領域の識別番号である。座標132は、分割表示元画像領域の座標であって、表示元画像230における分割表示元画像領域の左上頂点の座標である。なお、表示元画像230の左上が原点(0,0)である。サイズ133は、分割表示元画像領域のサイズである。
図31は、第5の実施形態に係るスマートフォン200Dの機能ブロック図である。第2の実施形態のスマートフォン200A(図11参照)と比較して、記憶部220においては、視野内手順書座標テーブル260、および視野内手順書座標識別番号269がなくなり、替わりに配置領域テーブル290(後記する図32参照)、図面表示フラグ226Aが追加される。
なお、上記したパディングの位置やサイズは、一例である。例えば、パディングを左右、上のみ、または、上下左右に配置してもよい。パティングは、なくてもよい。例えば、表示元画像230やディスプレイ181、タッチパネルディスプレイ281のアスペクト比が同じ場合には、なくてもよい。
識別番号が1~3、および7~9の分割表示元画像領域の高さは、(b-P/2)画素である。また、識別番号が1となるタッチパネルディスプレイ281上の分割表示元画像領域の座標292は、(0,P/2)となる。
図34は、第5の実施形態に係る配置定義処理のシーケンス図である。
ステップS511においてスマートフォン200Dの配置定義部211Dは、作業者に対してタッチパネルディスプレイ281に手順書配置領域設定画面600(後記する図35参照)を表示し、手順書を配置する分割表示元画像領域を選択するように促す。
ステップS513において配置定義部211Dは、作業者が指示した手順書の表示の当否、および関連図面の表示の当否を取得して、手順書表示フラグ226、および図面表示フラグ226Aに格納する。
配置定義部211Dは、図面配置領域232のスワイプ操作を検出して、図面配置領域232の移動の指示を受け付ける。なお、図面配置領域232が移動できるのは、その他の分割表示元画像領域(濃いハッチングの領域)内である。
なお、配置定義部211Dは、手順書配置領域231、および図面配置領域232のサイズ変更操作として、ピンチインとピンチアウトの操作を受け付ける。
ステップS516においてHMD100Dのデータ受信部111Dは、受信した識別番号および背景色をそれぞれ手順書領域番号123Dおよび背景色126に格納する。
図38は、第5の実施形態における表示元画像生成処理のフローチャートである。図38を参照しながら、スマートフォン200Dが表示元画像230を生成して、HMD100Dに送信する処理を説明する。
ステップS521~S522は、ステップS131~S132と同様の処理である。
ステップS525において表示元画像生成部212Dは、背景色225Dと同色である空白の画像を生成して、表示元画像230に格納する。
ステップS526において表示元画像生成部212Dは、手順書表示フラグ226がONならば(ステップS526→ON)ステップS527に進み、OFFならばステップS528に進む。
ステップS527において表示元画像生成部212Dは、手順書座標222Dに記憶した手順書配置領域231の配置座標を参照して、手順書を手順書配置領域231に描画する。
ステップS529において表示元画像生成部212Dは、関連図面座標223Dに記憶した図面配置領域232の配置座標を参照して、関連図面を図面配置領域232に描画する。
ステップS530において表示元画像生成部212Dは、表示元画像230をHMD100Dに送信して、ステップS521に戻る。
図41は、第5の実施形態における視野画像表示処理のフローチャートである。図41を参照しながら、HMD100Dが表示元画像122Dから視野画像を生成してディスプレイ181に表示する処理を説明する。
ステップS541においてHMD100Dのデータ受信部111Dは、スマートフォン200Dが送信した表示元画像230を受信して表示元画像122D(図28参照)に格納する。
ステップS542においてHMD100Dの視野画像表示部112Dは、センサ182で取得したHMD100の向き(角度)から視野領域233(図5参照)を算出する。
ステップS544において視野画像表示部112Dは、手順書領域番号123Dと配置領域テーブル130(図30参照)とを参照して、表示元画像122Dに記憶される表示元画像230における手順書が配置される分割表示元画像領域を特定する。今の説明では、手順書領域番号123Dは4なので、当該分割表示元画像領域の座標は(0,b)で、サイズは(a,b)である。
第1の実施形態、第2の実施形態、第4の実施形態と比較すると、第5の実施形態では手順書を配置する分割表示元画像領域を指定することができるため、表示システムの使い勝手が向上する。また、HMD100Dはスマートフォン200Dから手順書が配置される分割表示元画像領域の識別番号と背景色のみを受け取る(図34のステップS515参照)ことで手順書の領域を特定することができる。このため、スマートフォン200Dとやり取りするデータを減らすことができ、HMD100Dの構成がシンプルになり、延いては開発コストを削減することができる。
なお、背景色が固定されているならば、背景色の設定(図34のステップS512参照)が不要となる。すると、ステップS515における背景色の送信が不要となり、さらにデータ量を減らしたり、開発コストを削減したりできる。
手順書表示フラグ226がONならば、ディスプレイ181には手順書が常に表示される(図41のステップS545参照)。一方、関連図面は、作業者(HMD100D)の向きに応じて表示される部分が異なる。図42では、ディスプレイ181には関連図面の左下の一部が表示される(視野領域233には図面配置領域232の左下の一部が含まれる)。
上記した実施形態では、ステップ番号241(図4参照)の順番に作業ステップを進める前提であり、作業完了の指示を受けて次の作業ステップに進んでいる(図8のステップS131参照)。作業者がステップ番号を指示して、スマートフォン200は指示されたステップ番号の作業の手順書や図面を含む表示元画像を生成、HMDに送信するようにしてもよい。
第4の実施形態では、スマートフォン200Cのバッテリ状態がディスプレイ181に表示される。視野画像表示部112Cは、スマートフォン200Cのバッテリ状態の替わりに、HMD100Cのバッテリ状態を取得して表示してもよい。
第2の実施形態において関連図面は、表示元画像のなかで背景色以外の画素が構成する画像である。これとは逆に、関連図面を構成する画素の色を指定し、当該色の画素からなる画像を関連図面としてもよい。色は複数設定できるようにしてもよい。
上記した実施形態の表示システムは、作業ステップの完了記録として完了日時246(図4参照)を記録している。完了日時と共に、HMDのカメラ183(図20参照)が撮像した画像や映像を記録するようにしてもよい。または、作業者の指示により、スマートフォンは、HMDに指示してカメラ183の撮像画像を取得して、現在の作業ステップに関連付けて記憶してもよい。こうすることにより、日時に加えて、作業後の写真が簡単に記録され、作業の証跡を残すことができる。
上記した第5の実施形態では、手順書配置領域は、1つの分割表示元画像領域に含まれている。手順書配置領域が、複数の分割表示元画像領域に含まれるようにしてもよい。例えば、例えば、表示元画像が10×10の分割表示元画像領域に分割され、そのうちの2×2の分割表示元画像領域を手順書配置領域としてもよい。
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。例えば、上記した表示システムは、HMDとスマートフォンから構成されているが、HMDとスマートフォンが一体となってもよい。また、作業完了指示は、音声で行っているが、HMDに備わるボタンで指示し、HMDはボタンが操作されたことをスマートフォンに通知するようにしてもよい。スマートフォンは、手順書や図面を記憶しているが、スマートフォンとは異なる装置から通信回線を介して取得するようにしてもよい。
100,100A,100B,100C,100D HMD(表示装置)
111,111A,111B,111C,111D データ受信部
112,112A,112B,112C,112D 視野画像表示部(画像表示処理部)
181 ディスプレイ(表示器)
182 センサ(検出器)
183 カメラ(撮像デバイス)
200,200A,200B,200C,200D スマートフォン(携帯装置)
211,211A,211A,211C,211D 配置定義部
212,212A,212B,212C,212D 表示元画像生成部
230,230C 表示元画像
231 手順書配置領域
232 図面配置領域(第2元画像)
233,233A 視野領域
239 分割表示元画像領域
240 作業書データベース
250 図面データベース
420,420C 視野画像
421 視野内手順書領域(第1表示領域)
421C 視野内手順書・バッテリ状態領域(第1表示領域)
422 視野内図面領域(第2表示領域)
500 管理者端末(遠隔端末)
Claims (14)
- 表示器と、
前記表示器の向きを検出する検出器と、
前記表示器の画面における所定の第1表示領域に第1画像を表示し、前記表示器の画面における第2表示領域に第1画像に関連する第2画像を表示する画像表示処理部を備え、
前記画像表示処理部は、前記表示器の向きに応じて前記表示器の画面における前記第2表示領域の存否と、存在する場合の表示位置および表示サイズとを決定し、
前記第1表示領域は、前記表示器の向きとは無関係の所定の表示位置および表示サイズの領域であり、
前記第1画像は、所定の1つの画像であって、継続して表示され、
前記第2画像は、前記第2表示領域が存在する場合には、前記第1画像とは異なる画像の、前記表示器の向きに応じた何れかの部分画像が継続して表示される
ことを特徴とする表示装置。 - 携帯装置から画像である表示元画像を受信するデータ受信部をさらに備え、
前記第1画像は、前記表示元画像の部分画像である第1元画像であり、
前記第2画像は、前記表示元画像の部分画像である第2元画像の一部である
ことを特徴とする請求項1に記載の表示装置。 - 前記第1元画像および前記第2元画像は、前記表示元画像の所定位置の領域にある画像である
ことを特徴とする請求項2に記載の表示装置。 - 前記第1元画像および前記第2元画像は、前記表示元画像に含まれる所定の色の画素からなる画像、または、前記表示元画像に含まれる所定の色と異なる画素からなる画像である
ことを特徴とする請求項2に記載の表示装置。 - 前記第2画像は、
前記表示器の向きに応じて前記表示元画像内を移動する領域であり、かつ、前記表示器の画面に表示される領域である視野領域と、前記第2元画像とが重なった部分である
ことを特徴とする請求項2に記載の表示装置。 - 前記表示装置は、頭部に装着する表示装置であり、
前記第1画像は、前記表示装置の装着者が行う作業の手順書であり、
前記第2画像は、当該手順書に関連する図面である
ことを特徴とする請求項1に記載の表示装置。 - 表示装置と携帯装置とを含んで構成される表示システムであって、
前記携帯装置は、
第1元画像と、前記第1元画像に関連する第2元画像とを含む表示元画像を生成して、前記表示装置に送信する表示元画像生成部を備え、
前記表示装置は、
表示器と、
前記表示器の向きを検出する検出器と、
前記表示器の画面における所定の第1表示領域に前記第1元画像を表示し、前記表示器の画面における第2表示領域に前記第2元画像の部分画像または前記第2元画像を表示する画像表示処理部を備え、
前記画像表示処理部は、前記表示器の向きに応じて前記表示器の画面における前記第2表示領域の存否と、存在する場合の表示位置および表示サイズとを決定し、
前記第1表示領域は、前記表示器の向きとは無関係の所定の表示位置および表示サイズの領域であり、
前記第1元画像は、所定の1つの画像であって、継続して表示され、
前記第2表示領域に表示される画像は、前記第2表示領域が存在する場合には、前記第1元画像とは異なる画像の、前記表示器の向きに応じた何れかの部分画像が継続して表示される
ことを特徴とする表示システム。 - 前記携帯装置は、前記表示システムの利用者の指示を検出すると、前記第1元画像および前記第2元画像の少なくとも一方を別の画像に替える
ことを特徴とする請求項7に記載の表示システム。 - 前記表示装置は、撮像デバイスを備え、
前記携帯装置は、前記指示を検出すると、前記撮像デバイスが撮像した画像を取得して、前記第1元画像および前記第2元画像に関連付けて記憶する
ことを特徴とする請求項8に記載の表示システム。 - 遠隔端末をさらに備え、
前記携帯装置が、前記遠隔端末からメッセージを受信すると、前記表示元画像生成部は、当該メッセージの画像を前記第1元画像とする
ことを特徴とする請求項7に記載の表示システム。 - 前記表示装置は、撮像デバイスを備え、
前記画像表示処理部は、前記撮像デバイスが撮像した画像を前記携帯装置に送信し、
前記携帯装置は、受信した画像を前記遠隔端末に送信する
ことを特徴とする請求項10に記載の表示システム。 - 表示器と、前記表示器の向きを検出する検出器と、を備える表示装置の表示方法であって、
前記表示器の画面における所定の第1表示領域に第1画像を表示し、前記表示器の画面における第2表示領域に第1画像に関連する第2画像を表示するステップと、
前記表示器の向きに応じて前記表示器の画面における前記第2表示領域の存否と、存在する場合の表示位置および表示サイズとを決定するステップと、を実行し、
前記第1表示領域は、前記表示器の向きとは無関係の所定の表示位置および表示サイズの領域であり、
前記第1画像は、所定の1つの画像であって、継続して表示され、
前記第2画像は、前記第2表示領域が存在する場合には、前記第1画像とは異なる画像の、前記表示器の向きに応じた何れかの部分画像が継続して表示される
ことを特徴とする表示方法。 - 前記表示元画像は、複数の領域に分割され、
前記第1元画像は、少なくとも1つの当該領域に含まれる
ことを特徴とする請求項2に記載の表示装置。 - 前記表示元画像は、複数の領域に分割され、
前記第1元画像は、少なくとも1つの当該領域に含まれる
ことを特徴とする請求項7に記載の表示システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US17/197,560 US11333892B2 (en) | 2020-04-24 | 2021-03-10 | Display apparatus, display system, and display method |
EP21162072.9A EP3901737A1 (en) | 2020-04-24 | 2021-03-11 | Display apparatus, display system, and display method |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020077750 | 2020-04-24 | ||
JP2020077750 | 2020-04-24 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021176004A JP2021176004A (ja) | 2021-11-04 |
JP7492904B2 true JP7492904B2 (ja) | 2024-05-30 |
Family
ID=78300373
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020195388A Active JP7492904B2 (ja) | 2020-04-24 | 2020-11-25 | 表示装置、表示システムおよび表示方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7492904B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024034011A1 (ja) * | 2022-08-09 | 2024-02-15 | マクセル株式会社 | 連係表示システム及び連係表示方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012007985A (ja) | 2010-06-24 | 2012-01-12 | Nec Corp | 確認業務支援システム、サーバ装置、ヘッドマウントディスプレイ装置、ウェアラブル端末、確認業務支援方法およびプログラム |
JP2016081339A (ja) | 2014-10-17 | 2016-05-16 | セイコーエプソン株式会社 | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム |
WO2016088420A1 (ja) | 2014-12-04 | 2016-06-09 | ソニー株式会社 | 表示制御装置、表示制御方法およびプログラム |
US20160232879A1 (en) | 2015-02-05 | 2016-08-11 | Samsung Electronics Co., Ltd. | Method and electronic device for displaying screen |
JP2016218268A (ja) | 2015-05-21 | 2016-12-22 | セイコーエプソン株式会社 | 可搬型表示装置、表示システム、表示方法 |
KR101980297B1 (ko) | 2017-11-14 | 2019-05-20 | 고범준 | 3차원 vr 영상 처리 장치, 방법 및 프로그램 |
WO2020157955A1 (ja) | 2019-02-01 | 2020-08-06 | マクセル株式会社 | 仮想オブジェクト表示装置及び仮想オブジェクト表示方法 |
-
2020
- 2020-11-25 JP JP2020195388A patent/JP7492904B2/ja active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012007985A (ja) | 2010-06-24 | 2012-01-12 | Nec Corp | 確認業務支援システム、サーバ装置、ヘッドマウントディスプレイ装置、ウェアラブル端末、確認業務支援方法およびプログラム |
JP2016081339A (ja) | 2014-10-17 | 2016-05-16 | セイコーエプソン株式会社 | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム |
WO2016088420A1 (ja) | 2014-12-04 | 2016-06-09 | ソニー株式会社 | 表示制御装置、表示制御方法およびプログラム |
JP2016110319A (ja) | 2014-12-04 | 2016-06-20 | ソニー株式会社 | 表示制御装置、表示制御方法およびプログラム |
US20160232879A1 (en) | 2015-02-05 | 2016-08-11 | Samsung Electronics Co., Ltd. | Method and electronic device for displaying screen |
JP2016218268A (ja) | 2015-05-21 | 2016-12-22 | セイコーエプソン株式会社 | 可搬型表示装置、表示システム、表示方法 |
KR101980297B1 (ko) | 2017-11-14 | 2019-05-20 | 고범준 | 3차원 vr 영상 처리 장치, 방법 및 프로그램 |
WO2020157955A1 (ja) | 2019-02-01 | 2020-08-06 | マクセル株式会社 | 仮想オブジェクト表示装置及び仮想オブジェクト表示方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2021176004A (ja) | 2021-11-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10095458B2 (en) | Information processing apparatus, information processing method, non-transitory computer-readable storage medium, and system | |
US10740976B2 (en) | Rendering virtual objects in 3D environments | |
US11160688B2 (en) | Visual aid display device and method of operating the same | |
US20230063303A1 (en) | Sharing virtual content in a mixed reality scene | |
US10642564B2 (en) | Display system, display device, information display method, and program | |
EP3139251B1 (en) | Dual screen head mounted display | |
US20180136716A1 (en) | Method for operating a virtual reality system, and virtual reality system | |
CN100452096C (zh) | 处理作图基元的方法及装置 | |
US20160165170A1 (en) | Augmented reality remote control | |
EP3901737A1 (en) | Display apparatus, display system, and display method | |
JP2017228291A (ja) | 視線検出により制御される標示スキャンシステム及び方法 | |
JP2006119297A (ja) | 情報端末装置 | |
JPWO2017057107A1 (ja) | 入力装置、入力方法、及びプログラム | |
JP7492904B2 (ja) | 表示装置、表示システムおよび表示方法 | |
US11626088B2 (en) | Method and system for spawning attention pointers (APT) for drawing attention of an user in a virtual screen display with augmented and virtual reality | |
JP7476128B2 (ja) | 表示システムおよび表示装置 | |
US20240264662A1 (en) | Head mounted information processing apparatus and head mounted display system | |
CN111818326B (zh) | 图像处理方法、装置、系统、终端设备及存储介质 | |
US11340693B2 (en) | Augmented reality interactive messages and instructions for batch manufacturing and procedural operations | |
CN111399630B (zh) | 虚拟内容交互方法、装置、终端设备及存储介质 | |
CN111913564B (zh) | 虚拟内容的操控方法、装置、系统、终端设备及存储介质 | |
WO2020140905A1 (zh) | 虚拟内容交互系统及方法 | |
JP2017068001A (ja) | 表示装置及び表示装置の制御方法 | |
JP2018181339A (ja) | システム、情報処理方法及びプログラム | |
JP2014212406A (ja) | 画像処理装置および画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230301 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20231018 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231107 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231129 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240305 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240417 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240514 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240520 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7492904 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |