JP2015019679A - 情報処理装置、情報処理方法、および、情報処理システム - Google Patents
情報処理装置、情報処理方法、および、情報処理システム Download PDFInfo
- Publication number
- JP2015019679A JP2015019679A JP2013147420A JP2013147420A JP2015019679A JP 2015019679 A JP2015019679 A JP 2015019679A JP 2013147420 A JP2013147420 A JP 2013147420A JP 2013147420 A JP2013147420 A JP 2013147420A JP 2015019679 A JP2015019679 A JP 2015019679A
- Authority
- JP
- Japan
- Prior art keywords
- information
- information processing
- unit
- image
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 162
- 238000003672 processing method Methods 0.000 title claims description 4
- 230000000007 visual effect Effects 0.000 claims description 16
- 238000000034 method Methods 0.000 description 135
- 230000008569 process Effects 0.000 description 73
- 238000012545 processing Methods 0.000 description 60
- 230000003287 optical effect Effects 0.000 description 42
- 238000007726 management method Methods 0.000 description 26
- 238000004891 communication Methods 0.000 description 25
- 238000010586 diagram Methods 0.000 description 20
- 210000003128 head Anatomy 0.000 description 18
- 230000006870 function Effects 0.000 description 14
- 238000012986 modification Methods 0.000 description 13
- 230000033001 locomotion Effects 0.000 description 12
- 230000004048 modification Effects 0.000 description 11
- 230000008859 change Effects 0.000 description 10
- 238000001356 surgical procedure Methods 0.000 description 9
- 238000004519 manufacturing process Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 7
- 238000002591 computed tomography Methods 0.000 description 7
- 230000009467 reduction Effects 0.000 description 7
- 238000002595 magnetic resonance imaging Methods 0.000 description 6
- 238000004590 computer program Methods 0.000 description 5
- 239000013256 coordination polymer Substances 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- 239000003550 marker Substances 0.000 description 4
- 230000001133 acceleration Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 230000012447 hatching Effects 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 210000001525 retina Anatomy 0.000 description 3
- WQZGKKKJIJFFOK-GASJEMHNSA-N Glucose Natural products OC[C@H]1OC(O)[C@H](O)[C@@H](O)[C@@H]1O WQZGKKKJIJFFOK-GASJEMHNSA-N 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 2
- 208000003464 asthenopia Diseases 0.000 description 2
- FFBHFFJDDLITSX-UHFFFAOYSA-N benzyl N-[2-hydroxy-4-(3-oxomorpholin-4-yl)phenyl]carbamate Chemical compound OC1=C(NC(=O)OCC2=CC=CC=C2)C=CC(=C1)N1CCOCC1=O FFBHFFJDDLITSX-UHFFFAOYSA-N 0.000 description 2
- 239000008280 blood Substances 0.000 description 2
- 210000004369 blood Anatomy 0.000 description 2
- 230000036772 blood pressure Effects 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 239000008103 glucose Substances 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- ADTDNFFHPRZSOT-PVFUSPOPSA-N ram-330 Chemical compound C([C@H]1N(CC2)C)C3=CC=C(OC)C(OC)=C3[C@]32[C@@]1(O)CC[C@@H](OC(=O)OCC)C3 ADTDNFFHPRZSOT-PVFUSPOPSA-N 0.000 description 2
- 239000003381 stabilizer Substances 0.000 description 2
- 238000009966 trimming Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 238000002674 endoscopic surgery Methods 0.000 description 1
- 238000001839 endoscopy Methods 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000005311 nuclear magnetism Effects 0.000 description 1
- 229910052760 oxygen Inorganic materials 0.000 description 1
- 239000001301 oxygen Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000001681 protective effect Effects 0.000 description 1
- 238000001028 reflection method Methods 0.000 description 1
- 239000011347 resin Substances 0.000 description 1
- 229920005989 resin Polymers 0.000 description 1
- 230000004270 retinal projection Effects 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
- 238000009423 ventilation Methods 0.000 description 1
Images
Landscapes
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
- Eye Examination Apparatus (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
【解決手段】情報処理装置は、複数の医療用装置から取得された情報である複数の医療用装置情報を取得する取得部と、取得部により取得された複数の医療用装置情報の少なくとも一部を含む提示用情報を生成する生成部と、複数の画像表示装置に対して、生成された提示用情報を出力する提供部とを備える。
【選択図】図6
Description
A−1.情報処理システムの構成:
図1は、本発明の一実施形態における情報処理システム1000の概略構成を示す説明図である。情報処理システム1000は、複数の医療用装置501〜50nと、情報処理装置300と、画像表示装置100と、を備えている。情報処理システム1000は、医療の現場において使用されるシステムであり、情報処理装置300は、複数の医療用装置501〜50nから情報を取得して一元化し、画像表示装置100へ表示させるための提示用情報を生成する。医療用装置501〜50nと、画像表示装置100とは、有線接続または無線接続によって、情報処理装置300と接続されている。なお、以降では「任意の複数」を表す文字として「n」を用いる。nは1以上の整数である。
図2は、情報処理装置300の構成を機能的に示すブロック図である。情報処理装置300は、第1の入出力部310と、ROM320と、RAM330と、通信インターフェイス340と、CPU350と、外部記憶装置380とを備え、各部はバスにより相互に接続されている。
(1)共通の提示用情報を生成する第1のモード
(2)ヘッドマウントディスプレイ100a〜100nにそれぞれ対応する複数の提示用情報を生成する第2のモード
・ヘッドマウントディスプレイ100から取得した役割に応じて決定する。例えば、生成部360は、執刀医のヘッドマウントディスプレイ100をマスタとして、執刀医以外のヘッドマウントディスプレイ100をスレーブとする。
・ヘッドマウントディスプレイ100の現在位置情報を取得し、各ヘッドマウントディスプレイの位置関係に応じて決定する。例えば、生成部360は、ヘッドマウントディスプレイ100の現在位置情報を取得し、手術台の中央に最も近接した位置にあるヘッドマウントディスプレイ100をマスタとして、他のヘッドマウントディスプレイ100をスレーブとする。
・ヘッドマウントディスプレイ100のハードウェア、ソフトウェア構成の相違に基づいて決定する。例えば、生成部360は、ヘッドマウントディスプレイ100の型番を取得し、特定の型番のヘッドマウントディスプレイ100をマスタとして、他のヘッドマウントディスプレイ100をスレーブとする。
・ヘッドマウントディスプレイ100の現在位置情報に基づいて決定する。例えば、情報処理装置300の外部記憶装置380には、予め、手術室内における設備(手術台、医療用装置500)のレイアウトと、手術室内における役割ごとのスタッフの立ち位置のレイアウトと、を含むレイアウト情報を記憶しておく。そして、生成部360は、ヘッドマウントディスプレイ100の現在位置情報を取得し、取得した現在位置情報をレイアウト情報と照合することで、当該ヘッドマウントディスプレイ100の使用者の役割を決定する。
・ヘッドマウントディスプレイ100の使用者の視界方向の画像(外景画像)に基づいて決定する。生成部360は、ヘッドマウントディスプレイ100から外景画像を取得し、外景画像を画像認識することで、使用者が視認している医療用装置500の種類、手術室内の設備の種類、患者の体の部分等を特定する。生成部360は、特定したこれらの情報に応じて、当該ヘッドマウントディスプレイ100の使用者の役割を決定する。
図5は、ヘッドマウントディスプレイ100aの構成を機能的に示すブロック図である。以降では、ヘッドマウントディスプレイ100の構成の一例としてヘッドマウントディスプレイ100aを例示して説明する。ヘッドマウントディスプレイ100aは、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置であって、情報処理装置300から取得した提示用情報を虚像として表示する。ヘッドマウントディスプレイ100aは、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部10とを備えている。画像表示部20と制御部10とは、ケーブル40を介して各種信号の伝送を行う。
制御部10は、例えばタッチパッド、十字キー、フットスイッチ、ジェスチャー、マイクロホン等の入力デバイスに対する操作入力を取得する入力情報取得部110と、ROMやハードディスク等により構成される記憶部120と、ヘッドマウントディスプレイ100aの各部に電力を供給する電源130と、無線LANやBluetooth等の所定の無線通信規格に則って他の機器との間で無線通信を行う無線通信部132と、現在位置取得部134と、CPU140と、情報処理装置300や種々の外部機器OAを接続するためのインターフェイス180と、送信部(Tx)51、52とを備え、各部は図示しないバスにより相互に接続されている。現在位置取得部134は、GPS衛星からの信号を受信することにより、ヘッドマウントディスプレイ100aの使用者の現在位置を検出し、使用者の現在位置を表す現在位置情報を生成する。なお、現在位置取得部134は、複数の基地局の電波を受信し、受信した電波の強弱を判定することによって現在位置情報を生成してもよい。現在位置情報は、例えば緯度経度を表す座標によって実現することができる。インターフェイス180は、情報処理装置300の第1の入出力部310と同様に、様々な通信規格に準拠することができる。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、画像を表す画像光を生成し射出する右表示駆動部22および左表示駆動部24と、画像光を使用者の両眼へ導く右光学像表示部26および左光学像表示部28(図2)と、画像取得部としてのカメラ61と、9軸センサー66とを含む。
図6は、提示用情報生成処理の手順を示すフローチャートである。提示用情報生成処理は、ヘッドマウントディスプレイ100へ表示させるための提示用情報を生成する処理であり、情報処理装置300(図2)の生成部360が実行する。提示用情報生成処理は、共通の提示用情報を生成する第1のモードと、ヘッドマウントディスプレイ100a〜100nにそれぞれ対応する複数の提示用情報を生成する第2のモードと、に分かれている。また、第2のモードにおいて実行される処理は、ステップS120〜S134から構成される初期処理と、ステップS136〜S142から構成される個別処理とに大別できる。
動作モードが「第1のモード」である場合(ステップS100:第1のモード)、生成部360は、管理テーブル382から、マスタであるヘッドマウントディスプレイ100を検索する(ステップS110)。具体的には、生成部360は、管理テーブル382を参照し、「装置間関係」にマスタと記憶されているエントリを検索し、検索されたエントリの「識別子」を取得する。
(a1)医療用装置500によって取得された医療用装置情報の閲覧要求
(a2)外部の施設の医師PRとの通話要求
(a3)院内データベースODに記録されているデーターの閲覧要求
(a4)不可視情報383に記録されているデーターの閲覧要求
(a5)手術の記録384に記録されているデーターの閲覧要求
(a6)ヘッドマウントディスプレイ100の使用者による表示部の視認が困難な医療用装置500の医療用装置情報の閲覧要求
・医療用装置500が使用者の死角にあるために、使用者から表示部(ディスプレイ等)が視認できない、または視認しづらい医療用装置500。
・医療用装置500が使用者から離れた場所にあるために、使用者から表示部が視認できない、または視認しづらい医療用装置500。
・医療用装置500は使用者の死角でなく、かつ、使用者から近い場所にあるものの、使用者の視線と表示部とが対向していないために、使用者から表示部が視認できない、または視認しづらい医療用装置500。
(b1)ヘッドマウントディスプレイ100の使用者は、ヘッドマウントディスプレイ100の入力デバイス(タッチパッド、十字キー、フットスイッチ、ジェスチャー、マイクロホン等)を介して、希望する情報源と、情報源内の情報を特定するための情報と、を入力する。入力方法として、マイクロホンを介した音声入力を採用すれば、使用者が手を用いて操作することが困難な医療の現場においてヘッドマウントディスプレイ100が使用される場合の、使用者の利便性を大きく向上させることができる。なお、要求a1、a6の場合、「情報源内の情報を特定するための情報」は入力不要である。
(b2)ヘッドマウントディスプレイ100の入力情報取得部110は、使用者の操作入力に応じた信号を取得し、OS150へ送信する。
(b3)ヘッドマウントディスプレイ100のOS150は、情報源の選択要求を生成する。具体的には、要求a1の場合、OS150は、ヘッドマウントディスプレイ100の識別子と、手順b1で指定された情報源を特定するための識別子と、を含んだ情報源の選択要求を生成する。要求a2〜a5の場合、OS150は、ヘッドマウントディスプレイ100の識別子と、手順b1で指定された情報源を特定するための識別子と、情報源内の情報を特定するための情報と、を含んだ情報源の選択要求を生成する。要求a6の場合、OS150は、ヘッドマウントディスプレイ100の識別子と、ヘッドマウントディスプレイ100の現在位置情報と、方位情報と、を含んだ情報源の選択要求を生成する。なお、この現在位置情報および方位情報は、要求a6の「使用者による表示部の視認が困難な医療用装置500」を特定するために用いられる。
(b4)ヘッドマウントディスプレイ100のOS150は、インターフェイス180や無線通信部132を介して接続されている情報処理装置300に対して、手順b3で生成した情報源の選択要求を送信する。
(b5)情報処理装置300の第2の入出力部370は、生成部360に対して、受信した情報源の選択要求を送信する。
(c1)生成部360は、提示用情報PNの余白部分に対して黒色のダミードットデーターを挿入する。
(c2)生成部360は、提示用情報PNの余白部分に対して、ヘッドマウントディスプレイ100の右表示駆動部22および左表示駆動部24における画像光生成の有効/無効を切り替えるための信号(Enable信号)をLo値(無効を示す値)とする。
(d2)第2の入出力部371は、下記1、2のような画像認識の方法を用いて、外景画像に含まれる対象物体の特徴を抽出する。なお、方法1と2とは、組み合わせてもよい。
1.対象物体のエッジ(特徴)を検出する。
2.対象物体に予め付されたマーカー(特徴)を検出する。なお、物体に付すマーカーは種々の種類のマーカーを使用可能である。例えば、テープ、シール、マジック、レーザーマーカー、マジックテープ(登録商標)等を使用することができる。また、対象物体に付すマーカーの数は任意である。
(d3)第2の入出力部371は、受信した提示用情報に含まれる画像を画像認識することで、対象物体の特徴を抽出する。この際、第2の入出力部371は、上記1、2と同様の画像認識の方法を使用することができる。
提示用情報生成処理(図6)のステップS100において、動作モードが「第2のモード」である場合(ステップS100:第2のモード)、生成部360は、提示用情報生成処理において使用する変数iに「1」をセットする(ステップS120)。その後、生成部360は、管理テーブル382のi番目のエントリを参照する(ステップS122)。生成部360は、管理テーブル382のi番目のエントリに格納されている「識別子」と、「役割」とを取得する(ステップS124)。
個別処理では、生成部360は、ヘッドマウントディスプレイ100からの要求に基づいて、要求された医療用装置500から取得した医療用装置情報や、要求された医療用装置500以外の情報源から取得した情報を含む提示用情報を生成する。
なお、提示用情報生成処理(図6)では、さらに、以下のような付加的処理を実行してもよい。付加的処理は、単独で付加してもよいし、組み合わせて付加してもよい。
付加的処理1では、情報処理装置300は、提示用情報に対する色変換処理を行う。具体的には、生成部360から提示用情報を受信した第2の入出力部370は、ヘッドマウントディスプレイ100のカメラ61に外景画像を取得させる。そして、第2の入出力部370は、取得された外景画像の明度、コントラスト、彩度、色相に応じて、提示用情報に含まれる画像の視認性を向上させるような色変換処理を実施する。例えば、第2の入出力部370は、提示用情報に含まれる画像の色相を、外景画像の色相の補色へと変換する色変換処理を行うことができる。
付加的処理2では、情報処理装置300は、ヘッドマウントディスプレイ100の使用者の頭の小さなブレに付随する虚像VIの揺れを抑制する、いわゆるスタビライザー機能を実現する。具体的には、生成部360から提示用情報を受信した第2の入出力部370は、所定の時間ごとに、上記手順d1〜d4において説明したフィッティング処理と、提示用情報生成処理のステップS118、S130、S142の提示用情報の送信と、を繰り返す。これにより、所定の時間ごとに、外景画像の撮影と、提示用情報に含まれる画像の補正および表示が繰り返されることとなるため、使用者の頭部の経時的な動きに追従した提示用情報を虚像VIとして表示させることができる。
(e2)第2の入出力部370は、手順f1で求めた変化量が所定の閾値を超える場合、手順d2以降の処理を継続する。
付加的処理3では、情報処理装置300は、ヘッドマウントディスプレイ100の画像表示部20と、使用者の視界方向にある物体との間の距離に応じて、提示用情報に含まれる画像が虚像VIとして表示される大きさを変更する。具体的には、生成部360から提示用情報を受信した第2の入出力部370は、上記手順d1〜d4において説明したフィッティング処理に代えて、以下の手順f1〜f3に示す処理を行うことができる。なお、本処理を実施する場合、ヘッドマウントディスプレイ100には、さらに測距センサーを備える構成とする。測距センサーは、反射光によって使用者の視界方向にある物体と画像表示部20との間の距離を取得するためのセンサーであり、例えば、カメラ61の近傍に配置することができる。
(f2)第2の入出力部370は、取得した測距センサーの測定値に応じて拡大率(または縮小率)を決定する。
(f3)第2の入出力部370は、決定した拡大、縮小率を用いて、提示用情報に含まれる画像に対して、拡大、縮小、回転、反転、トリミング、歪みの付与、ノイズの除去の少なくともいずれかの加工を行う。
本発明の第2実施形態では、生成部360が結合情報を生成可能な構成について説明する。以下では、第1実施形態と異なる構成および動作を有する部分についてのみ説明する。なお、図中において第1実施形態と同様の構成部分については先に説明した第1実施形態と同様の符号を付し、その詳細な説明を省略する。
第2実施形態における情報処理システム1000aの概略構成は、図1に示す第1実施形態とほぼ同様である。ただし、第2実施形態の情報処理システム1000aは、情報処理装置300に代えて情報処理装置300aを備える。
図15は、第2実施形態における情報処理装置300aの構成を機能的に示すブロック図である。図2に示した第1実施形態との違いは、生成部360に代えて生成部360aを備える点である。生成部360aは、動作モードが「第2のモード」である場合に、提示用情報生成処理に並行させて、後述の結合情報生成処理を実行する。結合情報生成処理は、第2の入出力部370に接続されている全てのヘッドマウントディスプレイ100(ヘッドマウントディスプレイ100a〜100n)の提示用情報を結合した結合情報を生成する処理である。
第2実施形態におけるヘッドマウントディスプレイ100の概略構成は、図5に示す第1実施形態と同様である。
第2実施形態における提示用情報生成処理の手順は、図6に示す第1実施形態と同様である。
なお、第2実施形態の提示用情報生成処理においても、「A−5−1.付加的処理1」〜「A−5−3.付加的処理3」において説明した、第1実施形態と同様の付加的処理を実行してもよい。
図16は、結合情報生成処理の手順を示すフローチャートである。結合情報生成処理は、ヘッドマウントディスプレイ100へ表示させるための結合情報を生成する処理であり、情報処理装置300a(図15)の生成部360aが実行する。結合情報生成処理は、提示用情報生成処理(図6)のステップS100において、動作モードが「第2のモード」である場合に(ステップS100:第2のモード)、図6で説明した初期処理と個別処理とに並行して実行される。
(g1)生成部360aは、取得された提示用情報の総数と、共通映像仕様381に記憶されている解像度とに応じて、提示用情報の縮小率を決定する。
(g2)生成部360aは、手順g1で決定した縮小率で、i番目の提示用情報(提示用情報PNi)に含まれる画像を縮小する。
(g3)生成部360aは、手順g2で縮小した画像を、他の画像と重ならない位置にレイヤー配置して上書き保存し、結合情報JNとする。
(g4)生成部360aは、変数iをインクリメントし、「i≧取得された提示用情報の総数」が成立するまで、上記手順g2、g3を繰り返す。
(g5)生成部360aは、結合情報JNのうち、提示用情報の画像が配置されていない余白部分(図において斜線で表す)に対して、上記c1、c2で説明したと同様の手順を実行し、ダミードットデーターの挿入か、Enable信号の調整を行う。
(g6)生成部360aは、生成された結合情報JNに含まれる画像を、共通映像仕様381に規定されている映像信号の仕様に沿って変換する。
上記実施形態において、ハードウェアによって実現されるとした構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されるとした構成の一部をハードウェアに置き換えるようにしてもよい。その他、以下のような変形も可能である。
上記実施形態では、情報処理システムの構成について例示した。しかし、情報処理システムの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、情報処理システムを構成する各装置の追加・削除・変換等を行うことができる。また、情報処理システムを構成する装置のネットワーク構成の変更を行うことができる。
上記実施形態では、情報処理装置の構成について例示した。しかし、情報処理装置の構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。
上記実施形態では、ヘッドマウントディスプレイの構成について例示した。しかし、ヘッドマウントディスプレイの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。例えば、制御部と、画像表示部とは、無線LANや赤外線通信やBluetooth等の無線の信号伝送路を介した接続により接続されていてもよい。また、例えば、電源として、一次電池や、燃料電池、太陽電池、熱電池等を採用してもよい。
上記実施形態では、提示用情報生成処理の一例を示した。しかし、提示用情報生成処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
上記実施形態では、結合情報生成処理の一例を示した。しかし、結合情報生成処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
・その提示用情報が供給されているヘッドマウントディスプレイを識別するための文字列や画像
・その提示用情報が供給されているヘッドマウントディスプレイの使用者の役職を表す文字列や画像
・医療用装置の医療用装置情報
・院内データベースに記録されているデーター
・不可視情報に記録されているデーター
・不可視情報に記録されているデーター
・表示部の視認が困難な医療用装置の医療用装置情報
上記実施形態では、共通映像仕様と、管理テーブルとの一例を示した。しかし、これらの詳細はあくまで一例であり、種々の変更が可能である。例えば、フィールド(項目)の追加、削除、変更を行うことができる。また、管理テーブルは、複数のテーブルに分割して正規化してもよい。
本発明は、上述の実施形態や実施例、変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、実施例、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
20…画像表示部
22…右表示駆動部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
32…右イヤホン
34…左イヤホン
40…ケーブル
51…送信部
52…送信部
53…受信部
54…受信部
61…カメラ(画像取得部)
110…入力情報取得部
100…ヘッドマウントディスプレイ(画像表示装置、頭部装着型表示装置)
120…記憶部
130…電源
140…CPU
160…画像処理部
170…音声処理部
180…インターフェイス
190…表示制御部
201…右バックライト制御部
202…左バックライト制御部
211…右LCD制御部
212…左LCD制御部
221…右バックライト
222…左バックライト
241…右LCD
242…左LCD
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
300…情報処理装置
310…第1の入出力部
311〜31n…第1の入出力部(取得部)
320…ROM
330…RAM
340…通信インターフェイス
350…CPU
360…生成部
370…第2の入出力部(提供部)
371〜37n…第2の入出力部
380…外部記憶装置
381…共通映像仕様
382…管理テーブル(役割記憶部、装置間関係記憶部)
383…不可視情報
384…手術の記録
385…動作モード
500…医療用装置
501〜50n…医療用装置
700…ディスプレイ
1000…情報処理システム
OA…外部機器
PC…パーソナルコンピューター
OD…データベース
VI…虚像
PN…提示用情報
JN…結合情報
VR…視野
PR…医師
MP1…位置
UP1…現在位置
CP1…医療用装置情報
Claims (13)
- 情報処理装置であって、
複数の医療用装置から取得された情報である複数の医療用装置情報を取得する取得部と、
前記取得部により取得された前記複数の医療用装置情報の少なくとも一部を含む提示用情報を生成する生成部と、
複数の画像表示装置に対して、生成された前記提示用情報を出力する提供部と、
を備える、情報処理装置。 - 請求項1に記載の情報処理装置であって、
前記生成部は、前記複数の画像表示装置に対して共通する前記提示用情報を生成する第1のモードと、前記複数の画像表示装置にそれぞれ対応する複数の前記提示用情報を生成する第2のモードと、を有する、情報処理装置。 - 請求項2に記載の情報処理装置であって、
前記生成部は、前記第1のモードにおいて、特定の前記画像表示装置の使用者によって選択された前記医療用装置情報を少なくとも含む、共通の前記提示用情報を生成する、情報処理装置。 - 請求項3に記載の情報処理装置であって、さらに、
前記複数の画像表示装置を相互に識別するための情報と、当該画像表示装置が前記特定の画像表示装置であるか否かを表す情報と、を関連付けて記憶する装置間関係記憶部を備え、
前記生成部は、前記第1のモードにおいて、前記装置間関係記憶部を用いて前記特定の画像表示装置を識別する、情報処理装置。 - 請求項2から請求項4のいずれか一項に記載の情報処理装置であって、
前記生成部は、前記第2のモードにおいて、前記複数の画像表示装置の使用者によってそれぞれ選択された前記医療用装置情報を少なくとも含む、前記複数の提示用情報を生成する、情報処理装置。 - 請求項2から請求項4のいずれか一項に記載の情報処理装置であって、
前記生成部は、前記第2のモードにおいて、前記使用者のそれぞれの役割に応じた前記医療用装置から取得した前記医療用装置情報を少なくとも含む、前記複数の提示用情報を生成する、情報処理装置。 - 請求項6に記載の情報処理装置であって、さらに、
前記複数の画像表示装置を相互に識別するための情報と、当該画像表示装置の使用者の役割とを関連付けて記憶する役割記憶部を備え、
前記生成部は、前記第2のモードにおいて、前記役割記憶部を用いて前記使用者の役割を識別する、情報処理装置。 - 請求項2から請求項7のいずれか一項に記載の情報処理装置であって、
前記生成部は、前記第2のモードにおいて、さらに、生成された前記複数の提示用情報を結合した結合情報を生成し、
前記提供部は、前記特定の画像表示装置に対して、生成された前記結合情報を出力する、情報処理装置。 - 請求項1から請求項8のいずれか一項に記載の情報処理装置であって、
前記生成部は、前記提示用情報を生成する際に、前記医療用装置情報に含まれる画像の縦横比を維持したまま、前記画像を拡大または縮小する、情報処理装置。 - 請求項1から請求項9のいずれか一項に記載の情報処理装置であって、
前記情報処理装置には、前記画像表示装置として、使用者が虚像と外景を同時に視認可能な頭部装着型表示装置が接続される、情報処理装置。 - 請求項10に記載の情報処理装置であって、
前記提供部は、さらに、
前記頭部装着型表示装置から、前記頭部装着型表示装置を装着した状態における使用者の視界方向の画像を取得し、
取得された前記視界方向の画像を画像認識することで外景に含まれる物体の特徴を抽出し、
抽出した前記特徴に基づいて生成部により生成された前記提示用情報を補正し、補正後の前記提示用情報を出力する、情報処理装置。 - 情報処理方法であって、
(a)複数の医療用装置から取得された情報である複数の医療用装置情報を取得する工程と、
(b)取得された前記複数の医療用装置情報の少なくとも一部を含む提示用情報を生成する工程と、
(c)複数の画像表示装置に対して、生成された前記提示用情報を出力する工程と、
を備える、情報処理方法。 - 情報処理システムであって、
複数の医療用装置と、
情報処理装置と、
複数の頭部装着型表示装置であって、使用者が虚像と外景を同時に視認可能な頭部装着型表示装置と、
を備え、
前記情報処理装置は、
前記複数の医療用装置から取得された情報である複数の医療用装置情報を取得する取得部と、
前記取得部により取得された前記複数の医療用装置情報の少なくとも一部を含む提示用情報を生成する生成部と、
前記複数の頭部装着型表示装置に対して、生成された前記提示用情報を出力する提供部と、
を備え、
前記頭部装着型表示装置は、
前記情報処理装置から前記提示用情報を取得する提示用情報取得部と、
取得された前記提示用情報を前記虚像として前記頭部装着型表示装置の使用者に視認させる画像表示部と、
を備える、情報処理システム。
Priority Applications (11)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013147420A JP2015019679A (ja) | 2013-07-16 | 2013-07-16 | 情報処理装置、情報処理方法、および、情報処理システム |
EP14755717.7A EP3022672A2 (en) | 2013-07-16 | 2014-07-11 | Information processing apparatus, information processing method, and information processing system |
KR1020167003627A KR20160033721A (ko) | 2013-07-16 | 2014-07-11 | 정보 처리 장치, 정보 처리 방법 및, 정보 처리 시스템 |
RU2016104900A RU2642941C2 (ru) | 2013-07-16 | 2014-07-11 | Устройство обработки информации, способ обработки информации и система обработки информации |
TW103124039A TW201505603A (zh) | 2013-07-16 | 2014-07-11 | 資訊處理裝置、資訊處理方法及資訊處理系統 |
PCT/JP2014/003697 WO2015008470A2 (en) | 2013-07-16 | 2014-07-11 | Information processing apparatus, information processing method, and information processing system |
US14/901,198 US10042598B2 (en) | 2013-07-16 | 2014-07-11 | Information processing apparatus, information processing method, and information processing system |
CN201410340206.9A CN104298344B (zh) | 2013-07-16 | 2014-07-16 | 信息处理装置、信息处理方法以及信息处理系统 |
CN201811229131.1A CN109637622A (zh) | 2013-07-16 | 2014-07-16 | 信息处理装置、信息处理方法以及信息处理系统 |
US16/026,214 US10664216B2 (en) | 2013-07-16 | 2018-07-03 | Information processing apparatus, information processing method, and information processing system |
US16/851,780 US11341726B2 (en) | 2013-07-16 | 2020-04-17 | Information processing apparatus, information processing method, and information processing system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013147420A JP2015019679A (ja) | 2013-07-16 | 2013-07-16 | 情報処理装置、情報処理方法、および、情報処理システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015019679A true JP2015019679A (ja) | 2015-02-02 |
Family
ID=52484698
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013147420A Withdrawn JP2015019679A (ja) | 2013-07-16 | 2013-07-16 | 情報処理装置、情報処理方法、および、情報処理システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015019679A (ja) |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017010424A1 (ja) * | 2015-07-16 | 2017-01-19 | 木村 正 | 画像表示制御装置、表示装置、及び、画像表示システム |
JP2017049775A (ja) * | 2015-09-01 | 2017-03-09 | 株式会社東芝 | メガネ型ウエアラブル端末およびこの端末を用いる方法 |
JP2017068360A (ja) * | 2015-09-28 | 2017-04-06 | ブラザー工業株式会社 | 情報表示装置 |
JP2017063844A (ja) * | 2015-09-28 | 2017-04-06 | ブラザー工業株式会社 | 情報出力装置 |
JP2017191546A (ja) * | 2016-04-15 | 2017-10-19 | ミラマ サービス インク | 医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法 |
JP2018112716A (ja) * | 2017-01-13 | 2018-07-19 | ディーブイエックス株式会社 | 映像統合システム |
JP2018121686A (ja) * | 2017-01-30 | 2018-08-09 | セイコーエプソン株式会社 | 内視鏡操作支援システム |
JP2018534011A (ja) * | 2015-10-14 | 2018-11-22 | サージカル シアター エルエルシー | 拡張現実感手術ナビゲーション |
JP2019101293A (ja) * | 2017-12-05 | 2019-06-24 | オリンパス株式会社 | 頭部装着型表示装置、表示システム及び表示方法 |
WO2019176556A1 (ja) * | 2018-03-13 | 2019-09-19 | ソニー株式会社 | 医療機器管理システム及び医療機器管理方法 |
JP2020512120A (ja) * | 2017-03-29 | 2020-04-23 | ビビオール アクチェンゲゼルシャフト | ユーザーの健康状態を評価するシステム |
JP2021509512A (ja) * | 2017-12-28 | 2021-03-25 | エシコン エルエルシーEthicon LLC | 受信されたデータセットの検証並びにそのソース及び完全性の認証に基づく外科用ネットワーク、器具、及びクラウド応答 |
CN113038902A (zh) * | 2018-11-14 | 2021-06-25 | 任昇俊 | 利用扩增实境的手术辅助装置 |
JP2021520551A (ja) * | 2018-04-27 | 2021-08-19 | インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation | 患者の医学的状態もしくは治療又はその両方と関連付けられた拡張現実の提示 |
JP2022104972A (ja) * | 2018-04-12 | 2022-07-12 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
US11446113B2 (en) | 2018-09-11 | 2022-09-20 | Sony Corporation | Surgery support system, display control device, and display control method |
JP2022141975A (ja) * | 2016-11-11 | 2022-09-29 | インテュイティブ サージカル オペレーションズ, インコーポレイテッド | 走査ベースの位置付けを伴う遠隔操作手術システム |
WO2023140120A1 (ja) * | 2022-01-21 | 2023-07-27 | ソニーグループ株式会社 | 手術ロボットシステム |
US12034935B2 (en) | 2018-09-28 | 2024-07-09 | Sony Corporation | Reception apparatus, reception method, and image processing system |
JP7521845B1 (ja) | 2023-07-10 | 2024-07-24 | 株式会社近藤研究所 | 頭部装着型視線検出装置および視線画像表示システム |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005208823A (ja) * | 2004-01-21 | 2005-08-04 | Seiko Epson Corp | プロジェクタのネットワークシステム |
JP2006102495A (ja) * | 2004-10-01 | 2006-04-20 | General Electric Co <Ge> | 外科手術室の情報ディスプレイの注視検出及びユーザの制御用優先順位付けのための方法及び装置 |
JP2008234072A (ja) * | 2007-03-16 | 2008-10-02 | Ricoh Co Ltd | 画面共有システム、画面共有プログラム及びプログラム配信方法 |
JPWO2008026258A1 (ja) * | 2006-08-30 | 2010-01-14 | 東京特殊電線株式会社 | 画像表示装置および画像表示プログラム |
EP2544039A1 (en) * | 2011-07-04 | 2013-01-09 | BAE Systems Plc. | Display system |
US20130093738A1 (en) * | 2010-06-28 | 2013-04-18 | Johannes Manus | Generating images for at least two displays in image-guided surgery |
JP2014155207A (ja) * | 2013-02-14 | 2014-08-25 | Seiko Epson Corp | 頭部装着型表示装置および頭部装着型表示装置の制御方法 |
-
2013
- 2013-07-16 JP JP2013147420A patent/JP2015019679A/ja not_active Withdrawn
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005208823A (ja) * | 2004-01-21 | 2005-08-04 | Seiko Epson Corp | プロジェクタのネットワークシステム |
JP2006102495A (ja) * | 2004-10-01 | 2006-04-20 | General Electric Co <Ge> | 外科手術室の情報ディスプレイの注視検出及びユーザの制御用優先順位付けのための方法及び装置 |
JPWO2008026258A1 (ja) * | 2006-08-30 | 2010-01-14 | 東京特殊電線株式会社 | 画像表示装置および画像表示プログラム |
JP2008234072A (ja) * | 2007-03-16 | 2008-10-02 | Ricoh Co Ltd | 画面共有システム、画面共有プログラム及びプログラム配信方法 |
US20130093738A1 (en) * | 2010-06-28 | 2013-04-18 | Johannes Manus | Generating images for at least two displays in image-guided surgery |
EP2544039A1 (en) * | 2011-07-04 | 2013-01-09 | BAE Systems Plc. | Display system |
JP2014155207A (ja) * | 2013-02-14 | 2014-08-25 | Seiko Epson Corp | 頭部装着型表示装置および頭部装着型表示装置の制御方法 |
Cited By (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017010424A1 (ja) * | 2015-07-16 | 2017-01-19 | 木村 正 | 画像表示制御装置、表示装置、及び、画像表示システム |
JP2017049775A (ja) * | 2015-09-01 | 2017-03-09 | 株式会社東芝 | メガネ型ウエアラブル端末およびこの端末を用いる方法 |
JP2017068360A (ja) * | 2015-09-28 | 2017-04-06 | ブラザー工業株式会社 | 情報表示装置 |
JP2017063844A (ja) * | 2015-09-28 | 2017-04-06 | ブラザー工業株式会社 | 情報出力装置 |
JP2018534011A (ja) * | 2015-10-14 | 2018-11-22 | サージカル シアター エルエルシー | 拡張現実感手術ナビゲーション |
JP2017191546A (ja) * | 2016-04-15 | 2017-10-19 | ミラマ サービス インク | 医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法 |
JP7367140B2 (ja) | 2016-11-11 | 2023-10-23 | インテュイティブ サージカル オペレーションズ, インコーポレイテッド | 走査ベースの位置付けを伴う遠隔操作手術システム |
JP2022141975A (ja) * | 2016-11-11 | 2022-09-29 | インテュイティブ サージカル オペレーションズ, インコーポレイテッド | 走査ベースの位置付けを伴う遠隔操作手術システム |
JP7016068B2 (ja) | 2017-01-13 | 2022-02-04 | ディーブイエックス株式会社 | 映像統合システム |
JP2018112716A (ja) * | 2017-01-13 | 2018-07-19 | ディーブイエックス株式会社 | 映像統合システム |
JP2018121686A (ja) * | 2017-01-30 | 2018-08-09 | セイコーエプソン株式会社 | 内視鏡操作支援システム |
JP2020512120A (ja) * | 2017-03-29 | 2020-04-23 | ビビオール アクチェンゲゼルシャフト | ユーザーの健康状態を評価するシステム |
JP7106569B2 (ja) | 2017-03-29 | 2022-07-26 | ビビオール アクチェンゲゼルシャフト | ユーザーの健康状態を評価するシステム |
JP2019101293A (ja) * | 2017-12-05 | 2019-06-24 | オリンパス株式会社 | 頭部装着型表示装置、表示システム及び表示方法 |
JP7017385B2 (ja) | 2017-12-05 | 2022-02-08 | オリンパス株式会社 | 頭部装着型表示装置、表示システム及び表示方法 |
JP7301844B2 (ja) | 2017-12-28 | 2023-07-03 | エシコン エルエルシー | 受信されたデータセットの検証並びにそのソース及び完全性の認証に基づく外科用ネットワーク、器具、及びクラウド応答 |
JP2021509512A (ja) * | 2017-12-28 | 2021-03-25 | エシコン エルエルシーEthicon LLC | 受信されたデータセットの検証並びにそのソース及び完全性の認証に基づく外科用ネットワーク、器具、及びクラウド応答 |
JP7294318B2 (ja) | 2018-03-13 | 2023-06-20 | ソニーグループ株式会社 | 医療機器管理システム及び医療機器管理方法 |
JPWO2019176556A1 (ja) * | 2018-03-13 | 2021-05-13 | ソニーグループ株式会社 | 医療機器管理システム及び医療機器管理方法 |
WO2019176556A1 (ja) * | 2018-03-13 | 2019-09-19 | ソニー株式会社 | 医療機器管理システム及び医療機器管理方法 |
JP2022104972A (ja) * | 2018-04-12 | 2022-07-12 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP7419424B2 (ja) | 2018-04-12 | 2024-01-22 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP2021520551A (ja) * | 2018-04-27 | 2021-08-19 | インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation | 患者の医学的状態もしくは治療又はその両方と関連付けられた拡張現実の提示 |
JP7300802B2 (ja) | 2018-04-27 | 2023-06-30 | インターナショナル・ビジネス・マシーンズ・コーポレーション | 患者の医学的状態もしくは治療又はその両方と関連付けられた拡張現実の提示 |
US11446113B2 (en) | 2018-09-11 | 2022-09-20 | Sony Corporation | Surgery support system, display control device, and display control method |
US12034935B2 (en) | 2018-09-28 | 2024-07-09 | Sony Corporation | Reception apparatus, reception method, and image processing system |
CN113038902A (zh) * | 2018-11-14 | 2021-06-25 | 任昇俊 | 利用扩增实境的手术辅助装置 |
JP7014935B2 (ja) | 2018-11-14 | 2022-02-01 | スン チュン イム | 拡張現実を利用した手術補助装置 |
JP2022507478A (ja) * | 2018-11-14 | 2022-01-18 | スン チュン イム | 拡張現実を利用した手術補助装置 |
CN113038902B (zh) * | 2018-11-14 | 2022-03-11 | 任昇俊 | 利用扩增实境的手术辅助装置 |
WO2023140120A1 (ja) * | 2022-01-21 | 2023-07-27 | ソニーグループ株式会社 | 手術ロボットシステム |
JP7521845B1 (ja) | 2023-07-10 | 2024-07-24 | 株式会社近藤研究所 | 頭部装着型視線検出装置および視線画像表示システム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11341726B2 (en) | Information processing apparatus, information processing method, and information processing system | |
JP6252004B2 (ja) | 情報処理装置、情報処理方法、および、情報処理システム | |
JP2015019679A (ja) | 情報処理装置、情報処理方法、および、情報処理システム | |
US10169925B2 (en) | Head mounted display and control method for head mounted display | |
JP6311393B2 (ja) | 情報処理装置、情報処理方法、および、情報処理システム | |
JP6299067B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP6264855B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP6409927B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160523 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20160530 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170321 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170519 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20171031 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20171122 |