[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6094550B2 - 情報処理装置、プログラム - Google Patents

情報処理装置、プログラム Download PDF

Info

Publication number
JP6094550B2
JP6094550B2 JP2014180410A JP2014180410A JP6094550B2 JP 6094550 B2 JP6094550 B2 JP 6094550B2 JP 2014180410 A JP2014180410 A JP 2014180410A JP 2014180410 A JP2014180410 A JP 2014180410A JP 6094550 B2 JP6094550 B2 JP 6094550B2
Authority
JP
Japan
Prior art keywords
display
unit
image
remote
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014180410A
Other languages
English (en)
Other versions
JP2015084211A (ja
JP2015084211A5 (ja
Inventor
崇範 永原
崇範 永原
笠谷 潔
潔 笠谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2014180410A priority Critical patent/JP6094550B2/ja
Priority to US14/487,226 priority patent/US9335860B2/en
Publication of JP2015084211A publication Critical patent/JP2015084211A/ja
Publication of JP2015084211A5 publication Critical patent/JP2015084211A5/ja
Application granted granted Critical
Publication of JP6094550B2 publication Critical patent/JP6094550B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545Pens or stylus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0428Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by sensing at the edges of the touch surface the interruption of optical paths, e.g. an illumination plane, parallel to the touch surface which may be virtual
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/12Synchronisation between the display unit and other units, e.g. other display units, video-disc players
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00352Input means
    • H04N1/00392Other manual input means, e.g. digitisers or writing tablets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/42Systems for two-way working, e.g. conference systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/10Special adaptations of display systems for operation with variable images
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/045Zooming at least part of an image, i.e. enlarging it or shrinking it
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0464Positioning
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Computer Hardware Design (AREA)
  • Signal Processing (AREA)
  • User Interface Of Digital Computer (AREA)
  • Facsimiles In General (AREA)

Description

本発明は、表示手段に表示された画像を共有する複数の情報処理装置がネットワークを介して接続された画像処理システムに関する。
企業や教育機関、行政機関等における会議等において、大型ディスプレイに背景画像を表示させ、この背景画像の上にユーザが文字や数字、図形等のストローク画像を描画可能な電子黒板が利用されている。このような電子黒板では、タッチパネルなどに対しユーザによって生成されたストローク画像をタッチパネルに表示することができる。ストローク画像は1ページ毎に背景などと共にページデータとして保存される。
また、ネットワークの普及に伴い各拠点の電子黒板をネットワークで接続して、ストローク画像などを各電子黒板が共有する技術も知られるようになった(例えば、特許文献1参照。)。特許文献1には、拠点識別情報を入力されたデータと共に送信し、操作者などの拠点情報を添付してデータを表示する相互情報共有システムが開示されている。
しかしながら、特許文献1の相互情報共有システムのように、入力されたデータと拠点情報を同時に送信することで、データと共にデータを入力した拠点情報を表示できるが、良好な操作感が得られない場合が生じうる。
本発明は、上記課題に鑑み、ユーザが良好な操作感を得ることが可能な情報処理装置を提供することを目的とする。
本発明は、画像を表示する表示手段と、前記表示手段に対し電子ペン又は指示手段が接触した座標を検出する座標検出手段と、前記電子ペンが前記表示手段へ接触したことを示す接触情報を受信する接触情報受信手段と、前記接触情報受信手段が前記接触情報を受信することなく前記時間計測手段が所定時間を計測した場合、電子ペン又は指示手段のうち前記表示手段に前記指示手段が接触したと判別し、前記所定時間が計測される前に前記接触情報受信手段が前記接触情報を受信した場合、前記表示手段に前記電子ペンが接触したと判別する判別手段と、
前記判別手段で前記指示手段と判別された場合、前記指示手段に対応する表示を当該表示手段に表示させ、前記判別手段で前記電子ペンと判別された場合、前記電子ペンに対応する表示を前記表示手段に表示させる表示制御手段と、を有することを特徴とする。
ユーザが良好な操作感を得ることが可能な情報処理装置を提供することができる。
画像処理システムの全体構成図の一例である。 電子黒板のハードウェア構成図の一例である。 電子黒板の機能ブロック図の一例である。 ファイル処理部の機能ブロック図の一例である。 通信制御部の機能ブロック図の一例である。 ページデータを模式的に説明する図の一例である。 ストローク配列データを模式的に説明する図の一例である。 座標配列データを模式的に説明する図の一例である。 メディアデータを模式的に説明する図の一例である。 遠隔ライセンス管理テーブルを模式的に説明する図の一例である。 アドレス帳管理テーブルを模式的に説明する図の一例である。 バックアップデータを模式的に説明する図の一例である。 接続先管理テーブルを模式的に説明する図の一例である。 参加拠点管理テーブルを模式的に説明する図の一例である。 操作データを模式的に説明する図の一例である。 各画像レイヤの重畳処理について説明する図の一例である。 電子黒板が遠隔会議に参加するシーケンス図の一例を示す。 電子黒板が画像を表示するシーケンス図の一例を示す。 参加装置のディスプレイに表示される拠点のリストの表示例を示す図である。 遠隔コンテキストの送信手順を示すフローチャート図の一例である。 遠隔コンテキストを受信した拠点がディスプレイに表示する遠隔コンテキストの一例である。 接触センサの概略構成図の一例である。 指判別部が指による描画であることを判別しマーカーを描画する手順を示すフローチャート図の一例である。 電子黒板の機能ブロック図の一例である(実施例3)。 アフィン変換行列を説明する図の一例である。 2つの拠点でジェスチャを共有する手順を示すフローチャート図の一例である。
以下、図面を用いて、本発明の一実施形態を説明する。
<システムの概要>
図1は、本実施形態の画像処理システムの全体構成図である。なお、図1では、説明を簡略化するために、2台の電子黒板2a,2b及びこれに付随する電子ペン4a,4b等を示しているだけであって、3台以上の電子黒板や電子ペン等を利用してもよい。電子黒板2a,2bは特許請求の範囲の情報処理装置の一例である。
図1に示されているように、画像処理システム1は、複数の電子黒板2a,2b、複数の電子ペン4a,4b、USBメモリ5a,5b、ノートPC(Personal Computer)6a,6b、テレビ(ビデオ)会議端末7a,7b、及びPC8を有する。また、電子黒板2a,2b、及びPC8は、通信ネットワーク9を介して通信可能に接続されている。更に、複数の電子黒板2a,2bには、それぞれディスプレイ3a,3bが設けられている。
また、電子黒板2aには、電子ペン4aによって生じたイベント(ディスプレイ3aに電子ペン4aのペン先、又は、電子ペン4aのペン尻のタッチ)による描画された画像を、ディスプレイ3aに表示させることができる。なお、電子ペン4aだけでなく、ユーザの手H等によって生じたイベント(拡大、縮小、ページめくり等のジェスチャ)に基づいて、ディスプレイ3a上に表示されている画像を変更させることもできる。
また、電子黒板2aには、USBメモリ5aが接続可能であり、電子黒板2aはUSBメモリ5aからPDF等の電子ファイルを読み出したり、電子黒板2aはUSBメモリ5aに電子ファイルを記録したりすることができる。また、電子黒板2aには、Display Port、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)及びVGA(Video Graphics Array)等の規格による通信が可能なケーブル10a1を介して、ノートPC6aが接続されている。そして、電子黒板2aでは、ディスプレイ3aに対する接触によってイベントを発生させ、このイベントを示すイベント情報を、マウスやキーボード等の入力装置のイベントと同様に、ノートPC6aに送信する。同じく、電子黒板2aには、上記規格による通信が可能なケーブル10a2を介して、テレビ(ビデオ)会議端末7aが接続されている。なお、ノートPC6a、及びテレビ会議端末7aは、Bluetooth(登録商標)等の各種無線通信プロトコルに準拠した無線通信により、電子黒板2aと通信してもよい。
一方、電子黒板2bが設置されている他の拠点では、上記と同様に、ディスプレイ3bを備えた電子黒板2b、電子ペン4b、USBメモリ5b、ノートPC6b、テレビ会議端末7b、ケーブル10b1、ケーブル10b2が利用される。更に、ユーザの手Hb等によって生じたイベントに基づいて、ディスプレイ3b上に表示されている画像を変更させることもできる。
これにより、一の拠点で電子黒板2aのディスプレイ3a上に描画された画像は、他の拠点で電子黒板2bのディスプレイ3b上にも表示され、逆に他の拠点で電子黒板2bのディスプレイ3b上に描画された画像は、一の拠点で電子黒板2aのディスプレイ3a上に表示される。このように、画像処理システム1では、遠隔地において同じ画像を共有する遠隔共有処理を行うことができるため、遠隔地での会議等に用いると、非常に便利である。
なお、以下では、複数の電子黒板のうち任意の電子黒板を示す場合には「電子黒板2」と示す。複数のディスプレイのうち任意のディスプレイを示す場合には「ディスプレイ3」と示す。複数の電子ペンのうち任意の電子ペンを示す場合には「電子ペン4」と示す。複数のUSBメモリのうち任意のUSBメモリを示す場合には「USBメモリ5」と示す。複数のノートPCのうち任意のノートPCを示す場合には「ノートPC6」と示す。複数のテレビ会議端末のうち任意のテレビ会議端末を示す場合には「テレビ会議端末7」と示す。また、複数のユーザの手のうち任意の手を示す場合には「手H」と示す。複数のケーブルのうち任意のケーブルを示す場合には「ケーブル10」と示す。
また、本実施形態では、画像処理装置の一例として、電子黒板を説明するが、これに限るものではなく、画像処理装置の他の例として、電子看板(デジタルサイネージ)、スポーツや天気予報等で利用されるテレストレータ、又は、遠隔画像(映像)診断装置等であってもよい。また、情報処理端末の一例として、ノートPC6を説明するが、これに限るものではなく、情報処理端末の他の例として、デスクトップ型PCやタブレット型PC、スマートフォン、PDA、デジタルビデオカメラ、デジタルカメラ、ゲーム機等の画像フレームを供給可能な端末であってもよい。更に、通信ネットワークには、インターネット、LAN(Local Area Network)、携帯電話通信網等が含まれる。また、本実施形態では、記録媒体の一例として、USBメモリを説明するが、これに限るものではなく、記録媒体の他の例として、SDカード等の各種記録メディアであってもよい。
<電子黒板のハードウェア構成>
続いて、図2を用いて、本実施形態の電子黒板のハードウェア構成を説明する。なお、図2は、電子黒板のハードウェア構成図である。
図2に示されているように、電子黒板2は、電子黒板2全体の動作を制御するCPU101、IPL等のCPU101の駆動に用いられるプログラムを記憶したROM102、CPU101のワークエリアとして使用されるRAM103、電子黒板2用のプログラム等の各種データを記憶するSSD204、通信ネットワーク9との通信を制御するネットワークコントローラ105、及び、USBメモリ5との通信を制御する外部記憶コントローラ106を備えている。
また、電子黒板2は、ノートPC6がディスプレイに表示している静止画または動画を取り込むキャプチャデバイス111、グラフィクスを専門に扱うGPU(Graphics Processing Unit)112、及び、GPUからの出力画像をディスプレイ3やテレビ会議端末7へ出力するために画面表示の制御及び管理を行うディスプレイコントローラ113を備えている。
更に、電子黒板2は、接触センサ115の処理を制御するセンサコントローラ114、ディスプレイ3上に電子ペン4やユーザの手H等が接触したことを検知する接触センサ115を備えている。この接触センサ115は、赤外線遮断方式による座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法は、ディスプレイ3の上側両端部に設置された2つ受発光装置(不図示)が、ディスプレイ3に平行して複数の赤外線を放射し、ディスプレイ3の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻ってくる光を受光する方法である。接触センサ115は、物体によって遮断された2つの受発光装置が放射した赤外線のID(Identification)をセンサコントローラ114に出力し、センサコントローラ114が、物体の接触位置である座標位置を特定する。なお、以下に示す全てのIDは、識別情報の一例である。
また、接触センサ115としては、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いてもよい。
また、電子黒板2は、電子ペンコントローラ116を備えている。この電子ペンコントローラ116は、電子ペン4と通信することで、ディスプレイ3へのペン先のタッチやペン尻のタッチの有無を判断する。なお、電子ペンコントローラ116が、電子ペン4のペン先及びペン尻だけでなく、電子ペン4のユーザが握る部分や、その他の電子ペンの部分のタッチの有無を判断するようにしてもよい。
更に、電子黒板2は、CPU101、ROM102、RAM103、SSD104、ネットワークコントローラ105、外部記憶コントローラ106、キャプチャデバイス111、GPU112、及びセンサコントローラ114、及び、電子ペンコントローラ116を図2に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン120を備えている。
なお、電子黒板2用のプログラムは、CD−ROM等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
<電子黒板の機能構成>
続いて、図3乃至図16を用いて、電子黒板の機能構成について説明する。なお、先ずは、図3を用いて、電子黒板2の全体的な機能構成について説明する。図3は、電子黒板の機能ブロック図である。
電子黒板2は、図2に示されているハードウェア構成及びプログラムによって、図3にされている各機能構成を有する。電子黒板2は、最初に遠隔共有処理を開始する「主催装置」となり得ると共に、すでに開始されている遠隔共有処理に後から参加する「参加装置」にもなり得る。電子黒板2は、主要な機能として、クライアント機20及びサーバ機90を有している。即ち、電子黒板2の1台の筐体内に、クライアント機20及びサーバ機90が含まれている。クライアント機20及びサーバ機90は、電子黒板2の1台の筐体内で実現される機能である。そして、電子黒板2が主催装置となる場合には、この電子黒板2では、クライアント機20とサーバ機90が実現される。また、電子黒板2が参加装置となる場合には、この電子黒板2では、クライアント機20は実現されるが、サーバ機90は実現されない。即ち、図1において、電子黒板2aが主催装置で、電子黒板2bが参加装置となる場合、電子黒板2aのクライアント機20は、同じ電子黒板2a内に実現されたサーバ機90を介して、他の電子黒板2bのクライアント機20と通信を行う。一方、電子黒板2bのクライアント機20は、他の電子黒板2a内に実現されたサーバ機90を介して、他の電子黒板2aのクライアント機と通信を行う。
〔クライアント機20の機能構成〕
続いて、主に図3乃至図5を用いて、クライアント機20の機能構成について説明する。クライアント機20は、映像取得部21、座標検知部22、自動調整部23、接触検知部24、イベント振分部25、操作処理部26、ジェスチャ処理部27、映像重畳部28、指判別部29-1、指入力開始待機タイマー29-2、画像処理部30、及び通信制御部60を有する。
このうち、映像取得部21は、ケーブル10に接続されたノートPC6等の映像出力機器の出力映像を取得する。映像取得部21は、映像出力機器(ノートPC6等)から画像信号を受信すると、この画像信号を解析して、この画像信号によって形成される映像出力機器の表示画像である画像フレームの解像度や、この画像フレームの更新頻度などの画像情報を導出し、画像取得部31に出力する。
座標検知部22は、ディスプレイ3上でユーザによって生じたイベント(ディスプレイ3上にユーザの手Hがタッチされた動作等)の座標位置を検出する。また、座標検知部22は、タッチされた面積も検出する。
自動調整部23は、電子黒板2の起動時に起動され、接触センサ115が座標検知部22に適切な値を出力できるように、接触センサ115の光センサ方式におけるセンサーカメラの画像処理のパラメータを調整する。
接触検知部24は、ユーザによって生じたイベント(ディスプレイ3上に電子ペン4のペン先又は電子ペン4のペン尻が押下(タッチ)された動作等)を検出する。
イベント振分部25は、座標検知部22によって検知されたイベントの座標位置と接触検知部24によって検出された検出結果を、ストローク描画、UI操作、及びジェスチャ操作の各イベントに振り分ける。
ここで、「ストローク描画」は、ディスプレイ3上に図16に示されている後述のストローク画像(B)が表示されている場合に、ユーザがディスプレイ3上で電子ペン4を押下し、この押下した状態で電子ペン4を移動させ、最終的にディスプレイ3上から電子ペン4を離すまでのイベントである。このストローク描画により、例えば、アルファベット「S」や「T」等がディスプレイ3上に描画される。なお、この「ストローク描画」には、画像を描画するだけでなく、既に描画された画像を削除したり、描画された画像を編集したりするイベントも含まれる。
「UI操作」は、ディスプレイ3上に図16に示されている後述のUI画像(A)が表示されている場合に、ユーザが電子ペン4又は手Hによって所定の位置を押下したイベントである。このUI操作により、例えば、電子ペン4により描画される線の色や幅等が設定される。
「ジェスチャ操作」は、ディスプレイ3上に図16に示されている後述のストローク画像(B)が表示されている場合に、ユーザが手Hでディスプレイ3上をタッチしたり移動させたりするイベントである。このジェスチャ操作により、例えば、ユーザがディスプレイ3に手Hをタッチさせた状態で手Hを移動させることで、画像の拡大(若しくは縮小)、表示領域の変更、又は、ページ切り換え等を行うことができる。
操作処理部26は、イベント振分部25によってUI操作と判断されたものから、イベントが発生されたUIの要素に従って、各種操作を実行する。このUIの要素としては、例えば、ボタン、リスト、チェックボックス、テキストボックスが挙げられる。ジェスチャ処理部27は、イベント振分部25によってジェスチャ操作と判断されたイベントに対し、座標の履歴などからジェスチャの内容を判別しジェスチャイベントを発生させる。
指判別部29-1は、指によるスクリーンへの接触であることを判別する。座標検知部22は赤外線遮断方式と三角測量により座標を検知するので、電子ペン以外の指示具による接触を検知できる。このため、指判別部29-1により電子ペンの接触か、電子ペン以外の指示具による接触かを判別する。なお、電子ペン以外の指示具として指を例として説明するが、指でなくても赤外線の遮光は可能である。
指判別部29-1は指の判別のため、イベント振分部25から接触検知影像イベント、ペンダウンイベントを取得する。接触検知影像イベントは接触センサ115の検知エリア(スクリーンから数cm以下のスクリーンに平行なエリア)で遮光を検出したというイベントである。ペンダウンイベントは、接触検知部24が電子ペン4のペン先、又は、電子ペン4のペン尻のタッチを検知したというイベントである。また、指判別部29-1は、ジェスチャ処理部からジェスチャ中イベントを取得する。
指判別部29-1は接触検知影像イベント、ペンダウンイベント、及び、ジェスチャ中イベントの有無、並びに、影像イベントの影像の大きさに応じて、指入力開始待機タイマー29-2による時間の計測(カウント)を開始する。また、指判別部29-1は指入力開始待機タイマー29-2がカウントを開始すると、座標値を時系列に蓄積(キューイング)する。
指入力開始待機タイマー29-2が所定時間以上の時間をカウントすると、指判別部29-1は指で描画されていると判別して、マーカー処理部38にキューイングしていた座標を伝達する。マーカー処理部38は一連の座標をマーカー描画し、その後は取得した座標をマーカーの最後尾の座標としてマーカーの描画を継続する。
したがって、指判別部29-1が指であると判別するとマーカー処理部38が指示手段に対応する表示としてマーカーで描画し、電子ペンであると判別するとストローク処理部32が前記電子ペンに対応する表示としてストロークを描画し、指と電子ペンの表示手段への表示が区別されるようになっている。指判別部29-1が指であると判別することをマーカーイベントが検知されたと称する場合がある。
なお、本実施例では後述する遠隔コンテキストにマーカーイベントが含まれるため、指判別部29-1、指入力開始待機タイマー29-2、マーカー処理部38について説明したが、詳細は実施例2にて説明する。
映像重畳部28は、後述の表示重畳部36で重畳された画像を映像として映像出力器(ディスプレイ3)に対して表示する。また、映像重畳部28は、映像出力機器(ノートPC6等)からの映像に対して、他の映像出力機器(テレビ会議端末7等)から送られて来た映像をピクチャ・イン・ピクチャする。更に、映像重畳部28は、ピクチャ・イン・ピクチャされてディスプレイ3の一部に表示された映像を、ディスプレイ3の全体に表示させるための切り替えを行う。
画像処理部30は、各画像レイヤの重畳処理等を行う。具体的な重畳例について適宜図16を用いて説明する。画像処理部30は、画像取得部31、ストローク処理部32、UI画像生成部33、背景生成部34、レイアウト管理部35、マーカー処理部38、コンテキスト処理部39、表示重畳部36、ページ処理部37、ファイル処理部40、ページデータ記憶部300、及び遠隔ライセンス管理テーブル310を有している。
このうち、画像取得部31は、映像取得部21で取得された映像から、各フレームを画像として取得する。この画像は、図16に示されている映像出力機器(ノートPC6等)からの出力画像(C)に相当する。
ストローク処理部32は、イベント振分部25によって割り振られたストローク描画に係るイベントに基づいて、画像を描画したり、描画された画像を削除したり、描画された画像を編集する。このストローク描画による画像は、図16に示されているストローク画像(B)に相当する。また、このストローク等に基づいた画像の描画、削除、編集の各結果は、後述の操作データとして、操作データ記憶部840に記憶される。
UI画像生成部33は、電子黒板2に予め設定されているUI(ユーザインターフェース)画像を生成する。このUI画像は、図16に示されているUI画像(A)に相当する。
背景生成部34は、ページ処理部37がページデータ記憶部300から読み出したページデータのうちのメディアデータを、ページ処理部37から受信する。背景生成部34は、この受信したメディアデータを表示重畳部36に出力する。また、このメディアデータによる画像は、図16に示されている背景画像(D)に相当する。背景画像(D)のパターンは、無地、グリッド表示等である。
レイアウト管理部35は、表示重畳部36に対して、画像取得部31、ストローク処理部32、及び、UI画像生成部33(又は背景生成部34)から出力された各画像のレイアウトを示すレイアウト情報を管理している。これにより、レイアウト管理部35は、表示重畳部36に対して、出力画像(C)及びストローク画像(B)を、UI画像(A)及び背景画像(D)中のどの位置に表示させるか又は非表示にさせるかを指示することができる。
コンテキスト処理部39は、マーカーイベント、ジェスチャイベント、ページ作成・消去イベント、ファイル読み込みイベントを、通信制御部60の遠隔コンテキスト送信部68を介してサーバ機90に送信する。また、コンテキスト処理部39は、通信制御部60の遠隔コンテキスト受信部67から、マーカーイベント、ジェスチャイベント、ページ作成・消去イベント、ファイル読み込みイベントを取得する。また、通信制御部60の参加拠点管理テーブル610から、他拠点参加イベント、他拠点退出イベントを取得する。コンテキスト処理部39は、取得したイベントと拠点に応じて拠点画像を生成し、ディスプレイ3に表示する。なお、ページ作成・消去イベントはユーザがUI画像に対しページ作成又は消去の操作を行うことで発生する。ファイル読み込みイベントはファイル入力部42aがファイルを読み込むことで発生する。他拠点参加イベントは、参加拠点管理テーブル610に新しく拠点が登録されることで発生する。他拠点退出イベントは参加拠点管理テーブル610から拠点が削除されることで発生する。
表示重畳部36は、レイアウト管理部35から出力されたレイアウト情報に基づき、画像取得部31、ストローク処理部32、UI画像生成部33(背景生成部34)、マーカー処理部38、及び背景生成部34から出力された各画像のレイアウトを行う。
ページ処理部37は、ストローク画像(B)のデータと出力画像(C)のデータを、1つのページデータにまとめてページデータ記憶部300に記憶する。ストローク画像(B)のデータは、図6に示されているストローク配列データIDで示されるストローク配列データ(各ストロークデータ)として、ページデータの一部を成す。出力画像(C)のデータは、図6に示されているメディアデータIDで示されているメディアデータとして、ページデータの一部を成す。そして、このメディアデータは、ページデータ記憶部300から読み出されると、背景画像(D)のデータとして取り扱われる。
また、ページ処理部37は、一旦記憶されたページデータのうちのメディアデータを、背景生成部34を介して表示重畳部36に送信することで、映像重畳部28が背景画像(D)をディスプレイ3に再表示させることができる。また、ページ処理部37は、ページデータのうちのストローク配列データ(各ストロークデータ)を、ストローク処理部32に戻すことで、ストロークの再編集ができる状態にすることができる。更に、ページ処理部37は、ページデータを削除したり複製したりすることもできる。
即ち、ページ処理部37がページデータ記憶部300にページデータを記憶する時点でディスプレイ3上に表示されている出力画像(C)のデータは、一旦、ページデータ記憶部300に記憶され、その後にページデータ記憶部300から読み出される際には、背景画像(D)を示すメディアデータとして読みされる。そして、ページ処理部37は、ページデータ記憶部300から読み出したページデータのうち、ストローク画像(B)を示すストローク配列データを、ストローク処理部32に出力する。また、ページ処理部37は、ページデータ記憶部300から読み出したページデータのうち、背景画像(D)を示すメディアデータを、背景生成部34に出力する。
表示重畳部36は、画像取得部31からの出力画像(C)、ストローク処理部32からのストローク画像(B)、UI画像生成部33からのUI画像(A)、及び、背景生成部34からの背景画像(D)を、レイアウト管理部35によって指定されたレイアウトに従って重畳する。これにより、図16に示されているように、各画像が重なってもユーザが見える順に、UI画像(A)、ストローク画像(B)、出力画像(C)、及び背景画像(D)の各レイアの構成となっている。
また、表示重畳部36は、図16に示されている画像(C)と画像(D)を切り替えて画像(A)及び画像(B)に対して排他的に重畳することも可能である。例えば、当初、画像(A)、画像(B)及び画像(C)が表示されている状態で、電子黒板2と映像出力機器(ノートPC6等)との間のケーブル10が抜かれた場合には、レイアウト管理部35の指定によって、描画(C)を重畳対象から外し、画像(D)を表示させることができる。また、表示重畳部36は、表示の拡大、表示の縮小、表示領域の移動処理も行う。
ページデータ記憶部300は、図6に示されているようなページデータを記憶する。図6は、ページデータを示す概念図である。ページデータは、ディスプレイ3に表示される1ページ分のデータ(ストローク配列データ(各ストロークデータ)及びメディアデータ)である。なお、ページデータに含まれるパラメータの種類が多いため、ここでは、図6乃至9に分けて、ページデータの内容を説明する。
ページデータは、図6に示されているように、任意の1ページを識別するためのページデータID、このページの表示を開始した時刻を示す開示時刻、ストロークやジェスチャ等によるページの内容の書き換えが行われなくなった時刻を示す終了時刻、電子ペン4やユーザの手Hによるストロークによって生じたストローク配列データを識別するためのストローク配列データID、及びメディアデータを識別するためのメディアデータIDが関連付けて記憶されている。ストローク配列データは、後述の図16に示されているストローク画像(B)がディスプレイ3上に表示されるためのデータである。メディアデータは、後述の16に示されている背景画像(D)がディスプレイ3上に表示されるためのデータである。
このようなページデータにより、例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合は一筆書きとなるため、ストロークデータIDが1つで一文字のアルファベット[S]が示される。ところが、ユーザが電子ペン4によって、アルファベット「T」を描く場合、二筆書きとなるため、ストロークデータIDが2つで一文字のアルファベット「T」が示されることになる。
また、ストローク配列データは、図7に示されているように詳細な情報を示している。図7は、ストローク配列データを示す概念図である。図7に示されているように、1つのストローク配列データは、複数のストロークデータによって表される。そして、1つのストロークデータは、このストロークデータを識別するためのストロークデータID、1つのストロークの書き始めの時刻を示す開始時刻、1つのストロークの書き終わりの時刻を示す終了時刻、ストロークの色、ストロークの幅、及び、ストロークの通過点の配列を識別するための座標配列データIDを示している。
更に、この座標配列データは、図8に示されているように詳細な情報を示している。図8は、座標配列データを示す概念図である。図8に示されているように、座標配列データは、ディスプレイ3上の1点(X座標値、Y座標値)、この1点を通過した時のストロークの開示時刻からの差分の時刻(ms)、及び、この1点における電子ペン4の筆圧の各情報を示している。
即ち、図8に示されている1点の集まりが、図7に示されている1つの座標配列データで示されている。例えば、ユーザが電子ペン4によって、アルファベット「S」を描く場合、一筆書きとなるが、「S」を描き終えるまでに、複数の通過点を通過するため、座標配列データは、これら複数の通過点の情報を示している。
また、図6に示されているページデータのうちのメディアデータは、図9に示されているように詳細な情報を示している。図9は、メディアデータを示す概念図である。図9に示されているように、メディアデータは、図6に示されているページデータにおけるメディアデータID、メディアデータのデータ種類、ページ処理部37からページデータ記憶部300にページデータが記憶された記録時刻、ページデータによってディスプレイ3上に表示される画像の位置(X座標値、Y座標値)及び画像のサイズ(幅、高さ)、並びにメディアデータの内容を示すデータが関連付けられて示されている。このうち、ページデータによってディスプレイ3上に表示される画像の位置は、ディスプレイ3の左上端の座標を(X座標値,Y座標値)=(0,0)とした場合に、ページデータによって表示される画像の左上端の位置を示している。
図3に戻り、遠隔ライセンス管理テーブル310は、遠隔共有処理を実行するために必要なライセンスデータを管理する。この遠隔ライセンス管理テーブル310では、図10に示されているように、電子黒板2のプロダクトID、認証に用いられるライセンスID、及びライセンスの有効期限が関連付けて管理されている。
(ファイル処理部40の機能構成)
続いて、図4を用いて、図3に示されているファイル処理部40の機能構成を説明する。なお、図4は、ファイル処理部の機能ブロック図である。以下では、最初に遠隔共有処理を開始する電子黒板2を「主催装置」、既に開始されている遠隔共有処理に後から参加する電子黒板2を「参加装置」と称して説明する。
ファイル処理部40は、リカバリ処理部41、ファイル入力部42a、ファイル出力部42b、ファイル変換部43、ファイル送信部44、アドレス帳入力部45、バックアップ処理部46、バックアップ出力部47、設定管理部48、設定ファイル入力部49a、及び設定ファイル出力部49bを有している。更に、ファイル処理部40は、アドレス帳管理テーブル410、バックアップデータ記憶部420、設定ファイル記憶部430、及び接続先管理テーブル440を有している。
このうち、リカバリ処理部41は、電子黒板2が異常終了した後に、異常終了を検知し、未保存のページデータを復旧する。例えば、正常終了の場合は、ページデータがPDFファイルとしてファイル処理部40を介してUSB5に記録されるが、電源がダウンした等の異常終了の場合は、ページデータがページデータ記憶部300に記録されたままになっている。そのため、再び、電源オンになった際に、リカバリ処理部41は、ページデータ記憶部300からページデータを読み出すことで復旧させる。
ファイル入力部42aは、USBメモリ5から、PDFファイルを読み込み、各ページをページデータとしてページデータ記憶部300に記憶する。
ファイル変換部43は、ページデータ記憶部300に記憶されているページデータを、PDF形式のファイルに変換する。
ファイル出力部42bは、ファイル変換部43によって出力されたPDFファイルをUSBメモリ5に記録する。
ファイル送信部44は、ファイル変換部43によって生成されたPDFファイルを、電子メールに添付して送信する。このファイルの送信先は、表示重畳部36によってディスプレイ3上にアドレス帳管理テーブル410の内容を表示し、ファイル送信部44がユーザによるタッチパネル等の入力装置の操作により、宛先の選択を受け付けることによって決定される。アドレス帳管理テーブル410には、図11に示されているように、宛先の名前及び宛先の電子メールのメールアドレスが関連付けて管理されている。また、ファイル送信部44が、ユーザによるタッチパネル等の入力装置の操作により、宛先としてのメールアドレスの入力を受け付けることもできる。
アドレス帳入力部45は、USBメモリ5から電子メールアドレスの一覧ファイルを読み込み、アドレス帳管理テーブル410に管理する。
バックアップ処理部46は、ファイル出力部42bによって出力されたファイルや、ファイル送信部44によって送信されたファイルを、バックアップデータ記憶部420に記憶することでバックアップする。なお、ユーザがバックアップ設定しない場合は、バックアップの処理は行われない。バックアップデータは、図12に示されているように、PDF形式で記憶される。
バックアップ出力部47は、バックアップされたファイルをUSBメモリ5に記憶する。この記憶の際には、ユーザによるタッチパネル等の入力装置の操作により、セキュリティーのためにパスワードが入力される。
設定管理部48は、電子黒板2の各種設定情報を設定ファイル記憶部430に記憶したり読み出したりして管理する。この各種設定情報としては、例えば、ネットワーク設定、日付や時刻の設定、地域や言語の設定、メールサーバの設定、アドレス帳の設定、接続先リストの設定、バックアップに関する設定が挙げられる。なお、ネットワーク設定は、例えば、電子黒板2のIPアドレスの設定、ネットマスクの設定、デフォルトゲートウェイの設定、又はDNS(Domain Name System)の設定等である。
設定ファイル出力部49bは、電子黒板2の各種設定情報を、設定ファイルとしてUSBメモリ5に記録させる。なお、設定ファイルはセキュリティーによって、ユーザは中身を見ることができない。
設定ファイル入力部49aは、USBメモリ5に記憶されている設定ファイルを読み込み、各種設定情報を電子黒板の各種設定に反映させる。
アドレス帳入力部50は、USBメモリ5から遠隔共有処理の接続先IPアドレスの一覧ファイルを読み込み、接続先管理テーブル440に管理する。なお、図13(a)に示されているように、接続先管理テーブル440は、電子黒板2が遠隔共有処理に参加しようとする参加装置である場合、この参加装置のユーザが主催装置としての役割を果たす電子黒板のIPアドレスを入力する手間を削減するために、予め管理しておくためのテーブルである。この接続先管理テーブル440では、参加されることが可能な主催装置としての電子黒板2が設置されている拠点の拠点名、主催装置としての電子黒板2のIPアドレス、及び、接続状態が関連付けて管理されている。この接続状態は、特許請求の範囲の「通信状態情報」の一例である。また、接続先管理テーブル440は特許請求の範囲の「状態記憶手段」の一例である。
図13(b)は接続状態の意味を説明する図の一例である。接続状態には、例えば、オフライン、オンライン、開催中、開催中、開催中(互換)、開催中(バージョン違い)の5種類がある。接続状態は、主催装置との通信の可否、会議の開催状態、参加可否の組み合わせで判断される。通信可否が「不能」であれば、開催状態も「不明」、参加可否も「不明」となるためオフラインと判断される。オンラインは、通信可否が「可能」だが、開催状態が「開催していない」ため参加可否が「不明」な状態である。通信可否が「可能」であり、開催状態も「開催している」、参加可否も「参加可能」であれば、開催中と判断される。なお、「開催している」とは、主催装置のユーザが所定の操作を行い、参加装置がページデータなどを共有可能な状態である。
「開催中(互換)」は主催装置と参加装置のソフトウェアのバージョンが違うが、互換モードで参加が可能であるという状態である。互換モードではバージョンが古い方のソフトウェアの機能しか使用できない。
「開催中(バージョン違い)」は主催装置と参加装置のソフトウェアのバージョンが違うため、参加ができない状態である。この接続状態は、例えばバージョンが大きく異なるために参加できない状態である。
但し、この場合には、参加装置のユーザは、主催装置との間で遠隔要求処理の開始するために、タッチパネル等の入力装置によって、主催装置のIPアドレスを入力する必要がある。そのため、参加装置のユーザは、電話や電子メール等によって、主催装置のユーザから、主催装置のIPアドレスを知得する。
参加拠点管理テーブル450は、電子黒板が主催装置である場合、現在、遠隔共有処理に参加している参加装置としての電子黒板を管理するテーブルである。この参加拠点管理テーブル450では、図14に示されているように、参加中の電子黒板2が設置されている拠点の名称及び当該電子黒板2のIPアドレスと拠点色が関連付けて管理されている。参加装置が複数の場合は、複数のIPアドレスが登録される。
拠点色は、例えば会議への参加順で色が決まる。たとえば、拠点色は開催拠点(1番目)をマゼンタ、以降、2番目をシアン、3番目をオレンジ、4番目をグリーンとする。また、仮に、2番目の拠点が退出した場合、2番目以降の拠点の順序は繰り上がり、3番目の拠点がシアン、4番目の拠点がオレンジとなる。
また、参加拠点管理テーブルは、参加装置の参加時と退出時、遠隔接続処理部81が遠隔接続結果送信部72を介してクライアント機に送信する。クライアント機の遠隔開始処理部61又は遠隔参加処理部62は参加拠点管理テーブルを受信する。クライアント機の接続先管理テーブルで管理している拠点のうち、受信した参加拠点管理テーブルの拠点のIPアドレスが一致するもので、接続先管理テーブルに名称が設定されていない場合、参加拠点管理テーブルの該当拠点の名称が、接続先管理テーブルに登録される。
(通信制御部60の機能構成)
次に、図5を用いて、通信制御部60の機能構成について説明する。図5は、通信制御部60の機能ブロック図である。通信制御部60は、通信ネットワーク9を介して、他の電子黒板2と行う通信や、サーバ機90における後述の通信制御部70と行う通信を制御する。そのため、通信制御部60は、遠隔開始処理部61、遠隔参加処理部62、遠隔画像送信部63、遠隔画像受信部64、遠隔操作送信部65、遠隔操作受信部66、遠隔コンテキスト送信部68、遠隔コンテキスト受信部67、及び参加拠点管理テーブル610を有している。
このうち、遠隔開始処理部61は、同じ電子黒板2のサーバ機90に対して、新たに遠隔共有処理を開始する要求を行い、サーバ機90から要求の結果を受信する。この場合、遠隔開始処理部61は、遠隔ライセンス管理テーブル310を参照し、ライセンス情報(プロダクトID、ライセンスID、及び有効期限)が管理されている場合には、遠隔共有処理を開始する要求を行うことができる。但し、ライセンス情報が管理されていない場合には遠隔共有処理を開始する要求を行うことができない。
参加拠点管理テーブル610は、電子黒板が主催装置である場合、現在、遠隔共有処理に参加している参加装置としての電子黒板を管理するテーブルである。この参加拠点管理テーブル610では、図14に示されているように、参加中の電子黒板2が設置されている拠点の名称及び当該電子黒板2のIPアドレスが関連付けて管理されている。
遠隔参加処理部62は、通信ネットワーク9を介して、既に遠隔共有処理を開始している主催装置としての電子黒板2のサーバ機90における遠隔接続要求受信部71に対して、遠隔共有処理への参加要求を行う。この場合も、遠隔参加処理部62は、遠隔ライセンス管理テーブル310を参照する。また、遠隔参加処理部62が、既に開始されている遠隔共有処理に参加する場合には、接続先管理テーブル440を参照して、参加先の電子黒板2のIPアドレスを取得する。なお、遠隔参加処理部62によって接続先管理テーブルが参照されず、ユーザによるタッチパネル等の入力装置の操作により参加先の電子黒板2のIPアドレスが入力されてもよい。
遠隔画像送信部63は、映像取得部21から画像取得部31を介して送られて来た出力画像(C)を、サーバ機90に送信する。
遠隔画像受信部64は、サーバ機90から、他の電子黒板2に接続された映像出力機器からの画像データを受信し、表示重畳部36に出力することで、遠隔共有処理を可能にする。
遠隔操作送信部65は、遠隔共有処理に必要な各種操作データをサーバ機90に送信する。この各種操作データとしては、例えば、ストロークの追加、ストロークの削除、ストロークの編集(拡大、縮小、移動)、ページデータの記憶、ページデータの作成、ページデータの複製、ページデータの削除、表示されているページの切り替え等に関するデータが挙げられる。また、遠隔操作受信部66は、サーバ機90から、他の電子黒板2で入力された操作データを受信し、画像処理部30に出力することで、遠隔共有処理を行う。
遠隔コンテキスト送信部68はコンテキスト処理部39からマーカーイベント、ジェスチャイベント、ページ作成・消去イベント、ファイル読み込みイベントを取得し、遠隔コンテキストとしてサーバ機90に送信する。
遠隔コンテキスト受信部67はサーバ機90から他の電子黒板で生じた上記イベント情報を取得し、画像処理部30のコンテキスト処理部39が拠点画像を表示する。
〔サーバ機の機能構成〕
続いて、図5を用いて、サーバ機90の機能構成について説明する。サーバ機90は、各電子黒板2に設けられており、いずれの電子黒板2であっても、サーバ機としての役割を果たすことができる。そのため、サーバ機90は、通信制御部70、及びデータ管理部80を有している。
(通信制御部70の機能構成)
次に、図5を用いて、通信制御部70の機能構成について説明する。
通信制御部70は、同じ電子黒板2内のクライアント機20における通信制御部60、及び、通信ネットワーク9を介して他の電子黒板2内のクライアント機20における通信制御部70との通信を制御する。データ管理部80は、操作データや画像データ等を管理する。
更に詳細に説明すると、通信制御部70は、遠隔接続要求受信部71、遠隔接続結果送信部72、遠隔画像受信部73、遠隔画像送信部74、遠隔操作受信部75、遠隔操作送信部76、遠隔コンテキスト受信部78、及び、遠隔コンテキスト送信部77、を有している。
このうち、遠隔接続要求受信部71は、遠隔開始処理部61からの遠隔共有処理の開始要求を受信したり、遠隔参加処理部62からの遠隔共有処理に対する参加要求を受信したりする。遠隔接続結果送信部72は、遠隔開始処理部61へ遠隔共有処理の開始要求の結果を送信したり、遠隔参加処理部62へ遠隔共有処理に対する参加要求の結果を送信したりする。
遠隔画像受信部73は、遠隔画像送信部63からの画像データ(出力画像(C)のデータ)を受信し、後述の遠隔画像処理部82に送信する。遠隔画像送信部74は、遠隔画像処理部82から画像データを受信し、遠隔画像受信部64に対して、この画像データを送信する。
遠隔操作受信部75は、遠隔操作送信部65からの操作データ(ストローク画像(B)等のデータ)を受信し、後述の遠隔操作処理部83に送信する。遠隔操作送信部76は、遠隔操作処理部83から操作データを受信し、遠隔操作受信部66に対して、この操作データを送信する。
遠隔コンテキスト受信部78はクライアント機から遠隔コンテキストを受信し、遠隔操作処理部83に出力する。遠隔操作処理部83は自拠点の識別情報(例えばIPアドレス)を追加し、遠隔コンテキスト送信部77に出力する。遠隔コンテキスト送信部77が各クライアント機に遠隔コンテキストと自拠点の識別情報を送信する。
(データ管理部の機能構成)
次に、図5を用いて、データ管理部80の機能構成について説明する。データ管理部80は、遠隔接続処理部81、遠隔画像処理部82、遠隔操作処理部83、操作合成処理部84、及びページ処理部85を有している。更に、サーバ機90は、パスコード管理部810、参加拠点管理テーブル820、画像データ管理部830、操作データ記憶部840及び、ページデータ記憶部850、を有している。
このうち、遠隔接続処理部81は、遠隔共有処理の開始、及び遠隔共有処理の終了を行う。また、遠隔接続処理部81は、遠隔接続要求受信部71が、遠隔開始処理部61から遠隔共有処理の開始要求と共に受信したライセンス情報、又は、遠隔参加処理部62から遠隔共有処理の参加要求と共に受信したライセンス情報に基づいて、ライセンスの有無やライセンスの期間内であるかを確認する。更に、遠隔接続処理部81は、クライアント機としての他の電子黒板2からの参加要求が予め定められた参加可能数を超えていないかを確認する。
更に、遠隔接続処理部81は、他の電子黒板2から遠隔共有処理に対する参加要求があった際に送られて来たパスコードが、パスコード管理部810で管理されているパスコードと同じであるか否かを判断し、同じである場合には、遠隔共有処理の参加を許可する。なお、このパスコードは、新たに遠隔共有処理を開始する際に、遠隔接続処理部81によって発行され、遠隔共有処理に参加しようとする参加装置としての電子黒板2のユーザが、主催装置としての電子黒板2のユーザから、電話や電子メール等により伝えられる。これにより、遠隔共有処理に参加しようとする参加装置としての電子黒板2のユーザが、この電子黒板2にパスコードを入力して参加要求することで、参加が許可されることになる。なお、セキュリティーよりもユーザの使い勝手を優先して、ライセンス状況の確認だけで、パスコードの確認を省略してもよい。
また、遠隔接続処理部81は、参加装置としての電子黒板2の遠隔参加処理部62から通信ネットワーク9を介して送られて来た参加要求に含まれる参加拠点情報を、サーバ機90の参加拠点管理テーブル820に記憶する。そして、遠隔接続処理部81は、参加拠点管理テーブル820に記憶されている遠隔拠点情報を読み出し、遠隔接続結果送信部72に送信する。遠隔接続結果送信部72は、同じ主催装置のクライアント機20における遠隔開始処理部61に遠隔拠点情報を送信する。遠隔開始処理部61は、参加拠点管理テーブルに610に、遠隔拠点情報を記憶する。これにより、主催装置では、クライアント機20及びサーバ機90の両方で、遠隔拠点情報を管理することになる。
遠隔画像処理部82は、遠隔共有処理中の各電子黒板2のクライアント機(主催装置である自己の電子黒板のクライアント機を含む)に接続された映像出力機器(ノートPC6等)からの画像データ(出力画像(C))を受信して画像データ管理部830に記憶すると共に、主催装置である自己の電子黒板2のサーバ機90に届いた時間順で遠隔共有処理すべき画像データの表示順を判定する。また、遠隔画像処理部82は、参加拠点管理テーブル820を参照し、遠隔共有処理に参加中の全ての電子黒板2のクライアント機20(主催装置である自己の電子黒板のクライアント機を含む)に、通信制御部70(遠隔画像送信部74)を介して、上記判定した順番で画像データを送信する。
遠隔操作処理部83は、遠隔共有処理中の各電子黒板2のクライアント機(主催装置である自己の電子黒板のクライアント機を含む)で描画されたストローク画像等の各種操作データ(ストローク画像(B)等)を受信し、主催装置である自己の電子黒板2のサーバ機90に届いた時間順で遠隔共有処理すべき画像の表示順を判定する。なお、各種操作データは、上述の各種操作データと同じである。また、遠隔操作処理部83は、参加拠点管理テーブル820を参照し、遠隔共有処理中の全ての電子黒板2のクライアント機20(主催装置である自己の電子黒板のクライアント機を含む)に操作データを送信する。
操作合成処理部84は、遠隔操作処理部83から出力された各電子黒板2の操作データを合成し、この合成結果としての操作データを、操作データ記憶部840に記憶するとともに遠隔操作処理部83に戻す。この操作データは、遠隔操作送信部76から、主催装置である電子黒板のクライアント機、及び参加装置である電子黒板のクライアント機のそれぞれに送信されることで、各電子黒板2で同じ操作データに係る画像が表示される。そのために、操作データは、図15に示されているように、SEQ(Sequence)、操作データの操作名、操作データの送信元である電子黒板2のIPアドレス及びクライアント機(サーバ機)のPort No.、操作データの送信先である電子黒板2のIPアドレス及びクライアント機(サーバ機)のPort No,、操作データの操作種類、操作データの操作対象、並びに操作データの内容を示すデータが関連付けられて示されている。例えば、SEQ1では、主催装置である電子黒板(IPアドレス:192.0.0.1)のクライアント機(Port No.:50001)でストロークが描画されると、同じ主催装置である電子黒板(IPアドレス:192.0.0.1)のサーバ機(Port No.:50000)に操作データが送られたことが示されている。この場合の操作種類は「STROKE」、操作対象はページデータID「p005」、及び、操作データの内容を示すデータはストロークを示すデータである。また、SEQ2では、主催装置である電子黒板(IPアドレス:192.0.0.1)のサーバ機(Port No.:50000)から、参加装置である他の電子黒板(IPアドレス:192.0.0.1)のクライアント機(Port No.:50001)に、操作データが送られたことが示されている。
なお、操作合成処理部84は、この操作合成処理部84に操作データが入力された順に合成を行うため、通信ネットワーク9が混雑していなければ、各電子黒板2のユーザによるストローク順に、遠隔共有処理中の全ての電子黒板2のディスプレイ3にストローク画像(B)が表示される。
ページ処理部85は、クライアント機20の画像処理部30におけるページ処理部37と同様の機能を有し、サーバ機90でも、図6乃至図8に示されているページデータを、ページデータ記憶部850に記憶する。なお、ページデータ記憶部850は、画像処理部30におけるページデータ記憶部300と同じ内容であるため、その説明を省略する。
<実施形態の処理又は動作>
続いて、図17及び図18を用いて、本実施形態の処理又は動作について説明する。なお、図17及び図18は、各電子黒板の処理を示したシーケンス図である。
図17及び図18に示す実施形態では、電子黒板2aが遠隔共有処理を主催する主催装置(サーバ機及びクライアント機)としての役割を果たしており、電子黒板2b,2cが遠隔共有処理に参加する参加装置(クライアント機)としての役割を果たす場合について説明する。また、ここでは、電子黒板2a,2b,2cには、それぞれディスプレイ3a,3b,3cが接続され、更に、それぞれノートPC6a,6b,6cが接続されている。また、電子黒板2a,2b,2cでは、それぞれ電子ペン4a,4b,4cが使用される。
まずは、電子黒板2b,2cが遠隔共有処理に参加するための処理について説明する。 ユーザが電子黒板2aの電源スイッチをオンにすると、電子黒板2aのクライアント機20が起動する。そして、ユーザがタッチパネル等の入力装置によってサーバ機90を起動させる操作をすると、クライアント機20の遠隔開始処理部61から同じ電子黒板2aのサーバ機90における遠隔接続要求受信部71に、サーバ機90の処理を開始させる指示を出力する。これにより、電子黒板2aでは、クライアント機20だけでなくサーバ機90も各種処理を開始可能となる(ステップS21)。
次に、電子黒板2aのクライアント機20におけるUI画像生成部33が電子黒板2aとの接続を確立するための接続情報を生成し、映像重畳部28が、UI画像生成部33から表示重畳部36を介して得た接続情報をディスプレイ3aに表示させる(ステップS22)。この接続情報には、主催装置のIPアドレス、及び今回の遠隔共有処理のために生成されたパスコードが含まれている。この場合、パスコード管理部810に記憶されているパスコードは、図5に示されている遠隔接続処理部81によって読み出され、遠隔接続結果送信部72、遠隔開始処理部61の順に送信される。更に、パスコードは、遠隔開始処理部61を含む通信制御部60から、図3に示されている画像処理部30に送信され、最終的にUI画像生成部33に入力される。これにより、接続情報には、パスコードが含まれる。そして、接続情報は、電子黒板2aのユーザによって、電話や電子メールにより、電子黒板2b,2cのユーザに伝えられる。
なお、接続先管理テーブル440があれば、接続情報には、主催装置のIPアドレスが含まれていなくても、参加装置は参加要求を行うことができる。参加装置のUI画像生成部33が表示する参加のための画面例を図19に示す。
次に、電子黒板2b,2cでは、各ユーザによるタッチパネル等の入力装置の操作によって接続情報の入力を受け付けると、各電子黒板2a,2bのクライアント機20における遠隔参加処理部62が、接続情報のIPアドレスに基づき、通信ネットワーク9を介して、電子黒板2aのサーバ機90における遠隔接続要求受信部71に対してパスコードを送信して参加要求を行う(ステップS23,S24)。これにより、通信制御部70の遠隔接続要求受信部71は、各電子黒板2b,2cから、参加要求(パスコードを含む)を受信し、このパスコードを遠隔接続処理部81に出力する。
次に、遠隔接続処理部81は、電子黒板2b,2cの各クライアント機20から受信したパスコードに対し、パスコード管理部810で管理されているパスコードを用いて認証する(ステップS25)。そして、遠隔接続結果送信部72が、各電子黒板2b,2cのクライアント機20に認証結果を通知する(SステップS26,S27)。ステップS25の認証により、正当な電子黒板であると判断されていた場合には、主催装置である電子黒板2aと、参加装置である電子黒板2b,2cとの遠隔共有処理の通信が確立され、各電子黒板2b,2cのクライアント機20における遠隔参加処理部62が、それぞれ他の電子黒板との間の遠隔共有処理の開始を可能にする(ステップS28,S29)。
(出力画像の表示)
続いて、図17を用いて、遠隔共有処理における画像データの処理について説明する。
まず、電子黒板2bは、ディスプレイ3bに出力画像(C)を表示する(ステップS30)。具体的には、電子黒板2bの画像取得部31が、ノートPC6bから映像取得部21を介して、ノートPC6bで表示されている出力画像(C)のデータを受信し、表示重畳部36及び映像重畳部28を介してディスプレイ3bに送信することで、ディスプレイ3bは出力画像(C)を表示する。
次に、電子黒板2bの画像取得部31を含む画像処理部30が、遠隔画像送信部63に出力画像(C)のデータを送信することで、遠隔画像送信部63を含む通信制御部60が通信ネットワーク9を介して、主催装置である電子黒板2aの通信制御部70に出力画像(C)のデータを送信する(ステップS31)。これにより、電子黒板2aの遠隔画像受信部73は、出力画像(C)のデータを受信し、遠隔画像処理部82に出力することで、遠隔画像処理部82が画像データ管理部830に出力画像(C)のデータを記憶する。
次に、主催装置である電子黒板2aは、ディスプレイ3aに出力画像(C)を表示する(ステップS32)。具体的には、電子黒板2aの遠隔画像処理部82は、遠隔画像受信部73から受信した出力画像(C)のデータを、遠隔画像送信部74に出力する。遠隔画像送信部74は、同じ主催装置である電子黒板2aのクライアント機20における遠隔画像受信部64に、出力画像(C)のデータを出力する。遠隔画像受信部64は、表示重畳部36に出力画像(C)のデータを出力する。表示重畳部36は、映像重畳部28に出力画像(C)のデータを出力する。映像重畳部28はディスプレイ3aに出力画像(C)のデータを出力する。これにより、ディスプレイ3aは、出力画像(C)を表示する。
次に、主催装置としての電子黒板2aのサーバ機90における遠隔画像送信部74を含む通信制御部70は、通信ネットワーク9を介して、出力画像(C)のデータの送信元である電子黒板2b以外の電子黒板2cの通信制御部60に出力画像(C)のデータを送信する(ステップS33)。これにより、参加装置である電子黒板2cの遠隔画像受信部64は、出力画像(C)のデータを受信する。
次に、電子黒板2cは、ディスプレイ3cに出力画像(C)を表示する(ステップS34)。具体的には、電子黒板2cの遠隔画像受信部64が、上記ステップS33によって受信された出力画像(C)のデータを、電子黒板2cの表示重畳部36に出力する。表示重畳部36は、映像重畳部28に出力画像(C)のデータを出力する。映像重畳部28はディスプレイ3cに出力画像(C)のデータを出力する。これにより、ディスプレイ3cは、出力画像(C)を表示する。
なお、出力画像(C)のデータだけでなく、UI画像(A)、及びストローク画像(B)の各データが、表示重畳部36に入力されている場合には、表示重畳部36により、重畳画像(A,B,C)が生成され、映像重畳部28はディスプレイ3cに重畳画像(A,B,C)のデータを出力する。また、テレビ会議端末7から映像重畳部28に、テレビ会議用の映像(E)のデータが送られて来ている場合には、映像重畳部28は、重畳画像(A,B,C)にピクチャ・イン・ピクチャによりテレビ会議用の映像(E)のデータを重畳して、ディスプレイ3cに出力する。
(重畳画像の表示)
続いて、図18を用いて、遠隔共有処理における重畳画像が表示される処理について説明する。
まず、電子黒板2bは、ユーザが電子ペン4bを用いて電子黒板2bにストローク画像(B)を描画する(ステップS41)。
次に、電子黒板2bの表示重畳部36は、図16に示されているように、UI画像(A)、出力画像(C)、及び背景画像(D)に対して、ストローク画像(B)を重畳し、映像重畳部28が、電子黒板2bのディスプレイ3b上に、重畳された重畳画像(A,B,C,D)を表示させる(ステップS42)。具体的には、電子黒板2bのストローク処理部32が座標検知部22及び接触検知部24からイベント振分部25を介して、操作データとしてのストローク画像(B)のデータを受信し、表示重畳部36に送信する。これにより、表示重畳部36は、UI画像(A)、及び出力画像(C)に対して、ストローク画像(B)を重畳することができ、映像重畳部28が電子黒板2bのディスプレイ3b上に重畳画像(A,B,C)を表示させることができる。
次に、電子黒板2bのストローク処理部32を含む画像処理部30が、遠隔操作送信部65にストローク画像(B)のデータを送信することで、電子黒板2bの遠隔操作送信部65は、通信ネットワーク9を介して、主催装置である電子黒板2aの通信制御部70にストローク画像(B)のデータを送信する(ステップS43)。これにより、電子黒板2aの遠隔操作受信部75は、ストローク画像(B)のデータを受信し、遠隔操作処理部83に出力することで、遠隔操作処理部83が操作合成処理部84にストローク画像(B)のデータを出力する。このようにして、電子黒板2bで描画されたストローク画像(B)のデータは、描画される度に、主催装置である電子黒板2aの遠隔操作処理部83に順次送信される。このストローク画像(B)のデータは、図7に示されているストロークデータID毎に示されるデータである。よって、例えば、上述したように、ユーザが電子ペン4によってアルファベット「T」を描く場合は二筆書きとなるため、2つのストロークデータIDのそれぞれで示されるストローク画像(B)のデータが順次送信される。
次に、主催装置である電子黒板2aは、ディスプレイ3aに、電子黒板2bから送られて来たストローク画像(B)のデータが含まれた重畳画像(A,B,C)を表示する(ステップS44)。具体的には、電子黒板2aの操作合成処理部84は、遠隔操作処理部83を介して順次送られて来た複数のストローク画像(B)のデータを合成して、操作データ記憶部840に記憶するとともに遠隔操作処理部83に戻す。これにより、遠隔操作処理部83は、操作合成処理部84から受信した、合成後のストローク画像(B)のデータを、遠隔操作送信部76に出力する。遠隔操作送信部76は、同じ主催装置である電子黒板2aのクライアント機20における遠隔操作受信部66に、合成後のストローク画像(B)のデータを出力する。遠隔操作受信部66は、画像処理部30における表示重畳部36に、合成後のストローク画像(B)のデータを出力する。よって、表示重畳部36は、UI画像(A)、及び出力画像(C)に対して、合成後のストローク画像(B)を重畳する。最後に、映像重畳部28が、表示重畳部36によって重畳された重畳画像(A,B,C)をディスプレイ3a上に表示させる。
次に、主催装置としての電子黒板2aのサーバ機90における遠隔操作送信部76を含む通信制御部70は、通信ネットワーク9を介して、ストローク画像(B)のデータの送信元である電子黒板2b以外の電子黒板2cの通信制御部60に、合成後のストローク画像(B)のデータを送信する(ステップS45)。これにより、参加装置である電子黒板2cの遠隔操作受信部66は、合成後のストローク画像(B)のデータを受信する。
次に、電子黒板2cは、ディスプレイ3cに重畳画像(A,B,C)を表示する(ステップS34)。具体的には、電子黒板2cの遠隔操作受信部66が、上記ステップS45によって受信された合成後のストローク画像(B)のデータを、電子黒板2cの画像処理部30に出力する。画像処理部30の表示重畳部36は、UI画像(A)、及び出力画像(C)の各データと、合成後のストローク画像(B)のデータを重畳し、映像重畳部28に重畳画像(A,B,C)のデータを出力する。映像重畳部28は、ディスプレイ3cに重畳画像(A,B,C)のデータを出力する。これにより、ディスプレイ3cは、重畳画像(A,B,C)を表示する。
なお、上記処理では、ディスプレイ3上に出力画像(C)が表示されているが、この出力画像(C)に代えて、背景画像(D)を表示してもよい。また、出力画像(C)と背景画像(D)との排他的な関係をやめて、出力画像(C)と背景画像(D)との両方を同時にディスプレイ3上に表示させてもよい。
(参加の終了)
続いて、図18を用いて、参加装置が遠隔共有処理への参加を終了する処理について説明する。図18に示す実施形態では、電子黒板2cが参加を終了する処理が示されている。
まず、電子黒板2cでは、ユーザによるタッチパネル等の入力装置の操作によって参加の終了要求を受け付けると、遠隔参加処理部62は、主催装置としての電子黒板2aのサーバ機90における遠隔接続要求受信部71に対して、参加の終了要求を行う(ステップS47)。これにより、通信制御部70の遠隔接続要求受信部71は、電子黒板2cから、参加の終了要求を受信し、遠隔接続処理部81に、電子黒板2cのIPアドレスとともに参加の終了要求を出力する。そして、電子黒板2aの遠隔接続処理部81は、遠隔接続要求受信部71から送られて来たIPアドレスに基づいて、参加拠点管理テーブル820から、参加の終了要求を行った電子黒板2cのIPアドレス及び電子黒板2cが設置されている拠点の名称を削除し、遠隔接続結果送信部72に、電子黒板2cのIPアドレス及び削除した旨の通知を出力する。
次に、遠隔接続結果送信部72を含んだ通信制御部70が、通信ネットワーク9を介して、電子黒板2cのクライアント機20における通信制御部60に、参加の終了を指示する(ステップS48)。これにより、電子黒板2cにおける通信制御部60の遠隔参加処理部62が、遠隔共有処理の通信を切断することで、参加の終了処理を行うことで、参加が終了する(ステップS49)。
(参加のための画面例)
図19は、参加装置(電子黒板2b、2c)のディスプレイ3に表示される拠点のリストの表示例を示す図である。各参加装置は接続先管理テーブルを有しているものとする。以下、カッコ付きの番号で示す表示内容について説明する。参加装置のUI画像生成部33は、ユーザの操作に応じて図19の画面を表示する。
(1)画面の説明として以下の文章が表示される
「遠隔ホワイトボードに参加します
ホワイトボード拠点名を選択後、参加ボタンを押してください。」
(2)コンタクトリストから選択、又は、直接入力
ユーザはコンタクトリストから選択するか、IPアドレスを直接入力するかを選択できる。
(3)コンタクトリストから選択
「ホワイトボード拠点名」、「IPアドレス又はホスト名」「グループ名」で1つのレコードが構成されている。また、「ホワイトボード拠点名」、「IPアドレス又はホスト名」「グループ名」というラベルが表示される。また、1つのレコードには、アイコンとホワイトボード拠点名の先頭文字が表示される。これらについては次述する。
グループ名としては、「group01」、「group02」があるが、このグループはホワイトボード拠点名の表示名の1文字目、IPアドレスなどで決まり、関係する拠点をグループ化する名称である。
ユーザは、コンタクトリストのレコードを押下することで参加するホワイトボード拠点名(主催装置)を選択する。ホワイトボード拠点名を選択することで(6)のIPアドレスが表示される。選択したレコードを再度選択すると選択は解除される。
なお、レコードの先頭にアイコンがない場合、又は、後述するオンラインアイコン若しくは開催中アイコンがグレー(低輝度で)で表示されている場合、そのレコードはグレーで表示され、選択できない。アイコンの凡例は以下で説明する。
(4)スクロールバー
(5)グループ名を指定
ユーザは任意のグループ名を入力又は選択し、コンタクトリストに表示するレコードを絞り込むことができる。
(6)IPアドレス
コンタクトリストで選択されたホワイトボード拠点名のIPアドレスが表示される。
(7)参加する
ユーザが会議に参加することを入力するためのボタンである。
(8)キャンセル
ユーザが会議に参加することなく画面を閉じるためのボタンである。
(9)開催中アイコン
このラベルの拠点に対し参加可能であることを示すアイコンである。図13(b)の接続状態が「開催中」の場合に表示されるアイコンである。
(10)オンラインアイコン
このラベルの拠点がネットワーク接続しており、かつ、遠隔ライセンスがある状態を示すアイコンである。図13(b)の接続状態が「オンライン」の場合に表示されるアイコンである。
(11)開催中アイコン(参加不可)
拠点が会議を開催しているが、ソフトウェアのバージョンが異なり参加できない状態を表示するアイコンである。図ではアイコンがグレーで表示されている。図13(b)の接続状態が「開催中(バージョン違い)」の場合に表示されるアイコンである。
(12)互換モード開催中アイコン
互換モードで開催中であることを示すアイコンである。図13(b)の接続状態が「開催中(互換)」の場合に表示されるアイコンである。
(13)選択できない拠点のレコードの一例である
選択できない拠点のレコードは背景がグレーで表示される。図13(b)の接続状態が「オフライン」の場合、このようにアイコンが表示されない。
(14)選択された拠点のレコード
選択された拠点のレコードは所定の色(又は高輝度)で表示される。
(15)アイコンの凡例
オンラインアイコンに対し「オンライン」というラベル、開催中アイコンに対し「開催中」というラベル、互換モードで開催中アイコンに対し「互換モードで開催中」というラベルが表示されている。
(16)ホワイトボード拠点名の先頭文字ラベル
ホワイトボード拠点名の先頭文字を区別するためのラベルである。
〔遠隔コンテキストの送信〕
遠隔コンテキストとは、特定のイベントが検出された場合に、ディスプレイ3の画像にイベントの結果を反映させる前に、他拠点の電子黒板2に通知されるイベントの種類である。上記のように、遠隔コンテキストにより、マーカーイベント、ジェスチャイベント、ページ作成・消去イベント、ファイル読み込みイベント、他拠点参加イベント、他拠点退出イベントなどが他の拠点に通知される。遠隔コンテキストは、特許請求の範囲の操作内容通知情報の一例である。
図20は、遠隔コンテキストの送信手順を示すフローチャート図の一例である。図20では、遠隔コンテキストとなるイベントを取得する操作拠点、クライアント機20と通信するサーバ機90、及び、遠隔コンテキストを受信する受信拠点が処理を行う。
まず、操作拠点の電子黒板2はイベントを取得する(S110)。遠隔コンテキストとなるイベントは予め決まっているので、これらのイベントは、イベント振分部25、操作処理部26、ジェスチャ処理部27、指判別部29-1、などが検知する。
コンテキスト処理部39は、イベントに対応して予め定められている遠隔コンテキスト名を決定し、操作拠点の識別情報(IPアドレスなどで良い)と共にサーバに送信する(S111)。遠隔コンテキスト名は例えば、遠隔コンテキスト(イベント名)などでよい。
この後、操作拠点は入力された座標やイベントに対応する操作内容を取得する(S112)。マーカーイベントであれば指の座標が取得され、ジェスチャイベントであればジェスチャの種類が取得される。ページ作成・消去イベントやファイル読み込みイベントではページ番号やファイル名が操作内容に含まれる。
遠隔操作送信部65は、遠隔共有処理に必要な操作データをサーバ機90に送信する(S113)。
サーバ機90の遠隔コンテキスト受信部78は、ステップS111で送信された遠隔コンテキストと操作拠点の識別情報を受信する(S114)。
遠隔コンテキスト送信部77は、遠隔コンテキストと操作拠点の識別情報を、操作元拠点以外の、参加拠点管理テーブルに登録されている全ての拠点に送信する(S115)。
受信拠点の遠隔コンテキスト受信部78は、遠隔コンテキストと操作拠点の識別情報を受信する(S116)。
遠隔コンテキストを受信する拠点のコンテキスト処理部39は遠隔コンテキストを表示する(S117)。詳しくは後述するが、自拠点の参加拠点管理テーブルを参照し、操作元識別子に対応づけられた操作元名称と拠点色を取得し、操作アイコンと共にディスプレイ3に表示する。また、遠隔コンテキストはユーザに予告を行えば役割を終えるので、ストロークの目視や描画を阻害しないようにするため、自動で消去されることが好ましい。コンテキスト処理部39は、たとえば3秒表示後(特許請求の範囲の第1の所定時間の一例である)、1秒間(特許請求の範囲の第2の所定時間の一例である)かけてフェードアウト(徐々に輝度や色が薄くなり最終的に見えなくなる)するようなエフェクトで遠隔コンテキストを消去する。
一方、サーバ機の遠隔操作受信部66は、ステップS113で送信された操作データを受信する(S118)。
遠隔操作送信部65は、操作元拠点以外の、参加拠点管理テーブルに登録されている全ての拠点に操作データを送信する(S119)。
受信拠点の遠隔操作受信部66は操作データを受信する(S120)。
受信拠点の画像処理部30は操作データをディスプレイ3に反映させる(S121)。例えば、ストロークやマーカーを表示し、ジェスチャに応じて拡大・縮小を行い、ページの作成などを行う。
以上のように、ステップS117で遠隔コンテキストを受信する拠点は、操作データを受信する前に、遠隔コンテキストにより操作元がどの拠点で、どのような操作を行ったかを知ることができるので、同じ場所に描画したり矛盾する操作を行ったりすることを回避できる。
図21は、遠隔コンテキストを受信した拠点がディスプレイ3に表示する遠隔コンテキストの一例を示す。図21には合計8個の遠隔コンテキストが表示されているが、これは説明のための図であり、同時に8個の遠隔コンテキストが表示されることは希である。
図21では1つの遠隔コンテキストに対し、アイコンと吹き出しがセットで表示されている。アイコンは遠隔コンテキスト(イベントの内容)に応じて予め定められている。また、吹き出しには拠点名が表示されている。
(1)共有アイコンの押下
共有アイコンとは、ユーザが遠隔会議を主催すること又は会議に参加するために押下するアイコンであり、図21ではディスプレイ3の右上に表示されている。ユーザが共有アイコン301を押下した場合、遠隔コンテキストを受信する拠点のコンテキスト処理部39は遠隔コンテキストを表示する。具体的には、共有アイコンと同じアイコンと拠点名が記述された吹き出しを共有アイコン301の近くに表示する。なお、近くに表示するとは、共有アイコン301に対し、共有アイコンと同じアイコンと吹き出しが重畳しない最も近くに表示することを言う。
(2)USBメモリアイコンの押下
USBメモリアイコン302とは、ユーザがUSBメモリからファイルを読み出すために押下するアイコンであり、図21ではディスプレイ3の右側に表示されている。ユーザがUSBメモリアイコン302を押下した場合、遠隔コンテキストを受信する拠点のコンテキスト処理部39は遠隔コンテキストを表示する。具体的には、USBメモリアイコンと同じアイコンと拠点名が記述された吹き出しを、USBメモリアイコン302の近くに表示する。
(3)ジェスチャイベントの検知
ジェスチャイベントが検知された場合、遠隔コンテキストを受信する拠点のコンテキスト処理部39は遠隔コンテキストを表示する。ジェスチャイベントは任意の場所で発生するので、コンテキスト処理部39はジェスチャイベントが検知された座標の近くにジェスチャが検知されたことを示すアイコンと拠点名を表示する。ジェスチャには種々のものがあるが、実施例3にて説明するように例えば拡大がある。ジェスチャが検知されたことを示すアイコンはジェスチャに応じた形状であることが好ましく、図では拡大のジェスチャが検知されたことを示すアイコンが表示されている。
(4)ペンダウンイベントの検知
ペンダウンイベントが検知された場合、遠隔コンテキストを受信する拠点のコンテキスト処理部39は遠隔コンテキストを表示する。ペンダウンイベントは任意の場所で発生するので、コンテキスト処理部39はペンダウンイベントが検知された座標の近くにペンダウン(書き込みが始まる)が検知されたことを示すアイコンと拠点名を表示する。ペンダウンイベントが検知された座標の近くとは、ストロークの開始点の近くである。図では「4」というストロークの近くにアイコンと拠点名が表示されている。
(5)マーカーイベントの検知
マーカーイベントが検知された場合、遠隔コンテキストを受信する拠点のコンテキスト処理部39は遠隔コンテキストを表示する。マーカーイベントは任意の場所で発生するので、コンテキスト処理部39はマーカーイベントが検知された座標の近くにマーカーイベントが検知されたことを示すアイコンと拠点名を表示する。図では円弧上のマーカーの始点の近くにアイコンと拠点名が表示されている。
東京1で操作されたマーカーは、例えば、ユーザが電子黒板2で画像の共有を行っている遠隔地(福岡1や大阪2)に、この部分を注目してほしいとうアラートを示すためにユーザの指でマークされるものである。遠隔地(福岡1や大阪2)にいるユーザは、電子黒板2のディスプレイ3のどの部分に注目してよいかわからず、東京1が意図しないディスプレイ3の一部の領域に注目している場合がある。この際、東京1で遠隔地(福岡1や大阪2)に注目してほしい部分をマーカーで示すことにより、円滑なコミュニケーションの促進とつながる。ここでは、マーカーの具体的な活用例を説明したが、マーカー以外でももちろん活用可能である。
(6)ページ切り替えイベントの検知
ディスプレイ3の下部にページのサムネイル304が表示されている。ユーザはサムネイル304を押下することでディスプレイ3に表示されるページを切り替えることができる。この操作がページ切り替えイベントである。ページ切り替えイベントが検知された場合、遠隔コンテキストを受信する拠点のコンテキスト処理部39は遠隔コンテキストを表示する。コンテキスト処理部39はサムネイル304の近くに、ページ切り替えイベントが検知されたことを示すアイコン(サムネイルと同じ形状のアイコン)と拠点名を表示する。
(7)新規ページ作成アイコンの押下
新規ページ作成アイコン303とは、ユーザがページを新たに作成するために押下するアイコンであり、図21ではディスプレイ3の右側に表示されている。ユーザが新規ページ作成アイコン303を押下した場合、遠隔コンテキストを受信する拠点のコンテキスト処理部39は遠隔コンテキストを表示する。具体的には、新規ページ作成アイコン303と同じアイコンと拠点名が記述された吹き出しを、押下された新規ページ作成アイコン303の近くに表示する。
(8)キャプチャアイコンの押下
キャプチャアイコン305とは、ページに表示されている画像を取り込むために押下するアイコンであり、図21ではディスプレイ3の下部に表示されている。ユーザがキャプチャアイコン305を押下した場合、遠隔コンテキストを受信する拠点のコンテキスト処理部39は遠隔コンテキストを表示する。具体的には、キャプチャアイコン305と同じアイコンと拠点名が記述された吹き出しをキャプチャアイコン305の近くに表示する。
なお、(1)〜(8)は一例に過ぎず、電子黒板2で行われる操作であれば遠隔コンテキストとして表示することができる。
ストロークやマーカーの描画のように、これからユーザ操作が画像に反映される場所の近くに操作を予告するアイコン等が表示されるので、ユーザは少なくとも同じ場所に描画することを躊躇し、描画場所が重複することなどを抑制できる。また、会議の相手がどのような操作を開始したかを事前に把握できるので、矛盾した操作を行うことをよくせいできる。
実施例1にて説明したように接触センサ115は電子ペンか指かに関わらずスクリーンに接触する遮蔽物の座標を検知できる。実施例1にて指による描画をマーカーイベントに割り当てたように、電子ペンか指かによって操作内容を変えられたら画像処理システム1の操作性が向上する。
遮蔽物が電子ペンであることを特定するには、電子ペンのペンダウンイベントを検知すればよい。しかし、遮蔽物が指であることを特定するためにペンダウンイベントのような仕組みを利用できないので、何らかの指判別処理が必要である。また、指判別処理に時間がかかると、指であると判別されるまでの座標が描画されず、ユーザが違和感を持つおそれがある。
そこで、本実施例では、ペンダウンイベントを用いずに指判別処理を行い、ユーザが違和感を覚えにくい画像処理システム1について説明する。なお、本実施例において、実施例1において同一の符号を付した構成要素は同様の機能を果たすので、主に本実施例の主要な構成要素についてのみ説明する。
図22(a)は、接触センサ115の概略構成図を示す。接触センサ115が赤外線遮断方式の場合、周辺発光部115a〜115dの光を電子ペン4又は指が遮断することを2つの受光装置115f、115gで撮影する。各受光装置115f、115gは水平方向に一次元に並んだ受光素子を有しており、2つの受光装置115f、115gのそれぞれでどの受光素子が光の遮断を検知したかにより、三角測量の原理で電子ペン4又は指の座標を検出する。図では4つの受光装置115e〜115hがあるが、受光装置は最低2つあればよい。また、周辺発光部115a〜115dは再帰性反射板でもよく、この場合は受光装置115e〜115hが発光機能を有している。
図22(b)は接触センサ115の側面図を示す。周辺発光部115a〜115dはディスプレイ3よりも手前から検知エリアを形成しているため、電子ペン4がディスプレイ3に接触する前に受光装置115e〜115hは電子ペンを撮影する(接触検知影像イベント)。その後、電子ペン4がディスプレイ3に接触するとペンダウンイベントが検知される。したがって、接触センサ115が遮光を検出してからペンダウンイベントが検知されるまでに時間的な遅延が生じる。なお、検知エリアは、特許請求の範囲の表示面の一例である。
一方、ユーザが指でディスプレイ3に触れる場合、時間が経過してもペンダウンイベントが検知されることはない。本実施例ではこの時間を利用して、マーカーイベントを検知する。また、時間が経過する前に座標をキューイングしておくことで、指による書き始めから座標をマーカーとして描画する。
図23は、指判別部29-1が指による描画であることを判別しマーカーを描画する手順を示すフローチャート図の一例である。
イベント振分部25は座標検知部22が座標を検知したという接触検知影像イベントを取得し指判別部29-1に通知する(S210)。
指判別部29-1は座標検知部22に撮影画像の太さを問い合わせ、太さがゼロと見なせる程度か否かを判定する(S211)。撮影画像の太さとは、遮光された領域の広さであり、受光装置115e〜115hの受光素子のうち光を検知しなくなった受光素子の数などにより判断される。なお、受光装置は2つあるので、2つの受光装置の受光素子の数の平均などで判断すればよい。太さがゼロと見なせるか否かを判定することで、ノイズにより遮光を検出した場合を排除し、指が遮光したことを検知できる。
太さがゼロと見なせない場合(S211のNo)、指判別部29-1はペンダウン中か否かを判定する(S212)。すなわち、ペンダウンイベントが検出されているか否かが検出され、ペンダウン中であれば指でなく電子ペン4がディスプレイ3に触れていると判定できる。なお、ペンダウンイベントは特許請求の範囲の接触情報の一例である。
ペンダウン中でない場合(S212のNo)、指判別部29-1はジェスチャ中か否かを判定する(S213)。ジェスチャとは、拡大や縮小、ページめくりなどに対応する操作であり、ジェスチャ中とはジェスチャが検出されている過程であることをいう。ジェスチャ処理部がジェスチャを検出している間は、ジェスチャ中であると判定される。
一方、太さがゼロと見なせる場合(S211のYes)、ペンダウン中の場合(S212のYes)、又は、ジェスチャ中の場合(S213のYes)、指判別部29-1はマーカー描画中か否かを判定する(S214)。ステップS211〜S213の判定結果により指以外の物が遮光している可能性が高いと判定できるが、直前まで、ユーザがマーカー描画中である場合、それまでに描画された座標をマーカーの座標として、マーカー処理部38がサーバ機90に送信する(S215)。これにより、全てのマーカーの座標を共有できる。
ステップS213に戻り、ジェスチャ中でない場合(S213のNo)、指判別部29-1は指入力開始待機タイマー29-2がスタートしているか否かを判定する(S216)。
指入力開始待機タイマー29-2がスタートしていない場合(S216のNo)、指判別部29-1は指入力開始待機タイマー29-2をスタートする(S217)。
指入力開始待機タイマー29-2がスタートしている場合(S216のYes)、指判別部29-1は取得座標をキューの末尾に追加する(S218)。
次に、指判別部29-1は指入力開始待機タイマー29-2がタイムアウトしたか否かを判定する(S219)。タイムアウトの時間は、座標検知部22の検知エリアに指が侵入してからディスプレイ3に触れるまでなので例えば数百ミリ秒とする。タイムアウトしていない場合はステップS210からの処理を繰り返す。
タイムアウトした場合(S219のYes)、指判別部29-1はキューの先頭と、最末尾の点の距離を算出し、指の移動距離が閾値(例えば、50〔px(ピクセル)〕)より大きいか否かを判定する(S219−2)。経過時間に加えて移動距離を判別することで、書き迷いなどの速度変化の小さい動作による不要なマーカー表示を抑制できる。
指の移動距離が閾値より大きい場合(S219−2のYes)、指判別部29-1は指による描画であると判定し、マーカーイベントが発生する(S220)。
次に、マーカー処理部38は、キューに座標データがあるか否かを判定する(S221)。
キューに座標データがある場合(S221のYes)、マーカー処理部38はキューの座標を先頭から線で連結してマーカーを描画する(S222)。そして、マーカーを描画してからタイマーで所定時間経過したか否かを判定する(S225)。ここでは例えば所定時間として、マーカーを表示してから3秒経過したかどうかを計測する。3秒経過していない場合、再び所定時間の計測を続ける(S225のNo)。所定時間が経過した場合(S225のYes)、表示したマーカーを所定時間かけて消去する(S226)。
線色は、参加拠点管理テーブルに登録された拠点色とする。これにより各拠点でどの拠点がマーカー描画したかを区別できる。また、マーカー線は電子ペンのストロークと区別できるように、ストロークよりも太い例えば20〔px〕の太さとする。ただし、背景画像が視認できるように透過度を40%程度にしてもよい。また、描画したあとは、ユーザの操作を阻害しないように自動で消去する。この場合、たとえば3秒表示後、1秒間かけてフェードアウトするようなエフェクトで消去することが好ましい。このようにストロークと透過度を異ならせたり、所定時間経過した後、所定時間かけてマーカーを消去したりすることにより、他拠点のユーザにとって、電子ペンによるストローク(描画)か、もしくは、指等によるマーカーの表示なのか混同せずに済む。例えば、複数拠点と遠隔会議を行っている状況で、ディスプレイ3上に表示されている図面などのある領域を他拠点の相手に注目してもらいたい場合、自拠点でユーザは画面を指しながら「ここを見てください」等と発言することがある。この場合、相手に注目してもらいたいディスプレイ3上の領域に指等により丸印を描画したり、線を引いたりすることによって、相手に注目してもらうことができる。
キューに座標データがない場合(S221のNo)、マーカー処理部38は最後尾座標と取得座標を線で連結してマーカーを描画する(S223)。
次に、マーカー処理部38は取得座標を最後尾座標として保存する(S224)。
したがって、本実施例によれば、各拠点が指による描画をマーカーとして送信することで、電子ペン4でなく指を使用するという簡単な操作で、異なる態様で描画内容を表示できる。例えば、マーカーをストロークよりも太く描画すれば、強調したい議題などを簡単に示すことができるようになる。また、電子ペン4ではなく指で描画すればよいので、ユーザにとって自然な操作で実現できる。
実施例1,2ではジェスチャについて触れたが、従来、拡大・縮小のジェスチャは、ジェスチャ操作を行った拠点でのみ有効であり、他の拠点と共有されていなかった。
しかしながら、拠点Aがページデータを拡大したためディスプレイ3に表示しきれない領域が生じた場合に、拠点Bでは拡大していないためストロークやマーカーを書き込んだ領域が拠点Aで表示されない場合があった。また、ストロークやマーカーだけでなく、画面が拡大されている場合、表示位置によっては実施例1の遠隔コンテキストも表示されない場合がある。
そこで、本実施例では、ジェスチャによる拡大・縮小の操作を各拠点と共有する画像処理システム1について説明する。
図24は、本実施例の電子黒板の機能ブロック図の一例である。図3に示した機能ブロック図のうち指判別部29-1、指入力開始待機タイマー29-2、マーカー処理部38、及び、コンテキスト処理部39を有さない構成となっている。
ジェスチャ処理部27は、イベント振分部25によってジェスチャ操作と判断されたイベントに対し、ジェスチャの内容に対応したアフィン変換行列を作成する。アフェイン変換行列により、点のスケーリング(拡大・縮小)、回転、反転、及び、平行移動を表すことができる。本実施例は主に、拡大・縮小、並行移動を行うアフィン変換行列が作成される。なお、アフィン変換行列は特許請求の範囲の操作情報の一例である。
図25(a)はアフィン変換行列の一例を示す。アフィン変換行列は3×3の行列で表すことができ、左上の2×2の行列で拡大・縮小を、左下の1×2行列で平行移動を表すことができる。図25(a)の例では座標(x、y)をx方向に3倍して(y方向はそのまま)、x方向に3,y方向に4、平行移動している。したがって、操作元の拠点がアフィン変換行列を他の拠点に送信することで、他の拠点も同じように拡大・縮小、平行移動することが可能である。
図25(b)はアフィン変換行列が点(2、1)に適用された場合の移動例を示している。点(2,1)が点(9,5)に表示されるが、これはアフィン変換行列の計算結果と一致する。
ジェスチャ処理部27が作成したアフィン変換行列は画像処理部30に出力され、ジェスチャが反映された画像がディスプレイ3に表示される。また、アフィン変換行列はページデータ記憶部300に記憶される。操作拠点の遠隔操作送信部65はアフィン変換行列を通信制御部70の遠隔操作受信部75に送信し、遠隔操作処理部83を介して遠隔操作送信部76が、他の拠点のクライアント機20の遠隔操作受信部75にアフィン変換行列を送信する。他の拠点の画像処理部30は、ジェスチャが反映された画像がディスプレイ3に表示する。
図26は、2つの拠点でジェスチャを共有する手順を示すフローチャート図の一例である。以下では、操作元をA拠点、ジェスチャを受信する拠点をB拠点として説明する。
まず、A拠点のジェスチャ処理部27はジェスチャを検出してアフィン変換行列を作成する(S310)。
次に、画像処理部30のページ処理部37はディスプレイ3に表示されている座標にアフィン変換を施すことで、ジェスチャが反映された画像をディスプレイ3に表示する(S320)。なお、アフェイン変換行列を送信するためアフィン変換行列はページと対応づけてページデータ記憶部300に記憶される。
A拠点はアフィン変換行列をB拠点に送信する(S330)。具体的には、A拠点のクライアント機20の遠隔操作送信部65がアフィン変換行列をサーバ機90に出力する。サーバ機の遠隔操作受信部75はアフィン変換行列を受信して遠隔操作処理部83に出力する。遠隔操作処理部83は、参加拠点管理テーブルに登録されているB拠点のIPアドレスを読み出し、A拠点の拠点識別情報とアフィン変換行列を遠隔操作送信部76に出力する。これにより、遠隔操作送信部76は、B拠点の遠隔操作受信部66にA拠点の拠点識別情報とアフィン変換行列を送信する。
B拠点の遠隔操作受信部66はアフィン変換行列を受信する(S340)。アフィン変換行列はB拠点の画像処理部30に出力され、画像処理部30はアフィン変換行列をページデータ記憶部300に記憶する。
B拠点のページ処理部37はページにすぐにアフィン変換行列を行うのでなく、A拠点でイベントが検出されているか否かを判定する(S350)。これは、A拠点でストロークやマーカーなどを描画している場合、B拠点でアフィン変換行列による拡大・縮小、平行移動すると、A拠点で入力された座標の表示位置を変更する必要が生じるためである。
このため、ページ処理部37は遠隔操作受信部66が以下のイベントを受信したか否かを判定する。これらは主にページの表示内容が変更されるイベントである。
・ペンダウンイベント
・マーカーイベント
・ジェスチャ中
・リモートPC操作イベント
なお、リモートPC操作とは、PC6の映像をディスプレイ3に表示した状態で、座標検知部が検出した座標に基づきPC6を操作することをいう。すなわち、ユーザはディスプレイ3に対する操作でPC6を操作(アプリケーション起ち上げ、ウィンドウ開閉、ファイル選択など)することができる。また、ペンダウンイベントには、ストロークの消去、ストロークの変倍、ストロークの移動が含まれる。
これらのイベントが検知されている場合(S350のYes)、ページ処理部37は1秒間待機する(S360)。1秒間とは一例であり、A拠点のイベントが途切れることを検出できる時間であればよい。
イベントが検知されない場合(S350のNo)、ページ処理部37はページデータ記憶部300に記憶しておいたアフィン変換行列をページに適用してジェスチャが反映された画像をディスプレイ3に表示する(S370)。
以上のように、本実施例の画像処理システムはジェスチャについても他の拠点と共有でき、各拠点のユーザがページの同じ場所を視認できるようになる。また、ジェスチャを行った拠点のイベント待ちすることで、適切なタイミングで拡大・縮小などを行うことができる。
1 画像処理システム
2 電子黒板(画像処理装置の一例)
3 ディスプレイ(表示手段の一例)
4 電子ペン
5 USBメモリ
6 ノートPC(情報処理端末の一例)
7 テレビ会議端末
8 PC
9 通信ネットワーク
20 クライアント機
30 画像処理部
60、70 通信制御部
80 データ管理部
90 サーバ機
特許第5081088号公報

Claims (12)

  1. 画像を表示する表示手段と、
    前記表示手段に対し電子ペン又は指示手段が接触した座標を検出する座標検出手段と、
    前記電子ペンが前記表示手段へ接触したことを示す接触情報を受信する接触情報受信手段と、
    前記座標検出手段によって座標が検出された場合に、時間の計測を開始する時間計測手段と、
    前記接触情報受信手段が前記接触情報を受信することなく前記時間計測手段が所定時間を計測した場合、電子ペン又は指示手段のうち前記表示手段に前記指示手段が接触したと判別し、前記所定時間が計測される前に前記接触情報受信手段が前記接触情報を受信した場合、前記表示手段に前記電子ペンが接触したと判別する判別手段と、
    前記判別手段で前記指示手段と判別された場合、前記指示手段に対応する表示を当該表示手段に表示させ、前記判別手段で前記電子ペンと判別された場合、前記電子ペンに対応する表示を前記表示手段に表示させる表示制御手段と、
    を有することを特徴とする情報処理装置。
  2. 前記座標を時系列に蓄積する座標蓄積手段、を有し、
    前記表示制御手段は、前記座標を連結して表示させることを特徴とする請求項1に記載の情報処理装置。
  3. 前記指示手段に対応する表示を前記表示手段に第1の所定時間表示させた後、消去することを特徴とする請求項1に記載の情報処理装置。
  4. 前記指示手段に対応する表示を前記表示手段に第1の所定時間表示させた後、第2の所定時間かけて消去することを特徴とする請求項1に記載の情報処理装置。
  5. 前記指示手段に対応する表示と、前記電子ペンに対応する表示とは、区別されるように表示されることを特徴とする請求項1に記載の情報処理装置。
  6. 前記指示手段に対応する表示と、前記電子ペンに対応する表示とは、太さを異ならせて表示さることを特徴とする請求項5に記載の情報処理装置。
  7. 前記指示手段に対応する表示と、前記電子ペンに対応する表示とは、透過性を異ならせて表示さることを特徴とする請求項5に記載の情報処理装置。
  8. 記時間計測手段は、前記座標検出手段により検出された前記指示手段の太さが閾値以上であること、前記接触情報受信手段が接触情報を前記電子ペンから受信しないこと、
    及び、前記接触情報受信手段が前記接触情報を受信することなく前記座標検出手段が前記指示手段の座標を検出したこと、
    の条件が満たされた場合に、前記所定時間の計測を開始することを特徴とする請求項2に記載の情報処理装置。
  9. 記座標検出手段によって座標が検出された場合に、前記接触情報受信手段が前記接触情報を受信せず、前記表示手段へジェスチャ操作されている場合、前記座標検出手段が検出した座標の履歴に基づいて前記表示手段に表示された画像を拡大、縮小又は移動する操作を検出する、ことを特徴とする請求項2に記載の情報処理装置。
  10. 画像の拡大、縮小又は移動に関する指示を他の情報処理装置から受信してから第3の所定時間経過後に、前記表示手段に表示されている画像を拡大、縮小又は移動することを特徴とする請求項9に記載の情報処理装置。
  11. 前記判別手段は、前記時間計測手段が前記所定時間を計測し、
    さらに、前記所定時間の間に前記座標検出手段が検出した座標の移動距離が閾値より大きい場合、前記表示手段に前記指示手段が接触したと判別する請求項1〜10のいずれか1項に記載の情報処理装置。
  12. 情報処理装置を、
    画像を表示する表示手段と、
    前記表示手段に対し電子ペン又は指示手段が接触した座標を検出する座標検出手段と、
    前記電子ペンが前記表示手段へ接触したことを示す接触情報を受信する接触情報受信手段と、
    前記座標検出手段によって座標が検出された場合に、時間の計測を開始する時間計測手段と、
    前記接触情報受信手段が前記接触情報を受信することなく前記時間計測手段が所定時間を計測した場合、電子ペン又は指示手段のうち前記表示手段に前記指示手段が接触したと判別し、前記所定時間が計測される前に前記接触情報受信手段が前記接触情報を受信した場合、前記表示手段に前記電子ペンが接触したと判別する判別手段と、
    前記判別手段で前記指示手段と判別された場合、前記指示手段に対応する表示を当該表示手段に表示させ、前記判別手段で前記電子ペンと判別された場合、前記電子ペンに対応する表示を前記表示手段に表示させる表示制御手段、
    として機能させるためのプログラム。
JP2014180410A 2013-09-17 2014-09-04 情報処理装置、プログラム Active JP6094550B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014180410A JP6094550B2 (ja) 2013-09-17 2014-09-04 情報処理装置、プログラム
US14/487,226 US9335860B2 (en) 2013-09-17 2014-09-16 Information processing apparatus and information processing system

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013192282 2013-09-17
JP2013192282 2013-09-17
JP2014180410A JP6094550B2 (ja) 2013-09-17 2014-09-04 情報処理装置、プログラム

Publications (3)

Publication Number Publication Date
JP2015084211A JP2015084211A (ja) 2015-04-30
JP2015084211A5 JP2015084211A5 (ja) 2016-05-12
JP6094550B2 true JP6094550B2 (ja) 2017-03-15

Family

ID=52667513

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014180410A Active JP6094550B2 (ja) 2013-09-17 2014-09-04 情報処理装置、プログラム

Country Status (2)

Country Link
US (1) US9335860B2 (ja)
JP (1) JP6094550B2 (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014106910A1 (ja) * 2013-01-04 2014-07-10 株式会社ユビキタスエンターテインメント 情報処理装置及び情報入力制御プログラム
JP2015210569A (ja) 2014-04-24 2015-11-24 株式会社リコー 画像処理装置、情報共有装置、画像処理方法、及びプログラム
JP6451276B2 (ja) * 2014-12-10 2019-01-16 株式会社リコー 画像管理システム、通信端末、通信システム、画像管理方法、及びプログラム
JP2016143236A (ja) 2015-02-02 2016-08-08 株式会社リコー 配信制御装置、配信制御方法、及びプログラム
JP6531436B2 (ja) 2015-03-12 2019-06-19 株式会社リコー 通信システム、伝送端末、通信方法、プログラム
WO2016178419A1 (ja) * 2015-05-01 2016-11-10 株式会社リコー 情報処理装置、及び情報処理システム
WO2016208396A1 (ja) * 2015-06-23 2016-12-29 株式会社リコー 通信端末、管理システム、通信システム、表示方法、及びプログラム
JP6540367B2 (ja) 2015-08-21 2019-07-10 株式会社リコー 表示制御装置、通信端末、通信システム、表示制御方法、及びプログラム
WO2017051687A1 (ja) * 2015-09-25 2017-03-30 株式会社リコー 電子黒板、電子黒板の画像処理方法、及び電子黒板のプログラムを記録した記録媒体
EP3358449A4 (en) * 2015-09-30 2018-09-12 Ricoh Company, Ltd. Electronic blackboard, recording medium, and information display method
EP3364639A4 (en) * 2015-10-15 2018-10-10 Ricoh Company, Ltd. Electronic blackboard, program, and information processing method
JP2017117312A (ja) * 2015-12-25 2017-06-29 株式会社リコー 情報処理装置、情報入力システム、情報処理方法およびプログラム
JP6773957B2 (ja) * 2015-12-28 2020-10-21 キヤノンマーケティングジャパン株式会社 情報処理システム、その制御方法、及びプログラム
EP3200066A1 (en) 2016-01-29 2017-08-02 Ricoh Company, Ltd. Communication terminal, communication system, display control method, and carrier means
CN108605078A (zh) * 2016-02-12 2018-09-28 株式会社理光 图像处理设备、图像处理系统和图像处理方法
US10511700B2 (en) * 2016-02-25 2019-12-17 Ricoh Company, Ltd. Communication terminal with first application displaying status of second application
US10198177B2 (en) 2016-07-14 2019-02-05 Ricoh Company, Ltd. Image processing apparatus, image processing method, and recording medium
EP3282412A1 (en) * 2016-08-10 2018-02-14 Ricoh Company, Ltd. Shared terminal and image transmission method
US10356361B2 (en) * 2016-09-16 2019-07-16 Ricoh Company, Ltd. Communication terminal, communication system, and display method
JP7051057B2 (ja) * 2016-12-09 2022-04-11 株式会社MetaMoJi コンテンツ共有システム
JP2019159261A (ja) * 2018-03-16 2019-09-19 株式会社リコー 電子黒板、映像表示方法、プログラム
JP6773145B2 (ja) * 2019-01-24 2020-10-21 株式会社リコー 電子黒板、通信システム、通信制御方法、及びプログラム
US20240012505A1 (en) * 2022-07-07 2024-01-11 Ricoh Company, Ltd. Display apparatus, display system, method performed by display apparatus, and non-transitory recording medium
GB2620636A (en) * 2022-07-15 2024-01-17 Amulet Hotkey Ltd Switching apparatus

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0683522A (ja) * 1992-09-01 1994-03-25 Fujitsu Ltd 座標入力方式
JP4033582B2 (ja) * 1998-06-09 2008-01-16 株式会社リコー 座標入力/検出装置および電子黒板システム
US6961912B2 (en) * 2001-07-18 2005-11-01 Xerox Corporation Feedback mechanism for use with visual selection methods
US7286141B2 (en) * 2001-08-31 2007-10-23 Fuji Xerox Co., Ltd. Systems and methods for generating and controlling temporary digital ink
US7770126B2 (en) * 2006-02-10 2010-08-03 Microsoft Corporation Assisting user interface element use
US7996776B2 (en) * 2006-02-27 2011-08-09 Microsoft Corporation Shared telepointer
JP4886570B2 (ja) * 2007-03-28 2012-02-29 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP5081088B2 (ja) 2008-07-17 2012-11-21 株式会社日立ソリューションズ 相互情報共有システム
US20120212440A1 (en) * 2009-10-19 2012-08-23 Sharp Kabushiki Kaisha Input motion analysis method and information processing device
US8482539B2 (en) * 2010-01-12 2013-07-09 Panasonic Corporation Electronic pen system
JP4913873B2 (ja) * 2010-01-12 2012-04-11 パナソニック株式会社 電子ペンシステム及び電子ペン
US20120293555A1 (en) * 2010-01-15 2012-11-22 Akihiro Okano Information-processing device, method thereof and display device
JP5884294B2 (ja) * 2011-05-19 2016-03-15 日本電気株式会社 コンテンツ表示装置、コンテンツ表示システム、サーバ、端末、コンテンツ表示方法、および、コンピュータ・プログラム
JP5579671B2 (ja) * 2011-08-01 2014-08-27 日本電信電話株式会社 文書表示装置、文書表示方法及びプログラム
JP5810779B2 (ja) 2011-09-16 2015-11-11 株式会社リコー 画面共有システム、画面共有端末、電子黒板システムおよびプログラム
JP5827870B2 (ja) * 2011-10-28 2015-12-02 任天堂株式会社 座標処理プログラム、座標処理装置、座標処理システムおよび座標処理方法
JP6069898B2 (ja) 2011-11-25 2017-02-01 株式会社リコー 画像処理装置、画像処理システム、方法およびプログラム
US9495065B2 (en) * 2012-07-06 2016-11-15 Navico Holding As Cursor assist mode

Also Published As

Publication number Publication date
US20150077369A1 (en) 2015-03-19
JP2015084211A (ja) 2015-04-30
US9335860B2 (en) 2016-05-10

Similar Documents

Publication Publication Date Title
JP6094550B2 (ja) 情報処理装置、プログラム
JP5846270B2 (ja) 画像処理システム、情報処理装置
JP6493546B2 (ja) 電子黒板、記憶媒体、及び情報表示方法
JP2016134014A (ja) 電子情報ボード装置、情報処理方法およびプログラム
JP6583432B2 (ja) 画像処理装置、画像表示方法、プログラム
JP6459545B2 (ja) 画像処理装置、画像処理システム及び画像処理方法
US11294495B2 (en) Electronic whiteboard, method for image processing in electronic whiteboard, and recording medium containing computer program of electronic whiteboard
US20180082663A1 (en) Information processing apparatus, image displaying method, and non-transitory computer readable medium
JP2016139322A (ja) 画像処理装置及びそれを備えた電子黒板
JP6631643B2 (ja) 画像処理装置、画像処理システム及び画像処理方法
JP2017076207A (ja) 画像処理装置及び画像処理システム
JP2018067018A (ja) 電子黒板、画像処理方法、画像処理プログラム、及び画像処理システム
JP6036621B2 (ja) システム、情報処理装置
JP2022087633A (ja) 表示装置、消去方法切替方法、プログラム
JP2020154660A (ja) 表示装置、及び表示方法
JP7363064B2 (ja) 画像処理装置、方法、およびプログラム
WO2015186453A1 (ja) 座標検知装置、画像処理装置、及び座標検知方法
JP7388159B2 (ja) 表示装置、表示方法
JP7383959B2 (ja) 表示装置、使用方法提供方法、プログラム、画像処理システム
JP2016076775A (ja) 画像処理装置、画像処理システム、画像処理方法、及びプログラム
WO2016121403A1 (en) Information processing apparatus, image processing system, and program

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160317

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160317

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20160317

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20160413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160524

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161018

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170130

R151 Written notification of patent or utility model registration

Ref document number: 6094550

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151