[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2021022041A - 通信端末、通信システム、表示制御方法およびプログラム - Google Patents

通信端末、通信システム、表示制御方法およびプログラム Download PDF

Info

Publication number
JP2021022041A
JP2021022041A JP2019136864A JP2019136864A JP2021022041A JP 2021022041 A JP2021022041 A JP 2021022041A JP 2019136864 A JP2019136864 A JP 2019136864A JP 2019136864 A JP2019136864 A JP 2019136864A JP 2021022041 A JP2021022041 A JP 2021022041A
Authority
JP
Japan
Prior art keywords
image
electronic blackboard
executed
data
terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019136864A
Other languages
English (en)
Inventor
佑一 河崎
Yuichi Kawasaki
佑一 河崎
中村 滋
Shigeru Nakamura
滋 中村
将 小笠原
Masashi Ogasawara
将 小笠原
寛 日野原
Hiroshi Hinohara
寛 日野原
宮本 篤
Atsushi Miyamoto
篤 宮本
毅史 本間
Takashi Homma
毅史 本間
達朗 杉岡
Tatsuro Sugioka
達朗 杉岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2019136864A priority Critical patent/JP2021022041A/ja
Priority to EP20186886.6A priority patent/EP3770748A1/en
Publication of JP2021022041A publication Critical patent/JP2021022041A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/12Synchronisation between the display unit and other units, e.g. other display units, video-disc players
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/04Exchange of auxiliary data, i.e. other than image data, between monitor and graphics controller

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephonic Communication Services (AREA)

Abstract

【課題】他の通信端末との間で共有して表示される表示画面に対して特定の操作を実行する際の利用者の利便性を向上させることを目的とする。【解決手段】電子黒板1bは、電子黒板1aとの間で共有されるデータを管理する通信管理装置5から、電子黒板1aに描画された表示画面に係る表示画面データを受信し、受信された表示画面データに係る表示画面をディスプレイ180に表示させ、表示部に表示された表示画面に含まれている画像に対して実行された操作に関する操作情報を記憶する。また、電子黒板1bは、ストローク画像に対する特定の操作の実行を要求する操作実行要求を受け付け、記憶された操作情報に基づいて操作実行要求に係る特定の操作の実行可否を判定し、特定の操作を実行できないと判定された場合、特定の操作を実行できないことを示す操作実行不可画像270を、表示部に表示させる。【選択図】図23

Description

本発明は、通信端末、通信システム、表示制御方法およびプログラムに関する。
インターネット等の通信ネットワークを介して遠隔地との間で通信する通信システムが普及している。当該通信システムとしては、例えば、遠隔会議を行う会議システムが挙げられる。一般的な会議システムにおいて、遠隔会議を行う当事者の一方が利用する通信端末側で保持または表示中の画像データを、通信ネットワークを介して当事者の他方が利用する通信端末に送信することで、画像データを共有することができる(特許文献1参照)。これにより、実際の会議に近い状態で遠隔地との会議を行うことができる。
また、企業や教育機関、行政機関等における会議等において、ディスプレイに画像を表示させ、この画像の上に、利用者が、文字、数字および図形等のストローク画像を描画する電子黒板等の通信端末が利用されている(特許文献2参照)。このストローク画像は、通信端末が利用者により電子ペンや手でディスプレイ上に接触して移動させることで描いた内容を電子的に変換して、座標データ等のストロークデータを生成することによって描画される。さらに、一方の通信端末でストローク画像が描画された場合、このストローク画像を再生するためのストロークデータが通信ネットワークを介して他方の通信端末に送信されることで、他方の通信端末でも同じストローク画像が表示される。
さらに、エンドユーザからの要求を実現するリクエスタの要求に応じて処理を行う環境で、複数のプロバイダにより提供される処理のUndo処理およびRedo処理を行う方法が開示されている(特許文献3参照)。
しかしながら、従来の方法では、上述したような複数の通信端末の間で表示画面を共有するシステムにおいて、例えば、通信端末の利用者が入力したストロークを他の通信端末の利用者が削除した後に、ストロークを入力した利用者がUndo操作を要求しても表示画面上では何も起こらない。これは、操作対象であるストロークが他の通信端末によって削除されたためであるが、Undo操作を要求した利用者は、その原因がわからなかった。このように、他の通信端末との間で共有して表示される表示画面に対して特定の操作を実行する際の利用者の利便性を改善する余地があるという課題があった。
上述した課題を解決すべく、請求項1に係る発明は、他の通信端末との間においてデータを共有する通信端末であって、前記他の通信端末との間で共有されるデータを管理する通信管理装置から、前記他の通信端末に描画された表示画面に係る表示画面データを受信する受信手段と、受信された前記表示画面データに係る表示画面を表示部に表示させる表示制御手段と、前記表示部に表示された表示画面に含まれている画像に対して実行された操作に関する操作情報を記憶する記憶手段と、前記画像に対する特定の操作の実行を要求する操作実行要求を受け付ける受付手段と、記憶された前記操作情報に基づいて、前記操作実行要求に係る特定の操作の実行可否を判定する判定手段と、を備え、前記画像に対する特定の操作を実行できないと判定された場合、前記表示制御手段は、前記特定の操作を実行できないことを示すメッセージを、前記表示部に表示させる通信端末である。
本発明によれば、他の通信端末との間で共有して表示される表示画面に対して特定の操作を実行する際の利用者の利便性を向上させることができるいう効果を奏する。
実施形態に係る通信システムにおける通信ルートの一例を示した概略図である。 実施形態に係る電子黒板の使用イメージについて説明するための図である。 実施形態に係る電子黒板のハードウエア構成の一例を示す図である。 実施形態に係る通信管理装置、中継装置および画像保存装置のハードウエア構成の一例を示す図である。 実施形態に係る通信システムのシステム構成の一例を示す図である。 実施形態に係る通信システムの機能構成の一例を示す図である。 実施形態に係る描画画面情報の一例を概略的に説明するための図である。 実施形態に係る操作情報管理DBの一例を概略的に説明するための図である。 実施形態に係る操作情報の一例を概略的に説明するための図である。 (A)は実施形態に係る認証管理テーブルの一例を示す概念図であり、(B)は実施形態に係る端末管理テーブルの一例を示す概念図である。 (A)は実施形態に係る宛先リスト管理テーブルの一例を示す概念図であり、(B)は実施形態に係るセッション管理テーブルの一例を示す概念図であり、(C)は実施形態に係る中継装置管理テーブルの一例を示す概念図である。 実施形態に係る描画画面情報管理テーブルの一例を示す概念図である。 電子黒板間で遠隔通信を開始する準備段階の処理の一例を示すシーケンス図である。 電子黒板に表示される宛先リスト画面の一例を示す図である。 遠隔通信を開始する処理の一例を示すシーケンス図である。 実施形態に係るストロークデータの共有処理に一例を示すシーケンス図である。 実施形態に係る電子黒板において、描画画面に対する操作の再実行処理の一例を示すフローチャートである。 実施形態に係る電子黒板に表示される描画画面の一例を示す図である。 (A)は実施形態に係る電子黒板においてUndo処理が実行された際に表示される描画画面の一例を示す図であり、(B)は実施形態に係る電子黒板においてUndo処理が実行された際の操作情報管理DBの状態を概略的に説明するための図である。 (A)は実施形態に係る電子黒板においてRedo処理が実行された際に表示される描画画面の一例を示す図であり、(B)は実施形態に係る電子黒板においてRedo処理が実行された際の操作情報管理DBの状態を概略的に説明するための図である。 実施形態に係る通信システムにおいて、複数の電子黒板の間で操作が競合した場合における描画画面の表示処理の一例を示すシーケンス図である。 実施形態に係る電子黒板において操作が実行された場合の描画画面の一例を示す図である。 実施形態に係る電子黒板における描画画面に対する操作の実行可否の判定処理の一例を示すフローチャートである。 実施形態に係る電子黒板に表示される操作実行不可画像の一例を示す図である。
以下、図面を参照しながら、発明を実施するための形態を説明する。なお、図面の説明において同一要素には同一符号を付し、重複する説明は省略する。
●通信システムの概略●
●通信ルート
まず、図1を用いて、複数の電子黒板1a,1b間で描画しながらビデオ会議を行なうための通信システムについて説明する。図1は、実施形態に係る通信システムにおける通信ルートの一例を示した概略図である。なお、「ビデオ会議」は、「テレビ会議」、「遠隔会議」等と呼ばれる場合もある。また、「ビデオ会議」「テレビ会議」または「遠隔会議」の会議は、複数の端末の間で画像データおよびストロークデータを共有するセッションの一例である。例えば、画像データおよびストロークデータを共有するセッションは、遠隔授業、遠隔診察、打ち合わせ、単なる会話等を行う、会議以外のセッションであってもよい。また、画像データおよびストロークデータを共有するセッションは、一方向での情報の提示に使用されてもよい。
通信システムは、複数の電子黒板1a,1b、中継装置3、通信管理装置5および画像保存装置7によって構築されている。電子黒板1a,1bは、通話用の画像データおよび音データ、並びに、共有用の画像データおよびストロークデータ等のコンテンツデータの相互通信を行う。ストロークデータには、ストローク画像を再生(再現)するために必要なデータであり、座標データ、線の幅データ、線の色データ、ベクトルデータ等が含まれている。また、ストロークデータは、電子黒板1a,1bによってシリアライズされた文字列として送受信される。電子黒板1a,1bは、通話用の画像データおよび音データの送受信により、相手側の拠点の拠点画像および音を再生することで、遠隔ビデオ通話が可能となる。
電子黒板1a,1bは、共有用の資料画像の画像データを送受信することにより、通信システムを利用する参加者が、同じ資料画像を共有することができる。資料画像は、電子黒板1のディスプレイに表示される画像であり、会議の資料、ディスプレイに表示される背景画像等の画像である。資料画像の画像データは、例えば、JPEG(Joint Photographic Experts Group)等のファイル形式で送受信される。また、電子黒板1a,1bは、共有用のストローク画像のストロークデータを送受信することにより、通信システムを利用する参加者が、同じストローク画像を共有することができる。ストローク画像は、利用者によって電子ペン等で手書きストロークにより描画された線等を示す画像である。ストローク画像は、ディスプレイ上の座標を特定する点を示すストロークデータによって表示される。
なお、通信システムは、2つの電子黒板1a,1bに限らず、3つ以上の電子黒板によって構築されてもよい。以降、電子黒板1a,1bの総称を示す場合は、「電子黒板1」と示す。また、電子黒板1は、通信機能、描画機能および表示機能等を備える通信端末の一例である。通信端末は、例えば、通信システムに対応するアプリケーションプログラムがインストールされたPC(Personal Computer)、スマートフォン、タブレット端末、スマートウォッチ、カーナビゲーション端末、ゲーム機またはテレプレゼンスロボット等であってもよい。さらに、通信端末は、医療機器であってもよい。医療機器の場合には、資料画像が患者の画像となる。
図1では、電子黒板1a,1bの一例としてビデオ会議機能が搭載された電子黒板が示されている。なお、拠点画像データに係る拠点画像は、動画であっても静止画であってもよい。
また、ビデオ会議の開始を要求する要求元としての電子黒板は「開始端末」と表され、要求先である宛先(中継先)としての電子黒板は「宛先端末」と表されている。図1では、電子黒板1aが開始端末として、電子黒板1bが宛先端末として表されている。ただし、電子黒板1bからビデオ会議の開始を要求する場合は、電子黒板1bが開始端末となり、電子黒板1aが宛先端末となる。なお、各電子黒板1a,1bは、複数の事業所間での通信や、同じ事業所内の異なる部屋間での通信だけでなく、同じ部屋内での通信や、屋外と屋内または屋外と屋外での通信で使われてもよい。
中継装置3は、コンピュータによって構成され、複数の電子黒板1a,1b間で、通話用のコンテンツデータを中継する処理を行なう。
通信管理装置5は、コンピュータによって構成され、電子黒板1a,1bからのログイン認証、電子黒板1a,1bの通信状況の管理、宛先リストの管理、および中継装置3の通信状況等を一元的に管理する。また、通信管理装置5は、複数の電子黒板1a,1b間で、共有用のストロークデータを中継する。
画像保存装置7は、コンピュータによって構成され、電子黒板1aからアップロードされた共有用の資料画像の画像データを保存して、電子黒板1bにダウンロードする。また、この逆も実行される。すなわち、画像保存装置7は、電子黒板1bからアップロードされた画像データを保存して、電子黒板1aにダウンロードする。
なお、中継装置3、通信管理装置5および画像保存装置7は、それぞれが単一のコンピュータによって構築されてもよいし、各装置の各部(機能または手段)を分割して任意に割り当てられた複数のコンピュータによって構築されていてもよい。ここで、通信管理装置5と画像保存装置7は、複数の電子黒板1a,1b間で共有されるデータを管理するサーバシステム6を構成する。このサーバシステム6は、通信管理装置5および画像保存装置7の各部(機能または手段)を備える単一のコンピュータによって構成されてもよい。また、画像保存装置7は、通信管理装置5に変わり、複数の電子黒板1a,1b間で、共有用のストロークデータを中継する構成であってもよい。
また、通信システムにおいて、電子黒板1a,1bとの間では、通信管理装置5を介して、各種の管理情報を送受信するための管理情報用セッションseiが確立される。また、電子黒板1a,1bとの間では、中継装置3を介して、高解像度の拠点画像データ、中解像度の拠点画像データ、低解像度の拠点画像データ、および音データの4つの各データを送受信するための4つのセッションが確立される。図1では、これら4つのセッションをまとめて、画像・音データ用セッションsedとして示している。なお、画像・音データ用セッションsedは、必ずしも4つのセッションである必要はなく、4つのセッション数より少ないまたは多いセッション数であってもよい。また、開始端末と宛先端末との間で、中継装置3を介さずに、直接、通信セッションを確立してもよい。さらに、通信システムにおいて、通信管理装置5が中継装置3の機能を有しており、通信管理装置5を介して電子黒板1a,1bとの間の画像・音データ用セッションsedが確立されてもよい。
さらに、通信システムにおいて、電子黒板1a,1bとの間では、管理情報用セッションseiを利用して、ストロークデータの送受信を行うことができる。
ここで、本実施形態で扱われる拠点画像データの画像の解像度について説明する。低解像度の拠点画像データは、例えば、横が160画素、縦が120画素から成り、ベース画像となる。中解像度の拠点画像データは、横が320画素、縦が240画素から成る。高解像度の拠点画像データは、例えば、横が640画素、縦が480画素から成る。このうち、狭帯域経路を経由する場合には、ベース画像となる低解像度の拠点画像データのみから成る低画質の画像データが中継される。帯域が比較的広い場合には、ベース画像となる低解像度の拠点画像データ、および中解像度の拠点画像データから成る中画質の画像データが中継される。また、帯域が非常に広い場合には、ベース画像となる低解像度の拠点画像データ、中解像度の拠点画像データ、および高解像度の拠点画像データから成る高画質の画像データが中継される。音データは、拠点画像データに比べてデータ量が少ないため、狭帯域経路であっても中継される。
●電子黒板の使用イメージ
図2は、実施形態に係る電子黒板の使用イメージについて説明するための図である。電子黒板1は、図2に示されているように、電子黒板1は、下部側に複数のキャスタが設けられた脚部151、脚部151の上部側に設けられた支柱152、支柱152上部側に設けられた電子黒板1の本体153、および本体153の前面に設けられたディスプレイ180によって構成されている。本体153には、後述のCPU101等が内蔵されている。そして、利用者は、電子ペン190を用いて、ディスプレイ180に文字等のストローク画像を入力(描画)することができる。
●ハードウエア構成●
次に、図3および図4を用いて、通信システムを構成する各装置または端末のハードウエア構成について説明する。なお、図3および図4に示されているハードウエア構成は、必要に応じて構成要素が追加または削除されてもよい。
●電子黒板のハードウエア構成
図3は、実施形態に係る電子黒板のハードウエア構成の一例を示す図である。図3に示されているように、電子黒板1は、CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、SSD(Solid State Drive)104、ネットワークI/F(Interface)105、および外部機器接続I/F106を備えている。
これらのうち、CPU101は、電子黒板1全体の動作を制御する。ROM102は、CPU101やIPL(Initial Program Loader)等のCPU101の駆動に用いられるプログラムを記憶する不揮発性のメモリである。RAM103は、CPU101のワークエリアとして使用される揮発性のメモリである。SSD104は、電子黒板用のプログラム等の各種データを記憶する大容量の記憶装置である。ネットワークI/F105は、電子黒板1を通信ネットワーク100に接続し、通信を行うための通信インターフェースである。外部機器接続I/F106は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USB(Universal Serial Bus)メモリ130、外付け機器(マイク140、スピーカ150、カメラ160)である。
また、電子黒板1は、キャプチャデバイス111、GPU(Graphics Processing Unit)112、ディスプレイコントローラ113、接触センサ114、センサコントローラ115、電子ペンコントローラ116、近距離通信回路119、近距離通信回路119のアンテナ119a、電源スイッチ122および選択スイッチ類123を備えている。
これらのうち、キャプチャデバイス111は、外付けのPC170のディスプレイ等に対して画像データ(画像情報)を静止画または動画として表示させる。GPU112は、グラフィクスを専門に扱う半導体チップ(プロセッサ)である。ディスプレイコントローラ113は、GPU112からの出力画像をディスプレイ180等へ出力するために画面表示の制御および管理を行う。接触センサ114は、ディスプレイ180上に電子ペン190や利用者の手H等が接触したことを検知する。センサコントローラ115は、接触センサ114の処理を制御する。接触センサ114は、赤外線遮断方式による座標の入力および座標の検出を行う。この座標の入力および座標の検出する方法は、ディスプレイ180の上側両端部に設置された2つ受発光装置が、ディスプレイ180に平行して複数の赤外線を放射し、ディスプレイ180の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。接触センサ114は、物体によって遮断された2つの受発光装置が放射した赤外線のIDをセンサコントローラ115に出力し、センサコントローラ115が、物体の接触位置である座標位置を特定する。電子ペンコントローラ116は、電子ペン190と通信することで、ディスプレイ180へのペン先のタッチやペン尻のタッチの有無を判断する。近距離通信回路119は、NFC(Near Field Communication)やBluetooth(登録商標)等の通信回路である。電源スイッチ122は、電子黒板1の電源のON/OFFを切り換えるためのスイッチである。選択スイッチ類123は、例えば、ディスプレイ180の表示の明暗や色合い等を調整するためのスイッチ群である。
さらに、電子黒板1は、バスライン110を備えている。バスライン110は、図3に示されているCPU101等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
なお、接触センサ114は、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネル等の種々の検出手段を用いてもよい。また、電子ペンコントローラ116が、電子ペン190のペン先およびペン尻だけでなく、電子ペン190の利用者が握る部分や、その他の電子ペンの部分のタッチの有無を判断するようにしてもよい。
●通信管理装置、中継装置、および画像保存装置のハードウエア構成
図4は、実施形態に係る通信管理装置、中継装置および画像保存装置のハードウエア構成の一例を示す図である。通信管理装置5の一例としてのコンピュータは、CPU501、ROM502、RAM503、HD(Hard Disk)504、HDD(Hard Disk Drive)コントローラ505、ディスプレイ506、外部機器接続I/F(Interface)508、ネットワークI/F509、キーボード511、ポインティングデバイス512、DVD−RW(Digital Versatile Disk ReWritable)ドライブ514、メディアI/F516、およびバスライン510を備えている。
これらのうち、CPU501は、通信管理装置5全体の動作を制御する。ROM502は、IPL等のCPU501の駆動に用いられるプログラムを記憶する不揮発性のメモリである。RAM503は、CPU501のワークエリアとして使用される揮発性のメモリである。HD504は、通信管理用プログラム等の各種データを記憶する大容量の記憶装置である。HDDコントローラ505は、CPU501の制御にしたがってHD504に対する各種データの読み出しまたは書き込みを制御する。ディスプレイ506は、カーソル、メニュー、ウィンドウ、文字、または画像等の各種情報を表示する。外部機器接続I/F508は、各種の外部機器を接続するためのインターフェースである。ネットワークI/F509は、インターネット等の通信ネットワーク100を利用してデータ通信をするためのインターフェースである。キーボード511は、文字、数値、各種指示等の入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス512は、各種指示の選択や実行、処理対象の選択、カーソルの移動等を行う入力手段の一種である。DVD−RWドライブ514は、DVD−RW513に対するデータの読み出しまたは書き込み(記憶)を制御する。なお、DVD−RW513は、DVD−R等であってもよい。また、DVD−RWドライブ514は、BD−RE(Blu-ray(登録商標) Disc Rewritable)またはCD−RW(Compact Disc-ReWritable)等のディスクに対するデータの読み出しまたは書き込み(記憶)を制御するブルーレイドライブまたはCD−RWドライブ等であってもよい。メディアI/F516は、フラッシュメモリ等の記録メディア515に対するデータの読み出しまたは書き込み(記憶)を制御する。また、バスライン510は、図4に示されているCPU501等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
また、中継装置3は、一般的なコンピュータによって構築されており、図6に示されているように、CPU301、ROM302、RAM303、HD304、HDDコントローラ305、ディスプレイ306、外部機器接続I/F308、ネットワークI/F309、キーボード311、ポインティングデバイス312、DVD−RWドライブ314、メディアI/F316およびバスライン310を備えている。これらは、それぞれ通信管理装置5におけるCPU501、ROM502、RAM503、HD504、HDDコントローラ505、ディスプレイ506、外部機器接続I/F508、ネットワークI/F509、キーボード511、ポインティングデバイス512、DVD−RWドライブ514、メディアI/F516、およびバスライン510と同様の構成であるため、説明を省略する。ただし、中継装置3の場合は、HD304に中継用プログラムが記憶されている。
さらに、画像保存装置7は、一般的なコンピュータによって構築されており、図6に示されているように、CPU701、ROM702、RAM703、HD704、HDDコントローラ705、ディスプレイ706、外部機器接続I/F708、ネットワークI/F709、キーボード711、ポインティングデバイス712、DVD−RWドライブ714、メディアI/F716およびバスライン710を備えている。これらは、それぞれ通信管理装置5におけるCPU501、ROM502、RAM503、HD504、HDDコントローラ505、ディスプレイ506、外部機器接続I/F508、ネットワークI/F509、キーボード511、ポインティングデバイス512、DVD−RWドライブ514、メディアI/F516、およびバスライン510と同様の構成であるため、説明を省略する。また、画像保存装置7の場合は、HD704に画像保存用プログラムが記憶されている。
また、上記各プログラムは、インストール可能な形式または実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。記録媒体の例として、CD−R(Compact Disc Recordable)、DVD、ブルーレイディスク、SDカード等が挙げられる。また、記録媒体は、プログラム製品(Program Product)として、国内または国外へ提供されることができる。例えば、電子黒板1は、本発明に係るプログラムが実行されることで本発明に係る表示制御方法を実現する。
●通信システムの全体構成●
続いて、図5を用いて、通信システムの全体構成について説明する。図5は、実施形態に係る通信システムのシステム構成の一例を示す図である。
図5において、電子黒板1aは拠点A、電子黒板1bは拠点Bに設置されている。例えば、拠点Aは日本の東京事業所で、拠点Bは中国の北京事業所等である。拠点Aでは利用者A1が電子黒板1aを利用し、拠点Bでは利用者B1,B2が電子黒板1bを利用しているものとする。
さらに、電子黒板1a,1b、中継装置3、通信管理装置5、および画像保存装置7は、例えば、インターネットやLAN(Local Area Network)等の通信ネットワーク100を介して、相互にデータの送受信を行なうことができる。なお、通信ネットワーク100には、有線だけでなく、Wi−Fi(登録商標)等の無線による通信が行われる箇所があってもよい。
●通信システムの機能構成●
次に、図6乃至図12を用いて、本実施形態に係る通信システムの機能構成について説明する。図6は、実施形態に係る通信システムの機能構成の一例を示す図である。なお、図6では、図5に示されている各端末、装置およびサーバのうち、後述の処理または動作に関連しているものが示されている。
●電子黒板1の機能構成
まず、図6を用いて、電子黒板1a,1bの機能構成について説明する。なお、電子黒板1aと電子黒板1bが有している機能は同様であるため、ここでは、電子黒板1が有している機能として説明する。電子黒板1は、送受信部11、受付部12、画像・音処理部13、表示制御部14、判断部15、画像処理部16、操作情報管理部17、近距離通信部18、操作実行可否判定部21および記憶・読出処理部19を有している。これら各部は、図3に示されている各構成要素のいずれかが、SSD104からRAM103上に展開されたプログラムに従ったCPU101からの命令によって動作することで実現される機能、または機能する手段である。また、電子黒板1は、図3に示されているRAM103、SSD104またはUSBメモリ130によって構築される記憶部1000を有している。
送受信部11は、図3に示されているCPU101からの命令、およびネットワークI/F105によって実現され、通信ネットワーク100を介して、他の端末、装置またはシステムと各種データ(または情報)の送受信を行う機能である。送受信部11は、例えば、開始部としての役割も果たし、他の電子黒板1と通信を開始する処理を行う。また、送受信部11は、例えば、他の電子黒板との間で、ディスプレイ180に表示させる描画画面データを、通信管理装置5を介して送受信する。送受信部11は、受信手段の一例である。受付部12は、図3に示されているCPU101からの命令、並びに接触センサ114および電子ペンコントローラ116によって実現され、利用者から電子ペン190等による各種入力を受け付ける。受付部12は、受付手段の一例である。
画像・音処理部13は、図3に示されているCPU101からの命令によって実現され、ビデオ会議機能の主な処理を行う。画像・音処理部13は、例えば、マイク140の出力信号およびカメラ160の出力信号に共づき、拠点画像データおよび音データのエンコード等のデジタル処理を行う。また、画像・音処理部13は、例えば、送受信部11で受信された拠点画像データおよび音データに基づき、画像信号を生成したり音信号を生成したりする。さらに、画像・音処理部13は、例えば、解像度の異なる拠点画像データを組み合わせる処理を行う。
表示制御部14は、図3に示されているCPU101からの命令、および図3に示されているディスプレイコントローラ113によって実現され、ディスプレイ180に画像信号等を出力するための制御を行う機能である。表示制御部14は、例えば、画像処理部16によって生成された描画画面データに係る描画画面を、ディスプレイ180に表示させる。表示制御部14は、表示制御手段の一例である。判断部15は、図3に示されているCPU101からの命令によって実現され、各種判断を行う機能である。
画像処理部16は、図3に示されているCPU101からの命令、およびキャプチャデバイス111によって実現され、電子黒板機能の主な処理を行う機能である。画像処理部16は、例えば、受付部12によって受け付けられた電子ペン190等のストロークに基づいてストロークデータおよびストローク画像を生成する。また、画像処理部16は、例えば、送受信部11によって受信されたストロークデータに基づいてストローク画像を生成する。さらに、画像処理部16は、例えば、生成したストローク画像を含む描画画面データを生成する。
操作情報管理部17は、図3に示されているCPU101からの命令によって実現され、電子黒板1に表示された描画画面に対して実行された操作に関する操作情報を管理する機能である。操作情報管理部17は、例えば、電子黒板1によって実行された操作毎の操作情報を、操作情報管理DB1003に記憶させて管理する。
近距離通信部18は、図3に示されているCPU101からの命令、並びに近距離通信回路119およびアンテナ119aによって実行され、ICカードやスマートフォン等の近距離通信部を有する各端末との間で、近距離無線通信により、データの取得および提供を行なう機能である。
操作実行可否判定部21は、図3に示されているCPU101からの命令によって実現され、電子黒板1によって受け付けられた操作実行要求に係る特定の操作の実行可否を判定する機能である。操作実行可否判定部21は、例えば、操作情報管理DB1003に記憶された操作情報に基づいて、操作実行要求に係る操作対象に対するUndo処理またはRedo処理が実行可能かどうかを判定する。操作実行可否判定部21は、判定手段の一例である。
記憶・読出処理部19は、図3に示されているCPU101からの命令によって実行され、記憶部1000に各種データを記憶させ、または記憶部1000から各種データを読み出す機能である。記憶部1000には、他の端末との通信を行う際に受信される拠点画像データおよび音データが、受信される度に上書き記憶される。このうち、上書きされる前の拠点画像データによってディスプレイ180に画像が表示され、上書きされる前の音データによってスピーカ150から音声が出力される。さらに、記憶部1000には、ディスプレイ180に描画されたストローク画像に係るストロークデータ、およびディスプレイ180に表示された資料画像に係る資料画像データが記憶される。
○描画画面情報
図7は、実施形態に係る描画画面情報の一例を概略的に説明するための図である。図7は、描画画面管理DB1001に記憶されている電子黒板1に表示される描画画面の状態の一例のイメージを示している。
図7の例では、描画画面は、「会議」、「ページ(ページ1〜3)」、「ストローク(ストローク1〜5)」の階層構造を有している。「ストローク」は、実施形態に係るストロークデータに対応しており、「ページ」毎に管理されている。また、「ページ」とは、ディスプレイ180に表示された1ページの画像(表示画像)を示す。「ページ」を表すページデータには、対応するページに表示されているストロークデータおよび資料画像の画像データ等が含まれている。例えば、ストローク1には、ストローク1を識別するストロークID(id=sr001)、親となるページ1を特定する情報(parent=pag01)、描画データ1を識別するgid「g001」、および描画データ1等が含まれている。例えば、ストローク1が表すストローク画像に対して、移動等の操作が行われると、ストロークID(id=sr001)は、そのまま引き継がれるが、描画データ1と描画データ1を識別するgid「g001」は、更新される。描画データ1は、ストローク1を再現するための描画データである。描画データ1には、例えば、座標データ、線の幅データ、線の色データ、およびベクトルデータ等が含まれている。
電子黒板1は、ページの切り替えが可能であり、「ページ」は、電子黒板1の各ページに対応している。例えば、ページ1には、ページ1を識別するページID(id=pag01)、および親となる「会議」を特定するための情報(parent=mt01)等の情報が含まれている。
「会議」は、通信システムが管理するセッションに対応しており、例えば、セッションを識別するセッションID(id=se01)等によって管理されている。例えば、電子黒板1の画像処理部16は、ストローク1〜5に含まれている描画データ1〜5を用いて、ページ1に描画されたストローク画像を生成することができる。
○操作情報
ここで、図8および図9を用いて、電子黒板1で実行された描画画面に対する操作を示す操作情報について説明する。図8は、実施形態に係る操作情報管理DBの一例を概略的に説明するための図である。操作情報管理DB1003には、電子黒板1に表示される描画画面に対して実行された操作を示す操作情報が、実行された操作の種別毎のスタックに記憶されている。操作情報管理DB1003には、描画画面に対するUndo処理が実行可能な操作を記憶するUndoスタック、および描画画面に対するRedo処理が実行可能な操作を記憶するRedoスタックが構築されている。ここで、Undoとは、描画画面に対して直前に実行された操作を取り消すことで、それ以前の描画画面の状態に戻す操作である。また、Redoとは、Undo操作によって取り消された操作をやり直して、描画画面を取り消し前の状態に戻す操作である。図8に示されている操作情報管理DB1003は、例えば、描画画面に3つのストロークが描画されることによって、操作1〜操作3の操作が実行された場合のUndoスタックおよびRedoスタックの状態を示す。UndoスタックおよびRedoスタックには、自らの端末(電子黒板)によって実行された操作に係る操作情報のみが記憶されている。また、操作情報は、電子黒板1によって該当する操作が実行された順で、各スタックに上から一列に蓄積される。操作情報管理DB1003は、記憶手段の一例である。
図9は、実施形態に係る操作情報の一例を概略的に説明するための図である。図9に示されている操作情報は、図8に示されている操作3に対応する操作情報である。操作情報には、ストロークデータを識別するためのストロークID(Id)、ストロークデータが描画されたページを識別するためのページID(DistId)、描画画面に対して実行された操作の種類を示す操作種別情報(Operation Type)、操作対象となるデータの種別を示すデータ種別情報(Data Type)、操作対象となるデータの内容を示すデータ詳細情報(Date)が含まれている。このうち、操作種別情報には、描画画面に含まれているストロークやページに対して、利用者によって実行された操作の種類が示されている。例えば、操作対象がストロークである場合において、操作種別情報は、ストロークが描画されたときには「Add(追加)」、ストロークが削除されたときには「Remove(削除)」、ストロークが移動されたときには「Update」が示される。また、データ種別情報には、操作対象がストロークである場合には「Stroke」、ページである場合には「Page」が示される。さらに、操作対象がストロークである場合において、データ詳細情報は、ストロークデータに対応し、座標データ、線の幅データ、線の色データ等の情報が含まれる。データ詳細情報は、後述する描画画面情報管理テーブル(図12参照)に示されているbodyの情報に対応している。なお、操作対象となるデータは、ストロークまたはページ単位に限られず、複数のストロークの集合であるオブジェクト単位であってもよい。このオブジェクトには、ストロークが文字もしくは数値等の記号としてOCR(Optical Character Reader)処理されたテキスト、日付もしくは時刻等のシステム生成文字、三角形、星もしくは円形等の予め定められた図形、または矢印、線分もしくはベジェ曲線等の線等が含まれる。
●中継装置の機能構成
続いて、図6を用いて、中継装置3の機能構成について説明する。中継装置3は、転送部を兼ねた送受信部31、判断部35および記憶・読出処理部39を有している。これら各部は、図4に示されている各構成要素のいずれかが、HD304からRAM303上に展開された中継用プログラムに従ったCPU501からの命令によって動作することで実現される機能、または機能する手段である。また、中継装置3は、図4に示されているRAM303、HD304または記録メディア315によって構築される記憶部3000を有している。
送受信部31は、図4に示されているCPU301からの命令、およびネットワークI/F309によって実現され、通信ネットワーク100を介して、他の端末、装置またはシステムと各種データ(または情報)の送受信を行う機能である。また、送受信部31は、転送部としての役割も果たし、所定の端末ら送信されて来た拠点画像データおよび音データを、他の端末に転送する。判断部35は、図4に示されているCPU301からの命令によって実現され、データの遅延状態等の判断等の各種判断を行なう機能である。
記憶・読出処理部39は、図4に示されているCPU301からの命令によって実行され、記憶部3000に各種データを記憶させ、または記憶部3000に記憶された各種データを読み出す機能である。
●通信管理装置の機能構成
続いて、図6を用いて、通信管理装置5の機能構成について説明する。通信管理装置5は、送受信部51、認証部52、判断部53、端末管理部54、セッション管理部55、中継装置管理部56、描画画面情報管理部57および記憶・読出処理部59を有している。これら各部は、図4に示されている各構成要素のいずれかが、HD504からRAM503上に展開された通信管理用プログラムに従ったCPU501からの命令によって動作することで実現される機能または機能する手段である。また、通信管理装置5は、図4に示されているRAM503、HD504または記録メディア515によって構築される記憶部5000を有している。
送受信部51は、図4に示されているCPU501からの命令、およびネットワークI/F509によって実現され、通信ネットワーク100を介して、他の端末または装置と各種データ(または情報)の送受信を行う機能である。送受信部51は、例えば、電子黒板1に対して、他の電子黒板1から送信されたストロークデータの送受信を行う。
認証部52は、図4に示されているCPU501からの命令によって実現され、ログイン要求元の認証を行う機能である。認証部52は、送受信部51によってログイン要求情報を受信した場合、認証管理DB5001を用いて、ログイン要求元の認証処理を実行する。判断部53は、図4に示されているCPU501からの命令によって実現され、各種判断を行う機能である。
端末管理部54は、図4に示されているCPU501からの命令によって実現され、電子黒板1の状態に応じて、端末管理DB5002で管理されている電子黒板1に関する各種情報を管理する機能である。端末管理部54は、例えば、端末管理DB5002における稼動状態、受信日時、端末のIPアドレス等の情報を更新する。また、端末管理部54は、宛先リスト管理DB5003を管理し、電子黒板1からの要求に応じて、宛先リスト管理DB5003で管理されている宛先端末の端末IDを含む宛先リスト情報を提供する。
セッション管理部55は、図4に示されているCPU501からの命令によって実現され、通信システムで開催されるセッションを管理する機能である。セッション管理部55は、例えば、電子黒板1から通信の開始を要求する開始要求情報に応じて、セッションを識別するためのセッションIDを生成する。また、セッション管理部55は、例えば、セッションIDに対応づけて、セッションに関する各種情報をセッション管理DB5004に記憶させて管理する。
中継装置管理部56は、図4に示されているCPU501からの命令によって実現され、複数の中継装置3からセッションの中継に用いる中継装置3を選択する機能である。中継装置管理部56は、例えば、中継装置管理DB5005を管理し、中継装置管理DB5005に記憶されている各中継装置3に関する各種情報を用いて、中継装置3を選択する。中継装置管理部56は、例えば、中継装置管理DB5005に記憶されている各中継装置3のIPアドレスと、開始端末のIPアドレスとから、開始端末の近くにある中継装置3を選択する。また、中継装置管理部56は、例えば、中継装置管理DB5005に記憶されている各中継装置3の最大データ伝送速度等に基づいて、中継装置3を選択する。なお、本実施形態では、セッションの中継に用いる中継装置3の選択方法は任意の方法であって良い。また、通信システムが有する中継装置3の数は、一つであってもよい。
描画画面情報管理部57は、図4に示されているCPU501からの命令によって実現され、各電子黒板1(通信端末)の間で送受信される描画画面に関する各種データを管理する機能である。描画画面情報管理部57は、例えば、セッションに参加している電子黒板1から、セッションseiで送信されるストロークデータを、セッションIDと関連づけて、描画画面情報管理DB5006に記憶して管理する。
記憶・読出処理部59は、図4に示されているCPU501からの命令によって実行され、記憶部5000に各種データを記憶させ、または記憶部5000に記憶された各種データを読み出す機能である。
○認証管理テーブル
図10(A)は、実施形態に係る認証管理テーブルの一例を示す概念図である。記憶部5000には、図10(A)に示されているような認証管理テーブルによって構成されている認証管理DB5001が構築されている。この認証管理テーブルでは、通信管理装置5によって管理される全ての電子黒板1の各端末IDに対して、各パスワードが関連づけられて管理される。例えば、図10(A)に示されている認証管理テーブルにおいて、電子黒板1a(通信端末)の端末IDは「01aa」で、パスワードは「aaaa」であることが示されている。なお、パスワードは認証情報の一例であり、認証情報にはアクセストークンも含まれる。
○端末管理テーブル
図10(B)は、実施形態に係る端末管理テーブルの一例を示す概念図である。記憶部5000には、図10(B)に示されているような端末管理テーブルによって構成されている端末管理DB5002が構築されている。この端末管理テーブルでは、各電子黒板1(通信端末)を識別するための端末ID毎に、各電子黒板1を宛先とした場合の宛先名、各電子黒板1の稼動状態、後述のログイン要求情報が通信管理装置5で受信された受信日時、および各電子黒板1(通信端末)のIPアドレスが関連づけられて管理される。例えば、図10(B)に示されている端末管理テーブルにおいて、端末IDが「01aa」の電子黒板1aは、端末名が「日本 東京事業所 AA端末」で、稼動状態が「ONライン(通信可能)」で、通信管理装置5でログイン要求情報が受信された日時が「2019年2月10日の13時40分」で、この端末1aaのIPアドレスが「1.2.1.3」であることが示されている。なお、端末ID、宛先名、および端末のIPアドレスは、各電子黒板1が、通信管理装置5によるサービスの提供を受けるために事前登録する際に記憶される。
○宛先リスト管理テーブル
図11(A)は、実施形態に係る宛先リスト管理テーブルの一例を示す概念図である。記憶部5000には、図11(A)に示されているような宛先リスト管理テーブルによって構成されている宛先リスト管理DB5003が構築されている。この宛先リスト管理テーブルでは、通信の開始を要求する電子黒板1(開始端末)の端末IDに対して、電子黒板1(宛先端末)の候補として登録されている宛先端末の端末IDが全て関連づけられて管理される。例えば、図11(A)に示されている宛先リスト管理テーブルにおいて、端末IDが「01aa」である開始端末(電子黒板1a)から通信の開始を要求することができる宛先端末の候補は、端末IDが「01ba」の電子黒板1b等であることが示されている。この宛先端末の候補は、任意の開始端末から通信管理装置5に対する追加または削除の要請により、追加または削除されることで更新される。
なお、宛先リストは、宛先情報の一例であり、宛先情報には、リスト形式になっておらず、端末ID等の宛先に関する情報が羅列されていてもよい。
○セッション管理テーブル
図11(B)は、実施形態に係るセッション管理テーブルの一例を示す概念図である。記憶部5000には、図11(B)に示されているようなセッション管理テーブルによって構成されているセッション管理DB5004が構築されている。このセッション管理テーブルでは、各電子黒板1(通信端末)と中継装置3との間で相互通信を行なうためのセッションを識別するためのセッションID毎に、使用される中継装置3の中継装置ID、電子黒板1(開始端末)の端末ID、電子黒板1(宛先端末)の端末ID、宛先端末において拠点画像データが受信される際の受信の遅延時間(ms)、およびこの遅延時間が示されている遅延情報を宛先端末から送られて来て通信管理装置5で受信された受信日時が関連づけられて管理される。例えば、図11(B)に示されているセッション管理テーブルにおいて、セッションID「se01」を用いて実行された通信セッションで、中継装置(中継装置ID「111a」)は、端末IDが「01aa」の電子黒板と、端末IDが「01db」の電子黒板との間で、拠点画像データおよび音データを中継しており、電子黒板(宛先端末)において「2019年2月10日の13時41分」時点における拠点画像データの遅延時間が200(ms)であることが示されている。
○中継装置管理テーブル
図11(C)は、実施形態に係る中継装置管理テーブルの一例を示す概念図である。記憶部5000には、図11(C)に示されているような中継装置管理テーブルによって構成されている中継装置管理DB5005が構築されている。この中継装置管理テーブルでは、中継装置3の中継装置ID毎に、各中継装置3の稼動状態、稼動状態が示される状態情報が通信管理装置5で受信された受信日時、中継装置3のIPアドレス、および、中継装置3における最大データ伝送速度(Mbps)が関連づけられて管理される。例えば、図11(C)に示されている中継装置管理テーブルにおいて、中継装置IDが「111a」の中継装置3は、稼動状態が「ONライン」で、通信管理装置5で状態情報が受信された日時が「2019年2月10日の13時30分」で、この中継装置3のIPアドレスが「1.2.1.2」で、この中継装置3における最大データ伝送速度が100Mbpsであることが示されている。
○描画画面情報管理テーブル
図12は、実施形態に係る描画画面情報管理テーブルの一例を示す概念図である。記憶部5000には、図12に示されているような描画画面情報管理テーブルによって構成されている描画画面情報管理DB5006が構築されている。この描画画面情報管理テーブルには、各電子黒板1(通信端末)と中継装置3との間で相互通信を行なうためのセッションを識別するためのセッションID毎に、電子黒板1の間で共有される描画画面に関する各種データが記憶されて管理されている。描画画面情報管理テーブルに示されているデータは、各電子黒板1の描画画面管理DB1001に記憶されている描画画面の状態(図7参照)に対応している。
描画画面情報管理テーブルに示されているデータには、各データを識別するためのID、データに対応する処理の開始時刻および終了時刻、データの内容を示す情報(body)、並びに親となるデータを特定するための情報(parent)が含まれている。例えば、ストロークデータの場合、描画画面情報管理テーブルには、「ストローク描画」イベントによって生成されたストロークデータを識別するためのストロークID、ストロークの書き始めの時刻を示す開始時刻、ストロークの書き終わりの時刻を示す終了時刻、ストロークデータの内容を示す情報、および親となるページデータを特定するための情報が含まれている。この場合、ストロークデータの内容を示す情報(body)には、描画されたストロークの色、描画されたストロークの線の太さを示す幅、および描画されたストロークの頂点(x,y)の情報が含まれている。
ここで、「ストローク描画」は、利用者による描画情報の入力処理であり、例えば、利用者が電子ペン190をディスプレイ180に押し付け、この状態で電子ペン190を移動させ、ディスプレイ180から電子ペン190を離すまでのイベントである。また、ストロークの色は、RGBA(Red Green Blue Alpha)のデータ形式で、各要素が0−255の数値で表される。さらに、描画されたストロークの線の太さの幅は、ピクセル数で表される。また、描画されたストロークの頂点は、XY座標で表され、それぞれの頂点をベジェ曲線で結ぶとストロークを示す線分となる。この描画画面情報管理テーブルにより、通信管理装置5は、特定の通信セッションを用いたビデオ会議等によって発生したストロークデータを含む描画画面に関する各種データを管理することができる。
●画像保存装置の機能構成
次に、図6を用いて、画像保存装置7の機能構成について説明する。画像保存装置7は、送受信部71、および記憶・読出処理部79を有している。これら各部は、図4に示されている各構成要素のいずれかが、HD704からRAM703上に展開された画像保存用プログラムに従ったCPU701からの命令によって動作することで実現される機能、または機能する手段である。また、画像保存装置7は、図4に示されているRAM703、HD704または記録メディア715によって構築される記憶部7000を有している。
送受信部71は、図4に示されているCPU701からの命令、およびネットワークI/F709によって実現され、通信ネットワーク100を介して、他の端末または装置と各種データ(または情報)の送受信を行う機能である。記憶・読出処理部79は、図4に示されているCPU701からの命令によって実行され、記憶部7000に各種データを記憶させ、または記憶部7000に記憶された各種データを読み出す機能である。
●実施形態の処理または動作●
続いて、図13乃至図24を用いて、本実施形態に係る通信システムにおける処理または動作を説明する。
●遠隔通信の準備段階の処理
まず、図13および図14を用いて、ログイン要求端末としての電子黒板1aが行なう通信の準備処理を説明する。図13は、電子黒板間で遠隔通信を開始する準備段階の処理の一例を示すシーケンス図である。図14は、電子黒板に表示される宛先リスト画面の一例を示す図である。なお、電子黒板1bがログイン共有を行う処理も電子黒板1aの処理と同様であるため、説明を省略する。
まず、電子黒板1aで電源スイッチ122がONされると、受付部12aが、電源ONを受け付ける(ステップS11)。
次に、送受信部11aは、通信ネットワーク100を介して、通信管理装置5へログイン認証の要求を示すログイン要求情報を送信する(ステップS12)。このログイン要求情報には、電子黒板1aの端末IDおよびパスワードが含まれている。これら端末IDおよびパスワードは、記憶・読出処理部19aによって記憶部1000aから読み出されて、送受信部11aに送られたデータである。なお、これら端末IDおよびパスワードは、これに限るものではなく、利用者がキーボード等の入力手段によって入力した端末IDやパスワードが送信されてもよい。また、電子黒板1aに接続されたSIM(Subscriber Identity Module Card)カードやSDカード等の記録媒体から読み出された端末IDやパスワードが送信されてもよい。これにより、通信管理装置5の送受信部51は、電子黒板1aから送信されたログイン要求情報を受信する。
次に、通信管理装置5の認証部52は、送受信部51を介して受信したログイン要求情報に含まれている端末IDおよびパスワードを検索キーとして、認証管理テーブル(図10(A)参照)を検索する。また、認証部52は、ログイン要求情報に含まれている端末IDおよびパスワードの組み合わせが、認証管理テーブルで管理されている場合、電子黒板1aのログインを許可する(ステップS13)。ここで、ログイン要求情報に含まれている端末IDおよびパスワードの組合せが、認証管理テーブルで管理されている場合、ステップS14以降の処理が実行される。
電子黒板1aのログインが許可された場合、端末管理部54は、端末管理テーブル(図10(B)参照)において、電子黒板1aの端末ID「01aa」に対応する情報を更新する。例えば、端末管理部54は、端末ID「01aa」に対応する「稼動状態」の情報を「ONライン(通信可能)」」に変更するとともに、「受信日時」の情報を、ログイン要求情報を受信した日時に更新する(ステップS14)。なお、端末のIPアドレスの情報は、事前に登録されているのではなく、上記ステップS12で電子黒板1aから送信されたIPアドレスを用いるようにしても良い。これにより、端末管理テーブルには、例えば、図10(B)に示されているように端末ID「01aa」に、稼動状態「ONライン(通信可能)」、受信日時「2019.2.10.13:40」およびIPアドレス「1.2.1.3」が関連づけて管理されることになる。
次に、セッション管理部55は、ステップS12によって受信された電子黒板1aの端末ID「01aa」を、「開始端末の端末ID」とする新しいレコードを、セッション管理テーブル(図11(B)参照)に追加して管理する(ステップS15)。そして、送受信部51は、ステップ13の処理によって得られた認証結果が示された認証結果情報を、通信ネットワーク100を介して、上記ログイン要求してきた電子黒板1aへ送信する(ステップS16)。
電子黒板1a(ログイン要求端末)の送受信部11aは、ログインが許可されたことを示す認証結果情報を受信すると、通信ネットワーク100を介して通信管理装置5へ、宛先リストを要求する旨が示された宛先リスト要求情報を送信する(ステップS17)。これにより、通信管理装置5の送受信部51は、宛先リスト要求情報を受信する。
次に、端末管理部54は、電子黒板1a(ログイン要求端末)の端末ID「01aa」を検索キーとして、宛先リスト管理テーブル(図11(A)参照)を検索し、電子黒板1aと通信することができる宛先候補の端末IDを読み出す。また、端末管理部54は、端末管理テーブル(図10(B))から、宛先候補の端末IDに対応する宛先名を読み出す(ステップS18)。ここでは、電子黒板1aの端末ID「01aa」に対応する宛先候補のそれぞれの端末IDと、これらに対応する宛先名が抽出される。
次に、送受信部51は、記憶・読出処理部59を介して、例えば、記憶部5000から宛先リスト枠のデータおよび稼動状態を示すアイコンのデータ等を読み出す(ステップS19)。また、送受信部51は、読み出した宛先リスト枠およびアイコン、並びにステップS18で抽出した端末IDおよび宛先名を含めた「宛先リスト情報(宛先リスト枠、アイコン、端末ID、宛先名)」を、電子黒板1aへ送信する(ステップS20)。これにより、電子黒板1aは、送受信部11aが宛先リスト情報を受信し、記憶・読出処理部19aが記憶部1000aに、受信した宛先リスト情報を記憶する(ステップS21)。
このように、本実施形態では、各端末で宛先リスト情報を管理するのではなく、通信管理装置5が全ての端末の宛先リスト情報を一元管理している。よって、通信システムに新たな電子黒板1が含まれるようになったり、既に含まれている端末に替えて新機種の端末を含めるようになったり、宛先リスト枠の見栄え等を変更することになった場合でも、本実施形態に係る通信システムは、通信管理装置5側で一括して対応するため、各端末側で宛先リスト情報の変更を行う手間を省くことができる。
また、端末管理部54は、ステップ18で抽出した宛先候補の端末IDを検索キーとして、端末管理テーブル(図10(B)参照)を検索し、宛先候補の端末ID毎に、対応する稼動状態を読み出す。これにより、端末管理部54は、宛先候補の端末IDに対応する各電子黒板1の各稼動状態を取得する(ステップS22)。
次に、送受信部51は、ステップS22で検索キーとして使用された端末IDと、対応する各宛先端末の稼動状態とが含まれた「端末の状態情報」を、通信ネットワーク100を介して、電子黒板1aに送信する(ステップS23)。
次に、電子黒板1aの記憶・読出処理部19aは、順次、通信管理装置5から受信した端末の状態情報を記憶部1000aに記憶する(ステップS24)。よって、電子黒板1aは、上記各電子黒板の状態情報を受信することで、電子黒板1aと通信することができる宛先候補である電子黒板1b等の現時点のそれぞれの稼動状態を取得することができる。
次に、表示制御部14aは、記憶部1000aに記憶されている宛先リスト情報、および端末の状態情報に基づいて、宛先候補としての端末の状態を反映させた宛先リストを作成する。また、表示制御部14aは、作成した宛先リストを用いて、電子黒板1aのディスプレイ180に対して、図14に示されているような宛先リスト画面800を表示させる(ステップS25)。この宛先リスト画面800には、宛先候補毎に、稼動状態を示すアイコン、端末ID、および宛先名が表示されている。図14では、各端末の稼動状態を示したアイコンが、上から「OFFライン」、「ONライン(通信可能)」として表示されている。
一方、通信管理装置5の端末管理部54は、電子黒板1aの端末ID「01aa」に基づいて宛先リスト管理テーブル(図11(A)参照)を検索することにより、電子黒板1aを宛先候補として登録している他の端末の端末IDを抽出する(ステップS26)。図11(A)に示されている宛先リスト管理テーブルでは、読み出される他の端末の端末IDは、「01ba」、「01ca」、「01da」等である。
次に、端末管理部54は、電子黒板1aの端末ID「01aa」に基づいて端末管理テーブル(図10(B)参照)を検索し、電子黒板1aの稼動状態を取得する(ステップS27)。
そして、送受信部51は、ステップS26で抽出された端末IDに係る端末のうち、端末管理テーブル(図10(B)参照)で稼動状態が「ONライン」となっている端末に、ステップS27で取得された電子黒板1aの端末ID「01aa」と稼動状態「ONライン」が含まれる「端末の状態情報」を送信する(ステップS28)。なお、送受信部51が電子黒板1bに端末の状態情報を送信する際に、各端末IDに基づいて、端末管理テーブル(図10(B)参照)で管理されている電子黒板のIPアドレスを参照する。これにより、電子黒板1aを宛先候補として通信することができる他の宛先端末のそれぞれに、電子黒板1aの端末ID「01aa」、および稼動状態「ONライン」を伝えることができる。よって、宛先候補(電子黒板1b等)においても、宛先候補の状態を表示させることができる(ステップS29)。
●遠隔通信の開始処理
続いて、図15を用いて、電子黒板1aが電子黒板1bに対して遠隔通信を開始する処理を説明する。図15は、遠隔通信を開始する処理の一例を示すシーケンス図である。
まず、開始端末(電子黒板1a)の利用者A1が図14に示されている宛先候補(端末ID「01ba」)を押下して電子黒板1bを選択すると、受付部12aは、宛先端末(電子黒板1b)との通話を開始する要求を受け付ける(ステップS31)。そして、開始端末(電子黒板1a)の送受信部11aは、通信管理装置5に対して、通話を開始したい旨を示す開始要求情報を送信する(ステップS32)。この開始要求情報には、開始端末(電子黒板1a)の端末ID「01aa」、および宛先端末(電子黒板1b)の端末ID「01ba」が含まれている。これにより、通信管理装置5の送受信部51は、上記開始要求情報を受信すると共に、送信元である開始端末(電子黒板1a)のIPアドレスを受信する。
そして、端末管理部54は、開始要求情報に含まれる開始端末(電子黒板1a)の端末ID「01aa」および宛先端末(電子黒板1b)の端末ID「01ba」に基づき、端末管理テーブル(図10(B)参照)を更新する。例えば、端末管理部54は、開始要求情報に含まれる開始端末の端末ID「01aa」、宛先端末の端末ID「01ba」に基づき、端末管理テーブルにおいて、端末ID「01aa」、「01ba」に対応する「稼動状態」を「オンライン(通信中)」に更新する。なお、この状態では、開始端末である電子黒板1a、および宛先端末である電子黒板1bは、セッションに参加していないが、通信中状態として管理する(ステップS33)。なお、この状態では、開始端末(電子黒板1a)、および宛先端末(電子黒板1b)は、ビデオ会議を開始していないが、通話中状態となり、第3の電子黒板(例えば、途中参加端末)が開始端末(電子黒板1a)または宛先端末(電子黒板1b)と通話しようとする(途中参加しようとする)と、いわゆる通話中状態を示す旨の通知音または表示が出力される。
次に、実際に利用される中継装置3を選択するためのセッションを実行する処理を説明する。まず、通信管理装置5のセッション管理部55は、電子黒板1aと電子黒板1bとの間で開催されるセッションを識別するためのセッションIDを生成する(ステップS34)。ここでは、セッションID「se01」が生成された場合について説明する。
そして、セッション管理部55は、セッション管理テーブル(図11(B)参照)に、ステップS34で生成されたセッションID「se01」、開始端末(電子黒板1a)の端末ID「01aa」、および宛先端末(電子黒板1b)の端末ID「01ba」を関連づけて記憶して管理する(ステップS35)。
次に、中継装置管理部56は、開始端末(電子黒板1a)と宛先端末(電子黒板1b)との間のセッションを中継する中継装置3を選択する(ステップ36)。例えば、中継装置管理部56は、中継装置管理テーブル(図11(C)参照)において稼動状態が「ONライン」の中継装置3に係る中継装置IDのうち、端末管理テーブル(図10(B)参照)において開始端末(電子黒板1a)のIPアドレスに近いIPアドレスの中継装置3を選択する。ここでは、中継装置ID「111a」の中継装置3が選択された場合について、以降、続けて説明する。
以上のステップS36における中継装置の選択の処理が終了すると、通信管理装置5の送受信部51は、開始端末(電子黒板1a)に対して、中継装置選択情報を送信する(ステップS37−1)。この中継装置選択情報には、ステップS36によって選択された中継装置3のIPアドレス、およびステップS34によって生成されたセッションID「se01」が含まれている。これにより、開始端末(電子黒板1a)は、中継装置選択情報の送信元である通信管理装置5のIPアドレスを取得することができる。
さらに、通信管理装置5の送受信部51は、宛先端末(電子黒板1b)に対して、中継装置選択情報を送信する(ステップS37−2)。この中継装置選択情報には、ステップS36によって選択された中継装置3のIPアドレス、開始端末(電子黒板1a)の端末ID「01aa」、およびステップS34によって生成されたセッションID「se01」が含まれている。これにより、宛先端末(電子黒板1b)は、セッションID「se01」におけるセッションの実行において、中継装置選択情報の送信元である通信管理装置5のIPアドレスを取得することができる。
次に、開始端末(電子黒板1a)の送受信部11は、通信管理装置5に対して、ステップS37−1の処理により中継装置選択情報の受信が完了した旨を示す受信完了情報を送信する(ステップS38−1)。この受信完了情報には、ステップS37−1の処理で送受信されたセッションIDが含まれている。これにより、通信管理装置5は、特定のセッションID「se01」で実行されている中継装置選択情報の伝達が完了した旨を取得する。
さらに、宛先端末(電子黒板1b)は、同様に通信管理装置5へ、ステップS37−2の処理により中継装置選択情報の受信が完了した旨を示す受信完了情報を送信する(ステップS38−2)。この場合も、通信管理装置5は、特定のセッションID「se01」で実行されている中継装置選択情報の伝達が完了した旨を取得する。
以上により、電子黒板1a,1bは、上記ステップS36で選択された中継装置3を介して、拠点画像データおよび音データを送受信することで、ビデオ会議を行うことができる。
●ストローク画像の共有処理
続いて、図16を用いて、複数の電子黒板1の間において、ストローク画像を共有する処理について説明する。実施形態に係る通信システムにおいて、ビデオ会議に参加している電子黒板1aの利用者A1、および電子黒板1bの利用者B1,B2は、各電子黒板1に電子ペン190等で描画したストローク画像を共有画像として、他の電子黒板1に表示させることができる。ここでは、同じセッションに参加している電子黒板1aと電子黒板1bとの間で、ストローク画像を共有する処理の例について説明する。
図16は、実施形態に係るストロークデータの共有処理に一例を示すシーケンス図である。なお、図16に示されている処理の開始時点において、電子黒板1aと電子黒板1bは、例えば、図15に示されているセッションの開始処理により、同じセッションに参加しているものとする。また、電子黒板1aと電子黒板1bは、必要に応じて、画像保存装置7を介して、資料画像を共有し、ディスプレイ180に資料画像を表示しているものとする。
まず、利用者A1が、電子ペン190や手Hを、電子黒板1aのディスプレイ180上に接触させて描画(移動)することにより、受付部12aは、描画されたストローク(軌跡)の入力を受け付ける(ステップS51)。電子黒板1aの画像処理部16aは、受付部12aが受け付けたストロークに応じたストローク画像を表示するためのストロークデータを作成する(ステップS52)。
電子黒板1aの表示制御部14aは、画像処理部16aが作成したストロークデータに基づいて、ディスプレイ180にストローク画像を表示させる(ステップS53)。これにより、利用者A1が、ディスプレイ180に電子ペン190等で描画したストローク画像が、ディスプレイ180に表示される。
次に、電子黒板1aの送受信部11aは、利用者A1によって描画されたストローク画像を再生するためのストロークデータを、例えば、セッションseiで通信管理装置5へ送信する(ステップS54)。これにより、通信管理装置5の送受信部51は、電子黒板1aから送信されたストロークデータを受信する。
通信管理装置5の描画画面情報管理部57は、電子黒板1aから受信したストロークデータを、例えば、図12に示されているような描画画面情報管理テーブルに記憶する(ステップS55)。描画画面情報管理部57は、電子黒板1aと同じセッションに参加している電子黒板1bに、ストロークデータを転送する(ステップS56)。これにより、電子黒板1bの送受信部11bは、ストロークデータを受信する。
電子黒板1bの画像処理部16bは、送受信部11bによって受信されたストロークデータに基づいて、ストローク画像を作成する(ステップS57)。そして、表示制御部14bは、画像処理部16bによって生成されたストローク画像、すなわち、ステップS51で利用者A1が描画したストローク画像を、ディスプレイ180に表示させる(ステップS58)。
このように、同じセッションに参加している電子黒板1aと電子黒板1bの間では、ストローク画像を共有することができる。なお、電子黒板1bに対して、利用者B1または利用者B2が電子ペン190等で描画を行った場合も、同様にして、ストローク画像を電子黒板1aに表示させることができる。
●描画画面に対する操作の再実行処理
続いて、図17乃至図20を用いて、電子黒板1によって実行される基本的なUndoおよびRedo処理について説明する。図17は、実施形態に係る電子黒板において、描画画面に対する操作の再実行処理の一例を示すフローチャートである。
まず、電子黒板1の表示制御部14は、図18に示されているような描画画面200を、ディスプレイ180に表示させる(ステップS101)。図18に示されている描画画面200には、図16に示されているような処理によって描画されたストロークデータを含まれている。描画画面200は、利用者が電子ペン190等を用いて、3つのストロークを描画した場合の表示状態である。3つのストロークは、操作1、操作2、操作3の順番で描画されている。また、描画画面200には、描画内容に対するUndo処理を実行する際に押下される「Undo」ボタン201、および描画内容に対するRedo処理を実行する際に押下される「Redo」ボタン203が含まれている。
次に、電子黒板1の利用者が描画画面200に示されている「Undo」ボタン201を押下することで、受付部12は、Undo操作の実行を要求するUndo操作実行要求を受け付ける(ステップS102)。ここで、電子黒板1は、受付部12によってUndo操作実行要求が受け付けられた場合(ステップS102のYES)、処理をステップS103へ移行させる。一方で、電子黒板1は、受付部12によってUndo操作実行要求が受け付けられていない場合(ステップS102のNO)、処理をステップS105へ移行させる。
次に、表示制御部14は、受付部12によって受け付けられたUndo操作実行要求に応じてUndo処理を実行し、図19(A)に示されている描画画面210を、ディスプレイ180に表示させる(ステップS103)。図19(A)に示されている描画画面210は、描画画面200に対してUndo処理が1回実行された際に表示される表示画面である。描画画面210は、Undo処理によって、描画画面200に示されているストローク(操作1〜操作3)のうちの直前の操作である操作3が取り消され、操作3に対応するストローク画像が削除された状態である。
そして、操作情報管理部17は、実行されたUndo処理に基づいて、操作情報管理DB1003に記憶されている操作情報を更新する(ステップS104)。図19(B)は、実施形態に係る電子黒板においてUndo処理が実行された際の操作情報管理DBの状態を概略的に説明するための図である。操作情報管理部17は、Undo処理が実行されると、Undoスタックに記録されている操作3を取り出す(POPする)。この操作3は、図9に示されているように、ストロークの追加処理であるため、その逆の操作を行うために、描画画面管理DB1001に記憶されている描画画面情報の中から対応するストロークデータを検索し、そのストロークデータに対応するストローク画像を削除する。これにより、操作情報管理部17は、操作3に対するUndo処理を実現させることができる。そして、操作情報管理部17は、UNDO処理が実行されたことによって、操作3に係る操作情報をRedoスタックに記録させる(Pushする)。
続いて、電子黒板1によって実行されるRedo処理について説明する。電子黒板1の利用者が描画画面210に示されている「Redo」ボタン203を押下することで、受付部12は、Redo操作の実行を要求するRedo操作実行要求を受け付ける(ステップS105)。ここで、電子黒板1は、受付部12によってRedo操作実行要求が受け付けられた場合(ステップS105のYES)、処理をステップS106へ移行させる。一方で、電子黒板1は、受付部12によってRedo操作実行要求が受け付けられていない場合(ステップS105のNO)、処理を終了する。
次に、表示制御部14は、受付部12によって受け付けられたRedo操作実行要求に応じてRedo処理を実行し、図20(A)に示されている描画画面230を、ディスプレイ180に表示させる(ステップS106)。図20(A)に示されている描画画面230は、図19(A)に示されている描画画面210に対してRedo処理が1回実行された際に表示される表示画面である。図19(A)に示されている描画画面210は、操作3に対応するストローク画像がUndo処理によって削除された状態であるため、描画画面230は、Redo処理によって操作3に対応するストローク画像が再び描画された状態である。すなわち、描画画面230は、Redo処理によって、ステップS103によって取り消された操作3に対応するストローク画像が元に戻された状態であり、図18に示されている描画画面200と同様の描画内容となる。
そして、操作情報管理部17は、実行されたRedo処理に基づいて、操作情報管理DB1003に記憶されている操作情報を更新する(ステップS107)。図20(B)は、実施形態に係る電子黒板においてRedo処理が実行された際の操作情報管理DBの状態を概略的に説明するための図である。操作情報管理部17は、Redo処理が実行されると、Redoスタックに記録されている操作3を取り出す(POPする)。この操作3は、図9に示されているように、ストロークの追加処理であるため、同様の操作を行うために、操作3の操作情報に基づいて、画像処理部16にストローク画像を生成させ、描画画面管理DB1001に生成されたストローク画像(描画データ)を記憶させる。これにより、操作情報管理部17は、操作3に対するRedo処理を実現させることができる。そして、操作情報管理部17は、Redo処理が実行されたことによって、操作3に係る操作情報をUndoスタックに記録させる(Pushする)。
このように、電子黒板1は、操作情報管理DB1003に構築されているUndoスタックおよびRedoスタックに、描画画面に対して実行された操作に係る操作情報を記憶しておくことで、描画画面に対するUndo処理およびRedo処理を実行することができる。
●操作実行可否の判定処理
続いて、図21乃至図24を用いて、複数の電子黒板1の間で描画画面に対する操作が競合した場合における操作実行可否の判定処理について説明する。図21は、実施形態に係る通信システムにおいて、複数の電子黒板の間で操作が競合した場合における描画画面の表示処理の一例を示すシーケンス図である。図21は、先に電子黒板1aが描画画面に対する操作を行った場合の構成を示す。電子黒板1aおよび電子黒板1bのディスプレイ180には、図18に示されているような描画画面200が表示されているものとする。また、電子黒板1bは、図21に示されている処理の前に、描画画面200に示されている操作3に係るストローク画像を描画したものとして説明する。
まず、電子黒板1aの利用者A1が電子ペン190等を用いて描画画面200に示されてストローク画像を移動させることにより、受付部12aは、描画画面200に対する操作を受け付ける(ステップS71)。例えば、利用者A1は、描画画面200に示されている操作3に係るストローク画像を、図22に示されている描画画面250のように右下に移動させる。
画像処理部16aは、受付部12aによって受け付けられた操作に応じた描画画面データを生成する(ステップS72)。そして、表示制御部14aは、画像処理部16aによって生成された描画画面データに係る描画画面250(図22参照)を、ディスプレイ180に表示させる(ステップS73)。
次に、送受信部11aは、通信管理装置5に対して、受付部12aによって受け付けられた操作に対応するストロークデータを送信する(ステップS74)。これにより、通信管理装置5の送受信部51は、電子黒板1aから送信されたストロークデータを受信する。次に、通信管理装置5の描画画面情報管理部57は、送受信部11aによって受信されたストロークデータを、例えば、図11(A)に示されているような描画画面情報管理テーブルに記憶する(ステップ75)。そして、送受信部51は、電子黒板1bに対して、電子黒板1aから送信されたストロークデータを転送する(ステップS76)。これにより、電子黒板1bの送受信部11bは、通信管理装置5から送信されたストロークデータを受信する。
次に、電子黒板1bの画像処理部16bは、送受信部11bによって受信されたストロークデータに基づいて、電子黒板1bに表示させる描画画面データを生成する(ステップS77)。そして、表示制御部14bは、画像処理部16bによって生成された描画画面データに係る描画画面250(図22参照)を、ディスプレイ180に表示させる(ステップS78)。図22に示されている描画画面250は、描画画面200に示されている操作3に係るストローク画像が右下に移動した状態である。すなわち、電子黒板1bには、ステップS73によってディスプレイ180に表示されたものと同様の描画画面250が表示される。この場合、操作情報管理部17bは、操作3に係るストローク画像の移動が他の電子黒板1aによって実行された操作であるため、操作情報管理DB1003に記憶されている操作3に係る操作情報を更新しない。すなわち、電子黒板1bの操作情報管理DB1003bに構築されているUndoスタックおよびRedoスタックの状態は、図8に示されている状態と同様である。
次に、電子黒板1bの利用者B1が描画画面250に示されている「Undo」ボタン201または「Redo」ボタン203を押下することで、受付部12bは、描画画面250に対する操作の再実行を要求する操作実行要求を受け付ける(ステップS79)。以下の説明では、受付部12bによってUndo操作を要求するUndo操作実行要求が受け付けられた場合について説明する。そして、電子黒板1bの操作実行可否判定部21bは、受付部12bによって受け付けられた操作実行要求に基づいて、操作実行可否の判定処理を実行する(ステップS80)。ここで、図23を用いて、操作実行可否判定部21bによる処理の詳細を説明する。図23は、実施形態に係る電子黒板における描画画面に対する操作の実行可否の判定処理の一例を示すフローチャートである。
まず、操作実行可否判定部21bは、操作情報管理DB1003を参照し、操作実行要求に示されている操作対象が存在するかどうかを判断する(ステップS80−1)。具体的には、操作実行可否判定部21bは、操作情報管理DB1003bに構築されているUndoスタックまたはRedoスタックから操作対象である操作3に係る操作情報を読み出す。そして、操作実行可否判定部21bは、読み出した操作情報に示されているストロークIDまたはページIDによって識別される操作対象が、描画画面250上に存在するかを判断する。この場合、操作実行可否判定部21bは、描画画面250の状態を、描画画面管理DB1001bを用いて参照する。操作実行可否判定部21bは、操作対象が存在すると判断した場合(ステップS80−1のYES)、処理をステップS80−2へ移行させる。一方で、操作実行可否判定部21bは、操作対象が存在しないと判断した場合(ステップS80−1のNO)、処理をステップS80−5へ移行させる。例えば、操作対象が存在しない場合とは、操作対象となる操作3に係るストローク画像またはストローク画像が描画されたページが、他の電子黒板1aによって削除された場合である。図21に示されている処理の場合、操作3に係るストローク画像が他の電子黒板1aによって移動されたのみで、描画画面250に操作3に係るストローク画像が残っているため、操作実行可否判定部21bは、操作対象が存在すると判断する。
次に、操作実行可否判定部21bは、操作情報管理DB1003を参照し、操作実行要求に示されている操作対象が編集されているかどうかを判断する(ステップS80−2)。具体的には、操作実行可否判定部21bは、読み出した操作情報に示されているデータの内容と、描画画面管理DB1001bに記憶されている描画画面250の状態とに基づいて、操作対象である操作3のストローク画像が編集されているかを判断する。操作実行可否判定部21bは、操作対象が編集されていないと判断した場合(ステップS80−2のNO)、処理をステップS80−3へ移行させる。一方で、操作実行可否判定部21bは、操作対象が編集されていると判断した場合(ステップS80−2のYES)、処理をステップS80−5へ移行させる。例えば、操作対象が編集されている場合とは、操作対象となる操作3に係るストローク画像またはストローク画像が描画されたページに対して、他の電子黒板1aによって移動等の操作が実行された場合である。図21に示されている処理の場合、操作3に係るストローク画像が他の電子黒板1aによって移動されているため、操作実行可否判定部21bは、操作対象が編集されていると判断する。
次に、操作実行可否判定部21bは、操作情報管理DB1003を参照し、操作実行要求に示されている操作対象であるストロークを追加する先のページが存在するかどうかを判断する(ステップS80−3)。具体的には、操作実行可否判定部21bは、描画画面管理DB1001bを参照し、読み出した操作情報に示されているページIDに対応するページが、描画画面250上に存在するかを判断する。操作実行可否判定部21bは、操作対象であるストロークを追加する先のページが存在すると判断した場合(ステップS80−3のYES)、処理をステップS80−4へ移行させる。一方で、操作実行可否判定部21bは、操作対象であるストロークを追加する先のページが存在しないと判断した場合(ステップS80−3のNO)、処理をステップS80−5へ移行させる。例えば、ストロークを追加する先のページが存在しない場合とは、操作対象となる操作3に係るストローク画像が描画されたページが、他の電子黒板1aによって削除された場合である。なお、ステップS80−3の処理は、ストロークの削除等の操作に対するUndo処理によって、描画画面にストロークを追加するための処理であり、Undo処理によってストロークの追加が発生しないような場合には、ステップS80−3の処理は行われなくてもよい。
そして、操作実行可否判定部21bは、操作実行要求に示されている操作を実行できる(実行可)と判定する(ステップS80−4)。一方で、ステップS80−1の処理で操作対象が存在しないと判断された場合、ステップS80−2の処理で操作対象が編集されていると判断された場合、またはステップS80−3の処理で操作対象であるストロークを追加する先のページが存在しないと判定された場合、操作実行可否判定部21bは、操作実行要求に示されている操作を実行できない(実行不可)と判定する(ステップS80−5)。そして、画像処理部16bは、操作実行可否判定部21bによって実行不可となった理由を示すメッセージを生成する(ステップS80−6)。具体的には、画像処理部16bは、実行不可と判定された理由となるいずれかの処理(ステップS80−1の処理、ステップS80−2の処理またはステップS80−3の処理)の内容を示すメッセージを生成する。
このように、電子黒板1bは、UndoスタックまたはRedoスタックに記憶された操作情報と、ディスプレイ180に表示されている描画画面250の状態に基づいて、操作実行要求に示されている操作(Undo操作またはRedo操作)を実行できるかどうかを判定することができる。
図21に戻り、電子黒板1bの画像処理部16bは、操作実行可否判定部21bによる判定結果に基づいて、ディスプレイ180に表示させる描画画面データを生成する(ステップS81)。例えば、操作実行可否判定部21bによって操作要実行要求に示されている操作を実行できると判定された場合、画像処理部16bは、操作実行要求に示されている操作が実行された描画画面データを生成する。一方で、操作実行可否判定部21bによって操作実行要求に示されている操作を実行できないと判定された場合、画像処理部16bは、ステップS80−6で生成したメッセージを含む描画画面データを生成する。
そして、表示制御部14bは、画像処理部16bによって生成された描画画面データに係る描画画面を、ディスプレイ180に表示させる(ステップS82)。例えば、操作実行可否判定部21bによって操作実行要求に示されている操作を実行できると判定された場合、表示制御部14bは、画像処理部16bによって生成された、操作実行要求に示されている操作が実行された描画画面データに係る描画画面を、ディスプレイ180に表示させる。一方で、操作実行可否判定部21bによって操作実行要求に示されている操作を実行できないと判定された場合、表示制御部14bは、画像処理部16bによって生成された、ステップS80−6で生成したメッセージを含む描画画面データに係る描画画面を、ディスプレイ180に表示させる。
ここで、図21に示されている処理の場合においてディスプレイ180に表示される描画画面について説明する。図24は、実施形態に係る電子黒板に表示される操作実行不可画像の一例を示す図である。図24に示されている操作実行不可画像270は、ステップS78によってディスプレイ180に表示された描画画面250に重畳されて表示されている。操作実行不可画像270は、ステップS80−6によって生成されたメッセージに対応する。操作実行不可画像270には、操作実行可否判定部21bによって実行不可と判定された理由となるメッセージと、操作実行不可画像270を消去する(閉じる)場合に押下される「閉じる」ボタン275が含まれている。
図24の例では、操作実行可否判定部21bによって操作対象が編集されていることに起因して、実行不可と判定されたため、操作実行不可画像270には、「操作対象が編集されているため、Undo操作ができません。」というメッセージが示されている。また、例えば、操作実行可否判定部21bによって操作対象が存在しないことに起因して実行不可と判定された場合、操作実行不可画像270には、「操作対象が存在しないため、Undo操作ができません。」というメッセージが示されている。さらに、例えば、操作実行可否判定部21bによって操作対象であるストロークの追加する先のページが存在しないことに起因して実行不可と判定された場合、操作実行不可画像270には、「ストロークの追加先のページが存在しないため、Undo操作ができません。」というメッセージが示されている。このように、操作実行不可画像270には、実行不可と判定された理由となるいずれかの処理(ステップS80−1の処理、ステップS80−2の処理またはステップS80−3の処理)の内容を示すメッセージが示されている。これにより、電子黒板1bは、Undo操作またはRedo操作を実行できないと判定された場合、実行できない理由を利用者に通知することで、利用者の利便性を向上させることができる。
なお、操作実行不可画像270に示されているメッセージの表現および表示方法は、これに限られない。また、図21は、ステップS79によってUndo操作実行要求が受け付けられた場合の例を説明したが、電子黒板1bは、ステップS79によってRedo処理を要求する操作実行要求が受け付けられた場合においても、図23に示されているような操作実行可否の判定処理を実行し、判定結果に応じた描画画面をディスプレイ180に表示させる。さらに、上記で説明した各描画画面200,210,230,250は、ディスプレイ180に表示される表示画面の一例である。
従来、複数の電子黒板の間で表示させる描画画面を共有する場合において、一方の電子黒板の利用者が入力したストロークを他方の電子黒板の利用者が削除した後に、ストロークを入力した利用者がUndo操作を要求しても描画画面上では何も起こらない。これは、操作対象であるストロークが他方の電子黒板によって削除されたためであるが、Undo操作を要求した利用者は、その原因がわからなかった。
そこで、実施形態に係る通信システムは、電子黒板1bの利用者B1からUndo操作またはRedo操作の操作実行要求が受け付けられた場合、Undo操作またはRedo操作の実行可否を判定し、Undo操作またはRedo操作を実行できないと判定された場合、その旨と理由を利用者B1に提示する。これにより、実施形態に係る通信システムは、複数の電子黒板1a,1bとの間で共有してディスプレイ180に表示される描画画面に対してUndo操作またはRedo操作を実行する際の利便性を向上させることができる。
●まとめ●
以上説明したように、本発明の一実施形態に係る電子黒板1bは、他の通信端末(例えば、電子黒板1a)との間においてデータを共有する通信端末である。電子黒板1bは、他の通信端末との間で共有されるデータを管理する通信管理装置5から、他の通信端末に描画された描画画面(表示画面の一例)に係る描画画面データ(表示画面データの一例)を受信し、受信された描画画面データに係る描画画面をディスプレイ180(表示部の一例)に表示させる。また、電子黒板1bは、ディスプレイ180に表示された描画画面に含まれている画像(例えば、ストローク画像)に対して実行された操作に関する操作情報を記憶する。さらに、電子黒板1bは、描画画面に含まれている画像に対する特定の操作の実行を要求する操作実行要求を受け付け、記憶された操作情報に基づいて受け付けられた操作実行要求に係る特定の操作の実行可否を判定し、特定の操作を実行できないと判定された場合、特定の操作を実行できないことを示す操作実行不可画像270(メッセージの一例)を、ディスプレイ180に表示させる。これにより、電子黒板1bは、電子黒板1aとの間で共有して表示される描画画面に対して特定の操作を実行する際の利用者の利便性を向上させることができる。
また、本発明の一実施形態に係る電子黒板1b(通信端末の一例)は、描画画面に含まれている画像(例えば、ストローク画像)に対して直前に実行された操作を取り消すUndo操作の実行を要求する操作実行要求(例えば、Undo操作実行要求)を受け付け、受け付けられた操作実行要求に係るUndo操作の実行可否を判定し、Undo操作を実行できないと判定された場合、Undo操作を実行できないことを示す操作実行不可画像270(メッセージの一例)を、ディスプレイ180に表示させる。これにより、電子黒板1bは、Undo操作を実行できないと判定された場合、Undo操作を実行できない理由を利用者に通知することで、電子黒板1aとの間で共有する描画画面に対してUndo操作を実行する際の利便性を向上させることができる。
さらに、本発明の一実施形態に係る電子黒板1b(通信端末の一例)は、描画画面に含まれている画像(例えば、ストローク画像)に対して直前に実行された操作を取り消す操作によって取り消された操作を元に戻すRedo操作の実行を要求する操作実行要求(例えば、Redo操作実行要求)を受け付け、受け付けられた操作実行要求に係るRedo操作の実行可否を判定し、Redo操作を実行できないと判定された場合、Undo操作を実行できないことを示す操作実行不可画像270(メッセージの一例)を、ディスプレイ180に表示させる。これにより、電子黒板1bは、Redo操作を実行できないと判定された場合、Redo操作を実行できない理由を利用者に通知することで、電子黒板1aとの間で共有する描画画面に対してRedo操作を実行する際の利便性を向上させることができる。
また、本発明の一実施形態に係る電子黒板1b(通信端末の一例)は、Undo処理が実行可能な操作を記録するUndoスタックまたはRedo処理が実行可能な操作を記録するRedoスタックに、描画画面に含まれている画像(例えば、ストローク画像)に対して実行された操作に関する操作情報を記憶する。これにより、電子黒板1bは、UndoスタックおよびRedoスタックに、表示画面に対して実行された操作に係る操作情報を記憶しておくことで、描画画面に対するUndo処理およびRedo処理を実行することができる。
●補足●
上記で説明した実施形態の各機能は、一または複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
また、上記で説明した実施形態の各種テーブルは、機械学習の学習効果によって生成されたものでもよく、関連づけられている各項目のデータを機械学習にて分類付けすることで、テーブルを使用しなくてもよい。ここで、機械学習とは、コンピュータに人のような学習能力を獲得させるための技術であり,コンピュータが,データ識別等の判断に必要なアルゴリズムを,事前に取り込まれる学習データから自律的に生成し,新たなデータについてこれを適用して予測を行う技術のことをいう。機械学習のための学習方法は、教師あり学習、教師なし学習、半教師学習、強化学習、深層学習のいずれかの方法でもよく、さらに、これらの学習方法を組み合わせた学習方法でもよく、機械学習のための学習方法は問わない。
これまで本発明の一実施形態に係る通信端末、通信システム、表示制御方法およびプログラムについて説明してきたが、本発明は、上述した実施形態に限定されるものではなく、他の実施形態の追加、変更または削除等、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
1a 電子黒板(他の通信端末の一例)
1b 電子黒板(通信端末の一例)
3 中継装置
5 通信管理装置
6 サーバシステム
7 画像保存装置
11 送受信部(受信手段の一例)
12 受付部(受付手段の一例)
14 表示制御部(表示制御手段の一例)
21 操作実行可否判定部(判定手段の一例)
180 ディスプレイ(表示部の一例)
1003 操作情報管理DB(記憶手段の一例)
200,210,230,250 描画画面(表示画面の一例)
270 操作実行可否不可画像(メッセージの一例)
特開2011−254453号公報 特開2015−70543号公報 特開2009−259009号公報

Claims (13)

  1. 他の通信端末との間においてデータを共有する通信端末であって、
    前記他の通信端末との間で共有されるデータを管理する通信管理装置から、前記他の通信端末に描画された表示画面に係る表示画面データを受信する受信手段と、
    受信された前記表示画面データに係る表示画面を表示部に表示させる表示制御手段と、
    前記表示部に表示された表示画面に含まれている画像に対して実行された操作に関する操作情報を記憶する記憶手段と、
    前記画像に対する特定の操作の実行を要求する操作実行要求を受け付ける受付手段と、
    記憶された前記操作情報に基づいて、前記操作実行要求に係る特定の操作の実行可否を判定する判定手段と、を備え、
    前記画像に対する特定の操作を実行できないと判定された場合、前記表示制御手段は、前記特定の操作を実行できないことを示すメッセージを、前記表示部に表示させる通信端末。
  2. 前記特定の操作は、前記画像に対して直前に実行された操作を取り消す操作である請求項1に記載の通信端末。
  3. 前記特定の操作は、前記画像に対して直前に実行された操作を取り消す操作によって取り消された操作を元に戻す操作である請求項1に記載の通信端末。
  4. 前記特定の操作は、前記表示画面に対するUndo処理またはRedo処理を実行する操作である請求項2または3に記載の通信端末。
  5. 前記記憶手段は、前記Undo処理が実行可能な操作を記録するUndoスタックまたは前記Redo処理が実行可能な操作を記録するRedoスタックに、前記操作情報を記憶する請求項4に記載の通信端末。
  6. 前記判定手段は、前記特定の操作に係る操作対象となる画像が存在しない場合、前記特定の操作を実行できないと判定する請求項1乃至5のいずれか一項に記載の通信端末。
  7. 前記判定手段は、前記特定の操作に係る操作対象が編集されている場合、前記特定の操作を実行できないと判定する請求項1乃至6のいずれか一項に記載の通信端末。
  8. 前記画像に対する特定の操作を実行できると判定された場合、前記表示制御手段は、前記特定の操作が実行された表示画面を、前記表示部に表示させる請求項1乃至7のいずれか一項に記載の通信端末。
  9. 前記受信手段は、前記通信管理装置から、前記他の通信端末に描画されたストローク画像に係るストロークデータを含む前記表示画面データを受信し、
    前記受付手段は、前記ストローク画像に対する前記操作実行要求を受け付ける請求項1乃至8のいずれか一項に記載の通信端末。
  10. 前記表示画面は、前記ストローク画像を含む複数のページを含み、
    前記判定手段は、前記特定の操作に係る操作対象となる前記ストローク画像の追加先のページが存在しない場合、前記特定の操作を実行できないと判定する請求項9に記載の通信端末。
  11. 請求項1乃至10のいずれか一項に記載の通信端末と、
    前記通信管理装置と、
    を備える通信システム。
  12. 他の通信端末との間においてデータを共有する通信端末が実行する表示制御方法であって、
    前記他の通信端末との間で共有されるデータを管理する通信管理装置から、前記他の通信端末に表示された表示画面に係る表示画面データを受信する受信ステップと、
    受信された前記表示画面データに係る表示画面を表示部に表示させる第1の表示制御ステップと、
    前記表示部に表示された表示画面に含まれている画像に対する特定の操作の実行を要求する操作実行要求を受け付ける受付ステップと、
    記憶手段に記憶された前記画像に対して実行された操作に関する操作情報に基づいて、前記操作実行要求に係る特定の操作の実行可否を判定する判定ステップと、
    前記画像に対する特定の操作を実行できないと判定された場合、前記特定の操作を実行できないことを示すメッセージを、前記表示部に表示させる第2の表示制御ステップと、
    を実行する表示制御方法。
  13. コンピュータに、請求項12に記載の方法を実行させるプログラム。
JP2019136864A 2019-07-25 2019-07-25 通信端末、通信システム、表示制御方法およびプログラム Pending JP2021022041A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019136864A JP2021022041A (ja) 2019-07-25 2019-07-25 通信端末、通信システム、表示制御方法およびプログラム
EP20186886.6A EP3770748A1 (en) 2019-07-25 2020-07-21 Communication terminal, communication system, display control method, and carrier medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019136864A JP2021022041A (ja) 2019-07-25 2019-07-25 通信端末、通信システム、表示制御方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2021022041A true JP2021022041A (ja) 2021-02-18

Family

ID=71738040

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019136864A Pending JP2021022041A (ja) 2019-07-25 2019-07-25 通信端末、通信システム、表示制御方法およびプログラム

Country Status (2)

Country Link
EP (1) EP3770748A1 (ja)
JP (1) JP2021022041A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023142060A1 (zh) * 2022-01-29 2023-08-03 西门子股份公司 信息处理方法、装置、计算设备和计算机可读介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130086487A1 (en) * 2011-10-04 2013-04-04 Roland Findlay Meeting system that interconnects group and personal devices across a network
JP2016170613A (ja) * 2015-03-12 2016-09-23 コニカミノルタ株式会社 会議支援装置、会議支援システム、会議支援プログラム、及び会議支援方法
JP2017027335A (ja) * 2015-07-22 2017-02-02 コニカミノルタ株式会社 オブジェクト操作装置及びオブジェクト操作制御プログラム並びにオブジェクト操作制御方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5385545B2 (ja) 2008-04-17 2014-01-08 インターナショナル・ビジネス・マシーンズ・コーポレーション トランザクションの実行を制御する装置及び方法
JP2011254442A (ja) 2010-05-06 2011-12-15 Ricoh Co Ltd 遠隔通信端末、遠隔通信方法、及び遠隔通信用プログラム
JP6343897B2 (ja) 2013-09-30 2018-06-20 株式会社リコー 伝送端末、伝送方法、及びプログラム
JP2016143183A (ja) * 2015-01-30 2016-08-08 株式会社リコー 情報処理装置、画像処理システム、プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130086487A1 (en) * 2011-10-04 2013-04-04 Roland Findlay Meeting system that interconnects group and personal devices across a network
JP2016170613A (ja) * 2015-03-12 2016-09-23 コニカミノルタ株式会社 会議支援装置、会議支援システム、会議支援プログラム、及び会議支援方法
JP2017027335A (ja) * 2015-07-22 2017-02-02 コニカミノルタ株式会社 オブジェクト操作装置及びオブジェクト操作制御プログラム並びにオブジェクト操作制御方法

Also Published As

Publication number Publication date
EP3770748A1 (en) 2021-01-27

Similar Documents

Publication Publication Date Title
US11146695B2 (en) Communication management system, communication system, communication control method, and recording medium
JP7373712B2 (ja) 通信端末、通信システム、データ共有方法およびプログラム
JP7326963B2 (ja) 通信端末、通信システム、画像共有方法およびプログラム
JP7413693B2 (ja) 通信端末、通信システム、データ共有方法およびプログラム
JP7400345B2 (ja) 通信端末、通信システム、データ共有方法およびプログラム
JP7243322B2 (ja) 通信端末、通信システム、表示制御方法およびプログラム
JP2021022041A (ja) 通信端末、通信システム、表示制御方法およびプログラム
US11636233B2 (en) Communication terminal sharing image data with counterpart communication terminal, system including the same, and method for controlling image capture
JP2022145219A (ja) 表示装置、データ共有システム、表示制御方法およびプログラム
JP7476596B2 (ja) 通信端末、方法、プログラム、およびシステム
JP7243323B2 (ja) 通信端末、通信システム、表示制御方法およびプログラム
JP7396136B2 (ja) 通信管理装置、通信システム、通信方法およびプログラム
JP7476586B2 (ja) 通信端末、通信システム、画面共有方法およびプログラム
JP7467986B2 (ja) 通信端末、通信システム、通信方法およびプログラム
JP7215341B2 (ja) 通信端末、通信システム、表示制御方法およびプログラム
JP7476548B2 (ja) 通信端末、通信システム、表示方法、及びプログラム
JP7581721B2 (ja) 通信システム、通信端末、画面共有方法、及びプログラム
JP7487542B2 (ja) 通信端末、通信システム、通信方法、プログラム
JP7556238B2 (ja) 通信端末、通信システム、通信方法、及びプログラム
JP2022143264A (ja) 表示装置、表示システム、表示制御方法およびプログラム
JP2020095705A (ja) 通信管理システム、通信システム、通信方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220518

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230307

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230419

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230801