以下、本発明の一実施の形態について説明する。本発明に係る携帯端末装置、断片データ作成装置、断片データ作成システム及び統合ファイル作成システムでは、断片データ作成装置において、PDA、携帯電話機などの入力装置等による入力毎に作成される断片情報を、その入力装置等から取得する。一方、携帯端末装置において、利用者の体温,発汗,心拍数等(利用者情報)を各種センサによって計測して、断片情報の作成時における利用者の感情や利用者を取り巻く状況等のコンテクストを推定してコンテクスト情報を作成する。そして、断片データ作成装置において、断片情報にコンテクスト情報を付加して断片データを作成する装置及びシステムである。さらに、各断片情報に付加されたコンテクスト情報に基づいて、複数の断片データを編集して統合ファイルを作成する装置及びシステムである。尚、統合ファイルとは、文書データのみを示すものではなく、文書データ,静止画や動画である画像データ,表計算データ,音声データなどのマルチメディア情報を含むデジタルデータを示す。
第1の実施の形態では、本発明の携帯端末装置、断片データ作成装置、断片データ作成システム及び統合ファイル作成システムの一例として、利用者の体温,発汗,心拍数等(利用者情報)を計測する各種センサが接続された携帯端末装置7と、独立して存在する携帯電話やPDAなどの入力装置等と接続可能である断片データ作成装置1とが、無線通信により接続された統合ファイル作成システムについて、以下説明する。
まず、図1乃至図5を参照して、第1の実施の形態に係る統合ファイル作成システムの構成について説明する。図1は、統合ファイル作成システムの概要を示す図である。図2は、携帯端末装置7の構成を示すブロック図である。図3は、断片データ作成装置1の構成を示すブロック図である。図4は、断片データ作成装置1のRAM130の記憶エリアの構成を示す概念図である。図5は、断片データ作成装置1のHDD140の記憶エリアの構成を示す概念図である。
図1に示すように、小型のコンピュータ機器である携帯端末装置7は、利用者に携帯または装着されている。断片データ作成装置1には、体温センサ、発汗センサ及び心拍数センサなどの複数のセンサが接続されており、これらのセンサの読み取り部は利用者の皮膚等に接触して、適切に利用者情報を計測可能な状態に設けられている。そのため、断片データ作成装置1は常に利用者情報が計測される状態に保持される。本実施の形態においては、携帯端末装置7は腕時計に模した形状であって、利用者の手首に装着されて体温や脈拍等を検出するものである。
利用者は携帯端末装置7を携行しつつ、外部の入力装置又はコンピュータ機器であるPDA2,携帯電話機3,デジタルカメラ4,FAX5,固定電話6を用いて、各装置に断片情報を入力する。例えば、利用者がPDA2のキー又はスイッチを操作することで、文字情報がPDA2に入力される。また、利用者がデジタルカメラ4で風景などを撮影して、又はFAX5から文書を読取り送信させて、画像情報が各々の装置に入力される。また、利用者は携帯電話機3又は固定電話6を用いて通話を行うことで、音声情報が各々の装置に入力される。
利用者が外部の入力装置等を利用すると、各装置において入力された断片情報はネットワークを介して断片データ作成装置1に取得されるが、詳細は後述する。なお、利用者が断片情報を入力する外部の入力装置等としては、上記のものに限定されず、断片データ作成装置1へのデータ転送を確保できれば、スキャナやパーソナルコンピュータなど任意のものが利用可能である。
図2に示すように、携帯端末装置7には、断片データ作成装置1の制御を司るCPU710が設けられている。このCPU710には、バス715を介し、CPU710が実行するBIOS等のプログラムを記憶したROM720と、データを一時的に記憶するRAM730と、データの記憶装置であるハードディスクドライブ(以下、「HDD」という。)740とが接続されている。また、RAM730には、各種センサから計測された情報に基づいてコンテクストを推定するためのコンテクスト定義テーブルが記憶されているが、詳細は後述する。さらに、各種機器からの入力の検知を行う入力検知部780と、現在日時や時間間隔をカウントするためのタイマ790と、アンテナ792を介して外部との無線通信を実行し、後述のコンテクスト情報を断片データ作成装置1へ送信する通信制御部791とを備えている。
また、入力検知部780には、利用者が携帯端末装置7を操作するための入力パネル781と、利用者の体温を計測する体温センサ782と、利用者の発汗状態を計測するための発汗センサ783と、利用者の心拍数を計測するための心拍数センサ784とが接続されている。体温センサ782、発汗センサ783及び心拍数センサ784は、有効に利用者の体温、発汗、心拍数を測定できれば、その位置や計測手法は問わないが、好適には、利用者が携帯端末装置7を携帯又は装着した場合、その利用者の皮膚が接触する位置に各センサの読み取り部が設けられている。
図3に示すように、断片データ作成装置1には、断片データ作成装置1の制御を司るCPU110が設けられている。このCPU110には、バス115を介し、CPU110が実行するBIOS等のプログラムを記憶したROM120と、データを一時的に記憶するRAM130と、データの記憶装置であるハードディスクドライブ(以下、「HDD」という。)140とが接続されている。また、RAM130には、断片データのデータ形式を変換するためのメディア変換テーブルと、複数の断片データを編集して統合ファイルを作成する際の編集ルールを定めた編集ルールテーブルが記憶されているが、詳細は後述する。
さらに、外部機器との通信を行うためのUSBインタフェース150と、利用者に操作画面や各種情報を表示するためのディスプレイ161の画面表示処理を行う表示制御部160と、利用者が音声入力を行うためのマイク171及び音声を出力するためのスピーカ172の音声情報の入出力制御のための処理を行う音声制御部170と、各種機器から電源スイッチの入力検知を行う入力検知部180と、現在日時や時間間隔をカウントするためのタイマ190と、無線によるデータ通信を仲介するためのアンテナ196が接続されて、一般の公衆電話網(PSTN)又はインターネット網に接続して、データ列と音声信号の相互変換を行なってデータ通信を実行するモデム195とが、バス115を介してCPU110に接続されている。USBインタフェース150には、図1に示す各入力装置のうちでPDA2とデジタルカメラ4が、外部の入力装置等として接続可能である。なお、入力検知部180には、利用者が断片データ作成装置1を操作するための入力パネル181が接続されている。なお、ディスプレイ161,表示制御部160,マイク171,スピーカ172,音声制御部170,入力パネル181,入力検知部180は、断片データ作成装置1に必ずしも必要な構成ではないため、USBやネットワークなどのインタフェースを介して、外部の表示装置,マイク,スピーカなどと接続してリモート制御するようにしてもよい。
第1の実施の形態の携帯端末装置7では、コンテクストの推定の際に実行されるモジュールの一つとして携帯端末装置用プログラムが実行され、この携帯端末装置用プログラムはあらかじめROM720に記憶されている。一方、第1の実施の形態の断片データ作成装置1では、断片情報の取得、断片データの作成、統合ファイルの作成の際に実行されるモジュールとして断片データ作成装置用プログラムが実行され、断片データ作成装置1には、図示外のCD−ROMドライブ、フロッピー(登録商標)ディスクドライブ、各種インタフェースなども設けられており、導入時には、CD−ROM等の外部の記憶媒体やネットワークを介して外部の記憶装置から、HDD140上のプログラム記憶エリア142や情報記憶エリア143(図5参照)に、断片データ作成装置用プログラムがセットアップされて記憶されるようになっている。なお、本発明の統合ファイル作成システムにおける、コンテクストの推定,断片情報の取得,断片データの作成,統合ファイルの作成を実現するためのプログラムが「統合ファイル作成プログラム」であり、携帯端末装置用プログラム及び断片データ作成装置用プログラムも、「統合ファイル作成プログラム」に含まれる。
統合ファイル作成プログラム(断片データ作成装置用プログラム)には、モデム195からの信号をデコードして画像に変換するFAXゲートウエイを実現するためのプログラムと、モデム195からの信号を音声として出力するPSTNゲートウエイを実現するためのプログラムとが含まれている。また、統合ファイル作成プログラムには、Webサーバを監視する機能を実現するための巡回プログラムや、Mailサーバを監視する機能を実現するための巡回プログラムも含まれている。
また、本実施の形態において、モデム195は公衆電話網(PSTN)と送受信される信号及びインターネット網と送受信される信号を処理でき、公衆電話網(PSTN)及びインターネット網に接続可能とする機能を有するものであるが、公衆電話網(PSTN)への通信部と、インターネット網への通信部とがそれぞれ独立した構成として、断片データ作成装置1に具備されてもよい。また、モデム195はアンテナ196を介して無線通信を実行するが、有線による接続がされるようにしてもよい。すなわち、外部の入力装置等や携帯端末装置7と有効に接続できればよい。
次に、図4に示すように、断片データ作成装置1のRAM130には、プログラムの実行中の一時的なデータを記憶するワークエリア131と、入力された各種情報を一時的に記憶する入力情報記憶エリア132と、出力すべき各種情報を一時的に記憶する出力情報記憶エリア133とが設けられている。さらに、RAM130には、図示外の各種記憶エリアが設けられている。
また、図5に示すように、断片データ作成装置1のHDD140には、断片データ作成装置1の動作を制御するためCPU110が実行する各種のプログラム等を記憶したオペレーティングシステム(OS)記憶エリア141と、断片データ作成装置1で実行される各種のプログラムや統合ファイル作成プログラム(断片データ作成装置用プログラム)を記憶したプログラム記憶エリア142と、プログラムの実行に必要な設定や初期値、データ等の情報を記憶した情報記憶エリア143と、画像、文字及び音声の入力情報である断片情報に基づいて作成された断片データを記憶する断片データ記憶エリア144と、断片データに基づいて作成された統合ファイルを記憶する統合ファイル記憶エリア145とが設けられている。なお、後述の編集ルールテーブル,メディア変換テーブルなどの各種テーブル情報は、情報記憶エリア143に記憶されている。
次に、図6及び図7を参照して、第1の実施の形態に係る統合ファイル作成システムにおける処理の概要について説明する。図6は、統合ファイル作成システムの構成を機能別に示す機能ブロック図である。図7は、統合ファイル作成システムにおけるデータ構成の変遷を示す図である。
図6に示すように、断片データ作成装置1の外部には、画像、文字及び音声の入力情報である断片情報が入力される複数の入力手段10が存在する。断片データ作成装置1は、各入力手段10からの断片情報の取り込みを仲介するインタフェース手段24と、インタフェース手段24を介して取り込まれた断片情報を取得する断片情報取得手段25とを備える。
一方、携帯端末装置7には、利用者の体温,発汗,心拍数等の利用者情報を計測する複数のセンサ11が接続され、センサ11により計測された利用者情報に基づいて、コンテクスト推定手段12がコンテクスト定義テーブル13を参照して、利用者の感情、雰囲気及び状態等を示すコンテクストが推定される。コンテクスト定義テーブル13には、あらかじめ利用者情報とコンテクストの対応が定義されている。この推定されたコンテクストに基づいて、コンテクスト情報作成手段14によりコンテクストの種別とその強弱を示すコンテクスト値とを含むコンテクスト情報が作成される。
断片データ作成装置1では、断片情報取得手段25により断片情報が取得されると、リクエスト信号送信手段31により所定のリクエスト信号が携帯端末装置7に送信される。携帯端末装置7では、リクエスト信号がリクエスト信号受信手段32により受信されると、コンテクスト情報送信手段28により、コンテクスト情報が断片データ作成装置1へ送信される。断片データ作成装置1では、携帯端末装置7から送信されたコンテクスト情報が、コンテクスト情報受信手段29により受信される。そして、断片データ作成手段15により、断片情報にコンテクスト情報が付加されて断片データが作成される。作成された断片データは、断片データ記憶手段16に記憶される。
図7に示すように「断片データ作成」において、入力手段10から画像、文字及び音声が入力された断片情報200(断片情報A)は、主にヘッダー部とデータ部から構成されている。この断片情報200(断片情報A)は、断片情報取得手段25によりインタフェース手段24を介して入力手段10から取得される。また、コンテクスト情報作成手段14により作成されたコンテクスト情報300(コンテクスト情報A)が、コンテクスト情報受信手段29を介して取得される。コンテクスト情報300(コンテクスト情報A)は、主にヘッダー部とコンテクストデータ部から構成されている。このような断片情報200(断片情報A)及びコンテクスト情報300(コンテクスト情報A)から、断片データ作成手段15により断片データ400a(断片データA)が作成される。その結果、断片データ400a(断片データA)は、ヘッダー部の他に、データ部とコンテクストデータ部とを含む構成となっている。図7では、断片データ400として断片データ400a(断片データA)の他に、断片データ400b(断片データB),断片データ400c(断片データC),断片データ400d(断片データD)が作成されており、これらの断片データ400は断片データ記憶手段16に保存される。このように、入力手段10において入力された断片情報200の全てについて、コンテクスト情報受信手段29により受信されたコンテクスト情報300が付加されて、断片データ400が作成される。
図6に戻り、利用者より統合ファイル作成が指示された等の所定のタイミングで、「統合ファイル作成」が実行される。すなわち、統合ファイル作成手段17により、断片データ記憶手段16に記憶された複数の断片データ400を編集して統合ファイル600を作成する処理が実行される。また、断片データ400のデータ形式を変換する必要がある場合は、メディア変換手段18によりデータ形式を変換するための変換情報を定義したメディア変換テーブル19が参照されて、断片データ400のデータ形式の変換が実行される。
統合ファイル作成手段17により断片データ400が編集される際は、統合ファイルの体裁や順序を定める編集ルールを具備する編集ルールテーブル20が参照されて、断片データ400に含まれるコンテクストの情報に基づいて統合ファイル600が作成される。統合ファイル作成手段17により作成された統合ファイル600は、統合ファイル記憶手段21に保存される。
図7に示すように「統合ファイル作成」においては、統合ファイル作成手段17により、断片データ記憶手段16に記憶された断片データ400a,400b,400c,400dが編集されて統合ファイル600が作成される。このとき、統合ファイル600の体裁や順序を定める編集ルールに基づいて統合ファイル600が作成されるが、詳細は後述する。なお、図6では統合ファイル600が作成される過程で縫合データが作成される。断片データ400a及び400cが合成された縫合データ500e(縫合データE)と、断片データ400b及び400dが合成された縫合データ500f(縫合データF)とが作成されて、この縫合データ500e及び500fが合成されて統合ファイル600が作成されている。その結果、統合ファイル600は、ヘッダー部の他に、各断片データ400a,400b,400c,400dのデータ部とコンテクストデータ部とを含む構成となっている。以上のようにして、複数の断片データ400から統合ファイル600が作成される。
なお、第1の実施の形態においては、PDA2,携帯電話機3,デジタルカメラ4,FAX5,固定電話6が、本発明の「入力手段」10に相当する。また、携帯端末装置7の体温センサ782、発汗センサ783、心拍数センサ784が、本発明の「センサ」11に相当する。また、断片データ作成装置1において、外部の入力装置等やネットワークに接続されるUSBインタフェース150及びモデム195が、本発明の「インタフェース手段」24に相当する。
そして、断片データ作成装置1において、プログラム記憶エリア142に記憶されている統合ファイル作成プログラム(断片データ作成装置用プログラム)を実行して後述のフローチャートを処理するCPU110が、本発明の「断片情報取得手段」25,「断片データ作成手段」15,「統合ファイル作成手段」17,「メディア変換手段」18に相当する。また、携帯端末装置7において、プログラム記憶エリア(図示しない)に記憶されている統合ファイル作成プログラム(携帯端末装置用プログラム)を実行して後述のフローチャートを処理するCPU710が、「コンテクスト推定手段」12,「コンテクスト情報作成手段」14に相当する。
また、断片データ作成装置1において、本発明の「編集ルールテーブル」20及び「メディア変換テーブル」19は、HDD140の情報記憶エリア143に各々の記憶領域が確保されている。また、HDD140の断片データ記憶エリア144が、本発明の「断片データ記憶手段」16に相当し、HDD140の統合ファイル記憶エリア145が、本発明の「統合ファイル記憶手段」21に相当する(図6参照)。また、携帯端末装置7において、本発明の「コンテクスト定義テーブル」13は、HDD740の情報記憶エリア(図示しない)に記憶領域が確保されている。
また、携帯端末装置7の通信制御部791が、本発明の「コンテクスト情報送信手段」28に相当し、断片データ作成装置1のモデム195が、本発明の「コンテクスト情報受信手段」29に相当する。
以下、本発明の統合ファイル作成システムにおける処理の流れを、図面を参照して説明する。本システムでは、[1]各種センサから計測された利用者情報に基づいてコンテクストを推定してコンテクスト情報を作成する処理(コンテクスト推定処理)、[2]外部の入力手段から断片情報を取得する処理(断片情報取得処理)、[3]各種入力手段から断片情報が入力されると、その断片情報にコンテクスト情報を付加して断片データを作成する処理(断片データ作成処理)、[4]複数の断片データを編集して統合ファイルを作成する処理(統合ファイル作成処理)、が主要な処理として実行される。
これらの処理により、外部の入力装置等から取得された音声、画像、文字などの各種の断片情報が、携帯端末装置7において推定された雰囲気、感情、重要度などのコンテクストに基づいて編集されて、利用者のコンテクストを反映した1つの統合ファイルが作成される。以下では、一例として、コンテクストが「感動」であるものとし、断片情報を入力した当時の利用者の「感動」の度合いによって、統合ファイルが作成される場合を説明する。
まず、[1]コンテクスト推定処理について、図8乃至図13を参照して説明する。図8は、コンテクスト推定処理のメインフローチャートである。図9は、キャリブレーション処理(S14)の詳細を示すフローチャートである。図10は、計測処理(S15)の詳細を示すフローチャートである。図11は、推定処理(S16)の詳細を示すフローチャートである。図12は、コンテクスト定義テーブル13の概要を示す図である。図13は、S17で作成されたコンテクスト情報300のデータ構成を示す図である。なお、コンテクスト推定処理は、携帯端末装置7の電源がONされて起動されると、その処理が開始されて、携帯端末装置7が起動している間は継続的に実行されるものとする。
図8に示すように、まず、利用者から利用者情報を計測するための各種センサが初期化される(S11)。本実施の形態においては、体温センサ782,発汗センサ783,心拍数センサ784が設けられており、それぞれ利用者の体温,発汗,心拍数を利用者情報として計測する。そして、携帯端末装置7が起動されると、S11ではこれらのセンサが初期化される。
そして、所定の測定間隔時間がタイマ790にセットされる(S12)。測定間隔時間は、後述のキャリブレーション処理(S14)においてキャリブレーション測定が実行される時間間隔である。S12ではあらかじめ定められた値が、測定間隔時間としてセットされるが、利用者又は設計者が任意の値を設定するようにしてもよい。また、所定の計測間隔時間がタイマ790にセットされる(S13)。計測間隔時間は、後述の計測処理(S15)が実行される時間間隔である。この計測間隔時間も、測定間隔時間と同様に、利用者又は設計者が任意の値を設定するようにしてもよい。
次に、各種タイマによる計測値の平均である基準値を取得するためのキャリブレーション処理が実行される(S14)。
図9に示すように、まず測定回数の初期化がなされ(S21)、このキャリブレーション処理が実行されるキャリブレーション時間がタイマ790にセットされる(S22)。S22ではあらかじめ定められた値が、キャリブレーション時間としてセットされるが、利用者又は設計者が任意の値を設定するようにしてもよい。
そして、キャリブレーション時間を終了(経過)しておらず(S23:NO)、かつ、コンテクスト推定処理(図8参照)のS12で設定された測定間隔時間が終了(経過)していれば(S24:YES)、各センサの出力が測定される(S25)。本実施の形態においては、体温センサ782,発汗センサ783,心拍数センサ784が設けられているから、それぞれ利用者の体温,発汗,心拍数について出力された計測値が取得される。なお、測定間隔時間が終了(経過)していない場合は(S24:NO)、測定間隔時間が終了(経過)するまで、S24において待ち状態となる。その後、測定回数が増加されて(S26)、S23へ戻る。
そして、S23でキャリブレーション時間を終了(経過)していない場合には(S23:NO)、再び、測定間隔時間の経過後(S24:YES)、各センサの出力が測定される(S25)。このように、S22においてセットされたキャリブレーション時間が終了(経過)するまで、測定間隔時間毎に各センサの出力の測定が繰り返される(S23〜S26)。
一方、キャリブレーション時間の経過後は(S23:YES)、各センサ毎の測定値の平均値が算出される(S27)。例えば、体温センサ782により測定間隔時間毎に測定された複数の体温の測定値を全て加算し、その加算値をS26により取得された測定回数で除算する等して、体温センサ782の測定値の平均値が算出される。そして、S27で算出された各センサの基準値は、RAM730に設けられた基準値エリア(図示外)に保存される(S28)。
その後、図8に戻り、各センサが利用者から利用者情報を計測する計測処理が実行される(S15)。
図10に示すように、まず計測回数の初期化がなされ(S31)、計測回数のセットがなされた後(S32)、各センサの出力が計測される(S33)。そして、S33による各センサの計測値から、RAM730に設けられた基準値エリアに記憶された各センサの基準値が減算された増分値が算出される(S34)。例えば、S33において、体温センサ782により現在の利用者の体温が計測値36.5℃として計測された場合に、体温センサ782の基準値36.0℃であれば、増分値0.5℃が算出されることになる。その後、計測回数が増加されて(S35)、S32でセットされた計測回数が終了していなければ(S36:NO)、その計測回数を終了するまで、各センサの出力の測定が繰り返される(S33〜S36)。S34においては、1回の計測毎の増分値がその都度前回までの増分値に加算されていく。S32でセットされた計測回数が終了すると(S36:YES)、S32によりセットされた計測回数で、各センサ毎に増分値を除算して、各センサ毎の増分値の平均値が算出される(S37)。
その後、図8に戻り、利用者のコンテクストを推定するコンテクスト推定処理が実行される(S16)。
図11に示すように、まず、各センサから利用者情報の状態変化を示すフラグである状態変数がクリアされる(S41)。本実施の形態では、体温センサ782が計測する体温についての第2bit、発汗センサ183が計測する発汗についての第1bit、心拍数センサ184が計測する心拍数についての第0bit、の3つのビットを状態変数として有している。そして、計測処理(S15)で算出された各センサ毎の増分値の平均値に基づいて、利用者情報の変化を判定する。
最初に、体温センサ782から計測された体温の増分値の平均値(体温増分値)と、体温に関する基準値(体温閾値)とが比較される(S42)。基準値(閾値)は、キャリブレーション処理(図9)のS28で、各センサの基準値エリアに保存された値である。その結果、体温増分値が体温閾値よりも大きければ(S42:YES)、第2bitが「ON」にセットされる(S43)。一方、体温増分値が体温閾値よりも大きくない場合(S42:NO)、そのまま次のステップ(S44)へ進む。同様に、発汗センサ783が計測する発汗についても、その増分値の平均値(発汗増分値)と発汗に関する基準値(発汗閾値)とが比較され(S44)、その結果、発汗増分値が発汗閾値よりも大きければ(S44:YES)、第1bitが「ON」にセットされる(S45)。一方、発汗増分値が発汗閾値よりも大きくない場合(S44:NO)、そのまま次のステップ(S46)へ進む。また、心拍数センサ784が計測する心拍数についても、その増分値の平均値(心拍数増分値)と心拍数に関する基準値(心拍数閾値)とが比較され(S46)、その結果、心拍数増分値が心拍数閾値よりも大きければ(S46:YES)、第0bitが「ON」にセットされる(S47)。一方、心拍数増分値が心拍数閾値よりも大きくない場合(S46:NO)、そのまま次のステップ(S48)へ進む。
その後、状態変数の第2bit,第1bit,第0bitまでのパターンに対応するコンテクスト種別及びコンテクスト値が、コンテクスト定義テーブル13から取得される(S48)。図12に示すように、コンテクスト定義テーブル13は、コンテクストの種別を示すコンテクスト種別13aと、各センサにより計測された利用者情報の変化状態を示すセンサ状態13bと、利用者のコンテクストの強弱を数値で示すコンテクスト値13cとをデータ項目として具備している。そして、各々のデータ項目の対応を、テーブル形式で定義している。先述のように、本実施の形態では利用者のコンテクスト「感動」に基づいて統合ファイルが作成されるから、参照されるコンテクスト定義テーブル13もコンテクスト「感動」に関するものである。よって、そのコンテクスト種別13aは「感動」に関するコンテクストの種別が定義されており、利用者の「感動」の強弱によって「大興奮」から「無感動(平常)」までの複数のコンテクストの種別が存在している。また、その「感動」の強弱を数値で表したコンテクスト値13cが定義され、例えば、コンテクスト種別13aが「大興奮」であれば、そのコンテクスト値13cは最大値の「100」である。なお、図12に示すコンテクスト定義テーブル13は、コンテクスト「感動」に関するものであるから、コンテクスト値13cは感動値(E)とも表示される。
そして、S48では、S42〜S47によりセットされた状態変数によってセンサ状態13bが特定されるから、このセンサ状態13bに対応するコンテクスト種別13aやコンテクスト値13cが取得される。なお、第2bit〜第0bitが、それぞれ「ON」がセットされている場合には、センサ状態13bにおいては「UP」と判定される。例えば、第2bit「ON」,第1bit「ON」,第0bit「OFF」の場合は、コンテクスト種別13a「混乱」でコンテクスト値13c「10」が、コンテクスト定義テーブル13を参照して取得される。
その後、図8に戻り、推定処理(S16)で取得されたコンテクスト種別13a及びコンテクスト値13cに基づいて、所定のヘッダー部などを付加したコンテクスト情報300が作成されて(S17)、RAM730のコンテクスト情報記憶エリア(図示しない)に保存される(S18)。コンテクスト情報300の保存については、前回のコンテクスト情報300に上書き保存してもよいし、HDD740にログとして過去から現在までのコンテクスト情報300を保存してもよい。すなわち、最新のコンテクスト情報300が参照できるのであれば、いずれの保存形態でもよい。なお、本実施の形態では、RAM730のコンテクスト情報記憶エリアに、最新のコンテクスト情報300のみが記憶されるものとする。
図13に示すように、コンテクスト情報300は、データの各種特性を示す詳細情報が格納されたコンテクストヘッダー部301と、データの本体部であるコンテクストデータ部304とから構成される。コンテクストヘッダー部301には、コンテクストヘッダー部301のサイズ情報302、コンテクストデータ部304のサイズ情報303とが含まれている。また、コンテクストデータ部304には、S48で取得されたコンテクスト種別13aとコンテクスト値13cとが含まれている。
その後、S12でセットされた計測間隔時間を終了(経過)していれば(S19:YES)、S15に戻り、最新のコンテクスト情報300を取得する処理が繰り返される(S15〜S18)。一方、計測間隔時間を終了(経過)していなければ(S19:NO)、S19において待ち状態となる。以上のように、携帯端末装置7が動作している間は、RAM730のコンテクスト情報記憶エリアには、最新の利用者のコンテクスト情報300が記憶される。
次に、[2]断片情報取得処理について、図14乃至図18を参照して説明する。図14は、入力装置等の種類とメディア種類とに応じた断片情報取得方法を説明するためのテーブル図である。図15は、ファイル転送による断片情報取得処理の詳細を示すフローチャートである。図16は、Webサーバ経由による断片情報取得処理の詳細を示すフローチャートである。図17は、Mailサーバ経由による断片情報取得処理の詳細を示すフローチャートである。図18は、FAXゲートウエイ又はPSTNゲートウエイ経由による断片情報取得処理の詳細を示すフローチャートである。
この断片情報取得処理の前提として、PDA2,携帯電話機3,デジタルカメラ4,FAX5,固定電話6等において、利用者が音声,画像,文字の断片情報200を入力した場合、各入力装置等では入力された断片情報200を送信するデータ送信処理が実行される。このデータ送信処理における送信方法及び送信先は、入力装置等の種類(デバイス種類)や、利用者により入力された断片情報200の種類(メディア種類)によって異なる。
例えば、図14に示すように、入力装置等の「デバイス種類」が「PDA」の場合には、断片情報200の「メディア種類」を問わずに、「ファイル転送」,「Webサーバへのアップロード」,「メール送信」のいずれかのデータ送信処理が実行される。また、入力装置等の「デバイス種類」が「デジタルカメラ」の場合には、断片情報200の「メディア種類」は「画像」に限られ、その送信方法は「ファイル転送」のみである。また、入力装置等の「デバイス種類」が「固定電話」の場合、断片情報200の「メディア種類」は「音声」に限られ、その送信方法は「PSTNゲートウエイへの電話」のみである。
このように、各入力装置等では、そのデバイス種類やメディア種類に応じて、断片情報200が適切に送信処理される。一方、この入力装置等によるデータ送信処理の送信方法及び送信先によって、断片データ作成装置1による断片情報200の取得態様が異なる。以下では、各データ送信処理の内容毎に、断片データ作成装置1による断片情報取得処理の詳細を説明する。
各入力装置等により「ファイル転送」で断片情報200が送信される場合、すなわち各入力装置等と断片データ作成装置1とが有線又は無線により接続されて、各入力装置等から断片データ作成装置1へ直接断片情報200が転送されると、断片データ作成装置1では以下処理がなされる。図15に示すように、断片データ作成装置1では入力装置等とリンクが確立されると(S301:YES)、入力装置等から送信された断片情報200が受信され(S302)、その断片情報200が入力情報記憶エリア(図4参照)に保存される(S303)。リンクが確立されなければ(S301:NO)、S301において待ち状態とされる。
例えば、デジタルカメラ4と断片データ作成装置1とが、USBインタフェース150を介して有線接続されている場合、利用者がデジタルカメラ4で撮影を行うと、デジタルカメラ4に画像データ(断片情報200)が入力される。そして、このUSBインタフェース150を介してデジタルカメラ4から断片データ作成装置1に断片情報200が転送される。なお、入力装置等と断片データ作成装置1とが、ブルートゥースなどで無線接続されてファイル転送されるようにしてもよい。
次に、各入力装置等により「Webサーバへのアップロード」で断片情報200が送信される場合、すなわちインターネット網を介して接続された所定のWebサーバに、各入力装置等により断片情報200が記録(アップロード)されると、断片データ作成装置1では以下処理がなされる。図16に示すように、断片データ作成装置1では所定のWebサーバのアップロードディレクトリが定期的に監視される(S311)。アップロードディレクトリは、アップロードされた断片情報200が記録されるWebサーバの記憶領域を示すものであり、断片データ作成装置1ではこのアップロードディレクトリが監視されて、Webサーバでの断片情報200のアップロードを検知する。その結果、アップロードディレクトリに断片情報200があれば(S312:YES)、インターネット網を介して当該断片情報200が取得されて、入力情報記憶エリア(図4参照)に保存される(S313)。断片情報200がなければ(S312:NO)、S311へ戻ってアップロードディレクトリの監視がなされる。
例えば、利用者が携帯電話機3から文字等の断片情報200を入力すると、その携帯電話機3はインターネット網に接続して、所定のWebサーバにその断片情報200をアップロードする。断片データ作成装置1では、アップロードディレクトリの監視によって、断片情報200のアップロードが検出されて、当該Webサーバに記憶された断片情報200は、インターネット網を経由してモデム195を介して断片データ作成装置1に取得される。
なお、各入力装置等により断片情報200がLAN上で共有されているネットワーク公開ディレクトリにアップロードされるようにしてもよい。その場合の断片データ作成装置1の処理も、上記と同様である。
次に、各入力装置等により「メール送信」で断片情報200が送信される場合、すなわち断片データ作成装置1に固有のメールアドレスに宛てて、各入力装置等により断片情報200が付加されたメールが送信されると、断片データ作成装置1では以下処理がなされる。各入力装置等により送信されたメールはMailサーバを経由して、断片データ作成装置1の受信トレイに転送される。そして、図17に示すように、断片データ作成装置1では受信トレイにメールがあれば(S321:YES)、そのメールが受信トレイから読出され(S322)、メールからヘッダー部などが取り除かれて断片情報200が取出され(S323)、断片情報200が入力情報記憶エリア(図4参照)に保存される(S324)。受信トレイにメールがなければ(S321:NO)、S321に戻りメールの受信待ち状態となる。
例えば、利用者がPDA2から文字等の断片情報200を入力すると、PDAではその断片情報200を添付したメールが、断片データ作成装置1に宛てて送信される。送信されたメールは、Mailサーバを経由して断片データ作成装置1の受信トレイに格納される。断片データ作成装置1では、受信トレイに格納されたメールから断片情報200が取り出されることで、断片情報200が取得される。
次に、各入力装置等により「PSTNゲートウエイへの電話」又は「FAXゲートウエイへの送信」で断片情報200が送信される場合、すなわち断片データ作成装置1に固有の電話番号に宛てて、各入力装置等により電話通話又はFAX送信がされると、断片データ作成装置1では以下処理がなされる。図18に示すように、断片データ作成装置1では着信があると(S331:YES)、その着信がFAX送信によるものであれば(S332:YES)、受信される音声が画像データにデコードされて(S333)、そのデコードされた画像データが断片情報200として入力情報記憶エリア(図4参照)に保存される(S334)。そして、着信元との通信が切断されていなければ(S335:NO)、S333へ戻り音声のデコードを継続する。一方、着信がFAX送信によるものでなく(S332:NO)、電話通話によるものであれば(S336:YES)、受信される音声が音声データにデコードされて(S337)、そのデコードされた音声データが断片情報200として入力情報記憶エリア(図4参照)に保存される(S338)。そして、着信元との通信が切断されていなければ(S339:NO)、S337へ戻り音声のデコードを継続する。なお、着信元との通信が切断され(S335:YES,S339:YES)、又は着信が電話通信でもFAX送信でもなければ(S332:NO,S336:NO)、一定時間のウエイトがなされた後に(S340)、S331に戻る。同様に、着信がない場合も(S331:NO),一定時間のウエイトがなされた後に(S340)、S331に戻り、着信待ち状態となる。
例えば、利用者がFAX5から断片データ作成装置1の電話番号に宛てて、電話通話又はFAX送信を実行した場合、エンコードされた音声信号が公衆電話網(PSTN)を経由して、断片データ作成装置1のFAXゲートウエイ又はPSTNゲートウエイに着信及び送信される。断片データ作成装置1では、FAXゲートウエイ又はPSTNゲートウエイにて音声信号が断片情報200にデコードされることで、断片情報200が取得される。
以上のように、利用者が外部の各入力装置等において画像,音声,文字の断片情報200を入力した場合であっても、断片データ作成装置1は各入力装置等から断片情報200を取得することができる。
次に、[3]断片データ作成処理について、図19乃至図23を参照して説明する。図19は、断片情報200のデータ構成を示す図である。図20は、断片データ作成処理のメインフローチャートである。図21は、コンテクスト情報のリクエスト実行処理(S74)の詳細を示すフローチャートである。図22は、断片データ作成実行処理(S75)の詳細を示すフローチャートである。図23は、断片データ400のデータ構成を示す図である。
本処理の前提として、利用者が外部の各入力装置において入力した断片情報200が、[2]断片情報取得処理(図14〜図18)により取得されて、断片データ作成装置1に記憶されたものとする。すなわち、断片データ作成装置1の外部に存在するPDA2,携帯電話機3,デジタルカメラ4,FAX5,固定電話6などの入力手段において入力された断片情報200が、断片データ作成装置1により収集されて、RAM130の入力情報記憶エリア132(図4参照)に格納されたものとする。
図19に示すように、断片情報200は、データの各種特性を示す詳細情報が格納されたヘッダー部201と、データの本体部であるデータ部206とから構成される。ヘッダー部201には、ヘッダー部201のサイズ情報202と、データ部206のサイズ情報203と、データ部206のメディア種類204と、データ部206のフォーマット情報205とが含まれている。また、データ部206には、文字、画像又は音声の入力されたデータ本体が格納されている。
そして、断片データ作成処理では、入力情報記憶エリア132に断片情報200が格納されると、断片データ400の作成が実行されるものとして、以下説明を続ける。
図20に示すように、まず、あらかじめ定められた監視インターバル時間がセットされる(S71)。本実施の形態では、一定間隔ごとに入力情報記憶エリア132に格納された断片情報200を検知するところ、監視インターバル時間はこの検知処理が実行される時間間隔を定める。そして、S71でセットされた監視インターバル時間が終了(経過)していれば(S72:YES)、入力情報記憶エリア132に未処理の断片情報200があるかを判定する(S73)。断片情報200の処理済又は未処理の判定は、断片情報200のファイル名に基づいて行う。具体的には、処理済の断片情報200は、そのファイル名の先頭に「done_」という識別子が付与されるようにして、S73ではファイル名に「done_」が付与されていないファイルの断片情報200は、未処理であると判定する。
未処理の断片情報200が入力情報記憶エリア132に存在すると判定された場合(S73:YES)、コンテクスト情報のリクエスト実行処理(S74)が実行される。一方、監視インターバル時間を終了(経過)していない場合(S72:NO)、または未処理の断片情報200が入力情報記憶エリア132に存在しないと判定された場合(S73:NO)、S72において監視インターバル時間の終了(経過)の待ち状態となる。
図21に示すように、コンテクスト情報のリクエスト実行処理(S74)では、断片データ作成装置1より、コンテクスト情報のリクエスト信号が携帯端末装置7に送信される(S201)。このリクエスト信号を受信すると(S202)、携帯端末装置7では、RAM730のコンテクスト情報記憶エリアに記憶されたコンテクスト情報300が読み出され(S203)、このコンテクスト情報300は要求元の断片データ作成装置1に送信される(S204)。断片データ作成装置1では、携帯端末装置7から送信されたコンテクスト情報300を受信すると(S205)、このコンテクスト情報300はRAM130の入力情報記憶エリア132(図4参照)に保存される(S206)。以上のように、断片データ作成装置1はコンテクスト情報のリクエスト信号を携帯端末装置7に送信することで、最新の利用者のコンテクスト情報300を取得することができる。
次に、図22に示すように、断片データ作成実行処理(S75)では、S73において未処理と判定された断片情報200が読込まれ(S81)、また、S206で入力情報記憶エリア132に保存されたコンテクスト情報300が読込まれる(S82)。そして、S81で読込まれた断片情報200と、S82で読込まれたコンテクスト情報300とに基づいて、断片データ400が作成される(S83)。S83では、作成される断片データ400のヘッダー部が、断片情報200のヘッダー部201の情報と、コンテクスト情報300のコンテクストヘッダー部301の情報とを含むように作成される。また、断片データ400のデータ部が、断片情報200のデータ部206の情報と、コンテクスト情報300のコンテクストデータ部304の情報とを含むように作成される。
その結果、図23に示すように、断片データ400は、データの各種特性を示す詳細情報が格納された断片データヘッダー部401と、データの本体部である断片データデータ部404とから構成される。断片データヘッダー部401には、断片データヘッダー部401のサイズ情報402と、断片データ400の作成時刻情報403と、データ部2060のサイズ情報203、データ部206のメディア種類204と、データ部206のフォーマット情報205と、コンテクストデータ部304のサイズ情報303が含まれている。また、断片データデータ部404には、コンテクストデータ部304とデータ部206が含まれている。なお、先述の断片情報200及びコンテクスト情報300と、実質的に同一のデータには同一符号が付与されている(図13及び図19参照)。
以上のようにして、S83で作成された断片データ400は、HDD140の断片データ記憶エリア144に保存される(S84)。その後、図20に戻り、断片情報200のリネームが実行される(S76)。すなわち、上記の処理を実行した断片情報200については、そのファイル名の先頭に「done_」という識別子が付与される。これにより、「done_」という識別が付与されてリネームされた断片情報200は、S73の判定処理において処理済と判定されて、断片データ作成の対象とならないようにしている。
以上のように、利用者から文字、音声、画像などの断片情報200の入力があった場合には、それが異なる場所や時間に入力されたものであっても、携帯端末装置7から取得した最新の利用者のコンテクスト情報300と、入力装置等で入力された断片情報200とを対応付けて、断片データ400が作成される。
次に、[4]統合ファイル作成処理について、図24乃至図30を参照して説明する。図24は、統合ファイル作成処理のメインフローチャートである。図25は、断片データリスト900のデータ構成を示す図である。図26は、メディア変換テーブル19の概要を示す図である。図27は、「X文」作成処理(S103,S104,S105,S106)の詳細を示すフローチャートである。図28は、編集ルールテーブル20のデータ構成を示す図である。図29は、「X文」構成リスト910のデータ構成を示す図である。図30は、統合ファイル600のデータ構成を示す図である。
なお、統合ファイル作成処理は、断片データ作成装置1において入力パネル181などから統合ファイル作成が指示された場合に、その処理が開始されるものとする。また、本実施の形態では、複数の断片データ400を並べ替えて編集することによって1つの統合ファイルを作成する場合を説明する。また、本実施の形態では、「序文」、「主文」、「跋文」、「補足文」の4つのセクションから構成される統合ファイルが、複数の断片データ400から作成される場合を、一例として説明する。
図24に示すように、まず、HDD140の断片データ記憶エリア144内の断片データリスト900が作成される(S101)。断片データリスト900は、断片データ記憶エリア144に保存された断片データ400を一覧表示するためのインデックスであり、S101により、図25のような断片データリスト900が作成される。図25では、断片データ記憶エリア144に保存されているn個の断片データ400が示されている。
次に、メディアの変換先が指定される(S102)。断片データ400のデータ部206(図23参照)は、音声、画像、文字などの様々なメディア種類204のものがあり、また同じメディア種類204であってもフォーマット情報205が異なる場合がある。また、利用者が統合ファイルに使用したいメディア種類やフォーマット情報などが、断片データ400(データ部206)のメディア種類204やフォーマット情報205などと異なる場合がある。そこで、統合ファイル600が作成される前に、断片データ400(データ部206)をどのようなメディア種類やフォーマット情報に変換すべきかを、S102のメディアの変換先の指定により設定する。このメディアの変換先の指定は、図26に示すメディア変換テーブル19を参照して指定することで実行されるが、利用者が入力パネル181から任意に指定してもよいし、自動的にデフォルトの指定がなされるようにしてもよい。
メディア変換テーブル19は、変換元のメディアと変換後のメディアを対応付けたテーブルであり、変換元の断片データ400(データ部206)が文字,音声,画像の各メディア種類204である場合に、それを変換先の文字,音声,画像の各メディア種類に変換する際の、データ変換処理の内容が示されている。このようなメディア変換テーブル19を参照して、例えば、変換元の断片データ400(データ部206)のメディア種類204が「音声」に対して、変換先として「文字」を指定する。すると、メディア種類204が「音声」の断片データ400(データ部206)は、「音声認識」の処理がなされて「文字」のデータに変換された後に統合ファイル600として編集される。同様に、メディア種類204が「画像」や「音声」についても、変換先のメディア種類を指定する。また、変換元の断片データ400(データ部206)のフォーマット情報205についても、変換先のフォーマット情報を指定する。
次に、序文作成処理(S103)、主文作成処理(S104)、跋文作成処理(S105)、補足文作成処理(S106)が実行される。これらは、各々「序文」、「主文」、「跋文」、「補足文」の4つのセクションを作成する処理であるが、その処理内容は共通しているため、以下では「X文」作成処理として説明する。
図27に示すように、「X文」作成処理では、まず空の「X文」構成リスト910が作成される(S121)。この「X文」作成処理が序文作成処理(S103)であれば、「X文」構成リスト910は序文構成リストとなる。次に、編集ルールテーブル20から分類「X文」のコンテクスト値及び優先編集順序が取得される(S122)。編集ルールテーブル20は、複数の断片データ400が編集される規則や順序を示す編集ルールを示すものである。図28に示すように、編集ルールテーブル20は、統合ファイルのセクションを示す分類20a、断片データ400のコンテクスト値20b、統合ファイル編集時における優先順序を定めた優先編集順序20cを、データ項目として備えている。S122では、編集ルールテーブル20から「X文」に対応する分類20aをもとに、コンテクスト値20b及び優先編集順序20cが取得される。例えば、「X文」が序文である場合、コンテクスト値20bとして「70以上80未満」が、優先編集順序20cとして「コンテクスト値昇順>作成時間順」が取得される。
次に、S122で取得されたコンテクスト値20bに基づいて、下限閾値と上限閾値がセットされる(S123)。コンテクスト値20bのうち、最小値が下限閾値に、最大値が上限閾値に、それぞれセットされる。例えば、「X文」が序文である場合、コンテクスト値20b「70以上80未満」であるから、下限閾値「70」、上限閾値「80」となる。
その後、断片データリスト900の全てのファイルについてチェックしたか否かが判定される(S124)。その結果、チェックしていないと判定された場合は(S124:NO)、そのチェックしていない断片データ400のコンテクストデータ部304からコンテクスト値が取得される(S125)。そして、そのコンテクスト値と下限閾値とを比較して、そのコンテクスト値が下限閾値以上であるか否かが判定され(S126)、下限閾値以上であると判定された場合は(S126:YES)、さらにそのコンテクスト値と上限閾値とを比較して、そのコンテクスト値が上限閾値未満であるか否かが判定される(S127)。すなわち、断片データ400に含まれるコンテクスト値が、コンテクスト値20bで示される値に含まれるか否かが判定される。
その結果、断片データ400に含まれるコンテクスト値が下限閾値以上と判定され(S126:YES)、かつ上限閾値未満であると判定された場合は(S127:YES)、断片データリスト900から当該断片データ400が削除されて(S128)、当該断片データ400が「X文」構成リスト910に追加される(S129)。一方、断片データ400に含まれるコンテクスト値が下限閾値未満と判定され(S126:NO)、または上限閾値以上であると判定された場合は(S127:NO)、S124へ戻る。これにより、断片データリスト900に登録された全ての断片データ400について、S124〜S129の処理が実行される。
断片データリスト900の全てのファイルについてチェックしたと判定された場合(S124:YES)、S122で取得された優先編集順序20cに基づいて、優先編集順序がセットされ(S130)、この優先編集順序に従って、「X文」構成リスト910に追加された断片データ400のソートが実行される(S131)。例えば、S124〜S129の処理によって、m個の断片データ400が「X文」構成リスト910に追加されている場合に、優先編集順序「コンテクスト値昇順>作成時間順」でソートが実行される。すると、図29に示すように、断片データファイル名910cに追加されたm個の断片データ400は、コンテクスト値910aを第1キーとして昇順にソートされ、また、コンテクスト値が同じ場合には作成時間910bを第2キーとしてソートされる。
次に、断片データ記憶エリア144に保存されている断片データ400のうち、「X文」構成リスト910に追加されたものについて、メディア変換テーブル19に基づいてメディア変換処理が実行される(S132)。具体的には、該当する断片データ400(データ部206)のメディア種類204及びフォーマット情報205を取得して、メディア変換テーブル19を参照して、データ変換処理の内容を取得する。そして、断片データ400(データ部206)は、このデータ変換処理に従ってデータ変換が実行され、変換先のメディア種類及びフォーマット情報のデータが取得される。例えば、変換元の断片データ400(データ部206)のメディア種類204「音声」で及びフォーマット情報205「MPEG」である場合には、メディア変換テーブル19に基づいて「音声認識」の処理がなされて、変換先のメディア種類「文字」及びフォーマット情報「TXT」のデータに変換される。
このように、「X文」構成リスト910に登録されている断片データ400が、統合ファイル作成処理(図24)のS102で指定されたメディアに変換された後、S131でソートされた順序に従って1つの縫合データとして編集される縫合処理が実行される(S133)。この「X文」作成処理が、序文作成処理(S103)である場合、S133の縫合処理で序文データが作成される。同様に、主文作成処理(S104)では主文データが、跋文作成処理(S105)では跋文データが、補足文作成処理(S106)では補足文データが、それぞれ作成される。
図24に戻り、統合ファイルの各セクション毎(序文,主文,跋文,補足文)の縫合データが作成されたら、それらをさらに縫合する処理が行われる。まず、序文データと主文データとを1つの縫合データに編集する縫合処理が実行される(S107)。この時、編集される順序は、序文データが先、主文データが後となるように縫合されて、(序文+主文)データが作成される。同様に、跋文データと補足文データとを1つの縫合データに編集する縫合処理が実行されて(S108)、(跋文+補足文)データが作成される。
最後に、(序文+主文)データと(跋文+補足文)データとを縫合して、1つの統合ファイルを作成する縫合処理が実行される(S109)。この時、編集される順序は、(序文+主文)データが先、(跋文+補足文)データが後となるように縫合されて、(序文+主文+跋文+補足文)というセクション構成の統合ファイルが作成される。S109で作成された統合ファイル600は、HDD140の統合ファイル記憶エリア145に保存される(S110)。
図30に示すように、統合ファイル600は、データの各種特性を示す詳細情報が格納された統合ファイルヘッダー部601と、データの本体部である統合ファイルデータ部607とから構成される。統合ファイルヘッダー部601には、統合ファイルヘッダー部601のサイズ情報602と、統合データ部609のサイズ情報603と、統合コンテクストデータ部608のサイズ情報604とが含まれている。さらに、統合ファイルヘッダー部601には、統合断片データヘッダー部605と、断片データ400の個数606とが含まれ、断片データ400の個数606で示されたn個分の断片データヘッダー部401が存在する。
断片データヘッダー部401には、当該断片データ400の作成時刻情報403,データ部206のサイズ情報203,データ部206のメディア種類204,データ部206のフォーマット情報205,コンテクストデータ部304のサイズ情報303が含まれている。また、統合ファイルデータ部607には、統合コンテクストデータ部608と、統合データ部609とが含まれており、それぞれ断片データ400のn個分のコンテクストデータ部304とデータ部206とが格納されている。なお、先述の断片データ400と、実質的に同一のデータには同一符号が付与されている(図23参照)。
以上のように、複数の断片データ400が含まれた1つの統合ファイル600が作成される。そして、統合ファイル600においては、複数の断片データ400が各セクション毎(序文,主文,跋文,補足文)に、「X文」構成リスト910でソートされた順序で編集されている。すなわち、統合ファイル600は、利用者のコンテクストに対応した順序や規則によって、各断片データ400が編集されたものであり、この統合ファイル600は断片情報200の入力時における利用者のコンテクストを反映した内容及び構成となっている。
すなわち、第1の実施の形態の統合ファイル作成システムによれば、携帯端末装置7では、計測間隔時間毎に最新の利用者のコンテクスト情報300が取得される。利用者が外部の入力装置等において断片情報200を入力すると、各入力装置から断片情報200が送信されて、断片データ作成装置1により断片情報200が取得される。すると、断片データ作成装置1から携帯端末装置7へコンテクスト情報300を要求するリクエスト信号が送信され、携帯端末装置7ではリクエスト信号を受けてコンテクスト情報300が断片データ作成装置1へ送信される。断片データ作成装置1では、取得された断片情報200に、受信されたコンテクスト情報300が付加されて、断片データ400が作成される。さらに、統合ファイル600の作成時には、コンテクスト情報300に基づいて複数の断片データ400を編集して統合ファイル600が作成される。
よって、異なる時間や場所において、外部の入力装置等にて入力された断片情報200に基づいて、断片データ400を作成することができ、かつ、各断片データ400を収集することができる。また、コンテクスト情報300を付加する機能がない入力装置等にて断片情報200が入力されても、その断片情報200とコンテクスト情報300とが対応付けられた断片データ400を作成できる。さらに、利用者が携行する携帯端末装置7を小型化及び軽量化して、利用者への負担を低減できることに加え、携帯端末装置7をより簡易な構成にすることができる。
また、異なる時間や場所において、外部の入力装置等を用いて作成された断片情報200を、コンテクスト情報300に基づいて編集して統合ファイル600を作成することで、利用者の統合ファイル作成の負担と手間を軽減し、利用者のニーズに合致した体裁や順序で統合ファイル600を作成できる。
次に、本発明の第2の実施の形態について説明する。第2の実施の形態では、本発明の携帯端末装置、断片データ作成装置、断片データ作成システム及び統合ファイル作成システムの一例として、利用者の体温,発汗,心拍数等(利用者情報)を計測する各種センサが接続された携帯端末装置7と、コンテクスト情報を記憶する記憶装置8と、独立して存在する携帯電話やPDAなどの入力装置等と接続可能である断片データ作成装置1とが、無線又は有線のネットワークを介して接続されたシステムについて、以下説明する。
まず、図31及び図32を参照して、第2の実施の形態に係る統合ファイル作成システムの構成について説明する。図31は、記憶装置8の構成を示すブロック図である。図32は、第2の実施の形態における、統合ファイル作成システムの構成を機能別に示す機能ブロック図である。
図31に示すように、記憶装置8にはCPU810,ROM820,RAM830,HDD840,ディスプレイ861が接続された表示制御部860,マイク871及びスピーカ872が接続された音声制御部870,マウス881及びキーボード882が接続された入力検知部880が、バス815を介して具備されている。このような記憶装置8の構成は、通常のコンピュータ機器の構成として公知のものであるから、詳細は省略する。また、記憶装置8には、携帯端末装置7からコンテクスト情報300を受信した日時を計測するためのタイマ890と、携帯端末装置7及び断片データ作成装置1と有線又は無線のネットワークを介して接続するための通信制御部891とを備える。なお、第2の実施の形態における携帯端末装置7は、図2に示す携帯端末装置7と同じ構成であり、第2の実施の形態における断片データ作成装置1は、図3に示す断片データ作成装置1と同じ構成である。
図32に示すように、第2の実施の形態における機能ブロック図は、携帯端末装置7,記憶装置8,断片データ作成装置1で全体の機能を構成している点で、第1の実施の形態における機能ブロック図(図6)と異なる。すなわち、携帯端末装置7は、コンテクスト情報作成手段14により作成されたコンテクスト情報300を記憶装置8へ送信するコンテクスト情報送信手段28を具備している。一方、記憶装置8は、コンテクスト情報送信手段28から送信されたコンテクスト情報300を受信するコンテクスト情報受信手段29を具備している。このコンテクスト情報受信手段29により受信されたコンテクスト情報300は、コンテクスト情報受信タイマ35によりコンテクスト情報300が受信された日時情報(コンテクスト情報受信日時情報)が付加されて、コンテクスト情報記憶手段30に保存される。
一方、断片データ作成装置1では、断片情報取得手段25により断片情報が取得されると、断片情報取得タイマ36により断片情報200が取得された日時情報(断片情報取得日時情報)が取得される。この断片情報取得日時情報が付加されたリクエスト信号が、リクエスト信号送信手段31により記憶装置8に送信される。記憶装置8では、リクエスト信号がリクエスト信号受信手段32により受信されると、第2のコンテクスト情報送信手段33により、コンテクスト情報が断片データ作成装置1へ送信される。この時、断片情報取得日時情報と一致又は近似するコンテクスト情報受信日時情報に対応するコンテクスト情報が、断片データ作成装置1へ送信される。
断片データ作成装置1では、記憶装置8から送信されたコンテクスト情報が、第2のコンテクスト情報受信手段34により受信される。そして、断片データ作成手段15により、断片情報にコンテクスト情報が付加されて断片データが作成される。作成された断片データは、断片データ記憶手段16に記憶される。
なお、記憶装置8において、通信制御部891が、本発明の「コンテクスト情報受信手段」29,「リクエスト信号受信手段」32,「第2のコンテクスト情報送信手段」33に相当し、タイマ890が、本発明の「コンテクスト情報受信タイマ」35に相当する。また、本発明の「コンテクスト情報記憶手段」30として、RAM830に複数のコンテクスト情報300を保存するための記憶領域としてコンテクスト情報記憶エリア(図示しない)が設けられている。また、断片データ作成装置1において、モデム195が、本発明の「リクエスト信号送信手段」31及び「第2のコンテクスト情報受信手段」34に相当し、タイマ190が、本発明の「断片情報取得タイマ」36に相当する。
このような構成において、携帯端末装置7では、第1の実施の形態と同様に、[1]コンテクスト推定処理が実行されて、コンテクスト情報300が作成されると、そのコンテクスト情報300はモデム195によりネットワークを介して記憶装置8へ送信される。記憶装置8では、携帯端末装置7から送信されたコンテクスト情報300が通信制御部891により受信されて、RAM830のコンテクスト情報記憶エリア(図示せず)に保存されるように制御される。この時、タイマ890により計測されたコンテクスト情報300の受信日時を示すコンテクスト情報受信日時情報と対応付けて、コンテクスト情報300がコンテクスト情報記憶エリアに保存される。
一方、断片データ作成装置1では、第1の実施の形態と同様に、[2]断片情報取得処理と[3]断片データ作成処理とが実行されるが、断片データ作成処理(図20)のリクエスト実行処理(S74)が、第1の実施の形態のもの(図21)とは異なる。
図33は、第2の実施の形態における、コンテクスト情報のリクエスト実行処理(S74)の詳細を示すフローチャートである。図33に示すように、断片データ作成装置1では、タイマ790を参照して断片情報200の取得日時を示す断片情報取得日時情報が取得される(S221)。そして、コンテクスト情報のリクエスト信号に断片情報取得日時情報が付加されて、このリクエスト信号が記憶装置8へ送信される(S222)
コンテクスト情報のリクエスト信号を受信すると(S223)、記憶装置8では、リクエスト信号に付加されている断片情報取得日時情報に基づいて、コンテクスト情報300がRAM830のコンテクスト情報記憶エリアから検索される(S224)。すなわち、断片情報取得日時情報と一致または近似するコンテクスト情報受信日時情報が検索されて、そのコンテクスト情報受信日時情報に対応するコンテクスト情報300が検索される。そして、検索されたコンテクスト情報300が、RAM830のコンテクスト情報記憶エリアから読み出され(S225)、このコンテクスト情報300は要求元の断片データ作成装置1に送信される(S226)。
断片データ作成装置1では、記憶装置8から送信されたコンテクスト情報300を受信すると(S227)、このコンテクスト情報300はRAM130の入力情報記憶エリア132(図4参照)に保存される(S228)。
そして、[3]断片データ作成処理の終了後は、第1の実施の形態と同様に、[4]統合ファイル作成処理が実行されて、断片データ作成装置1ではネットワークを介して収集された複数の断片データ400をもとに統合ファイル600が作成される。
以上のように、コンテクスト情報300を保存する記憶装置8を設けて、携帯端末装置7で作成されたコンテクスト情報300は、記憶装置8に保存されるようにして、断片データ作成装置1はリクエスト信号を記憶装置8に送信することで、最新の利用者のコンテクスト情報300を取得することができる。
第2の実施の形態によれば、コンテクスト情報300を保存する記憶装置8を設けて、断片データ作成装置1,携帯端末装置7,記憶装置8がネットワークを介して接続された構成としたので、携帯端末装置7にコンテクスト情報300の記憶手段を保持する必要がなく、記憶装置8において複数のコンテクスト情報300を一元管理できる。また、断片データ作成装置1は携帯端末装置7に問い合わせなくても、記憶装置8にリクエスト信号を送信することで、取得した断片情報200に対応するコンテクスト情報300を取得することができる。また、携帯端末装置7の構成を最小限のものとして、携帯端末装置7を小型化、軽量化することができる。
なお、本実施の形態において、記憶装置8では、タイマ890を参照してコンテクスト情報受信日時情報を取得し、コンテクスト情報300と対応付けてコンテクスト情報記憶エリアに記憶させている。このコンテクスト情報受信日時情報に代えて、携帯端末装置7においてコンテクスト情報の作成時にタイマ790を参照して日時情報を取得し、このコンテクスト情報作成日時情報をコンテクスト情報に付加するようにしてもよい。
また、本実施の形態において、断片データ作成装置1では、タイマ190を参照して断片情報取得日時情報を取得し、リクエスト信号に付加して記憶装置8へ送信している。この断片情報取得日時情報に代えて、断片データ作成装置1においてリクエスト信号の送信時にタイマ190を参照して日時情報を取得し、このリクエスト送信日時情報をリクエスト信号に付加するようにしてもよい。
次に、第3の実施の形態について説明する。第3の実施の形態では、本発明の携帯端末装置、断片データ作成装置、断片データ作成システム及び統合ファイル作成システムの一例として、携帯端末装置7に利用者がコンテクスト情報300の送信を指示するための送信スイッチを設けたシステムについて、以下説明する。
まず、図34を参照して、第3の実施の形態に係る統合ファイル作成システムの構成について説明する。図34は、第3の実施の形態における、統合ファイル作成システムの構成を機能別に示す機能ブロック図である。
図34に示すように、第3の実施の形態における機能ブロック図は、第1の実施の形態における機能ブロック図(図6)と基本的に同一であるが、利用者がコンテクスト情報の送信を指示するためのコンテクスト情報送信指示手段40が、携帯端末装置7に設けられている点で異なる。なお、携帯端末装置7の入力パネル781に設けられた送信スイッチ(図示しない)が、本発明の「コンテクスト情報送信指示手段」40に相当する。
このような構成において、携帯端末装置7では、第1の実施の形態と同様に、コンテクスト情報300のリクエスト信号が受信されたら、コンテクスト情報300が断片データ作成装置1へ送信される。さらに、利用者が入力パネル781に設けられた送信スイッチ(図示しない)を押下する等して、コンテクスト情報300の送信が指示された場合も、コンテクスト情報300の断片データ作成装置1への送信が実行される。具体的には、利用者はPDA2等の外部の入力装置等(図1参照)から、断片情報200を入力すると同時に、携帯端末装置7の送信スイッチを押下する。
すると、断片データ作成装置1では、断片情報200が取得されると同時に、携帯端末装置7から送信されたコンテクスト情報300が受信される。よって、断片情報200とコンテクスト情報300の両者を対応付けて断片データ400が作成されて、さらに統合ファイル600が作成される。
本実施の形態の統合ファイル作成システムにおける処理の流れは、第1の実施の形態における処理の流れと基本的に同一である。しかし、携帯端末装置7の起動中は、以下の処理(図35)が実行される点で異なる。また、断片データ作成処理(図20)のリクエスト実行処理(S74)が、第1の実施の形態のもの(図21)とは異なる。図35は、第3の実施の形態における、携帯端末装置7の起動中の処理を示すフローチャートである。図36は、第3の実施の形態における、コンテクスト情報のリクエスト実行処理(S74)の詳細を示すフローチャートである。
図35に示すように、携帯端末装置7の起動中は、コンテクスト情報300のリクエスト信号を、断片データ作成装置1から受信したか否かが判定される(S241)。リクエスト信号を受信している場合(S241:YES)、コンテクスト情報300の送信処理が実行される(S243)。コンテクスト情報300の送信処理は、リクエスト実行処理(図21)のS202〜204と同じである。
リクエスト信号を受信していない場合は(S241:NO)、携帯端末装置7の送信スイッチが押下されたか否かが判定され(S242)、送信スイッチが押下されている場合(S242:YES)、同様にコンテクスト情報300の送信処理が実行される(S243)。
一方、リクエスト信号を受信しておらず(S241:NO)、かつ送信スイッチも押下されていない場合は(S242:NO)、一定時間のウエイトがなされた後(S244)、S241に戻る。これにより、リクエスト信号の受信時又は送信スイッチの押下時には、携帯端末装置7から断片データ作成装置1へコンテクスト情報300が送信される。
他方、図36に示すように、断片データ作成装置1では、コンテクスト情報300の受信があるか否かが判定される(S261)。このコンテクスト情報300は、リクエスト信号によるもの及び送信スイッチによるものの両方が含まれる。そして、コンテクスト情報300の受信がない場合は(S261:NO)、コンテクスト情報300のリクエスト信号の送信が実行されて(S262)、S261に戻る。コンテクスト情報300の受信がある場合は(S261:YES)、そのコンテクスト情報300がRAM130の入力情報記憶エリア132(図4参照)に保存される(S263)。
これにより、携帯端末装置7で送信スイッチが押下されて、断片データ作成装置1でコンテクスト情報300が受信されていれば、そのコンテクスト情報300が入力情報記憶エリア132に保存される。コンテクスト情報300が受信されていなければ、リクエスト信号を送信して、携帯端末装置7に対してコンテクスト情報300を要求する。よって、断片データ作成装置1は、携帯端末装置7からコンテクスト情報300を取得することができる。
第3の実施の形態によれば、携帯端末装置7に、利用者がコンテクスト情報300の送信を指示するための送信スイッチを設けたので、利用者は任意のタイミングでコンテクスト情報300を送信することができる。そして、入力装置等で入力された断片情報200と、携帯端末装置7から受信したコンテクスト情報300とを、確実に対応付けて断片データ400を作成することができる。
ところで、上記「第1の実施の形態」〜「第3の実施の形態」においては、先述のように、統合ファイル作成プログラムを実行して上記のフローチャートを処理するCPU110(CPU710)が、本発明の「断片情報取得手段」25,「コンテクスト推定手段」12,「コンテクスト情報作成手段」14,「断片データ作成手段」15,「統合ファイル作成手段」17,「メディア変換手段」18に相当する。より詳細には、断片情報取得処理(図15〜図18)を実行するCPU110が、「断片情報取得手段」25に相当する。また、コンテクスト推定処理(図8)を実行するCPU710が、「コンテクスト推定手段」12に相当し、コンテクスト推定処理(図8)のS17及びS18を実行するCPU710が、「コンテクスト情報作成手段」14に相当する。また、断片データ作成処理(図20)を実行するCPU110が、「断片データ作成手段」15に相当する。また、統合ファイル作成処理(図24)を実行するCPU110が、「統合ファイル作成手段」17に相当し、「X文」作成処理(図27)のS132を実行するCPU110が、「メディア変換手段」18に相当する。
また、コンテクスト情報300は、本発明の「付加情報」に相当する。よって、携帯端末装置7の通信制御部791が、本発明の「付加情報送信手段」に相当し、携帯端末装置7のRAM730(記憶装置8のRAM830)のコンテクスト情報記憶エリアが、本発明の「付加情報記憶手段」に相当し、入力パネル871に設けられた送信スイッチが、本発明の「付加情報送信指示手段」に相当し、断片データ作成装置1のモデム195が、本発明の「付加情報受信手段」に相当する。
なお、本発明は、以上詳述した「第1の実施の形態」〜「第3の実施の形態」に限定されるものではなく、各種の変形が可能なことはいうまでもない。
例えば、上記実施の形態では、利用者のコンテクストとして「感動」である場合を例に説明しているが、コンテクストは、利用者の感情や利用者を取り巻く状況等であればよい。コンテクストしては、「感動」,「悲しみ」,「怒り」,「楽しさ」,「賑やかさ」,「忙しさ」等の様々なものが適用可能であり、各コンテクストに対応するコンテクスト定義テーブル13が設定されればよい。例えば、利用者のコンテクスト「悲しみ」に基づいて、統合ファイルを編集したい場合は、コンテクスト「悲しみ」に対応するコンテクスト定義テーブル13が設定されればよい。
また、コンテクスト定義テーブル13には、あらかじめ任意のコンテクストについてのテーブルが利用者又は設計者によって設定されていてもよいし、複数のコンテクストの各々に対応する複数のテーブルがコンテクスト定義テーブル13にあらかじめ設定されており、コンテクスト推定処理(図8)において、自動的に最適なテーブルがコンテクスト定義テーブル13から選択されるようにしてもよい。
また、統合ファイル作成処理(図24)において、複数の断片データ400がどのような内容及び構成で編集されて統合ファイル600が作成されるかも、利用者又は設計者が任意に設定可能である。例えば、断片データ400に含まれるコンテクストデータ部304(図23参照)には、コンテクスト種別13aとコンテクスト値13cが示されているから(図12参照)、各コンテクスト種別13aのそれぞれについて断片データ400が編集されてもよい。また、コンテクスト値13cについて昇順又は降順にソートされるように編集されてもよい。
また、キャリブレーション処理(図9)では、サンプリング値を測定してその平均値を基準値として算定しているが、サンプリング値の時系列データを取得して、その推移の特徴に基づいて基準値を算定するようにしてもよい。また、異常なサンプリング値は除外して基準値を算定するようにしてもよい。また、推定処理(図11)における各センサの増分値と閾値との比較処理(S42,S44,S46)では、各センサ毎に変化閾値εを設けておき、閾値を変化閾値εで補正した補正値で、増分値との比較を実行してもよい。
また、各センサから計測される利用者情報は、体温、発汗及び心拍数に限定されないことはいうまでもない。例えば、利用者の振動、脳波、呼吸、加速度、傾き、バイオリズムなどを利用者情報として計測するようにしてもよい。