JP2007044798A - ロボットコミュニケーションシステム - Google Patents
ロボットコミュニケーションシステム Download PDFInfo
- Publication number
- JP2007044798A JP2007044798A JP2005231100A JP2005231100A JP2007044798A JP 2007044798 A JP2007044798 A JP 2007044798A JP 2005231100 A JP2005231100 A JP 2005231100A JP 2005231100 A JP2005231100 A JP 2005231100A JP 2007044798 A JP2007044798 A JP 2007044798A
- Authority
- JP
- Japan
- Prior art keywords
- data
- robot
- action
- message
- mobile communication
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Toys (AREA)
- Manipulator (AREA)
Abstract
【課題】この発明は、ユーザ自らの音声をユーザが希望するアクションとともに、ロボットを介してを出力することができるロボットコミュニケーションシステム提供する。
【解決手段】 スピーカ、各部駆動手段及びこれらを制御する制御部並びに通信手段を備えたロボット装置2と、通常の携帯電話機能とロボット装置2と通信を行って諸動作を行わせるためのアクションコマンドデータ並びにメッセージデータの送受信を行う送受信手段とこれらデータ情報を格納する格納手段を備えた携帯電話装置1と、を備える。携帯電話装置1より使用者の音声データからなるメッセージデータとロボットの諸動作を行わせるためのアクションコマンドデータを送受信手段よりロボット装置2に送信し、ロボット装置2は受信したメッセージデータとアクションコマンドデータに基づき、使用者の音声データの再生とアクション動作を行う。
【選択図】 図1
【解決手段】 スピーカ、各部駆動手段及びこれらを制御する制御部並びに通信手段を備えたロボット装置2と、通常の携帯電話機能とロボット装置2と通信を行って諸動作を行わせるためのアクションコマンドデータ並びにメッセージデータの送受信を行う送受信手段とこれらデータ情報を格納する格納手段を備えた携帯電話装置1と、を備える。携帯電話装置1より使用者の音声データからなるメッセージデータとロボットの諸動作を行わせるためのアクションコマンドデータを送受信手段よりロボット装置2に送信し、ロボット装置2は受信したメッセージデータとアクションコマンドデータに基づき、使用者の音声データの再生とアクション動作を行う。
【選択図】 図1
Description
この発明は、ロボットにメッセージとそれに伴うアクションを付加し、ロボットが第三者にメッセージとアクションを通じてコミュニケーションを図るロボットとのコミュニケーションシステムに関する。
ペット型ロボットや人間型ロボットなどの家庭または玩具用の小型ロボットが注目されてきている。これら小型ロボットは、内蔵されたプログラムに沿って自律的に動作したり、ロボットに備えられた各種センサや内蔵カメラなどを通じて使用者とユーザとインタラクティブに情報交換することで、愛玩具としての動作を行ったり、ユーザがロボットを無線LANカードなどを用いてパーソナルコンピュータに接続してリモコン操縦を可能にしたものなどが知られている。
これら小型ロボットをコミュニケーションツールとして用いることが考えられる。従来の小型ロボットにおいては、内蔵したプログラムに基づいた動作や発声などは行われているが、ユーザが独自の動作を行わせるためには、内蔵のプログラムをパーソナルコンピュータ等を用いて書き換えるなどの作業が必要となり、その作業が難しく、一般には利用され難いものであった。
一方、携帯電話や移動体通信端末などを用いた電子メールが普及し、電子メール通知やその内容を音声で出力するシステム、装置が開発されている。例えば、ぬいぐるみ形状の補助機器を受信側の通信端末機に接続し、送信側の通信端末から送られてきた特定のアクション情報を含んだ電子メールを受信すると、補助機器がアクション動作とともに音声出力を行うシステムが提案されている(特許文献1参照)。
特開2003−157221号公報
上記した特許文献1のものにおいては、電子メールの内容をアクション動作とともに補助機器が有する音声合成装置などの機器を用いて音声出力をすることはできる。しかしながら、上記装置においては補助機器からユーザの音声でメッセージを出力することはできなかった。自らの音声でロボットからメッセージを出力する方がより、親密なコミュニケーションを図ることができる。
そこで、この発明は、ユーザ自らの音声をユーザが希望するアクションともに、ロボットを介してを出力することができるロボットコミュニケーションシステム提供することを目的とする。
この発明のロボットコミュニケーションシステムは、スピーカ、各部駆動手段及びこれらを制御する制御部並びに通信手段を備えたロボットと、移動体通信装置と、を主構成要素とし、前記移動体通信装置は、通常の移動体通信機能と前記ロボットと通信を行って諸動作を行わせるためのアクションコマンドデータ並びにメッセージデータの送受信を行う送受信手段と、これらデータ情報を格納する格納手段を備えており、前記移動体通信装置より使用者の音声データからなるメッセージデータとロボットの諸動作を行わせるためのアクションコマンドデータを前記送受信手段より前記ロボットに送信し、前記ロボットは受信したメッセージデータとアクションコマンドデータに基づき、使用者の音声データの再生とアクション動作を行うことを特徴とする。
また、前記移動体通信装置に、ロボットの諸動作とアクションコマンドデータ情報とを対応させる教示データを格納し、この教示データに基づきアクションコマンドデータを格納するように構成することができる。
また、この発明のロボットコミュニケーションシステムは、スピーカ、各部駆動手段及びこれら回路を制御する制御部並びに通信手段を備えたロボットと、移動体通信装置と、この移動体通信装置との間にネットワークを介して接続されたデータ供給手段と、を主構成要素とし、前記移動体通信装置は、通常の移動体通信機能と前記ロボットと通信を行って諸動作を行わせるためのアクションコマンドデータ並びにメッセージデータの送受信を行う送受信手段と、これらデータ情報を格納する格納手段と、を備え、前記データ供給装置は、前記ロボットの諸動作を行わせるためのアクションコマンドデータ情報並びにメッセージデータを格納する格納手段と、前記移動体通信装置からの指示情報に基づき前記アクションコマンドデータ並びにメッセージデータを移動体通信装置に送信する手段と、を備え、前記移動体通信装置より使用者の音声データからなるメッセージデータとロボットの諸動作を行わせるためのアクションコマンドデータを前記ネットワークを介して前記データ供給手段にアップロードし、前記データ供給手段より格納されたメッセージデータとロボットの諸動作を行わせるためのアクションコマンドデータをネットワークを介して移動体通信装置へダウンロードし、ダウンロードした移動体通信装置がメッセージデータとロボットの諸動作を行わせるためのアクションコマンドデータを前記ロボットに送信し、前記ロボットは受信した音声データとアクションデータに基づき、使用者の音声データの再生とアクション動作を行うことを特徴とする。
前記データ供給手段は、移動体通信装置からの要求により、前記音声データとともに前記アクションコマンドデータを要求された移動体通信装置にネットワークを介して送信するように構成すると良い。
また、前記移動体通信装置に、ロボットの諸動作とアクションコマンドデータ情報とを対応させる教示データを格納し、この教示データに基づきアクションコマンドデータを格納するように構成することができる。
更に、前記移動体通信装置からメッセージデータとロボットの諸動作を行うアクションコマンドデータを指定するデータとこれらデータを受け取る移動体通信装置を特定するデータを前記データ供給手段に送信し、前記データ供給手段は特定された移動体通信装置に受け取るべきデータがあることを知らせる通知データを送信するように構成すると良い。
また、前記移動体通信装装置は少なくとも2つ有り、第1の移動体通信装置よりメッセージデータとロボットの諸動作を行うアクションコマンドデータを指定するデータとこれらデータを受け取る移動体通信装置を特定するデータを前記データ供給手段に送信し、第2の移動体通信装置は、前記データ管理装置にアクセスすることで、前記メッセージデータとともに前記アクションデータをネットワークを介して受信するように構成できる。
前記移動体通信装置は携帯電話装置であり、前記教示データが携帯電話装置の表示装置に表示され、この表示に従いキー入力部を用いてアクションデータ情報を選択するように構成すればよい。
また、前記移動体通信装置とロボット装置の通信は赤外線通信により行うことができる。
上記したように、この発明によれば、ロボットが録音した人の声とともにアクション動作を行うので、使用者には、親しみのあるメッセージを伝達することができ、ロボットのさらなる用途が開発できる。
この発明の実施の形態について図面を参照しながら詳細に説明する。なお、図中同一または相当部分には同一符号を付し、説明の重複を避けるためにその説明は繰返さない。
図1は、この発明の第1の実施形態に係るロボットコミュニケーションシステムの外観を示す構成図、図2は、この発明によるロボットコミュニケーションシステムに用いる携帯電話装置の回路の実施形態を示すブロック図、図3は、この発明によるロボットコミュニケーションシステムに用いるロボット装置2の回路の実施形態を示すブロック図である。
この発明の第1の実施形態においては、携帯電話装置1と人間型ロボット装置2との間でIrDA(Infrared Data Association)規格等の赤外線通信機能やブルートゥース(Bluetooth)(登録商標)規格等の無線通信機能を用いて、データの送受が行われる。
携帯電話装置1は、液晶表示部11、キー入力部12、アンテナ部13、スピーカ14、マイク15、赤外線通信機能等を備える。
ロボット装置2は、頭部21、胴体部22、左右腕部23、24、左右脚部25、26を備え、頭部21の回転、腕部23、24の上下動などの動き、脚部25、26の歩行動作などの動きが内部の駆動装置を制御することにより行われる。
頭部21の目210、210は、例えば、LEDをマトリックス状に配置し、目の模様、形状を変えることができるように構成されている。口211の内部にはスピーカが埋め込まれ、内部に格納された音声データや送信されてきた音、音声等を出力することができる。また、図示はしないが、CCDカメラや集音マイクなどが取り付けられている。例えば、CCDカメラにより、周囲の情報を読み取り、その読み取った情報に基づいて、頭部の向きや移動などの制御が行われる。また、集音マイクにより、周囲の音や音声を拾い集めることができる。
更に、後述するように、このロボット装置2には、携帯電話装置1との通信を行うデータ通信部221が備えられている。
図2に従いこの発明によるロボットコミュニケーションシステムに用いる携帯電話装置1の実施形態の回路構成を説明する。
携帯電話装置1の回路部は、ロボット装置2と直接通信するための赤外線送受信部18と、通常の携帯電話の通信を行うとともにロボット装置2との間で無線通信も行う通信部19とを備える。この携帯電話装置1は、携帯電話全体の制御を司るCPU16と各種プログラム等が格納されたメモリ部17を備える。
メモリ部17には、通常の携帯電話としての発呼、着信、通話、メールの送受信などの携帯電話の動作を行うためのプログラム並びにロボット装置2とアクセスし、ロボット動作等を指示するためのコマンド等の動作を行うためのプログラムが格納されている。更に、メモリ部17には、メール等のデータ、ユーザが録音した音声データなどの各種データも格納される。
CPU16は、メモリ部17より携帯電話の動作を行うためのプラグラムを読み出して、通常の携帯電話としての発呼、着信、通話、メールの送受信などの携帯電話の各種制御動作を行う携帯電話機能部16a、メモリ部17よりロボット動作等制御させるためのプログラムを読み出し、ロボット装置2とアクセスし、各種コマンド等の各種制御を行うロボット制御機能部16bの機能を果たす。
携帯電話装置1の各回路とCPU16とはバス100を介して接続され、キー入力部12から与えられたキー入力はバス100からCPU16に与えられ、CPU16は、キー入力されたコマンド等を実行するとともに、液晶表示部11に所定の表示を行わせる。このため、CPU16は、液晶を駆動させる駆動回路部110にバス100を介して表示データ等の送出する。駆動回路部110は送られてきたデータに応じて液晶表示部11に数字や文字、画像等を表示させる。
スピーカ14及びマイク15は、携帯電話としての通話の際に用いられるとともに、メッセージのメモリ部17への録音並びに録音されたメッセージを確認する際にも用いられる。マイク15から入力された音声データは、CPU16によりMP3、WMAなどの音声圧縮されたデジタル音声データに変換され、メモリ部17に格納される。
図3に従いこの発明によるロボットコミュニケーションシステムに用いるロボット装置2の実施形態の回路構成を説明する。
このロボット装置2は、CPU220、メモリ部222を備え、メモリ部222に格納された制御プログラムをCPU220が実行することにより、各種の処理が行われる。CPU220には、携帯電話装置1との間でデータ通信を行うためのデータ通信部221が接続され、データ通信部221を介して携帯電話装置1から与えられるコマンド、音声データ等はCPU220を経てメモリ部222に格納される。データ通信部221の前段には赤外線送受新素子及び/またはアンテナ221aが接続され、赤外線通信機能を有した携帯電話装置1とデータ通信を行う場合には、携帯電話装置1の赤外線送受信部18と赤外線送受信素子221a間にてデータ通信が行われる。また、携帯電話装置1の無線通信機能との間でデータ通信を行う時には、アンテナ221aを介してデータ通信が行われる。
前記メモリ部222には、ロボット装置2の頭部21、左腕部23、右腕部24、左脚部25、右脚部26を動作させるためのプログラムが格納されており、例えば、手を上に挙げる場合には、手駆動部229内のアクチュエータを動作させ、手を上に挙げるためのプログラムが格納されている。これらプログラムは、頭部21、左右腕部23、24、左右脚部25、26の各部位の単独の基本動作及びこれら基本動作を複数個組み合わせた標準動作などそれぞれの要求に対応するようなプログラムが格納されている。
更に、このメモリ部222には、ロボット装置2自体の音声データやメロディ音などの音声データも格納されている。
CPU220に、デコーダ223、音源部226、駆動制御部227が接続され、CPU220の制御に基づき各部の動作が行われる。デコーダ223は、携帯電話装置1から送られてきた音声圧縮データまたはロボット自体の音声データを復号し、その復号した音声データをデジタルアナログ(D/A)変換部224に与える。そして、D/A変換部224で変換されたアナログ信号がスピーカ225に与えられて音声が出力される。
音源部226は、メモリ部222に格納されたメロディ音データに基づき音源データより、メロディ音を作成し、D/A変換部224に与え、D/A変換部224でアナログ信号に変換し、スピーカ225からメロディ音が出力される。また、このD/A変換部224は、音声データとメロディ音を合成し、スピーカ225から出力することもできるように構成されている。
駆動制御部227はCPU220がメモリ部222から読み出したロボット動作のコマンドに応じて、手駆動部229、足駆動部230、頭部駆動部231のアクチュエータ等の動作を制御するように、関節等インタフェース(I/F)228を介して各駆動部229〜231に信号を送出する。
次に、この発明の実施形態にかかるロボットコミュニケーションシステムの動作手順につき図4ないし図6を参照して説明する。
図4は、この発明の実施形態にかかるロボットコミュニケーションシステムにおける携帯電話装置を用いたメッセージ登録動作を示すフローチャート、図5は、この発明の実施形態にかかるロボットコミュニケーションシステムにおけるロボット装置の登録動作を示すフローチャート、図6は、この発明の実施形態にかかるロボットコミュニケーションシステムにおけるロボット装置のメッセージ等の再生動作を示すフローチャートである。
この携帯電話装置1は、Java(登録商標)言語で作成したプログラムの実行環境(Java仮想マシン)が搭載されており、Java言語で作成したアプリケーションソフトが実行できる。この携帯電話装置1においては、アプリケーションソフトの1つとして、ロボット装置2に対してメッセージの登録、アクション動作のプログラムの選択などが容易にできるロボットコントロール用プログラムがサーバ等などからダウンロードして実行できるように構成されている。また、携帯電話装置1からアプリケーションプログラムを動作させることにより、サーバ、ロボット装置2等に動作コマンド等をアップロードさせ、サーバ、ロボット装置2にデータを保存させることができるように構成されている。
ユーザが携帯電話装置1を用いてメッセージ登録する場合につき図4を参照して説明する。図4に示すように、キー入力部12を用いて、ロボット装置2へのメッセージ登録を行う機能が選択されるまで待機し(ステップS1)、メッセージ登録を選択すると、液晶表示部11に「メッセージを登録してください」という表示を行い、ユーザにマイクを用いてメッセージを録音するように教示する(ステップS2)。ユーザが例えば「大好き」というメッセージをマイクから録音する(ステップS3)。マイク17から入力された音声データは、CPU16によりMP3、WMAなどの音声圧縮されたデジタル音声データに変換され、メモリ部17に格納される。
続いて、メッセージの録音が終了したか否か判断する(ステップS4)。メッセージの録音の終了は、例えば、液晶表示部11にメッセージ録音を終了するか否かのアイコンを表示させ、該当するキー入力を行うことにより、メッセージの登録の終了を指示するように構成すればよい。メッセージの録音の終了が指示されるまで、ステップS3に戻り、メッセージ登録動作が続けられる。メッセージの登録終了が指示されると、ステップS5に進む。
ステップS5において、ロボット装置2にメッセージデータを伝送する。この実施形態では、赤外線通信を用いて、携帯電話装置1とロボット装置2との間でデータ通信を行うので、携帯電話装置1の赤外線送受信部18をロボット装置2の赤外線送受信素子221aに向け、メッセージデータを伝送する。ロボット装置2は、データ通信部221を介して送られてきたメッセージデータをメモリ部222に格納した後、携帯電話装置1に対してメッセージの格納が終了したことを示す情報を返送する。携帯電話装置1は、かかる返送信号を受け取ると、液晶表示部11にロボット装置2にメッセージが格納されたこと表示し、続いて、ロボット装置2のアクションを設定するための画面を表示する。そして、キー入力部12からのキー入力があると、アクションの設定を実行するコマンドか否か判断する(ステップS6)。アクションの設定を実行するコマンドの場合には、液晶表示部11にアクション設定用画面を表示する(ステップS7)。この画面は、例えば、腕部、脚部、頭部をどのように動かすかを対話形式で設定できるように表示する。例えば、右腕を動かす場合には、右腕を選択し、「手を振るように」という項目を選ぶと、右腕が手を振るように動かすことができるプログラムを選択するためのコマンドが選ばれる。また、「喜び」、「悲しみ」、「怒り」、「笑い」などの標準的な動作を示すコマンドが予め登録されており、これらのコマンドを選択すると、その標準的な動作をロボット装置2が行うためのコマンドが選択できるように構成されており、ユーザのコマンドの選択動作を簡略化できるモードも採用できる。また、携帯電話装置1のアクションプログラムとして、アクションを自由に組み合わせられるアレンジャーと、自由に新しいアクションを作成できるコンポーザーのプログラムを設け、これらを組み合わせることで、「こんなしぐさ、して欲しいな」というユーザの願いをかなえて、ロボット装置2にその動作を行うためのコマンドを与えるように構成しても良い。
キー入力がアクション設定以外の入力が行われると、ステップS8に進み、ステップS8において、動作終了を示すキーが押された否か判断され、動作終了を示すキーが押されると、動作が終了する。動作終了を示すキー以外の場合には、ステップS7に戻る。
ユーザは、アクション設定画面を見ながら、アクション動作を選択し、ロボット装置2に対して動作させるアクションを選択して行き、ロボット装置2に送信することによって(ステップS9)、携帯電話装置1からアクションを指示するためのコマンドが送られることになる。ロボット装置2は、送られてきたコマンドをメモリ部222に格納して行く。
そして、アクションの設定動作を終了するコマンドが入力されるまで、ステップS7に戻り、前述の動作を繰り返す(ステップS10)。アクションの設定動作が終了すると、携帯電話装置1におけるロボット装置2に対するメッセージ登録動作が終了する。
次に、図5に従いこの発明の実施形態にかかるロボットコミュニケーションシステムにおけるロボット装置の登録動作を説明する。
このロボット装置2は、内蔵されたプログラムにより自律的に動作が行えると共に、携帯電話装置1から伝送されたコマンドに基づく動作も行うものである。このため、携帯電話装置1とロボット装置2間でデータ通信が行われ、携帯電話装置1から送られてくるコマンド、メッセージ等を格納し、これらコマンドに基づきメッセージの再生及び動作を行うものである。
ユーザが携帯電話装置1を用いてロボット装置にメッセージ等の登録動作を行うと、ロボット装置2は図5に示すように動作する。
携帯電話装置1からデータ通信があるまで待機し(ステップS21)、データ通信部221で受信したデータがメッセージを録音したメッセージデータか否か判断され(ステップS22)、メッセージデータの場合には、送られてきたメッセージデータをメモリ部222の音声データを格納する領域に書き込む(ステップS23)。送られてきたデータがメッセージデータでない場合には、ステップS25に進む。
ロボット装置2は、メモリ部222にデータを格納した後、携帯電話装置1へメッセージを格納したことを通知する情報を送信する(ステップS24)。
続いて、ステップS25において、携帯電話装置1から送られてくるデータを判別し、送られてきたデータがアクションの設定を実行するコマンドか否か判断する。アクションの設定を実行するコマンドの場合には、アクションコマンドをメモリ部222に格納し(ステップS26)、携帯電話装置1へアクションコマンドを格納したことを通知する情報を送信する(ステップS27)。そして、ステップS22に戻り、前述の動作を繰り返す。
一方、ステップS25において、アクションコマンドでないと判断されると、ステップS28に進み、ステップS28において、動作終了を示す情報であるか否か判断し、動作終了を示す情報であれば、ロボット装置2の登録動作が終了する。動作終了を示す情報でない場合には、ステップS22に戻り、前述の動作を繰り返す。
次に、ロボット装置2のアクションと共にメッセージを再生する動作につき、図6及び図7を参照して説明する。図6は、この発明の実施形態にかかるロボットコミュニケーションシステムにおけるロボット装置のメッセージ等の再生動作を示すフローチャート、図7は、メッセージ等の再生時のロボット装置を示す模式図である。
メッセージ等がロボット装置2に格納されている場合、例えば、ロボット装置2を動作させた時に、ロボット装置2が「メッセージがあるよ」などスピーカ225からロボットの音声で再生し、ユーザにメッセージがあることを通知するように構成する。このように構成すると、メッセージの伝達がスムーズに行える。また、音声でなく、目210を瞬きするなどして、注意を喚起するなど種々の方法がある。
メッセージの再生を行う場合、例えば、再生用のコマンド入力を行うか、ロボット装置2を起動する際など、予めメッセージ再生を行うための命令等を決めておく。ユーザがメッセージ再生のためのコマンド等をロボット装置2与えると、ロボット装置2はメッセージ再生要求があったと判断し(ステップS31)、CPU220は、メモリ部222から録音されたメッセージを読み出し、デコーダ223に送る(ステップS32)。
続いて、CPU220がメモリ部222より、アクションコマンドを読み出し、駆動制御部227に与える(ステップS33)。
続いて、ステップS34において、デコーダ223は圧縮された音声データをデコードし、録音した人の声がスピーカ225より発声される。そして、その発声と同時に、指定されたアクション動作に基づく動作を行うように、駆動制御部227が手駆動部229、足駆動部230、頭駆動部231を動作させる制御信号を送出する。そして、メッセージ動作が終了か否か判断され、終了していない場合には、ステップS34に戻り、前述の動作を行う。メッセージ動作が終了すると、ロボット動作が終了する(ステップS35)。
例えば、録音されたメッセージが「大好き」であり、アクションが両手を挙げる動作であれば、図7に示すように、ロボット装置2は、腕部23、24を挙げて、スピーカ225から「大好き」と録音した人の声で発声する。
このようにして、ロボット装置2が録音した人の声とともにアクション動作を行うので、ユーザには、親しみのあるメッセージを伝達することができる。
また、メッセージを繰り返し発声したり、また、異なるメッセージを続けて発声したり、色々なモーションを予め携帯電話装置1からロボット装置2内に格納させておくことで対応させることができる。
また、アクション動作も連続動作など色々動作を対応させることができる。
更に、上記した実施形態では、携帯電話装置1のマイク15を用いて、ロボット装置2で再生する音声をメモリ部17に格納するように構成したが、音楽をダウンロードし、その音楽データをロボット装置2に伝送し、ロボット装置2で再生するように構成することもできる。このとき、音楽に合わせたアクション動作を携帯電話装置1で選択し、ロボット装置2に伝送するように構成すれば、ロボット装置2は、音楽に合わせて踊るようなアクションを行えるように容易にプログラムすることができる。
また、上記した実施形態においては、ロボット装置2と携帯電話装置1とは赤外線通信によりデータの送受を行うように構成したが、ブルートゥース(Bluetooth)を用いた通信や携帯電話装置1の通信部19を用いて通信などによりデータ通信を行うように構成しても良い。
次に、この発明の第2の実施形態につき図面を参照して説明する。上記した第1の実施形態においては、ロボット装置2に携帯電話装置1からメッセージ、アクション動作を登録させていたが、この第2の実施形態においては、複数の携帯電話装置を用いて、離れたロボット装置2に対して、メッセージ及びアクション動作を登録させることができるように構成したものである。
図8は、この発明の第2の実施形態にかかるロボットコミュニケーションシステムの構成を示す説明図、図9は、この発明の第2の実施形態にかかるロボットコミュニケーションシステムに用いられるデータ供給装置50の構成を示すブロック図、図10は、この発明の第2の実施形態にかかるロボットコミュニケーションシステムにおいてロボット装置の動作等を示す説明図である。
これら図において、携帯電話装置1A、1B、ロボット装置2は上述した第1の実施形態のものと同様に構成されている。携帯電話装置1A、1Bは携帯電話網40と接続され、この携帯電話網40は、携帯電話基地局を含む携帯電話網制御部45と接続され、それぞれの携帯電話装置における送受信が行われる。この携帯電話制御部45はインターネット46と接続され、このインターネット46を介してデータ供給装置50と接続される。
データ供給装置50は、ロボット装置2がアクション動作を行うためのコマンド、プログラム等のデータベースが保存されている。そして、この実施形態においては、携帯電話装置1A(1B)のユーザが、携帯電話装置のアプリケーションプログラムを用いて、データ供給装置50との間でインターネット46、携帯電話網40を介してデータの送受を行えるように構成している。
図8、図10に示すように、この実施の形態におけるデータ供給装置50は、インターネット46に接続され、携帯電話装置1A(1B)とデータの送受が行われる。この実施形態では、携帯電話装置1Aからメッセージ、ロボット装置2に対するアクションコマンド等のデータがデータ供給装置50にアップロードされる。また、データ供給装置50は、携帯電話装置1Bからの要求に応じてアップロードされたデータに基づきメッセージ、アクション動作のプログラム等をダウンロードさせるものである。
図9に示すように、データ供給装置50は、ネットワーク制御部501、アクションデータ展開・格納部502、相手先データ格納部503、音声データ格納部504を備える。
ネットワーク制御部501はインターネット46を介して携帯電話装置1A(1B)との間でデータ通信を行うためのプロトコル等が格納され、インターネット46を介してアップロードされたコマンド、メッセージ等を所定の格納部へ格納させると共に、要求されたデータ等をインターネット46を介してダウンロードする動作を制御する。
アクションデータ展開・格納部502は、ロボット装置2のアクション動作のコマンド等を格納するもので、携帯電話装置(1A)から送られてきたロボット装置2のアクションコマンドに基づき、そのアクションに応じたロボットの動作プログラムに展開し、そのコマンドと共に格納する。
相手先データ格納部503は、ダウンロードさせる相手先の携帯電話装置(1B)のメールアドレスなどを格納するものである。データ供給装置50は、相手先データ格納部503に格納された相手先の携帯電話装置(1B)に対して、ダウンロードすべきメッセージがあることを通知し、相手先携帯電話装置(1B)にダウンロードを行うように要求する。
音声データ格納部504は、携帯電話装置(1A)からアップロードされたユーザからのメッセージ音声が音声圧縮されたデータとして格納されている。
更に、この実施形態においては、データ供給装置50は、データベース500と接続され、このデータベースに500には、ロボット装置2の種々の動作を制御するプログラム、ロボット装置2が発声する音声、音楽などのコンテンツなどが格納されている。
次に、この発明の第2の実施形態における動作につき図11及び図12のフローチャートに従い説明する。図11は、この発明の第2の実施形態における携帯電話装置からデータ供給装置へのデータのアップロード動作を示すフローチャート、図12は、この発明の実施形態におけるデータ供給装置から携帯電話装置へのダウンロード動作を示すフローチャートである。
まず、携帯電話装置1Aからデータ供給装置50へのデータのアップロード動作につき、図11に従い説明する。
携帯電話装置1Aはアプリケーションプログラムを動作させ、携帯電話装置1Aからデータ供給装置50にアクセスする。携帯電話装置1Aから携帯電話網40、携帯電話網制御部45、インターネット46を介してデータ供給装置50にアクセスされる(ステップS51)。データ供給装置50では、携帯電話装置1Aからのアクセスを受けると、アクセス権があるか否か判断される(ステップS52)。そして、アクセス権がない場合には、通信を終了させる(ステップS71)。アクセス権があると、携帯電話装置1Aにメッセージ登録に動作を行うための通知を行う(ステップS53)。
携帯電話装置1Aにおいては、データ供給装置50からの通知に従い、液晶表示部11にメッセージを入力するための画面を表示する(ステップS54)。液晶表示部11では、例えば、「ロボット装置へのメッセージ登録を開始します。」「相手先のアドレスを入力してください。」など、ユーザが行うべき動作が分かるような表示が行われる。携帯電話装置1Aのユーザは、表示に従ってメッセージ等を送るべき相手先の携帯電話装置1Bのアドレスをキー入力部12を用いて入力する(ステップS55)。そして、データ供給装置50に入力したアドレスデータを送信する(ステップS56)。
データ供給装置50では、携帯電話装置1Aから送られてきたアドレスデータを相手先データ格納部503に格納し(ステップS57)、続いて、携帯電話装置1Aに次の登録動作を行うための通知を行う(ステップS58)。
携帯電話装置1Aにおいては、データ供給装置50からの通知に従い、液晶表示部11に音声メッセージを入力するための画面を表示する(ステップS59)。液晶表示部11では、例えば、「ロボット装置への音声メッセージ登録を開始します。」「メッセージを録音してください。」などの表示が行われる。携帯電話装置1Aのユーザは、表示に従ってマイク15からメッセージを入力し、メモリ部17に音声圧縮されたユーザのメッセージを格納する(ステップS60)。そして、メッセージの登録が終了を指示したか否か判断され(ステップS61)、終了を指示しない場合には、ステップS59へ戻り、前述の動作を繰り返す。メッセージの登録の終了がなされると、ステップS62に進み、データ供給装置50に録音したメッセージデータを送信する(ステップS62)。
データ供給装置50では、携帯電話装置1Aから送られてきたメッセージデータを送るべき相手先と関連づけて音声データ格納部504に格納し(ステップS63)、続いて、携帯電話装置1Aに次の登録動作を行うための通知を行う(ステップS64)。
携帯電話装置1Aにおいては、データ供給装置50からの通知に従い、ロボットのアクションを設定するための画面を表示する(ステップS65)。続いて、アクションの設定を実行するコマンドを入力し(ステップS66)、メモリ部17に格納する。アクションの設定を実行するコマンドは、液晶表示部11に表示されたアクション設定用画面と対話形式に設定し入力する。この画面には、例えば、右腕を動かす場合には、右腕を選択し、「手を振るように」という項目を選ぶと、右腕が手を振るように動かすことができるプログラムを選択するためのコマンドが選ばれる。また、「喜び」、「悲しみ」、「怒り」、「笑い」などの標準的な動作を示すコマンドが予め登録されており、これらのコマンドを選択すると、その標準的な動作をロボット装置2が行うためのコマンドが選択できるように構成されており、ユーザのコマンドの選択動作を簡略化できるモードも採用できる。このようにして入力されたコマンドをデータ供給装置50に送信する(ステップS67)。
データ供給装置50では、携帯電話装置1Aから送られてきたアクションコマンドデータを送るべき相手先と関連づけてアクションデータ展開・格納部502に格納し(ステップS68)、続いて、携帯電話装置1Aに次の登録動作、動作を終了を行うための通知を行う(ステップS69)。
携帯電話装置1Aでは、動作終了を示すキーが押された否か判断され(ステップS70)、動作終了を示すキーが押されると、ステップS71に進み、通信を終了し、回線が切断される。動作終了を示すキー以外の場合には、ステップS65に戻り、前述の動作を繰り返す。
このようにして、携帯電話装置1Aからデータ供給装置50に、相手先、音声メッセージ、アクション動作を行うためのコマンド等がアップロードされる。
次に、データ供給装置50から携帯電話装置1Bに音声メッセージ、アクション動作を行うためのコマンド等をダウンロードする動作につき図12を参照して説明する。
データ供給装置50は、相手先データ格納部503に格納されたアドレスに従い相手先の携帯電話、この実施形態では、携帯電話装置1Bにメッセージが登録されていることを通知する(ステップS81)。
携帯電話装置1Bのユーザはメッセージがあることを知ると、携帯電話装置1Bのアプリケーションプログラムを動作させ、携帯電話装置1Bからデータ供給装置50にアクセスする。携帯電話装置1Bから携帯電話網40、携帯電話網制御部45インターネット46を介してデータ供給装置50にアクセスされる(ステップS82)。データ供給装置50では、携帯電話装置1Bからのアクセスを受けると、アクセス権があるか否か判断される(ステップS83)。そして、アクセス権がない場合には、通信を終了させる(ステップS94)。アクセス権があると、携帯電話装置1Bに対してデータのダウンロードを行うために、メッセージのダウンロード動作を行うための通知を行う(ステップS84)。
携帯電話装置1Bにおいては、データ供給装置50からの通知に従い、液晶表示部11にメッセージをダウンロードするための画面を表示する(ステップS85)。ユーザが携帯電話装置1Bからデータ供給装置50に対してダウンロードの実行を指示する命令を送信する(ステップS86)。
データ供給装置50では、ダウンロードを指示する命令を受け取ると、相手先に関するメッセージデータを音声データ格納部503から読み出し、携帯電話装置1Bに対してそのメッセージデータを送信する(ステップS87)。
携帯電話装置1Bでは、送られてきたメッセージデータ(音声データ)をメモリ部17に格納する(ステップS88)。その後、データ供給装置50に対して、次のデータを要求する命令を送信する(ステップS89)。
データ供給装置50では、次のデータのダウンロードを指示する命令を受け取ると、相手先のロボット装置に関するアクションコマンドデータをアクションデータ展開・格納部502から読み出し、携帯電話装置1Bに対してそのアクションコマンドデータを送信する(ステップS90)。
携帯電話装置1Bでは、送られてきたアクションコマンドデータをメモリ部17に格納する(ステップS91)。その後、データ供給装置50に対して、ダウンロード完了通知を送信する(ステップS92)。
データ供給装置50では、携帯電話装置1Bから送られてきたダウンロード完了通知を受け取ると、ダウンロード動作を終了させ(ステップS93)、アドレスデータを相手先データ格納部503に格納し(ステップS57)、その後、通信を終了し、回線を切断する(ステップS94)。
このようにして、データ供給装置50から音声メッセージ、アクション動作を行うためのコマンド等が携帯電話装置1Bのメモリ部17にダウンロードされる。
携帯電話装置1Bに格納された音声メッセージ、アクション動作を行うためのコマンド等を赤外線送通信によりロボット装置2へデータ通信する。このロボット装置2への登録動作は、前述した図5に示すフローチャートの動作と同様である。尚、前述した動作は、携帯電話装置に自らメッセージ、コマンド等を登録したが、この第2の実施形態においては、データ供給装置50にインターネット46等を介して登録されたメッセージデータ等をダウンロードして登録する点が相違する。すなわち、図8、図10に示すように、この第2の実施形態では、離れた場所にいるユーザのメッセージを携帯電話装置1Aからデータ供給装置50、携帯電話装置1Bを経てロボット装置2に与えることができる。
ロボット動作も前述した図5に示すフローチャートの動作と同様である。ロボット装置2を動作させると、図10に示すように、離れた場所にいる人の声をロボット装置2が発声すると共にメッセージを登録した人が考えたロボットのアクション(この例では腕23、24を挙げる)が同時行われる。この結果、メッセージを聞いた人は、メッセージを登録した人の声を聞くことができ親近感を感じるとともに、そのメッセージに関連したロボット装置2のアクション動作も見ることができるので、インパクトが強いメッセージ伝達が行われることになる。
尚、このデータベースに500に格納されているロボット装置2の種々の動作を制御するプログラム、ロボット装置2が発声する音声、音楽などのコンテンツをロボット装置2に入力する際にも、データ供給装置50に対して、携帯電話装置1からこれらデータのダウンロードを要求し、これらデータを携帯電話装置1に格納し、そして、携帯電話装置1からロボット装置2にデータを送ることで、ロボット装置2内に種々のプログラム等を容易に書き込むことができる。
また、上記した実施形態においては、携帯電話装置1を用いてロボット装置2とデータ通信を行うように構成しているが、携帯電話装置の代わりに無線LAN等に接続されるノートパソコンなどを用いてデータの送受を行うように構成することもできる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した実施の形態の説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
携帯電話装置などの移動体通信端末を用いてロボット装置のアクションを制御するシステムに用いられる。
1、1A、1B 携帯電話装置、11 液晶表示部、12 キー入力部 13アンテナ部、14 スピーカ、15 マイク、16 CPU、17 メモリ部、18 赤外線送受信部、 19 通信部、100 バス、110 駆動回路部、2 ロボット装置、21 頭部、22 胴体部 23 左腕部、24 右腕部、25 左脚部、26 右脚部、210 目、211 口、220 CPU、221 データ通信部、222 メモリ部、223 デコーダ、224 D/A変換部、225 スピーカ、226 音源部、227 駆動制御部、228 関節等インタフェース、229 手駆動部、230 足駆動部、231 頭部駆動部、50 データ供給装置、501 ネットワーク制御部、502 アクションデータ展開・格納部、503 相手先データ格納部、504 音声データ格納部。
Claims (3)
- スピーカ、各部駆動手段及びこれらを制御する制御部並びに通信手段を備えたロボットと、移動体通信装置と、を主構成要素とし、
前記移動体通信装置は、通常の移動体通信機能と前記ロボットと通信を行って諸動作を行わせるためのアクションコマンドデータ並びにメッセージデータの送受信を行う送受信手段と、これらデータ情報を格納する格納手段を備えており、
前記移動体通信装置より使用者の音声データからなるメッセージデータとロボットの諸動作を行わせるためのアクションコマンドデータを前記送受信手段より前記ロボットに送信し、前記ロボットは受信したメッセージデータとアクションコマンドデータに基づき、使用者の音声データの再生とアクション動作を行うことを特徴とするロボットコミュニケーションシステム。 - スピーカ、各部駆動手段及びこれら回路を制御する制御部並びに通信手段を備えたロボットと、移動体通信装置と、この移動体通信装置との間にネットワークを介して接続されたデータ供給手段と、を主構成要素とし、
前記移動体通信装置は、通常の移動体通信機能と前記ロボットと通信を行って諸動作を行わせるためのアクションコマンドデータ並びにメッセージデータの送受信を行う送受信手段と、これらデータ情報を格納する格納手段と、を備え、
前記データ供給装置は、前記ロボットの諸動作を行わせるためのアクションコマンドデータ情報並びにメッセージデータを格納する格納手段と、前記移動体通信装置からの指示情報に基づき前記アクションコマンドデータ並びにメッセージデータを移動体通信装置に送信する手段と、を備え、
前記移動体通信装置より使用者の音声データからなるメッセージデータとロボットの諸動作を行わせるためのアクションコマンドデータを前記ネットワークを介して前記データ供給手段にアップロードし、前記データ供給手段より格納されたメッセージデータとロボットの諸動作を行わせるためのアクションコマンドデータをネットワークを介して移動体通信装置へダウンロードし、ダウンロードした移動体通信装置がメッセージデータとロボットの諸動作を行わせるためのアクションコマンドデータを前記ロボットに送信し、前記ロボットは受信した音声データとアクションデータに基づき、使用者の音声データの再生とアクション動作を行うことを特徴とするロボットコミュニケーションシステム。 - 前記データ供給手段は、移動体通信装置からの要求により、前記音声データとともに前記アクションコマンドデータを要求された移動体通信装置にネットワークを介して送信することを特徴とする請求項2に記載のロボットコミュニケーションシステム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005231100A JP2007044798A (ja) | 2005-08-09 | 2005-08-09 | ロボットコミュニケーションシステム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005231100A JP2007044798A (ja) | 2005-08-09 | 2005-08-09 | ロボットコミュニケーションシステム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007044798A true JP2007044798A (ja) | 2007-02-22 |
Family
ID=37848078
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005231100A Pending JP2007044798A (ja) | 2005-08-09 | 2005-08-09 | ロボットコミュニケーションシステム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007044798A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009113136A (ja) * | 2007-11-05 | 2009-05-28 | Hitachi Ltd | ロボット |
CN103213115A (zh) * | 2013-04-15 | 2013-07-24 | 李博 | 手机手柄式状态模拟机器人 |
JP2013193149A (ja) * | 2012-03-16 | 2013-09-30 | Fujitsu Ltd | ロボット制御装置、ロボットシステム、ロボット制御方法、及びロボット制御プログラム |
CN104918756A (zh) * | 2012-12-28 | 2015-09-16 | (株)未来机器人 | 私人机器人 |
CN105666526A (zh) * | 2016-03-22 | 2016-06-15 | 北京百度网讯科技有限公司 | 基于人工智能的机器人调试系统 |
JP2016198859A (ja) * | 2015-04-10 | 2016-12-01 | ヴイストン株式会社 | ロボット及びロボット制御方法並びにロボットシステム |
JP2017119336A (ja) * | 2015-12-28 | 2017-07-06 | ヴイストン株式会社 | ロボット、ロボット制御方法並びにロボットプログラム |
JP2017164854A (ja) * | 2016-03-17 | 2017-09-21 | カシオ計算機株式会社 | ロボット及びプログラム |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001156930A (ja) * | 1999-11-30 | 2001-06-08 | Nippon Telegr & Teleph Corp <Ntt> | ゼスチャー伝送装置 |
JP2002374581A (ja) * | 2001-06-14 | 2002-12-26 | Yamaha Motor Co Ltd | コミュニケーションツール及びコミュニケーション支援システム |
JP2004174642A (ja) * | 2002-11-26 | 2004-06-24 | Matsushita Electric Ind Co Ltd | 無線通信システム、携帯電話機用プログラム、ロボット装置、並びに、ロボット装置用プログラム |
JP2004297598A (ja) * | 2003-03-27 | 2004-10-21 | Ntt Docomo Inc | 通信端末装置、動作情報交換システム、及び動作情報交換方法 |
JP2005065024A (ja) * | 2003-08-18 | 2005-03-10 | Honda Motor Co Ltd | 携帯端末機器を用いた移動ロボットの画像撮影装置 |
JP2005117621A (ja) * | 2003-09-16 | 2005-04-28 | Honda Motor Co Ltd | 画像配信システム |
JP2005186234A (ja) * | 2003-12-26 | 2005-07-14 | Victor Co Of Japan Ltd | ネットワークロボット及びその制御方法 |
JP2005193360A (ja) * | 2004-01-09 | 2005-07-21 | Eizaburo Suda | 移動体の移動軌道制御装置および制御方法 |
-
2005
- 2005-08-09 JP JP2005231100A patent/JP2007044798A/ja active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001156930A (ja) * | 1999-11-30 | 2001-06-08 | Nippon Telegr & Teleph Corp <Ntt> | ゼスチャー伝送装置 |
JP2002374581A (ja) * | 2001-06-14 | 2002-12-26 | Yamaha Motor Co Ltd | コミュニケーションツール及びコミュニケーション支援システム |
JP2004174642A (ja) * | 2002-11-26 | 2004-06-24 | Matsushita Electric Ind Co Ltd | 無線通信システム、携帯電話機用プログラム、ロボット装置、並びに、ロボット装置用プログラム |
JP2004297598A (ja) * | 2003-03-27 | 2004-10-21 | Ntt Docomo Inc | 通信端末装置、動作情報交換システム、及び動作情報交換方法 |
JP2005065024A (ja) * | 2003-08-18 | 2005-03-10 | Honda Motor Co Ltd | 携帯端末機器を用いた移動ロボットの画像撮影装置 |
JP2005117621A (ja) * | 2003-09-16 | 2005-04-28 | Honda Motor Co Ltd | 画像配信システム |
JP2005186234A (ja) * | 2003-12-26 | 2005-07-14 | Victor Co Of Japan Ltd | ネットワークロボット及びその制御方法 |
JP2005193360A (ja) * | 2004-01-09 | 2005-07-21 | Eizaburo Suda | 移動体の移動軌道制御装置および制御方法 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009113136A (ja) * | 2007-11-05 | 2009-05-28 | Hitachi Ltd | ロボット |
JP2013193149A (ja) * | 2012-03-16 | 2013-09-30 | Fujitsu Ltd | ロボット制御装置、ロボットシステム、ロボット制御方法、及びロボット制御プログラム |
CN104918756A (zh) * | 2012-12-28 | 2015-09-16 | (株)未来机器人 | 私人机器人 |
CN103213115A (zh) * | 2013-04-15 | 2013-07-24 | 李博 | 手机手柄式状态模拟机器人 |
JP2016198859A (ja) * | 2015-04-10 | 2016-12-01 | ヴイストン株式会社 | ロボット及びロボット制御方法並びにロボットシステム |
US10486312B2 (en) | 2015-04-10 | 2019-11-26 | Vstone Co., Ltd. | Robot, robot control method, and robot system |
JP2017119336A (ja) * | 2015-12-28 | 2017-07-06 | ヴイストン株式会社 | ロボット、ロボット制御方法並びにロボットプログラム |
JP2017164854A (ja) * | 2016-03-17 | 2017-09-21 | カシオ計算機株式会社 | ロボット及びプログラム |
CN105666526A (zh) * | 2016-03-22 | 2016-06-15 | 北京百度网讯科技有限公司 | 基于人工智能的机器人调试系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN100436082C (zh) | 用于通信机器人的控制系统 | |
JP3855653B2 (ja) | 電子玩具 | |
JP2003205483A (ja) | ロボットシステム及びロボット装置の制御方法 | |
US20130218346A1 (en) | Method & apparatus for remotely operating a robotic device linked to a communications network | |
WO2000043168A1 (fr) | Robot | |
JP2009520296A (ja) | メッセージを送る方法、メッセージ送信装置及びメッセージレンダリング装置 | |
JP2007044798A (ja) | ロボットコミュニケーションシステム | |
WO2004084183A1 (ja) | 音声対話装置及び方法並びにロボット装置 | |
JP2002337079A (ja) | 情報処理装置および方法、記録媒体、並びにプログラム | |
KR100417402B1 (ko) | 중앙 연산부가 착탈 가능한 완구 | |
CN201163447Y (zh) | 一种教学辅助装置及系统 | |
KR20200120394A (ko) | 안드로이드기반의다용도로봇플랫폼장치 | |
JP2001242780A (ja) | 情報通信ロボット装置、情報通信方法および情報通信ロボットシステム | |
US20120021732A1 (en) | Cloud computing system configured for a consumer to program a smart phone or touch pad | |
KR20130093186A (ko) | 인터랙티브 캐릭터를 활용한 동영상 제작 장치 | |
JP4666194B2 (ja) | ロボットシステム、ロボット装置及びその制御方法 | |
JP2001191274A (ja) | データ保持装置、ロボット装置、変更装置及び変更方法 | |
KR101939500B1 (ko) | 모바일 단말을 이용한 인형극 시스템 및 방법 | |
KR100831566B1 (ko) | 넷토이 감성표현 설정 방법 및 그를 이용한 넷토이 서비스시스템 및 그 방법 | |
JP2002239971A (ja) | ロボットシステム及びロボット | |
JP2021083488A (ja) | プログラム及び構造体制御システム | |
KR20140080624A (ko) | 안내용 로봇 제어시스템 | |
KR20090020845A (ko) | 휴대폰을 이용한 완구용 로봇 무선 조종 시스템 및 방법 | |
JP2003308282A (ja) | 通信装置 | |
JP3967627B2 (ja) | 疑似通信会話システム、会話装置および駆動体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Effective date: 20080327 Free format text: JAPANESE INTERMEDIATE CODE: A621 |
|
A131 | Notification of reasons for refusal |
Effective date: 20110118 Free format text: JAPANESE INTERMEDIATE CODE: A131 |
|
A02 | Decision of refusal |
Effective date: 20110705 Free format text: JAPANESE INTERMEDIATE CODE: A02 |