JPWO2019198222A1 - Equipment control system, equipment, equipment control method and program - Google Patents
Equipment control system, equipment, equipment control method and program Download PDFInfo
- Publication number
- JPWO2019198222A1 JPWO2019198222A1 JP2020513032A JP2020513032A JPWO2019198222A1 JP WO2019198222 A1 JPWO2019198222 A1 JP WO2019198222A1 JP 2020513032 A JP2020513032 A JP 2020513032A JP 2020513032 A JP2020513032 A JP 2020513032A JP WO2019198222 A1 JPWO2019198222 A1 JP WO2019198222A1
- Authority
- JP
- Japan
- Prior art keywords
- server
- control command
- end server
- air conditioner
- created
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 4
- 238000004891 communication Methods 0.000 claims description 48
- 230000006870 function Effects 0.000 claims description 10
- 230000004044 response Effects 0.000 description 41
- 238000004140 cleaning Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000005236 sound signal Effects 0.000 description 2
- 230000004397 blinking Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04Q—SELECTING
- H04Q9/00—Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computer Networks & Wireless Communication (AREA)
- Selective Calling Equipment (AREA)
- Telephonic Communication Services (AREA)
- Air Conditioning Control Device (AREA)
Abstract
スマートスピーカ(20)は、入力された音声に基づく音声情報をフロントエンドサーバ(40)に送信する。フロントエンドサーバ(40)は、受信した音声情報に基づく制御指令をバックエンドサーバ(50)に送信する。バックエンドサーバ(50)は、受信した制御指令に基づく詳細制御指令を空調機(10)に送信する。空調機(10)は、バックエンドサーバ(50)から受信した詳細制御指令に基づいた動作を行う。空調機(10)は、フロントエンドサーバ(40)が作成した制御指令に基づいて制御されることを、音を発することによりユーザに報知する。このとき、空調機(10)は、フロントエンドサーバ(40)以外が作成した制御指令に基づいて制御されることを報知する場合に発せられる音とは異なる音を発することにより、報知を行う。The smart speaker (20) transmits voice information based on the input voice to the front-end server (40). The front-end server (40) transmits a control command based on the received voice information to the back-end server (50). The back-end server (50) transmits a detailed control command based on the received control command to the air conditioner (10). The air conditioner (10) operates based on the detailed control command received from the back-end server (50). The air conditioner (10) notifies the user by emitting a sound that the air conditioner (10) is controlled based on the control command created by the front-end server (40). At this time, the air conditioner (10) performs notification by emitting a sound different from the sound emitted when notifying that control is performed based on a control command created by a server other than the front-end server (40).
Description
本発明は、機器制御システム、機器、機器制御方法及びプログラムに関する。 The present invention relates to device control systems, devices, device control methods and programs.
サーバ経由で機器を制御する技術が知られている。例えば、特許文献1には、携帯電話の操作に基づく操作情報をサーバが受信し、受信した操作情報に基づいて、サーバがインターネットを介して住宅内の機器を制御するネットワーク家電システムが開示されている。
Technology for controlling devices via a server is known. For example,
しかし、特許文献1に開示されたネットワーク家電システムでは、サーバ経由で機器が制御されることを好適に報知するという観点からは不十分である。例えば、第三者が携帯電話の操作によりサーバ経由で不正に機器を制御した場合、当該携帯電話を所有しない住宅内のユーザには、サーバ経由で機器が制御されることを知ることが困難である。
However, the network home appliance system disclosed in
本発明の目的は、上記の事情に鑑み、サーバ経由で機器が制御されることを好適に報知できる機器制御システム等を提供することにある。 An object of the present invention is to provide a device control system or the like that can suitably notify that a device is controlled via a server in view of the above circumstances.
上記の目的を達成するため、本発明に係る機器制御システムは、
入力装置と、第1のサーバと、報知手段と、を備え、
前記入力装置は、
入力操作を受け付ける入力手段と、
前記入力操作に基づく操作情報を作成する操作情報作成手段と、を備え、
前記第1のサーバは、
前記操作情報を通信により前記入力装置から取得する操作情報取得手段と、
機器を制御する制御指令を前記操作情報に基づいて作成する指令作成手段と、を備え、
前記報知手段は、前記第1のサーバにより作成された制御指令に基づいて前記機器が制御されることを報知し、前記第1のサーバ以外により作成された制御指令に基づいて前記機器が制御されることを報知する。In order to achieve the above object, the device control system according to the present invention is
It is provided with an input device, a first server, and a notification means.
The input device is
An input means that accepts input operations and
An operation information creating means for creating operation information based on the input operation is provided.
The first server is
An operation information acquisition means for acquiring the operation information from the input device by communication,
A command creating means for creating a control command for controlling a device based on the operation information is provided.
The notification means notifies that the device is controlled based on a control command created by the first server, and the device is controlled based on a control command created by a server other than the first server. Notify that.
本発明によれば、サーバにより作成された制御指令に基づいて機器が制御されることを報知し、サーバ以外により作成された制御指令に基づいて機器が制御されることを報知するので、サーバ経由で機器が制御されることを好適に報知できる。 According to the present invention, it is notified that the device is controlled based on the control command created by the server, and that the device is controlled based on the control command created by a device other than the server. It is possible to preferably notify that the device is controlled by.
以下、図面を参照しながら、本発明の実施の形態に係る機器制御システムについて説明する。各図面においては、同一又は同等の部分に同一の符号を付す。 Hereinafter, the device control system according to the embodiment of the present invention will be described with reference to the drawings. In each drawing, the same or equivalent parts are designated by the same reference numerals.
(実施の形態1)
図1を参照しながら、実施の形態1に係る機器制御システム1について説明する。機器制御システム1は、スマートスピーカ20によって、フロントエンドサーバ40及びバックエンドサーバ50を介して住宅2内の空調機10を制御するシステムである。また、機器制御システム1によれば、空調機10がフロントエンドサーバ40経由で制御されたことと、フロントエンドサーバ40を経由せずに制御されたこととをユーザに報知できる。(Embodiment 1)
The
機器制御システム1は、フロントエンドサーバ40と、バックエンドサーバ50と、空調機10と、リモコン11と、スマートスピーカ20と、ルータ30と、を備える。図1において、空調機10、リモコン11、スマートスピーカ20及びルータ30は、住宅2内に設けられている。フロントエンドサーバ40、バックエンドサーバ50及びルータ30は、インターネットNTに接続されている。
The
理解を容易にするため、まず、機器制御システム1による空調機10の制御の大まかな流れについて説明する。
In order to facilitate understanding, first, a rough flow of control of the
(1)ユーザが、空調機10を制御するためのフレーズを、口頭にてスマートスピーカ20に入力する。つまり、ユーザがスマートスピーカ20に話しかける。空調機10を制御するためのフレーズの例として、「エアコンつけて」「朝7時にエアコンつけて」「朝7時に26℃にして」などが挙げられる。
(1) The user verbally inputs a phrase for controlling the
(2)スマートスピーカ20は、ユーザが入力した音声を音声情報に変換してフロントエンドサーバ40に送信する。
(2) The
(3)フロントエンドサーバ40は、スマートスピーカ20から受信した音声情報に対して、音声認識を行う。
(3) The front-
(4)フロントエンドサーバ40は、音声認識の結果に基づいて、空調機10に対して行うべき制御指令を作成し、作成した制御指令をバックエンドサーバ50に送信する。例えば、音声認識の結果、音声情報が「朝7時にエアコンつけて」と認識された場合、フロントエンドサーバ40は、「7時に空調機10を起動」という内容の制御指令を作成する。
(4) The front-
(5)バックエンドサーバ50は、受信した制御指令に基づいて、詳細制御指令を作成し、作成した詳細制御指令を空調機10に送信する。詳細制御指令とは、制御指令に基づく制御を空調機10に対して行うために、空調機10に対して行うべき制御をより詳細に定めた指令である。例えば、受信した制御指令が「7時に空調機10を起動」という内容であった場合、バックエンドサーバ50は、「自動オンタイマーを7時に設定」という詳細制御指令を作成する。
(5) The back-
(6)空調機10は、受信した詳細制御指令に基づいた動作を実行する。また、空調機10は、フロントエンドサーバ40が作成した制御指令に基づいて制御されることを、音を発することによりユーザに報知する。つまり、空調機10がフロントエンドサーバ40経由で制御されることを、音により報知する。このとき、空調機10は、フロントエンドサーバ40以外が作成した制御指令に基づいて制御されることを報知する場合に発せられる音とは異なる音を発することにより、報知を行う。フロントエンドサーバ40以外が作成した制御指令に基づいて制御される場合とは、例えばリモコン11の操作に基づいて制御される場合である。
(6) The
(7)空調機10は、詳細制御指令の受信に応答する返答情報をバックエンドサーバ50に送信する。バックエンドサーバ50は、受信した返答情報をフロントエンドサーバ40に送信する。フロントエンドサーバ40は、受信した返答情報に基づいた返答音声情報を作成し、スマートスピーカ20に送信する。スマートスピーカ20は、受信した返答音声情報に基づいた返答音声を再生する。スマートスピーカ20により再生される返答音声の例として、「設定温度が変更されました」「フィルタの自動清掃を開始します」「エラー。この機種にはフィルタ清掃機能がありません」などのメッセージを発する音声が挙げられる。
(7) The
次に、機器制御システム1の各構成について説明する。
Next, each configuration of the
空調機10は、インターネットNTを介した通信が可能な空調機である。図2に示すとおり、空調機10は、第1通信部100と、第2通信部110と、制御部120と、報知部130と、を備える。また、空調機10は、熱交換器、モータなど、空調機を構成するために必要な各機能部を備えるが、図2には図示しない。空調機10は、本発明に係る機器の一例である。
The
空調機10は、ルータ30と接続されている。空調機10とルータ30とは、例えば無線LAN(Local Area Network)により接続されている。空調機10は、リモコン11との通信が可能である。空調機10とリモコン11とは、例えば赤外線通信により通信できる。
The
第1通信部100は、ルータ30及びインターネットNTを介して、バックエンドサーバ50と通信する。第1通信部100は、例えば無線LANモジュールによって実現される。第1通信部100は、バックエンドサーバ50から詳細制御指令を受信する。第1通信部100は、制御部120が作成した返答情報をバックエンドサーバ50に送信する。
The
第2通信部110は、リモコン11と通信する。第2通信部110は、例えば赤外線通信モジュールによって実現される。第2通信部110は、リモコン11に入力された操作に基づく制御指令をリモコン11から受信し、リモコン11の表示部に表示すべき情報をリモコン11に送信する。例えば、リモコン11に入力された操作が設定温度を1℃下げる操作であったとき、リモコン11に入力された操作に基づく制御指令は、空調機10の設定温度を1℃下げることを示す指令となる。
The
制御部120は、第1通信部100がバックエンドサーバ50から受信した詳細制御指令に基づいて、空調機10の各機能を制御する。例えば、詳細制御指令の内容が、空調機10の設定温度変更である場合、空調機10の設定温度を変更する動作を実行する。
The
上述のとおり、バックエンドサーバ50が作成する詳細制御指令は、フロントエンドサーバ40が作成する制御指令に基づいて作成される。したがって、制御部120は、フロントエンドサーバ40により作成された制御指令に基づいた動作を行う、といえる。
As described above, the detailed control command created by the back-
制御部120は、第2通信部110がリモコン11から受信した制御指令に基づいて、空調機10の各機能を制御する。これは、フロントエンドサーバ40以外により作成された制御指令に基づいた動作を行う、といえる。
The
以上より、制御部120は、フロントエンドサーバ40により作成された制御指令に基づいた動作を行い、フロントエンドサーバ40以外により作成された制御指令に基づいた動作を行う、といえる。制御部120は、本発明に係る実行手段の一例である。
From the above, it can be said that the
制御部120は、詳細制御指令の受信に応答して、返答情報を作成する。返答情報が示す内容の例として、正常に詳細制御指令を受信できたこと、詳細制御指令に基づく動作を正常に実行できたこと、詳細制御指令を受信したが詳細制御指令に基づく動作を正常に実行できなかったこと、などが挙げられる。
The
例えば、詳細制御指令の内容が、設定温度変更、運転モード変更など、即座に結果を得ることができるものである場合、制御部120は、動作を正常に実行できたこと又はできなかったことを返答情報として作成することが好ましい。一方、詳細制御指令の内容が、フィルタの自動清掃、空気清浄など、結果を得るのに時間を要するものである場合、制御部120は、正常に詳細制御指令を受信できたことを返答情報として作成することが好ましい。
For example, when the content of the detailed control command is such that the set temperature is changed, the operation mode is changed, or the like, the result can be obtained immediately, the
制御部120は、報知部130を制御して、空調機10がフロントエンドサーバ40により作成された制御指令に基づいて制御されることと、空調機10がフロントエンドサーバ40以外により作成された制御指令に基づいて制御されることとを報知する。
The
報知部130は、制御部120の制御により、空調機10がフロントエンドサーバ40により作成された制御指令に基づいて制御されることと、空調機10がフロントエンドサーバ40以外により作成された制御指令に基づいて制御されることとを、それぞれ異なる音を発することにより報知する。ユーザは、報知部130から発せられる音を聞くことにより、前者の場合か後者の場合かを認識できる。報知部130は、本発明に係る報知手段の一例である。
In the
報知部130は、例えば、前者の場合と後者の場合とで異なるブザー音を発することにより報知する。あるいは、前者の場合と後者の場合の一方あるいは双方で、合成音声を再生することによって報知してもよい。例えば、空調機10がフロントエンドサーバ40により作成された制御指令に基づいて制御される場合には「A社システムにより制御されました」というメッセージを合成音声の再生にて報知し、空調機10がフロントエンドサーバ40以外により作成された制御指令に基づいて制御される場合には単にブザー音を発することにより報知する。なお、この場合において、A社とは、例えばフロントエンドサーバ40を運営する会社である。
For example, the
なお、制御指令に基づく動作の実行のタイミングと、報知のタイミングとの前後関係は、ユーザの認識に支障がでない範囲で任意である。例えば、先に設定温度を変更し、数秒後に報知をしてもよいし、先に報知をし、数秒後に設定温度を変更してもよい。いずれの場合においても、ユーザは、空調機10が制御指令に基づいて制御されることを支障なく知ることができる。したがって、いずれの場合も、報知部130は、空調機10が制御指令に基づいて制御されることを報知する、といえる。
The context of the execution timing of the operation based on the control command and the notification timing is arbitrary as long as it does not interfere with the user's recognition. For example, the set temperature may be changed first and the notification may be made after a few seconds, or the notification may be made first and the set temperature may be changed after a few seconds. In any case, the user can know that the
再び図1を参照する。リモコン11は、空調機10を制御し、空調機10の状態に関する情報を表示するためのリモコンである。リモコン11は、空調機10に関する情報を表示するための表示部を備える。リモコン11は、ユーザの入力操作を受け付ける。リモコン11は、ユーザの入力操作に基づいて制御指令を作成する。リモコン11は、作成した制御指令を空調機10に送信する。リモコン11は、空調機10から、表示部に表示すべき情報を受信し、当該情報を表示部に表示させる。
See FIG. 1 again. The
リモコン11の表示部に表示すべき情報とは、設定温度、風量、風向、タイマー設定状態など、空調機10の状態に関する情報である。また、空調機10がフロントエンドサーバ40により作成された制御指令に基づいて制御されることを示す情報を、表示部に表示すべき情報としてもよい。そして、リモコン11の表示部に、空調機10がフロントエンドサーバ40により作成された制御指令に基づいて制御されることを表示してもよい。
The information to be displayed on the display unit of the
スマートスピーカ20は、ユーザの発話により入力された音声に基づいて様々なサービスを提供するための装置である。図3に示すとおり、スマートスピーカ20は、マイク200と、制御部210と、通信部220と、スピーカ230と、を備える。スマートスピーカ20は、本発明に係る入力装置及び音声入力装置の一例である。
The
マイク200は、ユーザの発話により入力された音声を入力操作として受け付ける。マイク200は、本発明に係る入力手段の一例である。
The
制御部210は、マイク200に入力された音声に基づいて、操作情報としての音声情報を作成する。音声情報は、例えば、マイク200に入力された音声を示すアナログ音声信号にPCM(Pulse Code Modulation: パルス符号変調)を適用してデジタル音声信号に変換し、さらに非可逆圧縮を適用することにより作成される。制御部210は、本発明に係る操作情報作成手段の一例である。
The
制御部210は、スピーカ230を制御して、通信部220が受信した返答音声情報に基づく音声を再生する。
The
通信部220は、ルータ30及びインターネットNTを介してフロントエンドサーバ40と通信する。通信部220は、例えば無線LANモジュールにより実現される。通信部220は、制御部210が作成した音声情報をフロントエンドサーバ40に送信する。通信部220は、フロントエンドサーバ40から返答音声情報を受信する。
The
スピーカ230は、制御部210の制御により、返答音声情報に基づく音声を再生する。
The
再び図1を参照する。ルータ30は、例えば無線LANによる宅内ネットワークを構築できるブロードバンドルータである。ルータ30に接続された住宅2内の装置は、ルータ30を介してインターネットNTに接続できる。
See FIG. 1 again. The
フロントエンドサーバ40は、例えばスマートスピーカ20の製造者が運営するサーバである。図4に示すとおり、フロントエンドサーバ40は、通信部400と、制御部410と、記憶部420と、を備える。フロントエンドサーバ40は、本発明に係る第1サーバの一例である。
The front-
なお、図4においては、ルータ30及びインターネットNTの記載を省略している。また、それに伴い、スマートスピーカ20とフロントエンドサーバ40とが接続され、フロントエンドサーバ40とバックエンドサーバ50とが接続され、バックエンドサーバ50と空調機10とが接続された記載となっている。しかし、実際には、スマートスピーカ20及びフロントエンドサーバ40はルータ30及びインターネットNTを介して通信し、フロントエンドサーバ40及びバックエンドサーバ50はインターネットNTを介して通信し、バックエンドサーバ50と空調機10とはインターネットNT及びルータ30を介して通信する。
In FIG. 4, the description of the
通信部400は、インターネットNT及びルータ30を介してスマートスピーカ20と通信する。通信部400は、インターネットNTを介してバックエンドサーバ50と通信する。
The
通信部400は、スマートスピーカ20から操作情報としての音声情報を受信する。通信部400は、制御部410が作成した返答音声情報をスマートスピーカ20に送信する。通信部400は、本発明に係る操作情報取得手段の一例である。
The
通信部400は、制御部410が作成した制御指令をバックエンドサーバ50に送信する。通信部400は、バックエンドサーバ50から返答情報を受信する。
The
制御部410は、通信部400が受信した音声情報に基づいた音声認識を行い、音声認識の結果を示すテキストデータを取得する。音声認識は、記憶部420に格納される音響モデルを参照して行われる。音響モデルとして、例えば隠れマルコフモデルが採用可能である。
The
制御部410は、音声認識の結果を示すテキストデータに基づいて制御指令を作成する。制御指令は、記憶部420に格納される制御指令データベースを参照して作成される。図5に示すとおり、制御指令データベースは、音声認識の結果と制御指令との対応を表すデータベースである。例えば、制御指令データベースにより、「エアコンつけて」という認識結果と「空調機10を起動」という制御指令とが対応付けられる。制御部410は、本発明に係る指令作成手段の一例である。
The
再び図4を参照する。制御部410は、通信部400が受信した返答情報に基づいて、返答音声情報を作成する。返答音声情報は、記憶部420に格納される返答データベースを参照して作成される。図6に示すとおり、返答データベースは、返答情報と返答音声情報との対応を表すデータベースである。例えば、「正常に設定温度を変更した」ことを示す返答情報と、「設定温度が変更されました」という内容を表す返答音声情報とが返答データベースにより対応付けられる。
See FIG. 4 again. The
再び図4を参照する。上述のとおり、記憶部420には、音響モデルと、制御指令データベースと、返答データベースとが格納される。
See FIG. 4 again. As described above, the
バックエンドサーバ50は、例えば空調機10の製造者が運営するサーバである。バックエンドサーバ50は、通信部500と、制御部510と、記憶部520と、を備える。
The back-
通信部500は、インターネットNTを介してフロントエンドサーバ40と通信する。通信部500は、インターネットNT及びルータ30を介して空調機10と通信する。
The
通信部500は、フロントエンドサーバ40から制御指令を受信する。通信部500は、制御部510が作成した詳細制御指令を空調機10に送信する。通信部500は、空調機10から返答情報を受信する。通信部500は、空調機10から受信した返答情報をフロントエンドサーバ40に送信する。
The
制御部510は、通信部500が受信した制御指令に基づいて詳細制御指令を作成する。詳細制御指令は、記憶部520に格納される詳細制御指令データベースを参照して作成される。図7に示すとおり、詳細制御指令データベースは、制御指令と詳細制御指令との対応を表すデータベースである。例えば、「7時に空調機を起動」という内容を表す制御指令と、「自動オンタイマーを7時に設定」という内容を表す詳細制御指令とが詳細制御指令データベースにより対応付けられる。
The
再び図4を参照する。上述のとおり、記憶部520には詳細制御指令データベースが格納される。
See FIG. 4 again. As described above, the
なお、通信部500は、空調機10から受信した返答情報を、制御部510により適宜変換してからフロントエンドサーバ40に送信してもよい。例えば、空調機10から受信した返答情報が、フロントエンドサーバ40にとって不適切な形式で表現された情報である場合、返答情報をフロントエンドサーバ40にとって適切な形式に変換してから送信することが好ましい。
The
以上、機器制御システム1の各構成について説明した。次に、空調機10のハードウェア構成の一例について、図8を参照しながら説明する。図8に示す空調機10は、例えば組み込み機器向けのコンピュータであるマイクロコントローラにより実現される。
Each configuration of the
空調機10は、バス1000を介して互いに接続された、プロセッサ1001と、メモリ1002と、インタフェース1003と、二次記憶装置1004と、を備える。
The
プロセッサ1001は、例えばCPU(Central Processing Unit: 中央演算装置)である。プロセッサ1001が、二次記憶装置1004に記憶された専用プログラムをメモリ1002に読み込んで実行することにより、空調機10の各機能が実現される。
The
メモリ1002は、例えば、RAM(Random Access Memory)により構成される主記憶装置である。メモリ1002は、プロセッサ1001が二次記憶装置1004から読み込んだ専用プログラムを記憶する。また、メモリ1002は、プロセッサ1001が専用プログラムを実行する際のワークメモリとして機能する。
The
インタフェース1003は、例えばシリアルポート、USB(Universal Serial Bus)ポートなどのI/O(Input/Output)ポートである。
The
二次記憶装置1004は、例えば、フラッシュメモリ、SSD(Solid State Drive)などの不揮発性メモリである。二次記憶装置1004は、プロセッサ1001が実行する専用プログラムを記憶する。
The
図8に示すハードウェア構成においては、空調機10が二次記憶装置1004を備えている。しかし、これに限らず、二次記憶装置1004を空調機10の外部に設け、インタフェース1003を介して空調機10と二次記憶装置1004とが接続される形態としてもよい。この形態においては、USBフラッシュドライブ、メモリカードなどのリムーバブルメディアも二次記憶装置1004として使用可能である。
In the hardware configuration shown in FIG. 8, the
また、図8に示すハードウェア構成に代えて、ASIC(Application Specific Integrated Circuit: 特定用途向け集積回路)、FPGA(Field Programmable Gate Array)などを用いた専用回路により空調機10を構成してもよい。また、図8に示すハードウェア構成において、空調機10の機能の一部を、例えばインタフェース1003に接続された専用回路により実現してもよい。
Further, instead of the hardware configuration shown in FIG. 8, the
なお、スマートスピーカ20、フロントエンドサーバ40及びバックエンドサーバ50も、概ね図8に示すハードウェア構成と同様のコンピュータシステムにより実現できる。
The
次に、図9を参照しながら、機器制御システム1における機器制御の動作の流れについて説明する。
Next, the flow of the device control operation in the
まず、スマートスピーカ20は、マイク200により、ユーザの発話による音声入力を受け付ける(ステップT1)。スマートスピーカ20は、受け付けた入力音声に基づく音声情報を制御部210により作成し、作成した音声情報をフロントエンドサーバ40に送信する。
First, the
フロントエンドサーバ40は、制御部410により、スマートスピーカ20から受信した音声情報に基づいた音声認識を行い、認識結果に基づいて制御指令を作成する(ステップT2)。フロントエンドサーバ40は、作成した制御指令をバックエンドサーバ50に送信する。
The front-
バックエンドサーバ50は、制御部510により、フロントエンドサーバ40から受信した制御指令に基づいて詳細制御指令を作成する(ステップT3)。バックエンドサーバ50は、作成した詳細制御指令を空調機10に送信する。
The back-
空調機10は、制御部120により、バックエンドサーバ50から受信した詳細制御指令に基づいた動作を行う(ステップT4)。また、空調機10は、報知部130により、空調機10がフロントエンドサーバ40により作成された制御指令に基づいて制御されることを、音を発することにより報知する(ステップT4)。このとき、空調機10がフロントエンドサーバ40以外により作成された制御指令に基づいて制御されることを報知する場合とは異なる音を発することにより報知する。
The
空調機10は、制御部120により、詳細制御指令の受信に応答する返答情報を作成する。空調機10は、作成した返答情報をバックエンドサーバ50に送信する。
The
バックエンドサーバ50は、空調機10から受信した返答情報をフロントエンドサーバ40に送信する。上述したとおり、受信した返答情報を適宜変換してフロントエンドサーバ40に送信してもよい。
The back-
フロントエンドサーバ40は、制御部410により、バックエンドサーバ50から受信した返答情報に基づいて、返答音声情報を作成する(ステップT5)。フロントエンドサーバ40は、作成した返答音声情報をスマートスピーカ20に送信する。
The front-
スマートスピーカ20は、スピーカ230により、フロントエンドサーバ40から受信した返答音声情報に基づく音声を再生する(ステップT6)。
The
以上、機器制御システム1について説明した。機器制御システム1によれば、空調機10がフロントエンドサーバ40により作成された制御指令に基づいて制御されることを、音を発することにより報知する。このとき、空調機10がフロントエンドサーバ40以外により作成された制御指令に基づいて制御されることを報知する場合とは異なる音を発することにより報知する。
The
そのため、ユーザは、空調機10が制御されるとき、フロントエンドサーバ40により作成された制御指令に基づいて制御されることと、フロントエンドサーバ40以外により作成された制御指令に基づいて制御されることとのいずれについても知ることができる。
Therefore, when the
例えば、ユーザは、スマートスピーカ20に話しかけて空調機10を制御しようとするとき、空調機10の報知部130から発せられる音を聞くことにより、スマートスピーカ20に話しかけたことに応じて空調機10が制御されることを知ることができる。
For example, when the user talks to the
また、第三者が不正にフロントエンドサーバ40経由で空調機10を制御しようとするときにも、空調機10の報知部130から発せられる音を聞くことにより、フロントエンドサーバ40経由の意図しない制御がされることを知ることができる。
Further, even when a third party illegally tries to control the
また、空調機10の設置工事の際にも、フロントエンドサーバ40により作成された制御指令に基づいて制御される場合と、そうでない場合とで異なる音が発せられることを確認することで、設置工事が正しく行われたことを確認できる。
Also, during the installation work of the
したがって、機器制御システム1によれば、空調機10がフロントエンドサーバ40経由で制御されることを好適に報知できる。
Therefore, according to the
(実施の形態2)
図10を参照しながら、実施の形態2に係る機器制御システム1Aについて説明する。機器制御システム1Aは、フロントエンドサーバ40を複数備える点と、スマートスピーカ20を複数備える点とが、実施の形態1に係る機器制御システム1との相違点である。なお、図10には、スマートスピーカ20を2つのみ図示しているが、それ以上の個数であってもよい。(Embodiment 2)
The
各スマートスピーカ20は、例えば、それぞれ異なる製造者により製造される。各フロントエンドサーバ40は、例えば、それぞれ異なる運営者により運営される。そして、各スマートスピーカ20は、それぞれ異なるフロントエンドサーバ40と通信する。したがって、ユーザは、スマートスピーカ20ごとに、異なる製造者あるいは運営者から各種サービスの提供を受けることとなる。
Each
空調機10の報知部130は、制御指令を作成したフロントエンドサーバ40ごとに異なる音を発することによって、フロントエンドサーバ40が作成した制御指令に基づいて制御されることを報知する。各フロントエンドサーバ40は、本発明に係る第2のサーバの一例といえる。
The
機器制御システム1Aによれば、フロントエンドサーバ40ごとに異なる音によって報知することにより、ユーザは、どのフロントエンドサーバ40経由で空調機10が制御されるかを知ることができる。そのため、機器制御システム1Aによれば、空調機10がどのフロントエンドサーバ40経由で制御されるのかを好適に報知できる。
According to the
これにより、例えば、複数のスマートスピーカ20を導入する際に、ユーザは、空調機10の制御に関する設定を正しく行えているかを容易に確認できる。
Thereby, for example, when introducing a plurality of
(変形例)
機器制御システム1は、フロントエンドサーバ40及びバックエンドサーバ50の2種類のサーバを備える。しかし、バックエンドサーバ50を備えず、フロントエンドサーバ40のみを備える形態としてもよい。この場合、フロントエンドサーバ40が空調機10に制御指令あるいは制御指令に基づく詳細制御指令を送信することにより、空調機10を制御する。(Modification example)
The
機器制御システム1は、本発明に係る入力装置の一例として、スマートスピーカ20を備える。しかし、スマートスピーカ20に代えて、あるいはスマートスピーカ20とともに、スマートフォンを備えてもよい。当該スマートフォンには、例えばフロントエンドサーバ40経由で空調機10を制御するためのアプリケーションがインストールされている。そして、当該スマートフォンを操作することにより、フロントエンドサーバ40経由で空調機10を制御できる。当該アプリケーションは、音声により操作するものであってもよいし、画面をタッチすることにより操作するものであってもよい。いずれの場合であっても、当該スマートフォンは、本発明に係る入力装置の一例である。
The
機器制御システム1においては、音を発することによって報知する。しかし、音以外による報知であってもよい。例えば、空調機10が備えるランプが発する光により報知をしてもよい。光による報知とは、例えば、空調機10がフロントエンドサーバ40経由で制御される場合とそうでない場合とで異なる色による光を発することによって報知をすることが挙げられる。あるいは、ランプが点滅する間隔を異なるものとすることで報知をしてもよい。この場合、報知部130は、空調機10が備えるランプにより実現される、といえる。
In the
また、空調機10がフロントエンドサーバ40経由で制御される場合には音で報知し、そうでない場合には光で報知してもよい。この場合、報知部130は、空調機10が備えるスピーカ及びランプにより実現される、といえる。
If the
また、リモコン11の表示部による画面表示あるいはスマートスピーカ20のスピーカ230による音声再生によって報知をしてもよい。この場合、リモコン11の表示部あるいはスマートスピーカ20のスピーカ230が、本発明に係る報知手段の一例である。また、空調機10がフロントエンドサーバ40経由で制御される場合にはリモコン11の表示部による画面表示にて報知し、そうでない場合には空調機10が発する音により報知をしてもよい。この場合、リモコン11の表示部及び空調機10の報知部130が、本発明に係る報知手段の一例である。また、この例に限定されず、本発明の実施の形態において、報知手段は、フロントエンドサーバ40で作成された制御指令に基づいて空調機10が制御されることと、フロントエンドサーバ40以外により作成された制御指令に基づいて空調機10が制御されることを識別可能に報知できるならば、その構成と配置位置と報知の態様は任意である。さらに、報知の根拠となる情報の取得方法についても、報知手段自身が他装置にアクセスして情報を取得してもよく、他装置から提供される情報に基づいて判断してもよい。また、報知手段自身が報知内容を判別して報知してもよく、報知内容を判別した他装置からの指示に従って報知してもよい。
Further, the notification may be performed by the screen display by the display unit of the
また、機器制御システム1では、制御対象として空調機10を示しているが、空調機以外の機器も機器制御システム1における制御対象となりうる。例えば、給湯機、照明器具、冷蔵庫、テレビなどの家電機器も制御対象となりうる。この場合、当該家電機器が、本発明に係る機器の一例である。
Further, although the
また、住宅2内の機器を管理するHEMS(Home Energy Management System)コントローラもまた、機器制御システム1における制御対象となりうる。この場合、HEMSコントローラが、本発明に係る機器の一例である。
Further, the HEMS (Home Energy Management System) controller that manages the devices in the house 2 can also be the control target in the
例えば、ルータ30と直接通信する機能は有さないがHEMSコントローラとの通信機能は有する機器を制御する場合を考える。この場合、機器制御システム1における制御対象をHEMSコントローラとすることで、ユーザはフロントエンドサーバ40及びHEMSコントローラを介して当該機器を制御することができる。この場合において、HEMSコントローラを介して制御されることを当該機器が報知してもよいし、HEMSコントローラが報知してもよい。
For example, consider a case where a device that does not have a function of directly communicating with the
空調機10、スマートスピーカ20、フロントエンドサーバ40及びバックエンドサーバ50で用いられるプログラムはそれぞれ、CD-ROM(Compact Disc Read Only Memory)、DVD(Digital Versatile Disc)、USBフラッシュドライブ、メモリカード、HDD(Hard Disk Drive)等のコンピュータ読み取り可能な記録媒体に格納して配布することが可能である。そして、かかるプログラムを特定の又は汎用のコンピュータにインストールすることによって、当該コンピュータを空調機10、スマートスピーカ20、フロントエンドサーバ40及びバックエンドサーバ50としてそれぞれ機能させることが可能である。
The programs used in the
また、上述のプログラムをインターネット上の他のサーバが有する記憶装置に格納しておき、当該サーバから上述のプログラムがダウンロードされるようにしてもよい。 Further, the above-mentioned program may be stored in a storage device of another server on the Internet so that the above-mentioned program can be downloaded from the server.
本発明は、本発明の広義の精神と範囲を逸脱することなく、様々な実施の形態及び変形が可能とされるものである。また、上述した実施の形態は、本発明を説明するためのものであり、本発明の範囲を限定するものではない。つまり、本発明の範囲は、実施の形態ではなく、請求の範囲によって示される。そして、請求の範囲内及びそれと同等の発明の意義の範囲内で施される様々な変形が、本発明の範囲内とみなされる。 The present invention allows for various embodiments and modifications without departing from the broad spirit and scope of the present invention. Moreover, the above-described embodiment is for explaining the present invention, and does not limit the scope of the present invention. That is, the scope of the present invention is indicated not by the embodiment but by the claims. Then, various modifications made within the scope of the claims and the equivalent meaning of the invention are considered to be within the scope of the present invention.
本発明は、機器制御システムに好適である。 The present invention is suitable for equipment control systems.
1 機器制御システム、2 住宅、10 空調機、11 リモコン、20 スマートスピーカ、30 ルータ、40 フロントエンドサーバ、50 バックエンドサーバ、100 第1通信部、110 第2通信部、120 制御部、130 報知部、200 マイク、210 制御部、220 通信部、230 スピーカ、400 通信部、410 制御部、420 記憶部、500 通信部、510 制御部、520 記憶部、1000 バス、1001 プロセッサ、1002 メモリ、1003 インタフェース、1004 二次記憶装置、NT インターネット。 1 Equipment control system, 2 Housing, 10 Air conditioners, 11 Remote control, 20 Smart speakers, 30 Routers, 40 Front-end servers, 50 Back-end servers, 100 1st communication unit, 110 2nd communication unit, 120 Control unit, 130 Notification Unit, 200 microphone, 210 control unit, 220 communication unit, 230 speaker, 400 communication unit, 410 control unit, 420 storage unit, 500 communication unit, 510 control unit, 520 storage unit, 1000 bus, 1001 processor, 1002 memory, 1003 Interface, 1004 secondary storage, NT Internet.
上記の目的を達成するため、本発明に係る機器制御システムは、
入力装置と、フロントエンドサーバと、バックエンドサーバと、報知手段と、を備え、
前記入力装置と前記報知手段とは宅内ネットワークに接続され、
前記フロントエンドサーバと前記バックエンドサーバと前記宅内ネットワークとはインターネットに接続され、
前記入力装置は、
入力操作を受け付ける入力手段と、
前記入力操作に基づく操作情報を作成する操作情報作成手段と、を備え、
前記フロントエンドサーバは、
前記操作情報を、インターネットと前記宅内ネットワークとを介した通信により前記入力装置から取得する操作情報取得手段と、
前記宅内ネットワークに接続される機器を制御する制御指令を前記操作情報に基づいて作成する指令作成手段と、を備え、
前記バックエンドサーバは、
前記制御指令を、インターネットを介した通信により前記フロントエンドサーバから取得する制御指令取得手段と、
詳細制御指令を前記制御指令に基づいて作成する詳細制御指令作成手段と、を備え、
前記機器は、前記宅内ネットワークとインターネットとを介した通信により前記バックエンドサーバから前記詳細制御指令を取得し、
前記報知手段は、前記機器が前記フロントエンドサーバにより作成された制御指令に基づいた動作であって前記詳細制御指令に基づいた動作を実行するとき、前記フロントエンドサーバにより作成された制御指令に基づいて前記機器が制御されることを報知し、前記機器が前記フロントエンドサーバ以外により作成された制御指令に基づいた動作を実行するとき、前記フロントエンドサーバ以外により作成された制御指令に基づいて前記機器が制御されることを報知する。
In order to achieve the above object, the device control system according to the present invention is
It is equipped with an input device, a front-end server, a back-end server, and a notification means.
The input device and the notification means are connected to the home network and
The front-end server, the back-end server, and the home network are connected to the Internet.
The input device is
An input means that accepts input operations and
An operation information creating means for creating operation information based on the input operation is provided.
The front-end server
An operation information acquisition means for acquiring the operation information from the input device by communication via the Internet and the home network .
It is provided with a command creating means for creating a control command for controlling a device connected to the home network based on the operation information.
The back-end server
A control command acquisition means for acquiring the control command from the front-end server by communication via the Internet,
A detailed control command creating means for creating a detailed control command based on the control command is provided.
The device acquires the detailed control command from the back-end server by communicating with the home network via the Internet.
The notification means, when the device performs the operation based on the detail control command an act based on the control command created by the front-end server, based on a control command created by the front end server When the device is notified that the device is controlled and the device executes an operation based on a control command created by a server other than the front-end server, the device is based on a control command created by a server other than the front-end server. Notify that the device is controlled.
Claims (9)
前記入力装置は、
入力操作を受け付ける入力手段と、
前記入力操作に基づく操作情報を作成する操作情報作成手段と、を備え、
前記第1のサーバは、
前記操作情報を通信により前記入力装置から取得する操作情報取得手段と、
機器を制御する制御指令を前記操作情報に基づいて作成する指令作成手段と、を備え、
前記報知手段は、前記第1のサーバにより作成された制御指令に基づいて前記機器が制御されることを報知し、前記第1のサーバ以外により作成された制御指令に基づいて前記機器が制御されることを報知する、
機器制御システム。It is provided with an input device, a first server, and a notification means.
The input device is
An input means that accepts input operations and
An operation information creating means for creating operation information based on the input operation is provided.
The first server is
An operation information acquisition means for acquiring the operation information from the input device by communication,
A command creating means for creating a control command for controlling a device based on the operation information is provided.
The notification means notifies that the device is controlled based on a control command created by the first server, and the device is controlled based on a control command created by a server other than the first server. Notify that
Equipment control system.
前記入力手段は、入力された音声を前記入力操作として受け付け、
前記操作情報作成手段は、前記入力された音声に基づく音声情報を前記操作情報として作成する、
請求項1に記載の機器制御システム。The input device is a voice input device.
The input means receives the input voice as the input operation, and receives the input voice.
The operation information creating means creates voice information based on the input voice as the operation information.
The device control system according to claim 1.
請求項1または2に記載の機器制御システム。The notification means notifies that the device is controlled based on the control command created by the first server by emitting a first sound, and the control command created by a server other than the first server. Notifies that the device is controlled based on the above by emitting a second sound.
The device control system according to claim 1 or 2.
請求項1または2に記載の機器制御システム。The notification means notifies on the screen of the remote controller that communicates with the device that the device is controlled based on the control command created by the first server.
The device control system according to claim 1 or 2.
前記第2のサーバは、
前記操作情報を通信により前記入力装置から取得する操作情報取得手段と、
前記機器を制御する制御指令を前記操作情報に基づいて作成する指令作成手段と、を備え、
前記報知手段はさらに、前記第2のサーバにより作成された制御指令に基づいて前記機器が制御されることを報知する、
請求項1から4のいずれか1項に記載の機器制御システム。With a second server
The second server is
An operation information acquisition means for acquiring the operation information from the input device by communication,
A command creating means for creating a control command for controlling the device based on the operation information is provided.
The notification means further notifies that the device is controlled based on the control command created by the second server.
The device control system according to any one of claims 1 to 4.
前記サーバにより作成された制御指令に基づいた動作を行うことを報知し、前記サーバ以外により作成された制御指令に基づいた動作を行うことを報知する報知手段と、
を備える機器。An execution means for performing an operation based on a control command created by a server and an operation based on a control command created by a server other than the server.
A notification means for notifying that an operation based on a control command created by the server is to be performed and an operation for performing an operation based on a control command created by a server other than the server.
Equipment equipped with.
請求項6に記載の機器。The notifying means notifies by emitting a first sound that an operation based on a control command created by the server is performed, and performs an operation based on a control command created by a server other than the server. Notify by emitting the sound of 2,
The device according to claim 6.
前記サーバ以外により作成された制御指令に基づいて前記機器を制御し、
前記サーバにより作成された制御指令に基づいて前記機器を制御することを報知し、
前記サーバ以外により作成された制御指令に基づいて前記機器を制御することを報知する、
機器制御方法。Control the equipment based on the control commands created by the server
Control the device based on a control command created by a server other than the server.
Notifying that the device is controlled based on the control command created by the server,
Notifying that the device is controlled based on a control command created by a server other than the server.
Device control method.
サーバにより作成された制御指令に基づいた動作と、前記サーバ以外により作成された制御指令に基づいた動作と、を行う実行手段、
前記サーバにより作成された制御指令に基づいた動作を行うことを報知し、前記サーバ以外により作成された制御指令に基づいた動作を行うことを報知する報知手段、
として機能させるプログラム。Computer,
An execution means for performing an operation based on a control command created by a server and an operation based on a control command created by a server other than the server.
A notification means for notifying that an operation based on a control command created by the server is performed and performing an operation based on a control command created by a server other than the server.
A program that functions as.
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2018/015474 WO2019198222A1 (en) | 2018-04-13 | 2018-04-13 | Device control system, device, device control method, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019198222A1 true JPWO2019198222A1 (en) | 2020-12-03 |
JP6921311B2 JP6921311B2 (en) | 2021-08-18 |
Family
ID=68163364
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020513032A Active JP6921311B2 (en) | 2018-04-13 | 2018-04-13 | Equipment control system, equipment, equipment control method and program |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6921311B2 (en) |
WO (1) | WO2019198222A1 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111936981A (en) | 2018-04-17 | 2020-11-13 | 三菱电机株式会社 | Device control system and device control method |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016136779A (en) * | 2016-04-26 | 2016-07-28 | 三菱電機株式会社 | Remote control system |
JP2017046295A (en) * | 2015-08-28 | 2017-03-02 | シャープ株式会社 | Equipment operation confirmation system and remote control device |
-
2018
- 2018-04-13 JP JP2020513032A patent/JP6921311B2/en active Active
- 2018-04-13 WO PCT/JP2018/015474 patent/WO2019198222A1/en active Application Filing
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017046295A (en) * | 2015-08-28 | 2017-03-02 | シャープ株式会社 | Equipment operation confirmation system and remote control device |
JP2016136779A (en) * | 2016-04-26 | 2016-07-28 | 三菱電機株式会社 | Remote control system |
Also Published As
Publication number | Publication date |
---|---|
WO2019198222A1 (en) | 2019-10-17 |
JP6921311B2 (en) | 2021-08-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11631403B2 (en) | Apparatus, system and method for directing voice input in a controlling device | |
US11489691B2 (en) | Apparatus, system and method for directing voice input in a controlling device | |
JP6739907B2 (en) | Device specifying method, device specifying device and program | |
EP2926502B1 (en) | Voice-controlled configuration of an automation system | |
WO2018113672A1 (en) | Smart speaker, smart home system, and implementation method thereof | |
US20180308483A1 (en) | Voice recognition apparatus and voice recognition method | |
JP3838029B2 (en) | Device control method using speech recognition and device control system using speech recognition | |
WO2019202666A1 (en) | Apparatus control system and apparatus control method | |
CN111667825A (en) | Voice control method, cloud platform and voice equipment | |
JP6921311B2 (en) | Equipment control system, equipment, equipment control method and program | |
JP7374099B2 (en) | Apparatus, system and method for instructing voice input in a control device | |
CN112838967A (en) | Main control equipment, intelligent home and control device, control system and control method thereof | |
WO2018158894A1 (en) | Air conditioning control device, air conditioning control method, and program | |
JP7456387B2 (en) | Information processing device and information processing method | |
CN109458720B (en) | Central air-conditioning system | |
CN115379022B (en) | Equipment network access control method and device, interaction panel and storage medium | |
JP2020122585A (en) | Air-conditioning system | |
JP7159773B2 (en) | VOICE OPERATING DEVICE, VOICE OPERATING METHOD, AND VOICE OPERATING SYSTEM | |
JP3107142U (en) | Voice recognition remote control device | |
CN111048081B (en) | Control method, control device, electronic equipment and control system | |
JP7182154B2 (en) | Equipment control system | |
JP3225101U (en) | Infrared voice control system and infrared voice control device | |
TWM523126U (en) | Automatic circumstance controlling system | |
EP3382474A1 (en) | Information processing apparatus, information processing system, and information processing method | |
JP2020129183A (en) | Control device, control system, and control method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200401 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200401 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210525 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210624 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210629 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210727 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6921311 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |