JP2016177755A - Order terminal equipment, order system, customer information generation method, and program - Google Patents
Order terminal equipment, order system, customer information generation method, and program Download PDFInfo
- Publication number
- JP2016177755A JP2016177755A JP2015059390A JP2015059390A JP2016177755A JP 2016177755 A JP2016177755 A JP 2016177755A JP 2015059390 A JP2015059390 A JP 2015059390A JP 2015059390 A JP2015059390 A JP 2015059390A JP 2016177755 A JP2016177755 A JP 2016177755A
- Authority
- JP
- Japan
- Prior art keywords
- customer
- sex
- age
- age group
- gender
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 25
- 238000003384 imaging method Methods 0.000 description 21
- 230000005540 biological transmission Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000001815 facial effect Effects 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- NJPPVKZQTLUDBO-UHFFFAOYSA-N novaluron Chemical compound C1=C(Cl)C(OC(F)(F)C(OC(F)(F)F)F)=CC=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F NJPPVKZQTLUDBO-UHFFFAOYSA-N 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000037303 wrinkles Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07G—REGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
- G07G1/00—Cash registers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/12—Hotels or restaurants
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07G—REGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
- G07G1/00—Cash registers
- G07G1/01—Details for indicating
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07G—REGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
- G07G1/00—Cash registers
- G07G1/12—Cash registers electronically operated
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Theoretical Computer Science (AREA)
- Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
- Cash Registers Or Receiving Machines (AREA)
- Image Processing (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
本発明は注文端末装置、注文システム、客情報生成方法、及びプログラムに関し、特に画像から客情報を生成する注文端末装置、注文システム、客情報生成方法、及びプログラムに関する。 The present invention relates to an order terminal device, an order system, a customer information generation method, and a program, and more particularly to an order terminal device, an order system, a customer information generation method, and a program for generating customer information from an image.
例えば飲食店などのように客に商品又はサービスを提供する環境では、どのような客が来客しているかを把握することが、マーケティングなどにおいて重要となっている。客の年齢層などの客情報の取得方法としては、例えば、利用客に会員カードを提示してもらう方法や、店員などの人力での取得が従来行われている。しかし、会員カードの場合、会員カードを持っていない客については情報取得ができず、また、人力での取得の場合、信頼性やコストの面で問題があった。 For example, in an environment where a product or service is provided to a customer such as a restaurant, it is important in marketing or the like to understand what customers are visiting. As a method for acquiring customer information such as a customer's age group, for example, a method in which a customer is presented with a membership card or a human resource such as a store clerk is conventionally used. However, in the case of a membership card, information cannot be obtained for customers who do not have a membership card, and there is a problem in terms of reliability and cost in the case of manual acquisition.
ところで、近年、客からの注文を受け付ける注文端末装置が開発されている(特許文献1)。特許文献1に記載された注文端末装置では、客が注文する際にカメラにより客の顔写真を撮影し、受け付けた注文と写真とを記憶することが開示されている。
By the way, in recent years, an order terminal device for receiving an order from a customer has been developed (Patent Document 1). The order terminal device described in
また、撮影画像から人物を同定する技術として、特許文献2に記載のものが知られている。特許文献2に記載された技術では、撮影画像から顔を含む部分画像を抽出し、抽出した部分画像と、別途取得した顔画像とをパターンマッチングすることにより、撮影画像中の人物を同定する。また、特許文献2では、同定の際、画像から性別、年齢、職業等を推定し、推定結果を利用することで、より正確に人物同定を行うことが開示されている。
Also, a technique described in
しかしながら、特許文献1及び特許文献2に記載された技術では、年齢層等の客情報を取得することはできない。
本発明は、このような課題を解決するためになされたものであり、年齢層等の客情報を容易に取得することができる注文端末装置、注文システム、客情報生成方法、及びプログラムを提供することにある。
However, the techniques described in
The present invention has been made to solve such a problem, and provides an order terminal device, an order system, a customer information generation method, and a program capable of easily acquiring customer information such as an age group. There is.
本発明にかかる注文端末装置は、予め定められた年齢層及び性別ごとの顔画像の特徴情報についての学習結果データを記憶する学習結果記憶手段と、着座位置に着座した客の顔画像を取得する画像取得手段と、前記画像取得手段により取得された前記客の顔画像の特徴情報を、前記学習結果記憶手段が記憶する特徴情報と比較して、前記客の年齢層及び性別を推定する年齢性別推定手段と、前記年齢性別推定手段により推定された年齢層及び性別に基づいて、前記客の年齢層及び性別を示す客情報を生成する客情報生成手段とを有する。 The ordering terminal device according to the present invention acquires learning result storage means for storing learning result data on feature information of face images for each predetermined age group and gender, and acquires a face image of a customer seated at a sitting position. Comparing the feature information of the face image of the customer acquired by the image acquisition means and the image acquisition means with the feature information stored in the learning result storage means to estimate the age group and sex of the customer An estimation unit; and a customer information generation unit configured to generate customer information indicating the age group and sex of the customer based on the age group and the gender estimated by the age-gender estimation unit.
また、本発明にかかる注文システムは、予め定められた年齢層及び性別ごとの顔画像の特徴情報についての学習結果データを記憶する学習結果記憶手段と、着座位置に着座した客の顔画像を取得する画像取得手段と、前記画像取得手段により取得された前記客の顔画像の特徴情報を、前記学習結果記憶手段が記憶する特徴情報と比較して、前記客の年齢層及び性別を推定する年齢性別推定手段と、前記年齢性別推定手段により推定された年齢層及び性別に基づいて、前記客の年齢層及び性別を示す客情報を生成する客情報生成手段とを有する。 In addition, the order system according to the present invention acquires learning result storage means for storing learning result data about feature information of face images for each predetermined age group and gender, and acquires face images of customers seated at the sitting position. Comparing the feature information of the face image of the customer acquired by the image acquisition means and the image acquisition means with the feature information stored in the learning result storage means to estimate the age group and gender of the customer Gender estimating means, and customer information generating means for generating customer information indicating the age group and sex of the customer based on the age group and gender estimated by the age gender estimating means.
また、本発明にかかる客情報生成方法は、着座位置に着座した客の顔画像を取得する画像取得ステップと、取得された前記客の顔画像の特徴情報を、予め定められた年齢層及び性別ごとの顔画像の特徴情報についての学習結果データと比較して、前記客の年齢層及び性別を推定する年齢性別推定ステップと、推定された年齢層及び性別に基づいて、前記客の年齢層及び性別を示す客情報を生成する客情報生成ステップとを含む。 Further, the customer information generation method according to the present invention includes an image acquisition step of acquiring a face image of a customer seated at a seating position, and feature information of the acquired face image of the customer using a predetermined age group and gender. An age-gender estimation step for estimating the age group and gender of the customer in comparison with the learning result data for the feature information of each facial image, and based on the estimated age group and gender, A customer information generation step for generating customer information indicating gender.
また、本発明にかかるプログラムは、着座位置に着座した客の顔画像を取得する画像取得ステップと、取得された前記客の顔画像の特徴情報を、予め定められた年齢層及び性別ごとの顔画像の特徴情報についての学習結果データと比較して、前記客の年齢層及び性別を推定する年齢性別推定ステップと、推定された年齢層及び性別に基づいて、前記客の年齢層及び性別を示す客情報を生成する客情報生成ステップとをコンピュータに実行させる。 Further, the program according to the present invention includes an image acquisition step of acquiring a face image of a customer seated at a sitting position, and feature information of the acquired face image of the customer according to a predetermined age group and face for each gender. Compared with the learning result data about the image feature information, the age and sex estimation step for estimating the age and sex of the customer, and the age and sex of the customer based on the estimated age and sex The computer executes a customer information generation step for generating customer information.
本発明によれば、年齢層等の客情報を容易に取得することができる注文端末装置、注文システム、客情報生成方法、及びプログラムを提供できる。 ADVANTAGE OF THE INVENTION According to this invention, the order terminal device which can acquire customer information, such as an age group, an order system, a customer information generation method, and a program can be provided.
(本発明にかかる実施の形態の概要)
実施の形態の説明に先立って、本発明にかかる実施の形態の概要を説明する。図1は、本発明の実施の形態にかかる注文端末装置1の概要を示す図である。注文端末装置1は、学習結果記憶部2と、画像取得部3と、年齢性別推定部4と、客情報生成部5とを有する。
(Outline of the embodiment of the present invention)
Prior to the description of the embodiment, an outline of the embodiment according to the present invention will be described. FIG. 1 is a diagram showing an outline of an order
学習結果記憶部2は、予め定められた年齢層及び性別ごとの顔画像の特徴情報についての学習結果データを記憶する。画像取得部3は、着座位置に着座した客の顔画像を取得する。年齢性別推定部4は、画像取得部3により取得された客の顔画像の特徴情報を、学習結果記憶部2が記憶する特徴情報と比較して、客の年齢層及び性別を推定する。客情報生成部5は、年齢性別推定部4により推定された年齢層及び性別に基づいて、客の年齢層及び性別を示す客情報を生成する。
したがって、このような注文端末装置1によれば、客の画像から自動的に年齢層及び性別が推定され、推定結果に基づく客情報が生成される。よって、注文端末装置1によれば、年齢層等の客情報を容易に取得することができる。
The learning
Therefore, according to such an
(実施の形態1)
以下、図面を参照して本発明の実施の形態について説明する。図2は、注文システム10の構成を示す図である。図2に示されるように、注文システム10は、1以上の注文端末装置100と、情報収集サーバ200とを備えている。注文端末装置100と情報収集サーバ200とは、ネットワーク300を介して互いに接続されている。
(Embodiment 1)
Embodiments of the present invention will be described below with reference to the drawings. FIG. 2 is a diagram illustrating a configuration of the
ネットワーク300は、例えばLAN(Local Area Network)又はインターネット等の通信網(通信回線)であり、注文端末装置100と情報収集サーバ200とが通信を行う際に使用され得る。本実施の形態において、ネットワーク300は無線通信網であるが、有線通信網であってもよい。
The
情報収集サーバ200は、例えばコンピュータで構成される。情報収集サーバ200は、1つのコンピュータで構成されてもよいが、物理的に単一である必要はなく、複数の分散されたコンピュータで構成されてもよい。情報収集サーバ200は、例えば、注文端末装置100から送信される注文情報及び客情報などを収集する。
The
注文端末装置100は、客がセルフサービスにて商品又はサービスの注文を行う際に使用される端末装置である。例えば、注文端末装置100は、テーブルごとに用意され、テーブルの脇に配置された椅子などの着座位置に着座した客の注文を受け付ける。また、例えば、注文端末装置100は、カウンターに用意され、カウンターに沿って配置された椅子などの着座位置に着座した客の注文を受け付ける。注文端末装置100は、例えば、居酒屋等の外食店舗で利用されてもよいし、カラオケ店などで利用されてもよい。
The order
図3は、注文端末装置100の外観を示す斜視図である。また、図4は、注文端末装置本体110のハードウェア構成を示す図である。
FIG. 3 is a perspective view showing an external appearance of the order
図3に示されるように、注文端末装置100は、注文端末装置本体110と、クレードル120とを有する。注文端末装置本体110は、カメラ111と、タッチパネル112と、スピーカ113と、アンテナ114とを有している。また、注文端末装置本体110は、コンピュータとしての機能を備えており、例えばCPU(Central Processing Unit)等の制御部115と、例えばメモリ又はハードディスク等の記憶部116とを有する(図4参照)。
As shown in FIG. 3, the
クレードル120は、注文端末装置本体110を取り外し可能に支持する台座である。また、クレードル120は、電源ケーブル130を介して例えば交流電源が接続されており、注文端末装置本体110が搭載されている間、注文端末装置本体110に対し給電し、注文端末装置本体110の図示しないバッテリを充電する。このため、注文端末装置100は、注文端末装置本体110がクレードル120に搭載されているか否かに関わらず、客からの注文を受け付けることが可能になっている。なお、クレードル120が、さらに、有線LANに接続され、有線通信機能を備えてもよい。
The
カメラ111は、レンズ、CCD(Charge Coupled Device)センサやCMOS(Complementary Metal Oxide Semiconductor)などの固体撮像素子を備えるデジタルカメラである。本実施の形態では、カメラ111は、注文端末装置本体110に内蔵されているが、クレードル120に内蔵されてもよいし、注文端末装置100に外付けされていてもよい。
The
カメラ111は、着座位置に着座した客の顔を撮像範囲とするよう設けられている。本実施の形態では、特に、カメラ111は、複数の着座位置に着座する複数の客の顔を撮像範囲とするよう設けられている。具体的には、本実施形態では、カメラ111は、注文端末装置本体110の前面側、すなわちタッチパネル112が設けられた面と同じ面に設けられており、注文端末装置本体110がクレードル120に搭載された際に、複数の着座位置に着座する複数の客の顔を撮像範囲とする。このため、カメラ111は、複数の客の顔を同時に撮像可能である。なお、カメラ111が、一つの着座位置に着座する一人の客の顔を撮像範囲とするよう設けられてもよい。
The
より具体的には、例えば、注文端末装置100がテーブルに対して用意されている場合、カメラ111は、注文端末装置本体110がクレードル120に搭載された状態で、当該テーブルの脇の全ての着座位置に客が着座した際に想定される全ての客の顔の位置を撮像範囲とする。図5は、注文端末装置100がテーブル500に対して用意されている場合のカメラ111の撮像範囲の一例を模式的に示す平面図である。図5において、ハッチングされた領域がカメラ111の撮像範囲の一例である。図5に示した例では、テーブル500の脇に設けられた椅子501に着座した店舗の客502の顔を客502の横方向からカメラ111が撮像している。なお、図5に示した例では、カメラ111の撮像範囲は、テーブル500の脇の全ての着座位置を含んでいるが、必ずしもテーブルの脇の全ての着座位置を対象としなくてもよく、予め定められた範囲内の複数の着座位置それぞれに客が着座した際に想定される顔の位置を撮像範囲としてもよい。
More specifically, for example, when the
また、例えば、注文端末装置100がカウンターに対して用意されている場合、カメラ111は、注文端末装置本体110がクレードル120に搭載された状態で、当該カウンターに沿って配置された1以上の着座位置に客が着座した際に想定される顔の位置を撮像範囲とする。図6は、注文端末装置100がカウンター600に対して用意されている場合のカメラ111の撮像範囲の一例を模式的に示す平面図である。図6において、ハッチングされた領域がカメラ111の撮像範囲の一例である。図6に示した例では、カウンター600に沿って配置された椅子601に着座した店舗の客602の顔を客602の正面方向からカメラ111が撮像している。
Further, for example, when the
このように、本実施の形態では、カメラ111の撮像範囲は、テーブルやカウンターなどの台に対向して座る1以上の客の顔を含む。なお、カメラ111が、客の顔を撮像範囲とする際、必ずしも、注文端末装置本体110がクレードル120に搭載された状態でなくてもよい。すなわち、カメラ111は、予め定められた場所に注文端末装置100が設置された状態で、着座位置に着座する客の顔を撮像範囲としていればよい。例えば、注文端末装置100がクレードル120を有さず、注文端末装置100が壁などに固定されている場合、固定された設置場所においてカメラ111が客の顔を撮像範囲とすればよい。よって、注文端末装置100は、図5、6においては、テーブル500又はカウンター600の端に配置されているが、必ずしもテーブル500又はカウンター600上でなくてもよく、例えば、テーブル500やカウンター600の付近の壁面や台上に配置されてもよい。
As described above, in the present embodiment, the imaging range of the
タッチパネル112は、注文端末装置本体110の前面に設けられており、情報を表示し、さらに客からの操作入力を受付ける。タッチパネル112は、例えば、メニューなど、店舗等が提供する商品又はサービスの選択肢を表示する。また、タッチパネル112は、例えば、商品又はサービスの選択肢のうち注文対象とする選択肢を選択する操作入力(注文操作)を受付ける。スピーカ113は、音声ガイダンスなどの各種音声信号を音として出力する。アンテナ114は、注文端末装置本体110が無線通信するためのアンテナであり、例えば情報収集サーバ200との間で、信号の送受信を行う。
The
図7は、実施の形態にかかる注文端末装置100の機能ブロック図である。注文端末装置100は、学習結果記憶部151と、提示情報記憶部152と、画像取得部153と、年齢性別推定部154と、客情報生成部155と、情報出力部156と、注文受付部157と、客情報送信部158とを有する。
FIG. 7 is a functional block diagram of the
なお、画像取得部153、年齢性別推定部154、客情報生成部155、情報出力部156、注文受付部157及び客情報送信部158は、例えば、制御部115の制御によって、プログラムを実行させることによって実現できる。より具体的には、記憶部116に格納されたプログラムを、制御部115の制御によって実行して実現する。また、各構成要素は、プログラムによるソフトウェアで実現することに限ることなく、ハードウェア、ファームウェア、及びソフトウェアのうちのいずれかの組み合わせ等により実現してもよい。また、学習結果記憶部151及び提示情報記憶部152は、例えば、記憶部116により実現される。
Note that the
学習結果記憶部151は、予め定められた年齢層及び性別ごとの顔画像の特徴情報についての学習結果データを記憶する。予め定められた年齢層は、例えば、10代、20代、30代、40代、50代、60台、70代、80代、90代などである。すなわち、学習結果データは、例えば、10代男性の学習結果データ、10代女性の学習結果データ、20代男性の学習結果データ、20代女性の学習結果データなどというように、年齢層及び性別ごとのデータとなっている。なお、年齢層は、さらに細かく設定されていてもよいし、より大まかに設定されていてもよい。また、20歳以下、20歳から50歳、50歳以上などのように、各年齢層の年齢幅が異なってもよい。また、各年齢層の年齢幅が、1歳であってもよい。特徴情報は、例えば、顔のしわについての情報や、目・鼻・口などの顔の構成要素の相対位置についての情報など、顔の任意の特徴についての情報である。
The learning
学習結果データは、例えば、機械学習により学習された、予め定められた年齢層及び性別ごとの顔画像の特徴情報を示すデータである。学習結果記憶部151は、例えば、性別及び年齢層が既知である複数の人物についての顔画像データを教師データとして機械学習することにより得られた特徴情報を示すデータを、当該性別及び年齢層の顔画像の特徴情報についての学習結果データとして記憶している。なお、教師データの数は、推定において必要とされる精度に応じて決定される。例えば、推定精度が高いほど、学習結果データを得るために機械学習の際に用いられる顔画像データは多くなる。
The learning result data is data indicating feature information of face images for each predetermined age group and sex, which is learned by machine learning, for example. The learning
提示情報記憶部152は、客に対して、提示する情報を記憶する。例えば、提示情報記憶部152は、メニュー情報など、店舗等が提供する商品又はサービスについての情報を記憶する。
The presentation
画像取得部153は、カメラ111により撮像された客の顔画像を取得する。すなわち、画像取得部153は、着座位置に着座した客の顔画像を取得する。ここで、複数の着座位置のそれぞれに客が着座している場合には、画像取得部153は、複数の着座位置に着座する複数の客の顔画像を取得する。例えば、画像取得部153は、カウンター席に着座する複数の客の顔画像を取得してもよいし、テーブル席に着座する複数の客の顔画像を取得してもよい。なお、顔画像は、客の顔部分を含む画像である。画像取得部153は、取得した顔画像を年齢性別推定部154に出力する。なお、例えば、画像取得部153は、カメラ111から出力される画像のうち、客の顔部分を含む画像を公知の顔認識処理を用いて抽出し、客の顔部分を含む領域を切り出した部分画像を年齢性別推定部154に出力する。
The
年齢性別推定部154は、画像取得部153により取得された顔画像から、客の年齢層及び性別を推定する。具体的には、年齢性別推定部154は、画像取得部153により取得された客の顔画像の特徴情報を、学習結果記憶部151が記憶する特徴情報と比較して、客の年齢層及び性別を推定する。例えば、年齢性別推定部154は、画像取得部153により取得された顔画像の特徴情報が、学習結果記憶部151が記憶する年齢層及び性別ごとの特徴情報のうちいずれに最も近いかを判定し、最も近いと判定された特徴情報に対応付けられている年齢層及び性別を客の年齢層及び性別と推定する。ここで、特に、複数の着座位置のそれぞれに客が着座している場合には、年齢性別推定部154は、複数の客それぞれの年齢層及び性別を推定する。
The age and
本実施の形態では、年齢性別推定部154は、所定の期間、客の年齢層及び性別の推定を繰り返す。また、年齢性別推定部154は、所定の期間に繰り返して得た複数の推定結果から最終的な推定結果を算出し、客情報生成部155に通知する。所定期間の開始時期は、例えば、客の着席タイミングである。なお、着席タイミングは、店員等のタッチパネル112に対する操作入力により注文端末装置100に与えられてもよいし、カメラ111により撮像された画像に対し、画像認識処理により着席を判定してもよい。また、所定期間の終了時期は、例えば、開始時期から予め定められた時間の経過であってもよいし、提供された商品又はサービスの清算タイミングであってもよい。なお、所定期間の開始時期及び終了時期は、これらに限らず任意の時期を設定可能である。年齢性別推定部154は、例えば、最終的な推定結果として平均値や最頻値を算出してもよい。すなわち、年齢性別推定部154は、ある客について推定された複数の年齢層について、それらの平均を当該客の年齢層としもよい。また、年齢性別推定部154は、ある客について推定された複数の性別について、その最頻値を当該客の性別としてもよい。このように、繰り返される推定により得られた複数の推定結果から最終的な推定結果を決定するため、推定精度を向上することが期待できる。
In the present embodiment, the age and
なお、年齢性別推定部154は、画像取得部153により取得された客の顔画像のうち、注文端末装置100から予め定められた距離以内に存在する客の顔画像を推定対象としてもよい。具体的には、例えば、年齢性別推定部154は、画像取得部153により取得された顔画像に含まれる顔のうち、顔の大きさが予め定められたサイズ範囲に含まれるもののみを推定対象とする。すなわち、顔の大きさが所定サイズ以下の場合、カメラ111から所定距離以上遠いものとみなして、推定対象外としてもよい。推定対象をこのように限定することにより、客情報の生成対象である客の背景に存在する、客情報の生成対象外である人物について、誤って客情報が生成されることが防がれる。
The age and
客情報生成部155は、年齢性別推定部154により推定された年齢層及び性別に基づいて、少なくとも客の年齢層及び性別を示す客情報を生成する。ここで、複数の着座位置のそれぞれに客が着座している場合には、客情報生成部155により生成される客情報は、グループを特定する情報を含む。グループを特定する情報は、例えば、グループを構成する人の数を示す情報を含む。
The customer
したがって、客情報生成部155は、画像取得部153が複数の着座位置に着座する複数の客の顔画像を取得した場合、これら複数の客を一つのグループとして、年齢性別推定部154により推定された年齢層及び性別に基づいて、このグループを構成する人の数、年齢層及び性別を示す客情報を生成する。すなわち、この場合、客情報生成部155は、グループの人数とグループを構成する各人の年齢層及び性別を示す情報を生成する。
Therefore, when the
例えば、画像取得部153がテーブル席に着座する複数の客の顔画像を取得する場合、客情報生成部155は、取得された顔画像が示す各客を一つのグループとして判断し、グループを特定する上述の情報を生成する。また、例えば、画像取得部153がカウンター席に着座する複数の客の顔画像を取得する場合、客情報生成部155は、取得された顔画像が示す各客を一つのグループとして判断し、グループを特定する上述の情報を生成する。
For example, when the
ここで、客情報生成部155は、複数の客のうち、画像取得部153により取得された顔画像に示される顔の向きが予め定められた条件を満たす客を一つのグループを構成する客として、客情報を生成してもよい。例えば、カウンター席の場合、画像取得部153により取得された画像に含まれる全ての人物が同じグループとは限らない。ここで、同じグループの客同士は、会話を行うことが想定される。そして、客が同じグループの他の客と会話する際は、当該他の客の方に顔を向けることが想定される。すなわち、例えば、所定期間の間に、グループ客は、他のグループ客又は個人客に顔を向ける頻度よりも、同じグループの客に顔を向ける頻度の方が多いと想定される。したがって、客情報生成部155は、例えば、所定期間の客の顔の向きを確認し、画像取得部153により取得された画像に示される客のうちグループを構成する客を特定してもよい。このようにすることにより、画像取得部153により取得された画像に、同一グループの客以外の客の顔が含まれる場合であっても、適切にグループを特定する情報を生成することができる。
なお、例えば、客の来店時に、店員が同一グループの客だけをカメラ111が撮像するよう、注文端末装置100を配置してもよい。
Here, the customer
For example, the
情報出力部156は、提示情報記憶部152が記憶する情報を出力する。情報出力部156は、情報をタッチパネル112に表示出力してもよいし、スピーカ113に音声出力してもよい。また、情報出力部156は、客情報生成部155が生成した客情報に基づいて選択される情報を出力してもよい。すなわち、情報出力部156は、例えば、客情報に示される客の年齢層又は性別に応じたおすすめのメニューを出力してもよい。
The
注文受付部157は、客からの注文を受け付ける。具体的には、注文受付部157は、タッチパネルを介した、客の操作入力により注文を受け付ける。客は、例えば、タッチパネル112に表示された商品又はサービスの選択肢に対し、選択操作をすることにより所望の商品又はサービスの注文操作を行う。
The
客情報送信部158は、客情報生成部155により生成された客情報を情報収集サーバ200に送信する。なお、客情報送信部158は、注文受付部157により受付けられた注文と関連づけて、客情報を送信してもよい。
The customer
次に、客情報の生成処理について、注文端末装置100の動作を説明する。図8は、注文端末装置100における客情報の生成処理に関する動作の一例を示すフローチャートである。
Next, the operation of the
ステップ10(S10)において、制御部115は、客情報の生成処理の開始条件を満たしたか否かを判定する。開始条件を満たした場合、処理はステップ11に移行し、開始条件を満たさない場合、ステップ10が繰り返される。開始条件は、例えば、客の着席である。なお、ステップ10による判定は、上述の年齢性別推定部154による推定が行われる所定の期間の開始時期の判定に相当する。
In step 10 (S10), the
ステップ11(S11)において、制御部115はカメラ111に撮像を開始させる。そして、ステップ12(S12)において、画像取得部153が、カメラ111により撮像された客の顔画像を取得する。
次に、ステップ13(S13)において、年齢性別推定部154が、画像取得部153により取得された顔画像から、客の年齢層及び性別を推定する。
In step 11 (S11), the
Next, in step 13 (S13), the age and
次に、ステップ14(S14)において、制御部115は、推定処理の終了条件を満たしたか否かを判定する。終了条件を満たした場合、処理はステップ15に移行し、終了条件を満たさない場合、ステップ12へ戻る。終了条件は、例えば、ステップ10でYesと判定されてから予め定められた時間が経過したことであってもよいし、提供された商品又はサービスの清算タイミングであってもよい。なお、ステップ14による判定は、上述の年齢性別推定部154による推定が行われる所定の期間の終了時期の判定に相当する。
Next, in step 14 (S14), the
ステップ15(S15)において、制御部115はカメラ111に撮像を終了させる。そして、ステップ16(S16)において、年齢性別推定部154は、最終的な推定結果を確定する。その後、ステップ17(S17)において、客情報生成部155がステップ16による推定結果に基づいて客情報を生成する。
In step 15 (S15), the
このように、本実施の形態の注文端末装置100によれば、客の年齢層及び性別を示す客情報を自動的に生成することができる。したがって、注文端末装置100によれば、客情報を容易に取得することができる。また、注文端末装置100によれば、グループ客について、グループ客として客情報を生成することができる。このため、マーケティング等においてより有用な客情報を取得することができる。なお、上述の通り、本実施の形態の注文端末装置100では、画像取得部153が取得した、複数の着座位置に着座する複数の客の顔画像から、グループを構成する各客の客情報を生成している。このため、例えば、注文操作の際、グループ客の全員が注文端末装置100を操作しない場合であっても、グループを構成する各客の客情報を生成することができる。
Thus, according to the
以上、本発明の実施の形態について説明したが、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、上述の実施の形態では、顔画像により推定処理を行ったが、顔画像に限らず、顔を含む身体画像に基づいて推定処理を行ってもよい。この場合、例えば、学習結果記憶部151は、予め定められた年齢層及び性別ごとの顔を含む身体画像の特徴情報についての学習結果データを記憶する。また、画像取得部153は、客の顔を含む身体画像を取得する。また、年齢性別推定部154は、画像取得部153により取得された身体画像の特徴情報を、学習結果記憶部151が記憶する特徴情報と比較して、客の年齢層及び性別を推定する。このように、推定に利用する画像を身体画像とすることにより、客の姿勢や身長などの輪郭や、服装などを推定のための特徴情報として利用することができるため、推定精度の向上が期待できる。
Although the embodiments of the present invention have been described above, the present invention is not limited to the above-described embodiments, and can be modified as appropriate without departing from the spirit of the present invention. For example, in the above-described embodiment, the estimation process is performed using a face image. However, the estimation process may be performed based on a body image including a face without being limited to the face image. In this case, for example, the learning
また、上述の実施の形態では、注文端末装置が図1又は図7に示される各構成を備えるものとして説明したが、構成の一部を、情報収集サーバ200などの他の装置が備えてもよい。すなわち、注文端末装置を含む注文システムが、図1又は図7に示される各構成を備えてもよい。
Further, in the above-described embodiment, the order terminal device has been described as including each configuration illustrated in FIG. 1 or FIG. 7, but a part of the configuration may be included in another device such as the
また、本発明は、注文端末装置に限らず、キオスク端末などの各種自動受付端末に適用されてもよい。 Further, the present invention is not limited to an order terminal device, and may be applied to various automatic reception terminals such as a kiosk terminal.
また、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)、CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(random access memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。 The program can be stored using various types of non-transitory computer readable media and supplied to a computer. Non-transitory computer readable media include various types of tangible storage media. Examples of non-transitory computer-readable media include magnetic recording media (for example, flexible disks, magnetic tapes, hard disk drives), magneto-optical recording media (for example, magneto-optical disks), CD-ROMs (Read Only Memory), CD-Rs, CD-R / W and semiconductor memory (for example, mask ROM, PROM (Programmable ROM), EPROM (Erasable PROM), flash ROM, RAM (random access memory)) are included. The program may also be supplied to the computer by various types of transitory computer readable media. Examples of transitory computer readable media include electrical signals, optical signals, and electromagnetic waves. The temporary computer-readable medium can supply the program to the computer via a wired communication path such as an electric wire and an optical fiber, or a wireless communication path.
1、100 注文端末装置
2 学習結果記憶部
3 画像取得部
4 年齢性別推定部
5 客情報生成部
10 注文システム
110 注文端末装置本体
111 カメラ
112 タッチパネル
113 スピーカ
114 アンテナ
115 制御部
116 記憶部
120 クレードル
130 電源ケーブル
151 学習結果記憶部
152 提示情報記憶部
153 画像取得部
154 年齢性別推定部
155 客情報生成部
156 情報出力部
157 注文受付部
158 客情報送信部
200 情報収集サーバ
300 ネットワーク
DESCRIPTION OF SYMBOLS 1,100
Claims (12)
着座位置に着座した客の顔画像を取得する画像取得手段と、
前記画像取得手段により取得された前記客の顔画像の特徴情報を、前記学習結果記憶手段が記憶する特徴情報と比較して、前記客の年齢層及び性別を推定する年齢性別推定手段と、
前記年齢性別推定手段により推定された年齢層及び性別に基づいて、前記客の年齢層及び性別を示す客情報を生成する客情報生成手段と
を有する注文端末装置。 Learning result storage means for storing learning result data on feature information of face images for each predetermined age group and gender;
Image acquisition means for acquiring a face image of the customer seated at the sitting position;
Comparing the feature information of the customer's face image acquired by the image acquisition means with the feature information stored in the learning result storage means, and age and sex estimation means for estimating the age group and sex of the customer;
An ordering terminal device comprising: customer information generating means for generating customer information indicating the age group and sex of the customer based on the age group and gender estimated by the age sex estimating means.
前記年齢性別推定手段は、前記複数の客それぞれの年齢層及び性別を推定し、
前記客情報生成手段は、前記複数の客を一つのグループとして、前記年齢性別推定手段により推定された年齢層及び性別に基づいて、該グループを構成する人の数、年齢層及び性別を示す客情報を生成する
請求項1に記載の注文端末装置。 The image acquisition means acquires face images of a plurality of customers seated at a plurality of seating positions,
The age gender estimating means estimates the age group and gender of each of the plurality of customers,
The customer information generating means includes the plurality of customers as one group, and a customer indicating the number, age group, and gender of people constituting the group based on the age group and sex estimated by the age-sex-estimating means. The order terminal device according to claim 1 which generates information.
請求項2に記載の注文端末装置。 The customer information generation unit is configured to select, as a customer constituting one group, a customer who satisfies a predetermined orientation of the face direction indicated in the face image acquired by the image acquisition unit among the plurality of customers. The order terminal device according to claim 2 which generates information.
請求項1乃至3いずれか1項に記載の注文端末装置。 The order terminal according to any one of claims 1 to 3, wherein the age and gender estimation means repeats estimation of the customer's age group and sex for a predetermined period, and calculates a final estimation result from a plurality of estimation results. apparatus.
請求項1乃至4のいずれか1項に記載の注文端末装置。 5. The age-sex-estimating means targets a customer face image existing within a predetermined distance among the face images of the customer acquired by the image acquisition means. The order terminal device according to the item.
をさらに有する請求項1乃至5のいずれか1項に記載の注文端末装置。 The order terminal device according to claim 1, further comprising: an information output unit that outputs information selected based on customer information generated by the customer information generation unit.
前記画像取得手段は、客の顔を含む身体画像を取得し、
前記年齢性別推定手段は、前記画像取得手段により取得された身体画像の特徴情報を、前記学習結果記憶手段が記憶する特徴情報と比較して、前記客の年齢層及び性別を推定する
請求項1乃至6のいずれか1項に記載の注文端末装置。 The learning result storage means stores learning result data about feature information of a body image including a face for each predetermined age group and gender,
The image acquisition means acquires a body image including a customer's face,
The age gender estimating means estimates the age group and gender of the customer by comparing the feature information of the body image acquired by the image acquisition means with the feature information stored in the learning result storage means. 7. The order terminal device according to any one of items 6 to 6.
請求項1乃至7のいずれか1項に記載の注文端末装置。 The order terminal device according to any one of claims 1 to 7, wherein the image acquisition unit acquires a face image of a customer sitting at a counter seat.
請求項1乃至7のいずれか1項に記載の注文端末装置。 The order terminal device according to claim 1, wherein the image acquisition unit acquires a face image of a customer sitting at a table seat.
着座位置に着座した客の顔画像を取得する画像取得手段と、
前記画像取得手段により取得された前記客の顔画像の特徴情報を、前記学習結果記憶手段が記憶する特徴情報と比較して、前記客の年齢層及び性別を推定する年齢性別推定手段と、
前記年齢性別推定手段により推定された年齢層及び性別に基づいて、前記客の年齢層及び性別を示す客情報を生成する客情報生成手段と
を有する注文システム。 Learning result storage means for storing learning result data on feature information of face images for each predetermined age group and gender;
Image acquisition means for acquiring a face image of the customer seated at the sitting position;
Comparing the feature information of the customer's face image acquired by the image acquisition means with the feature information stored in the learning result storage means, and age and sex estimation means for estimating the age group and sex of the customer;
An order system comprising: customer information generation means for generating customer information indicating the age group and sex of the customer based on the age group and gender estimated by the age sex estimation unit.
取得された前記客の顔画像の特徴情報を、予め定められた年齢層及び性別ごとの顔画像の特徴情報についての学習結果データと比較して、前記客の年齢層及び性別を推定する年齢性別推定ステップと、
推定された年齢層及び性別に基づいて、前記客の年齢層及び性別を示す客情報を生成する客情報生成ステップと
を含む客情報生成方法。 An image acquisition step of acquiring a face image of the customer seated at the sitting position;
Compare the acquired feature information of the customer's face image with learning result data on the feature information of the face image for each predetermined age group and gender, and estimate the age group and sex of the customer An estimation step;
A customer information generation method including: a customer information generation step of generating customer information indicating the age group and sex of the customer based on the estimated age group and sex.
取得された前記客の顔画像の特徴情報を、予め定められた年齢層及び性別ごとの顔画像の特徴情報についての学習結果データと比較して、前記客の年齢層及び性別を推定する年齢性別推定ステップと、
推定された年齢層及び性別に基づいて、前記客の年齢層及び性別を示す客情報を生成する客情報生成ステップと
をコンピュータに実行させるプログラム。 An image acquisition step of acquiring a face image of the customer seated at the sitting position;
Compare the acquired feature information of the customer's face image with learning result data on the feature information of the face image for each predetermined age group and gender, and estimate the age group and sex of the customer An estimation step;
A program for causing a computer to execute a customer information generation step of generating customer information indicating the age group and sex of the customer based on the estimated age group and sex.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015059390A JP2016177755A (en) | 2015-03-23 | 2015-03-23 | Order terminal equipment, order system, customer information generation method, and program |
PCT/JP2016/001564 WO2016152122A1 (en) | 2015-03-23 | 2016-03-17 | Order terminal device, order system, customer information generation method, and non-transitory computer readable medium that stores program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015059390A JP2016177755A (en) | 2015-03-23 | 2015-03-23 | Order terminal equipment, order system, customer information generation method, and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016177755A true JP2016177755A (en) | 2016-10-06 |
Family
ID=56978001
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015059390A Pending JP2016177755A (en) | 2015-03-23 | 2015-03-23 | Order terminal equipment, order system, customer information generation method, and program |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2016177755A (en) |
WO (1) | WO2016152122A1 (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020091739A (en) * | 2018-12-06 | 2020-06-11 | 株式会社 日立産業制御ソリューションズ | Procedure detection device and procedure detection program |
KR20200093251A (en) * | 2019-01-28 | 2020-08-05 | 주식회사 스마트캐스트 | Smart order processing apparatus |
WO2020194488A1 (en) * | 2019-03-26 | 2020-10-01 | 株式会社資生堂 | Device, method, program, and system for determining three-dimensional shape of face |
WO2022145712A1 (en) * | 2020-12-31 | 2022-07-07 | 주식회사 메이아이 | Method, device, and non-transitory computer-readable recording medium for analyzing visitor on basis of image in edge computing environment |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04352081A (en) * | 1991-05-29 | 1992-12-07 | Ikegami Tsushinki Co Ltd | Preprocessing method and device for image recognition |
JP2001134673A (en) * | 1999-08-20 | 2001-05-18 | Waitekku:Kk | Customer service managing device |
JP2004054376A (en) * | 2002-07-17 | 2004-02-19 | Japan Science & Technology Corp | Method and device for estimating group attribute |
JP2013246486A (en) * | 2012-05-23 | 2013-12-09 | Toshiba Tec Corp | Order terminal and computer program |
JP2015011712A (en) * | 2013-06-28 | 2015-01-19 | アザパ アールアンドディー アメリカズ インク | Digital information gathering and analyzing method and apparatus |
-
2015
- 2015-03-23 JP JP2015059390A patent/JP2016177755A/en active Pending
-
2016
- 2016-03-17 WO PCT/JP2016/001564 patent/WO2016152122A1/en active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04352081A (en) * | 1991-05-29 | 1992-12-07 | Ikegami Tsushinki Co Ltd | Preprocessing method and device for image recognition |
JP2001134673A (en) * | 1999-08-20 | 2001-05-18 | Waitekku:Kk | Customer service managing device |
JP2004054376A (en) * | 2002-07-17 | 2004-02-19 | Japan Science & Technology Corp | Method and device for estimating group attribute |
JP2013246486A (en) * | 2012-05-23 | 2013-12-09 | Toshiba Tec Corp | Order terminal and computer program |
JP2015011712A (en) * | 2013-06-28 | 2015-01-19 | アザパ アールアンドディー アメリカズ インク | Digital information gathering and analyzing method and apparatus |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020091739A (en) * | 2018-12-06 | 2020-06-11 | 株式会社 日立産業制御ソリューションズ | Procedure detection device and procedure detection program |
KR20200093251A (en) * | 2019-01-28 | 2020-08-05 | 주식회사 스마트캐스트 | Smart order processing apparatus |
KR102203996B1 (en) * | 2019-01-28 | 2021-01-18 | 주식회사 스마트캐스트 | Smart order processing apparatus |
WO2020194488A1 (en) * | 2019-03-26 | 2020-10-01 | 株式会社資生堂 | Device, method, program, and system for determining three-dimensional shape of face |
WO2022145712A1 (en) * | 2020-12-31 | 2022-07-07 | 주식회사 메이아이 | Method, device, and non-transitory computer-readable recording medium for analyzing visitor on basis of image in edge computing environment |
Also Published As
Publication number | Publication date |
---|---|
WO2016152122A1 (en) | 2016-09-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2016152122A1 (en) | Order terminal device, order system, customer information generation method, and non-transitory computer readable medium that stores program | |
JP5780348B1 (en) | Information presentation program and information processing apparatus | |
TW201907350A (en) | Offline shopping guide method and device | |
JP5874886B1 (en) | Service monitoring device, service monitoring system, and service monitoring method | |
CN104125396A (en) | Image shooting method and device | |
US20180040046A1 (en) | Sales management device, sales management system, and sales management method | |
JP2016122272A (en) | Usability calculation device, availability calculation method, and availability calculation program | |
US20220346683A1 (en) | Information processing system and information processing method | |
JP2019003361A (en) | Seat management device, program and robot | |
JP2018084890A (en) | Information processing unit, information processing method, and program | |
US11915519B2 (en) | Information processing system, method for managing object to be authenticated, and program | |
US20170200208A1 (en) | Sales support method and sales support system | |
JP2016115257A (en) | Communication system, server device, robot, information processing method, and program | |
CN110019405A (en) | Information system, electronic equipment, computer-readable medium and information processing method | |
JP6474982B2 (en) | Shopping consultation system | |
JP5720843B1 (en) | Position conversion program and information processing apparatus | |
JP2019028559A (en) | Work analyzing device, work analyzing method, and program | |
JP7581847B2 (en) | Method, program and system for reducing restaurant serving errors | |
JPWO2017179134A1 (en) | Makeup simulation system, makeup simulation method, and makeup simulation program | |
JP7400944B2 (en) | Recommended control devices, systems, methods and programs | |
JP2019079127A (en) | Customer management program, container, feature extraction program, customer management method, feature extraction method and information processing apparatus | |
JP2016009309A (en) | Service support device, service support method, and program | |
US20230106286A1 (en) | Information processing device and information processing program | |
JP7327571B2 (en) | Information processing system, terminal device, authentication target management method, and program | |
JP2016045743A (en) | Information processing apparatus and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180208 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190205 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190401 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190723 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200121 |