[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2019067237A - 情報処理方法、情報処理装置およびプログラム - Google Patents

情報処理方法、情報処理装置およびプログラム Download PDF

Info

Publication number
JP2019067237A
JP2019067237A JP2017193535A JP2017193535A JP2019067237A JP 2019067237 A JP2019067237 A JP 2019067237A JP 2017193535 A JP2017193535 A JP 2017193535A JP 2017193535 A JP2017193535 A JP 2017193535A JP 2019067237 A JP2019067237 A JP 2019067237A
Authority
JP
Japan
Prior art keywords
image
layout
images
shooting date
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017193535A
Other languages
English (en)
Other versions
JP6723965B2 (ja
Inventor
水城 早川
Mizuki Hayakawa
水城 早川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017193535A priority Critical patent/JP6723965B2/ja
Priority to US16/140,849 priority patent/US10999454B2/en
Publication of JP2019067237A publication Critical patent/JP2019067237A/ja
Application granted granted Critical
Publication of JP6723965B2 publication Critical patent/JP6723965B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00132Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture in a digital photofinishing system, i.e. a system where digital photographic images undergo typical photofinishing processing, e.g. printing ordering
    • H04N1/00185Image output
    • H04N1/00196Creation of a photo-montage, e.g. photoalbum
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0486Drag-and-drop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00132Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture in a digital photofinishing system, i.e. a system where digital photographic images undergo typical photofinishing processing, e.g. printing ordering
    • H04N1/00143Ordering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00405Output means
    • H04N1/00408Display of information to the user, e.g. menus
    • H04N1/0044Display of information to the user, e.g. menus for image preview or review, e.g. to help the user position a sheet
    • H04N1/00442Simultaneous viewing of a plurality of images, e.g. using a mosaic display arrangement of thumbnails
    • H04N1/00456Simultaneous viewing of a plurality of images, e.g. using a mosaic display arrangement of thumbnails for layout preview, e.g. page layout
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/211Selection of the most significant subset of features
    • G06F18/2113Selection of the most significant subset of features by ranking or filtering the set of features, e.g. using a measure of variance or of feature cross-correlation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Processing Or Creating Images (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

【課題】ユーザにとって優先度の高い画像が撮影日時順にレイアウトされたフォトアルバムを、ユーザの手を煩わせることなく作成する。【解決手段】複数の画像の撮影日時情報と当該撮影日時情報の信頼性を示す信頼性情報とを取得し、複数の画像のそれぞれを解析してスコアリングし、得られたスコアが高い順にテンプレートにレイアウトする画像を複数の画像の中から選出する。更に、選出された画像を、撮影日時の順に前記テンプレートにレイアウトした上で、レイアウトされた画像の中に、撮影日時情報の信頼性が低い画像が含まれている場合に、ユーザにこれを通知する。【選択図】図2

Description

本発明は、デジタルカメラなどで撮影された複数の画像を、テンプレートに基づいてレイアウトするための情報処理方法および情報処理装置に関する。
特許文献1には、ユーザが、フォトアルバムに収めたいデータファイルを指定し、好みのテンプレートを選択することにより、画像の特徴を解析して好ましい形式に自動でレイアウトするフォトアルバムの作成技術が開示されている。
一方、特許文献2には、写真画像のサムネイルをユーザが並べ変えることによって、撮影日時情報を更新する技術が開示されている。具体的には、複数の写真画像をサムネイルとして配列表示し、ユーザにこれらの順番をドラッグしながら並び替えてもらうことにより、撮影日時情報の確実性が低い画像ファイルの当該撮影日時情報を、前後の画像の撮影日時情報に基づいて推定し保存する。
特開2010−72934号公報 特許第5094528号公報
フォトアルバム等を作成する場合に、写真画像を撮影日時順に並べることが多いが、従来のフォトアルバム自動作成ツールでは、撮影日時の信頼性が低い画像については優先度が低く扱われ、自動レイアウトから除外されてしまうこともあった。しかしながら、記憶されている撮影日時情報の信頼性が低くても、ユーザにとってはアルバムに入れる優先度の高い画像は存在する。
例えば、ユーザは、撮影後の画像ファイルのうち特にアルバム収容したい画像を、編集ソフトを用いて加工することがあるが、編集ソフトによっては撮影日時情報を削除してしまう場合がある。また、集合写真など複数のユーザで共有される画像を、SNSなどを通じて送受信した場合、データ容量の削減や個人情報保護などの目的で撮影日時情報が削除されることがある。
撮影日時情報が削除されてしまった画像であっても、フォトアルバムを作成する前に、特許文献2を用いて画像の並び替えを行えば、フォトアルバムを作成するときには撮影日時情報が添付され、アルバムに含めることはできる。しかし、フォトアルバムを作成するたびに、全画像の順番を確認しながら手動レイアウトすることは、ユーザにとって煩わしい作業となる。なお、このような課題は、フォトアルバムだけでなく複数の画像をレイアウトする場合に、共通して生ずる。
本発明は上記問題点を解決するためになされたものである。よってその目的とするところは、ユーザにとって優先度の高い画像が撮影日時順にレイアウトされたレイアウト結果を、ユーザの手を煩わせることなく作成することである。
そのために本発明は、複数の画像をテンプレートにレイアウトすることによってレイアウト結果を生成するための情報処理方法であって、前記複数の画像の撮影日時情報と、当該撮影日時情報の信頼性を示す信頼性情報と、を取得する工程と、前記複数の画像のそれぞれを解析しスコアリングするスコアリング工程と、前記撮影日時情報と、前記スコアリング工程によって得られたスコアと、に基づき、画像を前記テンプレートにレイアウトするレイアウト工程と、前記信頼性情報に基づき、前記レイアウト工程でレイアウトされた画像の中に、前記撮影日時情報の信頼性が低い画像が含まれている場合に、ユーザに通知する通知工程とを有することを特徴とする。
本発明によれば、ユーザにとって優先度の高い画像が撮影日時順にレイアウトされたフォトアルバムを、ユーザの手を煩わせることなく作成することができる。
フォトアルバム作成システムにおける制御の構成を説明するためのブロック図 アルバム作成ジョブ発生時に、情報処理装置が実行するフローチャート 画像レイアウトシーケンスにおける処理工程を説明するためのフローチャート テンプレートの一例を示す図 画像ファイルのリストの例を示す図 画像ファイルのスコアリングの結果の一例を示す図 スロットIDと画像IDの対応関係を示す図 画像ファイルのスコアリングの結果の別例を示す図 スロットIDと画像IDの対応関係を示す図 メッセージの一例を示す図 アルバムの確認・編集画面を示す図
図1は、本発明に使用可能なフォトアルバム作成システムにおける制御の構成を説明するためのブロック図である。
情報処理装置10は、例えばパーソナルコンピュータで構成され、内部にCPU11、RAM12、ROM13などを備えている。また、情報処理装置10の外部には、記憶装置20、入力装置30、モニタ40、プリンタA50が接続されている。
CPU11は、RAM12やROM13、記憶装置20に保存されているプログラムに従ってRAM12をワークエリアとしながら、装置全体を制御する。記憶装置20は、HDDやSSDなどで構成され、CPU11が実行する各種プログラムのほか、本実施形態で使用する画像ファイルやテンプレートファイルも保存している。
入力装置30は、キーボードやマウス、ポインティングデバイスなどであり、ユーザが情報処理装置10にコマンド入力するためのデバイスである。モニタ40は、情報処理装置10からの情報をユーザに表示するためのデバイスである。入力装置30とモニタ40は、タッチ画面形式として一体的に構成されていても良い。また、図では、記憶装置20、入力装置30、モニタ40が情報処理装置の外部に接続された形態で示したが、これらデバイスは情報処理装置10に含まれていても良い。
以上の構成のもと、情報処理装置10は、入力装置30やモニタ40を介したユーザの指示のもと、所定のプログラムに従って、記憶装置20に記憶された画像ファイルを用いてフォトアルバムやフォトブック用のデータを作成することができる。
プリンタA50は、情報処理装置10に直接接続され、情報処理装置10から受信するプリントデータに従って画像をプリントすることができる。例えば、ユーザは、情報処理装置10で作成したアルバムデータに基づいて、プリンタA50にアルバム用の画像をプリントさせることもできる。この場合、ユーザはプリント後の出力物を用いて自ら製本し、アルバムに仕上げることができる。
一方、情報処理装置10は、ネットワーク60を介して外部サーバ70にも接続されており、作成したアルバムの画像を外部サーバにアップロードすることもできる。外部サーバ70はプリンタB80と接続されており、不図示の入出力インターフェースを用いてプリンタB80と通信可能になっている。例えば、外部サーバ70がアルバム作成業者の管理サーバであるとき、ユーザは、情報処理装置10で生成したアルバムデータを外部サーバにアップロードするとともに、アルバムの発注手続きを行うこともできる。この場合、注文を受けた業者は、外部サーバ70にアップロードされたアルバムデータに基づいて、プリンタB80にアルバム用の画像をプリントさせた後、製本を行い、完成したアルバムをユーザの手元に届けることになる。
図2は、アルバム作成ジョブが発生した場合に、情報処理装置10のCPU11が実行する処理を説明するためのフローチャートである。本処理は、ユーザが、フォトアルバム作成用の所定のアプリケーションソフトを立ち上げることによって開始され、CPU11が、RAM12やROM13に記憶されているプログラムに従って、RAM12をワークエリアとして用いながら実行する処理である。
本処理が開始されると、CPU11はまずステップS201において、画像レイアウトシーケンスを実行する。
図3は、ステップS201の画像レイアウトシーケンスにおいてCPU11が実行する処理の工程を説明するためのフローチャートである。CPU11は、まず、ステップS301において、ユーザより選択されたテンプレートを記憶装置20から読み出す。
より具体的に説明する。CPU11は、モニタ40に提供可能な複数のテンプレートを表示して、ユーザからの選択指示を受ける。この際、ユーザは複数のテンプレートの中から好みのデザインを選択するとともに、作成するアルバムのサイズやページ数、各ページにレイアウト可能な画像の最大数などを指定する。但し、デザインやサイズ、ページ数が予め決められている場合は、本ステップを省略することもできる。CPU11は、記憶装置20をアクセスし、選択されたテンプレートを読み出してRAM12に展開する。
図4(a)および(b)は、RAM12に展開されたテンプレートの一例を示す図である。ここでは、1つの見開きページに、図4(a)のように4つの画像をレイアウトする例を示している。このような領域は、基準点と大きさ、すなわち左上の座標(x、y)とx方向の幅(W)、y方向の高さ(h)が、スロットID4001〜4004にそれぞれ対応づけられて、図4(b)のように管理されている。
なお、ここでは1つの見開きページに4つの写真をレイアウトする場合を示しているが、無論その数は限定されるものではない。1ページにレイアウトする画像の数は、ステップS301において選択されたテンプレートの種類のほか、この後行われる様々な処理によって変更可能である。本実施形態においては、夫々のページに最終的にレイアウトされる画像の数が変更されても対応可能なように、例えば1枚の場合〜4枚の場合のそれぞれについて、図4(a)および(b)に示すテンプレート情報を予め用意しておく。
図3に戻る。ステップS302において、CPU11は、フォトアルバムに使用する画像ファイルが保存されたフォルダの指定をユーザより受け付け、記憶装置20にアクセスし、指定されたファイルに含まれる全画像ファイルを読み出してRAM12に展開する。そして、ステップS303において、CPU11はRAM12に展開した画像ファイルを解析し、撮影日時順にリスト化する。
図5は、ステップS303においてCPU11が作成したリストの例を示す図である。CPU11は、ステップS302で指定されたフォルダに含まれる全画像ファイルを撮影日時順に並べ、ID番号を付与して配列する。ここでは説明を簡単にするために、フォルダの中に6つの画像ファイルが存在した場合を示しているが、更に多数の画像ファイルが含まれていても良い。リストには、個々の画像ファイルの、ファイル名、撮影日時および信頼性情報が夫々の画像IDに対応づけて管理されている。
ここで、撮影日時は、対応する画像がデジタルカメラなどで撮影され、最初に画像データとして取得された日時を示している。Exif撮影情報やExtensible Metadata Platform(XMP)など、画像データ自体に撮影日時情報が含まれている場合、CPU11はその情報をリストに記入し、信頼性に「true」をセットする。
この際「true」は、撮影日時情報の信頼性が高いことを意味している。撮影されてから記憶装置20に記憶されるまでの間にコピーや移動操作が行われても、Exif撮影情報やExtensible Metadata Platform(XMP)が書き換えられることは無い。また、何らかのアプリケーションによって画像データに様々な処理が施されたとしても、上記情報が書き換えられることは殆ど無い。このように画像データ自体に撮影日時情報が含まれているファイルでは、撮影日時情報の信頼性は十分に高いため、CPU11は「true」をセットする。
SNS通信を経た画像データの場合には、撮影日時情報は投稿日時情報とともに、画像データとは別に通信される場合もある。このような場合であっても、撮影日時情報自体の信頼性は高いため、CPU11は「true」を設定する。また、撮影日時情報が存在せず投稿日時情報のみが存在する場合も、CPU11は投稿日時情報を撮影日時情報とみなしてリストに書き込み、「true」を設定する。
上記以外の場合、すなわち画像データ自体に撮影日時情報が含まれておらず、付随されてもいない場合、CPU11は画像データのタイムスタンプから撮影日時情報を推測する。タイムスタンプには、ファイルの作成日時、ファイルの読み込み日時、ファイルの更新日時などの情報が含まれている。CPU11は、これら複数の日時情報のうち最も古い日時を暫定の撮影日時情報として撮影日時の欄に記載し、信頼性の欄に撮影日時情報の信頼性が低いことを意味する「false」をセットする。
以下、タイムスタンプの情報から推測される撮影日時情報の信頼性について簡単に説明する。デジカメなどは、撮影したタイミングで取得した画像データをSDカードなどの外部メディアに記憶するため、ファイルの作成日時やファイルの更新日時は、撮影日時と一致している。その後、SDカードの情報を、情報処理装置10を介して記憶装置20にコピーした場合、記憶装置20ではファイルが新規作成されるため、ファイルの作成日時はコピーした日時になる。しかし、ファイルの更新処理は行われないため、ファイルの更新日時は温存される。すなわち、このような場合は、タイムスタンプに記憶されているファイルの更新日時が、最も古い日時となり図5に示すリストの撮影日時に記載される。
情報処理装置10が、例えばスマートフォンのように携帯可能なカメラ付きの装置であった場合、撮影した画像データがそのまま情報処理装置10に記憶されるため、ファイルの作成日時とファイルの更新日時は撮影日時に一致している。その後、ユーザによってエフェクト処理やフィルター処理などの画像処理が施され更新されると、ファイルの更新日時は上書きされるが、ファイルを新規作成してはいないのでファイルの作成日時は温存される。すなわち、このような場合は、タイムスタンプに記憶されているファイルの作成日時が、最も古い日時となり図5に示すリストの撮影日時に記載される。
その一方、例えばスマートフォンで画像処理が施された後の画像データがSNSなどで情報処理装置10に送信され記憶装置20に記憶されるような場合は、ファイルの作成日時も更新日時も撮影日時とは異なる日時となってしまう。そしてこのような場合にも、CPU11はタイムスタンプに記憶されている日時のうち最も古い日時を選び、これを撮影日時の欄に記載する。
すなわち、タイムスタンプから選択され記憶された撮影日時については、実際の撮影日時と一致するもの含まれるが一致しないものも含まれる恐れがあるため、本実施形態ではその目安として信頼性の欄に「false」をセットする。
図3に戻る。ステップS303におけるリスト化が終了すると、CPU11はステップS304に進み、作成したリストに基づいて個々の画像データの解析およびスコアリングを行う。スコアリングとは、画像ファイルごとにレイアウトの優先度を数値化する作業である。この数値が高いほどレイアウト時にスロットに配置される可能性が高くなる。スコアリングの方法は特に限定されるものではないが、例えば画像メタ情報に格納されているレーティング情報に基づいたり、顔検出結果、画像データのヒストグラム、周波数解析結果を用いた独自の関数で算出したりして、スコア値が求められればよい。また、図5に示したリストの信頼性が「true」である画像のスコアが増加し、「false」である画像のスコアが減少するような係数を用意しても良い。この際、スコアリングに使用した画像データは、Binary Large Object(以下、BLOB)形式で、データベースに格納できる形式に変換して格納する。
図6は、図5においてリスト化した画像ID1001〜1006のスコアリングの結果の一例を示す図である。ここでは、ステップS303で作成したリスト(図5)とステップS304で求めたスコアリングの結果(図6)を異なる図で示したが、スコアリングの結果は、図5に示すリストの一つの項目として記憶しても良い。
再び図3に戻る。ステップS305において、CPU11は、全画像ファイルを複数のページに分配する。例えば、リスト化されている画像ファイルの数がページ数Pと一致する場合、各ページに1つずつの画像を振り分け本工程は終了する。画像の数がページ数Pより少ない場合は、その旨をユーザに通知して、ページ数を減らしたり画像を割り当てないページを作成したりする。
通常は、画像ファイルの数がページ数Pを上回っていることが多く、この場合、CPU11はこれら複数の画像をステップS301で指定されたページ数にグループ分けする。具体的には、まず、撮影日時順に並べられた画像ファイルにおいて、隣り合う画像ファイルの撮影日時の時間差を求める。そして、撮影時間差が最も大きい位置で複数の画像ファイルを2つのグループに分割する。続いて、撮影時間差が2番目に大きい位置でその位置が含まれるグループを更に2つに分割する。以上のように、撮影時間差が大きい順に個々のグループの分割を繰り返し、グループの数がページ数Pに一致したところで本工程を終了すれば、ステップS301で指定されたページ数Pのそれぞれに1以上の画像データを割り当てることができる。
なお、分割の方法は上記に限定されるものではない。例えば、信頼性が「true」である画像と「false」である画像の境界は、撮影日時の時間差が小さくても、その位置で分割されやすくしても良い。また、短い期間に多数の画像ファイルの撮影日時が含まれているような場合は、撮影日時以外の要素でこれらを複数のグループに分割しても良い。例えば、背景写真と人物写真で分割したり、個人写真と集合写真で分割したり、同一人物が移っている画像が同じグループに含まれるように分割したりしても良い。
ステップS306において、CPU11は、ステップS306で分割された夫々のグループに含まれる画像データを、図4(a)および(b)に示すテンプレートの各領域にレイアウトする。
例えば、図4(a)および(b)に示すテンプレートの場合、4つの領域(スロット)が用意されている。よってCPU11は、処理対象のグループの中からスコアリングの高い4つの画像を選出する。例えば、処理対象のグループのスコアリング結果が、図6に示す状態であった場合、スコアの順位は、画像ID1005、1001、1004、1003、1006、1002の順である。よって、CPU11は、これらの中から、上位の4つ即ち画像ID1005、1001、1004、1003を選出し、これらを撮影日時順にスロットID4001〜4004に宛がっていく。すなわち、画像ID1005がスロットID4001に、画像ID1001がスロットID4002に、画像ID1004がスロットID4003に、画像ID1003がスロットID4004に、それぞれ宛がわれる。
図7は、スロットIDと画像IDの対応関係を示す図である。ページ毎にこのような対応付けを行っておくことで、どの画像がどの位置にレイアウトされるかを管理することができる。
なお、以上では、処理対象とするグループに含まれる画像の数(6つ)が、テンプレートに用意されているスロットの数(4つ)よりも多い場合について説明したが、グループに含まれる画像の数が、用意されているスロットの数より少ない場合も考えられる。このような場合は、テンプレートの側のレイアウトを4画像表示から3画像以下に切り替えれて、上記と同様の処理を行えば良い。また、ステップS306においてテンプレートにレイアウトするために必要な最低のスコア値を予め定めておき、最低のスコア値に満たない画像データは、テンプレート側にレイアウト可能な余裕があっても、レイアウトしないようにしても良い。
図3に戻る。ステップS306において、処理対象となる画像グループのテンプレートへのレイアウトが終了すると、CPU11はステップS307に進み、テンプレートにおける全ページ(即ち画像データにおける全グループ)のレイアウト処理が完了したか否かを判断する。まだレイアウトすべきページ(グループ)が残っている場合、CPU11はステップS306に戻り、次の処理対象ページ(グループ)についてのレイアウト処理を行う。一方、ステップS307において、レイアウトすべきページ(グループ)は残っていないと判断した場合は、本処理(画像レイアウトシーケンス)は終了し、図2のフローチャートに戻る。
ところで、以上では、図6に示すスコアリング結果を例に、信頼性が「true」である画像データのみがテンプレートにレイアウトされる場合について説明したが、信頼性が「false」である画像データがテンプレートにレイアウトされる場合もある。
図8は、図5においてリスト化した6つの画像ID1001〜1006のスコアリングの結果の別例を示す図である。ここでは、信頼性が「false」である画像ID1002のスコアが比較的高い値になっている。図8のスコアリング結果に基づいて、図4(a)および(b)に示すテンプレートの各領域に画像をレイアウトする場合、CPU11は上位の4つの画像データとして、ID1001、1002、1004、1003を選出する。そして、これらを撮影日時順にスロットID4001〜4004に宛がうと、スロットIDと画像IDの対応関係は図9のようになる。すなわち、本例の場合、信頼性が「false」である画像ID1002もテンプレートにレイアウトされる。
つまり、図3で説明した一連の画像レイアウトシーケンスが終了した時点において、作成されたアルバムデータ中には、信頼性が「false」である画像データが含まれるページも十分存在しうる。
図2のフローチャートに戻る。ステップS201で画像レイアウトシーケンスが終了すると、CPU11はステップS202に進み、ステップS201で画像をレイアウトしたアルバムデータの中に、信頼性が「false」である画像が存在するか否かを判断する。具体的には、図5に示すリストを参照し、図7や図9に示す各ページに含まれる画像IDに信頼性が「false」である画像データが存在するか否かを判断する。そして、信頼性が「false」である画像データが含まれていると判断した場合はステップS203に進み、所定のメッセージを表示する。一方、信頼性が「false」である画像データが含まれていないと判断した場合、CPU11はステップS204にジャンプする。
図10は、ステップS203で表示されるメッセージの一例を示す図である。このようなメッセージは、予めROM13などに記憶されているテキストデータをCPU11が読み出し、モニタ40に表示するものである。このメッセージを確認することによって、ユーザは現状のアルバムデータに撮影日時の配列順に誤りが含まれている可能性があることを認識することができる。メッセージを確認後、ユーザがOKボタンをクリックすると、CPU11はステップS204に進む。
ステップS204において、CPU11は図11に示すアルバムの確認・編集画面を表示する。本画面は、CPU11が、ステップS201で作成したアルバムデータを用い、予め定められたフォーマットに従って、モニタ40に表示するものである。本画面は、ユーザにとって、アルバムデータにおける現時点のレイアウト結果を確認しつつ、マウスなどの入力装置30を用いながらレイアウト変更もできる画面になっている。
上段には複数のページのそれぞれに対応するサムネイル101の一覧が、下段には上段で選択された見開きページの拡大画像レイアウト102が示されている。拡大画像レイアウト102の左右には、拡大画像レイアウトで表示する見開きページを切り替えるための切り替えボタン104および105が配されている。ユーザはこれらボタンをクリックすることにより、上段に表示されている複数のページの中から、拡大表示したいページを選択することができる。なお、上段においても、全てのページ分のサムネイルが表示しきれない場合は、スクロールバーなどを設けて、表示位置を調整できるようにしても良い。
図11では、上段の左端にある見開きページ(仮に1−2ページ目に対応するものとする)のサムネイルが選択され、下段でその1−2ページ目の見開きが拡大表示されている状態を示している。この際、CPU11は、撮影日時の信頼性が「false」である画像やそのような画像が含まれるページを、ユーザの確認を促すようにマーキング表示しても良い。
ユーザは、図11に示す画面を確認しながら、レイアウト位置を変更したい画像103をドラッグ アンド ドロップして、好みの位置に移動させることができる。このような移動は、例えば、1−2ページ目の見開きが表示されている拡大画像レイアウト102の中で、1ページ目に配置された画像103をドラッグして別のスロット(配置領域)へ移動させ、そのスロット上で画像103をドロップすることで可能となる。また、上段のサムネイル一覧に表示されている他の見開きページへ移動することもできる。例えば、5−6ページ目の見開きに移動させたい場合、1ページ目に配置された画像103をドラッグしたまま、サムネイル一覧の5−6ページ目の見開きに対応するサムネイルへ移動させる。そして、画像103の少なくとも一部をドラッグしたまま5−6ページ目の見開きに対応するサムネイルに重ねることにより、下段の拡大画像レイアウト102の表示が1−2ページ目の見開きから5−6ページ目の見開きに変わる。この状態で、ドラッグ中の画像103を拡大画像レイアウト102に表示された5−6ページ目の所望のスロットへ移動させ、画像103の少なくとも一部をそのスロットへ重ねることにより、そのスロットに画像103が配置される。本実施形態では、このように操作することで、レイアウト後の画像を移動させることが可能となる。
更に、本実施形態では、ページ単位で移動させることもできる。ページ単位の移動は、上段に示されているサムネイル一覧において、任意の見開きページに対応するサムネイルを、サムネイル一覧の他の位置に移動させることで可能となる。具体的には、例えば、1−2ページ目の見開きに対応するサムネイルをドラッグして3−4ページ目の見開きに対応するサムネイルと5−6ページ目の見開きに対応するサムネイルとの間にドラッグ&ドロップ操作する。この操作により、元々1−2ページ目に相当していた見開きは、新たに3−4ページ目の見開きとすることができる。同一ページに含まれる画像は何らかの要素を共有することも多く、サムネイルで確認しながらページ単位での移動が行えることは、ページ内のコンセプトを維持しながらアルバム全体を構成する上で、ユーザにとって利便性の高い用途である。そして、CPU11は、このような画像単位の移動やページ単位の移動が行われる度に、図7や図9で示したスロットIDと画像IDの対応関係を更新し、移動後の最新レイアウトを画面上に表示する。なお、上述の例では、2ページ分の見開き単位で表示及びページ順の入れ替え操作が行われているが、1ページずつ表示及び入れ替え操作が行われてもよい。
以上のような確認および編集作業が終わり、アルバムの最終レイアウトを確認すると、ユーザは画面右下の注文ボタン106をクリックする。ユーザからの注文コマンドを受けると、CPU11はステップS205に進み、ステップS204の前後で画像レイアウトに変更が生じたか否かを判断する。
ステップS205でレイアウト変更があると判断した場合、CPU11はステップS206に進み、日時情報の書き換えを行う。具体的には、信頼性が「false」である画像の移動が行われた場合、その画像の日時情報を、移動後の位置の前後にある信頼性が「true」である画像の撮影日時に基づいて更新する。例えば、上述したとおり、元々1−2ページ目に相当していた見開きを、3−4ページ目の見開きと5−6ページ目の見開きとの間に挿入した場合を想定する。この場合、新たに3−4ページ目となった見開き(旧1−2ページ目)の画像の日時情報を、新たに1−2ページ目となった見開き(旧3−4ページ目の見開き)の画像の日時情報と5−6ページ目の見開きの画像の日時情報との間の日時情報となるように変更する。本工程で日時情報を更新しておくことにより、次に新たなフォトアルバムを作成しようとしたとき、更新された順番で画像をレイアウトすることができる。
なお、ステップS204では、信頼性が「true」である画像についても、ユーザの好みによる移動を許容しているため、ステップS206における撮影日時情報の更新は、信頼性が「false」である画像データについてのみ行うことが好ましい。
ステップS206で撮影日時情報を更新すると、CPU11はステップS207に進む。一方、ステップS205でステップS204の前後で画像レイアウトに変更がないと判断した場合も、CPUはそのままステップS207に進む。そして、ステップS207において、CPU11は、現時点のアルバムデータを、ネットワーク60を介してアルバム作成業者の外部サーバ70に送信する。また、情報処理装置10に直接接続されているプリンタAで出力する場合は、プリンタAにプリントコマンドを送信する。以上で本処理は終了する。
ところで、以上では、信頼性が「false」である画像が基本的に少ない場合を前提に説明してきたが、ステップS302で指定されたフォルダに含まれる画像ファイルの殆どの撮影日時が不明瞭である場合も考えられる。そして、このような場合は、ステップS201で画像レイアウトシーケンスを行っても、結局ステップS204において、ユーザによって大きく修正されてしまうことも想定できる。
このような状況を考慮し、例えばステップS303で作成した図5に示すリストにおいて、信頼性が「false」である画像データが所定数以上存在する場合は、その時点で撮影日時の順番をユーザに確認してもらう工程を設けるようにしても良い。具体的には、ステップS303とステップS304の間に、特許文献2で開示されている工程を導入しても良い。確認すべき画像の数が多い場合、1列にリスト化された状態での並び替え作業のほうが、図11のようにグループ分けやレイアウト作業が行われた後での並び替え作業よりも、ユーザの負担を小さく抑えることができる。
以上説明した本発明によれば、ユーザにとって優先度の高い画像データを選出しながらも、これらをユーザの手をなるべく煩わせることなく撮影日時順にレイアウトしたフォトアルバムを自動で作成することができる。
(その他の実施形態)
上述の実施形態では、写真をレイアウトして複数のページからなるフォトアルバムを生成する例を説明したが、本発明はこれに限定されない。例えば、複数の画像をレイアウトして1枚のはがきやパンフレット等のデータを生成してもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することとなり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROM、DVDなどを用いることができる。また、コンピュータが読み出したプログラムを実行することにより、そのプログラムの指示に基づき、コンピュータ上で稼動しているOperating System(OS)などが処理の一部または全部を行い、前述した実施例が実現される場合も含まれる。さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書きこまれてもよい。そしてその後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も本発明に含まれることは言うまでもない。
10 情報処理装置
11 CPU
20 記憶装置

Claims (22)

  1. 複数の画像をテンプレートにレイアウトすることによってレイアウト結果を生成するための情報処理方法であって、
    前記複数の画像の撮影日時情報と、当該撮影日時情報の信頼性を示す信頼性情報と、を取得する工程と、
    前記複数の画像のそれぞれを解析しスコアリングするスコアリング工程と、
    前記撮影日時情報と、前記スコアリング工程によって得られたスコアと、に基づき、画像を前記テンプレートにレイアウトするレイアウト工程と、
    前記信頼性情報に基づき、前記レイアウト工程でレイアウトされた画像の中に、前記撮影日時情報の信頼性が低い画像が含まれている場合に、ユーザに通知する通知工程と
    を有することを特徴とする情報処理方法。
  2. ユーザによるレイアウトの変更を受け付ける受け付け工程を更に有することを特徴とする請求項1に記載の情報処理方法。
  3. 前記受け付け工程は、前記レイアウト工程でレイアウトされた画像を、ユーザのドラッグ アンド ドロップ操作に基づき移動させることにより、画像の配置領域の変更を受け付けることを特徴とする請求項2に記載の情報処理方法。
  4. 前記受け付け工程は、前記レイアウト工程でレイアウトされたページ又は見開きに対応するサムネイルを、ユーザのドラッグ アンド ドロップ操作に基づき移動させることにより、ページ単位又は見開き単位の入れ替えを受け付けることを特徴とする請求項2又は3に記載の情報処理方法。
  5. 前記受け付け工程によって変更された後のレイアウトに従って、前記撮影日時情報を更新する工程を更に有することを特徴とする請求項2から4のいずれか1項に記載の情報処理方法。
  6. 前記複数の画像を、前記撮影日時情報が示す撮影日時に従って、前記テンプレートが有する複数のページのそれぞれに対応づけて複数のグループに分割する工程を更に有し、
    前記レイアウト工程は、前記複数のグループのそれぞれについて、対応するページにレイアウトする画像を複数の画像の中から選出し、選出された画像を、前記撮影日時情報に従って撮影日時の順に、対応するページにレイアウトすることを特徴とする請求項1から5のいずれか1項に記載の情報処理方法。
  7. 複数の画像をテンプレートにレイアウトすることによってレイアウト結果を生成するための情報処理方法であって、
    前記複数の画像の撮影日時情報と、当該撮影日時情報の信頼性を示す信頼性情報と、を取得する工程と、
    前記複数の画像のそれぞれを解析しスコアリングするスコアリング工程と、
    前記複数の画像を、前記撮影日時情報が示す撮影日時に従って、前記テンプレートが有する複数のページのそれぞれに対応づけて複数のグループに分割する工程と、
    前記複数のグループのそれぞれについて、前記撮影日時情報と、前記スコアリング工程によって得られたスコアと、に基づき、画像を前記テンプレートの対応するページにレイアウトするレイアウト工程と、
    前記信頼性情報に基づき前記レイアウト工程で画像がレイアウトされたページ又は見開きに対応するサムネイルのドラッグ アンド ドロップにより、ページの単位でのレイアウトの変更を、受け付ける工程と
    を有することを特徴とする情報処理方法。
  8. 前記テンプレートに対する画像のレイアウトが完了したレイアウト結果のデータを、ネットワークを介して外部サーバにアップロードする工程を更に有することを特徴とする請求項1から7のいずれか1項に記載の情報処理方法。
  9. 前記スコアリング工程は、画像メタ情報に含まれるレーティング情報、顔検出結果、画像データのヒストグラム、周波数解析結果、前記信頼性情報の少なくとも1つに基づいて個々の画像のスコアを求めることを特徴とする請求項1から8のいずれか1項に記載の情報処理方法。
  10. 前記画像をレイアウトすることにより、レイアウト結果として複数のページからなるフォトアルバムのデータを生成することを特徴とする請求項1から9のいずれか1項に記載の情報処理方法。
  11. 複数の画像をテンプレートにレイアウトすることによってレイアウト結果を生成するための情報処理装置であって、
    前記複数の画像の撮影日時情報と、当該撮影日時情報の信頼性を示す信頼性情報と、を取得する手段と、
    前記複数の画像のそれぞれを解析しスコアリングするスコアリング手段と、
    前記撮影日時情報と、前記スコアリング手段によって得られたスコアと、に基づき、画像を前記テンプレートにレイアウトするレイアウト手段と、
    前記信頼性情報に基づき、前記レイアウト手段でレイアウトされた画像の中に、前記撮影日時情報の信頼性が低い画像が含まれている場合に、ユーザに通知する通知手段と
    を備えることを特徴とする情報処理装置。
  12. 複数の画像をテンプレートにレイアウトすることによってレイアウト結果を生成するための情報処理装置であって、
    前記複数の画像の撮影日時情報と、当該撮影日時情報の信頼性を示す信頼性情報と、を取得する手段と、
    前記複数の画像のそれぞれを解析しスコアリングするスコアリング手段と、
    前記複数の画像を、前記撮影日時情報が示す撮影日時に従って、前記テンプレートが有する複数のページのそれぞれに対応づけて複数のグループに分割する手段と、
    前記複数のグループのそれぞれについて、前記撮影日時情報と、前記スコアリング手段によって得られたスコアと、に基づき画像を前記テンプレートの対応するページにレイアウトするレイアウト手段と、
    前記信頼性情報に基づき前記レイアウト手段によって画像がレイアウトされたページ又は見開きに対応する、サムネイルのドラッグ アンド ドロップにより、ページの単位でのレイアウトの変更を、受け付ける手段と
    を備えることを特徴とする情報処理装置。
  13. 情報処理装置に、レイアウト結果を生成するための情報処理方法を実行させるためのプログラムであって、前記情報処理方法は、
    複数の画像の撮影日時情報と、当該撮影日時情報の信頼性を示す信頼性情報と、を取得する工程と、
    前記複数の画像のそれぞれを解析しスコアリングするスコアリング工程と、
    前記撮影日時情報と、前記スコアリング工程によって得られたスコアと、に基づき、画像をテンプレートにレイアウトするレイアウト工程と、
    前記信頼性情報に基づき、前記レイアウト工程でレイアウトされた画像の中に、前記撮影日時情報の信頼性が低い画像が含まれている場合に、ユーザに通知する通知工程と
    を有することを特徴とするプログラム。
  14. ユーザによるレイアウトの変更を受け付ける受け付け工程を更に有することを特徴とする請求項13に記載のプログラム。
  15. 前記受け付け工程は、前記レイアウト工程でレイアウトされた画像を、ユーザのドラッグ アンド ドロップ操作に基づき移動させることにより、画像の配置領域の変更を受け付けることを特徴とする請求項14に記載のプログラム。
  16. 前記受け付け工程は、前記レイアウト工程でレイアウトされたページ又は見開きに対応するサムネイルを、ユーザのドラッグ アンド ドロップ操作に基づき移動させることにより、ページ単位又は見開き単位の入れ替えを受け付けることを特徴とする請求項14又は15に記載のプログラム。
  17. 前記受け付け工程によって変更された後のレイアウトに従って、前記撮影日時情報を更新する工程を更に有することを特徴とする請求項14から16のいずれか1項に記載のプログラム。
  18. 前記複数の画像を、前記撮影日時情報が示す撮影日時に従って、前記テンプレートが有する複数のページのそれぞれに対応づけて複数のグループに分割する工程を更に有し、
    前記レイアウト工程は、前記複数のグループのそれぞれについて、対応するページにレイアウトする画像を複数の画像の中から選出し、選出された画像を、前記撮影日時情報に従って撮影日時の順に、対応するページにレイアウトすることを特徴とする請求項13から17のいずれか1項に記載のプログラム。
  19. 情報処理装置に、レイアウト結果を生成するための情報処理方法を実行させるためのプログラムであって、前記情報処理方法は、
    複数の画像の撮影日時情報と、当該撮影日時情報の信頼性を示す信頼性情報と、を取得する工程と、
    前記複数の画像のそれぞれを解析しスコアリングするスコアリング工程と、
    前記複数の画像を、前記撮影日時情報が示す撮影日時に従って、テンプレートが有する複数のページのそれぞれに対応づけて複数のグループに分割する工程と、
    前記複数のグループのそれぞれについて、前記撮影日時情報と、前記スコアリング工程によって得られたスコアと、に基づき前記テンプレートの対応するページにレイアウトするレイアウト工程と、
    前記信頼性情報に基づき前記レイアウト工程で画像がレイアウトされたページ又は見開きに対応するサムネイルのドラッグ アンド ドロップにより、ページの単位でのレイアウトの変更を、受け付ける工程と
    を有することを特徴とするプログラム。
  20. 前記テンプレートに対する画像のレイアウトが完了したレイアウト結果のデータを、ネットワークを介して外部サーバにアップロードする工程を更に有することを特徴とする請求項13から19のいずれか1項に記載のプログラム。
  21. 前記スコアリング工程は、画像メタ情報に含まれるレーティング情報、顔検出結果、画像データのヒストグラム、周波数解析結果、前記信頼性情報の少なくとも1つに基づいて個々の画像のスコアを求めることを特徴とする請求項13から20のいずれか1項に記載のプログラム。
  22. 前記画像をレイアウトすることにより、レイアウト結果として複数のページからなるフォトアルバムのデータを生成することを特徴とする請求項13から21のいずれか1項に記載のプログラム。
JP2017193535A 2017-10-03 2017-10-03 情報処理方法、情報処理装置およびプログラム Active JP6723965B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017193535A JP6723965B2 (ja) 2017-10-03 2017-10-03 情報処理方法、情報処理装置およびプログラム
US16/140,849 US10999454B2 (en) 2017-10-03 2018-09-25 Information processing method, information processing apparatus, and storage medium that generate, for each of a plurality of images, reliability information indicating reliability of date and time information, and notify a user accordingly

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017193535A JP6723965B2 (ja) 2017-10-03 2017-10-03 情報処理方法、情報処理装置およびプログラム

Publications (2)

Publication Number Publication Date
JP2019067237A true JP2019067237A (ja) 2019-04-25
JP6723965B2 JP6723965B2 (ja) 2020-07-15

Family

ID=65898174

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017193535A Active JP6723965B2 (ja) 2017-10-03 2017-10-03 情報処理方法、情報処理装置およびプログラム

Country Status (2)

Country Link
US (1) US10999454B2 (ja)
JP (1) JP6723965B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7076974B2 (ja) * 2017-10-03 2022-05-30 キヤノン株式会社 画像処理装置、制御方法およびプログラム
JP7034819B2 (ja) 2018-04-23 2022-03-14 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP2020004270A (ja) 2018-06-29 2020-01-09 キヤノン株式会社 情報処理装置、制御方法およびプログラム
JP7250567B2 (ja) * 2019-02-28 2023-04-03 キヤノン株式会社 装置、方法、及びプログラム
JP2020145659A (ja) 2019-03-08 2020-09-10 キヤノン株式会社 フォトアルバム作成システム、フォトアルバム作成方法、およびプログラム
CN113934469B (zh) * 2021-10-13 2023-11-24 北京有竹居网络技术有限公司 模板加载方法、控制方法、装置、设备及存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5094528B2 (ja) * 2008-04-23 2012-12-12 キヤノン株式会社 画像処理装置及びその制御方法、並びにプログラム
JP5107159B2 (ja) * 2008-06-30 2012-12-26 株式会社リコー 画像形成装置、アクティベーション方法、プログラム、記憶媒体
JP2010072934A (ja) 2008-09-18 2010-04-02 Canon Inc アルバム作成装置及びアルバム作成方法
JP6525645B2 (ja) * 2015-03-06 2019-06-05 キヤノン株式会社 情報処理装置、プログラム、及び情報処理方法
JP6521791B2 (ja) * 2015-08-07 2019-05-29 キヤノン株式会社 情報処理装置およびその制御方法
JP6946010B2 (ja) * 2017-01-31 2021-10-06 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム

Also Published As

Publication number Publication date
JP6723965B2 (ja) 2020-07-15
US10999454B2 (en) 2021-05-04
US20190104221A1 (en) 2019-04-04

Similar Documents

Publication Publication Date Title
JP6723965B2 (ja) 情報処理方法、情報処理装置およびプログラム
US8930809B2 (en) Editing apparatus and layout method, and storage medium
US20160259604A1 (en) Information processing apparatus, information processing method, and storage medium
JP5178392B2 (ja) 情報処理装置及び情報処理装置の制御方法
JP4620877B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP2013046188A (ja) レイアウト編集支援装置、レイアウト編集支援方法及びプログラム
JP5562149B2 (ja) 撮像装置とその制御方法、及びプログラム
US20080180433A1 (en) Image processing apparatus, image processing method, and storage medium
JP2014017659A (ja) 情報処理装置、情報処理方法、およびプログラム
JP6521856B2 (ja) 情報処理装置、プログラム、及び情報処理方法
JP6525804B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP6904871B2 (ja) プログラム、情報処理装置、および情報処理方法
JP6465773B2 (ja) 情報処理装置およびその制御方法、並びにプログラム
JP2008153899A (ja) 画像選択装置および画像選択装置の制御方法およびプログラムおよび記録媒体
JP5513539B2 (ja) 画像処理装置及びその制御方法、並びにプログラム
JP2018084980A (ja) 画像処理装置、画像処理方法、及びコンピュータプログラム
JP4239812B2 (ja) ファイル管理装置、ファイル管理プログラム、ファイル管理方法、電子アルバム装置およびディジタルカメラ
JP6812170B2 (ja) 情報処理装置、その制御方法、および制御プログラム
JP2021018642A (ja) 情報処理装置、システム、情報処理方法及びプログラム
US11086923B2 (en) Communication apparatus, control method, and storage medium
US20210044704A1 (en) Information processing apparatus, method for information processing, and storage medium
JP2018055533A (ja) 画像レイアウト装置,画像レイアウト方法およびそのプログラム
JP2004201051A (ja) 電子画像アルバム装置及び画像検索方法
JP2006251953A (ja) 画像検索装置、画像検索方法およびコンピュータプログラム
JP2009077448A (ja) 画像選択装置および画像選択装置の制御方法およびプログラムおよび記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190327

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200526

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200624

R151 Written notification of patent or utility model registration

Ref document number: 6723965

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151