[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP5843359B2 - 情報処理システム、サーバ装置、端末装置、情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理システム、サーバ装置、端末装置、情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JP5843359B2
JP5843359B2 JP2012076177A JP2012076177A JP5843359B2 JP 5843359 B2 JP5843359 B2 JP 5843359B2 JP 2012076177 A JP2012076177 A JP 2012076177A JP 2012076177 A JP2012076177 A JP 2012076177A JP 5843359 B2 JP5843359 B2 JP 5843359B2
Authority
JP
Japan
Prior art keywords
information
analysis
processed product
shape data
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012076177A
Other languages
English (en)
Other versions
JP2013206267A (ja
Inventor
宣彦 杉友
宣彦 杉友
寧緒 麻
寧緒 麻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JSOL Corp
Original Assignee
JSOL Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JSOL Corp filed Critical JSOL Corp
Priority to JP2012076177A priority Critical patent/JP5843359B2/ja
Publication of JP2013206267A publication Critical patent/JP2013206267A/ja
Application granted granted Critical
Publication of JP5843359B2 publication Critical patent/JP5843359B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Processing Or Creating Images (AREA)

Description

本発明は、金型を用いて加工された加工品の表面の応力を出力する情報処理システム等に関するものである。
従来の情報処理システムとして、現場エリアに、電気機器と、上記電気機器の機器状態を検出する検出器と、上記検出器により検出された検出データを通信信号に変換して送信する第1の通信信号変換器とを備え、管理エリアに、上記第1の通信信号変換器から受信した通信信号を上記第1の通信信号変換器による変換前の検出データへ変換する第2の通信信号変換器と、上記第2の通信信号変換器により変換された検出データから機器状態を解析する診断・解析プログラムと、該診断・解析プログラムでの解析に必要なデータおよび診断結果を蓄積する保守データベースとを有する保守ツールと、上記保守ツールにより解析された診断結果を表示する表示器とを備えたものが知られていた(例えば、特許文献1参照)。
特開2003−69731号公報(第1頁、第1図等)
しかしながら、従来の情報処理システムにおいては、金型を用いて加工された加工品を撮影した画像に対して、この加工品の応力に関する情報を出力することがとできない、いう課題があった。
本発明の情報処理システムは、サーバ装置と端末装置とを有する情報処理システムであって、サーバ装置は、金型の識別情報である金型識別情報と、部材を金型に対応する形状に加工した場合の、加工された部材の表面の1以上の点をそれぞれ示す情報である一以上の点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、加工された部材の表面の、1以上の点情報が示す各点についての解析結果を示す情報である1以上の解析情報と、を有する点解析情報が1以上格納される点解析情報格納部と、金型識別情報を端末装置から受信するサーバ受信部と、サーバ受信部が受信した金型識別情報に対応する1以上の点情報と、各点情報に対応する解析情報との1以上の組を、点解析情報格納部から取得する取得部と、取得部が取得した点情報と解析情報との1以上の組を端末装置に送信するサーバ送信部と、を備え、端末装置は、金型を用いて部材を加工して得られた加工品を撮影した画像である1以上の撮影画像を取得する撮像部と、撮像部が撮影した加工品の加工に用いられた金型の金型識別情報を受け付ける受付部と、受付部が受け付けた金型識別情報をサーバ装置に送信する端末送信部と、点情報と解析情報との1以上の組をサーバ装置から受信する端末受信部と、1以上の撮影画像を用いて、撮影対象となった加工品の形状を示す三次元のデータである撮像加工品形状データを取得する撮像加工品形状データ取得部と、撮像加工品形状データを取得する際に用いられた撮影画像の1以上のそれぞれについて、撮像加工品形状データが示す形状を投影した投影図を得るための設定を示す情報であって、投影図内における撮像加工品形状データが示す形状が、撮影画像内における加工品の形状と同じとなる投影図を得るための設定を示す情報である投影設定情報を取得する投影設定情報取得部と、受付部が受け付けた金型識別情報が示す金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する解析加工品形状データ取得部と、解析加工品形状データが撮像加工品形状データと重なるよう、解析加工品形状データを座標変換する変換部と、変換部が座標変換した解析加工品形状データと、解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する解析情報と、投影設定情報の一つとを用いて、解析加工品形状データが示す形状の表面に解析情報が示す解析結果に関する情報を示した投影図の画像である解析画像を、投影設定情報が示す設定に応じて生成する解析画像生成部と、解析画像生成部が用いた投影設定情報に対応する撮影画像と解析画像とを重ねた画像を出力する出力部と、を備えた情報処理システムである。
かかる構成により、金型を用いて加工された加工品を撮影した画像に対して、この加工品の解析結果に関する情報を出力することができる。
また、本発明の情報処理システムは、前記情報処理システムにおいて、点解析情報は、金型識別情報が示す金型を用いて加工される部材を識別する情報である部材識別情報を更に有し、サーバ受信部は、金型識別情報と部材識別情報との組を端末装置から受信し、取得部は、サーバ受信部が受信した金型識別情報と部材識別情報とに対応する1以上の点情報と、各点情報に対応する解析情報との1以上の組を、点解析情報格納部から取得し、受付部は、加工に用いられた部材の部材識別情報を更に受け付け、端末送信部は、受付部が受け付けた金型識別情報と部材識別情報とを前記サーバ装置に送信する情報処理システムである。
かかる構成により、金型を用いて加工された加工品を撮影した画像に対して、この加工品に用いられている部材に対応した解析結果に関する情報を出力することができる。
また、本発明の情報処理システムは、前記情報処理システムにおいて、撮像加工品形状データ取得部は、撮像部が一の撮影画像を取得したごとに、撮像加工品形状データを取得し、投影設定情報取得部は、撮像部が一の撮影画像を取得したごとに、投影設定情報を取得し、解析画像生成部は、投影設定情報取得部が一の撮影画像について取得した投影設定情報を用いて解析画像を生成し、出力部は、撮像部が一の撮影画像を取得したごとに、一の撮影画像と、解析画像とを重ねた画像を出力する情報処理システムである。
かかる構成により、一の撮影画像を撮影するごとに、この撮影画像に加工品の解析結果に関する情報を出力ことができる。
また、本発明の情報処理装置は、金型の識別情報である金型識別情報と、部材を金型に対応する形状に加工した場合の、加工された部材の表面の1以上の点をそれぞれ示す情報である一以上の点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、加工された部材の表面の、1以上の点情報が示す各点についての解析結果を示す情報である1以上の解析情報と、を有する点解析情報が1以上格納される点解析情報格納部と、金型を用いて部材を加工して得られた加工品を撮影した画像である1以上の撮影画像を取得する撮像部と、撮像部が撮影した加工品の加工に用いられた金型の金型識別情報を受け付ける受付部と、受付部が受け付けた金型識別情報に対応する1以上の点情報と、各点情報に対応する解析情報との1以上の組を、点解析情報格納部から取得する取得部と、1以上の撮影画像を用いて、撮影対象となった加工品の形状を示す三次元のデータである撮像加工品形状データを取得する撮像加工品形状データ取得部と、撮像加工品形状データを取得する際に用いられた撮影画像の1以上のそれぞれについて、撮像加工品形状データが示す形状を投影した投影図を得るための設定を示す情報であって、投影図内における撮像加工品形状データが示す形状が、撮影画像内における加工品の形状と同じとなる投影図を得るための設定を示す情報である投影設定情報を取得する投影設定情報取得部と、受付部が受け付けた金型識別情報が示す金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する解析加工品形状データ取得部と、解析加工品形状データが撮像加工品形状データと重なるよう、解析加工品形状データを座標変換する変換部と、変換部が座標変換した解析加工品形状データと、解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する解析情報と、投影設定情報の一つとを用いて、解析加工品形状データが示す形状の表面に解析情報が示す解析結果に関する情報を示した投影図の画像である解析画像を、投影設定情報が示す設定に応じて生成する解析画像生成部と、解析画像生成部が用いた投影設定情報に対応する撮影画像と解析画像とを重ねた画像を出力する出力部と、を備えた情報処理装置である。
かかる構成により、金型を用いて加工された加工品を撮影した画像に対して、この加工品の解析結果に関する情報を出力ことができる。
本発明による情報処理システム等によれば、金型を用いて加工された加工品を撮影した画像に対して、この加工品の解析結果に関する情報を出力ことが可能となる。
本発明の実施の形態1における情報処理システムのブロック図 同情報処理システムのサーバ装置の動作について説明するフローチャート 同情報処理システムの端末装置の動作について説明するフローチャート 同情報処理システムの概念図を示す図 同情報処理システムの点管理情報を示す図 同情報処理システムの点解析管理情報を示す図 同情報処理システムの動作について説明するための、プレス成形加工機を示す図(図7(a))、およびプレス成形加工される部材を示す図(図7(b)) 同情報処理システムの端末装置の一例を示す図 同情報処理システムの点解析取得情報を示す図 同情報処理システムを説明するための、金型で部材を加工して得られた加工品を異なる方向から撮影している状態を示す模式図(図10(a)〜図10(d)) 同情報処理システムの、投影設定情報を示す図 同情報処理システムの座標変換の処理を説明するための図を示す図(図12(a)〜図12(f)) 同情報処理システムの解析画像の一例を示す図 同情報処理システムの出力例を示す図 本実施の形態2の情報処理装置の構成を示すブロック図 同情報処理装置の動作について説明するフローチャート 本発明の各実施の形態による情報処理システムおよび情報処理装置を実現するコンピュータの外観の一例を示す模式図 同コンピュータシステムの内部構成を示す図 本発明の実施の形態3における情報処理システムのブロック図 同情報処理システムのサーバ装置の動作について説明するフローチャート
以下、情報処理システム等の実施形態について図面を参照して説明する。なお、実施の形態において同じ符号を付した構成要素は同様の動作を行うので、再度の説明を省略する場合がある。
(実施の形態1)
図1は、本実施の形態における情報処理システム1のブロック図である。
情報処理システム1は、サーバ装置11と端末装置12とを備える。サーバ装置11と端末装置12とは、ネットワーク等を介して通信可能に接続されている。ここでは、端末装置12が一つである場合を例に挙げて説明するが、本発明においては、端末装置12は複数であっても良い。
サーバ装置11は、点解析情報格納部110、点解析情報取得部111、サーバ受信部112、取得部113、サーバ送信部114を備える。
端末装置12は、撮像部121、撮影画像格納部122、受付部123、端末送信部124、端末受信部125、撮像加工品形状データ取得部126、投影設定情報取得部127、解析加工品形状データ取得部128、変換部129、解析画像生成部130、出力部131を備える。
点解析情報格納部110には、1以上の点解析情報が格納される。点解析情報は、金型識別情報と部材識別情報と、1以上の点情報と、1以上の点情報にそれぞれ対応する解析情報とを有している。
金型識別情報は、金型の識別情報である。金型とは、例えば、金属製や樹脂製の部品をプレス加工のような塑性加工や、射出成型のような成形加工等の加工によって製造するための型である。例えば、プレス加工等に用いられる一の金型は、通常、凹状の部材と、凸状の部材との組で構成される。金型の材質は、金属やセラミック等のどのような材質でも良い。金型識別情報は、例えば、金型に割り当てられたコード等であっても良いし、金型の名称等であっても良い。また、金型識別情報は、結果的に金型を識別可能な情報であればよく、例えば、一の金型とこの金型で加工される加工品の名称やコードとが一対一で対応付けられている場合、金型識別情報は、一の金型で加工された加工品の名称やコード等の識別情報であってもよい。
部材識別情報は、金型を用いて加工される部材を識別する情報である。部材とは、例えば、加工の対象となるものであり、例えば、金属等の板材や、樹脂のシートや、樹脂等のペレット等である。部材は、金型を用いて加工可能なものであればよい。部材は、ここでは、加工対象の材料と考えても良い。同じ材質のものであっても、厚さ等が異なる場合には、異なる部材であると考えても良い。特に、部材の厚さが、加工によって得られる加工品の応力に影響を与える場合には、異なる部材であると考えることが好ましい。部材識別情報は、部材が識別可能な情報であれば、どのような情報であってもよく、例えば、部材に割り当てられたコード等であっても良いし、部材の材質や、厚さ等の情報を組み合わせた名称等でもよい。
1以上の点情報は、部材を金型に対応する形状に加工した場合の、加工された部材の表面の1以上の点をそれぞれ示す情報である。ここで述べる形状とは、立体形状である。ここで述べる加工された部材とは、具体的には加工により得られた加工品である。ただし、ここでの加工品は、例えば、金型の設計情報(例えば、設計値等の情報や、CAD等で作成された金型の形状を示す三次元データ)通りに部材を加工した場合に得られると考えられる仮想的な(あるいは理想的な)加工品であることが、シミュレーション等で解析を行ううえで好ましい。仮想的な加工品は、例えば、三次元のデータ等で表される。加工された部材の表面の点とは、例えば、金型で加工された部材の形状を、ポリゴンメッシュ等のメッシュや、自由曲面を定義するスプライン曲線等の線を用いて三次元モデルで表した場合の、加工された部材の表面を表すメッシュや線の節点である。節点とは、メッシュを構成する線や、スプライン曲線等の線の交点や、これらの線が接続される点である。また、線のアンカーポイント等も節点と考えても良い。ここでの1以上の点は、これらの点を用いることで加工された部材の形状を示す三次元データを取得可能な(あるいは部材の形状を示す三次元データを再現可能な)複数の点であることが好ましい。ただし、1以上の点は、これ以外の点であっても良い。形状を示す三次元のデータは、いわゆる三次元モデルと考えてもよい。加工された部材の表面の点を示す情報とは、例えば、点を示す座標である。この座標は、三次元の座標である。また、点情報は、更に、点を識別する識別情報を有していても良い。
1以上の解析情報は、金型を用いて加工された部材に対して予め指定された解析を行うことにより得られた情報であって、加工された部材の表面の、1以上の点情報が示す各点について得られた解析結果の情報である。予め指定された解析は、例えば、応力の解析や、板厚の解析や、歪みの解析である。予め指定された解析は、複数の異なる解析であっても良い。点情報が示す各点について解析情報は、例えば、金型の形状を示す三次元データと、加工される部材に関する情報である1以上の部材データとを用いて仮想の加工品の形状を示す三次元データ等の情報を取得し、この仮想の加工品について、有限要素解析等の解析処理を行うことで取得可能である。また、ここでは、仮想の加工品の形状を示す三次元データを用いて、加工品の1以上の地点についての板厚の情報を算出することも解析処理と考える。部材データは、例えば、部材の材料特性や部材の加工前の厚さや等の情報である。応力についての解析情報は、例えば、プレス加工シミュレーションを行うことで、応力情報を取得可能である。歪み等についての解析情報についても同様に取得可能である。金型で加工された部材の形状を示す三次元データは、例えば、金型の形状を示す三次元データ、もしくはこの三次元データと加工される部材の1以上の部材データとを用いてシミュレーション等を行うことで取得可能である。金型で加工された部材の形状を示す三次元データが、上述したようなメッシュで表される三次元データであり、点情報が、このメッシュのデータの節点を示す情報である場合、各点情報に対応する解析情報は、例えば、金型で加工された部材の形状を示すメッシュのデータの1以上の節点についての解析情報である。なお、金型で加工された仮想の加工品の形状を示す三次元データ等が予め用意されている場合、この三次元データを用いて、上記と同様の解析結果を取得する用にしても良い。なお、加工された部材の形状を示す三次元データを用いて、物体表面の1以上の点についての応力や、板厚や、歪みについての解析情報を取得する解析処理やシミュレーション等については、公知の技術であるので、ここでは、説明を省略する。
なお、点応力情報は、金型で加工された部材の形状を示す三次元データを更に有していても良い。即ち、仮想的な加工品の三次元データを更に有していてもよい。
点解析情報格納部110は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。かかることは、以下の他の格納部においても同様である。
なお、本実施の形態においては、一例として、後述する点解析情報取得部111が取得した点解析情報が点解析情報格納部110に蓄積される場合について説明するが、点解析情報格納部110に点解析情報が蓄積される過程等は問わない。例えば、図示しない他の解析装置等で取得された点解析情報が予め格納されていても良いことはいうまでもない。
点解析情報取得部111は、一の金型で部材を加工して得られる形状について、点解析情報を取得する。一の金型とは、凹部と、この凹部の形状に対応する形状を有する凸部とで構成される一対の金型と考えて良い。点解析情報取得部111がどのように点解析情報を取得しても良い。以下、点解析情報の取得処理の一例として、金型の三次元データと、加工対象の部材に関する材料特性等のデータ(例えば、材料特性等のデータ)とを用いて、解析を行うことで点解析情報を取得する場合について説明する。
例えば、まず、点解析情報取得部111は、予め図示しない記憶媒体等に蓄積されている一の金型の三次元データ(例えば、メッシュのデータ)と、予め図示しない記憶媒体等に蓄積されている加工の対象となる一の部材の板厚を示す情報や、部材の材質や、その特性値等の部材に関する情報を用いて、上記の一の金型で、一の部材を加工した場合に得られる部材の形状を示す三次元データ(例えば、メッシュのデータ)を取得する。即ち、加工により得られる仮想的な加工品の三次元データを取得する。なお、必要に応じて、予め図示しない記憶媒体等に蓄積されている加工の対象となる上述した一の部材の板厚を示す情報等の部材に関する情報を、三次元データを取得する際に更に用いるようにしても良い。また、予め、一の金型を用いて得られる加工品の形状を示す三次元データが用意されている場合、この加工品の三次元データを図示しない記憶媒体等から読み出すようにしても良い。
そして、取得した加工品の三次元データと、上述した加工の対象となる一の部材に関する情報を用いて上述したような有限要素解析等による応力や、板厚や、歪み等を解析する処理を行い、加工された部材の表面の1以上の点についての解析情報と、1以上の点をそれぞれ示す情報(例えば、座標)との1以上の組を取得する。上記のような解析においては、解析対象となる三次元データとして、メッシュのデータが用いられることが多いため、三次元データがメッシュのデータでない場合、必要に応じて、メッシュのデータに変換するようにしてよい。1以上の点は、例えば、加工品の形状を示す三次元データ(例えばメッシュ)の節点であり、各点についての解析情報は、例えば、上記の解析により得られた各節点についての解析結果の値である。部材に関する情報(即ち、部材データ)は、部材の加工前の板厚を示す情報や、部材の材質や、部材の材料特性(ヤング率、ポアソン比、質量密度)等の情報である。なお、応力等を解析する公知の技術に関しては、以下の文献等を参考にされたい。("第8章構造解析システムによる解析演習"、[online]、[平成24年2月10日検索]、インターネット<URL:http://www.tetras.uitec.ehdo.go.jp/download/kankoubutu/i-109-09.pdf>)
そして、点解析情報取得部111は、点情報と解析情報との1以上の組と、解析の対象となる金型の金型識別情報及び部材の部材識別情報と、を対応付けて有する点解析情報を、点解析情報格納部110に蓄積する。
点解析情報取得部111は、例えば、ユーザにより指定された金型識別情報と、部材識別情報とに対応する金型と、部材に関して点解析情報を取得する。例えば、点解析情報取得部111は、図示しない記憶媒体等に、金型識別情報と対応付けて格納されている金型の三次元データ(例えば、メッシュのデータ)と、部材識別情報と対応付けて格納されている部材に関する情報とから、ユーザにより指定された金型識別情報と部材識別情報とに対応する金型の三次元データと部材に関する情報とをそれぞれ読み出し、読み出した情報を用いて、解析の解析を行う。ユーザによる解析の解析に利用される金型識別情報と、部材識別情報との指定は、例えば、図示しない受付手段等が受け付ける。
サーバ受信部112は、端末装置12から送信される金型識別情報と部材識別情報との組を受信する。なお、後述する端末装置12が撮影する加工品の識別情報に対して、一の金型識別情報が対応付けられている場合、金型識別情報の代わりに、加工品の識別情報を受信するようにしても良い。サーバ受信部112は、通常、無線または有線の通信手段で実現されるが、放送を受信する手段で実現されても良い。サーバ受信部112は、通信デバイスを含むと考えても、含まないと考えても良い。
取得部113は、サーバ受信部112が受信した金型識別情報と部材識別情報とに対応する1以上の点情報とこれらの各点情報に対応する解析情報との1以上の組を、点解析情報格納部110から取得する。取得部113は、通常、MPUやメモリ等から実現され得る。取得部113の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
サーバ送信部114は、取得部113が取得した点情報と解析情報との1以上の組を端末装置12に送信する。具体的には、金型識別情報と部材識別情報との組の送信元となる端末装置12に送信する。サーバ送信部114は、通常、無線または有線の通信手段で実現されるが、放送手段で実現されても良い。サーバ送信部114は、通信デバイスを含むと考えても、含まないと考えても良い。
端末装置12は、例えば、携帯電話や、携帯型情報端末や、いわゆるスマートフォンや、コンピュータである。端末装置12は、携帯型の端末装置であることが好ましい。
撮像部121は、金型を用いて部材を加工して得られた加工品を撮影した画像である1以上の撮影画像を取得する。ここでの加工品は、実際の加工品である。加工品は、成形品も含む概念である。撮像部121は、例えば、一の加工品について、少なくとも、撮影した位置または方向の一方が異なる複数の撮影画像を取得する。複数の撮影画像は、例えば、加工品を中心として、その周囲の異なる位置から撮影した画像である。撮影画像は通常は静止画像であるが、動画像であっても良い。撮影部121は、例えば、撮像素子等と考えても良いし、端末装置12に設けられたカメラと考えても良い。撮影画像のファイル形式や、解像度等は問わない。なお、USB等の信号線や、無線や有線のネットワークで端末装置12に接続されたデジタルカメラ等のカメラを、端末装置12の撮像部121と考えても良い。あるいは、これらのカメラと接続される入力インターフェース等を撮像部121と考えても良い。撮影部121は、取得した撮影画像を、ここでは、一例として、撮影画像格納部122に蓄積する。
撮影画像格納部122には、撮像部121が取得した1以上の撮影画像が格納される。ここでの格納とは、一時記憶も含む概念である。
受付部123は、撮像部121が撮影した加工品の加工に用いられた金型の金型識別情報と、加工に用いられた部材の部材識別情報とを受け付ける。例えば、受付部123は、キーボードや、タッチパネル等の図示しない入力デバイス等を介してユーザ等が入力する金型識別情報と部材識別情報とを受け付ける。受付部123は、バーコードリーダが、金型等に対応付けられて用意された金型識別情報を示すバーコードから読み出して出力する金型識別情報を受け付けても良い。同様に、受付部123は、バーコードリーダが、部材等に対応付けられて用意された部材識別情報を示すバーコードから読み出して出力する部材識別情報を受け付けても良い。なお、上記で撮影部121が撮影したバーコードの画像から、撮影部12や、図示しない他の処理部等が読み出した金型識別情報または部材識別情報を、受付部123は受け付けても良い。
なお、受付部123は、金型識別情報や部材識別情報以外の情報も受け付けても良い。例えば、受付部123は、加工品についての解析結果に関する情報の出力を指示する入力等を、ユーザ等から受け付けても良い。
入力手段は、テンキーやキーボードやマウスやメニュー画面、バーコードリーダによるもの等、何でも良い。受付部123は、テンキーやキーボードやバーコードリーダ等の入力手段のデバイスドライバーや、メニュー画面の制御ソフトウェア等で実現され得る。
端末送信部124は、受付部123が受け付けた金型識別情報と部材識別情報とをサーバ装置11に送信する。端末送信部124は、通常、無線または有線の通信手段で実現されるが、放送手段で実現されても良い。端末送信部124は、通信デバイスを含むと考えても、含まないと考えても良い。
端末受信部125は、点情報と解析情報との1以上の組をサーバ装置11から受信する。具体的には、端末送信部124が送信した金型識別情報と部材識別情報との組に対応する点情報と解析情報との1以上の組をサーバ装置11から受信する。端末受信部125は、通常、無線または有線の通信手段で実現されるが、放送を受信する手段で実現されても良い。端末受信部125は、通信デバイスを含むと考えても、含まないと考えても良い。
撮像加工品形状データ取得部126は、撮像部121が取得した1以上の撮影画像を用いて、撮影対象となった一の加工品の形状(ここでは、立体形状)を示す三次元のデータである撮像加工品形状データを取得する。撮像加工品形状データは、上述したようなメッシュや曲線等で構成される三次元データである。例えば、撮像部121が取得して撮影画像格納部122に蓄積した一の加工品についての1以上の撮影画像を用いて撮像加工品形状データを取得する。
撮像加工品形状データ取得部126は、通常は、一の加工品に対する複数の撮影画像を用いて、撮像加工品形状データを取得する。ただし、加工品の形状のおおよその形状が予め分かっている場合(例えば、加工品が回転形状であることが分かっている場合等には、1の撮影画像から撮像加工品形状データを取得することも可能である。1以上の撮影画像から、被写体の立体形状を示す三次元データを取得する技術については、公知の技術であるので、ここでは詳細な説明は省略する。なお、1以上の撮影画像から、被写体の立体形状を示す三次元データを取得する技術に関しては、例えば、以下の文献等を参考にされたい。(非特許文献:"Autodesk 123D - 123D Catch turn photos into 3D models"、[online]、[平成24年2月10日検索]、インターネット<URL:http://www.123dapp.com/catch>)、(非特許文献:"三次元写真応用計測システム:クラボウ/Kuraves-MD(クラヴェス-MD)"、[online]、[平成24年2月10日検索]、インターネット<URL:http://www.kurabo.co.jp/el/3d/kuraves_md_01.html>)、(非特許文献:"モーションポートレート株式会社: モーションポートレートとは"、[online]、[平成24年2月10日検索]、インターネット<URL:http://www.motionportrait.com/about/>)。なお、撮影画像が動画像である場合、動画像内の1以上のフレーム画像を用いて撮像加工品形状データを取得するようにしても良い。
なお、撮像加工品形状データ取得部126は、撮像部121が一の撮影画像を取得したごとに、この撮像画像を用いて、またはこの撮像画像と、既に同じ加工品について取得済の他の1以上の撮像画像とを用いて撮像加工品形状データを取得するようにしても良い。この場合、直前に取得した撮像加工品形状データは、例えば、削除したり上書きするようにしても良い。このようにすることで、画像を撮影するごとに、リアルタイムに撮像加工品形状データが取得される。
なお、撮影画像から撮像加工品形状データを取得する際に必要となる最少の画像数は、利用されるアルゴリズム等により異なるため、撮影部121が取得した撮影画像数が、この最小画像数に達している場合にのみ、撮像加工品形状データ取得部126が撮像加工品形状データを取得するようにすることが好ましい。
投影設定情報取得部127は、撮影画像について投影設定情報を取得する。投影設定情報は、撮像加工品形状データ取得部126が取得した撮像加工品形状データが示す形状を投影した投影図を得るための設定を示す情報であって、この投影図内における撮像加工品形状データが示す形状が、撮影画像内における加工品の形状と同じとなる投影図を得るための設定を示す情報である。投影設定情報は、例えば、撮像加工品形状データ等の三次元データが示す立体形状を投影した二次元画像を生成する際に利用される、投影の仕方や、投影する面等の設定を示す情報である。投影図とは、例えば、三次元データである撮像加工品形状データを、レンダリングして得られる二次元画像である。なお、ここでの形状が同じとは、具体的には、撮影画像内の加工品と、投影図の加工品とが、形だけでなく、大きさや、それぞれの画像内での位置等も含めて同じであることを意味する。
投影設定情報取得部127は、例えば、撮像加工品形状データを取得する際に用いられ撮影画像のうちの1以上の撮影画像についてそれぞれ投影設定情報を取得する。例えば、投影設定情報取得部127は、撮像加工品形状データ取得部126が撮像加工品形状データを取得する際に用いた撮影画像の1以上のそれぞれについて、投影図内における撮像加工品形状データが示す加工品の形状が、この撮影画像内における加工品の形状と同じとなる投影設定情報を取得する。
金型を用いて加工された加工品を撮影した撮影画像のうちの一の撮影画像について取得された投影設定情報は、例えば、撮影に用いられた撮像部121(例えばカメラ)の法線ベクトルと、撮像部121の回転角度との組みあわせを含む情報である。法線ベクトルは,例えば、撮像部121の受光面(受光素子)の法線ベクトルである。法線ベクトルは、撮像部121の光軸の伸びる方向と考えても良い。また、回転角度は、撮像部121の光軸に対する撮像部121の回転角度である。この場合、撮像加工品形状データを、この撮像加工品形状データが配置されている仮想の三次元空間内におけるこの投影設定情報が示す撮像部の位置から、投影設定情報が示す向きおよび画角の設定によって、レンダリングを行うことで、撮像加工品形状データに対応する部分の形状が、撮影画像内における加工品の形状と同じとなる投影図を得ることができる。なお、投影設定情報は、撮像部121の画角の情報や、撮像部121と加工品との距離の情報等を更に有していても良い。なお、画角の情報は、撮像部121の利用するレンズ等の光学系の画角の情報を取得するようにしてもよい。また、撮像部121と加工品との距離の情報は、ユーザ等が図示しない受付部等を介して入力するようにしても良い。また、この距離は固定でも良い。固定の場合、ユーザは、この距離とほぼ同じ距離だけ離れた位置から実際の加工品を撮像部121を用いて撮像するようにすればよい。
また、投影設定情報は、撮像加工品形状データを投影する面の仮想三次元空間内の位置と、向き(例えば法線ベクトル)と、広さ(例えば、高さと幅とを示す値)を指定する情報であってもよい。
なお、投影設定情報は、撮影画像のサイズを示すサイズ情報と、撮影対象となったこの加工品の撮像加工品形状データの各部分(例えば節点等の点)を示す部分指定情報と、この一の撮影画像内における、部分指定情報により指定された撮像加工品形状データの各部分が配置されている位置を示す座標である部分座標との組合せであってもよい。部分指定情報は、撮像加工品形状データの各部分の座標(三次元座標)等である。このような投影設定情報を用いて、例えば、部分指定情報が示す撮像加工品形状データの各部分が、投影設定情報のサイズ情報が示す大きさの画像内の、各部分座標が示す座標に、各部分座標に対応する部分指定情報が示す撮像加工品形状データの各部分が配置されるように、撮像加工品形状データを配置した投影図をレンダリングにより生成するようにすれば、撮像加工品形状データに対応する部分の形状が、一の撮影画像内における加工品の形状と同じとなる投影図を得ることができる。
撮像加工品形状データ撮像加工品形状データ撮像加工品形状データ撮像加工品形状データ
なお、撮像加工品形状データは、複数の画像を用いて生成されるため、実際の加工品と完全には同じとならないため、一の撮影画像内の加工品の形状と、一の撮影画像について取得された投影設定情報を用いて撮像加工品形状データについて取得した投影図(即ちレンダリングされた図)内の加工品の形状との形状に誤差程度の違いがあっても、ここでは同じ形状であると考えるようにしてよい。
投影設定情報取得部127は、どのように投影設定情報を取得しても良い。例えば、可能であれば、撮像部121に対して、撮像部121の法線方向や、回転方向を検出する三軸ジャイロセンサ等の3次元センサ等を設けておくようにして、この三次元センサが取得した撮像部121の法線方向を示すベクトルや、回転方向を示す値等を、投影設定情報として取得してもよい。あるいは、このような三次元センサを、端末装置12に設けておくようにしても良い。
また、撮像加工品形状データ取得部126が複数の撮影画像を用いて撮像加工品形状データを取得する処理の際には、各撮影画像を、取得しようとする撮像加工品形状データの投影図として扱って撮像加工品形状データを取得するため、少なくとも一時的には撮像加工品形状データは各撮影画像と対応付けられるため、各撮影画像と同じ撮像加工品形状データの投影図を得るための撮像部121の法線ベクトルや撮像部121の回転角度等の値が取得可能である。このため、投影設定情報取得部127は、撮像加工品形状データを取得する処理の間に、上記のような投影設定情報(例えば、撮像部121の法線ベクトルと、回転角度の情報等)を取得することが可能となる。このようにして投影設定情報を取得する処理は公知の技術である。
また、撮像加工品形状データ取得部126が複数の撮影画像を用いて撮像加工品形状データを取得する処理の際には、各撮影画像を、取得しようとする撮像加工品形状データの投影図として扱って撮像加工品形状データを取得するため、少なくとも一時的には撮像加工品形状データは各撮影画像と対応付けられる。このため、投影設定情報取得部127は、撮像加工品形状データを取得する処理の間に、上記のような投影設定情報(例えば、撮影画像のサイズの情報と、撮影画像内における撮像加工品形状データの各部分が位置する座標等)を取得することが可能となる。このようにして投影設定情報を取得する処理は公知の技術である。また、投影設定情報取得部127は、このような投影設定情報を撮像加工品形状データ取得部126から取得する(受け付ける)ようにしても良い。あるいは、投影設定情報取得部127は、撮像加工品形状データ取得部126が撮像加工品形状データを1以上の撮影画像から取得する際の処理と同様の処理を、投影設定情報の取得対象となる撮影画像を含む1以上の撮影画像について行うことで、この取得対象となる撮影画像についての投影設定情報を取得するようにしても良い。
なお、撮像加工品形状データ取得部126が撮像加工品形状データを取得する処理中において取得した投影設定情報を、投影設定情報取得部127が取得する場合等においては、例えば、撮像加工品形状データ取得部126と投影設定情報取得部127とを一の処理部等で実現するようにしても良い。投影設定情報取得部127が取得した投影設定情報は、一の撮影画像について取得された投影設定情報は、一の撮影画像と対応付けて図示しない記憶媒体等に蓄積される。
なお、投影設定情報取得部127は、撮像部121が一の撮影画像を取得したごとに、この一の撮影画像について、この一の撮影画像に相当する投影図を取得するための投影設定情報を取得するようにしてもよい。
解析加工品形状データ取得部128は、受付部123が受け付けた金型識別情報が示す金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する。具体的には、金型形状取得部128は、端末受信部125が受信した点情報を用いて、金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する。形状を示す三次元のデータとは、例えば、上述したようなメッシュや形状を示す曲線等の情報である。
金型に対応する形状とは、例えば、受付部123が受け付けた金型識別情報が示す金型を用いた加工により得られる加工品の形状である。例えば、金型に対応する形状は、金型識別情報が示す金型を用いて、受付部123が受け付けた部材識別情報が示す部材を加工した場合に得られる加工品の形状である。金型に対応する形状を示す三次元データは、例えば、金型の三次元データ等を用いてシミュレーション等により作成された加工品の形状を示す三次元のデータ、もしくはこれに相当する三次元のデータである。例えば、この三次元データは、上述した予め指定された解析の対象となる仮想の加工品の形状を示す三次元データである。端末受信部125が受信した各点情報は、上述したように、金型を用いて部材を加工した場合の、部材の表面の点(例えば節点)を示す情報であるため、各点情報を用いることで、金型に対応する形状を示す三次元データを取得することができる。例えば、点情報が、加工品の設計図を示す三次元データの節点の情報である場合、金型形状取得部128が取得する金型に対応する形状は、加工品の設計図を示す三次元データとなる。例えば、金型形状取得部128は、点情報が示す座標を、予め指定されたルール等に従ってつないでいくことで、三次元のメッシュを取得する。複数の三次元座標から、これらの三次元座標が表面に位置する三次元形状のデータを取得する技術については公知の技術であるので、ここでは詳細な処理の説明は省略する。なお、解析加工品形状データを取得する際に用いられた点情報は、解析加工品形状データ取得部128が取得した解析加工品形状データの表面の点を示すものとなる。
なお、解析加工品形状データ取得部128は、端末受信部125が受信した点情報だけを用いて解析加工品形状データを取得する必要はなく、例えば、サーバ装置11から、端末送信部124が送信した金型識別情報に対応する、この金型によって成形される加工品の立体形状を示す三次元データを、サーバ装置11から受信するようにしても良い。この場合、サーバ装置11は、加工品の三次元データと、金型識別情報とを対応付けた情報を、点解析情報格納部110等の格納部に予め格納しておくようにし、サーバ受信部112が金型識別情報を受信した場合に、この金型識別情報に対応する加工品の三次元データを、端末装置12に送信する必要がある。
変換部129は、解析加工品形状データが撮像加工品形状データと重なるよう、解析加工品形状データを座標変換する。解析加工品形状データと撮像加工品形状データとは、同じ金型に関して得られた三次元データであるため重ね合わせが可能である。ただし、点情報を用いて作成された解析加工品形状データと、撮像加工品形状データとは、通常、仮想三次元空間内における位置や、向きや、サイズ等が異なるものとなる。このため、変換部129は、解析加工品形状データと、撮像加工品形状データとを同じ三次元座標系に配置して、解析加工品形状データが示す形状の位置や、サイズや、向きを適宜変更し、解析加工品形状データを、撮像加工品形状データと重ね合わせる。そして、重なった状態における解析加工品形状データの各部(例えば、メッシュや曲線等の節点)の位置を示す情報(例えば、三次元座標の情報)を取得する。このようにして、撮像加工品形状データと重なるように解析加工品形状データを移動させたことにより得られる新たな解析加工品形状データの各部の位置を指定する1以上の情報が、座標変換により得られた解析加工品形状データである。なお、変換部129は、例えば、座標変換前の解析加工品形状データが示す形状の表面の1以上の点を示す1以上の点情報を、解析加工品形状データの座標変換とともに座標変換し、座標変換前の点情報に対応付けられていた解析情報は、座標変換後のこの点情報に対応付けるようにして、座標変化の前後において、解析加工品形状データが示す形状に対応付けられた解析情報が対応付けられている点の、解析加工品形状データに対する相対的な位置が変わらないようにする。また、点情報が示す点が、解析加工品形状データの節点の情報である場合、解析加工品形状データの各接点に対して、点情報を示す点識別情報を対応付けておくようにすることで、解析加工品形状データの各節点の座標が座標変換されても、各節点と点識別情報との対応関係は保たれ、これにより、座標変換後の解析加工品形状データの点情報が示す点(即ちここでは各節点)と、解析情報との対応関係を保つことが可能となる。例えば、座標変換前の解析加工品形状データの一の節点に対応付けられていた解析情報は、座標変換後の解析加工品形状データの、この一の節点に対応する節点に対応付けられた解析情報となる。
解析加工品形状データを撮像加工品形状データと重ね合わせる処理は、例えば、それぞれの形状データの特徴部分(例えば、特徴点3つや、重心位置や、長手方向など)を抽出して、特徴部分が一致するように座標系をあわせるようにする。
以下、解析加工品形状データを撮像加工品形状データと重ね合わせるための処理の一例について説明する。まず、それぞれの形状を示す三次元データについて、最も長さの長い方向(第一の方向と称す)を検出し、その方向の長さが同じ長さとなるように、解析加工品形状データのサイズを拡大(三次元方向の全てが等倍で拡大されるよう拡大)する。そして、拡大した解析加工品形状データの第一の方向の両端が、撮像加工品形状データの第一の方向の両端と重なるよう、拡大した解析加工品形状データの位置を仮想三次元空間内において移動させる。ここでの位置の移動は、回転移動も含んでよい。さらに、この第一の方向に直交する方向であって、長さが最も長い方向(以下、第二の方向)を、それぞれの形状を示す三次元データについて検出し、解析加工品形状データの第一の方向と第二の方向との交点が、撮像加工品形状データの第一の方向と第二の方向との交点と一致するか否かを判断し、一致しない場合は、解析加工品形状データの第一の方向の中点を中心として、解析加工品形状データを180度回転させる。一致する場合は、回転させない。次に、解析加工品形状データの第二の方向が、撮像加工品形状データの第二の方向と重なるよう、解析加工品形状データを第一の方向を回転軸として、仮想三次元空間内において回転させる。これにより得られた解析加工品形状データが、座標変換された解析加工品形状データである。
なお、解析加工品形状データを撮像加工品形状データと重ね合わせるための処理は、三次元形状を示す形状データのマッチング処理を利用して行うようにしても良い。三次元形状の形状データのマッチング処理については、公知の技術であるので、ここでの詳細な説明は省略する。三次元形状の形状データのマッチング処理については、以下の技術を参考にされたい。(非特許文献:小高 一慶、外2名、"3Dワイヤーフレームモデルの特徴抽出とマッチング"、[online]、[平成24年2月23日検索]、インターネット<URL: http://www.shalab.phys.waseda.ac.jp/pub/personal/odaka/odaka1.pdf>)、(非特許文献2:佐川 立昌、外4名、"漸増的メッシュモデリングとその階層的認識法による実時間3次元物体認識システムの研究"、[online]、[平成24年2月13日検索]、インターネット<URL:http://www.am.sanken.osaka-u.ac.jp/~sagawa/pdf/jrsj02.pdf>)。
なお、上記の重ね合わせるよう座標変換する処理において、解析加工品形状データと撮像加工品形状データとの座標等の位置や、距離等が、一致するか否かの判断等を行う際には、予め指定された誤差等を考慮するようにして、誤差レベルの相違があっても一致すると判断するようにしてもよい。あるいは誤差レベルの相違があっても一致すると判断できるようにしても良い。例えば、一致等を判断する際には、形状の三次元データ等から得られる座標の値や距離の所定の桁数以下の値を無視したり、四捨五入するようにしてもよい。
なお、撮像加工品形状データが解析加工品形状データと重なるよう、撮像加工品形状データを座標変換することを、解析加工品形状データが撮像加工品形状データと重なるよう、解析加工品形状データを座標変換することと同じことであると考えるようにしてもよい。ただし、この場合、投影設定情報も、撮像加工品形状データとの相対的な位置関係やサイズの比率の関係等が変わらないよう、撮像加工品形状データの座標変換に合わせて座標変換等を行うことも、撮像加工品形状データを座標変換する処理に含むものと考えて良い。また、パターンマッチング等の場合、最もマッチングの度合いが高い状態にある場合を、重なっていると判断しても良い。
解析画像生成部130は、変換部129が座標変換した解析加工品形状データと、解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する解析情報と、投影設定情報の一つとを用いて、解析加工品形状データが示す形状の表面に解析情報が示す解析結果に関する情報を示した投影図の画像である解析画像を、投影設定情報が示す設定に応じて生成する。座標変換した解析加工品形状データは、理想的には、撮像加工品形状データと同じ仮想三次元座標系の同じ位置に、同じ向きとなるように配置された、同じ大きさを有する同じ立体形状を示すデータであるため、この解析加工品形状データの投影図を、撮像加工品形状データについて取得した投影設定情報の一つを用いて生成する。ただし、通常は、撮像加工品形状データと、解析加工品形状データとは、同じ加工品の形状を示すデータであるが、撮像加工品形状データは、実際に作成された加工品を撮影した画像から作成されたものであり、解析加工品形状データとは、完全には一致しない。ここで利用する一の投影設定情報は、例えば、撮像加工品形状データ取得部126が撮像加工品形状データを取得する際に用いた1以上の撮影情報のうちの、任意の撮影画像に対応する投影設定情報、あるいは、ユーザが図示しない受付部等を介して指定した撮影画像に対応する投影設定情報である。ここでの投影図である解析画像の生成とは、解析加工品形状データを用いた、一の投影設定情報が示す設定を利用したいわゆるレンダリングである。解析画像を生成する処理は、例えば、光軸方向が、一の投影設定情報が有する法線ベクトルが示す方向と一致し、かつ光軸に対する回転角度が、この投影設定情報の示す回転角度となるように設定した仮想的な視点(カメラ)からみた解析加工品形状データが示す形状が配置された領域を二次元の平面に投影することで、解析加工品形状データが示す形状を投影した二次元画像を生成する処理である。つまり、投影設定情報が示す仮想的な視点からの解析加工品形状データのレンダリング処理である。なお、投影設定情報が、レンダリングに利用する視点(カメラ)の画角や、視点と解析加工品形状データとの距離の情報を有する場合、これらの情報を用いて、解析加工品形状データをレンダリングするようにしても良い。なお、このような投影設定情報を用いて三次元データをレンダリングする処理は公知の技術である。また、解析画像を生成する処理は、例えば、一の投影設定情報が示す投影面に、解析加工品形状データが示す形状を投影した二次元画像を生成する処理であってもよい。
ここで、通常の三次元データが示す立体形状についての投影図の画像を取得する場合、立体形状の表面に、テクスチャ画像等の画像をマッピングして画像を生成するが、本実施の形態においては、座標変換した解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する解析情報を用いて、この解析情報が示す解析結果に関する情報を、解析加工品形状データが示す三次元形状の表面に配置した状態の投影図の画像である解析画像を生成する。
解析結果に関する情報とは、解析情報が示す解析結果の値(例えば、応力や、板厚や、歪み)等であっても良いし、解析情報を用いて取得された情報(例えば、解析結果の分布を示す情報や解析結果の値の等値線等)であっても良い。例えば、解析画像生成部130は、座標変換した解析加工品形状データが示す三次元形状の表面の、1以上の点情報が示す位置(例えば、各節点上)に、各点情報に対応する解析情報が示す値を配置した解析画像をレンダリングにより生成する。また、解析情報の最大値の点や、最小値の点を示す点情報が示す位置に、解析情報の最大値や最小値の値や、解析情報の値が最大や最小であることを示すマークや色等を示す画像を配置した解析画像をレンダリングにより生成しても良い。点情報が示す位置とは、点情報との対応関係が明確な位置(例えば、点情報が示す位置と線等により接続された位置等)と考えても良い。また、解析結果の分布を示す解析画像を生成しても良い。例えば、点情報を、対応する解析の値の範囲ごとに1以上のグループに分け、同じグループに属する点情報が示す1以上の点を含む範囲を、他の点情報とは異なる表示態様(例えば、異なる色等)で表示したり、線で囲むようにしても良い。また、解析情報が示す解析結果の値が同じ点を直線または曲線で結んだ1以上の線、即ち、解析結果の値の等値線を配置した解析情報をレンダリングにより生成しても良い。
なお、解析加工品形状データの2つの点情報と、それぞれの解析情報の値とから、この2点間を結ぶ直線または曲線上の座標と、解析情報の値との関数を算出し、この関数を用いて、点情報が示す位置以外の位置(点)についての解析情報を取得して、このような点についての解析情報も含めて解析結果に関する情報を配置した解析画像を取得するようにしても良い。例えば、このようにして取得した点情報が示す位置以外の位置についての解析情報を三次元形状の表面に配置したり、取得した解析情報も用いて、等値線を取得して、この等値線を配置した解析画像を生成するようにしても良い。この等値線は、値により色等が異なる線であっても良い。また、解析加工品形状データの2つの点情報の中間の位置についての解析情報として、2つの点情報に対応する解析情報の値の平均値を取得するようにしてもよい。また、このようにして取得した新たな点についての平均値を用いて、他の点との中間の点についての解析情報を取得する処理を繰り返すことで、元々の点情報が示す位置以外の点についての解析情報が取得可能であり、この解析情報を利用して、解析画像を生成しても良い。
なお、上述したように、撮像部121が一の撮影画像を取得するごとに、撮像加工品形状データ取得部126が少なくともこの一の撮影画像を用いて撮像加工品形状データを取得し、投影設定情報取得部127がこの一の撮影画像について投影設定情報を取得する場合においては、解析画像生成部130は、投影設定情報取得部127がこの一の撮影画像について取得した投影設定情報とを用いて、解析画像を生成するようにしても良い。
なお、立体形状を示す三次元データの表面に、数値等の情報を表示したり、等値線等を表示したりする処理については、三次元グラフィックスの処理等として公知であるので、ここでは詳細な処理は省略する。
また、解析画像生成部130は、解析情報に関する情報以外の情報を解析加工品形状データが示す立体形状の表面に更に配置するようにしても良い。例えば、予め指定されたテクスチャを配置したり、解析加工品形状データのメッシュ等を更に表示した解析画像を取得するようにしてもよい。
出力部131は、解析画像生成部130が解析画像を生成する際に用いた投影設定情報に対応する撮影画像と解析画像とを重ねた画像を出力する。一の撮影画像と対応付けられた投影設定情報は、撮像加工品形状データをレンダリングして投影図を取得する場合に、一の撮影画像と同じ配置の投影図を得られるようにするための設定の情報である。ここでは、撮像加工品形状データと重なるよう座標変換した解析加工品形状データから投影図である解析画像を取得する際に、一の投影設定情報を利用することにしたため、解析画像生成部130が生成した解析画像は、この一の投影設定情報に対応する一の撮影画像と同じ配置の解析加工品形状データの投影図となる。このため、この撮影画像と、解析画像とを重ねると、例えば、撮影画像の加工品が表示されている領域上に、解析画像が示す解析結果に関する情報(例えば解析結果の値の等値線等)が配置されることとなる。
出力部131は、撮影画像と解析画像とを重ねた画像を生成する際において、両方の画像の示す情報が視覚的に把握可能となるものであれば、どのように画像を合成するかは問わない。例えば、解析画像の解析結果に関する情報が配置されている部分以外が透過情報を有している場合、撮影画像上に、解析画像を単に重ねるようにしても良い。また、撮影画像と解析画像とを乗算モードや、スクリーンモードや、オーバーレイモード等の特定の画像モードで合成するようにしても良い。
なお、解析画像を生成する際に用いた投影設定情報が、ユーザにより指定された撮影画像や、撮影部121が取得した最新の撮影画像に対応する投影設定情報である場合、例えば、このユーザにより指定された撮影画像や、撮影部121が取得した最新の撮影画像が、解析画像生成部130が解析画像を生成する際に用いた投影設定情報に対応する撮影画像となる。
なお、出力部131は、撮像部121が一の撮影画像を取得したごとに、この一の撮影画像と、この一の撮影画像等を用いて解析画像生成部130等が取得した解析画像とを重ねた画像を出力するようにしてもよい。
ここでの出力とは、ディスプレイへの表示、プロジェクターを用いた投影、プリンタへの印刷、外部の装置への送信、記録媒体への蓄積、他の処理装置や他のプログラムなどへの処理結果の引渡しなどを含む概念である。
出力部131は、ディスプレイやプリンタ等の出力デバイスを含むと考えても含まないと考えても良い。出力部131は、出力デバイスのドライバーソフトまたは、出力デバイスのドライバーソフトと出力デバイス等で実現され得る。
次に、情報処理システム1のサーバ装置11の動作について図2のフローチャートを用いて説明する。
(ステップS101)点解析情報取得部111は、点解析情報を取得する指示を、図示しない受付部等を介して受け付けたか否かを判断する。受け付けた場合、ステップS102に進み、受け付けていない場合、ステップS107に進む。
(ステップS102)点解析情報取得部111は、図示しない受付部等を介して、金型識別情報と、この金型識別情報が示す金型の立体形状を示す三次元データと、部材識別情報と、この部材識別情報に対応する部材の材料特性等の情報である部材データとの組を、受け付けたか否かを判断する。受け付けた場合、ステップS103に進み、受け付けていない場合、ステップS102に戻る。
(ステップS103)点解析情報取得部111は、ステップS102で受け付けた金型の三次元データと、部材データとを用いて予め指定された解析を行うためのシミュレーション等を行い、金型により部材データを加工した場合に得られる立体形状の表面の1以上の点を示す点情報と、各点情報が示す点における解析情報との組を取得する。例えば、金型で加工して得られる加工品の立体形状を示すメッシュ等の三次元データの、各節点を示す点情報と、各節点について解析により取得した解析情報との1以上の組を取得する。
(ステップS104)点解析情報取得部111は、ステップS103で取得した点情報と解析情報との1以上の組と、ステップS102で受け付けた金型識別情報と、部材識別情報とを有する点解析情報を点解析情報格納部110に蓄積する。そして、ステップS101に戻る。
(ステップS105)サーバ受信部112は、金型識別情報と部材識別情報とを一の端末装置12から受信したか否かを判断する。受信した場合、ステップS106に進み、受信していない場合、ステップS101に戻る。
(ステップS106)取得部113は、ステップS105で受信した金型識別情報と部材識別情報との組に対応する点情報と解析情報との1以上の組を、点解析情報格納部110から検索等により取得する。
(ステップS107)サーバ側送信部114は、ステップS106で取得した点情報と解析情報との1以上の組を、ステップS105で受信した金型識別情報と部材識別情報との送信元となる端末装置12に送信する。そして、ステップS101に戻る。
なお、図3のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
次に、情報処理システム1の端末装置12の動作について図3のフローチャートを用いて説明する。
(ステップS201)受付部123は、金型識別情報を受け付けたか否かを判断する。受け付けた場合、ステップS202に進み、受け付けていない場合、ステップS201に戻る。
(ステップS202)受付部123は、部材識別情報を受け付けたか否かを判断する。受け付けた場合、ステップS203に進み、受け付けていない場合、ステップS202に戻る。
(ステップS203)端末送信部124は、ステップS201で受け付けた金型識別情報と、ステップS202で受け付けた部材識別情報との組を、サーバ装置11に送信する。
(ステップS204)端末受信部125は、点情報と解析情報との1以上の組をサーバ装置11から受信したか否かを判断する。受信した場合、ステップS205に進み、受信していない場合ステップS204に戻る。
(ステップS205)端末受信部125は、受信した点情報と解析情報との組を図示しない記憶媒体等の格納部に蓄積する。
(ステップS206)撮像部121は、ステップS201で受け付けた金型識別情報が示す金型を用いて、ステップS202で受け付けた部材識別情報が示す部材を加工して得られる加工品を撮影した一の撮影画像を取得したか否かを判断する。取得した場合、ステップS207に進み、取得していない場合、ステップS206に戻る。
(ステップS207)撮像部121は、ステップS206で取得した撮影画像を、撮影画像格納部122に蓄積する。
(ステップS208)撮像加工品形状データ取得部126は、撮像部121が取得した撮影画像が、予め指定された最小枚数以上であるか否かを判断する。例えば、撮像加工品形状データ取得部126は、撮影画像格納部122に格納されている撮影画像が、最小枚数以上であるか否かを判断する。最小枚数以上であれば、ステップS209に進み、最小枚数未満である場合、ステップS206に戻る。
(ステップS209)撮像加工品形状データ取得部126は、撮影画像格納部122に格納されている1以上の撮影画像を用いて、撮像加工品形状データを取得する。
(ステップS210)投影設定情報取得部127は、撮像部121が取得した最新の撮影画像に対応する投影設定情報を取得する。なお、最新の撮影画像に対応する投影設定情報に加えて、撮影画像格納部122に格納されている撮影画像のうちの、対応する投影設定情報が取得されていない撮影画像の1以上(例えば、全て)についても、投影設定情報を取得するようにしても良い。そして、投影設定情報取得部127は、ステップS210で撮影画像について取得した投影設定情報を、撮影画像と対応付けて、撮影画像格納部122等の記憶媒体に蓄積する。
(ステップS211)解析加工品形状データ取得部128は、座標変換した解析加工品形状データが取得済であるか否かを判断する。取得済である場合、ステップS212に進み、取得していない場合、ステップS214に進む。
(ステップS212)解析加工品形状データ取得部128は、ステップS205で蓄積した点情報を用いて解析加工品形状データを取得する。
(ステップS213)変換部129は、ステップS212で取得した解析加工品形状データを構成する座標の情報等を、ステップS209で取得した撮像加工品形状データと重なるよう座標変換する。なお、点情報も、解析加工品形状データの座標変換に合わせて座標変換しても良い。
(ステップS214)解析画像生成部130は、座標変換した解析加工品形状データと、ステップS205で蓄積した点情報に対応する解析情報と、ステップS210で取得した最新の撮影画像に対応する投影設定情報とを用いて、解析画像を生成する。
(ステップS215)出力部131は、ステップS207で蓄積した最新の撮影画像を読み出し、読み出した撮影画像と、ステップS214で生成した解析画像とを重ね合わせた画像を出力する。既に他の画像が出力済の場合、新たな画像で出力を更新する。そして、ステップS206に戻る。
なお、図3のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
なお、一旦、ステップS215において解析画像を撮影画像と重ねて出力する処理を行うと、既に撮像加工品形状データが得られている。このため、一旦、ステップS215の処理が行われた以降は、投影設定情報取得部127が新たな撮影画像について投影設定情報を得るために、撮影画像から撮像加工品形状データを取得する撮像加工品形状データ取得部126の処理を利用する必要がない場合には、ステップS209の処理は、省略してもよい。
以下、本実施の形態における情報処理システム1の具体的な動作について説明する。
図4は、情報処理システム1の概念図である。ここでは、サーバ装置11はコンピュータであり、端末装置12がスマートフォンと呼ばれる高機能携帯電話であるとする。端末装置12は、ここでは、モニタ120を備えているとする。例えば、サーバ装置11と端末装置12とは、インターネット等のネットワークを介して接続されているものとする。
まず、ユーザが、サーバ装置11に対して、点解析情報の取得を開始するための予め指定された操作を行い、さらに、サーバ装置11に対して、金型の形状を示す三次元データであるCADデータと、この金型の金型識別情報と、この金型により加工される部材の部材データ(材料特性や、厚さ等のデータ)と、この部材の部材識別情報とを入力したとする。
点解析情報取得部111は、入力された三次元データが示す金型を用いて、予め指定されたシミュレーション等を行って、入力された部材データが示すデータを加工して得られる立体形状(即ち加工品の立体形状)を示す三次元データを取得する。ここでは、例えば、メッシュで構成される三次元データを取得する。更に、この加工された形状を示す三次元データと、加工対象である部材の部材データとを用いて、予め指定された解析を行うためのシミュレーションを実行して、加工された形状の三次元データのメッシュの各節点についての解析情報を取得する。
点解析情報取得部111は、解析情報を取得した各節点の座標を示す点情報と、各節点の識別情報である点識別情報との組を複数取得し、取得した点情報と点識別情報との複数の組のそれぞれと、上記で受け付けた金型識別情報と、部材識別情報とを有する複数の点管理情報を点解析情報格納部110に蓄積する。即ち、この具体例の点識別情報は、節点の識別情報と考えて良い。また、点解析情報取得部111は、各節点の識別情報である点識別情報と、各点識別情報が示す節点についてそれぞれ取得された解析情報と、上記で受け付けた金型識別情報と、部材識別情報とを有する複数の点解析管理情報とを、点解析情報格納部110に蓄積する。この具体例においては、この点管理情報と、点解析管理情報とが、点識別情報で対応付けられていることによって、点解析情報が構成されている。
図5は、点解析情報格納部110に格納されている点管理情報を示す図である。点管理情報は、「金型ID」と、「部材ID」と、「点ID」と、「点情報」という項目を有している。「金型ID」は金型識別情報である。「部材ID」は部材識別情報である。「点ID」は点識別情報であり、ここでは、加工された部材の形状を示す三次元データの節点の識別情報である。「点情報」は点情報であり、ここでは、「点ID」が示す節点の三次元座標であるとする。なお、「点ID」におけるxn、yn、zn(ただし、nは1以上の自然数)は、それぞれ、x座標の値、y座標の値、z座標の数値であるとする。かかることは以下の他の座標においても同様である。
図6は、点解析情報格納部110に格納されている点解析管理情報を示す図である。点解析管理情報は、「金型ID」と、「部材ID」と、「点ID」と、「解析情報」という項目を有している。「解析情報」は更に、「応力」、「板厚」、「歪み」という項目を有している。「金型ID」と、「部材ID」と、「点ID」とついては、図5と同様である。「解析情報」は、「金型ID」が示す金型を用いて、「部材ID」が示す部材を加工した場合に得られると考えられる仮想的な加工品についての解析情報であり、ここでは、予め指定された解析として、応力と、板厚と、歪みの解析を行うものとする。「応力」は、対応する「点ID」が示す点(ここでは節点)についての、応力の解析により得られた応力の情報である。「応力」は、更に、応力の解析結果の成分の値を示す「σxx」、「σyy」、「σzz」、「τxy」、「τyz」、「τzx」という項目を有している。なお、「応力」のxxn、yyn、zzn、xyn、yzn、zxn(ただし、nは、1以上の自然数)は、それぞれ解析結果の数値であるとする。「板厚」は、対応する「点ID」が示す点についての板厚の解析により得られた板厚の情報である。「歪み」は、対応する「点ID」が示す点についての歪みの解析により得られた歪みの情報である。なお、tnおよびεn(ただし、nは1以上の自然数)は、それぞれ厚さおよび歪みの値であるとする。なお、ここでの歪みの値εnは、垂直歪みの値であっても、せん断歪みの値であってもよく、その両方の値を含んでも良い。また、歪みの値εnは、テンソル成分等を含むと考えても良い。
次に、ユーザが、金型を用いて、金属製の部材に対してプレス成形加工を行っている場所(例えば、工場や研究室等)において、加工により得られた加工品についての解析結果を調べるために、端末装置12に、解析結果を出力する指示を与えたとする。
図7は、プレス成形加工機を示す図(図7(a))、およびプレス成形加工される部材を示す図(図7(b))である。図において、プレス成形加工機70には、加工に使用される金型71の金型識別情報を示す二次元バーコード72が貼付されているものとする。また、部材73には、この部材73の部材識別情報を示す二次元バーコード74が貼付されているものとする。
端末装置12の受付部123等が、例えば、図示しないタッチパネル等の入力デバイスを介して解析結果を出力する指示を受け付けると、出力部131は、モニタ120等に、加工に用いられる金型の金型識別情報の入力を促す旨のダイアログ等を表示する。
図8は、端末装置12を、モニタ120が設けられている面とは反対側の面からみた斜視図である。ここでは、例えば、端末装置12は、モニタ120が設けられている面とは反対側の面に、レンズ(図示せず)を有する撮像部121を備えているものとする。撮像部121は、この具体例においてはカメラであるとする。この撮像部121は、二次元バーコードリーダとしての機能も有しているものとする。
ユーザが金型の金型識別情報の入力を促す旨のダイアログ等に従って、撮像部121により金型識別情報を示す二次元バーコードを撮影すると、撮像部121は、二次元バーコードを読み取ってデコードを行い、金型識別情報「P01」を取得したとする。受付部123は、撮像部121が取得した金型識別情報「P01」を受け付ける。
金型識別情報が取得されたため、出力部131は、加工対象となる部材の部材識別情報の入力を促す旨のダイアログ等をモニタ120等に表示する。
ユーザがこのダイアログに従って、部材73の部材識別情報を示す二次元バーコードを撮像部121で撮影すると、撮像部121は、部材識別情報「M001」を取得したとする。受付部123は、撮像部121が取得した金型識別情報「P01」を受け付ける。
受付部123が、金型識別情報「P01」と部材識別情報「M001」とを受け付けたため、端末送信部124は、この受け付けた金型識別情報「P01」と部材識別情報「M001」との組を、サーバ装置11にネットワーク経由で送信する。
サーバ装置11のサーバ受信部112が、端末装置12から送信される金型識別情報「P01」と部材識別情報「M001」との組を受信すると、取得部113は、図5に示した点解析情報格納部110に格納されている点管理情報の中から、「金型ID」の値が、受信した金型識別情報「P01」と一致し、かつ「部材ID」の値が、受信した部材識別情報「M001」と一致する点管理情報を検索し、検出された1以上の点管理情報のそれぞれから「点ID」と「点情報」との組を取得する。ここでは、例として、検出した全ての点管理情報から「点ID」と「点情報」との組を取得する。また、取得部113は、図6に示した点解析情報格納部110に格納されている点解析管理情報の中から、「金型ID」の値が、受信した金型識別情報「P01」と一致し、かつ「部材ID」の値が、受信した部材識別情報「M001」と一致する点解析管理情報を検索し、検出された点解析管理情報のそれぞれから「点ID」と「解析情報」との組を取得する。ここでは、例として、検出した全ての点解析管理情報から「点ID」と「解析情報」との組を取得する。
さらに、ここでは、一例として、点管理情報から取得した「点ID」と「点情報」との組と、点解析管理情報から取得した「点ID」と「解析情報」との組から、対応する「点ID」が同じ「点情報」と「解析情報」とを順次取り出し、取り出した「点情報」と「解析情報」と、これらに対応する「点ID」とを有する1以上の情報を順次取得する。ここではこの情報を点解析取得情報と呼ぶ。点解析取得情報は、点情報と、点情報が示す点についての解析情報とを対応付けて有する情報である。サーバ送信部114は、取得部113が取得した1以上の点解析取得情報を、端末装置12に送信する。ただし、必ずしも、点解析取得情報を取得する必要はない。
端末受信部125は、サーバ装置11から送信される点解析取得情報を受信し、図示しない記憶媒体等に蓄積する。ここでの蓄積は一時記憶でも良い。
図9は、端末受信部125が受信して蓄積した点解析取得情報を示す図である。点応力取得情報は、「点ID」と「点情報」と「解析情報」とを有している。「解析情報」については、図6の「解析情報」と同様である。
端末受信部125が、点解析取得情報を受信したため、出力部131は、上記で受け付けた金型識別情報が示す金型で、実際に上記で受け付けた部材識別情報が示す部材を加工して得られた加工品を様々な方向から撮影することをユーザに促すダイアログをモニタ120に出力する。
このダイアログに従って、ユーザが、端末装置12の撮影部121を用いて、金型71で部材73を加工して得られた加工品を、複数の方向から撮影する。
図10は、金型71で部材73を加工して得られた加工品を、撮影している状態を示す模式図であり、図10(a)〜図10(d)は、それぞれ、加工品75の左側、後側、右側、正面側から撮影している状態を示す図である。なお、ここでは、加工品75を左側、後側、右側、正面側から撮影しているが、撮影する方向は、必ずしもこれらの方向に限るものではない。
例えば、まず、ユーザが図10(a)に示すように、加工品75を左側から撮影すると、撮影部121は、撮影画像(ここでは、静止画像であるとする)を取得し、取得した撮影画像に、撮影順番を示す情報(例えば、撮影順番を示す連番や、撮影時刻等)を含むファイル名等を付与して、撮影画像格納部122に蓄積する。ここで、撮像加工品形状データ取得部126は、撮影画像格納部122に蓄積されている撮影画像が、予め指定されている枚数以上であるか否かを判断する。この指定された枚数は、例えば、撮像加工品形状データ取得部126が、撮像加工品形状データを取得するために必要な最低限の撮影画像の枚数であるとする。ここでは、指定された数が「4」であるとする。ここでは、蓄積された撮影画像が、一つであるため、指定された数以上でないと判断される。そのため、出力部131は、更に、加工品の撮影を行うことを促すダイアログ等を出力する。更に、ユーザが、図10(b)、図10(c)のように、順次、撮影を行った場合も、撮影画像は、順次、撮影順番を示す情報を含むファイル名が付与されて蓄積されるが、蓄積された撮影画像数が「4」以上とならないため、同様に撮影を促すダイアログ等が出力される。
ここで、ユーザが、図10(d)に示すように、加工品75を正面側から撮影し、撮影画像に撮影順番を示す情報を含むファイル名が付与されて撮影画像格納部122に蓄積されたとすると、撮像加工品形状データ取得部126は、撮影画像格納部122に蓄積された撮影画像数をカウントし、蓄積された撮影画像が「4」枚以上であると判断したとする。
撮像加工品形状データ取得部126は、蓄積された撮影画像数が予め指定された数である「4」以上であるため、蓄積された4つの撮影画像を用いて、撮影対象となった加工品の立体形状を示す三次元データである撮像加工品形状データを取得する。なお、複数の撮影画像を用いて撮像加工品形状データを取得する処理は公知の技術であるので、ここでは詳細な説明は省略する。取得した撮像加工品形状データは図示しない記憶媒体等に蓄積する。
また、撮像加工品形状データ取得部126が複数の撮影画像を用いて撮像加工品形状データを取得する処理の際には、各撮影画像を、取得しようとする撮像加工品形状データの投影図として扱って撮像加工品形状データを取得するため、少なくとも一時的には撮像加工品形状データは各撮影画像と対応付けられるため、各撮影画像と同じ撮像加工品形状データの投影図を得るための撮像部121の法線ベクトルや撮像部121の回転角度等の値が取得可能である。このため、投影設定情報取得部127は、撮像加工品形状データを取得する処理の間に、投影設定情報(例えば、撮像部121の法線ベクトルと、回転角度の情報等)を取得することが可能となる。そして、取得した投影設定情報を、最新の撮影画像のファイル名等と対応付けて、図示しない記憶媒体に蓄積する。最新の撮影画像のファイル名は、例えば「img004」であったとする。
なお、端末装置12が、いわゆるスマートフォン等のように、3軸ジャイロセンサ等の、三次元の方向を検出可能なセンサーである三次元センサー(図示せず)を有している場合、この三次元センサーの出力を用いて、投影設定情報取得部127が、撮像部121の撮影方向を示す法線ベクトルと、撮像部121の回転角度とを取得して、この法線ベクトルと回転角度とを投影設定情報として用いるようにしても良い。また、この場合、撮像部121が有する光学系の画角の情報を更に取得するようにしてもよい。また、撮像部121と加工品の距離の情報としては、予め指定された固定値を取得するようにしてもよい。この場合、ユーザは、この固定値にできるだけ近い距離で加工品を撮影することが好ましい。
図11は、投影設定情報取得部127が取得した投影設定情報を示す図であり、投影設定情報は、「法線ベクトル」と、「回転角度」という項目を有している。「法線ベクトル」は、投影図を得るために設定される仮想的な視点(カメラ)からレンダリングを行う際の視線方向を示すベクトルである。「回転角度」は、この視点の、視線方向を回転軸とした回転角度を示す。ここでは、例えば、視点から見た視野の横方向が水平である場合を0度とする。なお、この仮想的な視点は、撮像部121が撮影画像「img004」を撮像した際の撮像部121と考えても良い。撮像加工品形状データ撮像加工品形状データ
次に、解析加工品形状データ取得部128は、図9に示した端末受信部125が受信して蓄積した点解析取得情報が有する点情報を用いて、金型に対応した立体形状の三次元データである解析加工品形状データを取得する。ここでは、一例として、隣接する点情報等を直線や曲線で結ぶことで、点情報が示す点を節点とした、立体形状を示すメッシュの情報等を取得する。ここでは、解析加工品形状データは、立体形状を示すメッシュの節点の情報を有しているものとする。また、点情報を用いて解析加工品形状データを取得するため、各節点の座標は、点情報が示す座標となり、各節点は、点情報に対応したものとなるため、解析加工品形状データの各節点には、点識別情報を対応付けるようにする。解析加工品形状データ取得部128は、解析加工品形状データを、図示しない記憶媒体等に蓄積する。
次に、変換部129は、解析加工品形状データが示す形状が、撮像加工品形状データが示す形状と重なるように、解析加工品形状データの座標変換を行う。
図12は、変換部129が行う座標変換の処理を説明するための図である。図12(a)は、撮像加工品形状データが示す立体形状をメッシュで表したものである。また、図12(b)解析加工品形状データが示す立体形状をメッシュで表した図である。図12(c)は、解析加工品形状データが示す立体形状と、撮像加工品形状データが示す立体形状とを同じ座標系で示した図である。また、図12(d)から図12(f)までは、解析加工品形状データが示す立体形状を、撮像加工品形状データが示す立体形状と重ねるための処理を示す図である。なお、図12(c)から図12(f)においては、撮像加工品形状データの形状と解析加工品形状データの形状との関係が分かりやすいよう、撮像加工品形状データの形状を点線で表している。
具体的には、仮想三次元座標系に対する撮像加工品形状データ151の配置(位置、向き、サイズ)と、仮想三次元座標系に対する解析加工品形状データ152の配置は、図12(a)から図12(c)に示すように通常は異なっている。このため、まず、変換部129は、解析加工品形状データ152と撮像加工品形状データ151との両方について、最も長さの長い第一の方向を検出する(図12(c))。ここでは、撮像加工品形状データ151の第一の方向と、解析加工品形状データ152の第一の方向とを、それぞれ矢印151aおよび矢印152aで示す。次に、撮像加工品形状データ151と解析加工品形状データ152との第一の方向の長さが同じ長さとなるように、解析加工品形状データ152全体のサイズを拡大(三次元方向の全てが等倍で拡大されるよう拡大)する(図12(d))。
次に、拡大した解析加工品形状データ152の第一の方向の両端が、撮像加工品形状データの第一の方向の両端と重なるよう、拡大した解析加工品形状データの位置を仮想三次元空間内において移動させる(図12(e))。ここでの位置の移動は、回転移動を含んでよい。
さらに、この第一の方向に直交する方向であって、長さが最も長い方向(以下、第二の方向)を、それぞれの形状を示す三次元データについて検出する。ここでは、撮像加工品形状データ151の第二の方向と、解析加工品形状データ152の第二の方向とを、それぞれ矢印151bおよび矢印152bで示す。解析加工品形状データ152の第一の方向と第二の方向との交点が、撮像加工品形状データ151の第一の方向と第二の方向との交点と一致するか否かを判断し、一致しない場合は、解析加工品形状データ152の第一の方向の中点を中心として、解析加工品形状データ152を180度回転させる。ここでは、一致するため、この回転は行わない。
次に、解析加工品形状データ152の第二の方向が、撮像加工品形状データ151の第二の方向と重なるよう、解析加工品形状データ152を第一の方向を回転軸として、仮想三次元空間内において回転させる(図12(f))。これにより得られた形状を示す解析加工品形状データ152が、座標変換された解析加工品形状データ152であり、この撮像加工品形状データ151が示す形状と重なる形状となる。座標変換された解析加工品形状データ152においては、具体的には、節点の座標が座標変換されたものとなる。ただし、各節点に対応付けられた節点識別情報は変更されない。座標変換された解析加工品形状データは、図示しない記憶媒体等に蓄積される。
次に、解析画像生成部130は、座標変換された解析加工品形状データを、上記で取得した最新の撮影画像「img004」に対応する投影設定情報と、図9に示した点解析取得情報に含まれる「点ID」と「解析情報」との組を用いて、解析画像を生成する。ここでは、例えば、デフォルト等により、最初に、応力の値の等値線を示す解析画像を生成することが指定されているものとし、解析画像生成部130は、応力の値の等値線を示す解析画像を生成する。まず、「解析情報」のうちの「応力」を用いて、応力に関する移籍画像を生成する。具体的には、投影設定情報から法線ベクトルと回転角度の組を取得し、解析加工品形状データ解析加工品形状データこの法線ベクトルと回転角度により決定される視点から、座標変換された解析加工品形状データをレンダリングすることにより応力画像を生成する。このレンダリングの際においては、上述したような解析加工品形状データのメッシュの各節点に対応付けられた点識別情報を読み出し、各点識別情報に対応付けられた「解析情報」のうちの「応力」の情報を、図6に示した点応力管理情報から、各点識別情報に対応付けられた節点の応力の情報として読み出す。そして、解析画像生成部130は、節点ごとの応力の情報を用いて、座標変換された解析加工品形状データが示す立体形状の表面の点であって、応力の情報の値が特定の値である点を検出する。特定の値は、例えば、応力の等値線を作成する際の、等値線を描くための1以上の値である。例えば、特定の値は、非連続な複数の値である。値の間隔が等間隔の複数の値である。例えば、特定の値は、応力の最大値と最小値とが示す値の範囲を用いて設定される。解析画像生成部130は、一の特定の値ごとに点を検出する。検出の対象となる立体形状の表面の点は、節点だけであっても良いし、節点以外の点を含んでも良い。表面の点が、節点以外の点である場合、点に対応する応力の値は、点との距離が近い複数の節点の座標とこの複数の節点にそれぞれ対応する応力の値とから算出される。例えば、隣接する二つの節点の座標と、これらの各節点の応力の値とから、この二つの節点間の座標と、応力の値との関係を示す関係式(例えば、近似式)を取得し、この関係式から、応力の値が特定の値である点の座標を算出しても良い。また、例えば、応力の値がαである節点Aと応力の値がβである節点Bとの中間点の応力の値として、例えば、(α+β)÷2を取得するようにしても良い。
そして、解析画像生成部130は、応力の値が特定の共通する値である解析加工品形状データの表面の複数の点を結ぶ1以上の等値線を、解析加工品形状データの表面に配置した解析画像を、上記の投影設定情報が示す設定でレンダリングを行って生成する。これにより、表面に応力の等値線が配置された解析加工品形状データの投影図である解析画像が生成される。なお、各等値線は、対応する値ごとに異なる色としてもよい。また、ここでは、例として、等値線以外の部分が透明である解析画像を生成する。また、ここでは、さらに、応力の最大値を示す節点が示す位置および最小値を示す節点が示す位置に、応力の最大値および最小値であることを示す画像や文字列をさらに配置した解析画像を生成する。また、各等値線が示す値を表す凡例等の情報も解析画像内に配置する。
図13は、応力画像生成部130が生成した応力の解析画像を示す図である。
次に出力部131は、応力画像生成部130がレンダリングにより生成した応力の解析画像を、撮影画像「img004」上に重ね合わせた画像を生成し、出力する。ここでは、出力部131は、モニタ120に表示する。
図14は、応力の解析画像を撮影画像に重ねた画像の出力例を示す図である。これにより、最新の撮影画像上に応力分布を示す(即ち、応力の等値線を示す)画像を重ねた画像を出力することができる。これにより、実際の加工品を撮影した画像に、応力に関する解析結果を重ねて表示することが可能となる。
また、ユーザが、図示しない受付部等を介して、撮影画像に応力の解析結果を示す解析画像の代わりに、撮影画像に板厚の解析結果を示す解析画像を重ねた画像を出力する指示を与えたとすると、解析画像生成部130は、点解析取得情報に含まれる「解析情報」の「応力」の値の代わりに、「板厚」の値を用いて、上記と同様に、板厚の値の等値線を示す解析画像を生成する。そして、出力部131は、この解析画像を撮影画像に重ねて出力する。
同様に、ユーザが、図示しない受付部等を介して、撮影画像に歪みの解析結果を示す解析画像を重ねた画像を出力する指示を与えたとすると、解析画像生成部130は、点解析取得情報に含まれる「解析情報」の「歪み」の値を用いて、上記と同様に、歪の値の等値線を示す解析画像を生成する。そして、出力部131は、この解析画像を撮影画像に重ねて出力する。
ここで、例えば、図14に示した状態において、さらに、ユーザが、加工品75を、撮像部121を用いてこれまでとは異なった方向から撮影したとすると、撮像部121は、撮影した画像を撮影画像格納部122に蓄積する。
そして、撮影画像格納部122には、4以上の撮影画像が格納されているため、この最新の画像を含めた撮影画像を用いて、上記と同様に、撮像加工品形状データ取得部126は、撮像加工品形状データを取得し、投影設定情報取得部127は、最新の撮影画像に対応する投影設定情報を取得する。なお、投影設定情報が取得できれば、撮像加工品形状データは取得しないようにしてもよい。例えば、投影設定情報が得られるまでの、撮像加工品形状データを取得する処理を、投影設定情報取得部127が行って、投影設定情報を取得するようにしてもよい。
ここでは、既に、上記の処理によって解析加工品形状データの座標変換が行われているため、解析画像生成部130は、座標変換を行った解析加工品形状データと、最新の撮影画像に対応する投影設定情報と、点識別情報と対応付けられた解析情報とを用いて、上記と同様に、解析画像を生成する。そして、出力部131は、この解析情報を、最新の撮影画像に重ねて出力する。これにより、撮影部121が加工品を撮影するごとに、撮影して得られた撮影画像にリアルタイムに、解析により取得された解析結果に関する情報を出力することが可能となる。
以上、本実施の形態においては、端末装置12において撮影した加工品の画像に、この加工品の加工に用いられた金型と部材との組合せについて解析等を行うことにより取得された解析結果に関する情報を重ねて出力することができ、実際の加工品と解析結果との関係を、ユーザの居る場所を問わず、ユーザに分かりやすく出力することができる。
なお、上記実施の形態において、点解析情報格納部110には、金型識別情報と、この金型識別情報が示す金型を用いて加工される部材の部材識別情報と、1以上の点情報と解析情報との組とを有する点解析情報が格納されているようにした。しかしながら、本発明においては、例えば、金型で加工される部材が一の部材だけである場合や、一の部材について取得した金型に関する解析の解析等を、部材の違いに関係なく同じ金型を用いて加工された加工品についての解析の解析結果(あるいは参考値)として用いる場合等においては、取得部113が加工された部材に応じた解析情報等を取得する必要がないため、点解析情報として、部材識別情報を省略した点解析情報、即ち、金型識別情報と、1以上の点情報と解析情報との組とを有する点解析情報を用いるようにしてもよい。この場合、例えば、サーバ受信部112は、少なくとも金型識別情報を端末装置11から受信し、取得部113は、サーバ受信部112が受信した金型識別情報に対応する点情報と解析情報との組を、点解析情報から取得するようにし、受付部123は、少なくとも撮像部121が撮影した加工品の加工に用いられた金型の金型識別情報を受け付け、端末送信部124は、受付部123が受け付けた金型識別情報をサーバ装置11に送信するようにすればよい。かかることは、以下の実施の形態においても同様である。
(実施の形態2)
本実施の形態2は、上記実施の形態1のサーバ装置11と端末装置12とを一の情報処理装置で実現するようにしたものである。
図15は、本実施の形態2の情報処理装置20の構成を示すブロック図である。図において、図1と同一符号は同一または相当するものを示す。
取得部213は、受付部123が受け付けた金型識別情報と部材識別情報とに対応する1以上の点情報とこれらの各点情報に対応する解析情報との1以上の組を、点解析情報格納部110から取得する。これ以外の部分については、取得部113と同様であるので説明は省略する。なお、この取得部213が取得した点情報と、解析情報とが、上記実施の形態1の端末受信部125が受信した点情報と解析情報の代わりに、例えば、解析加工品形状データ取得部128等で利用される。
次に、本実施の形態の情報処理装置の動作について、図16のフローチャートを用いて説明する。なお、図16において、図2および図3と同一符号は同一または相当するステップを示している。
(ステップS1601)取得部113は、受付部123が受け付けた金型識別情報と部材識別情報とに対応する1以上の点情報とこれらの各点情報に対応する解析情報との1以上の組を、点解析情報格納部110から取得する。そして、ステップS205に進む。
(ステップS1602)受付部123は、撮影画像と解析画像とを重ね合わせた画像の出力を終了する指示を受け付けたか否かを判断する。受け付けた場合、出力部131に出力を終了させ、ステップS101に進み、受け付けていない場合、ステップS206に戻る。
なお、図16のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
本実施の形態の情報処理装置20においても、上記の情報処理システムと同様に、加工品を撮影して得られた画像に、解析等により予め取得された解析結果に関する情報を重ねて出力することができる。また、上記の情報処理システムのように、サーバ装置11と端末装置12とをネットワークを介して接続する必要がないため、情報処理装置20は、ネットワーク環境のない場所でも利用することが可能である。
(実施の形態3)
上記実施の形態1においては、予め点応力情報格納部110に、金型識別情報ごとの点応力情報を格納しておく場合について説明したが、本実施の形態においては、サーバ受信部112が金型識別情報、
図19は、本発明の実施の形態3に係る情報処理システム2の構成を示す図である。情報処理システム2は、上記実施の形態1に係る情報処理システムにおいて、サーバ装置11の代わりに、サーバ装置21を設けるようにしたものである。
サーバ装置21は、金型三次元データ格納部101、部材データ格納部102、点解析情報格納部110、点解析情報取得部111、サーバ受信部112、取得部113、サーバ送信部114を備えている。点解析情報格納部110、点解析情報取得部111、サーバ受信部112、取得部113、サーバ送信部114については、上記実施の形態1と同様であるので説明は省略する。
金型三次元データ格納部101には、金型三次元データと、金型識別情報とを有する金型管理情報が格納される。金型三次元データは、上述したような金型の立体形状を示す三次元データであり、例えば、金型のメッシュデータである。
部材データ格納部102には、部材データと、部材識別情報とを有する部材管理情報が格納される。部材データは、上述したような加工対象となる部材に関する情報であり、部材の材料特性等のデータである。
なお、ここでは、点解析情報取得部111は、サーバ受信部112が、金型識別情報を受信した場合、あるいは、金型識別情報を受信した場合、この金型識別情報に対応する金型三次元データを金型三次元データ格納部101から取得する。また、金型識別情報に加えて部材識別情報を取得した場合、この部材識別情報に対応する部材データを部材データ格納部102を更に取得する。そして、取得した金型三次元データ(あるいは、金型三次元データおよび部材データ)を用いて上記実施の形態1において説明したように点解析情報を取得する。そして、取得した点解析情報を点解析情報格納部110に一時記憶する。
端末装置12の構成及び動作については、上記実施の形態1と同様であるので、ここでの説明は省略する。
次に、本実施の形態のサーバ装置1の動作の一例について、図20のフローチャートを用いて説明する。
(ステップS2001)サーバ受信部112は、金型識別情報と部材識別情報とを一の端末装置12から受信したか否かを判断する。受信した場合、ステップS102に進み、受信していない場合、ステップS101に戻る。
(ステップS2002)点解析情報取得部111は、ステップS2001で受け付けた金型識別情報に対応する金型三次元データと、ステップS2001で受け付けた部材識別情報に対応する部材データとの組を、金型三次元データ格納部101および部材データ格納部102からそれぞれ取得する。
(ステップS2003)点解析情報取得部111は、ステップS2002で取得した金型三次元データと、部材データとを用いて予め指定された解析を行うためのシミュレーション等を行い、金型により部材データを加工した場合に得られる立体形状の表面の1以上の点を示す点情報と、各点情報が示す点における解析情報との組を取得する。
(ステップS2004)点解析情報取得部111は、ステップS2003で取得した点情報と解析情報との1以上の組と、ステップS2001で受信した金型識別情報と、部材識別情報とを有する点解析情報を点解析情報格納部110に一時記憶する。
(ステップS2005)取得部113は、ステップS2004で一時記憶された金型識別情報と部材識別情報との組に対応する点情報と解析情報との1以上の組を読み出す。
(ステップS2006)サーバ側送信部114は、ステップS2005で読み出した点情報と解析情報との1以上の組を、ステップS2001で受信した金型識別情報と部材識別情報との送信元となる端末装置12に送信する。そして、ステップS2001に戻る。
なお、図20のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
本実施の形態においても上記実施の形態1と同様の効果を奏するとともに、本実施の形態においては、端末装置12から金型識別情報等が送信された時点で、サーバ装置21が解析情報等を取得するため、予め解析情報をサーバ装置11側で用意しておく必要がないため、不必要な解析処理を行わないようにすることができるとともに、解析情報を蓄積しておく記憶媒体等を最小限に抑えることが可能となるという効果を奏する。
なお、上記各実施の形態において、各処理(各機能)は、単一の装置(システム)によって集中処理されることによって実現されてもよく、あるいは、複数の装置によって分散処理されることによって実現されてもよい。
また、上記各実施の形態において、一の装置に存在する2以上の通信手段(情報送信部など)は、物理的に一の媒体で実現されても良いことは言うまでもない。
また、上記各実施の形態において、点解析情報取得部111、取得部113、撮像加工品形状データ取得部126、投影設定情報取得部127、解析加工品形状データ取得部128、変換部129、解析画像生成部130、取得部213等の各構成要素は専用のハードウェアにより構成されてもよく、あるいは、ソフトウェアにより実現可能な構成要素については、プログラムを実行することによって実現されてもよい。例えば、ハードディスクや半導体メモリ等の記録媒体に記録されたソフトウェア・プログラムをCPU等のプログラム実行部が読み出して実行することによって、各構成要素が実現され得る。その実行時に、プログラム実行部は、格納部(例えば、ハードディスクやメモリ等の記録媒体)にアクセスしながらプログラムを実行してもよい。
なお、上記各実施の形態におけるサーバ装置を実現するソフトウェアは、以下のようなプログラムである。つまり、このプログラムは、金型の識別情報である金型識別情報と、部材を金型に対応する形状に加工した場合の、加工された部材の表面の1以上の点をそれぞれ示す情報である一以上の点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、加工された部材の表面の、1以上の点情報が示す各点についての解析結果を示す情報である1以上の解析情報と、を有する点解析情報が1以上格納される点解析情報格納部にアクセス可能なコンピュータを、金型識別情報を端末装置から受信するサーバ受信部と、サーバ受信部が受信した金型識別情報に対応する1以上の点情報と、各点情報に対応する解析情報との1以上の組を、点解析情報格納部から取得する取得部と、取得部が取得した点情報と解析情報との1以上の組を端末装置に送信するサーバ送信部と、して機能させるためのプログラムである。
また、上記各実施の形態における端末装置を実現するソフトウェアは、コンピュータを、金型を用いて部材を加工して得られた加工品を撮影した画像である1以上の撮影画像を取得する撮像部と、撮像部が撮影した加工品の加工に用いられた金型の金型識別情報を受け付ける受付部と、受付部が受け付けた金型識別情報をサーバ装置に送信する端末送信部と、点情報と解析情報との1以上の組をサーバ装置から受信する端末受信部と、1以上の撮影画像を用いて、撮影対象となった加工品の形状を示す三次元のデータである撮像加工品形状データを取得する撮像加工品形状データ取得部と、撮像加工品形状データを取得する際に用いられた撮影画像の1以上のそれぞれについて、前記撮像加工品形状データが示す形状を投影した投影図を得るための設定を示す情報であって、当該投影図内における撮像加工品形状データが示す形状が、当該撮影画像内における加工品の形状と同じとなる投影図を得るための設定を示す情報である投影設定情報を取得する投影設定情報取得部と、受付部が受け付けた金型識別情報が示す金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する解析加工品形状データ取得部と、解析加工品形状データが撮像加工品形状データと重なるよう、解析加工品形状データを座標変換する変換部と、変換部が座標変換した解析加工品形状データと、解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する解析情報と、投影設定情報の一つとを用いて、解析加工品形状データが示す形状の表面に解析情報が示す解析結果に関する情報を示した投影図の画像である解析画像を、投影設定情報が示す設定に応じて生成する解析画像生成部と、解析画像生成部が用いた投影設定情報に対応する撮影画像と解析画像とを重ねた画像を出力する出力部と、して機能させるためのプログラムである。
また、上記各実施の形態における情報処理装置を実現するソフトウェアは、金型の識別情報である金型識別情報と、部材を金型に対応する形状に加工した場合の、加工された部材の表面の1以上の点をそれぞれ示す情報である一以上の点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、加工された部材の表面の、1以上の点情報が示す各点についての解析結果の情報である1以上の解析情報と、を有する点解析情報が1以上格納される点解析情報格納部にアクセス可能なコンピュータを、金型を用いて部材を加工して得られた加工品を撮影した画像である1以上の撮影画像を取得する撮像部と、撮像部が撮影した加工品の加工に用いられた金型の金型識別情報を受け付ける受付部と、受付部が受け付けた金型識別情報に対応する1以上の点情報と、各点情報に対応する解析情報との1以上の組を、点解析情報格納部から取得する取得部と、1以上の撮影画像を用いて、撮影対象となった加工品の形状を示す三次元のデータである撮像加工品形状データを取得する撮像加工品形状データ取得部と、撮像加工品形状データを取得する際に用いられた撮影画像の1以上のそれぞれについて、前記撮像加工品形状データが示す形状を投影した投影図を得るための設定を示す情報であって、当該投影図内における撮像加工品形状データが示す形状が、当該撮影画像内における加工品の形状と同じとなる投影図を得るための設定を示す情報である投影設定情報を取得する投影設定情報取得部と、受付部が受け付けた金型識別情報が示す金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する解析加工品形状データ取得部と、解析加工品形状データが撮像加工品形状データと重なるよう、解析加工品形状データを座標変換する変換部と、変換部が座標変換した解析加工品形状データと、解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する解析情報と、投影設定情報の一つとを用いて、解析加工品形状データが示す形状の表面に解析情報が示す解析結果に関する情報を示した投影図の画像である解析画像を、投影設定情報が示す設定に応じて生成する解析画像生成部と、解析画像生成部が用いた投影設定情報に対応する撮影画像と解析画像とを重ねた画像を出力する出力部と、して機能させるためのプログラムである。
なお、上記プログラムにおいて、上記プログラムが実現する機能には、ハードウェアでしか実現できない機能は含まれない。例えば、情報を取得する取得部や、情報を出力する出力部などにおけるモデムやインターフェースカードなどのハードウェアでしか実現できない機能は、上記プログラムが実現する機能には含まれない。
また、このプログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。
図17は、上記プログラムを実行して、上記実施の形態による情報処理システムを実現するコンピュータの外観の一例を示す模式図である。上記実施の形態は、コンピュータハードウェア及びその上で実行されるコンピュータプログラムによって実現されうる。
図17において、コンピュータシステム900は、CD−ROM(Compact Disk Read Only Memory)ドライブ905、FD(Floppy(登録商標) Disk)ドライブ906を含むコンピュータ901と、キーボード902と、マウス903と、モニタ904とを備える。
図18は、コンピュータシステム900の内部構成を示す図である。図18において、コンピュータ901は、CD−ROMドライブ905、FDドライブ906に加えて、MPU(Micro Processing Unit)911と、ブートアッププログラム等のプログラムを記憶するためのROM912と、MPU911に接続され、アプリケーションプログラムの命令を一時的に記憶すると共に、一時記憶空間を提供するRAM(Random Access Memory)913と、アプリケーションプログラム、システムプログラム、及びデータを記憶するハードディスク914と、MPU911、ROM912等を相互に接続するバス915とを備える。なお、コンピュータ901は、LANへの接続を提供する図示しないネットワークカードを含んでいてもよい。
コンピュータシステム900に、上記実施の形態による情報処理システム等の機能を実行させるプログラムは、CD−ROM921、またはFD922に記憶されて、CD−ROMドライブ905、またはFDドライブ906に挿入され、ハードディスク914に転送されてもよい。これに代えて、そのプログラムは、図示しないネットワークを介してコンピュータ901に送信され、ハードディスク914に記憶されてもよい。プログラムは実行の際にRAM913にロードされる。なお、プログラムは、CD−ROM921やFD922、またはネットワークから直接、ロードされてもよい。
プログラムは、コンピュータ901に、上記実施の形態による情報処理システムの機能を実行させるオペレーティングシステム(OS)、またはサードパーティプログラム等を必ずしも含んでいなくてもよい。プログラムは、制御された態様で適切な機能(モジュール)を呼び出し、所望の結果が得られるようにする命令の部分のみを含んでいてもよい。コンピュータシステム900がどのように動作するのかについては周知であり、詳細な説明は省略する。
本発明は、以上の実施の形態に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
以上のように、本発明にかかる情報処理システム等は、金型を用いて加工された加工品に関する情報を出力する装置等として適しており、特に、加工品を撮影した画像上に、この加工品に関する情報を重ねて出力する装置等として有用である。
1 情報処理システム
11 サーバ装置
12 端末装置
20 情報処理装置
70 プレス成形加工機
71 金型
72、74 二次元バーコード
73 部材
75 加工品
101 金型三次元データ格納部
102 部材データ格納部
110 点解析情報格納部
111 点解析情報取得部
112 サーバ受信部
113、213 取得部
114 サーバ送信部
120 モニタ
121 撮像部
122 撮影画像格納部
123 受付部
124 端末送信部
125 端末受信部
126 撮像加工品形状データ取得部
127 投影設定情報取得部
128 解析加工品形状データ取得部
129 変換部
130 解析画像生成部
131 出力部
151 撮像加工品形状データ
152 解析加工品形状データ

Claims (12)

  1. サーバ装置と端末装置とを有する情報処理システムであって、
    前記サーバ装置は、
    金型の識別情報である金型識別情報と、部材を前記金型に対応する形状に加工した場合の、当該加工された部材の表面の1以上の点をそれぞれ示す情報である一以上の点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、当該加工された部材の表面の、前記1以上の点情報が示す各点についての解析結果を示す情報である1以上の解析情報と、を有する点解析情報が1以上格納される点解析情報格納部と、
    金型識別情報を前記端末装置から受信するサーバ受信部と、
    前記サーバ受信部が受信した金型識別情報に対応する1以上の点情報と、当該各点情報に対応する解析情報との1以上の組を、前記点解析情報格納部から取得する取得部と、
    前記取得部が取得した点情報と解析情報との1以上の組を前記端末装置に送信するサーバ送信部と、を備え、
    前記端末装置は、
    金型を用いて部材を加工して得られた加工品を撮影した画像である1以上の撮影画像を取得する撮像部と、
    前記撮像部が撮影した加工品の加工に用いられた金型の金型識別情報を受け付ける受付部と、
    当該受付部が受け付けた金型識別情報を前記サーバ装置に送信する端末送信部と、
    点情報と解析情報との1以上の組を前記サーバ装置から受信する端末受信部と、
    1以上の前記撮影画像を用いて、撮影対象となった加工品の形状を示す三次元のデータである撮像加工品形状データを取得する撮像加工品形状データ取得部と、
    前記撮像加工品形状データを取得する際に用いられた撮影画像の1以上のそれぞれについて、前記撮像加工品形状データが示す形状を投影した投影図を得るための設定を示す情報であって、当該投影図内における撮像加工品形状データが示す形状が、当該撮影画像内における加工品の形状と同じとなる投影図を得るための設定を示す情報である投影設定情報を取得する投影設定情報取得部と、
    前記受付部が受け付けた金型識別情報が示す金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する解析加工品形状データ取得部と、
    前記解析加工品形状データが撮像加工品形状データと重なるよう、前記解析加工品形状データを座標変換する変換部と、
    前記変換部が座標変換した解析加工品形状データと、当該解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する前記解析情報と、前記投影設定情報の一つとを用いて、前記解析加工品形状データが示す形状の表面に前記解析情報が示す解析結果に関する情報を示した投影図の画像である解析画像を、前記投影設定情報が示す設定に応じて生成する解析画像生成部と、
    前記解析画像生成部が用いた投影設定情報に対応する撮影画像と前記解析画像とを重ねた画像を出力する出力部と、を備えた情報処理システム。
  2. 前記点解析情報は、前記金型識別情報が示す金型を用いて加工される部材を識別する情報である部材識別情報を更に有し、
    前記サーバ受信部は、金型識別情報と部材識別情報との組を前記端末装置から受信し、
    前記取得部は、前記サーバ受信部が受信した金型識別情報と部材識別情報とに対応する1以上の点情報と、当該各点情報に対応する解析情報との1以上の組を、前記点解析情報格納部から取得し、
    前記受付部は、当該加工に用いられた部材の部材識別情報を更に受け付け、
    前記端末送信部は、当該受付部が受け付けた金型識別情報と部材識別情報とを前記サーバ装置に送信する請求項1記載の情報処理システム。
  3. 前記撮像加工品形状データ取得部は、前記撮像部が一の撮影画像を取得したごとに、撮像加工品形状データを取得し、
    前記投影設定情報取得部は、前記撮像部が一の撮影画像を取得したごとに、投影設定情報を取得し、
    前記解析画像生成部は、前記投影設定情報取得部が前記一の撮影画像について取得した投影設定情報を用いて解析画像を生成し、
    前記出力部は、前記撮像部が一の撮影画像を取得したごとに、当該一の撮影画像と、前記解析画像とを重ねた画像を出力する請求項1または請求項2記載の情報処理システム。
  4. 金型の識別情報である金型識別情報と、部材を前記金型に対応する形状に加工した場合の、当該加工された部材の表面の1以上の点をそれぞれ示す情報である一以上の点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、当該加工された部材の表面の、前記1以上の点情報が示す各点についての解析結果を示す情報である1以上の解析情報と、を有する点解析情報が1以上格納される点解析情報格納部と、
    金型識別情報を端末装置から受信するサーバ受信部と、
    前記サーバ受信部が受信した金型識別情報に対応する1以上の点情報と、当該各点情報に対応する解析情報との1以上の組を、前記点解析情報格納部から取得する取得部と、
    前記取得部が取得した点情報と解析情報との1以上の組を前記端末装置に送信するサーバ送信部と、を備えたサーバ装置。
  5. 金型を用いて部材を加工して得られた加工品を撮影した画像である1以上の撮影画像を取得する撮像部と、
    前記撮像部が撮影した加工品の加工に用いられた金型の金型識別情報を受け付ける受付部と、
    当該受付部が受け付けた金型識別情報をサーバ装置に送信する端末送信部と、
    部材を前記端末送信部が送信した金型識別情報が示す金型に対応する形状に加工した場合の、当該加工された部材の表面の1以上の点をそれぞれ示す情報である点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、当該加工された部材の表面の、前記1以上の点情報が示す各点についての解析結果を示す情報である解析情報との1以上の組を前記サーバ装置から受信する端末受信部と、
    1以上の前記撮影画像を用いて、撮影対象となった加工品の形状を示す三次元のデータである撮像加工品形状データを取得する撮像加工品形状データ取得部と、
    前記撮像加工品形状データを取得する際に用いられた撮影画像の1以上のそれぞれについて、前記撮像加工品形状データが示す形状を投影した投影図を得るための設定を示す情報であって、当該投影図内における撮像加工品形状データが示す形状が、当該撮影画像内における加工品の形状と同じとなる投影図を得るための設定を示す情報である投影設定情報を取得する投影設定情報取得部と、
    前記受付部が受け付けた金型識別情報が示す金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する解析加工品形状データ取得部と、
    前記解析加工品形状データが撮像加工品形状データと重なるよう、前記解析加工品形状データを座標変換する変換部と、
    前記変換部が座標変換した解析加工品形状データと、当該解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する前記解析情報と、前記投影設定情報の一つとを用いて、前記解析加工品形状データが示す形状の表面に前記解析情報が示す解析結果に関する情報を示した投影図の画像である解析画像を、前記投影設定情報が示す設定に応じて生成する解析画像生成部と、
    前記解析画像生成部が用いた投影設定情報に対応する撮影画像と前記解析画像とを重ねた画像を出力する出力部と、を備えた端末装置。
  6. 金型の識別情報である金型識別情報と、部材を前記金型に対応する形状に加工した場合の、当該加工された部材の表面の1以上の点をそれぞれ示す情報である一以上の点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、当該加工された部材の表面の、前記1以上の点情報が示す各点についての解析結果を示す情報である1以上の解析情報と、を有する点解析情報が1以上格納される点解析情報格納部と、
    金型を用いて部材を加工して得られた加工品を撮影した画像である1以上の撮影画像を取得する撮像部と、
    前記撮像部が撮影した加工品の加工に用いられた金型の金型識別情報を受け付ける受付部と、
    前記受付部が受け付けた金型識別情報に対応する1以上の点情報と、当該各点情報に対応する解析情報との1以上の組を、前記点解析情報格納部から取得する取得部と、
    1以上の前記撮影画像を用いて、撮影対象となった加工品の形状を示す三次元のデータである撮像加工品形状データを取得する撮像加工品形状データ取得部と、
    前記撮像加工品形状データを取得する際に用いられた撮影画像の1以上のそれぞれについて、前記撮像加工品形状データが示す形状を投影した投影図を得るための設定を示す情報であって、当該投影図内における撮像加工品形状データが示す形状が、当該撮影画像内における加工品の形状と同じとなる投影図を得るための設定を示す情報である投影設定情報を取得する投影設定情報取得部と、
    前記受付部が受け付けた金型識別情報が示す金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する解析加工品形状データ取得部と、
    前記解析加工品形状データが撮像加工品形状データと重なるよう、前記解析加工品形状データを座標変換する変換部と、
    前記変換部が座標変換した解析加工品形状データと、当該解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する前記解析情報と、前記投影設定情報の一つとを用いて、前記解析加工品形状データが示す形状の表面に前記解析情報が示す解析結果に関する情報を示した投影図の画像である解析画像を、前記投影設定情報が示す設定に応じて生成する解析画像生成部と、
    前記解析画像生成部が用いた投影設定情報に対応する撮影画像と前記解析画像とを重ねた画像を出力する出力部と、を備えた情報処理装置。
  7. 金型の識別情報である金型識別情報と、部材を前記金型に対応する形状に加工した場合の、当該加工された部材の表面の1以上の点をそれぞれ示す情報である一以上の点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、当該加工された部材の表面の、前記1以上の点情報が示す各点についての解析結果を示す情報である1以上の解析情報と、を有する点解析情報が1以上格納される点解析情報格納部と、サーバ受信部と、取得部と、サーバ送信部とを用いて行われる情報処理方法であって、
    前記サーバ受信部が、金型識別情報を端末装置から受信するサーバ受信ステップと、
    前記取得部が、前記サーバ受信ステップで受信した金型識別情報に対応する1以上の点情報と、当該各点情報に対応する解析情報との1以上の組を、前記点解析情報格納部から取得する取得ステップと、
    前記サーバ送信部が、前記取得ステップで取得した点情報と解析情報との1以上の組を前記端末装置に送信するサーバ送信ステップと、を備えた情報処理方法。
  8. 撮像部と、受付部と、端末側送信部と、端末側受信部と、撮像加工品形状データ取得部と、投影設定情報取得部と、解析加工品形状データ取得部と、変換部と、解析画像生成部と、出力部とを用いて行われる情報処理方法であって、
    前記撮像部が、金型を用いて部材を加工して得られた加工品を撮影した画像である1以上の撮影画像を取得する撮像ステップと、
    前記受付部が、前記撮像ステップで撮影した加工品の加工に用いられた金型の金型識別情報を受け付ける受付ステップと、
    前記端末側送信部が、当該受付ステップで受け付けた金型識別情報をサーバ装置に送信する端末送信ステップと、
    前記端末受信部が、部材を前記端末送信ステップにより送信した金型識別情報が示す金型に対応する形状に加工した場合の、当該加工された部材の表面の1以上の点をそれぞれ示す情報である点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、当該加工された部材の表面の、前記1以上の点情報が示す各点についての解析結果を示す情報である解析情報との1以上の組を前記サーバ装置から受信する端末受信ステップと、
    前記撮像加工品形状データ取得部が、1以上の前記撮影画像を用いて、撮影対象となった加工品の形状を示す三次元のデータである撮像加工品形状データを取得する撮像加工品形状データ取得ステップと、
    前記投影設定情報取得部が、前記撮像加工品形状データを取得する際に用いられた撮影画像の1以上のそれぞれについて、前記撮像加工品形状データが示す形状を投影した投影図を得るための設定を示す情報であって、当該投影図内における撮像加工品形状データが示す形状が、当該撮影画像内における加工品の形状と同じとなる投影図を得るための設定を示す情報である投影設定情報を取得する投影設定情報取得ステップと、
    前記解析加工品形状データ取得部が、前記受付ステップで受け付けた金型識別情報が示す金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する解析加工品形状データ取得ステップと、
    前記変換部が、前記解析加工品形状データが撮像加工品形状データと重なるよう、前記解析加工品形状データを座標変換する変換ステップと、
    前記解析画像生成部が、前記変換ステップで座標変換した解析加工品形状データと、当該解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する前記解析情報と、前記投影設定情報の一つとを用いて、前記解析加工品形状データが示す形状の表面に前記解析情報が示す解析結果に関する情報を示した投影図の画像である解析画像を、前記投影設定情報が示す設定に応じて生成する解析画像生成ステップと、
    前記出力部が、前記解析画像生成ステップで用いた投影設定情報に対応する撮影画像と前記解析画像とを重ねた画像を出力する出力ステップと、を備えた情報処理方法。
  9. 金型の識別情報である金型識別情報と、部材を前記金型に対応する形状に加工した場合の、当該加工された部材の表面の1以上の点をそれぞれ示す情報である一以上の点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、当該加工された部材の表面の、前記1以上の点情報が示す各点についての解析結果を示す情報である1以上の解析情報と、を有する点解析情報が1以上格納される点解析情報格納部と、撮像部と、受付部と、取得部と、撮像加工品形状データ取得部と、投影設定情報取得部と、解析加工品形状データ取得部と、変換部と、解析画像生成部と、出力部とを用いて行われる情報処理方法であって、
    前記撮像部が、金型を用いて部材を加工して得られた加工品を撮影した画像である1以上の撮影画像を取得する撮像ステップと、
    前記受付部が、前記撮像ステップで撮影した加工品の加工に用いられた金型の金型識別情報を受け付ける受付ステップと、
    前記取得部が、前記受付ステップで受け付けた金型識別情報に対応する1以上の点情報と、当該各点情報に対応する解析情報との1以上の組を、前記点解析情報格納部から取得する取得ステップと、
    前記撮像加工品形状データ取得部が、1以上の前記撮影画像を用いて、撮影対象となった加工品の形状を示す三次元のデータである撮像加工品形状データを取得する撮像加工品形状データ取得ステップと、
    前記投影設定情報取得部が、前記撮像加工品形状データを取得する際に用いられた撮影画像の1以上のそれぞれについて、前記撮像加工品形状データが示す形状を投影した投影図を得るための設定を示す情報であって、当該投影図内における撮像加工品形状データが示す形状が、当該撮影画像内における加工品の形状と同じとなる投影図を得るための設定を示す情報である投影設定情報を取得する投影設定情報取得ステップと、
    前記解析加工品形状データ取得部が、前記受付ステップで受け付けた金型識別情報が示す金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する解析加工品形状データ取得ステップと、
    前記変換部が、解析加工品形状データが撮像加工品形状データと重なるよう、前記解析加工品形状データを座標変換する変換ステップと、
    前記解析画像生成部が、前記変換ステップで座標変換した解析加工品形状データと、当該解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する前記解析情報と、前記投影設定情報の一つとを用いて、前記解析加工品形状データが示す形状の表面に前記解析情報が示す解析結果に関する情報を示した投影図の画像である解析画像を、前記投影設定情報が示す設定に応じて生成する解析画像生成ステップと、
    前記出力部が、解析画像生成ステップで用いられた投影設定情報に対応する撮影画像と前記解析画像とを重ねた画像を出力する出力ステップと、を備えた情報処理方法。
  10. 金型の識別情報である金型識別情報と、部材を前記金型に対応する形状に加工した場合の、当該加工された部材の表面の1以上の点をそれぞれ示す情報である一以上の点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、当該加工された部材の表面の、前記1以上の点情報が示す各点についての解析結果を示す情報である1以上の解析情報と、を有する点解析情報が1以上格納される点解析情報格納部にアクセス可能なコンピュータを、
    金型識別情報を端末装置から受信するサーバ受信部と、
    前記サーバ受信部が受信した金型識別情報に対応する1以上の点情報と、当該各点情報に対応する解析情報との1以上の組を、前記点解析情報格納部から取得する取得部と、
    前記取得部が取得した点情報と解析情報との1以上の組を前記端末装置に送信するサーバ送信部と、して機能させるためのプログラム。
  11. コンピュータを、
    金型を用いて部材を加工して得られた加工品を撮影した画像である1以上の撮影画像を取得する撮像部と、
    前記撮像部が撮影した加工品の加工に用いられた金型の金型識別情報を受け付ける受付部と、
    当該受付部が受け付けた金型識別情報をサーバ装置に送信する端末送信部と、
    部材を前記端末送信部が送信した金型識別情報が示す金型に対応する形状に加工した場合の、当該加工された部材の表面の1以上の点をそれぞれ示す情報である点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、当該加工された部材の表面の、前記1以上の点情報が示す各点についての解析結果を示す情報である解析情報との1以上の組を前記サーバ装置から受信する端末受信部と、
    1以上の前記撮影画像を用いて、撮影対象となった加工品の形状を示す三次元のデータである撮像加工品形状データを取得する撮像加工品形状データ取得部と、
    前記撮像加工品形状データを取得する際に用いられた撮影画像の1以上のそれぞれについて、前記撮像加工品形状データが示す形状を投影した投影図を得るための設定を示す情報であって、当該投影図内における撮像加工品形状データが示す形状が、当該撮影画像内における加工品の形状と同じとなる投影図を得るための設定を示す情報である投影設定情報を取得する投影設定情報取得部と、
    前記受付部が受け付けた金型識別情報が示す金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する解析加工品形状データ取得部と、
    前記解析加工品形状データが撮像加工品形状データと重なるよう、前記解析加工品形状データを座標変換する変換部と、
    前記変換部が座標変換した解析加工品形状データと、当該解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する前記解析情報と、前記投影設定情報の一つとを用いて、前記解析加工品形状データが示す形状の表面に前記解析情報が示す解析結果に関する情報を示した投影図の画像である解析画像を、前記投影設定情報が示す設定に応じて生成する解析画像生成部と、
    前記解析画像生成部が用いた投影設定情報に対応する撮影画像と前記解析画像とを重ねた画像を出力する出力部と、して機能させるためのプログラム。
  12. 金型の識別情報である金型識別情報と、部材を前記金型に対応する形状に加工した場合の、当該加工された部材の表面の1以上の点をそれぞれ示す情報である一以上の点情報と、当該加工された部材に対して予め指定された解析を行うことにより得られた情報であって、当該加工された部材の表面の、前記1以上の点情報が示す各点についての解析結果を示す情報である1以上の解析情報と、を有する点解析情報が1以上格納される点解析情報格納部にアクセス可能なコンピュータを、
    金型を用いて部材を加工して得られた加工品を撮影した画像である1以上の撮影画像を取得する撮像部と、
    前記撮像部が撮影した加工品の加工に用いられた金型の金型識別情報を受け付ける受付部と、
    前記受付部が受け付けた金型識別情報に対応する1以上の点情報と、当該各点情報に対応する解析情報との1以上の組を、前記点解析情報格納部から取得する取得部と、
    1以上の前記撮影画像を用いて、撮影対象となった加工品の形状を示す三次元のデータである撮像加工品形状データを取得する撮像加工品形状データ取得部と、
    前記撮像加工品形状データを取得する際に用いられた撮影画像の1以上のそれぞれについて、前記撮像加工品形状データが示す形状を投影した投影図を得るための設定を示す情報であって、当該投影図内における撮像加工品形状データが示す形状が、当該撮影画像内における加工品の形状と同じとなる投影図を得るための設定を示す情報である投影設定情報を取得する投影設定情報取得部と、
    前記受付部が受け付けた金型識別情報が示す金型に対応する形状を示す三次元のデータである解析加工品形状データを取得する解析加工品形状データ取得部と、
    前記解析加工品形状データが撮像加工品形状データと重なるよう、前記解析加工品形状データを座標変換する変換部と、
    前記変換部が座標変換した解析加工品形状データと、当該解析加工品形状データが示す三次元形状の表面の1以上の点を示す点情報に対応する前記解析情報と、前記投影設定情報の一つとを用いて、前記解析加工品形状データが示す形状の表面に前記解析情報が示す解析結果に関する情報を示した投影図の画像である解析画像を、前記投影設定情報が示す設定に応じて生成する解析画像生成部と、
    前記解析画像生成部が用いた投影設定情報に対応する撮影画像と前記解析画像とを重ねた画像を出力する出力部と、して機能させるためのプログラム。
JP2012076177A 2012-03-29 2012-03-29 情報処理システム、サーバ装置、端末装置、情報処理装置、情報処理方法、およびプログラム Active JP5843359B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012076177A JP5843359B2 (ja) 2012-03-29 2012-03-29 情報処理システム、サーバ装置、端末装置、情報処理装置、情報処理方法、およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012076177A JP5843359B2 (ja) 2012-03-29 2012-03-29 情報処理システム、サーバ装置、端末装置、情報処理装置、情報処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2013206267A JP2013206267A (ja) 2013-10-07
JP5843359B2 true JP5843359B2 (ja) 2016-01-13

Family

ID=49525250

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012076177A Active JP5843359B2 (ja) 2012-03-29 2012-03-29 情報処理システム、サーバ装置、端末装置、情報処理装置、情報処理方法、およびプログラム

Country Status (1)

Country Link
JP (1) JP5843359B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6374467B2 (ja) * 2016-11-14 2018-08-15 ファナック株式会社 通信システムおよび携帯端末
JP6905651B1 (ja) * 2019-12-13 2021-07-21 川崎重工業株式会社 ロボットシステム及びワークの3次元モデルの形成方法
CN116882070B (zh) * 2023-09-01 2023-11-14 中汽研汽车工业工程(天津)有限公司 一种面向整车制造的工业数字孪生管理系统

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3527434B2 (ja) * 1999-03-18 2004-05-17 富士通株式会社 構造解析装置および記録媒体
JP2006018422A (ja) * 2004-06-30 2006-01-19 Yokohama Rubber Co Ltd:The タイヤ有限要素モデル作成方法
JP2006221319A (ja) * 2005-02-09 2006-08-24 Kanto Auto Works Ltd 成型部品の仮想試作装置
JP5610883B2 (ja) * 2010-07-06 2014-10-22 三菱電機株式会社 加工シミュレーション装置及び方法

Also Published As

Publication number Publication date
JP2013206267A (ja) 2013-10-07

Similar Documents

Publication Publication Date Title
JP5134664B2 (ja) アノテーション装置
US20170193693A1 (en) Systems and methods for generating time discrete 3d scenes
JP4770960B2 (ja) 画像検索システム及び画像検索方法
JP7073850B2 (ja) 入力装置および入力装置の入力方法
JP2008275341A (ja) 情報処理装置、情報処理方法
KR102464271B1 (ko) 포즈 획득 방법, 장치, 전자 기기, 저장 매체 및 프로그램
JP6304244B2 (ja) 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム
JP6091658B2 (ja) 情報処理装置及び情報処理方法及びプログラム
JP6640294B1 (ja) 複合現実システム、プログラム、携帯端末装置、及び方法
WO2019093457A1 (ja) 情報処理装置、情報処理方法及びプログラム
JP5843359B2 (ja) 情報処理システム、サーバ装置、端末装置、情報処理装置、情報処理方法、およびプログラム
JP2017201472A (ja) 造形用画像管理システム、造形用画像管理装置、造形用画像管理プログラム
JP6409769B2 (ja) 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム
KR101792701B1 (ko) 도면 검사 장치 및 방법
JP6405539B2 (ja) 多視点画像に対するラベル情報の処理装置及びそのラベル情報の処理方法
JP6625654B2 (ja) 投影装置、投影方法、および、プログラム
JP2006059165A (ja) 3次元モデリング装置、幾何学パターン、3次元モデリングデータの生成方法、3次元モデリングプログラム、記録媒体
JP2013156909A (ja) 形状モデル生成装置及び作業前後対応画像判定システム
KR102129431B1 (ko) 3차원 신체 모델 생성 장치 및 방법
JP2018092507A (ja) 画像処理装置、画像処理方法及びプログラム
Alves et al. Automatic 3D shape recovery for rapid prototyping
JP2008131174A (ja) 画像処理システム及び画像処理プログラム
JP5343823B2 (ja) メモ情報管理システム、メモ情報処理装置及びプログラム
WO2023132275A1 (ja) 物体測定装置及び物体測定方法
US20170301134A1 (en) Method for creating three-dimensional documentation

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141016

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150904

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151002

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151113

R150 Certificate of patent or registration of utility model

Ref document number: 5843359

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250