JP7169389B2 - 文書タイトルツリーの構築方法、装置、電子設備、記憶媒体、及びプログラム - Google Patents
文書タイトルツリーの構築方法、装置、電子設備、記憶媒体、及びプログラム Download PDFInfo
- Publication number
- JP7169389B2 JP7169389B2 JP2021049630A JP2021049630A JP7169389B2 JP 7169389 B2 JP7169389 B2 JP 7169389B2 JP 2021049630 A JP2021049630 A JP 2021049630A JP 2021049630 A JP2021049630 A JP 2021049630A JP 7169389 B2 JP7169389 B2 JP 7169389B2
- Authority
- JP
- Japan
- Prior art keywords
- paragraph
- document
- title
- level
- current
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010276 construction Methods 0.000 title claims description 24
- PWPJGUXAGUPAHP-UHFFFAOYSA-N lufenuron Chemical compound C1=C(Cl)C(OC(F)(F)C(C(F)(F)F)F)=CC(Cl)=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F PWPJGUXAGUPAHP-UHFFFAOYSA-N 0.000 title 1
- 238000000034 method Methods 0.000 claims description 64
- 238000010801 machine learning Methods 0.000 claims description 38
- 230000015654 memory Effects 0.000 claims description 22
- 239000013598 vector Substances 0.000 claims description 19
- 230000014509 gene expression Effects 0.000 claims description 11
- 230000000875 corresponding effect Effects 0.000 description 49
- 238000010586 diagram Methods 0.000 description 20
- 230000008569 process Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000011218 segmentation Effects 0.000 description 3
- 239000012634 fragment Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000005065 mining Methods 0.000 description 2
- 238000012015 optical character recognition Methods 0.000 description 2
- 230000006403 short-term memory Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000153 supplemental effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/258—Heading extraction; Automatic titling; Numbering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/12—Use of codes for handling textual entities
- G06F40/14—Tree-structured documents
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/31—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/189—Automatic justification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/253—Grammatical analysis; Style critique
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
- G06N5/022—Knowledge engineering; Knowledge acquisition
- G06N5/025—Extracting rules from data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/414—Extracting the geometrical structure, e.g. layout tree; Block segmentation, e.g. bounding boxes for graphics or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Multimedia (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Document Processing Apparatus (AREA)
Description
予め定義された規則に基づいて、処理されるべき文書における各段落のテキスト特徴と前記予め定義された規則における段落特徴とを規則マッチングすることと、
規則マッチングが成功した場合に、前記規則マッチングの結果に基づいて、前記処理されるべき文書における各段落の段落レベルを決定することと、
規則マッチングが失敗した場合に、機械学習モデルを用いて、処理されるべき文書における各段落の段落レベルを決定することと、
各段落の段落レベルに基づき、処理されるべき文書の文書タイトルツリーを構築することと、を含む。
予め定義された規則に基づいて、処理されるべき文書における各段落のテキスト特徴と予め定義された規則における段落特徴とを規則マッチングするためのマッチングユニットと、
規則マッチングが成功した場合に、規則マッチングの結果に基づいて、処理されるべき文書における各段落の段落レベルを決定するための第1決定ユニットと、
規則マッチングが失敗した場合に、機械学習モデルを用いて、処理されるべき文書における各段落の段落レベルを決定するための第2決定ユニットと、
前記各段落の段落レベルに基づき、処理されるべき文書の文書タイトルツリーを構築するための構築ユニットと、を備える。
少なくとも1つのプロセッサと、
少なくとも1つのプロセッサに通信接続されるメモリと、を備え、
メモリには、少なくとも1つのプロセッサにより実行可能な命令が記憶されており、
命令は、少なくとも1つのプロセッサにより実行される場合、本発明の実施形態における任意の文書タイトルツリーの構築方法を実行させることを特徴とする。
本発明の実施形態における任意の文書タイトルツリーの構築方法をコンピュータに実行させる。
様々な構造化されていない文書のタイトルの識別および文書タイトルツリーの構築に適応し、予め定義された規則と機械学習モデルとの組み合わせに基づく方式は、比較的強いフォールトトレランスを有するため、識別結果がさらに正確となる。
1つの実施形態において、予め定義された規則における段落特徴は、文書本文特徴を含む。文書本文特徴として、段落テキストにおいて予め定められた句読点、予め定められた段落の長さの閾値が含まれている、段落テキストにおいて予め定められた文字が含まれている、段落テキストにおいて数字以外の文字が含まれていない、などを含むことができる。
1つの実施形態において、予め定義された規則における段落特徴は、文書タイトルのタイトル内容より前の数字符号のフォーマットを含む、
図1におけるステップS114:規則マッチングが成功した場合に、規則マッチングの結果に基づいて、処理されるべき文書における各段落の段落レベルを決定することは具体的に以下を含む。
1つの実施形態において、予め定義された規則における段落特徴は、キーワード集合を含み、キーワード集合は、ブラックリストとホワイトリストとを含み、ブラックリストは、文書タイトルに含まれるキーワードを含み、ホワイトリストは、文書タイトルに含まれないキーワードを含む。
ここで、x_embは単語分割後の単語ベクトルシーケンス特徴を表し、x_posは単語分割後の品詞シーケンス特徴を表し、yは最終的に得られた出力結果を表す。ここで、yが1のとき、予測結果は、現在の段落が文書タイトルであることを表す。1つの実施形態において、LSTMモデルによりタイトルとして識別された文書段落の対応する重み値を、すべて第2の予め定められた数値と設定することができ、例えば、該数値は7であってもよい。yが0のとき、予測結果は、現在の段落が文書タイトルでないことを表し、重み値100を付与する。
1つの実施形態において、図1におけるステップS120において、各段落の段落レベルに基づき、処理されるべき文書の文書タイトルツリーを構築することは、以下を含む。
前記第2決定ユニット300は、
現在の段落から単語ベクトルシーケンス特徴と品詞シーケンス特徴とを抽出することと、
単語ベクトルシーケンス特徴と品詞シーケンス特徴とを機械学習モデルに入力することと、
機械学習モデルを用いて処理されるべき文書における各段落の段落レベルを出力することと、に用いられる。
第1決定ユニット200は、
処理されるべき文書における現在の段落と文書本文特徴とのマッチングが成功した場合に、現在の段落の段落レベルを文書本文として決定すること、に用いられる。
第1決定ユニット200は、
文書タイトルのタイトル内容より前に数字符号が含まれると識別した場合に、サンプル文書に基づき、各タイトルレベルからなるタイトルレベル集合を取得し、かつ、各タイトルレベルの対応する数字符号のフォーマットの正規表現を取得することと、
現在の段落におけるタイトル内容より前の数字符号のフォーマットと各タイトルレベルの対応する正規表現とをマッチングし、マッチングした結果に基づいて、現在の段落のタイトルレベルを決定することと、に用いられる。
第1決定ユニット200は、
現在の段落のテキストとキーワード集合とをマッチングすることと、
現在の段落のテキストとホワイトリストとのマッチングが成功した場合に、現在の段落の段落レベルを予め設定された、ホワイトリストに対応するタイトルレベルとして決定することと、
現在の段落のテキストとブラックリストとのマッチングが成功した場合に、現在の段落の段落レベルを文書本文として決定することと、に用いられる。
処理されるべき文書における1番目の段落を現在の段落とし、ルートノードを文書タイトルツリーの最後のノードとすることと、
現在の段落の段落レベルと最後のノードの段落レベルとを比較することと、
比較の結果に基づいて、現在の段落の対応する段落ノードを文書タイトルツリーに追加することと、
現在の段落の次の段落を新たな現在の段落とし、現在の段落の対応する段落ノードを新たな最後のノードとすることと、
新たな現在の段落と新たな最後のノードとについて、現在の段落の段落レベルと最後のノードの段落レベルとを比較し、比較の結果に基づいて、現在の段落の対応する段落ノードを文書タイトルツリーに追加するステップを繰り返し実行することと、に用いられる。
現在の段落の段落レベルが最後のノードの段落レベルよりも高い場合に、最後のノードの親ノードを新たな最後のノードとし、現在の段落の段落レベルと最後のノードの段落レベルとを比較するステップ繰り返し実行することと、
現在の段落の段落レベルが最後のノードの段落レベルよりも低い場合に、現在の段落の対応する段落ノードを最後のノードの子ノードとすることと、に用いられる。
Claims (17)
- 文書タイトルツリーの構築装置により実行される、文書タイトルツリーの構築方法であって、
予め定義された規則に基づいて、処理されるべき文書における各段落のテキスト特徴と前記予め定義された規則における段落特徴とを規則マッチングすることと、
規則マッチングが成功した場合に、前記規則マッチングの結果に基づいて、前記処理されるべき文書における各段落の段落レベルを決定することと、
規則マッチングが失敗した場合に、機械学習モデルを用いて、前記処理されるべき文書における各段落の段落レベルを決定することと、
前記各段落の段落レベルに基づき、前記処理されるべき文書の文書タイトルツリーを構築することと、を含み、
前記予め定義された規則における段落特徴は、文書タイトルのタイトル内容より前の数字符号のフォーマットを含み、
前記規則マッチングが成功した場合に、前記規則マッチングの結果に基づいて、前記処理されるべき文書における各段落の段落レベルを決定することは、
様々なシーンにおいて使用されるサンプル文書を予め収集し、サンプル文書から、数字から始まる複数のタイトル段落を抽出し、前記複数のタイトル段落から、各種の異なる数字符号のフォーマットを取得し、前記数字符号のフォーマットの各々によって表れた異なるタイトルレベルの各々の取得によって、前記タイトルレベルの各々からなるタイトルレベル集合及び前記タイトルレベルの各々に対応する数字符号のフォーマットの正規表現を取得し、前記文書タイトルのタイトル内容より前に数字符号が含まれると識別した場合に、現在の段落におけるタイトル内容より前の数字符号のフォーマットと前記タイトルレベルの各々の対応する正規表現とをマッチングし、マッチングした結果に基づいて、現在の段落のタイトルレベルを決定すること、を含む、
ことを特徴とする文書タイトルツリーの構築方法。 - 前記機械学習モデルは、長・短期記憶ネットワークモデルを含み、
前記規則マッチングが失敗した場合に、機械学習モデルを用いて、前記処理されるべき文書における各段落の段落レベルを決定することは、
現在の段落から単語ベクトルシーケンス特徴と品詞シーケンス特徴とを抽出することと、
前記単語ベクトルシーケンス特徴と前記品詞シーケンス特徴とを機械学習モデルに入力することと、
前記機械学習モデルを用いて前記処理されるべき文書における各段落の段落レベルを出力することと、を含む
ことを特徴とする請求項1に記載の文書タイトルツリーの構築方法。 - 前記予め定義された規則における段落特徴は、文書本文特徴を含み、
前記規則マッチングが成功した場合に、前記規則マッチングの結果に基づいて、前記処理されるべき文書における各段落の段落レベルを決定することは、
前記処理されるべき文書における現在の段落と前記文書本文特徴とのマッチングが成功した場合に、前記現在の段落の段落レベルを文書本文として決定すること、を含む
ことを特徴とする請求項1または2に記載の文書タイトルツリーの構築方法。 - 前記予め定義された規則における段落特徴は、キーワード集合を含み、
前記キーワード集合は、ブラックリストとホワイトリストとを含み、
前記ブラックリストは、文書タイトルに含まれるキーワードを含み、
前記ホワイトリストは、文書タイトルに含まれないキーワードを含み、
前記規則マッチングが成功した場合に、前記規則マッチングの結果に基づいて、前記処理されるべき文書における各段落の段落レベルを決定することは、
前記現在の段落のテキストと前記キーワード集合とをマッチングすることと、
前記現在の段落のテキストと前記ホワイトリストとのマッチングが成功した場合に、前記現在の段落の段落レベルを予め設定された、ホワイトリストに対応するタイトルレベルとして決定することと、
前記現在の段落のテキストと前記ブラックリストとのマッチングが成功した場合に、前記現在の段落の段落レベルを文書本文として決定することと、を含む
ことを特徴とする請求項1~3のいずれか一項に記載の文書タイトルツリーの構築方法。 - 前記各段落の段落レベルに基づき、前記処理されるべき文書の文書タイトルツリーを構築することは、
文書タイトルツリーのルートノードを作成し、かつ、前記ルートノードの対応する段落レベルを最高レベルとして割り当てることと、
前記処理されるべき文書における各段落の段落レベルに基づいて、前記各段落の対応する段落ノードを前記文書タイトルツリーに追加することと、を含む
ことを特徴とする請求項1~4のいずれか一項に記載の文書タイトルツリーの構築方法。 - 前記処理されるべき文書における各段落の段落レベルに基づいて、前記各段落の対応する段落ノードを前記文書タイトルツリーに追加することは、
処理されるべき文書における1番目の段落を現在の段落とし、前記ルートノードを前記文書タイトルツリーの最後のノードとすることと、
前記現在の段落の段落レベルと前記最後のノードの段落レベルとを比較することと、
前記比較の結果に基づいて、前記現在の段落の対応する段落ノードを前記文書タイトルツリーに追加することと、
前記現在の段落の次の段落を新たな現在の段落とし、前記現在の段落の対応する段落ノードを新たな最後のノードとすることと、
前記新たな現在の段落と前記新たな最後のノードとについて、前記現在の段落の段落レベルと前記最後のノードの段落レベルとを比較し、前記比較の結果に基づいて、前記現在の段落の対応する段落ノードを前記文書タイトルツリーに追加することを繰り返し実行することと、を含む
ことを特徴とする請求項5に記載の文書タイトルツリーの構築方法。 - 前記比較の結果に基づいて、前記現在の段落の対応する段落ノードを前記文書タイトルツリーに追加することは、
前記現在の段落の段落レベルが前記最後のノードの段落レベルよりも高い場合に、前記最後のノードの親ノードを新たな最後のノードとし、前記現在の段落の段落レベルと前記最後のノードの段落レベルとを比較することを繰り返し実行することと、
前記現在の段落の段落レベルが前記最後のノードの段落レベルよりも低い場合に、前記現在の段落の対応する段落ノードを前記最後のノードの子ノードとすることと、を含む
ことを特徴とする請求項6に記載の文書タイトルツリーの構築方法。 - 予め定義された規則に基づいて、処理されるべき文書における各段落のテキスト特徴と前記予め定義された規則における段落特徴とを規則マッチングするためのマッチングユニットと、
規則マッチングが成功した場合に、前記規則マッチングの結果に基づいて、前記処理されるべき文書における各段落の段落レベルを決定するための第1決定ユニットと、
規則マッチングが失敗した場合に、機械学習モデルを用いて、前記処理されるべき文書における各段落の段落レベルを決定するための第2決定ユニットと、
前記各段落の段落レベルに基づき、前記処理されるべき文書の文書タイトルツリーを構築するための構築ユニットと、を備え、
前記予め定義された規則における段落特徴は、文書タイトルのタイトル内容より前の数字符号のフォーマットを含み、
前記第1決定ユニットは、
様々なシーンにおいて使用されるサンプル文書を予め収集し、サンプル文書から、数字から始まる複数のタイトル段落を抽出し、前記複数のタイトル段落から、各種の異なる数字符号のフォーマットを取得し、前記数字符号のフォーマットの各々によって表れた異なるタイトルレベルの各々の取得によって、前記タイトルレベルの各々からなるタイトルレベル集合及び前記タイトルレベルの各々に対応する数字符号のフォーマットの正規表現を取得し、前記文書タイトルのタイトル内容より前に数字符号が含まれると識別した場合に、現在の段落におけるタイトル内容より前の数字符号のフォーマットと前記タイトルレベルの各々の対応する正規表現とをマッチングし、マッチングした結果に基づいて、現在の段落のタイトルレベルを決定することに用いられる、 ことを特徴とする文書タイトルツリーの構築装置。 - 前記機械学習モデルは、長・短期記憶ネットワークモデルを含み、
前記第2決定ユニットは、
現在の段落から単語ベクトルシーケンス特徴と品詞シーケンス特徴とを抽出することと、
前記単語ベクトルシーケンス特徴と前記品詞シーケンス特徴とを機械学習モデルに入力することと、
前記機械学習モデルを用いて前記処理されるべき文書における各段落の段落レベルを出力することと、に用いられる
ことを特徴とする請求項8に記載の文書タイトルツリーの構築装置。 - 前記予め定義された規則における段落特徴は、文書本文特徴を含み、
前記第1決定ユニットは、
前記処理されるべき文書における現在の段落と前記文書本文特徴とのマッチングが成功した場合に、前記現在の段落の段落レベルを文書本文として決定すること、に用いられる
ことを特徴とする請求項8又は9に記載の文書タイトルツリーの構築装置。 - 前記予め定義された規則における段落特徴は、キーワード集合を含み、
前記キーワード集合は、ブラックリストとホワイトリストとを含み、
前記ブラックリストは、文書タイトルに含まれるキーワードを含み、
前記ホワイトリストは、文書タイトルに含まれないキーワードを含み、
前記第1決定ユニットは、
前記現在の段落のテキストと前記キーワード集合とをマッチングすることと、
前記現在の段落のテキストと前記ホワイトリストとのマッチングが成功した場合に、前記現在の段落の段落レベルを予め設定された、ホワイトリストに対応するタイトルレベルとして決定することと、
前記現在の段落のテキストと前記ブラックリストとのマッチングが成功した場合に、前記現在の段落の段落レベルを文書本文として決定することと、に用いられる
ことを特徴とする請求項8~10のいずれか一項に記載の文書タイトルツリーの構築装置。 - 前記構築ユニットは、
文書タイトルツリーのルートノードを作成し、かつ、前記ルートノードの対応する段落レベルを最高レベルとして割り当てるための作成サブユニットと、
前記処理されるべき文書における各段落の段落レベルに基づいて、前記各段落の対応する段落ノードを前記文書タイトルツリーに追加するための追加サブユニットと、を備える
ことを特徴とする請求項8~11のいずれか一項に記載の文書タイトルツリーの構築装
置。 - 前記追加サブユニットは、
処理されるべき文書における1番目の段落を現在の段落とし、前記ルートノードを前記文書タイトルツリーの最後のノードとすることと、
前記現在の段落の段落レベルと前記最後のノードの段落レベルとを比較することと、
前記比較の結果に基づいて、前記現在の段落の対応する段落ノードを前記文書タイトルツリーに追加することと、
前記現在の段落の次の段落を新たな現在の段落とし、前記現在の段落の対応する段落ノードを新たな最後のノードとすることと、
前記新たな現在の段落と前記新たな最後のノードとについて、前記現在の段落の段落レベルと前記最後のノードの段落レベルとを比較し、前記比較の結果に基づいて、前記現在の段落の対応する段落ノードを前記文書タイトルツリーに追加することを繰り返し実行することと、に用いられる
ことを特徴とする請求項12に記載の文書タイトルツリーの構築装置。 - 前記追加サブユニットは、
前記現在の段落の段落レベルが前記最後のノードの段落レベルよりも高い場合に、前記最後のノードの親ノードを新たな最後のノードとし、前記現在の段落の段落レベルと前記最後のノードの段落レベルとを比較することを繰り返し実行することと、
前記現在の段落の段落レベルが前記最後のノードの段落レベルよりも低い場合に、前記現在の段落の対応する段落ノードを前記最後のノードの子ノードとすることと、に用いられる
ことを特徴とする請求項13に記載の文書タイトルツリーの構築装置。 - 少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに通信接続されるメモリと、を備え、
前記メモリには、前記少なくとも1つのプロセッサにより実行可能な命令が記憶されており、
前記命令は、前記少なくとも1つのプロセッサにより実行されると、請求項1~7のいずれか一項に記載の文書タイトルツリーの構築方法を実行させることを特徴とする電子設備。 - 請求項1~7のいずれか一項に記載の文書タイトルツリーの構築方法をコンピュータに実行させるためのコンピュータ命令を記憶した非一過性のコンピュータ可読記憶媒体。
- コンピュータにおいて、プロセッサにより実行されると、請求項1~7のいずれか一項に記載の文書タイトルツリーの構築方法を実現することを特徴とするプログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010247461.4A CN111460083B (zh) | 2020-03-31 | 2020-03-31 | 文档标题树的构建方法、装置、电子设备及存储介质 |
CN202010247461.4 | 2020-03-31 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021108153A JP2021108153A (ja) | 2021-07-29 |
JP7169389B2 true JP7169389B2 (ja) | 2022-11-10 |
Family
ID=71681599
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021049630A Active JP7169389B2 (ja) | 2020-03-31 | 2021-03-24 | 文書タイトルツリーの構築方法、装置、電子設備、記憶媒体、及びプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US20210303772A1 (ja) |
EP (1) | EP3889823A1 (ja) |
JP (1) | JP7169389B2 (ja) |
KR (1) | KR102509836B1 (ja) |
CN (1) | CN111460083B (ja) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111984589A (zh) * | 2020-08-14 | 2020-11-24 | 维沃移动通信有限公司 | 文档处理方法、文档处理装置和电子设备 |
CN112507666B (zh) * | 2020-12-21 | 2023-07-11 | 北京百度网讯科技有限公司 | 文档转换方法、装置、电子设备及存储介质 |
CN113568901B (zh) * | 2021-01-29 | 2024-04-19 | 腾讯科技(深圳)有限公司 | 一种数据处理方法、装置及存储介质 |
CN112818687B (zh) * | 2021-03-25 | 2022-07-08 | 杭州数澜科技有限公司 | 一种用于构建标题识别模型的方法、装置、电子设备以及存储介质 |
CN112908487B (zh) * | 2021-04-19 | 2023-09-22 | 中国医学科学院医学信息研究所 | 一种临床指南更新内容的自动识别方法及系统 |
CN113361256A (zh) * | 2021-06-24 | 2021-09-07 | 上海真虹信息科技有限公司 | 一种基于Aspose技术的Word文档快速解析方法 |
CN113378539B (zh) * | 2021-06-29 | 2023-02-14 | 华南理工大学 | 一种面向标准文档编写的模板推荐方法 |
CN113723078A (zh) * | 2021-09-07 | 2021-11-30 | 杭州叙简科技股份有限公司 | 一种文本逻辑信息结构化方法、装置及电子设备 |
CN113779235B (zh) * | 2021-09-13 | 2024-02-02 | 北京市律典通科技有限公司 | 一种Word文档大纲识别处理方法及装置 |
CN113918512B (zh) * | 2021-10-22 | 2024-08-13 | 国家电网公司华中分部 | 电网运行规则知识图谱构建系统及方法 |
KR102601932B1 (ko) * | 2021-11-08 | 2023-11-14 | (주)사람인 | 핑거프린트와 머신러닝을 활용한 기업별 문서의 데이터 추출 시스템 및 방법 |
CN114065745A (zh) * | 2021-11-29 | 2022-02-18 | 平安资产管理有限责任公司 | 文档标题树的生成方法、系统、设备及可读存储介质 |
CN115438628B (zh) * | 2022-11-08 | 2023-03-17 | 宏景科技股份有限公司 | 结构化文档协作管理方法、系统及文档结构 |
CN115983244A (zh) * | 2023-02-28 | 2023-04-18 | 北京字跳网络技术有限公司 | 信息处理方法、装置、电子设备和存储介质 |
CN117763206B (zh) * | 2024-02-20 | 2024-06-11 | 暗物智能科技(广州)有限公司 | 知识树的生成方法、装置、电子设备及存储介质 |
CN118313352A (zh) * | 2024-03-28 | 2024-07-09 | 华院计算技术(上海)股份有限公司 | 文档处理方法及装置、存储介质、终端、计算机程序产品 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020024516A (ja) | 2018-08-06 | 2020-02-13 | コニカミノルタ株式会社 | 情報処理装置および情報処理プログラム |
Family Cites Families (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5289375A (en) * | 1990-01-22 | 1994-02-22 | Sharp Kabushiki Kaisha | Translation machine |
JP2680540B2 (ja) * | 1994-05-09 | 1997-11-19 | 株式会社東芝 | 文書レイアウト方法 |
US6298357B1 (en) * | 1997-06-03 | 2001-10-02 | Adobe Systems Incorporated | Structure extraction on electronic documents |
US7493253B1 (en) * | 2002-07-12 | 2009-02-17 | Language And Computing, Inc. | Conceptual world representation natural language understanding system and method |
JP2007164705A (ja) * | 2005-12-16 | 2007-06-28 | S Ten Nine Kyoto:Kk | 電子化文書の変換方法及びプログラム |
US20080221892A1 (en) * | 2007-03-06 | 2008-09-11 | Paco Xander Nathan | Systems and methods for an autonomous avatar driver |
US8521512B2 (en) * | 2008-04-30 | 2013-08-27 | Deep Sky Concepts, Inc | Systems and methods for natural language communication with a computer |
US8180629B2 (en) * | 2008-07-10 | 2012-05-15 | Trigent Softward Ltd. | Automatic pattern generation in natural language processing |
CN102541948A (zh) * | 2010-12-23 | 2012-07-04 | 北大方正集团有限公司 | 用于提取文档结构的方法和装置 |
US9361049B2 (en) * | 2011-11-01 | 2016-06-07 | Xerox Corporation | Systems and methods for appearance-intent-directed document format conversion for mobile printing |
US9262404B2 (en) * | 2012-01-12 | 2016-02-16 | Accenture Global Services Limited | System for generating test scenarios and test conditions and expected results |
US9424233B2 (en) * | 2012-07-20 | 2016-08-23 | Veveo, Inc. | Method of and system for inferring user intent in search input in a conversational interaction system |
US20140156264A1 (en) * | 2012-11-19 | 2014-06-05 | University of Washington through it Center for Commercialization | Open language learning for information extraction |
US9880997B2 (en) * | 2014-07-23 | 2018-01-30 | Accenture Global Services Limited | Inferring type classifications from natural language text |
US10169453B2 (en) * | 2016-03-28 | 2019-01-01 | Microsoft Technology Licensing, Llc | Automatic document summarization using search engine intelligence |
CN106776495B (zh) * | 2016-11-23 | 2020-06-09 | 北京信息科技大学 | 一种文档逻辑结构重建方法 |
US10783262B2 (en) * | 2017-02-03 | 2020-09-22 | Adobe Inc. | Tagging documents with security policies |
CN110892399B (zh) * | 2017-06-16 | 2023-05-09 | 爱思唯尔有限公司 | 自动生成主题内容摘要的系统和方法 |
CN107391650B (zh) * | 2017-07-14 | 2018-09-07 | 北京神州泰岳软件股份有限公司 | 一种文档的结构化拆分方法,装置及系统 |
US10783314B2 (en) * | 2018-06-29 | 2020-09-22 | Adobe Inc. | Emphasizing key points in a speech file and structuring an associated transcription |
CN109992761A (zh) * | 2019-03-22 | 2019-07-09 | 武汉工程大学 | 一种基于规则的自适应文本信息提取方法及软件存储器 |
CN110427614B (zh) * | 2019-07-16 | 2023-08-08 | 深圳追一科技有限公司 | 段落层级的构建方法、装置、电子设备及存储介质 |
CN110598191B (zh) * | 2019-11-18 | 2020-04-07 | 江苏联著实业股份有限公司 | 一种基于神经网络的复杂pdf结构解析方法及装置 |
CN111274815B (zh) * | 2020-01-15 | 2024-04-12 | 北京百度网讯科技有限公司 | 用于挖掘文本中的实体关注点的方法和装置 |
US11544456B2 (en) * | 2020-03-05 | 2023-01-03 | Adobe Inc. | Interpretable label-attentive encoder-decoder parser |
-
2020
- 2020-03-31 CN CN202010247461.4A patent/CN111460083B/zh active Active
- 2020-09-17 US US17/023,721 patent/US20210303772A1/en not_active Abandoned
-
2021
- 2021-03-23 EP EP21164267.3A patent/EP3889823A1/en not_active Withdrawn
- 2021-03-24 JP JP2021049630A patent/JP7169389B2/ja active Active
- 2021-03-24 KR KR1020210038357A patent/KR102509836B1/ko active IP Right Grant
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020024516A (ja) | 2018-08-06 | 2020-02-13 | コニカミノルタ株式会社 | 情報処理装置および情報処理プログラム |
Also Published As
Publication number | Publication date |
---|---|
KR20210040862A (ko) | 2021-04-14 |
US20210303772A1 (en) | 2021-09-30 |
KR102509836B1 (ko) | 2023-03-14 |
CN111460083A (zh) | 2020-07-28 |
JP2021108153A (ja) | 2021-07-29 |
EP3889823A1 (en) | 2021-10-06 |
CN111460083B (zh) | 2023-07-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7169389B2 (ja) | 文書タイトルツリーの構築方法、装置、電子設備、記憶媒体、及びプログラム | |
KR102448129B1 (ko) | 엔티티 연결 방법, 장치, 기기 및 저장 매체 | |
KR102504699B1 (ko) | 엔티티 링킹 방법, 장치, 기기, 저장 매체 및 컴퓨터 프로그램 | |
CN110717327B (zh) | 标题生成方法、装置、电子设备和存储介质 | |
JP7108675B2 (ja) | 意味マッチング方法、装置、電子機器、記憶媒体及びコンピュータプログラム | |
AU2017408800B2 (en) | Method and system of mining information, electronic device and readable storable medium | |
CN111563385B (zh) | 语义处理方法、装置、电子设备和介质 | |
CN108628834B (zh) | 一种基于句法依存关系的词语表示学习方法 | |
JP7397903B2 (ja) | インテリジェント対話方法、装置、電子機器及び記憶媒体 | |
CN103927329A (zh) | 一种即时搜索方法和系统 | |
CN111831814A (zh) | 摘要生成模型的预训练方法、装置、电子设备和存储介质 | |
JP7286737B2 (ja) | テキスト誤り訂正方法、装置、電子デバイス、記憶媒体及びプログラム | |
CN103927330A (zh) | 一种在搜索引擎中确定形近字的方法和装置 | |
CN114444462B (zh) | 模型训练方法及人机交互方法、装置 | |
Ali et al. | Genetic approach for Arabic part of speech tagging | |
JP7352640B2 (ja) | 検索項目書き換え方法、装置、機器および記憶媒体 | |
CN111738015B (zh) | 文章情感极性分析方法、装置、电子设备及存储介质 | |
CN107111607A (zh) | 用于语言检测的系统和方法 | |
CN111984774A (zh) | 搜索方法、装置、设备以及存储介质 | |
CN111523019A (zh) | 用于输出信息的方法、装置、设备以及存储介质 | |
CN110990569B (zh) | 文本聚类方法、装置及相关设备 | |
CN111832313A (zh) | 文本中情感搭配集合的生成方法、装置、设备和介质 | |
CN112329429A (zh) | 文本相似度学习方法、装置、设备以及存储介质 | |
CN107203512B (zh) | 用于从用户的自然语言输入中提取关键元素的方法 | |
KR102717117B1 (ko) | 사용자의 의도를 반영한 코드 생성 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210324 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220518 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20220518 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220524 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20220729 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220823 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220901 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221017 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221028 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7169389 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |