JPH0477857A - 不適切表現検出装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は、通信文に含まれる不適切な表現を、その通信
文の種別から自動的に判断して検出することができる不
適切表現検出装置に関するものである。

〔従来の技術〕

通信文において不適切となる表現は、その通信文が属す
る分野（通信文種別）により異なる。例えば、通信文種
別か「弔（悔やみ）」の場合には、′おめでとう″の表
現は不適切であるが、「慶（祝い）ＪＪの場合には不適
切とはならない。このように、通信文における不適切表
現は通信文種別により異なるため、その検出は自動的に
は行えず、全て人手で検出され、訂正されていた。

また、新聞に含まれる禁止語を検出する装置においては
、文を単語単位に分割する際に用いる辞書の中に、予め
禁止語を登録しておき、この禁止語を用いて単語分割が
成功したときに、その単語を禁止語としていた。なお、
この禁止語の場合には、分野（通信文種別に対応する）
によらずに−定のものが登録されていた。この種の従来
文献としては、第３３回情報処理学会全国大会４５−９
゜ｐ、、ｐ、　　１．７１９（１，９８６）に記載され
ている。

〔発明が解決しようとする課題〕

前述のように、従来の装置においては、（イ）ワードプ
ロセッサによる禁則処理の場合、行頭と行末の禁則文字
や記号を自動的に訂正するのみであり、不適切な表現等
は訂正できない。

また、（ロ）通信文の不適切表現を人手により検出する
場合、人間が行うため、検出漏れが生じるおそれがあり
、しかも不適切表現の判断基準が人により異なっていた
。

また、（ハ）新聞に含まれる禁止語を検出する装置の場
合、通信文種別に無関係に禁止語を検出するため、該当
する通信文種別に対して不適切ではない表現までも検出
してしまい、しかも、不適切表現を単語として検出する
ため、不適切な文字を含む表現（例えば、「慶（祝い）
ｊにおける文字′“死′″）は、全て登録する必要があ
った。

本発明の目的は、これら従来の課題を解決し、通信文が
属する通信文種別において不適切である表現のみを自動
的に検出することが可能な不適切表現検出装置を提供す
ることにある。

［課題を解決するための手段〕 上記目的を達成するため、本発明の不適切表現検出装置
は、通信文種別毎に不適切である表現を配列し、不適切
表現毎に該表現の不適切さのレベルを表わす警告レベル
と該警告の内容とを１組として記述した不適切表現辞書
を具備するとともに、例えば、慶、弔、祝い、悔みを含
む通信文種別を入力する手段と、通信文を入力する手段
と、入力された通信文を単語単位に分割して、単語毎に
形態素情報を付与するモジュールと、そのモジュルの実
行により分割された単語毎に、単語の原型情報をキーと
して不適切表現辞書を検索し、単語が入力された上記通
信文種別で不適切な表現であるか否かを判定するモジュ
ールと、そのモジュルの実行により不適切な表現を含む
と判定された単語に、不適切表現辞書の内容に従って不
適切表現の警告レベルと警告内容とを付与するモジュー
ルと、そのモジュールの実行により付与された警告レベ
ルと警告内容とともに、入力された通信文を出力する手
段とを具備することに特徴がある。

〔作　　用〕

本発明においては、通信文種別毎に不適切となる表現を
集め、不適切表現毎にその表現の不適切さのレベルを表
わす警報レベルとその警告の内容を記述した不適切表現
辞書を作成しておく。そして、利用者から通信文とその
通信文が属する通信文種別を入力として受けると、先ず
その通信文を形態素解析し、各単語に形態素情報を付与
する。

次に、上記不適切表現辞書を検索することにより、その
通信文中にその通信文の属する分野（通信文種別）にお
いて不適切な表現が存在するか否かを自動的に検出する
。その通信文に不適切表現が存在すると判定した場合に
は、不適切表現辞書の内容に従って警告を付与した後、
その通信文を出力する。これにより、その通信の通信文
種別において不適切な表現のみを、入力された通信文中
から確実に検出することができる。

〔実施例］ 以下、本発明の実施例を、図面により詳細に説明する。

第１図は、本発明の一実施例を示す不適切表現検出装置
の基本ブロック図である。

第１図において、９はＣＰＵやメモリ等から構成される
不適切表現検出装置本体、１は通信文の種別を入力する
通信文種別入力部、２は不適切表現を検出すべき対象と
なる通信文を入力する通信文人力部、３は形態素解析を
行う形態素解析部、４は不適切な表現を検出する不適切
表現検出部、５は不適切表現検出部４で検出された表現
に対して、警告のレベルと警告内容とを付与する警告付
与部、６は通信文と警告レベルと警告内容とを出力する
出力部、７は不適切表現を登録する不適切表現辞書、８
はデイスプレィやプリンタ等の出力装置である。ここで
、不適切表現辞書７は表現を登録するためのメモリ装置
、出力装置８はデイスプレィ、プリンタあるいはディス
ク等のハードウェア装置、通信文種別入力部１はキーボ
ード、テンキー等の入力装置、通信文人力部２はワード
プロセッサ等の文字入力装置、および出力部６はドライ
バ、レジスタ等であって、いずれもハードウェアである
。これに対して、形態素解析部３、不適切表現検出部４
、および警告付与部５は、それぞれの機能をプロセッサ
で実行するためのプログラムモジュールであり、不適切
表現検出装置９内のメモリ内に格納されている。

通信文種別入力部１が利用者から通信文の種別（慶、弔
、祝い、悔み等）の入力を受は取るとともに、通信文人
力部２が利用者から通信文自体の入力を受は取る。これ
により形態素解析部３は、通信文人力部２で受は取った
通信文を単語単位に分割し、各単語に原型情報、品詞や
活用形等の形態素情報を付与する。次に、不適切表現検
出部４は、不適切表現辞書７を検索して、受は取った通
信文種別において不適切となる表現が、入力された通信
文中に含まれる場合には、この表現を検出する。

次に、警告付与部５は、不適切表現検出部４で検出され
た不適切表現に対して、警告のレベル（致命的、注意等
）と警告内容（禁句、忌み語、または注意語等）を付与
する。次に、出力部６は、入力された通信文を、その通
信文種別とその通信文に含まれる不適切表現の警告レベ
ルおよび警告内容とともに、出力装置８に出力する。

第２図は、第１図における不適切表現辞書のレコード・
フォーマット図である。

第２図に示すように、不適切表現辞書７は、不適切表現
となり得る単語の原型情報１０、あるいは不適切表現と
なり得る文字をキーとして持ち、原型情報１０毎にこれ
が不適切となる通信文の種別１１と、その警告のレベル
（致命的なレベルが、あるいは注意的なレベルか等）１
２、および警告の内容１３とを記述したレコード１４か
らなる辞書である。すなわち、不適切表現辞書７は、１
０〜１３のフィールドからなるレコード１４を複数レコ
ード分登録したものである。

原型情報フィールド１０は、不適切表現辞書７を検索す
るときのキーとなる部分であり、通信文種別フィールド
１１は、このレコードの原型情報が不適切となる通信文
の種別を記述した部分である。警告レベルフィールド１
２は、このレコードの原型情報を持つ単語が致命的に不
適切なのか、あるいは注意して用いるべきものなのか等
の警告のレベルを記述する部分であり、警告内容フィー
ルド１３は、このレコードの原型情報を持つ単語が、忌
み文字であるか、差別語であるか、注意語であるか等の
警告内容を記述する部分である。

第３図は、本発明の不適切表現検出装置の処理フローチ
ャートである。

先ず、通信文種別入力部１では、利用者からの通信文種
別（慶、弔、祝い、悔やみ等）の入力を受ける（ステッ
プＳｌ）。入力された通信文種別は、不適切表現検出部
４に転送される。

次に、通信文人力部２では、利用者からの通信文の入力
を受ける（ステップＳ２）。入力された通信文は、形態
素解析部３に転送される。

形態素解析部３では、入力された通信文を単語分割し、
さらに各単語に原型情報や品詞等の付与を行い、その結
果を不適切表現検出部４に転送する。ここでは、通信文
の単語数をｎとし、第１番目の単語を処理するために、
ｉ＝１と置く（ステップＳ３）。

不適切表現検出部４では、第１番目の単語の持つ原型情
報をキーとして、不適切表現辞書７を検索する（ステッ
プＳ４）。

検索が成功した場合には（ステップＳ５のＹＥＳ）、キ
ーである原型情報に対する不適切表現辞書７の中の情報
を取得した後、ステップＳ６に移る。また、検索が失敗
した場合には（ステップＳ５のＮｏ）、ステップＳ８に
移る。

検索が成功した場合には、原型情報に対するレコード中
の通信文種別を検出し、通信文種別が利用者が入力した
通信文種別（ステップＳ１で入力）と一致するか否かを
判定する（ステップＳ６）。

致する場合には、ステップＳ７に移り、不一致の場合に
は、ステップＳ８に移る。

警告付与部６では、第ｊ番目の単語、つまり不適切表現
として検出され、通信文種別が一致した単語に対して、
警告の内容を警告のレベルとともにその単語に付与する
（ステップＳ７）。

その単語に対する処理は終了したので、次の単語に移る
ため、単語番号１を＋１し、ｊ＝ｉ＋１とする（ステッ
プ３８）。

全単語の処理が終了しているか否かを判定しくｉ＞ｎ？
）（ステップＳ９）、終了している場合には、ステップ
Ｓ１０に移り、まだ未処理の単語が存在する場合には、
ステップＳ４に戻る。

出力部６では、入力された通信文を、その通信文種別と
、そのレコードに含まれる不適切表現の警告レベルと警
告内容とともに出力装置８に出力する（ステップ５１０
）。

第４図は、第１図における形態素解析部で用いられる辞
書の内容例を示す図である。

形態素解析部３では、入力された通信文を単語に分割し
、各単語に原型情報や品詞、活用形等を付与する。その
場合、通常の単語辞書を参照しながら上記処理を行う。

通常の単語辞書には、例えば、第４図に示すように、文
章を区切った状態である「単語表記Ｊと、それに対応す
る「原型情報」と、その原型情報の「品詞用と、単語表
記の「活用形」が記述されている。なお、この第４図の
辞書内容は、後述する具体例で利用される。

第５図は、第１図における不適切表現辞書の内容例を示
す図である。

第５図に示すように、不適切表現辞書７には、「原型情
報Ｊと、その原型情報に属する「通信文種別Ｊと、不適
切である場合の「警告レベルよと、その「警告内容」と
がルーコードとして記述されている。第５図中、原型情
報のＦ＊死＊Ｊは、文字「死」を含む原型情報を持つ単
語が全て不適切表現となり得ることを表わしている。こ
の第５図の不適切表現辞書７の内容は、後述する具体例
で利用される。

第６図は、本発明の具体例１の処理過程を説明する図で
ある。

通信文種別入力部１と通信文人力部２において、（通信
文種別）　慶 〈通　信　文〉　結婚、おめでとう 上記の通信文種別と通信文を受けたと仮定する（第３図
のステップＳｔ、Ｓ２）。

形態素解析部３では、通信文を単語単位に分割し、各単
語に形態素情報を付与するが、形態素解析部３で用いる
辞書が第４図の内容であるとすると、形態素解析の結果
は、第１１　（１）に示すようになる。すなわち、単語
は「結婚」、「、」、「おめでとう」、「。」の４個で
あるため、ｎ４．１＝１とする（第３図のステップＳ３
）。

不適切表現検出部４では、先ず第１番目の単語の原型情
報「結婚Ｊをキーとして不適切表現辞書７を検索するが
、不適切表現辞書７が第５図に示す内容であるとすると
、検索に失敗する。第２番目の単語の原型情報Ｉｎ、　
ＪＪと第４番目の単語の原型情報「。」についても、同
じように失敗する（第３図のステップ４〜８）。第３番
目の単語「おめでとう」では、第３番目の単語の原型情
報「おめでとう」をキーとして不適切表現辞書７を検索
すると、不適切表現辞書７が第５図に示す内容であるた
め、検索に成功する（第３図のステップＳ４、Ｓ５）。

しかし、通信文種別人ツノ部１で入力された通信文種別
が「慶」であるのに対して、不適切表現辞書７中に記述
されている「おめでとう」のレコードでは、通信文種別
が「弔ｊである。従って、入力された通信文の通信文種
別と不適切表現辞書７中の通信文種別とは不一致であり
、ｒおめでとうＪは通信文種別のｒ慶Ｊにおいては不適
切ではないと判定される（第３図のステップＳ６）。

これで、不適切表現検出部４の処理は終了する（第３図
のステップＳ９）。

第６図（２）に示すように、不適切表現なしという警告
付与が警告付与部５から出力される。出力部６では、入
力された通信文には不適切表現が含まれていないため、
第６図（３）に示すように、出ノＪ装置８に対して通信
文と通信文種別のみを出力する。

こめように、不適切表現辞書７に同一通信文が含まれて
いる場合でも、通信文種別が異なるときには、不適切と
は判定しない。

第７図は、本発明の具体例２の処理過程を示す説明図で
ある。

入力部１および２に対して、次のような通信文と通信文
種別か入力される。

く通信文種別〉　弔 〈通　信　文〉　結婚、おめでとう。

すなわち、具体例２では、具体例１と同じ通信文である
が、通信文種別が異なっている。換言すれば、具体例２
は、通信文種別を誤って入力した場合に相当する。

この場合にも、具体例】と同じように処理されるが、具
体例１とは異なり、丁おめでとう」が不適切表現として
検出される（第７図（２）参照）。これは、不適切表現
辞書７の内容の「おめでとう」が通信文種別Ｔ弔」にお
いて不適切であることを示しているからである。この場
合、警告付与部５では、致命的、禁句であることを付与
して、出力部６に転送する。出力結果は、第７図（３）
に示すようになる。この結果を得た利用者は、通信文と
通信文種別が一致していないことを知る。具体例２では
、利用者は通信文種別の入力の誤りに気がつくことにな
る。

このように、通信文種別が通信文の内容に合致していな
い場合、通信文に含まれる不適切表現を検出することに
より、通信文種別の誤りを検出することが可能である。

第８図は１．本発明の具体例３の処理過程を示す説明図
である。

通信文種別入力部１と通信文人力部２において、次のよ
うな通信文種別と通信文を受は取る（第３図のステップ
ＳＬ、２）。

（通信文種別〉　慶 （通　信　文〉　風が吹けば共にさえぎり、死ぬときも
二外−緒、そんな二人で いてください。

具体例３では、具体例１，２と異なる通信文が入力され
る。具体例１と同じように、形態素解析部３で解析した
結果、第８図（１）に示すような原型情報と品詞と活用
形が得られる。この場合には、単語が１９個であるため
、ｎ−１９となる（第３図のステップ３３）。不適切表
現辞書７の内容は第５図に示すような内容であるため、
「さえぎるＪと「死ぬ」の２個以外の１７個については
、不適切表現辞書７の検索に失敗する。これらの失敗の
処理については、具体例１の「結婚」等と同じ処理にな
る。ここでは、不適切表現辞書７に記述された「さえぎ
るｊと「死ぬ」の処理について、説明する。

「さえぎる」は第６番目の単語であって、不適切表現辞
書７中に記述されている。通信文種別入力部１で入力さ
れた通信文種別は「慶Ｊであり、不適切表現辞書７中の
「さえぎるｊが不適切となる通信文種別も「慶Ｊである
。従って、両者は一致するので、「さえぎるＪは不適切
表現として検出され、処理は警告付与部５の処理に移る
。

警告付与部５では、「さえぎる」に対する不適切表現辞
書７の内容（警告レベル−注意、警告内容−注意語）を
「さえぎる」に付与する（第３図のステップ８７）。

次に、第８番目の単語「死ぬ」に関しては、不適切表現
辞書７の中に原型情報としては存在しないが、「＊死＊
Ｊ、つまり、文字「死Ｊを含む全ての文が不適切表現と
なり得ることを表わしているため、この場合にも不適切
表現として検出される。警告付与部５では、不適切表現
辞書７の内容（警告レベル一致命的、警告内容＝忌み文
字）を「死ぬ町に付与する（第３図のステップＳ７）。

この状態を、第８図（２）に示している。

最後の出力部６では、不適切表現として検出された「さ
えぎる」と「死ぬ町の２つに関する情報が、通信文と通
信文種別とともに出力装置８に出力される（第３図のス
テップ５１０）。その出力の状態は、第８図（３）に示
す通りである。

このようにして、不適切表現辞書７に含まれ、かつ通信
文種別が入力されたものと一致する場合には、不適切表
現を検出して、これに対応する警告を出力する。さらに
、不適切さの程度に応じて、致命的であるか、注意のレ
ベルであるかについても出力する。また、不適切表現辞
書７の内容が「水死水Ｊのような文字であれば、この文
字を含む全ての表現を不適切であるどして検出する。

〔発明の効果〕

以上説明したように、本発明によれば、入力された通信
文種別に応じて、不適切であるが否かを判定するので、
該当する通信文種別において不適切である表現のみを検
出することができる。その場合に、不適切表現辞書を用
いるので、そこに記述されている限り、不適切表現の検
出漏れは生じない。また、機械的に不適切表現を検出す
るので、利用者によるばらつきはない。さらに、不適切
表現検出の際に、文字単位の検出が可能であるため、そ
の文字を含む全ての単語を不適切表現辞書に記述する必
要がなくなる。

【図面の簡単な説明】

第１図は本発明の一実施例を示す不適切表現検出装置の
全体構成図、第２図は第１図における不適切表現辞書の
内容説明図、第３図は本発明の不適切表現検出装置の処
理フローチャート、第４図は第１図の形態素解析部で利
用される辞書（単語辞書）の内容を示す図、第５図は本
発明の不適切表現辞書の内容例を示す図、第６図は本発
明の具体例１の処理過程を示す説明図、第７図は本発明
の具体例２の処理過程を示す説明図、第８図は本発明の
具体例３の処理過程を示す説明図である。 １：通信文種別入力部、２：通信文人ノコ部、３形態素
解析部、４：不適切表現検出部、５：警告付与部、６：
出力部、７：不適切表現辞書、８：出力装置、１４：不
適切表現辞書のルコード。

Claims (1)

【特許請求の範囲】
1. （１）通信文種別毎に不適切である表現を配列し、不適
   切表現毎に該表現の不適切さのレベルを表わす警告レベ
   ルと該警告の内容とを１組として記述した不適切表現辞
   書を具備するとともに、例えば、慶、弔、祝い、悔みを
   含む通信文種別を入力する手段と、通信文を入力する手
   段と、入力された該通信文を単語単位に分割して、単語
   毎に形態素情報を付与するモジュールと、該モジュール
   の実行により分割された単語毎に、該単語の原型情報を
   キーとして上記不適切表現辞書を検索し、該単語が入力
   された上記通信文種別で不適切な表現であるか否かを判
   定するモジュールと、該モジュールの実行により不適切
   な表現を含むと判定された単語に、上記不適切表現辞書
   の内容に従って不適切表現の警告レベルと警告内容とを
   付与するモジュールと、該モジュールの実行により付与
   された警告レベルと警告内容とともに、入力された通信
   文を出力する手段とを具備することを特徴とする不適切
   表現検出装置。