[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP7343585B2 - 識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法 - Google Patents

識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法 Download PDF

Info

Publication number
JP7343585B2
JP7343585B2 JP2021533014A JP2021533014A JP7343585B2 JP 7343585 B2 JP7343585 B2 JP 7343585B2 JP 2021533014 A JP2021533014 A JP 2021533014A JP 2021533014 A JP2021533014 A JP 2021533014A JP 7343585 B2 JP7343585 B2 JP 7343585B2
Authority
JP
Japan
Prior art keywords
text
drug
identification
unit
character
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021533014A
Other languages
English (en)
Other versions
JPWO2021010276A1 (ja
JPWO2021010276A5 (ja
Inventor
真司 羽田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Toyama Chemical Co Ltd
Original Assignee
Fujifilm Toyama Chemical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=74210776&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP7343585(B2) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by Fujifilm Toyama Chemical Co Ltd filed Critical Fujifilm Toyama Chemical Co Ltd
Publication of JPWO2021010276A1 publication Critical patent/JPWO2021010276A1/ja
Publication of JPWO2021010276A5 publication Critical patent/JPWO2021010276A5/ja
Application granted granted Critical
Publication of JP7343585B2 publication Critical patent/JP7343585B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/192Recognition using electronic means using simultaneous comparisons or correlations of the image signals with a plurality of references
    • G06V30/194References adjustable by an adaptive method, e.g. learning
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61JCONTAINERS SPECIALLY ADAPTED FOR MEDICAL OR PHARMACEUTICAL PURPOSES; DEVICES OR METHODS SPECIALLY ADAPTED FOR BRINGING PHARMACEUTICAL PRODUCTS INTO PARTICULAR PHYSICAL OR ADMINISTERING FORMS; DEVICES FOR ADMINISTERING FOOD OR MEDICINES ORALLY; BABY COMFORTERS; DEVICES FOR RECEIVING SPITTLE
    • A61J3/00Devices or methods specially adapted for bringing pharmaceutical products into particular physical or administering forms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/768Arrangements for image or video recognition or understanding using pattern recognition or machine learning using context analysis, e.g. recognition aided by known co-occurring patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/10ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Medicinal Chemistry (AREA)
  • Quality & Reliability (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Chemical & Material Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Pharmacology & Pharmacy (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Description

本発明は、薬剤の識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法に関する。
病院、薬局等の医療現場では、患者に提供する薬剤の監査や患者が持参する薬剤の鑑別が行われる。人手による監査や鑑別は作業時間が長くユーザ(医師、薬剤師等)の負担が高いので、監査や鑑別の支援を行う技術が提案されている。例えば、特許文献1には、文字認識を行う画像処理装置が記載されている。
特開2015-068765号公報
本発明の一つの実施形態は、ユーザが正確に薬剤の識別を行うことができる識別支援システム、識別支援クライアント、及び識別支援方法を提供する。また、本発明は薬剤の識別に利用可能な識別支援サーバを提供する。
上述した目的を達成するため、本発明の第1の態様に係る識別支援システムは、薬剤の画像を取得する画像取得部と、画像に含まれる文字列を文字ごとに抽出して文字列を示す第1のテキストを生成するテキスト化部と、第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成するテキスト修正部と、薬剤のコード及び/または名称を示す識別情報と、薬剤に付された文字を示す文字情報と、がテキストとして記憶された薬剤マスタと、第2のテキストを薬剤マスタと照合して、第2のテキストが示す薬剤の候補である候補薬剤についての識別情報を取得する照合部と、候補薬剤についての識別情報を出力する出力部と、を備える。
第1の態様によれば、画像に含まれる文字列を文字ごとに抽出し、抽出したテキストを薬剤の識別に用いられる表現に基づいて修正し、その修正したテキストを薬剤マスタと照合するので、ユーザは正確に薬剤の識別を行うことができる。なお、第1の態様においてシステムの構成要素は一つの筐体に収納されていてもよいし、複数の筐体に分けて収納されていてもよい。また、複数の装置がネットワークを介して接続され全体として第1の態様の構成要件を満たしていてもよい。
第2の態様に係る識別支援システムは第1の態様において、テキスト化部は、機械学習により構成された学習済みモデルを用いて文字列を抽出する。学習済みモデルは、ニューラルネットワークを用いた学習済みモデルでもよい。
第3の態様に係る識別支援システムは第1または第2の態様において、画像に含まれる文字列を強調して文字列強調画像を生成する強調処理部をさらに備え、テキスト化部は文字列強調画像から第1のテキストを生成する。第3の態様によれば、画像から文字列を抽出する際の認識精度を向上させることができる。
第4の態様に係る識別支援システムは第1から第3の態様のいずれか1つにおいて、照合部は、第2のテキストと文字情報との類似度を算出し、類似度に基づいて候補薬剤を選択する。第4の態様では、照合部は、類似度の算出において文字列同士の距離を考慮してもよい。
第5の態様に係る識別支援システムは第1から第4の態様のいずれか1つにおいて、薬剤マスタは文字情報についてのレイアウト情報を有し、照合部はレイアウト情報に基づいて照合を行う。レイアウト情報は、段組の数(2段、3段、等)や配置(左上から右上へ、次いで左下へ、さらに右下へ、等)等の情報を含んでいてよい。照合部がレイアウト情報に基づいて照合を行うことにより、認識精度を向上させることができる。
第6の態様に係る識別支援システムは第1から第5の態様のいずれか1つにおいて、薬剤マスタは識別情報と薬剤の画像とを関連付けて記憶し、出力部は候補薬剤について識別情報と画像とを関連付けて表示装置に表示させる。第6の態様によれば、ユーザは照合結果が適切であるかどうかを視覚により容易に判断することができる。なお、薬剤の画像は、薬剤自体ではなく薬剤の包装(PTPシート等)の画像でもよい。
上述した目的を達成するため、本発明の第7の態様に係る識別支援クライアントは、薬剤の画像を取得する画像取得部と、画像に含まれる文字列を文字ごとに抽出して文字列を示す第1のテキストを生成するテキスト化部と、第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成するテキスト修正部と、第2のテキストを示す情報を識別支援サーバに送信するクライアント側送信部と、第2のテキストが示す薬剤の候補である候補薬剤について、薬剤のコード及び/または名称を含む識別情報を識別支援サーバから受信するクライアント側受信部と、候補薬剤についての識別情報を出力する出力部と、を備える。第7の態様によれば、ユーザは正確に薬剤の識別を行うことができる。なお、第7の態様に係る識別支援クライアントは第2~第6の態様に係る構成を備えていてもよい。
上述した目的を達成するため、本発明の第8の態様に係る識別支援サーバは、薬剤のコード及び/または名称を示す識別情報と、薬剤に付された文字を示す文字情報と、がテキストとして記憶された薬剤マスタと、薬剤についてのテキスト情報を識別支援クライアントから受信するサーバ側受信部と、テキスト情報を薬剤マスタと照合して、テキスト情報が示す薬剤の候補である候補薬剤についての識別情報を取得する照合部と、取得した識別情報を識別支援クライアントに送信するサーバ側送信部と、を備える。第8の態様に係る識別支援サーバは、薬剤の識別支援に用いることができる。なお、第8の態様に係る識別支援クライアントは第2~第6の態様に係る構成を備えていてもよい。また、第7の態様に係る識別支援クライアントと第8の態様に係る識別支援サーバとにより、第1の態様に係る識別支援システムと同様の識別支援システムを構成することができる。
上述した目的を達成するため、本発明の第9の態様に係る識別支援方法は、薬剤の画像を取得する画像取得工程と、画像に含まれる文字列を文字ごとに抽出して文字列を示す第1のテキストを生成するテキスト化工程と、第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成するテキスト修正工程と、薬剤のコード及び/または名称を示す識別情報と、薬剤に付された文字を示す文字情報と、がテキストとして記憶された薬剤マスタと第2のテキストとを照合して、第2のテキストが示す薬剤の候補である候補薬剤についての識別情報を取得する照合工程と、候補薬剤についての識別情報を出力する出力工程と、を有する。第9の態様によれば、第1の態様と同様に、ユーザは正確に薬剤の識別を行うことができる。なお、第9の態様に係る識別支援方法は第2~第6の態様と同等の構成を備えていてもよい。また、これら態様の識別支援方法を識別支援システムやコンピュータに実行させるプログラム、及び斯かるプログラムのコンピュータ読み取り可能なコードを記録した非一時的記録媒体も、本発明の態様として挙げることができる。
なお、上述した態様の識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法は、薬剤の鑑別支援及び/または監査支援に用いることができる。
以上説明したように、本発明の識別支援システム、識別支援クライアント、及び識別支援方法によれば、ユーザは正確に薬剤の識別を行うことができる。また、本発明の識別支援サーバは、薬剤の識別に利用可能である。
図1は、第1の実施形態に係る識別支援システムの構成を示す図である。 図2は、処理部の機能ブロック図である。 図3は、記憶部に記憶される情報を示す図である。 図4は、第1の実施形態に係る識別支援方法の処理を示すフローチャートである。 図5は、照合処理を示すフローチャートである。 図6は、薬剤に付された刻印等の例を示す図である。 図7は、第2の実施形態に係る識別支援システムの構成を示す図である。 図8は、クライアント処理部の機能ブロック図である。 図9は、クライアント記憶部に記憶される情報を示す図である。 図10は、サーバ処理部の機能ブロック図である。 図11は、サーバ記憶部に記憶される情報を示す図である。 図12は、第2の実施形態に係る識別支援方法の処理を示すフローチャートである。 図13は、第2の実施形態に係る識別支援方法の処理を示す他のフローチャートである。
以下、添付図面を参照しつつ、本発明に係る識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法の実施形態について詳細に説明する。
<第1の実施形態>
図1は第1の実施形態に係る識別支援システム10(識別支援システム)の構成を示すブロック図である。識別支援システム10は薬剤の識別を支援するシステムであり、コンピュータを用いて実現することができる。図1に示すように、識別支援システム10は処理部100、照明部120、撮影部130、記憶部200、表示部300、及び操作部400を備え、互いに接続されて必要な情報が送受信される。照明部120は薬剤を照明する光源を備え、撮影部130は薬剤の画像を取得するカメラを備えている。また、識別支援システム10は通信制御部114(図2参照)及び不図示のネットワークを介して不図示の外部サーバや外部データベース等に接続し、必要に応じて情報(薬剤の識別情報や画像等)を取得することができる。
なお、識別支援システム10は、患者が持参した薬剤等に対する鑑別の支援や、患者に提供する薬剤に対する監査の支援に適用することができる。
<処理部の構成>
図2は処理部100の構成を示す図である。処理部100は画像取得部102(画像取得部)、強調処理部104(強調処理部)、テキスト化部106(テキスト化部)、テキスト修正部108(テキスト修正部)、照合部110(照合部)、出力部112(出力部)、及び通信制御部114を備える。処理部100は、さらに不図示のCPU(CPU:Central Processing Unit)、ROM(ROM:Read Only Memory)、及びRAM(RAM:Random Access Memory)を備える。なお、これらの各部による処理はCPUの制御の下で行われる。
上述した処理部100の各部の機能は、各種のプロセッサ(processor)を用いて実現できる。各種のプロセッサには、例えばソフトウェア(プログラム)を実行して各種の機能を実現する汎用的なプロセッサであるCPUが含まれる。また、上述した各種のプロセッサには、画像処理に特化したプロセッサであるGPU(Graphics Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)も含まれる。さらに、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路なども上述した各種のプロセッサに含まれる。
各部の機能は1つのプロセッサにより実現されてもよいし、同種または異種の複数のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ、またはCPUとGPUの組み合わせ)で実現されてもよい。また、1つのプロセッサが複数の機能を実現してもよい。複数の機能を1つのプロセッサで構成する例としては、第1に、クライアント、サーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の機能として実現する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、システム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の機能は、ハードウェア的な構造として、上述した各種のプロセッサを1つ以上用いて構成される。さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
上述したプロセッサあるいは電気回路がソフトウェア(プログラム)を実行する際は、実行するソフトウェアのコンピュータ(例えば、処理部100を構成する各種のプロセッサや電気回路、及び/またはそれらの組み合わせ)で読み取り可能なコードをROM等の非一時的記録媒体に記憶しておき、プロセッサがそのソフトウェアを参照する。非一時的記録媒体に記憶しておくソフトウェアは、本発明に係る識別支援方法を実行するためのプログラム(識別支援プログラム)を含む。プログラムのコードは、ROMではなく各種光磁気記録装置、半導体メモリ等の非一時的記録媒体に記録されていてもよい。ソフトウェアを用いた処理の際には例えばRAMが一時的記憶領域として用いられ、また例えば不図示のEEPROM(Electronically Erasable and Programmable Read Only Memory)に記憶されたデータを参照することもできる。
<記憶部の構成>
記憶部200はDVD(Digital Versatile Disk)、ハードディスク(Hard Disk)、各種半導体メモリ等の非一時的記録媒体及びその制御部により構成され、図3に示すように薬剤マスタ202(薬剤マスタ)、薬剤画像204(薬剤の画像)、照合結果206、及び追加学習用データ208が記憶される。この他に、薬剤の識別に用いられる表現を学習させた薬剤照合用辞書(後述)が記憶されていてもよい。薬剤照合用辞書は、例えば数字、アルファベット、会社名及びその略称等が変換候補として登録された辞書であり、これにより意図した単語が検索のキーワードとして入力される可能性を高めることができる。
薬剤マスタ202には、薬剤のコード及び/または名称を含む識別情報と、薬剤に付された文字を示す文字情報と、が関連付けてテキスト情報として記憶されている。「コード」は例えばYJコード(英数字12桁で構成される個別医薬品コード)であり、名称は有効成分の容量を含んでいてもよい。また、「文字情報」は薬剤の刻印情報及び/または印字情報を含む。刻印及び印字については、薬剤の表面及び裏面のそれぞれについて情報を記憶することが好ましい。薬剤マスタ202は、薬剤の一般名称と個々の製品の情報、あるいは先発医薬品の情報と後発医薬品の情報とを関連付けて記憶してもよい。
記憶部200は、薬剤画像204を薬剤マスタ202と関連付けて記憶する。薬剤画像204も、薬剤の表面及び裏面のそれぞれについて記憶することが好ましい。なお、記憶部200は、撮影画像や文字列強調画像を薬剤画像204として記憶することができる。
<表示部及び操作部の構成>
表示部300はモニタ310(表示装置)を備えており、記憶部200に記憶された情報、処理部100による処理の結果等を表示することができる。操作部400は入力デバイスあるいはポインティングデバイスとしてのキーボード410及びマウス420を含んでおり、ユーザはこれらのデバイス及びモニタ310の画面を介して、本発明に係る識別支援方法の実行に必要な操作を行うことができる(後述)。モニタ310をタッチパネルにより構成し、ユーザがそのタッチパネルを介して操作を行えるようにしてもよい。
<識別支援方法の処理>
以下、図4,5のフローチャートを参照しつつ、上述した構成の識別支援システム10による識別支援方法について説明する。
<画像の取得>
画像取得部102は、照明部120及び撮影部130を制御して、薬剤の画像を取得する(ステップS100:画像取得工程)。画像取得部102が照明方向を切り替えながら薬剤の画像を複数撮影し、強調処理部104が、撮影した画像に含まれる文字列(刻印、印字等)を強調して文字列強調画像を生成してもよい。また、画像取得部102及び通信制御部114が、ネットワークを介して接続された装置から画像を取得してもよい。なお、識別の精度を向上させるため、薬剤の画像は両面について取得することが好ましい。また、撮影する画像は薬剤の包装(PTP等)の画像でもよい。
<テキストの生成>
テキスト化部106は、撮影した画像または文字列強調画像に含まれる文字列を文字ごとに抽出して、文字列を示す第1のテキストを生成する(ステップS110:テキスト化工程)。テキスト化(文字認識)の手法は特に限定されないが、機械学習により構成されたニューラルネットワーク等の学習済みモデル、例えばMask-RCNN(RCNN:Regions with Convolutional Neural Networks)を用いることができる。Mask-RCNNでは、入力画像の畳み込みにより得られた固定サイズの特徴量マップが全結合層と領域分割用の畳み込み層とに分岐して入力され、その畳み込み層でマスク領域が推定される。テキスト化部106は、機械学習により文字の中心を直接推定してから個々の文字範囲を特定してもよい。なお、テキスト化部106は画像に含まれる文字列のレイアウト(例えば、「左上から順次右上、左下、右下へ」、「二段組み」、「フリーレイアウト」等)を検出することが好ましく、この場合、薬剤マスタ202も文字列についてのレイアウト情報(文字情報についてのレイアウト情報)を有していることが好ましい(後述)。
<テキストの修正>
ステップS110におけるテキスト化(文字認識)では、本来認識されるべき文字と異なる文字(テキスト)が出力される可能性がある。そこでテキスト修正部108は、第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成する(ステップS120:テキスト修正工程)。具体的には、テキスト修正部108は、誤りを含む文字列(テキスト)と正しい文字列(テキスト)とを対にして学習させた学習済みモデルを用いてテキストを修正(第2のテキストを生成)することができる。このような学習済みモデルは、自然言語処理のアルゴリズムに基づいて、seq2seq(sequence to sequence)のような、RNN(Recurrent Neural Network)やLSTM(Long Short Term Memory)を利用したニューラルネットワークにより構成することができる。seq2seqは「語句の並び」(本発明においては、誤りを含んだ文字列)を入力して、別の「語句の並び」(正解の文字列)を出力する(置き換える)ルールを学習するモデルであり、機械翻訳等で利用される。
RNNは入力層、隠れ層、及び出力層を有し、隠れ層が現在の時刻(時刻t)の状態を示す第1の隠れ層と過去の時刻(時刻t-1)の状態を示す第2の隠れ層とを有する点で他のニューラルネットワーク(畳み込みニューラルネットワーク等)と異なる。RNNによる学習済みモデルは、時刻t-1における隠れ層の状態を保持して次の時刻tの入力に使うことにより、自然言語のように時系列的に入力される情報の過去の履歴(文字や単語の前後関係)を利用した推定を行うことができる。
また、LSTMはRNNの一種であり、RNNの中間層のユニットを「LSTMブロック」と呼ばれる「メモリと3つのゲートを持つブロック」に置き換えることで実現することができる。LSTMでは、通常のRNNでは学習が困難な長期的な依存関係(long-term dependencies;遠く離れた文字や単語の関係性)を学習することができる。
例えば、薬剤に付された刻印が「FF284」である場合(図6の(a)部分の例を参照)、ステップS110でのテキスト化の結果が「F」、「F」、「2」、「日」、「4」(「F」はアルファベット、「2」及び「4」は数字、「日」は漢字)であったと仮定する。この場合、テキスト修正部108は、自然言語処理により「『日』の前後が数字なので、『日』は数字かアルファベットの誤りである」と判断し、「日」を「8」または「B」に修正することが考えられる。
なお、テキスト修正部108は第1、第2のテキストに対する修正を受け付け、受け付けた修正に基づいて上述した学習済みモデルや薬剤照合用辞書(後述)に追加学習を実行させてもよい。
<照合>
照合部110(照合部)は、第2のテキストを薬剤マスタ202と照合して、第2のテキストが示す薬剤の候補である候補薬剤についての識別情報を取得する(ステップS130:照合工程)。照合部110は、第2のテキストと薬剤マスタ202の文字情報(第3のテキスト)との類似度を算出し(図5のステップS132)、類似度に基づいて候補薬剤を選択する。類似度を示す指標としては、レーベンシュタイン距離、Damerau-Levenshtein距離、ハミング距離、ジャロ・ウィンクラー距離等を用いることができる。なお、照合部110は、第2のテキストを正規化して正規化テキストを生成し、正規化テキストを用いて照合を行ってもよい(照合工程、正規化工程)。照合部110は、「正規化」として例えば大文字から小文字へ、全角から半角へ、漢字及び/またはひらがなからカタカナへ、の変換(またはこれら変換の逆)を行うことができ、これによりテキストの表現を統一して検索精度を向上させることができる。照合部110は、薬剤マスタ202における識別情報の表現形式(大文字と小文字のいずれを用いているか、等)に合わせた変換を行うことが好ましい。
<文字列の構成に応じた照合>
薬剤に付される文字列(刻印、印字)の構成(レイアウトや文字の種類等)は様々なタイプが存在する。そのため、文字列の構成に応じた照合手法を用いることが好ましい。図6は薬剤に付された文字列の例を示す図である。図6の(a)部分は、文字列が英文字で1~4字程度の識別コード及び数字で2~4桁程度の識別コードにより構成される例である。この例では文字の長さが短く、テキストとしては情報量が短いため、文字列の並びが正確に抽出されることが要求される。このため、テキスト化部106が、画像に含まれる文字列のレイアウトに基づいて、認識されたそれぞれの文字から文字列を構成する。図6の(b)部分のように数字のみの場合(あるいは文字のみの場合)も同図の(a)部分と場合と同様である。
図6の(c)部分は薬剤にマーク(この場合、星印)及び数字が付された例である。マークはテキストではないため、この場合マークをあらかじめ特殊な文字列で表現する規則を定義しておくことが好ましい。例えば、星印(star)をエスケープ文字「¥」を用いて「¥S」と表現し、「¥S」を一つの文字として通常文字と同様に扱うことができる。
図6の(d)部分及び(e)部分は、文字列が複数の段で構成され情報量が豊富な例である。このような場合、文字数が多いため、テキストの並びが本来と異なって抽出されたとしても、文字種別にカウントする方法が有効である。例えば、照合部110は、同図の(e)部分に示す例において画像から抽出された文字列が「カサタアODナ10FF」と抽出された場合、文字列の順序を無視して「カ」が1つ、「サ」が1つ、「タ」が1つ、「ア」が1つ、「O」が1つ、「D」が1つ、「ナ」が1つ、「1」が1つ、「0」が1つ、「F」が2つ、とカウントする。照合部110は、同様に薬剤マスタ202の文字情報についても文字列の順序を無視して両者の一致性を調べる。
<キーワードの文字数を考慮した類似度の算出>
薬剤の識別を行う場合、文字が判定不能で照合に使えない場合や、錠剤または包装(PTPシート等)の分割等で文字列が短くなる場合がある。この場合、長い薬剤名よりも短い薬剤名の方がキーワードとの類似度が相対的に高くなり、適切な検索結果が得られない可能性がある。そこで、識別支援システム10では、以下のようにキーワードの文字数を考慮して類似度を算出することができる。具体的には、照合部110は、「修正後のテキスト(第2のテキスト)の文字数」が「薬剤マスタ202に記憶されたテキスト情報(第3のテキスト)の文字数」未満である場合、第3のテキストから第2のテキストと同じ長さの文字列を抜き出し、抜き出した文字列と第2のテキストとの類似度を算出し、類似度が最大の場合の値を利用する(ステップS130:照合工程)。一方、「修正後のテキストの文字数」が「薬剤マスタ202に記憶されたテキスト情報の文字数」以上である場合、照合部110は文字列の抽出を行わずに類似度を算出する(ステップS130:照合工程)。このように、キーワードの文字数を考慮した類似度の算出により、正確な検索結果が得られやすくなる。
<候補薬剤の絞り込み>
図5は候補薬剤の絞り込みを示すフローチャート(図4のフローチャートにおけるステップS130の部分:照合工程)である。照合部110は類似度を算出して(ステップS132)、類似度がしきい値以上の薬剤を候補薬剤として選択する(ステップS133)。そして、照合部110は、候補薬剤が複数存在するか否か(ステップS134)及び候補薬剤が複数存在する場合に絞り込みを行うか否か(ステップS136)を判断する。照合部110は、例えば撮影画像(あるいは文字列強調画像)と薬剤マスタ202のマスタ画像とのテンプレートマッチングにより絞り込みを行うことができる(ステップS138)が、他の方法で絞り込みを行ってもよい。照合部110は、絞り込みを行うか否かを、操作部400を介したユーザの操作に応じて判断することができる。また、照合部110は、絞り込みを行わず類似度がしきい値以上の薬剤を全て候補薬剤として選択してもよい(ステップS136でNOの場合、ステップS139へ)。照合部110は、最終的な候補薬剤について識別情報及び画像を取得する(ステップS139)。
<識別情報及び画像の表示>
出力部112(出力部)は、候補薬剤についての照合結果(識別情報及び画像)をモニタ310(表示装置)に表示(出力)させる(図4のステップS140:出力工程)。識別情報(薬剤のコード及び/または名称)及び画像を表示することで、ユーザは候補薬剤が適切であるか否か(照合が適切であるか否か)を容易に把握することができる。識別支援システム10(照合部110)は、「候補薬剤が適切でない」と判断した場合(ステップS150でNO)、及び「全薬剤についての照合が終了していない」と判断した場合(ステップS160でNO)は、ステップS100に戻って処理を繰り返す。識別支援システム10は、操作部400を介したユーザの操作に基づいてこれらの判断を行うことができる。
<追加学習用データの生成>
テキスト修正部108(テキスト修正部)は、第1,第2のテキストに対する修正を受け付け、上述した第1,第2のテキストの生成用の学習済みモデルに対し、受け付けた修正に基づいて追加学習を実行させてもよい。また、テキスト修正部108は、後述する薬剤照合用辞書を更新してもよい。テキスト修正部108は、第1,第2のテキストに対する修正を受け付けた場合は、受け付けた修正の内容に応じて追加学習用データ208を生成する(ステップS170:データ生成工程)。テキスト修正部108は、追加学習用データを生成するごとに追加学習を行わせてもよいし、定期的に、あるいは操作部400を介したユーザの指示に応じて随時行わせてもよい。このような追加学習により、第1,第2のテキストの生成精度を向上させることができる。
<第1の実施形態の効果>
以上説明したように、第1の実施形態に係る識別支援システム10及び識別支援方法によれば、ユーザは正確に薬剤の識別を行うことができる。
<辞書の参照によるテキストの修正>
上述した第1の実施形態では、テキスト修正部108が学習済みモデルを用いて文字認識の結果(第1のテキスト)を修正する態様について説明したが、本発明の識別支援システムでは、テキスト修正部108は、薬剤の識別に用いられる表現を学習させた薬剤照合用辞書を参照して第1のテキストを修正して第2のテキストを生成してもよい(テキスト修正工程)。薬剤照合用辞書は、薬剤の識別に用いられる単語が変換候補として登録された変換辞書であり、例えば数字、アルファベット、薬剤名、製薬会社名及びその屋号や略称等が登録される。これらの情報は刻印及び/または印字、包装への印刷やラベル貼付等により薬剤に付される場合があり、薬剤照合用辞書への登録により、意図した単語を照合(検索)のキーワードとして入力して正確な照合(検索)を行うことができる。
<第2の実施形態>
図7は、本発明の第2の実施形態に係る識別支援システム20(識別支援システム)の構成を示す図である。識別支援システム20は全体として第1の実施形態に係る識別支援システム10と同様の機能を有するが、システムが識別支援クライアント11(識別支援クライアント)と識別支援サーバ30(識別支援サーバ)とを含んで構成される点で第1の実施形態と異なる。なお、識別支援システム20に関し、第1の実施形態に係る識別支援システム10と共通する構成には同一の参照符号を付し、詳細な説明を省略する。
<識別支援クライアントの構成>
識別支援クライアント11は処理部101と、照明部120と、撮影部130と、記憶部201と、表示部300と、操作部400を備え、後述するように薬剤画像に対する文字認識(テキスト化)や識別支援サーバ30との間のデータ送受信、結果表示等を行う。識別支援クライアント11はパーソナルコンピュータ等のコンピュータやスマートフォン等の携帯端末を用いて実現することができ、タッチパネル型のモニタを用いることにより表示部300と操作部400とを一体として構成してもよい。
図8は処理部101の機能構成を示す図である。処理部101は、画像取得部102(画像取得部)と、強調処理部104(強調処理部)と、テキスト化部106(テキスト化部)と、テキスト修正部108(テキスト修正部)と、出力部112(出力部)と、クライアント側送信部116(クライアント側送信部)と、クライアント側受信部118(クライアント側送信部)と、を備える。これら各部は、処理部100について上述したのと同様に各種のプロセッサや電気回路を用いて実現することができ、プロセッサあるいは電気回路がソフトウェア(プログラム)を実行する際は、ROM、RAM等が用いられる。
図9は記憶部201の構成を示す図である。記憶部201には、薬剤画像204(撮影画像、文字列強調画像、サーバから取得した候補薬剤の画像(後述)等)と照合結果206が記憶される。記憶部201は、照合結果206を第1,第2のテキストと関連付けて記憶してもよい。
<識別支援サーバの構成>
識別支援サーバ30はクラウドCL(図7参照)上のサーバであり、サーバ本体500と記憶部510とを有する。サーバ本体500は、図10に示すように照合部502(照合部)と、サーバ側出力部504(サーバ側出力部)と、サーバ側送信部506(サーバ側送信部)と、サーバ側受信部508(サーバ側受信部)と、を備える。図11に示すように、記憶部510には薬剤マスタ512(図3の薬剤マスタ202と同様)及び薬剤画像514(図3の薬剤画像204と同様)が記憶される。
<識別支援方法の処理>
図12~13は第2の実施形態に係る識別支援方法の処理を示すフローチャートである。これらの図の左側は識別支援クライアント11における処理を示し、右側は識別支援サーバ30における処理を示す。識別支援クライアント11の画像取得部102及びテキスト修正部108は、第1の実施形態について上述したステップS100~S120と同様にステップS200~S220の処理(薬剤画像の取得、文字認識による第1のテキストの生成、テキスト修正による第2のテキストの生成;画像取得工程、テキスト化工程、テキスト修正工程)を実行する。テキスト化部106及びテキスト修正部108は、第1の実施形態と同様に学習済みモデルを用いてテキストを生成、修正することができるが、変換辞書を用いてもよい。クライアント側送信部116は薬剤についてのテキスト情報(照合用テキスト;第2のテキスト)を識別支援サーバ30に送信し(ステップS230)、識別支援サーバ30のサーバ側受信部508(サーバ側受信部)はそのテキスト情報を受信する(ステップS400)。
照合部502は、上述したステップS130~S140と同様に、受信したテキスト情報(第2のテキスト)と薬剤マスタ512のテキスト情報とを照合して候補薬剤についての識別情報及び画像を取得する(ステップS410;照合工程)。サーバ側送信部506は照合結果(候補薬剤の識別情報及び画像)を識別支援クライアント11に送信し(ステップS420)、クライアント側受信部118が照合結果を受信して(ステップS240)、出力部112が候補薬剤についての識別情報及び画像をモニタ310(表示装置)に表示させる(ステップS250:出力工程)。識別支援クライアント11は、上述したステップS150~S160と同様に、全薬剤についての処理が終了するまで(ステップS270でYESになるまで)ステップS200~S250の処理を繰り返す。
なお、第2の実施形態では識別支援サーバ30が識別支援クライアント11に候補薬剤の画像を送信する場合について説明しているが、画像の送受信に関し他の構成を採用してもよい。具体的には、識別支援サーバ30から識別支援クライアント11に画像の格納先を示すURL(Uniform Resource Locator)を送信し、識別支援クライアント11の出力部112が指定されたURLから画像をダウンロードする構成を採用することができる。この場合、画像の格納先は記憶部510でもよいし、その他の記憶装置でもよい。出力部112は、取得した画像を記憶部200に記憶することができる。また、第2の実施形態では識別支援サーバ30の記憶部510が薬剤の画像(薬剤画像514)を保持(記憶)する場合について説明しているが、識別支援クライアント11の処理能力が十分である場合は、識別支援クライアント11の記憶部201が薬剤の画像を保持(記憶)してもよい。
識別支援クライアント11のテキスト修正部108は、上述したステップS170と同様に追加学習用データを生成する(ステップS280)。
以上説明したように、第2の実施形態に係る識別支援システム(識別支援クライアント、識別支援サーバ)及び識別支援方法においても、第1の実施形態と同様にユーザは正確に薬剤の識別を行うことができる。
以上で本発明の実施形態に関して説明してきたが、本発明は上述した態様に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能である。
10 識別支援システム
11 識別支援クライアント
20 識別支援システム
30 識別支援サーバ
100 処理部
101 処理部
102 画像取得部
104 強調処理部
106 テキスト化部
108 テキスト修正部
110 照合部
112 出力部
114 通信制御部
116 クライアント側送信部
118 クライアント側受信部
120 照明部
130 撮影部
200 記憶部
201 記憶部
202 薬剤マスタ
204 薬剤画像
206 照合結果
208 追加学習用データ
300 表示部
310 モニタ
400 操作部
410 キーボード
420 マウス
500 サーバ本体
502 照合部
504 サーバ側出力部
506 サーバ側送信部
508 サーバ側受信部
510 記憶部
512 薬剤マスタ
514 薬剤画像
CL クラウド
S100~S420 識別支援方法の各ステップ

Claims (8)

  1. 薬剤の画像を取得する画像取得部と、
    前記画像に含まれる文字列を文字ごとに抽出して前記文字列を示す第1のテキストを生成するテキスト化部と、
    前記第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成するテキスト修正部と、
    薬剤のコード及び/または名称を示す識別情報と、薬剤に付された文字を示す文字情報と、がテキストとして記憶された薬剤マスタと、
    前記第2のテキストを前記薬剤マスタと照合して、前記第2のテキストが示す薬剤の候補である候補薬剤についての前記識別情報を取得する照合部と、
    前記候補薬剤についての前記識別情報を出力する出力部と、
    を備え
    前記テキスト修正部は、前記抽出した文字の前後関係を用いて前記第1のテキストを修正し、
    前記薬剤マスタは前記文字情報についてのレイアウト情報を有し、
    前記照合部は前記レイアウト情報に基づいて前記照合を行う識別支援システム。
  2. 前記テキスト化部は、機械学習により構成された学習済みモデルを用いて前記文字列を抽出する請求項1に記載の識別支援システム。
  3. 前記画像に含まれる前記文字列を強調して文字列強調画像を生成する強調処理部をさらに備え、
    前記テキスト化部は前記文字列強調画像から前記第1のテキストを生成する請求項1または2に記載の識別支援システム。
  4. 前記照合部は、前記第2のテキストと前記文字情報との類似度を算出し、前記類似度に基づいて前記候補薬剤を選択する請求項1から3のいずれか1項に記載の識別支援システム。
  5. 前記薬剤マスタは前記識別情報と薬剤の画像とを関連付けて記憶し、
    前記出力部は前記候補薬剤について前記識別情報と前記画像とを関連付けて表示装置に表示させる請求項1から4のいずれか1項に記載の識別支援システム。
  6. 薬剤の画像を取得する画像取得部と、
    前記画像に含まれる文字列を文字ごとに抽出して前記文字列を示す第1のテキストを生成するテキスト化部と、
    前記第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成するテキスト修正部と、
    前記第2のテキストを示す情報を識別支援サーバに送信するクライアント側送信部と、
    前記第2のテキストが示す薬剤の候補である候補薬剤について、薬剤のコード及び/または名称を含む識別情報を前記識別支援サーバから受信するクライアント側受信部と、
    前記候補薬剤についての前記識別情報を出力する出力部と、
    を備え、
    前記テキスト修正部は、前記抽出した文字の前後関係を用いて前記第1のテキストを修正する識別支援クライアント。
  7. 薬剤のコード及び/または名称を示す識別情報と、薬剤に付された文字を示す文字情報と、がテキストとして記憶された薬剤マスタと、
    薬剤についてのテキスト情報を識別支援クライアントから受信するサーバ側受信部と、
    前記テキスト情報を前記薬剤マスタと照合して、前記テキスト情報が示す薬剤の候補である候補薬剤についての前記識別情報を取得する照合部と、
    前記取得した前記識別情報を前記識別支援クライアントに送信するサーバ側送信部と、
    を備え、
    前記薬剤マスタは前記文字情報についてのレイアウト情報を有し、
    前記照合部は前記レイアウト情報に基づいて前記照合を行う識別支援サーバ。
  8. 薬剤の画像を取得する画像取得工程と、
    前記画像に含まれる文字列を文字ごとに抽出して前記文字列を示す第1のテキストを生成するテキスト化工程と、
    前記第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成するテキスト修正工程と、
    薬剤のコード及び/または名称を示す識別情報と、薬剤に付された文字を示す文字情報と、がテキストとして記憶された薬剤マスタと前記第2のテキストとを照合して、前記第2のテキストが示す薬剤の候補である候補薬剤についての前記識別情報を取得する照合工程と、
    前記候補薬剤についての前記識別情報を出力する出力工程と、
    を有し、
    前記テキスト修正工程では、前記抽出した文字の前後関係を用いて前記第1のテキストを修正し、
    前記薬剤マスタは前記文字情報についてのレイアウト情報を有し、
    前記照合工程では前記レイアウト情報に基づいて前記照合を行う識別支援方法。
JP2021533014A 2019-07-17 2020-07-09 識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法 Active JP7343585B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019132074 2019-07-17
JP2019132074 2019-07-17
PCT/JP2020/026849 WO2021010276A1 (ja) 2019-07-17 2020-07-09 識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法

Publications (3)

Publication Number Publication Date
JPWO2021010276A1 JPWO2021010276A1 (ja) 2021-01-21
JPWO2021010276A5 JPWO2021010276A5 (ja) 2022-09-21
JP7343585B2 true JP7343585B2 (ja) 2023-09-12

Family

ID=74210776

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021533014A Active JP7343585B2 (ja) 2019-07-17 2020-07-09 識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法

Country Status (2)

Country Link
JP (1) JP7343585B2 (ja)
WO (1) WO2021010276A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7274529B2 (ja) * 2021-06-30 2023-05-16 株式会社コンテック 薬剤識別システムおよび薬剤識別方法
WO2023238566A1 (ja) * 2022-06-10 2023-12-14 富士フイルム富山化学株式会社 医薬品情報遠隔共有システム及び医薬品情報遠隔共有方法
JP7519649B1 (ja) 2024-02-02 2024-07-22 ファーストアカウンティング株式会社 情報処理装置、情報処理方法及びプログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009098867A (ja) 2007-10-16 2009-05-07 Canon Inc 文字列認識方法、コンピュータプログラム、記憶媒体
WO2016047569A1 (ja) 2014-09-25 2016-03-31 株式会社湯山製作所 鑑査支援システム、錠剤分包装置
WO2017002713A1 (ja) 2015-06-29 2017-01-05 株式会社湯山製作所 薬剤払出装置
JP2017215859A (ja) 2016-06-01 2017-12-07 日本電信電話株式会社 文字列認識装置、方法、及びプログラム
WO2018190394A1 (ja) 2017-04-14 2018-10-18 株式会社湯山製作所 薬剤仕分装置、仕分容器、及び薬剤返却方法
WO2019039302A1 (ja) 2017-08-25 2019-02-28 富士フイルム株式会社 薬剤検査支援装置、画像処理装置、画像処理方法及びプログラム
JP6505937B1 (ja) 2018-11-26 2019-04-24 フューチャー株式会社 照合システム、照合方法及び照合プログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61206838A (ja) * 1985-03-07 1986-09-13 Tokai Rubber Ind Ltd 流体入りブツシユ組立体

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009098867A (ja) 2007-10-16 2009-05-07 Canon Inc 文字列認識方法、コンピュータプログラム、記憶媒体
WO2016047569A1 (ja) 2014-09-25 2016-03-31 株式会社湯山製作所 鑑査支援システム、錠剤分包装置
WO2017002713A1 (ja) 2015-06-29 2017-01-05 株式会社湯山製作所 薬剤払出装置
JP2017215859A (ja) 2016-06-01 2017-12-07 日本電信電話株式会社 文字列認識装置、方法、及びプログラム
WO2018190394A1 (ja) 2017-04-14 2018-10-18 株式会社湯山製作所 薬剤仕分装置、仕分容器、及び薬剤返却方法
WO2019039302A1 (ja) 2017-08-25 2019-02-28 富士フイルム株式会社 薬剤検査支援装置、画像処理装置、画像処理方法及びプログラム
JP6505937B1 (ja) 2018-11-26 2019-04-24 フューチャー株式会社 照合システム、照合方法及び照合プログラム

Also Published As

Publication number Publication date
JPWO2021010276A1 (ja) 2021-01-21
WO2021010276A1 (ja) 2021-01-21

Similar Documents

Publication Publication Date Title
CN112329964B (zh) 用于推送信息的方法、装置、设备以及存储介质
JP7343585B2 (ja) 識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法
WO2019218451A1 (zh) 一种医学报告的生成方法及设备
CN111626048A (zh) 文本纠错方法、装置、设备及存储介质
CN112131393A (zh) 一种基于bert和相似度算法的医疗知识图谱问答系统构建方法
CN111709233A (zh) 基于多注意力卷积神经网络的智能导诊方法及系统
US20190018842A1 (en) Method executed in translation system and including generation of translated text and generation of parallel translation data
US20220059186A1 (en) Method and apparatus for detecting molecule binding site, electronic device, and storage medium
WO2023029502A1 (zh) 基于问诊会话构建用户画像的方法、装置、设备和介质
US11030389B2 (en) Acquisition of a font portion using a compression mechanism
JP7260315B2 (ja) 服薬指導支援装置および服薬指導支援システム
CN113707300A (zh) 基于人工智能的搜索意图识别方法、装置、设备及介质
US20200019823A1 (en) Medical image analysis method applying machine learning and system thereof
KR102145858B1 (ko) 문서 이미지로부터 인식된 용어를 표준화하기 위한 방법
CN114765075A (zh) 药品推荐方法、装置及系统、电子设备及存储介质
JP6908977B2 (ja) 医療情報処理システム、医療情報処理装置及び医療情報処理方法
CN113724830B (zh) 基于人工智能的用药风险检测方法及相关设备
JP2018169715A (ja) 翻訳支援システム等
CN111597807B (zh) 分词数据集生成方法、装置、设备及其存储介质
US9881004B2 (en) Gender and name translation from a first to a second language
CN116453674A (zh) 一种智慧医疗系统
WO2022227171A1 (zh) 关键信息提取方法、装置、电子设备及介质
CN116882496B (zh) 一种多级逻辑推理的医学知识库构建方法
JP7225402B2 (ja) 識別支援システム、識別支援サーバ、及び識別支援方法
Alishahi et al. Fast mapping in word learning: What probabilities tell us

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220912

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220912

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230825

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230831

R150 Certificate of patent or registration of utility model

Ref document number: 7343585

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350