JP2002358501A

JP2002358501A - 信号処理回路

Info

Publication number: JP2002358501A
Application number: JP2001164284A
Authority: JP
Inventors: Osamu Nomura; 修野村; Masakazu Matsugi; 優和真継; Katsuhiko Mori; 克彦森
Original assignee: Canon Inc
Current assignee: Canon Inc
Priority date: 2001-05-31
Filing date: 2001-05-31
Publication date: 2002-12-13

Abstract

(57)【要約】【課題】回路規模の増大や消費電力の増大を招かず
に、矛盾無く安定的に動作する同期回路を実現する。【解決手段】局所同期型並列パルス信号処理回路に、
互いに所定の規則に基づいて結合して並列配置され、入
力信号に対して所定の演算を行い出力を行う複数のニュ
ーロンと、所定の近傍のニューロンに対して、位相同期
信号を出力する位相同期信号発生回路と、所定の近傍の
ニューロンの出力の許容位相差以内の同期を検出する同
期検出手段とを備え、位相同期信号発生回路が、同期検
出手段の同期検出結果に応じて、前記の所定の演算を行
い出力を行うニューロンとしても機能するようにする。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、局所的な同期動作
を伴う並列パルス信号処理を行う神経回路網などの信号
処理回路に関する。

【０００２】

【従来の技術】従来より、画像認識や音声認識の分野に
おいては、特定の認識対象に特化した認識処理アルゴリ
ズムをコンピュータソフトとして逐次演算して実行する
タイプ、或いは専用並列画像処理プロセッサ（ＳＩＭ
Ｄ、ＭＩＭＤマシン等）により実行するタイプに大別さ
れる。

【０００３】画像認識アルゴリズムを例としてその代表
例を以下に挙げる。先ず、認識対象モデルとの類似度に
関する特徴量を算出して行うものとしては、認識対象の
モデルデータをテンプレートモデルとして表現してお
き、入力画像（或いはその特徴ベクトル）とのテンプレ
ートマッチング等による類似度算出や、高次相関係数の
算出などによる方法、対象のモデル画像を主成分分析し
て得られる固有画像関数空間へ入力パターンを写像して
モデルとの特徴空間内での距離を算出する方法(Sirovic
h, et al., 1987, Low-dimensional procedure for the
characterization of human faces, J. Opt. Soc. Am.
[A], vol. 3, pp.519-524)、複数の特徴抽出結果（特
徴ベクトル）およびその空間配置関係をグラフ表現し、
弾性的グラフマッチングによる類似度算出を行う方法
（Lades et al. 1993, Distortion Invariant Object R
ecognition in the Dynamic Link Architecture, IEEE
Trans.on Computers, vol.42, pp.300-311）、入力画像
に所定の変換を行って位置、回転、スケール不変な表現
を得た後にモデルとの照合を行う方法（Seibert, etal.
1992, Learning and recognizing 3D objects from mu
ltiple views in a neural system, in Neural Network
s for Perception, vol. 1 Human and Machine Percept
ion(H. Wechsler Ed.) Academic Press, pp.427-444）
等がある。

【０００４】生体の情報処理機構にヒントを得た神経回
路網モデルによるパターン認識方法としては、階層的テ
ンプレートマッチングを行う方法（特公昭60-712、Fuku
shima & Miyake, 1982 Neocognitron: A new algorithm
for pattern recognition tolerant of deformation a
nd shifts in position, Pattern Recognition, vol.1
5, pp.455-469）、ダイナミックルーティング神経回路
網により対象中心のスケール、位置不変な表現を得て行
う方法(Anderson, et al. 1995, Routing Networks in
Visual Cortex, in Handbook of Brain Theory and Neu
ral Networks (M.Arbib, Ed.), MIT Press, pp.823-82
6)、その他多層パーセプトロン、動径基底関数(Radial
Basis Function)ネットワークなどを用いる方法があ
る。

【０００５】一方、生体の神経回路網による情報処理機
構をより忠実に取り入れようとする試みとして、アクシ
ョンポテンシャルに相当するパルス列による情報の伝達
表現を行う神経回路網モデル回路が提案されている(Mur
ray et al., 1991 Pulse-Stream VLSI Neural Networks
Mixing Analog and Digital Techniques, IEEE Trans.
on Neural Networks, vol.2, pp.193-204.；特開平7-2
62157号公報、特開平7-334478号公報、特開平8-153148
号公報、特許２８７９６７０号公報など)。

【０００６】パルス列生成ニューロンからなる神経回路
網により特定対象の認識、検出を行う方法としては、結
合入力(linking inputs)と供給入力(feeding inputs)を
前提としたEckhornらによる高次（２次以上）のモデル
（Eckhorn, et al. 1990, Feature linking via synchr
onization among distributed assemblies: Simulation
of results from cat cortex, Neural Computation, V
ol.2, pp.293-307)、即ち、パルス結合神経回路網(以
下、ＰＣＮＮと略す) を用いた方式がある（ＵＳＰ５６
６４０６５、及び、Broussard, et al. 1999, Physiolo
gically Motivated Image Fusion for Object Detectio
n using a Pulse Coupled Neural Network, IEEE Tran
s. on Neural Networks, vol. 10, pp.554-563、な
ど）。

【０００７】また、ニューラルネットワークにおける配
線問題を軽減する方法として、いわゆるパルス出力ニュ
ーロンのアドレスをイベント駆動型で符号化する方法
（Address Event Representation：以下、ＡＥＲとい
う）がある(Lazzaro, et al. 1993, Silicon Auditory
Processors as Computer Peripherals, In Touretzky,
D.(ed), Advances in Neural Information Processing
Systems 5. San Mateo, CA:Morgan Kaufmann Publisher
s)。この場合、パルス列出力側のニューロンのＩＤがア
ドレスとして２値で符号化されることにより、異なるニ
ューロンからの出力信号が共通バス上に時間的に配列し
ても、それを入力する側のニューロンでは元のニューロ
ンのアドレスを自動的にデコードすることができる。

【０００８】一方、特許２７４１７９３号公報に係るニ
ューラルネットワークプロセッサでは、シストリックア
レイのアーキテクチャにおいて多層のフィードフォワー
ド型ネットワークを構成することにより、ニューロン数
の減少と回路規模の縮小を図っている。

【０００９】特許２５０００３８号公報に係る並列処理
マルチプロセッサシステム等においては、分散並列型計
算システムにおいて命令セットの処理と同時に生成する
シグネチャの多数決処理により誤りの有無を検出する。

【００１０】また、近年マイクロプロセサの動作周波数
が大幅に増大する中で、チップ全体を単一のクロック信
号に同期して動作させるのではなく、チップを複数のブ
ロックに分割しそれぞれのブロックを非同期で動かすア
ーキテクチャが開発されている(Schuster, S. et al.,
“Asynchronous Interlocked Pipelined CMOS Circuits
Operating at 3.3-4.5GHz”, 2000 IEEE Internationa
l Solid-State Circuits Conference(ISSCC2000), WA1
7.3, vol.43, pp.292-293, 2000)。

【００１１】

【発明が解決しようとする課題】上述した従来例におい
ては、各演算素子の同期を取るためにグローバルなクロ
ック信号を制御クロック信号として用いたり、または局
所的な動作を行うための同期クラスターを構成するため
の局所的なクロック信号を制御クロック信号として用い
る必要があった。

【００１２】そのため回路規模の増大や消費電力の増大
を招き、かつ矛盾無く安定的に動作する同期回路の実現
が困難であった。

【００１３】

【課題を解決するための手段】本発明は、出力の位相同
期をとる対象となる演算素子の出力に応じて、位相同期
信号発生回路から前記演算素子に対して、演算素子の出
力信号間の位相差が許容位相差以内となる信号レベルを
有する位相同期信号を出力する機能により、並列パルス
信号処理の局所的な同期動作を無矛盾かつ安定に行い、
さらに定消費電力化を実現することを目的とする。

【００１４】また、同期検出手段の同期検出結果に応じ
て回路構成を切り替えることにより、位相同期信号発生
回路の機能と、所定の演算を行い出力を行う演算素子の
機能を同一の素子により実現し、回路規模の縮小を図る
ことを目的とする。

【００１５】本発明によれば、信号処理回路に、互いに
所定の規則に基づいて結合して並列配置され、入力信号
に対して所定の演算を行い出力を行う複数の演算素子
と、所定の近傍の前記演算素子に対して、位相同期信号
を出力する位相同期信号発生回路と、所定の近傍の前記
演算素子の出力の許容位相差以内の同期を検出する同期
検出手段とを備え、前記位相同期信号発生回路が、前記
同期検出手段の同期検出結果に応じて、前記の所定の演
算を行い出力を行う演算素子としても機能することを特
徴とする。

【００１６】これにより、並列処理回路を構成する各演
算素子の動作が非同期であっても、同期を確立したのち
に所望の演算処理を行うことができ、かつ回路規模を縮
小することが可能となる。

【００１７】本発明の他の態様の信号処理回路において
は、前記位相同期回路の出力は、所定の近傍の演算素子
から入力される時系列信号に応じて行われることを特徴
とするものであってもよい。

【００１８】これにより、局所的な同期クラスタが所定
の近傍の演算素子の演算内容に応じて適宜形成されるよ
うなイベント駆動型の同期確立を局所的に行うので、低
消費電力化と動作の安定化を非同期並列処理回路で実現
することができる。

【００１９】本発明の他の態様の信号処理回路において
は、前記位相同期回路の出力は、パルス信号であること
を特徴とするものであってもよい。

【００２０】これにより、同期化の対象となる演算素子
は、入力されたパルス信号である位相同期信号に応じた
タイミングで、許容位相差以内で同期した出力を行う。

【００２１】本発明の他の態様の信号処理回路において
は、前記所定の近傍の演算素子が不応期を有し、かつ前
記位相同期信号発生回路において、信号が入力されてか
ら位相同期信号が出力されるまでの時間間隔が、前記所
定の近傍の演算素子の不応期以上の時間間隔を有するこ
とを特徴とするものであってもよい。

【００２２】これにより、不応期に位相同期信号が入力
された演算素子が、次の位相同期信号の入力時に、他の
演算素子と位相同期した出力を行うことが可能となる。

【００２３】本発明の他の態様の信号処理回路において
は、前記位相同期信号発生回路から前記所定の近傍の演
算素子に対して出力される位相同期信号の出力が、前記
所定の近傍の演算素子からの出力信号間の位相差が、前
記許容位相差以内となるように制御されていることを特
徴とするものであってもよいこれにより、同期化の対象
となる演算素子は、位相同期信号が入力されてから極短
時間で出力を行うこととなり、前記演算素子の出力信号
の位相が、許容位相差以内での同期した位相となる。

【００２４】そしてまた、前記同期確立までの時間も短
縮することが可能となる。

【００２５】本発明の他の態様の信号処理回路において
は、前記所定の近傍の演算素子が不応期を有し、かつ前
記所定の近傍の演算素子の出力信号間の位相差は、前記
位相同期信号が前記演算素子の不応期以外に入力された
場合に前記許容位相差以内となることを特徴とするもの
であってもよい。

【００２６】これにより、位相同期信号を不応期以外の
タイミングで入力された所定の近傍の演算素子は、出力
信号の位相が、許容位相差以内のほぼ一致した位相とな
る。

【００２７】本発明の他の態様の信号処理回路において
は、前記同期検出手段が、入力信号の積分値に応じて出
力を行う演算素子を備えることを特徴とする。

【００２８】これにより、同期化の対象となる演算素子
の出力値を積分した値に応じて、同期確立の検出を行う
ことができる。

【００２９】また、本発明の他の態様の信号処理回路に
おいては、互いに所定の規則に基づいて結合して並列配
置され、入力信号に対して所定の演算を行い出力を行う
複数の演算素子と、所定の近傍の前記演算素子に対し
て、位相同期信号を出力する位相同期信号発生回路と、
所定の近傍の前記演算素子の出力の許容位相差以内の同
期を検出する同期検出手段とを有し、前記位相同期信号
発生回路から前記所定の近傍の演算素子に対して出力さ
れる位相同期信号の出力が、前記所定の近傍の演算素子
からの出力信号間の位相差が、前記許容位相差以内とな
るように制御されることを特徴とする。

【００３０】これにより、並列処理回路を構成する各演
算素子の動作が非同期であっても、同期を確立したのち
に所望の演算処理を行うことができ、かつ同期化の対象
となる演算素子は、位相同期信号が入力されてから極短
時間で出力を行うこととなり、前記演算素子の出力信号
の位相が、許容位相差以内での同期した位相となる。

【００３１】そしてまた、前記同期確立までの時間も短
縮することが可能となる。

【００３２】本発明の他の態様の信号処理回路において
は、前記所定の近傍の演算素子が不応期を有し、かつ前
記所定の近傍の演算素子の出力信号間の位相差は、前記
位相同期信号が前記演算素子の不応期以外に入力された
場合に前記許容位相差以内となることを特徴とするもの
であってもよい。

【００３３】これにより、位相同期信号を不応期以外の
タイミングで入力された所定の近傍の演算素子は、出力
信号の位相が、許容位相差以内のほぼ一致した位相とな
る。

【００３４】本発明の他の態様の信号処理回路において
は、位相同期回路の出力は、所定の近傍の演算素子から
入力される時系列信号に応じて行われることを特徴とす
るものであってもよい。

【００３５】これにより、局所的な同期クラスタが所定
の近傍の演算素子の演算内容に応じて適宜形成されるよ
うなイベント駆動型の同期確立を局所的に行うので、低
消費電力化と動作の安定化を非同期並列処理回路で実現
することができる。

【００３６】本発明の他の態様の信号処理回路において
は、前記同期検出手段が、入力信号の積分値に応じて出
力を行う演算素子であることを特徴とするものであって
もよい。

【００３７】これにより、同期化の対象となる演算素子
の出力値を積分した値に応じて、同期確立の検出を行う
ことができる。

【００３８】本発明の他の態様の信号処理回路において
は、前記位相同期回路の出力は、パルス信号であること
を特徴とするものであってもよいものであってもよい。

【００３９】これにより、同期化の対象となる演算素子
は、入力されたパルス信号である位相同期信号に応じた
タイミングで、許容位相差以内で同期した出力を行う。

【００４０】本発明の他の態様の信号処理回路において
は、前記所定の近傍の演算素子が不応期を有し、かつ前
記位相同期信号発生回路において、信号が入力されてか
ら位相同期信号が出力されるまでの時間間隔が、前記所
定の近傍の演算素子の不応期以上の時間間隔を有するこ
とを特徴とするものであってもよい。

【００４１】これにより、不応期に位相同期信号が入力
された演算素子が、次の位相同期信号の入力時に、他の
演算素子と位相同期した出力を行うことが可能となる。

【００４２】

【発明の実施の形態】（第一の実施形態）本実施形態で
は局所同期型信号処理回路として、生体の情報処理機構
にヒントを得た神経回路網モデルを対象としている。

【００４３】しかしながら本発明においては、パルス信
号処理回路の全体的な機能・動作は、特に限定されるも
のでは無く、後述する様な局所的な同期クラスタを形成
して情報を伝達するものであれば他の構成・機能を有す
る信号処理回路であっても良い。

【００４４】従って、以下で説明するパターン認識装置
は、飽くまで本発明を説明するための一例に過ぎないこ
とに注意を要する。

【００４５】全体構成概要図１は本実施形態におけるパターン検出・認識装置のた
めのネットワークの全体構成を示す図である。この装置
では、対象または幾何学的特徴などの認識(検出)に関与
する情報を主として扱う。

【００４６】図１は、いわゆるConvolutionalネットワ
ーク構造(LeCun, Y. and Bengio, Y., 1995, “Convolu
tional Networks for Images Speech, and Time Serie
s” inHandbook of Brain Theory and Neural Networks
(M. Arbib, Ed.), MIT Press, pp.255-258)を有してい
る。最終出力は認識結果、即ち認識された対象のカテゴ
リに相当する。

【００４７】データ入力層１は、画像センサー手段の場
合はＣＭＯＳセンサー、或いはＣＣＤ素子等の光電変換
素子であり、音声の検出認識などを行う場合には音声入
力センサーである。また、所定データ解析手段の解析結
果（例えば、主成分分析、ベクトル量子化、など）から
得られる高次元のデータを入力するものであってもよ
い。

【００４８】以下、画像を入力する場合について説明す
る。特徴検出層(１,０)は、Gabor wavelet変換その他に
よる多重解像度処理により、画像パターンの局所的な低
次の特徴（幾何学的特徴のほか色成分特徴を含んでもよ
い）を全画面の各位置(或いは、全画面にわたる所定の
サンプリング点の各点)において同一箇所で複数のスケ
ールレベル又は解像度で複数の特徴カテゴリの数だけ検
出し、特徴量の種類（例えば、幾何学的特徴として所定
方向の線分を抽出する場合にはその幾何学的構造である
線分の傾き）に応じた受容野構造を有し、その程度に応
じたパルス列を発生するニューロン素子から構成され
る。

【００４９】特徴検出層(1,k)は全体として、複数の解
像度（又はスケールレベル）での処理チャネルを形成す
る（但し k≧0）。即ち、Gabor wavelet変換を特徴検出
層（１,０）で行う場合を例にとると、スケールレベル
が同一で方向選択性の異なるGaborフィルタカーネルを
受容野構造に持つ特徴検出細胞のセットは特徴検出層
（１,０）において同一の処理チャネルを形成し、後続
の層(1,１) においても、それら特徴検出細胞からの出
力を受ける特徴検出細胞（より高次の特徴を検出する）
は、当該処理チャネルと同一のチャネルに属する。

【００５０】更に後続の層（１,ｋ）(但しｋ＞１)にお
いても、同様に（2,ｋ―１）層において同一チャネルを
形成する複数の特徴統合細胞からの出力を受ける特徴検
出細胞は、当該チャネルに属するように構成される。各
処理チャネルは、同一スケールレベル（又は解像度）で
の処理が進行していくものであり、階層的並列処理によ
り低次特徴から高次特徴までの検出及び認識を行う。

【００５１】特徴統合層(２,０)は、所定の受容野構造
(以下、受容野とは直前の層の出力素子との結合範囲
を、受容野構造とはその結合荷重の分布を意味する)を
有し、パルス列を発生するニューロン素子からなり、特
徴検出層(１,０)からの同一受容野内の複数のニューロ
ン素子出力の統合（局所平均化等によるサブサンプリン
グなどの演算）を行う。また、特徴統合層内のニューロ
ンの各受容野は同一層内のニューロン間で共通の構造を
有している。各特徴検出層（１,１）、(１,２)、・・・、
(１,N)）及び各特徴統合層（(２,１)、(２,２)、・・・、
(２,N)）は、それぞれ学習により獲得した所定の受容野
構造を持ち、上述した各層と同様に前者（(１,１)、・・
・）は、各特徴検出モジュールにおいて複数の異なる特
徴の検出を行い、後者（(２,１)、・・・）は、前段の特徴
検出層からの複数特徴に関する検出結果の統合を行う。
但し、前者の特徴検出層は同一チャネルに属する前段の
特徴統合層の細胞素子出力を受けるように結合（配線）
されている。特徴統合層で行う処理であるサブサンプリ
ングは、同一特徴カテゴリの特徴検出細胞集団からの局
所的な領域（当該特徴統合層ニューロンの局所受容野）
からの出力についての平均化などを行うものである。

【００５２】図２は、シナプス回路とニューロン素子の
構成を示す図である。各層間のニューロン素子201間を
結合する構造は、図２の（Ａ）に示すように、神経細胞
の軸索または樹状突起に相当する信号伝達部203（配線
または遅延線）、及びシナプス回路Ｓ202である。図２
の（Ａ）では、ある特徴検出（統合）細胞（Ｎ）に対す
る受容野を形成する特徴統合(検出)細胞のニューロン群
（n_i）からの出力（当該細胞Ｎから見ると入力）に関与
する結合の構成を示している。太線で示している信号伝
達部203は共通バスラインを構成し、この信号伝達ライ
ン上に複数のニューロンからのパルス信号が時系列に並
んで伝達される。出力先の細胞（Ｎ）からの入力を受け
る場合も同様の構成がとられる。この場合には、全く同
じ構成において時間軸上で入力信号と出力信号とを分割
して処理してもよいし、或いは入力用（樹状突起側）と
出力用（軸索側）の２系統で、図２の（Ａ）と同様の構
成を与えて処理してもよい。

【００５３】シナプス回路Ｓ202としては、層間結合
（特徴検出層102上のニューロンと特徴統合層103上のニ
ューロン間の結合であって、各層ごとにその後続の層及
び前段の層への結合が存在しうる）に関与するものと、
同一層内ニューロン間結合に関与するものとがある。後
者は必要に応じて、主に、後述するペースメーカーニュ
ーロンと特徴検出または特徴統合ニューロンとの結合に
用いられる。

【００５４】シナプス回路Ｓ202において、いわゆる興
奮性結合はパルス信号の増幅を行い、抑制性結合は逆に
減衰を与えるものである。パルス信号により情報の伝達
を行う場合、増幅及び減衰はパルス信号の振幅変調、パ
ルス幅変調、位相変調、周波数変調のいずれによっても
実現することができる。

【００５５】本実施形態においては、シナプス回路Ｓ20
2は、主にパルスの位相変調素子として用い、信号の増
幅は、パルス到着時間の特徴に固有な量としての実質的
な進み、減衰は実質的な遅れとして変換される。即ち、
シナプス結合は後述するように出力先のニューロンでの
特徴に固有な時間軸上の到着位置(位相)を与え、定性的
には興奮性結合はある基準位相に対しての到着パルスの
位相の進みを、抑制性結合では同様に遅れを与えるもの
である。

【００５６】図２の（Ａ）において、各ニューロン素子
n_jは、パルス信号（スパイクトレイン）を出力し、後述
する様な、いわゆるintegrate-and-fire型のニューロン
素子を用いている。なお、図２の（C）に示すように、
シナプス回路とニューロン素子とを、それぞれまとめて
回路ブロックを構成してもよい。

【００５７】ニューロン素子次に各層を構成するニューロンについて説明する。各ニ
ューロン素子はいわゆるintegrate-and-fireニューロン
を基本として拡張モデル化したもので、入力信号（アク
ションポテンシャルに相当するパルス列）を時空間的に
線形加算した結果が閾値を越したら発火し、パルス状信
号を出力する点ではいわゆるintegrate-and-fireニュー
ロンと同じである。

【００５８】図２（Ｂ）はニューロン素子としてのパル
ス発生回路（ＣＭＯＳ回路）の動作原理を表す基本構成
の一例を示し、公知の回路(IEEE Trans. on Neural Net
works Vol. 10, pp.540)を拡張したものである。ここで
は、入力として興奮性と抑制性の入力を受けるものとし
て構成されている。

【００５９】以下、このパルス発生回路の動作原理につ
いて説明する。興奮性入力側のキャパシタC₁及び抵抗Ｒ
_１回路の時定数は、キャパシタＣ_２及び抵抗Ｒ_２回路の
時定数より小さく、定常状態では、トランジスタＴ_１、
Ｔ_２、Ｔ_３は遮断されている。なお、抵抗は実際には、
ダイオードモードで結合するトランジスタで構成され
る。

【００６０】キャパシタC₁の電位が増加し、キャパシタ
C₂のそれよりトランジスタＴ_１の閾値だけ上回ると、ト
ランジスタＴ_１はアクティブになり、更にトランジスタ
Ｔ_２，Ｔ_３をアクティブにする。トランジスタＴ_２，Ｔ
_３は、電流ミラー回路を構成し、図２の（Ｂ）の回路の
出力は、不図示の出力回路によりキャパシタC₁側から出
力される。キャパシタＣ_２の電荷蓄積量が最大となる
と、トランジスタＴ_１は遮断され、その結果としてトラ
ンジスタＴ_２及びＴ_３も遮断され、上記正のフィードバ
ックは０となる様に構成されている。

【００６１】いわゆる不応期には、キャパシタＣ_２は放
電し、キャパシタＣ_１の電位がキャパシタＣ_２の電位よ
りも大で、その差がトランジスタＴ_１の閾値分を超えな
い限り、ニューロンは応答しない。キャパシタＣ_１、Ｃ
_２の交互充放電の繰り返しにより周期的なパルスが出力
され、その周波数は一般的には興奮性入力のレベルに対
応して定まる。但し、不応期が存在することにより、最
大値で制限されるようにすることもできるし、一定周波
数を出力するようにもできる。

【００６２】キャパシタの電位、従って電荷蓄積量は、
基準電圧制御回路（時間窓重み関数発生回路）204によ
り時間的に制御される。この制御特性を反映するのが、
入力パルスに対する後述の時間窓内での重み付き加算で
ある（図７参照）。この基準電圧制御回路204は、後述
する同期検出信号に基づき、基準電圧信号（図７の
（Ｂ）の重み関数に相当）を発生する。

【００６３】一般的に、入力信号の上記総和と出力レベ
ル（パルス位相、パルス周波数、パルス幅など）との関
係は、そのニューロンの感度特性によって変化し、ま
た、その感度特性は、上位層からのトップダウンの入力
により変化させることができる。以下では、説明の便宜
上、入力信号総和値に応じたパルス出力の周波数は、急
峻に立ち上がるように回路パラメータが設定されている
ものとし（従って周波数ドメインでは殆ど２値）、パル
ス位相変調により、出力レベル（位相変調を加えたタイ
ミングなど）が変動するものとする。

【００６４】また、パルス位相の変調部としては、後述
する図５に示すような回路を付加して用いてもよい。こ
れにより、時間窓内の重み関数が上記基準電圧により制
御される結果、このニューロンからのパルス出力の位相
が変化し、この位相をニューロンの出力レベルとして用
いることができる。

【００６５】シナプス結合でパルス位相変調を受けたパ
ルスについての時間的積分特性（受信感度特性）を与え
る図７の（Ｂ）に示すような重み関数の極大値に相当す
る時刻τ_w1は、一般的にシナプス結合で与えられる特徴
に固有なパルスの到着予定時刻τ_s1より時間的に早く設
定される。その結果、到着予定時刻より一定範囲で早く
（図７(B)の例では、到着の早すぎるパルスは減衰され
る）到着するパルスは、それを受け取るニューロンで
は、高い出力レベルを持ったパルス信号として時間的に
積分される。重み関数の形状はガウシアン等の対称形に
限らず、非対称形状であってもよい。なお、上述した趣
旨より、図７の（Ｂ）の各重み関数の中心は、パルス到
着予定時刻ではないことを注記しておく。

【００６６】また、ニューロン出力（シナプス前）の位
相は、後述するように時間窓の始期を基準とし、その基
準時からの遅れ（位相）は位相同期検出後の電荷蓄積量
により決まるような出力特性を有する。このような出力
特性を与える回路構成の詳細については、本発明の主眼
とする所ではないので省略する。シナプス後のパルス位
相は当該シナプスにより与えられる固有の位相変調量に
シナプス前の位相を加算したものとなる。

【００６７】また、窓関数などを用いることにより得ら
れる入力の総和値が閾値を越えたときに、所定タイミン
グ遅れて発振出力を出すような公知の回路構成を用いて
もよい。

【００６８】ニューロン素子の構成としては、特徴検出
層102または特徴統合層103に属するニューロンであっ
て、後述する位相同期回路に基づき発火パターンが制御
される場合には、出力の位相同期が達成された後、当該
ニューロンが、前段の層の受容野から受ける入力レベル
（上記の入力の単純または重み付き総和値）に応じた位
相遅れをもって、パルス出力するような回路構成であれ
ばよい。この場合、出力が位相同期する前では、入力レ
ベルに応じて各ニューロンは互いにランダムな位相でパ
ルス出力する過渡的な遷移状態が存在する。

【００６９】特徴検出層のニューロンは前述したように
特徴カテゴリに応じた受容野構造を有し、前段の層（入
力層または特徴統合層）のニューロンからの入力パルス
信号（電流値または電位）の時間窓関数による荷重総和
値(後述)が閾値以上となったとき、その総和値に応じ
て、例えばシグモイド関数等の一定レベルに漸近的に飽
和するような非減少かつ非線形な関数、即ちいわゆるsq
uashing関数値をとるような出力（ここでは位相変化で
与える；周波数、振幅、パルス幅基準での変化となる構
成でもよい）でパルス出力を行う。

【００７０】シナプス回路等図４は、シナプス回路202(S_i)においてニューロンn_iの
結合先である各ニューロンn'_jへのシナプス結合強度
（位相遅延等に関する変調の大きさを意味する）を与え
る各小回路がマトリクス的に配置されていることを示
す。

【００７１】ネットワークが結合荷重の共有結合形式
（特に、１個の重み係数でシナプス結合を同一に表す場
合）になるような構成をとる場合には、各シナプスでの
遅延量（下記のP_ij）が図３の場合と違って同一受容野
内で一様とすることができる。特に、特徴検出層から特
徴統合層への結合は、特徴統合層がその前段の層である
特徴検出層出力の局所平均化（ただし、一様重み付けと
する）によるサブサンプリングを行う場合には、検出対
象によらず（即ち、課題によらず）このように構成する
ことができる。

【００７２】この場合、図４の（Ａ）の各小回路401
は、図４の（Ｃ）のように、単一の回路S_k,iで済み、特
に経済的な回路構成となる。一方、特徴統合層（または
センサ入力層）から特徴検出層への結合がこのようにな
っている場合、特徴検出ニューロンが検出するのは、複
数の異なる特徴要素を表すパルスの同時到着(或いは、
略同時到着)という、イベントである。

【００７３】図４の（Ｂ）に示すように各シナプス結合
小回路401は、学習回路402と位相遅延回路403とからな
る。学習回路402は、位相遅延回路403の特性を変化させ
ることにより、上記遅延量を調整し、また、その特性値
（或いはその制御値）を浮遊ゲート素子、或いは浮遊ゲ
ート素子と結合したキャパシタ上に記憶するものであ
る。位相遅延回路403はパルス位相変調回路であり、例
えば、図５（Ａ）に示すような単安定マルチバイブレー
タ506、507及び、抵抗501、504、キャパシタ503、505、
トランジスター502を用いた構成がある。図５（Ｂ）は
単安定マルチバイブレータ506へ入力された方形波P1(図
５（Ｂ）[1])、単安定マルチバイブレータ506から出力
される方形波P2(同[2])、単安定マルチバイブレータ507
から出力される方形波P3(同[3])の各タイミングを表し
ている。

【００７４】位相遅延回路403の動作機構の詳細につい
ては説明を省略するが、Ｐ１のパルス幅は、充電電流に
よるキャパシタ503の電圧が予め定められた閾値に達す
るまでの時間で決まり、Ｐ２の幅は抵抗504とキャパシ
タ505による時定数で決まる。Ｐ２のパルス幅が（図５
の（Ｂ）の点線方形波のように）広がって、その立ち下
がり時点が後にずれるとＰ３の立ち上がり時点も同じ量
ずれるが、Ｐ３のパルス幅は変わらないので、結果的に
入力パルスの位相だけが変調されて出力されたことにな
る。

【００７５】制御電圧Ecを基準電圧のリフレッシュ回路
509と結合荷重を与えるキャパシタ508への電荷蓄積量制
御を行う学習回路402で変化させることにより、パルス
位相（遅延量）を制御することができる。この結合荷重
の長期保持のためには、学習動作後に図５の（Ａ）の回
路の外側に付加される浮遊ゲート素子（図示せず）のチ
ャージとして、或いはデジタルメモリへの書き込み等を
行って結合荷重を格納してもよい。その他回路規模を小
さくなるように工夫した構成（例えば、特開平5-37317
号公報、特開平10-327054号公報参照）など周知の回路
構成を用いることができる。

【００７６】パルスの同時到着、或いは所定の位相変調
量を実現するシナプスでの学習回路の例としては、図５
の（Ｃ）に示すような回路要素を有するものを用いれば
よい。即ち、学習回路402をパルス伝播時間計測回路510
（ここで、伝播時間とは、ある層のニューロンの前シナ
プスでのパルス出力時刻と次の層上にある出力先ニュー
ロンでの当該パルスの到着時刻との時間差をさす）、時
間窓発生回路511、及び伝播時間が一定値となるように
シナプス部でのパルス位相変調量を調整するパルス位相
変調量調整回路512から構成できる。

【００７７】なお、時間窓は出力先ニューロンの発火時
点を基準として設定することにより、以下に示すような
拡張されたHebbの学習則が適用される。

【００７８】特徴検出層(1,0)での処理（Gabor wavelet
変換等による低次特徴抽出）特徴検出層(１,０)には、局所的な、ある大きさの領域
で所定の空間周波数を持ち、方向成分が垂直であるよう
なパターンの構造（低次特徴）を検出するのニューロン
があるとすると、データ入力層１上のN1の受容野内に該
当する構造が存在すれば、そのコントラストに応じた位
相でパルス出力する。このような機能はGabor filterに
より実現することができる。以下、特徴検出層(１,０)
の各ニューロンが行う特徴検出フィルタ機能について説
明する。

【００７９】特徴検出層(１,０)では、多重スケール、
多重方向成分のフィルタセットで表されるGaborウエー
ブレット変換を行うものとし、層内の各ニューロン（ま
たは複数ニューロンからなる各グループ）は、所定の G
aborフィルタ機能を有する。特徴検出層では、スケール
レベル（解像度）が一定で方向選択性の異なる複数のGa
bor関数の畳み込み演算カーネルに対応する受容野構造
を有するニューロンからなる複数のニューロン集団を一
まとめにして一つのチャネルを形成する。同一チャネル
を形成するニューロン群は方向選択性が異なり、サイズ
選択性が同一のニューロン群どうしを互いに近接した位
置に配置してもよいし、同一の特徴カテゴリに属し、異
なる処理チャネルに属するニューロン群どうしが互いに
近接配置されるようにしてもよい。これは、集団的符号
化における後述する結合処理の都合上各図に示すような
配置構成にした方が、回路構成上実現しやすいことによ
る。

【００８０】なお、Gabor wavelet変換を神経回路網で
行う方法の詳細については、Daugman(1988)による文献
（IEEE Trans. on Acoustics, Speech, and Signal Pro
cessing, vol.36, pp.1169-1179）を参照されたい。

【００８１】特徴検出層（１,０）の各ニューロンは、g
_mnに対応する受容野構造を有する。同じスケールインデ
ックスｍを有するg_mnは同じサイズの受容野を有し、演
算上は対応するカーネルg_mnサイズもスケールインデッ
クスに応じた大きさを有するようにしてある。ここで
は、最も粗いスケールから順に入力画像上の３０×３
０、１５×１５、７×７のサイズとした。各ニューロン
は、分布重み係数と画像データとの積和入力を行って得
られるウエーブレット変換係数値の非線型squashing関
数となる出力レベル（ここでは位相基準とする；但し、
周波数、振幅、パルス幅基準となる構成でもよい）でパ
ルス出力を行う。この結果、この層（１,０）全体の出
力として、Gabor wavelet変換が行われたことになる。

【００８２】特徴検出層での処理（中次、高次特徴抽
出）後続の特徴検出層（(１,１)、(１,２)、・・・）の各ニュ
ーロンは、上記特徴検出層(1,0)とは異なり、認識対象
のパターンに固有の特徴を検出する受容野構造をいわゆ
るHebb学習則等により形成する。後の層ほど特徴検出を
行う局所的な領域のサイズが認識対象全体のサイズに段
階的に近くなり、幾何学的には中次または高次の特徴を
検出する。

【００８３】例えば、顔の検出認識を行う場合には中次
（または高次）の特徴とは顔を構成する目、鼻、口等の
図形要素のレベルでの特徴を表す。異なる処理チャネル
間では、同じ階層レベル(検出される特徴の複雑さが同
レベル)であれば、検出される特徴の違いは、同一カテ
ゴリであるが、互いに異なるスケールで検出されたもの
であることにある。例えば、中次の特徴としての「目」
は異なる処理チャネルでは、サイズの異なる「目」とし
て検出を行う。即ち、画像中の与えられたサイズの
「目」に対してスケールレベル選択性の異なる複数の処
理チャネルにおいて検出が試みられる。

【００８４】なお、特徴検出層ニューロンは一般的に
(低次、高次特徴抽出に依らず)、出力の安定化のために
抑制性(分流型抑制：shunting inhibition)の結合を前
段の層出力に基づいて受けるような機構を有してもよ
い。

【００８５】特徴統合層での処理特徴統合層（(２,０)、(２,１)、・・・）のニューロンに
ついて説明する。図１に示すごとく特徴検出層（例えば
(１,０)）から特徴統合層(例えば(２,０))への結合は、
当該特徴統合ニューロンの受容野内にある前段の特徴検
出層の同一特徴要素（タイプ）のニューロンから興奮性
結合の入力及び後述する位相同期回路の出力をともに図
２（Ｂ）の興奮性入力側で受けるように構成され、統合
層のニューロンの機能は前述したごとく、各特徴カテゴ
リごとの局所平均化またはサブサンプリング等である。

【００８６】前者によれば、複数の同一種類の特徴のパ
ルスを入力し、それらを局所的な領域（受容野）で統合
して平均化する（或いは、受容野内での最大値等の代表
値を算出する）ことにより、その特徴の位置のゆらぎ、
変形に対しても確実に検出することができる。このた
め、特徴統合層ニューロンの受容野構造は、特徴カテゴ
リによらず一様（例えば、いずれも所定サイズの矩形領
域であって、かつ感度または重み係数がその中で一様分
布するなど）となるように構成してよい。

【００８７】特徴統合層でのパルス信号処理このように本実施形態では、特徴統合細胞は、その前の
層番号(1,k)の特徴検出層上の位相同期回路からの同期
検出信号を受けるようには、構成していない。なぜなら
ば、特徴統合細胞においては、入力パルスの到着時間パ
ターンではなく、むしろ一定の時間範囲での入力レベル
（入力パルスの時間的総和値など）によって決まる位相
（周波数、パルス幅、振幅のいずれかが依存してもよい
が、本実施形態では位相とした）でのパルス出力をする
ため、時間窓の発生タイミングは余り重要ではないから
である。なお、このことは、特徴統合細胞が前段の層の
特徴検出層の位相同期回路からの同期検出信号を受ける
構成を排除する趣旨ではなく、そのような構成も可能で
あることはいうまでもない。

【００８８】パターン検出、及び位相同期の動作原理次に、２次元図形パターンのパルス符号化と検出方法に
ついて説明する。図３は、特徴統合層から特徴検出層へ
の（例えば、図１の層(２,０)から層(１,１)への）パル
ス信号の伝播の様子を模式的に示したものである。特徴
統合層側の各ニューロンn_iは、それぞれ異なる特徴量
（或いは特徴要素）に対応し、特徴検出層側のニューロ
ンn'_jは、同一受容野内の各特徴を組み合わせて得られ
る、より高次の特徴（図形要素）の検出に関与する。

【００８９】各ニューロン間結合には、パルスの伝播時
間とニューロンn_iからニューロンn' _jへのシナプス結合
（Ｓ_j,i）での時間遅れ等による固有（特徴に固有）の
遅延が生じ、その結果としてニューロンn'_jに到着する
パルス列Piは、特徴統合層の各ニューロンからパルス出
力がなされる限り、学習によって決まるシナプス結合で
の遅延量により、所定の順序（及び間隔）になっている
(図３（Ａ）では、P₄,P₃,P₂,P₁の順に到着するように示
されている)。

【００９０】図３（Ｂ）は、後述する位相同期回路から
の同期検出信号を用いて時間窓の同期制御を行う場合に
おいて、特徴統合層ニューロン間の位相同期がとれた後
についての層番号（2,k）上の特徴統合細胞n_１、n_２、n
_３（それぞれ異なる種類の特徴を表す）から、層番号
（1,k+1）上のある特徴検出細胞(n'j)（より上位の特徴
検出を行う）へのパルス伝播のタイミング等を示す。

【００９１】図１３において位相同期回路は、同一の受
容野を形成し、かつ異なる種類の特徴を検出する特徴検
出ニューロンに付随し、それらと同一の受容野を形成し
て、特徴統合層（または入力層）からの興奮性結合を受
ける。また、位相同期回路からの出力はかかる特徴統合
層ニューロンの興奮性入力へも出力されるため、特徴統
合層ニューロン群と位相同期回路間での（ループ状の）
相互結合が存在する。

【００９２】続いて、本実施形態の主眼である位相同期
の動作原理について、詳しく説明する。

【００９３】まず本実施形態の回路構成は、図１３に示
すように、特徴統合層ニューロンからの出力信号が入力
されて前記出力信号の位相同期を検出し、かつスイッチ
１，２を制御し、かつ同期検出信号を出力する同期検出
手段と、特徴統合層ニューロンとの相互結合を有し、特
徴検出層ニューロンとしての機能と位相同期信号発生回
路としての機能の２種類の機能を果たす手段を有する。

【００９４】なお、前記２種類の機能は、スイッチ１，
２の操作によって切り替えられる。

【００９５】続いて前記構成における処理の流れを順を
追って、説明する。

【００９６】まず、図１３の特徴検出層ニューロン及び
位相同期信号発生回路は、特徴統合層ニューロンの出力
の位相同期が確立するまでは、位相同期信号発生回路と
して機能する（以下、位相同期が確立するまでは、位相
同期信号発生回路と呼ぶ）。

【００９７】なお、現時点では、スイッチ１は下側，ス
イッチ２は上側に接続されている。

【００９８】特徴統合層ニューロンが前段層からの出力
を受けて発火して出力を行うと、その出力信号が増幅器
による増幅を受けた後、位相同期信号発生回路に入力さ
れる。

【００９９】位相同期信号発生回路は、前記入力を一つ
でも受けとると、特徴統合層ニューロンに対して、パル
ス信号である位相同期信号の出力を行う。

【０１００】ここで、位相同期信号発生回路の閾値特性
は所定の値を持つものとして、特徴統合層ニューロンか
らの出力を一旦増幅器に通し、位相同期信号発生回路が
一つのパルスで発火できるように増幅する。

【０１０１】続いて、前記位相同期信号発生回路の発火
により出力される位相同期信号は、特徴統合層ニューロ
ンに入力されるのであるが、ここで、最終的に特徴統合
層ニューロンが受け取る位相同期信号レベルは、位相同
期信号発生回路の出力パルスを増幅器に入力して信号レ
ベルを増幅し、特徴統合層ニューロンの内部電位が許容
位相差以内に閾値に達することができるように設定され
る。

【０１０２】ここで許容位相差とは、図１６における位
相同期検出窓幅に相当しており、後述するように、位相
同期検出手段は、前記位相同期検出窓内で入力された特
徴統合層ニューロンからの出力信号の積分値によって、
位相同期を検出する。

【０１０３】特徴統合層ニューロンは、位相同期パルス
信号を受け取ると、ちょうど不応期にある場合を除い
て、いかなる内部状態であっても位相同期パルス信号に
よって発火閾値レベルを超える。

【０１０４】ここで、図１５（Ｂ）に示すように、位相
同期パルス信号が入力された時点でのそれぞれの特徴統
合層ニューロンの内部状態の差異により、特徴統合層ニ
ューロンの発火の位相には微少な差が生じるが、前述し
たように、位相同期信号レベルは前記位相差が許容位相
差以下となるように設定されているため、不応期以外に
位相同期信号を入力された特徴統合層ニューロンのそれ
ぞれの出力は、位相差が許容位相差以内となり、同期状
態となる。

【０１０５】そしてさらに、前述の動作において不応期
にあった特徴統合層ニューロンが、不応期以外のタイミ
ングで位相同期信号を受け取り発火するまで、前述の動
作を繰り返すことで、最終的に全ての特徴統合層ニュー
ロンの出力の同期をとることができる。

【０１０６】続いて、以上の位相同期状態を検出するた
めの位相同期検出手段について説明する。

【０１０７】図１３に示すように、位相同期検出手段は
特徴統合層ニューロンの出力を入力信号として受け取
る。

【０１０８】ここで、図１４（Ａ）、（Ｂ）に示すよう
に、位相同期検出手段は前述のニューロン素子の項で説
明した特徴統合層ニューロンと同様の構成を有し、位相
同期検出窓発生回路によって決定される既定の時間を有
する位相同期検出窓内の入力値を積分し、その値が閾値
を越える場合に発火し、出力を行う。

【０１０９】従って、この位相同期検出窓の時間幅を前
述の特徴統合層ニューロンが位相同期した場合におけ
る、許容位相差に設定しておき、さらに発火閾値を結合
する全ての特徴統合層ニューロンの出力の積分値に設定
しておくことで、特徴統合層ニューロンの位相同期を検
出することが可能となる。

【０１１０】すなわち図１６に示すように、許容位相差
を位相同期検出窓として設定することにより、全ての特
徴統合層ニューロンの出力が同期した場合には位相同期
検出手段におけるニューロン素子回路では、位相同期検
出窓内での入力積分値が閾値に達して発火するため、結
果として特徴統合層ニューロンの同期発火を検出するこ
とができる。

【０１１１】続いて、位相同期検出後の動作について説
明する。

【０１１２】図１４（Ａ）に示すように、位相同期検出
手段は、ニューロン素子回路の出力に応じてスイッチ制
御信号を発生するスイッチ制御信号発生回路と、前記出
力に応じて同期検出信号を発生する同期検出信号発生回
路を有する。

【０１１３】位相同期検出手段は、前述の様にニューロ
ン素子回路の発火によって特徴統合層ニューロンの位相
同期を検出すると、ニューロン素子回路の出力を受けた
前記スイッチ制御信号発生回路によりスイッチ制御信号
を出力し、スイッチ１を上側に切り替える。

【０１１４】これにより、位相同期信号発生回路に対す
る入力は、特徴統合層ニューロンの出力が図１３中のシ
ナプス回路Ｓ１〜Ｓ４の処理を受けたものとなり、ここ
に位相同期信号発生回路の機能が、特徴検出層ニューロ
ンの機能に切り替わったことを意味する（以下、特徴検
出層ニューロンが後述する特徴統合層ニューロンの出力
信号に基づく演算・出力を完了するまでは、前記位相同
期信号発生回路を特徴検出層ニューロンと呼ぶ）。

【０１１５】そしてさらに位相同期検出手段は、特徴検
出層ニューロンからの出力を後段の処理階層に送るた
め、ニューロン素子回路の出力を受けた前記スイッチ制
御信号発生回路によりスイッチ制御信号を出力し、スイ
ッチ２を下側に切り替えて、特徴検出層ニューロンと後
段の特徴統合層ニューロン間の接続を導通状態にする。

【０１１６】ここで、特徴検出層ニューロンに入力され
る特徴統合層ニューロンの出力信号は、前述のスイッチ
ング動作によって特徴統合層ニューロンへの位相同期信
号の入力がストップされるため、純粋に特徴統合層ニュ
ーロンの前段層からの入力に応じた発火による出力信号
となる。

【０１１７】さらに位相同期検出手段は、ニューロン素
子回路の出力を受けた前記同期検出信号発生回路により
特徴検出層ニューロンに対して同期検出信号を出力し、
後述する時間窓の発生タイミングの基準時間を与える。

【０１１８】この場合、事前に特徴統合層からの出力が
特徴検出層に到着するまでに要する時間を算出しておく
ことで、同期検出信号と時間窓の発生タイミングの関係
を適切に設定することが可能となる。

【０１１９】本実施形態においては、同期検出信号をパ
ルス状信号とし、それが特徴検出層ニューロンに入力さ
れた時点を時間窓の始点と設定している。

【０１２０】なお、以上説明した位相同期処理過程にお
いて、重複受容野部分にあたる統合層ニューロンは、図
１５（Ａ）（図中、前段層から特徴統合層ニューロンへ
の入力は細線で示し、特徴統合層ニューロンから特徴検
出層ニューロンへの入力は点線で示し、位相同期信号は
太線で示した。また同期検出手段、スイッチ１、２、シ
ナプス回路、および増幅器は省略した）に示すように異
なる複数の位相同期信号の入力を受けるが、重複受容野
部分にあたる統合層ニューロンが、前段層からの入力、
もしくは位相同期信号発生回路からの入力のいずれかに
よってでも、一度でも発火すれば、その出力パルスは同
時に複数の位相同期信号発生回路に入力されるため、そ
の時点で複数の位相同期信号の位相も同期する。

【０１２１】従って、それ以降の重複受容野部分にあた
る特徴統合層ニューロンには、複数の位相同期信号がそ
れぞれの位相が同期した状態で入力されることとなり、
特徴統合層ニューロンの位相同期の確立過程は、前述し
た単独の位相同期信号による場合と同様の経過をたど
る。

【０１２２】このように、重複受容野部分にあたる特徴
統合層ニューロンが複数の位相同期信号の入力を受ける
場合も、矛盾なく安定して出力の位相同期を確立するこ
とができる。

【０１２３】また特に、位相同期信号発生回路におい
て、信号が入力されてから位相同期信号が出力されるま
での時間間隔を特徴統合層ニューロンの不応期以上の時
間間隔に設定した場合、位相同期信号が不応期に入力さ
れたために発火しなかった特徴統合層ニューロンが、次
の位相同期信号の入力時に、他の特徴統合層ニューロン
と位相同期して発火・出力を行うことが可能となり、位
相同期までの時間を短縮することが可能となる。

【０１２４】続いて、特徴統合層ニューロンの出力の位
相同期が検出された後の、特徴検出層ニューロンにおけ
る演算動作の説明を行う。

【０１２５】特徴検出層ニューロンに対して、位相同期
検出手段から同期検出信号が入力されると、前述のよう
に同期検出信号によって時間窓が発生する。

【０１２６】ここに、時間窓は特徴検出層ニューロン
(n'_i)ごとに定められ、当該ニューロンに関して同一受
容野を形成する特徴統合層内の各ニューロンに対して共
通であり、時間窓積分の時間範囲を与える。

【０１２７】層番号(1,k)にある同期検出手段は（ｋは
自然数）、同期検出信号としてパルス出力を特徴検出層
ニューロン（層番号(1,k)）に出力することにより、特
徴検出層ニューロンが時間的に入力を加算する際の時間
窓発生のタイミング信号を与えている。この時間窓の開
始時刻が各特徴統合細胞から出力されるパルスの到着時
間を図る基準時となる。即ち、同期検出手段は特徴統合
層ニューロンからのパルス出力時刻、及び特徴検出細胞
での時間窓積分の基準パルスを与える。

【０１２８】各パルスは、シナプス回路を通過すると所
定量の位相遅延が与えられ、更に共通バスなどの信号伝
達線を通って特徴検出細胞に到着する。この時のパルス
の時間軸上の並びを、特徴検出細胞の時間軸上において
点線で表したパルス（Ｐ_１，Ｐ_２，Ｐ_３）により示す。

【０１２９】特徴検出細胞において各パルス（Ｐ_１，Ｐ
_２，Ｐ_３）の時間窓積分(通常、一回の積分とする；但
し、多数回に渡る時間窓積分による電荷蓄積、または多
数回に渡る時間窓積分の平均化処理を行ってもよい)の
結果、閾値より大となった場合には、時間窓の終了時刻
を基準としてパルス出力（Ｐ_ｄ）がなされる。なお、同
図に示した学習時の時間窓とは、後で説明する学習則を
実行する際に参照されるものである。

【０１３０】続いて、以上のように特徴検出層ニューロ
ンで後述する演算動作の実行が完了すると、前述のスイ
ッチ１は再び下側に戻り、特徴統合層ニューロンの出力
は、増幅器を経て特徴検出層ニューロンに入力される。

【０１３１】また同時に、特徴統合層ニューロンの出力
は、同期検出手段にも入力される。

【０１３２】そしてまた、スイッチ２は再び上側に戻
り、特徴検出層ニューロンの出力は特徴統合層ニューロ
ンに入力されるようになる。

【０１３３】すなわちここに、特徴検出層ニューロンの
役割が再び位相同期信号発生回路に切り替わったことを
意味する。

【０１３４】なお本実施形態では、ここでのスイッチ
１、２の切り替え動作は、前回のスイッチング動作から
既定の時間の後に、スイッチ制御信号発生回路からスイ
ッチ制御信号が出力されるように事前に設定しておくこ
とで実現している。

【０１３５】また、ここでのスイッチ１、２の動作をそ
の他の制御手段を用いて行うことも可能であるが、本発
明の主眼点とは関係が無いため、説明を省略する。

【０１３６】以上説明した処理過程に関して、図１５
（Ａ）に対応する各ニューロンのパルス出力タイミング
を図１６に示す。

【０１３７】図１６において、特徴統合層ニューロン
（Ｎ_１Ｉ〜Ｎ_６Ｉ）が前段層である特徴検出ニューロン
出力によって発火し、出力を行うと、位相同期信号発生
回路から位相同期信号が出力される。位相同期信号が入
力された特徴統合層ニューロンは、前述した位相同期過
程を経て、位相同期検出手段により、位相同期検出窓内
での出力の位相同期が検出される。

【０１３８】特徴統合層ニューロンの出力の位相同期
が、位相同期手段によって検出されると、同期検出信号
が特徴検出層ニューロン（Ｎ'_２Ｄ〜Ｎ'_３Ｄ）に出力さ
る。

【０１３９】その結果、特徴検出層ニューロンでは時間
窓による演算が行われ、、演算結果に応じて出力が行わ
れる。

【０１４０】以上の様に、位相同期信号発生回路の機能
と、特徴検出層ニューロンの機能をスイッチング動作に
より切り替えることにより、矛盾なく安定した出力の位
相同期の確立と回路規模の低減を両立することが可能と
なる。

【０１４１】パルス出力の時空間的統合及びネットワー
ク特性次に入力パルスの時空間的重み付き総和（荷重和）の演
算について説明する。

【０１４２】図７（B）に示すごとく、各ニューロンで
は、上記サブ時間窓(タイムスロット）毎に所定の重み
関数（例えばGaussian）で入力パルスの荷重和がとら
れ、各荷重和の総和が閾値と比較される。τ_jはサブ時
間窓ｊの重み関数の中心位置を表し、時間窓の開始時刻
基準（開始時間からの経過時間）で表す。重み関数は一
般に所定の中心位置（検出予定の特徴が検出された場合
のパルス到着時間を表す）からの距離(時間軸上でのず
れ)の関数になり、対称形である。従って、ニューロン
の各サブ時間窓(タイムスロット）の重み関数の中心位
置τが、ニューロン間の学習後の時間遅れとすると、入
力パルスの時空間的重み付き総和（荷重和）を行う神経
回路網は一種の時間軸ドメインの動径基底関数ネットワ
ーク（Radial Basis Function Network；以下ＲＢＦと
略す）とみなすことができる。Gaussian関数の重み関数
を用いたニューロンn_iの時間窓F_Tiは、各サブ時間窓毎
の広がりをσ、係数因子をb_ijで表すと、

【外１】・・・（1）となる。

【０１４３】なお、重み関数としては、負の値をとるも
のであってもよい。例えば、ある特徴検出層のニューロ
ンが三角形を最終的に検出することが予定されている場
合に、その図形パターンの構成要素でないことが明らか
な特徴（Ｆ_{ｆａｕｌｓｅ}）が検出された場合には、他の
特徴要素からの寄与が大きくても三角形の検出出力が最
終的になされないように、入力の総和値算出処理におい
て、当該特徴（Ｆ_ｆａ _ｕｌｓｅ）に対応するパルスから
は、負の寄与を与えるような重み関数及び特徴検出(統
合)細胞からの結合を与えておくことができる。

【０１４４】特徴検出層のニューロンn_iへの入力信号の
時空間和X_i(t)は、

【外２】・・・（2）となる。ここに、ε_jは、ニューロンn_jからの出力パル
スの初期位相であり、ニューロンn_iとの同期発火によ
り、０に収束する場合には、ε_jは常に０としてよい。
図７（Ａ）のパルス入力と同（Ｂ）に示す重み関数によ
る荷重和を実行すると、図７(E)に示すような荷重和値
の時間的遷移が得られる。特徴検出ニューロンは、この
荷重和値が閾値(Vt)に達するとパルス出力を行う。

【０１４５】ニューロンn_iからの出力パルス信号は、前
述したように、入力信号の時空間和（いわゆる総入力
和）のsquashing非線形関数となる出力レベルと学習に
より与えられた時間遅れ（位相）をもって上位層のニュ
ーロンに出力される（パルス出力は固定周波数(２値)と
し、学習によって決まる固定遅延量に相当する位相に入
力信号の時空間和についてのsquashing非線形関数とな
る位相変調量を加えて出力される）。

【０１４６】特徴検出層処理以下、特徴検出層で主に行われる処理(学習時、認識時)
について説明する。各特徴検出層においては、前述した
ように各スケールレベルごとに設定される処理チャネル
内において同一受容野からの複数の異なる特徴に関する
パルス信号を入力し、時空間的重み付き総和（荷重和）
演算と閾値処理を行う。各特徴量に対応するパルスは予
め学習により定められた遅延量(位相) により、所定の
時間間隔で到着する。

【０１４７】このパルス到着時間パターンの学習制御
は、本実施形態の主眼ではないので詳しくは説明しない
が、例えば、ある図形パターンを構成する特徴要素がそ
の図形の検出に最も寄与する特徴であるほど先に到着
し、そのままでは、パルス到着時間がほぼ等しくなる特
徴要素間では、互いに一定量だけ時間的に離れて到着す
るような競争学習を導入する。或いは、予め決められた
特徴要素(認識対象を構成する特徴要素であって、特に
重要と考えられるもの：例えば、平均曲率の大きい特
徴、直線性の高い特徴など)間で異なる時間間隔で到着
する様に設計してもよい。

【０１４８】本実施形態では、前段の層である特徴統合
層上の同一受容野内の各低次特徴要素に相当するニュー
ロンは、それぞれ所定の位相で同期発火（パルス出力）
することになる。一般的に特徴統合層のニューロンであ
って位置が異なるが同一の高次の特徴を検出する特徴検
出ニューロンへの結合が存在する（この場合、受容野は
異なるが、高次の同じ特徴を構成する結合を有する）。
この時、これら特徴検出ニューロンとの間でも同期発火
することはいうまでもない。また、特徴検出層上の各ニ
ューロンにおいては入力パルスの時空間的重み付き総和
（荷重和）の演算は、ニューロンに到着したパルス列に
ついて所定幅の時間窓においてのみ行われる。時間窓内
の重み付き加算を実現する手段は、図２に示したニュー
ロン素子回路に限らず、他の方法で実現してもよいこと
は言うまでもない。

【０１４９】この時間窓は、実際のニューロンの不応期
(refractory period)以外の時間帯にある程度対応して
いる。即ち、不応期(時間窓以外の時間範囲)にはどのよ
うな入力を受けてもニューロンからの出力はないが、そ
の時間範囲以外の時間窓では入力レベルに応じた発火を
行うという点が実際のニューロンと類似している。図３
（Ｂ）に示す不応期は、特徴検出細胞の発火直後から次
の時間窓開始時刻までの時間帯である。不応期の長さと
時間窓の幅は任意に設定可能であることはいうまでもな
く、同図に示したように時間窓に比べて不応期を短くと
らなくてもよい。

【０１５０】本実施形態では、既に説明したメカニズム
として、例えば各特徴検出層ニューロンごとに、その同
一受容野からの入力を受けるような位相検出手段による
同期検出信号の入力により、上述した開始時期の共通化
をもたらすようにした。

【０１５１】このように構成した場合には、時間窓の同
期制御は（仮に必要であったとしても）ネットワーク全
体にわたって行う必要が無く、また、上記したようなタ
イミング信号の揺らぎ、変動があっても、局所的な同一
受容野からの出力に対して一様にその影響を受ける（窓
関数の時間軸上での位置の揺らぎは同一受容野を形成す
るニューロン間で同一となる）ので、特徴検出の信頼性
は劣化することはない。このような局所的な回路制御に
より信頼度の高い同期動作を可能にするため、回路素子
パラメータに関するばらつきの許容度も高くなる。

【０１５２】以下、簡単のために三角形を特徴として検
出する特徴検出ニューロンについて説明する。その前段
の特徴統合層は、図７（Ｃ）に示すような各種向きを持
ったL字パターン(f₁₁, f₁₂, ・・・, )、Ｌ字パターンとの
連続性（連結性）を有する線分の組み合わせパターン(f
₂₁,f₂₂,・・・)、三角形を構成する２辺の一部の組み合わ
せ(f₃₁,・・・)、などのような図形的特徴(特徴要素)に反
応するものとする。

【０１５３】また、同図のf₄₁,f₄₂,f₄₃は向きの異なる
三角形を構成する特徴であって、f₁₁,f₁₂,f₁₃に対応す
る特徴を示している。学習により層間結合をなすニュー
ロン間に固有の遅延量が設定された結果、三角形の特徴
検出ニューロンにおいては、時間窓を分割して得られる
各サブ時間窓(タイムスロット）(w₁,w₂,・・・)において、
三角形を構成する主要かつ異なる特徴に対応するパルス
が到着するように予め設定がなされる。

【０１５４】例えば、時間窓をｎ分割した後のw₁, w₂,
・・・、w_nには、図７(A)に示すごとく、全体として三角形
を構成するような特徴のセットの組み合わせに対応する
パルスが初めに到着する。ここに、Ｌ字パターン(f₁₁,
f₁₂, f₁₃)は、それぞれw₁,w₂,w₃内に到着し、特徴要素
(f₂₁,f₂₂,f₂₃)に対応するパルスは、それぞれw₁, w₂,w₃
内に到着するように学習により遅延量が設定されてい
る。

【０１５５】特徴要素(f₃₁,f₃₂,f₃₃)対応のパルスも同
様の順序で到着する。図７(A)の場合、一つのサブ時間
窓(タイムスロット）にそれぞれ一つの特徴要素に対応
するパルスが到着する。サブ時間窓に分割する意味は、
各サブ時間窓で時間軸上に展開表現された異なる特徴要
素に対応するパルスの検出（特徴要素の検出）を個別に
かつ確実に行うことにより、それらの特徴を統合する際
の統合の仕方、例えば、すべての特徴要素の検出を条件
とするか、或いは一定割合の特徴検出を条件とするか等
の処理モードの変更可能性や適応性を高めることにあ
る。

【０１５６】例えば、認識（検出）対象が顔であり、
それを構成するパーツである目の探索(検出)が重要であ
るような状況においては（目のパターン検出の優先度を
視覚探索において高く設定したい場合）、高次の特徴検
出層からのフィードバック結合を導入することにより、
選択的に目を構成する特徴要素パターンに対応する反応
選択性（特定の特徴の検出感度）を高めたりすることが
できる。このようにすることにより、高次の特徴要素
（パターン）を構成する低次の特徴要素により高い重
要度を与えて検出することができる。

【０１５７】また、重要な特徴ほど早いサブ時間窓にパ
ルスが到着するように予め設定されているとすると、当
該サブ時間窓での重み関数値が他のサブ時間窓での値よ
り大きくすることにより、重要度の高い特徴ほど検出さ
れやすくすることができる。この重要度（特徴間の検出
優先度）は学習により獲得されるか、予め定義しておく
こともできる。

【０１５８】従って、一定割合の特徴要素の検出という
事象さえ起きればよいのであれば、サブ時間窓への分割
は殆ど意味が無くなり、一つの時間窓において行えばよ
い。

【０１５９】なお、複数（３つ）の異なる特徴要素に対
応するパルスがそれぞれ到着して加算されるようにして
もよい(図７（Ｄ）)。即ち、一つのサブ時間窓(タイム
スロット）に複数の特徴要素(図７（Ｄ）)、或いは任意
の数の特徴要素に対応するパルスが入力されることを前
提としてもよい。この場合、図７（Ｄ）では、初めのサ
ブ時間窓では、三角形の頂角部分ｆ_１１の検出を支持す
る他の特徴要素ｆ_２１、ｆ_２３に対応するパルスが到着
し、同様に２番目のサブ時間窓には頂角部分ｆ _１２の検
出を支持するような他の特徴要素ｆ_２２、ｆ_３１のパル
スが到着している。

【０１６０】なお、サブ時間窓(タイムスロット）への
分割数、各サブ時間窓(タイムスロット）の幅および特
徴のクラスおよび特徴に対応するパルスの時間間隔の割
り当てなどは上述した説明に限らず、変更可能であるこ
とはいうまでもない。

【０１６１】撮影装置などへ搭載した応用例本実施形態の構成に係るパターン認識(検出)装置を撮影
手段に搭載させることにより、特定被写体へのフォーカ
シングや特定被写体の色補正、露出制御を行う場合につ
いて、図１２を参照して説明する。図１２は、実施形態
に係るパターン検出（認識）装置を撮像装置に用いた例
の構成を示す図である。

【０１６２】図１２の撮像装置1101は、撮影レンズおよ
びズーム撮影用駆動制御機構を含む結像光学系1102、CC
D又はＣＭＯＳイメージセンサー1103、撮像パラメータ
の計測部1104、映像信号処理回路1105、記憶部1106、撮
像動作の制御、撮像条件の制御などの制御用信号を発生
する制御信号発生部1107、EVFなどファインダーを兼ね
た表示ディスプレイ1108、ストロボ発光部1109、記録媒
体1110などを具備し、更に上述したパターン検出装置を
被写体検出（認識）装置1111として備える。

【０１６３】この撮像装置1101は、例えば撮影された映
像中から予め登録された人物の顔画像の検出(存在位
置、サイズの検出)を被写体検出(認識)装置1111により
行う。そして、その人物の位置、サイズ情報が被写体検
出(認識)装置1111から制御信号発生部1107に入力される
と、同制御信号発生部1107は、撮像パラメータ計測部11
04からの出力に基づき、その人物に対するピント制御、
露出条件制御、ホワイトバランス制御などを最適に行う
制御信号を発生する。

【０１６４】上述したパターン検出(認識)装置を、この
ように撮像装置に用いた結果、当該被写体を確実に検出
(認識)する機能を低消費電力かつ高速（リアルタイム）
に実現して、人物等の検出とそれに基づく撮影の最適制
御（ＡＦ、ＡＥなど）を行うことができた。

【０１６５】（第二実施形態）本実施形態は、パターン
検出、及び位相同期の動作原理の項目に関してのみ、第
一実施形態と異なっている。

【０１６６】そこで本実施形態に関しては、前記の項目
に関する説明を行い、それ以外の機能・動作は、全て第
一実施形態と同様として説明を省略する。

【０１６７】まず本実施形態の位相同期回路は、図６に
示すように、特徴統合層ニューロンからの出力信号が入
力されて前記出力信号の位相同期を検出し、かつスイッ
チ１，２を制御し、かつ同期検出信号を出力する同期検
出手段と、特徴統合層ニューロンと相互結合した位相同
期信号発生回路を有する。

【０１６８】前記構成における処理の流れを順を追っ
て、説明する。

【０１６９】まず、特徴統合層ニューロンが前段層から
の出力を受けて発火して出力を行うと、その出力信号が
増幅器を経て、位相同期回路中の位相同期信号発生回路
に入力される。

【０１７０】位相同期信号発生回路は、図１４（Ｃ）に
示すようにニューロン素子回路により構成されており、
前記入力を一つでも受けとると、特徴統合層ニューロン
に対して、位相同期信号の出力を行う（この時点では、
図６中のスイッチ２は導通状態である）。

【０１７１】ここで、位相同期信号発生回路の閾値特性
は所定の値を持つものとして、特徴統合層ニューロンか
らの出力を一旦増幅器に通し、位相同期信号発生回路が
一つのパルスで発火できるように増幅する。

【０１７２】続いて、前記位相同期信号発生回路の発火
により出力される位相同期信号は、特徴統合層ニューロ
ンに入力されるのであるが、ここで、最終的に特徴統合
層ニューロンが受け取る位相同期信号レベルは、位相同
期信号発生回路の出力パルスを増幅器に入力して信号レ
ベルを増幅し、特徴統合層ニューロンの内部電位が許容
位相差以内に閾値に達することができるように設定され
る。

【０１７３】ここで許容位相差とは、図１６における位
相同期検出窓幅に相当しており、後述するように、位相
同期検出手段は、前記位相同期検出窓内で入力された特
徴統合層ニューロンからの出力信号の積分値によって、
位相同期を検出する。

【０１７４】特徴統合層ニューロンは、位相同期信号を
受け取ると、ちょうど不応期にある場合を除いて、いか
なる内部状態であっても位相同期パルス信号によって発
火閾値レベルを超える。

【０１７５】ここで、図１５（Ｂ）に示すように、位相
同期パルス信号が入力された時点でのそれぞれの特徴統
合層ニューロンの内部状態の差異により、特徴統合層ニ
ューロンの発火の位相には微少な差が生じるが、前述し
たように、位相同期信号レベルは前記位相差が許容位相
差以下となるように設定されているため、不応期以外に
位相同期信号を入力された特徴統合層ニューロンのそれ
ぞれの出力は、位相差が許容位相差以内となり、同期状
態となる。

【０１７６】そしてさらに、前述の動作において不応期
にあった特徴統合層ニューロンが、不応期以外のタイミ
ングで位相同期信号を受け取り発火するまで、前述の動
作を繰り返すことで、最終的に全ての特徴統合層ニュー
ロンの出力の同期をとることができる。

【０１７７】続いて、以上の位相同期状態を検出するた
めの位相同期検出手段について説明する。

【０１７８】図６に示すように、位相同期検出手段は特
徴統合層ニューロンの出力を入力信号として受け取る。

【０１７９】ここで、図１４（Ａ、Ｃ）に示すように、
位相同期検出手段は前述のニューロン素子の項で説明し
た特徴統合層ニューロンと同様の構成を有し、位相同期
検出窓発生回路によって決定される既定の時間を有する
位相同期検出窓内の入力値を積分し、その値が閾値を越
える場合に発火し、出力を行う。

【０１８０】従って、この位相同期検出窓の時間幅を前
述の特徴統合層ニューロンが位相同期した場合におけ
る、許容位相差に設定しておき、さらに発火閾値を結合
する全ての特徴統合層ニューロンの出力の積分値に設定
しておくことで、特徴統合層ニューロンの位相同期を検
出することが可能となる。

【０１８１】すなわち図１６に示すように、許容位相差
を位相同期検出窓として設定することにより、全ての特
徴統合層ニューロンの出力が同期した場合には位相同期
検出手段におけるニューロン素子回路では、位相同期検
出窓内での入力積分値が閾値に達して発火するため、結
果として特徴統合層ニューロンの同期発火を検出するこ
とができる。

【０１８２】続いて、位相同期検出後の動作について説
明する。

【０１８３】図１４（Ａ）に示すように、位相同期検出
手段は、ニューロン素子回路の出力に応じてスイッチ制
御信号を発生するスイッチ制御信号発生回路と、前記出
力に応じて同期検出信号を発生する同期検出信号発生回
路を有する。

【０１８４】位相同期検出手段は、前述の様にニューロ
ン素子回路の発火によって特徴統合層ニューロンの位相
同期を検出すると、ニューロン素子回路の出力を受けた
前記スイッチ制御信号発生回路によりスイッチ制御信号
を出力し、スイッチ２を遮断状態に切り替え（位相同期
を検出するまでは、導通状態）、位相同期信号発生回路
から特徴統合層ニューロンへの位相同期信号の出力をス
トップする。

【０１８５】そして同時に、スイッチ１を導通状態に切
り替えることにより（位相同期を検出するまでは、遮断
状態）、特徴統合層ニューロンの出力が図６中のシナプ
ス回路Ｓ１〜Ｓ４の処理を受けた後に特徴検出層ニュー
ロンへ入力されるようにする。

【０１８６】ここで、特徴検出層ニューロンに入力され
る特徴統合層ニューロンの出力信号は、前述のスイッチ
ング動作によって特徴統合層ニューロンへの位相同期信
号の入力がストップされるため、純粋に特徴統合層ニュ
ーロンの前段層からの入力に応じた発火による出力信号
となる。

【０１８７】さらに位相同期検出手段は、ニューロン素
子回路の出力を受けた前記同期検出信号発生回路により
特徴検出層ニューロンに対して同期検出信号を出力し、
後述する時間窓の発生タイミングの基準時間を与える。

【０１８８】この場合、事前に特徴統合層からの出力が
特徴検出層に到着するまでに要する時間を算出しておく
ことで、同期検出信号と時間窓の発生タイミングの関係
を適切に設定することが可能となる。

【０１８９】本実施形態においては、同期検出信号をパ
ルス状信号とし、それが特徴検出層ニューロンに入力さ
れた時点を時間窓の始点と設定している。

【０１９０】なお、以上説明した位相同期処理過程にお
いて、重複受容野部分にあたる統合層ニューロンは、異
なる複数の位相同期信号の入力を受けるが、重複受容野
部分にあたる統合層ニューロンが、前段層からの入力、
もしくは位相同期回路からの入力のいずれかによってで
も、一度でも発火すれば、その出力パルスは同時に複数
の位相同期回路に入力されるため、その時点で複数の位
相同期信号の位相も同期する。

【０１９１】従って、それ以降の重複受容野部分にあた
る特徴統合層ニューロンには、複数の位相同期信号がそ
れぞれの位相が同期した状態で入力されることとなり、
特徴統合層ニューロンの位相同期の確立過程は、前述し
た単独の位相同期信号による場合と同様の経過をたど
る。

【０１９２】このように、重複受容野部分にあたる特徴
統合層ニューロンが複数の位相同期信号の入力を受ける
場合も、矛盾なく安定して出力の位相同期を確立するこ
とができる。

【０１９３】また特に、位相同期信号発生回路におい
て、信号が入力されてから位相同期信号が出力されるま
での時間間隔を特徴統合層ニューロンの不応期以上の時
間間隔に設定した場合、位相同期信号が不応期に入力さ
れたために発火しなかった特徴統合層ニューロンが、次
の位相同期信号の入力時に、他の特徴統合層ニューロン
と位相同期して発火・出力を行うことが可能となり、位
相同期までの時間を短縮することが可能となる。

【０１９４】続いて、特徴統合層ニューロンの出力の位
相同期が検出された後の、特徴検出層ニューロンにおけ
る演算動作の説明を行う。

【０１９５】特徴検出層ニューロンに対して、位相同期
検出手段から同期検出信号が入力されると、前述のよう
に同期検出信号によって時間窓が発生する。

【０１９６】ここに、時間窓は特徴検出層ニューロン
(n'i)ごとに定められ、当該ニューロンに関して同一受
容野を形成する特徴統合層内の各ニューロンに対して共
通であり、時間窓積分の時間範囲を与える。

【０１９７】層番号(1,k)にある同期検出手段は（ｋは
自然数）、同期検出信号としてパルス出力を特徴検出層
ニューロン（層番号(1,k)）に出力することにより、特
徴検出層ニューロンが時間的に入力を加算する際の時間
窓発生のタイミング信号を与えている。この時間窓の開
始時刻が各特徴統合細胞から出力されるパルスの到着時
間を図る基準時となる。即ち、同期検出手段は特徴統合
層ニューロンからのパルス出力時刻、及び特徴検出細胞
での時間窓積分の基準パルスを与える。

【０１９８】各パルスは、シナプス回路を通過すると所
定量の位相遅延が与えられ、更に共通バスなどの信号伝
達線を通って特徴検出細胞に到着する。この時のパルス
の時間軸上の並びを、特徴検出細胞の時間軸上において
点線で表したパルス（Ｐ_１，Ｐ_２，Ｐ_３）により示す。

【０１９９】特徴検出細胞において各パルス（Ｐ_１，Ｐ
_２，Ｐ_３）の時間窓積分(通常、一回の積分とする；但
し、多数回に渡る時間窓積分による電荷蓄積、または多
数回に渡る時間窓積分の平均化処理を行ってもよい)の
結果、閾値より大となった場合には、時間窓の終了時刻
を基準としてパルス出力（Ｐ_ｄ）がなされる。なお、同
図に示した学習時の時間窓とは、後で説明する学習則を
実行する際に参照されるものである。

【０２００】続いて、以上のように特徴検出層ニューロ
ンで後述する演算動作の実行が完了すると、前述のスイ
ッチ２は再び導通状態に戻り、位相同期信号発生回路の
出力は、増幅器を経て特徴統合層ニューロンに入力され
る。

【０２０１】また、スイッチ１は再び遮断状態に戻り、
特徴統合層ニューロンから特徴検出層ニューロンへの入
力がストップする。

【０２０２】なお本実施形態では、ここでのスイッチ
１、２の切り替え動作は、前回のスイッチング動作から
既定の時間の後に、スイッチ制御信号発生回路からスイ
ッチ制御信号が出力されるように事前に設定しておくこ
とで実現している。

【０２０３】また、ここでのスイッチ１、２の動作をそ
の他の制御手段を用いて行うことも可能であるが、本発
明の主眼点とは関係が無いため、説明を省略する。

【０２０４】以上の様に、位相同期回路から出力される
位相同期信号の信号レベルが、特徴統合層ニューロンを
許容位相差以内に発火させるように設定することで、よ
り短時間に、特徴統合層ニューロンの位相同期を確立す
ることが可能となる。

【０２０５】（第三実施形態）本実施形態での位相同期
回路とそれに結合する他のニューロン（特徴統合層及び
検出層のニューロン群）の構成例を図８に示す（図中、
前段層から特徴統合層ニューロンへの入力は細線で示
し、特徴統合層ニューロンから特徴検出層ニューロンへ
の入力は点線で示し、特徴統合層と位相同期回路の相互
結合は太線で示し、スイッチ制御信号は細線で示した。
またシナプス回路、および同期検出信号は省略した）。

【０２０６】位相同期回路は同一特徴カテゴリの検出を
行う特徴検出層ニューロンを所定数毎に分割して得られ
るグループ毎に一つ存在し、かつ独立した位相同期信号
を発生するように構成した点が第二の実施形態と異な
る。

【０２０７】このようにすることにより、隣接する特徴
検出層ニューロン間での特徴統合層に対する重複した受
容野構造を排除し（特徴統合層ニューロンは一つの位相
同期回路からの位相同期信号のみ受ける）、位相同期回
路、及び位相同期検出手段の数を減少させることができ
る。

【０２０８】本実施形態において、位相同期回路の同期
検出信号は、同期検出手段によって特徴統合層ニューロ
ンの同期発火を検出したときに、他の位相同期回路とは
独立してなされる。

【０２０９】以上説明した処理過程を図８に対応する各
ニューロンのパルス出力タイミングを図９に示す。

【０２１０】図９において、特徴統合層ニューロン（Ｎ
_１Ｉ〜Ｎ_６Ｉ）が前段層である特徴検出ニューロン出力
によって発火し、出力を行うと、位相同期信号発生回路
から位相同期信号が出力される。位相同期信号が入力さ
れた特徴統合層ニューロンは、前述した位相同期過程を
経て、位相同期検出手段により、位相同期検出窓内での
出力の位相同期が検出される。

【０２１１】特徴統合層ニューロンの出力の位相同期
が、位相同期手段によって検出されると、同期検出信号
が特徴検出層ニューロン（Ｎ'_２Ｄ〜Ｎ'_３Ｄ）に出力さ
る。

【０２１２】その結果、特徴検出層ニューロンでは時間
窓による演算が行われ、演算結果に応じて出力が行われ
る。

【０２１３】ここで、位相同期信号発生回路の出力は、
位相同期検出時間窓（図９に示す）内での入力パルスの
時間積分値が所定の閾値を越えたときに他の位相同期回
路とは独立してなされる。

【０２１４】以上の様に、位相同期回路は同一特徴カテ
ゴリの検出を行う特徴検出層ニューロンを所定数毎に分
割して得られるグループ毎に一つ存在し、かつ独立した
位相同期信号を発生するように構成することにより、回
路規模を削減し、かつ消費電力を低減することが可能と
なる。

【０２１５】（第四実施形態）本実施形態での位相同期
回路、及び位相同期検出手段を中心とする結合に関する
構成例を図１０（Ａ），（Ｂ），図１１に示す（図中、
特徴統合層ニューロンから特徴検出層ニューロンへの入
力は点線で示し、位相同期信号は細線で示し、特徴統合
層と位相同期回路の相互結合は太線で示し、特徴統合層
とＷＴＡ回路の相互結合は細線で示し、位相同期回路と
ＷＴＡ回路の相互結合は太線で示し、及びスイッチ制御
信号は細線で示した。また前段層から特徴統合層ニュー
ロンへの入力、シナプス回路、および同期検出信号は省
略した。）。

【０２１６】位相同期回路を第三の実施形態と同様に分
割して得られる特徴検出層ニューロン群の代表位置とし
て例えば、重心位置またはその最近傍にあるニューロン
(N3I)に入力される特徴統合層ニューロンからのみパル
ス信号を受けて、所定条件のもとで位相同期信号を発生
する。

【０２１７】図１０（Ａ）において位相同期回路と結合
する特徴検出層のニューロン群の重心位置にあるのはN'
_2Dであり、N'_2Dが結合する特徴統合層ニューロンN_1I,N
_2I,N₃ _I,N_4Iが位相同期回路と相互結合をする（結合を太
い矢印で示す）。このように構成することにより、第三
実施形態と比べて相互結合に要する配線の軽減がもたら
される。また上述した配線の軽減を行っても重複する受
容野構造の排除と独立した位相同期信号を発生する位相
同期回路を用いるがゆえに動作上の問題（複数の位相同
期信号が非同期入力されることによる位相同期回路と特
徴検出層での時間窓発生タイミングのずれ）は生じな
い。

【０２１８】同様に図１０（Ｂ）に示す構成では、位相
同期回路と相互結合をするのは、N' _2Dが入力を受ける特
徴統合層ニューロン群のうち、その重心位置近傍にある
ニューロンの一つ(N_3I)のみである。かかる構成は相互
結合のための配線の更なる軽減をもたらす。また、位
相同期回路は図１０（Ｂ）で入力を受けるべき特徴統合
層ニューロンのうち、最大出力を行うニューロンからの
み入力を受けるように構成することもできる。例えば、
図１１に示す構成では、特徴統合層ニューロン群と位相
同期回路との間にかかる最大出力を検出するいわゆるWi
nner-Take-All回路（以下、ＷＴＡ回路と言う）を設定
し、位相同期回路はこのＷＴＡ回路からの出力を受ける
ようにした。特徴統合層ニューロン群と特徴検出層ニュ
ーロン群との結合は図１０（Ａ）（Ｂ）と同様である。
このようにして入力（画像）データ上の所定範囲の局所
領域で最も顕著な特徴を検出する特徴統合層ニューロン
からの出力に基づく局所タイミング制御を行うことによ
り、より小さい回路規模での並列パルス信号処理の安定
動作が実現される。

【０２１９】

【発明の効果】以上説明したように本発明によれば、信
号処理回路において、回路規模の増大や消費電力の増大
を招かずに、矛盾無く安定的に同期動作を実現できると
いう効果がある。

【図面の簡単な説明】

【図１】本発明のネットワーク全体構成を示す図であ
る。

【図２】シナプス部とニューロン素子部の構成及びニュ
ーロン素子の回路構成を示す図である。

【図３】特徴統合層（または入力層）から特徴検出層ニ
ューロンへの複数パルス伝播の様子を示す図である。

【図４】シナプス回路の構成図を示す図である。

【図５】シナプス結合小回路の構成、及び実施形態１で
用いるパルス位相遅延回路の構成を示す図である。

【図６】第二実施形態における位相同期回路の結合構造
例の模式図である。

【図７】特徴検出ニューロンに入力される異なる特徴要
素に対応する複数パルスを処理する際の時間窓の構成、
重み関数分布の例、特徴要素の例を示す図である。

【図８】第三実施形態に係る位相同期回路を中心とした
結合構造の模式図である。

【図９】各ニューロンのパルス発火タイミングを示す図
である。

【図１０】第四実施形態に係る位相同期回路を中心とし
た結合構造の模式図である。

【図１１】第四実施形態に係る位相同期回路を中心とし
た結合構造の模式図である。

【図１２】パターン認識装置を搭載した撮影装置の構成
例を示す図である。

【図１３】第一実施形態における位相同期工程の結合構
造例の模式図である。

【図１４】位相同期回路のブロック構成を示す図であ
る。

【図１５】位相同期信号の入出力を中心とした結合構造
例及び位相同期信号による発火過程を示す図である。

【図１６】各ニューロンのパルス発火タイミングを示す
図である。

フロントページの続き (72)発明者森克彦東京都大田区下丸子３丁目30番２号キヤノン株式会社内Ｆターム(参考） 5B057 AA01 BA02 CH04 CH08 DA11 DC40

Claims

【特許請求の範囲】

【請求項１】互いに所定の規則に基づいて結合して並
列配置され、入力信号に対して所定の演算を行い出力を
行う複数の演算素子と、所定の近傍の前記演算素子に対して、位相同期信号を出
力する位相同期信号発生回路と、所定の近傍の前記演算素子の出力の許容位相差以内の同
期を検出する同期検出手段とを有し、前記位相同期信号発生回路は、前記同期検出手段の同期
検出結果に応じて、前記の所定の演算を行い出力を行う
演算素子としても機能することを特徴とする信号処理回
路。
【請求項２】前記位相同期信号発生回路は、前記所定
の近傍の演算素子から入力される時系列信号に応じて、
位相同期信号を出力することを特徴とする請求項１記載
の信号処理回路。
【請求項３】前記位相同期信号発生回路の出力は、パ
ルス信号であることを特徴とする請求項１または２に記
載の信号処理回路。
【請求項４】前記所定の近傍の演算素子が不応期を有
し、かつ前記位相同期信号発生回路において、信号が入
力されてから位相同期信号が出力されるまでの時間間隔
が、前記所定の近傍の演算素子の不応期以上の時間間隔
を有することを特徴とする請求項３記載の信号処理回
路。
【請求項５】前記位相同期信号発生回路から前記所定
の近傍の演算素子に対して出力される位相同期信号の出
力が、前記所定の近傍の演算素子からの出力信号間の位
相差が前記許容位相差以内となるように制御されている
ことを特徴とする請求項１〜４に記載の信号処理回路。
【請求項６】前記所定の近傍の演算素子が不応期を有
し、かつ前記所定の近傍の演算素子の出力信号間の位相
差は、前記位相同期信号が前記演算素子の不応期以外に
入力された場合に前記許容位相差以内となることを特徴
とする請求項５記載の信号処理回路。
【請求項７】前記同期検出手段が、入力信号の積分値
に応じて出力を行う演算素子を備えることを特徴とする
請求項１〜６に記載の信号処理回路。
【請求項８】互いに所定の規則に基づいて結合して並
列配置され、入力信号に対して所定の演算を行い出力を
行う複数の演算素子と、所定の近傍の前記演算素子に対して、位相同期信号を出
力する位相同期信号発生回路と、所定の近傍の前記演算素子の出力の許容位相差以内の同
期を検出する同期検出手段とを有し、前記位相同期信号発生回路から前記所定の近傍の演算素
子に対して出力される位相同期信号の出力が、前記所定
の近傍の演算素子からの出力信号間の位相差が、前記許
容位相差以内となるように制御されることを特徴とする
信号処理回路。
【請求項９】前記所定の近傍の演算素子が不応期を有
し、かつ前記所定の近傍の演算素子の出力信号間の位相
差は、前記位相同期信号が前記演算素子の不応期以外に
入力された場合に前記許容位相差以内となることを特徴
とする請求項８記載の信号処理回路。
【請求項１０】前記位相同期信号発生回路は、前記所
定の近傍の演算素子から入力される時系列信号に応じ
て、位相同期信号を出力することを特徴とする、請求項
８または９に記載の信号処理回路。
【請求項１１】前記同期検出手段が、入力信号の積分
値に応じて出力を行う演算素子であることを特徴とする
請求項８〜１０に記載の信号処理回路。
【請求項１２】前記位相同期信号発生回路の出力は、
パルス信号であることを特徴とする請求項８〜１１に記
載の信号処理回路。
【請求項１３】前記所定の近傍の演算素子が不応期を
有し、かつ前記位相同期信号発生回路において、信号が
入力されてから位相同期信号が出力されるまでの時間間
隔が、前記所定の近傍の演算素子の不応期以上の時間間
隔を有することを特徴とする請求項１２記載の信号処理
回路。