[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JPH04112362A - 累積回路 - Google Patents

累積回路

Info

Publication number
JPH04112362A
JPH04112362A JP2232914A JP23291490A JPH04112362A JP H04112362 A JPH04112362 A JP H04112362A JP 2232914 A JP2232914 A JP 2232914A JP 23291490 A JP23291490 A JP 23291490A JP H04112362 A JPH04112362 A JP H04112362A
Authority
JP
Japan
Prior art keywords
circuit
coefficient
circuits
calculation
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2232914A
Other languages
English (en)
Inventor
Kuniharu Uchimura
内村 国治
Osamu Saito
修 斉藤
Yoshihito Amamiya
好仁 雨宮
Atsushi Iwata
穆 岩田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2232914A priority Critical patent/JPH04112362A/ja
Priority to US07/727,065 priority patent/US5166539A/en
Priority to KR1019910011546A priority patent/KR950001601B1/ko
Priority to DE69119172T priority patent/DE69119172T2/de
Priority to EP91111435A priority patent/EP0477486B1/en
Publication of JPH04112362A publication Critical patent/JPH04112362A/ja
Priority to US07/909,993 priority patent/US5353383A/en
Priority to US08/266,691 priority patent/US5467429A/en
Pending legal-status Critical Current

Links

Landscapes

  • Complex Calculations (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は累積回路に係り、特にパターン認識やニューラ
ルネットワーク回路の演算において、多数の入力と計数
の相関を計算する場合に使用される累積回路に関する。
ニューラルネットワーク回路は生物の神経回路mをモデ
ル化して、従来のノイマン形計算機では難しかった文字
認識や音声認識等のパターン認識処理、最適化問題、ロ
ボット制御等を実現するものである。従来のノイマン形
計算機ではプログラムに従って逐次処理するために膨大
な計算時間か必要とされたか、ニューラルネットワーク
回路ではニューロン回路か並列に演算を実行できるのて
処理速度か極めて高速になる特徴かある。また、同一の
ニューロン回路を多数接続してネットワクを構成するこ
とにより、故障した回路があっても他の正常な回路に簡
単に置き換えて動作できるので、LSI化する場合なと
に高い欠陥耐性を実現できる。このようなニューラルネ
ットワーク回路なとて使用される累積回路は回路規模を
低減することか要求されている。
〔従来の技術〕
第4図は従来のニューラルネッ)・ワーク回路等て使用
されていた累積回路の構成図を示す。
40〜40.は入力端子、4111〜41.、。はメモ
リ回路、421□〜42m、、は係数演算回路、431
、〜43−は加算回路、44.〜44.は閾値回路、4
51〜45.は出力端子、46.〜46、は単位回路で
ある。
累積回路はn個(nは1以上の整数)の入力端子401
〜40fiと、m個(mは1以上の整数)の出力端子4
5.〜45.をもっており、m個の同一構造の単位回路
461〜46.、て構成されている。
単位回路46□〜46□はn個の入力端子40、〜40
゜からの信号とメモリ回路41,1〜41、ゎに記憶さ
れた係数との差や距離あるいは係数による荷重値などを
求める係数演算回路42.。
〜42.afiをn個もち、n個の係数演算回路421
〜42.。の出力を全て加算する加算回路433.〜4
3、ffiと1個の閾値回路441〜44.とによって
構成されている。
出力値を最終的に決定する閾値回路441〜44、は第
5図に示すような伝達特性をもっている。伝達特性を表
すものとして、同図(C)のシグモイド関数形か最も汎
用性か高いが、同図(A)のステップ関数形、同図(B
)の折れ線形のように簡単化したものか多く使用される
m個の単位回路46.〜46..はそれぞれ独自の係数
をもっており、例えば、パターン認識なとてはとの単位
回路461〜46.の出力端子45、〜45.からの出
力が閾値回路441〜441の閾値レベルを上回りハイ
レベルになったかで入力端子401〜40.からの入カ
バターンを認識することができる。
〔発明か解決しようとする課題〕
しかるに、第4図の従来の累積回路は1組の入力信号に
対して、それぞれの単位回路46.〜46、が並列に演
算を実行できるようになっているので、高速に演算でき
る利点がある。しかし、n個の入力端子401〜40.
とm個の出力端子45、〜45.を持っネットワークで
は、係数演算回路42,1〜42.、、と加算回路43
1.〜43.6がほぼnm個必要である。出力端子数m
はパターン認識などでは認識するカテゴリー数に応じて
大きくする必要かあるため、係数演算回路42,1〜4
2−と加算回路4311〜43ゆ、の回路数nmは極め
て大きな数になり、回路規模が大きくなり、また、多数
の演算回路4211〜42.。か同時に並列に動作する
ために回路動作に伴う消費電力も極めて大きくなるため
、累積回路をLSI化する場合に大きな問題になってい
た。
本発明は上記の点に鑑みなされたもので従来の累積回路
の高速に演算できる利点を損なわずに、累積回路の回路
規模と消費電力を低減することかできる累積回路を提供
することを目的とする。
〔課題を解決するための手段〕
本発明はn(nは1より大きい整数)個の入力端子と、
m(mは1より大きい整数)個の出力端子を持ち、独自
のn個の係数で構成される係数組をm組もち、全ての係
数組について、i (iはlからnまでの整数)番目の
係数と1番目の入力端子信号間の差や距離あるいは係数
による荷重値などを係数演算回路により単一極性の係数
演算値として求め、1からnまでの係数演算値を全て累
積し、この累積結果を閾値処理して得られる変換値を出
力信号とする一連の演算を行う場合において、1からk
(kは1以上てnより小さい整数)番目の入力端子信号
に対しては前記係数演算値を求めるために1個の係数に
それぞれ専用の第1の係数演算回路と、1からに番目の
係数演算回路の出力の累積を行うための第1の加算回路
を有する回路をm組並列に配置し、m個の累積の途中結
果と閾値回路の飽和レベルを比較して残りの入力端子か
らの入力に対する演算を続行するかを判定し、演算の続
行か必要な累積の途中結果を出力する選択制御回路を備
え、演算の続行か必要な入力に対し、1個あるいは数個
の第2の係数演算回路と第2の加算回路を共通に使用し
て入力端子信号と係数値を切り換えて累積演算を続行し
、1からn番目の入力端子に対する累積結果を閾値回路
に入力し、閾値回路の処理結果を出力端子に出力する。
〔作用〕
本発明は、各入力端子からの入力に対応する第1の係数
演算回路や第1の加算回路の累積値の出力段の閾値回路
の飽和特性を利用して累積途中結果の値と、閾値回路の
閾値レベルを比較し、閾値回路の飽和レベルかハイレベ
ルの場合に残りの入力信号の累積演算を途中から省略す
ることによって、大幅に演算回路を削減する。
〔実施例〕
第1図は本発明の一実施例の回路構成図を示す。
同図中、第4図と同一構成部分には同一符号を付し、そ
の説明を省略する。
10は選択制御回路、12は係数RAM回路、14はレ
ジスタ回路、20は集中演算部てあり、複数のレジスタ
回路14+〜14.〜と、係数演算回路15+〜15.
−、、加算回路171〜17、、から構成されている。
18は出力レジスタ回路、19は閾値回路である。
また、n個の入力端子40と、m個の出力端子45の数
は第4図と同様である。さらに、入力端子401〜。4
0にの信号に対しては従来と同様に並列に全ての計算に
応じて係数演算回路42++〜421、と加算回路43
,1〜43+tk−nか配置しである。これは、後述す
る第3図の入力端子INI〜IN4の列か該当している
100は入力端子401〜40にの入力により並列演算
処理か行われる並列演算部である。
一方、入力端子40Lk+z〜40.の入力に対しては
第1図に示す集中演算部20のみて演算を実行するよう
になっている。これは後述する第3図の入力端子INS
以降の列が該当する。
入力端子40.〜40.に対する演算の途中結果はm個
の出力端子45.〜45.に対応してm個存在し、それ
らはすべて選択制御回路10に入力される。
選択制御回路lOは予め閾値回路19の飽和レベルの情
報を保持しており上記累積の途中結果をの値と閾値回路
19の飽和レベルを比較を行う。
その結果、閾値回路19の飽和レベルに満たない場合に
は選択制御回路IOはm個の加算回路43.1〜43.
。−1,の演算途中結果から1個を選択して集中演算部
20に入力している。このとき選択制御回路10は出力
端子45.〜45゜のうち何番目の出力端子45.〜4
5.に対応する信号を選択したかをアドレス信号として
同時に出力している。そのアドレス信号は係数RAM回
路12と出力レジスタ回路18に入力される。
また、選択制御回路10は閾値回路19の飽和レベルと
累積結果を比較して飽和レベルに達していた場合には、
次の入力に対しては集中演算部20において演算を行う
ようアドレス信号を出力する。
係数RAM回路12は選択制御回路lOのアドレス信号
によって必要な係数データを読み出して集中演算部20
の入力端子に該当するレジスタ回路14.〜14 n−
kに転送する。
転送された係数データは入力端子40Lk+++〜40
、の入力信号と集中演算部16の入力端子に該当する係
数演算部151〜15.、て演算か実行され、加算回路
17.〜17..演算の途中結果と累積されて、全入力
に対する演算の累積結果は閾値回路1.9に入力される
閾値回路19の出力信号は出力レジスタ回路18に入力
される。一方、選択制御回路IOからのアドレス信号に
よって選択された出力端子45t〜45.に出力レジス
タ回路18によって出力されるとともに出力レジスタ回
路18は出力信号を保持する。
このように、入力端子40+に+11〜40□の入力に
対する演算回路か殆ど省略されている。
第2図は本発明の他の実施例の構成図を示す。
同図中、第4図、第1図と同一構成部分には同一符号を
付し、その説明を省略する。
本実施例の集中演算部35は第1の実施例の集中演算部
20の構成と異なっている。21はスイッチ、22.2
4はスイッチ回路、26は係数演算部、28は累積用の
レジスタ回路(ACC)、29は加算回路、33.〜3
3..は係数データ用のレジスタ回路である。
本実施例では集中演算部35の構成を第2図に示す如く
、第1図の集中演算部2oの係数演算回路I5と加算回
路17の回路規模をさらに低減するために累積用のレジ
スタ回路(ACC)28とスイッチ回路22.24によ
って一組の係数演算回路26と加算回路29で入力端子
40+に+11〜40、の入力信号の演算を実行てきる
ように構成されている。
つまり、第2実施例では係数演算回路26の2つの入力
に夫々スイッチ回路22.24を設け、入力端子40+
に+11〜40□からの入力信号と係数RAM回路12
からの係数とを切り換えている。
さらに、並列演算部100で累積された累積ブタ信号を
選択制御回路IOより取り出してスイッチ21を図中、
左に倒してACCレジスタ回路28に入力する。スイッ
チ21は一度累積データを取り出した後は図中、右に倒
される。切り換えられた係数と入力信号を係数演算回路
26て演算し、その値をレジスタ回路28からの値とを
加算回路29で加算し、閾値回路19に入力し、出力レ
ジスタ回路18を経て出方端子451〜45゜に出力さ
れる。
これにより、入力端子4(lfk+11〜40.の入力
に対する演算回路規模は第1の実施例よりさらに低減さ
れる。
第3図は累積回路の動作を示す。従来の累積回路の場合
に対応して、係数演算回路42と加算回路43と係数の
メモリ回路41を1個のセルと考える。第3図は入力端
子数nが8個、出カ端子数mカ月6個の場合について各
セルの演算動作を示すものである。
係数演算回路42はパターン認識等では一般には入力信
号と係数の間の誤差や距離を計算している。その場合に
は係数演算回路42の出力は正数である。一方、閾値回
路19は第5図に示したように飽和特性をもっている。
飽和特性では入力レベルがある値以上では出力レベルが
変化しないようになる。つまり、出方レベルが飽和レベ
ルに達すると、それ以上に入力レベルか大きくなっても
出力レベルは変化しなくなる。従って、正数の累積演算
と閾値回路19の組み合わせては、累積結果は単調増加
するだけなのて、累積途中で出力レベルか飽和レベルま
で達したら、それ以後の演算を省略することが可能であ
る。
第3図は演算の必要なセル30と演算の省略か必要なセ
ル32を示している。同図ではすべてのセルについて演
算を実行しなければならない列は8列目の1列だけであ
る。このとき、入力端子IN1〜IN4の行は演算の必
要なセルが多いが入力端子IN5〜INSの行は8列目
を除いてすべて演算の不要なセルとなっている。このた
め、入力端子INI〜IN4の行については第1図、第
2図に示す並列演算部100で演算を行い、一方、入力
端子IN5〜lN8の行については集中演算部20.3
5て演算を行うことになる。
一般にパターン認識なとでは、入力に対していずれか1
個の出力が反応して入カバターンをカテゴリーに分類す
るように設計されている。
ニューラルネットワーク回路でも少数の出力か反応する
たけて殆との出力は反応しない。従って、第3図に示し
たような動作は多くの応用において見られる特性である
。同図の例では、入力端子INS以降は8列目の演算回
路42しか演算は必要なく、その他の大部分の演算回路
については省略できることが明らかである。演算の必要
なセル30と演算の不要なセル32の配置は入力信号に
よって変化するか、とのような入力信号に対しても不要
なセルか第3図に近い形で分布するため、本発明の累積
回路のように演算回路を省略しても従来の累積回路と同
様の演算が実行できる。
〔発明の効果〕
上記のように本発明によれば、従来の累積回路に比較し
て演算速度を殆ど低下させずに、回路規模は大幅に低減
できる。また、演算回路の省略に伴い、消費電力も同様
に大幅に低減できる。
さらにパターン認識回路やニューラルネットワク回路を
ハード化するとき、必要な単位回路数は応用によって異
なるか、−船釣には回路数が大きいほと処理能力は向上
する。そのため、多数の単位回路を搭載したLSIの実
現か期待されている。しかし、チップサイズの制限によ
って1チツプに搭載できる回路規模は限られているため
、放熱や実装の問題から1チツプで消費できる電力にも
制限かある。したかって、LSIか実用的な性能を発揮
するために、回路規模と消費電力の低減が最も重要な課
題となっている点において本発明は実用上極めて有用で
ある。
【図面の簡単な説明】
第1図は本発明の一実施例の回路構成図、第2図は本発
明の他の実施例の回路構成図、第3図は累積回路の動作
を示す図、 第4図は従来の累積回路の一例の構成図、第5図は閾値
回路の伝達特性を示す図である。 10・・・選択制御回路、12・・・係数RAM回路、
14、〜14.k・・・レジスタ回路、15.〜15、
、.26・・・係数演算回路、17.〜+7..・・・
加算回路、18・・・出力レジスタ回路、19・・・閾
値回路、20・・・集中演算部、40゜〜40、.40
□や、、〜40..・・・入力端子、42.。 〜42□、43.〜43□−z   45+〜45゜・
・・出力端子。 特許出願人   日本電信電話株式会社閾値回路の伝達
特性 第 図 (C)シグモイド関数形

Claims (1)

  1. 【特許請求の範囲】 n(nは1より大きい整数)個の入力端子と、m(mは
    1より大きい整数)個の出力端子を持ち、独自のn個の
    係数で構成される係数組をm組持ち、全ての係数組につ
    いて、i(iは1からnまでの整数)番目の係数とi番
    目の入力端子信号間の差や距離あるいは係数による荷重
    値などを係数演算回路により単一極性の係数演算値とし
    て求め、1からnまでの係数演算値を全て累積し、この
    累積結果を閾値処理して得られる変換値を出力信号とす
    る一連の演算を行う場合において、 1からk(kは1以上でnより小さい整数)番目の入力
    端子信号に対しては前記係数演算値を求めるために1個
    の係数にそれぞれ専用の第1の係数演算回路と、1から
    k番目の該係数演算回路の出力の累積を行うための第1
    の加算回路を有する回路をm組並列に配置し、 m個の累積の途中結果と閾値回路の飽和レベルを比較し
    て残りの入力端子からの入力に対する演算を続行するか
    を判定し、演算の続行が必要な累積の途中結果を出力す
    る選択制御回路を備え、演算の続行が必要な入力に対し
    、1個あるいは数個の第2の係数演算回路と第2の加算
    回路を共通に使用して入力端子信号と係数値を切り換え
    て累積演算を続行し、 1からn番目の入力端子に対する累積結果を閾値回路に
    入力し、該閾値回路の処理結果を出力端子に出力するこ
    とを特徴とする累積回路。
JP2232914A 1990-07-09 1990-09-03 累積回路 Pending JPH04112362A (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2232914A JPH04112362A (ja) 1990-09-03 1990-09-03 累積回路
US07/727,065 US5166539A (en) 1990-07-09 1991-07-08 Neural network circuit
KR1019910011546A KR950001601B1 (ko) 1990-07-09 1991-07-08 뉴-럴 네트워크 회로
DE69119172T DE69119172T2 (de) 1990-07-09 1991-07-09 Neuronalnetzwerkschaltung
EP91111435A EP0477486B1 (en) 1990-07-09 1991-07-09 Neural network circuit
US07/909,993 US5353383A (en) 1990-07-09 1992-07-07 Neural network circuit
US08/266,691 US5467429A (en) 1990-07-09 1994-06-28 Neural network circuit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2232914A JPH04112362A (ja) 1990-09-03 1990-09-03 累積回路

Publications (1)

Publication Number Publication Date
JPH04112362A true JPH04112362A (ja) 1992-04-14

Family

ID=16946819

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2232914A Pending JPH04112362A (ja) 1990-07-09 1990-09-03 累積回路

Country Status (1)

Country Link
JP (1) JPH04112362A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10187648A (ja) * 1996-12-19 1998-07-21 Nec Corp ニューラルユニット演算方式およびその装置
JP2017151604A (ja) * 2016-02-23 2017-08-31 株式会社デンソー 演算処理装置
CN108345935A (zh) * 2017-01-25 2018-07-31 株式会社东芝 积和运算器、网络单元及网络装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10187648A (ja) * 1996-12-19 1998-07-21 Nec Corp ニューラルユニット演算方式およびその装置
JP2017151604A (ja) * 2016-02-23 2017-08-31 株式会社デンソー 演算処理装置
CN108345935A (zh) * 2017-01-25 2018-07-31 株式会社东芝 积和运算器、网络单元及网络装置

Similar Documents

Publication Publication Date Title
US8204927B1 (en) System and method for cognitive processing for data fusion
US6151594A (en) Artificial neuron and method of using same
KR950001601B1 (ko) 뉴-럴 네트워크 회로
NZ296732A (en) Information processing system involving a time trial of learning and performance
KR940022262A (ko) 논리 계산용 데이타 발생 방법, 논리 계산 방법 및 논리 계산기
CN110705703A (zh) 基于脉动阵列的稀疏神经网络处理器
KR100354285B1 (ko) 패스트 하다마드 변환 디바이스
JPH04112362A (ja) 累積回路
CN116523011B (zh) 基于忆阻的二值神经网络层电路及二值神经网络训练方法
US5511146A (en) Excitory and inhibitory cellular automata for computational networks
US5586223A (en) High speed segmented neural network and fabrication method
US5751913A (en) Reconfigurable neural network and difference-square neuron
JP2542107B2 (ja) ニュ―ラルネットワ―ク回路
RU2825124C1 (ru) Нейропроцессор (NPU)
US20240296142A1 (en) Neural network accelerator
US20240248684A1 (en) Semiconductor device
CN116402106B (zh) 神经网络加速方法、神经网络加速器、芯片及电子设备
JPH04364525A (ja) 並列演算装置
JPH0243665A (ja) ニューラルネットワーク装置
JP2500755B2 (ja) 冗長系切替方式
KR100387983B1 (ko) 레이스 로직 회로
CN118940813A (en) Style frame chip applied to impulse neural network
CN113554162A (zh) 轴突输入扩展方法、装置、设备和存储介质
US5958001A (en) Output-processing circuit for a neural network and method of using same
JPH02264354A (ja) データ処理装置