[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP7108987B2 - 情報処理装置及び情報処理方法 - Google Patents

情報処理装置及び情報処理方法 Download PDF

Info

Publication number
JP7108987B2
JP7108987B2 JP2019518815A JP2019518815A JP7108987B2 JP 7108987 B2 JP7108987 B2 JP 7108987B2 JP 2019518815 A JP2019518815 A JP 2019518815A JP 2019518815 A JP2019518815 A JP 2019518815A JP 7108987 B2 JP7108987 B2 JP 7108987B2
Authority
JP
Japan
Prior art keywords
information
nodes
magnetic
node
reservoir
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019518815A
Other languages
English (en)
Other versions
JPWO2018212201A1 (ja
Inventor
光 野村
義茂 鈴木
英一 田村
真嗣 三輪
穣 後藤
フェルディナンド ペパー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Osaka University NUC
National Institute of Information and Communications Technology
Original Assignee
Osaka University NUC
National Institute of Information and Communications Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Osaka University NUC, National Institute of Information and Communications Technology filed Critical Osaka University NUC
Publication of JPWO2018212201A1 publication Critical patent/JPWO2018212201A1/ja
Application granted granted Critical
Publication of JP7108987B2 publication Critical patent/JP7108987B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L29/00Semiconductor devices specially adapted for rectifying, amplifying, oscillating or switching and having potential barriers; Capacitors or resistors having potential barriers, e.g. a PN-junction depletion layer or carrier concentration layer; Details of semiconductor bodies or of electrodes thereof ; Multistep manufacturing processes therefor
    • H01L29/66Types of semiconductor device ; Multistep manufacturing processes therefor
    • H01L29/82Types of semiconductor device ; Multistep manufacturing processes therefor controllable by variation of the magnetic field applied to the device

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Power Engineering (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Ceramic Engineering (AREA)
  • Computer Hardware Design (AREA)
  • Neurology (AREA)
  • Hall/Mr Elements (AREA)
  • Mram Or Spin Memory Techniques (AREA)

Description

本発明は、情報処理装置及び情報処理方法に関する。
現在、普及しているコンピュータの多くは、ノイマン型コンピュータである。ノイマン型コンピュータは、プログラムやデータを記憶するメモリと、情報処理デバイスとを備える。ノイマン型コンピュータが備える情報処理デバイスは、メモリに記憶されたプログラムやデータに従って、適宜の演算処理を実行する。
一方、非ノイマン型コンピュータも存在する。非ノイマン型コンピュータの1つとして、ニューラルネットワークを模したリザーバコンピュータが提案されている(例えば、特許文献1及び2を参照)。
米国特許出願公開第2014/0214738号明細書 米国特許第9477136号明細書
しかしながら、特許文献1に開示されたリザーバコンピュータでは、リザーバを構成する演算ノードが負性抵抗素子により構成されており、各負性抵抗素子に対する電流制御によって情報の書き込みが行われる。また、負性抵抗素子を演算ノードとして備えるリザーバにて情報を保持する場合においても電流制御が必要となる。よって、特許文献1に開示されたリザーバコンピュータでは、消費電力を低く抑えることができないという問題点を有している。
また、特許文献2に開示されたリザーバコンピュータでは、リザーバを構成する演算ノードが受動型シリコンフォトニクス・チップにより構成されており、情報の書き込みにはレーザ光やコヒーレント光の照射が必要となる。よって、特許文献2に開示されたリザーバコンピュータにおいても、消費電力を低く抑えることができないという問題点を有している。
本発明は、低消費電力でリザーバコンピューティングを実現することができる情報処理装置及び情報処理方法を提供することを目的とする。
本発明の一態様に係る情報処理装置は、夫々が磁性体により構成された複数のノードを含み、各ノードが少なくとも1つの他のノードに磁気的に結合されている磁性体リザーバと、該磁性体リザーバに含まれる複数のノードから、情報を書き込むべき1又は複数のノードを選択するノード選択部と、選択した1又は複数のノードに情報を書き込む情報書込部と、前記情報を書き込んだ後に、前記磁性体リザーバに含まれる各ノードの線形結合によって得られる情報を読み出す情報読出部とを備える。
本発明の一態様に係る情報処理方法は、夫々が磁性体により構成された複数のノードを含み、各ノードが少なくとも1つの他のノードに磁気的に結合されている磁性体リザーバに対して、情報を書き込むべき1又は複数のノードを選択し、選択した1又は複数のノードに情報を書き込み、前記情報を書き込んだ後に、前記磁性体リザーバに含まれる各ノードの線形結合によって得られる情報を読み出す。
上記一態様によれば、低消費電力でリザーバコンピューティングを実現することができる。
本実施の形態に係る情報処理装置の構成を示す概念図である。 微小磁性体の一例を示す模式図である。 本実施の形態に係る情報処理装置が実行する処理の手順を示すフローチャートである。 性能評価で用いた微小磁性体リザーバの構成を示す模式図である。 実施の形態2に係る微小磁性体リザーバ20の構成を示す模式図である。 磁気異方性の変更方法を説明するグラフである。 バイナリ演算に用いるデータを説明する説明図である。 時間0~1の間の磁化状態のZ成分を用いて学習した場合の各演算のエラーレートを示すグラフである。 時間0~1の間の磁化状態のZ成分を用いて学習した場合の各演算のエラーレートを示すグラフである。 時間0~1の間の磁化状態のZ成分を用いて学習した場合の各演算のエラーレートを示すグラフである。 時間1~2の間の磁化状態のX成分を用いて学習した場合の各演算のエラーレートを示すグラフである。 時間1~2の間の磁化状態のX成分を用いて学習した場合の各演算のエラーレートを示すグラフである。 時間1~2の間の磁化状態のX成分を用いて学習した場合の各演算のエラーレートを示すグラフである。 入力の遅延量に対するエラーレートを示すグラフである。 実施の形態3に係る微小磁性体リザーバの構成を示す模式図である。 磁気異方性の変更方法を説明する説明図である。 教師データとの比較結果を示す図である。 教師データとの比較結果を示す図である。 磁化状態のX成分を用いて学習した場合の排他的論路演算におけるエラーレートを示すグラフである。 実施の形態4に係る微小磁性体リザーバの構成を示す模式図である。 実施の形態5に係る微小磁性体リザーバの模式的平面図である。 実施の形態5に係る微小磁性体リザーバの模式的断面図である。
以下、本発明をその実施の形態を示す図面に基づいて具体的に説明する。
(実施の形態1)
図1は本実施の形態に係る情報処理装置の構成を示す概念図である。本実施の形態に係る情報処理装置は、所謂リザーバコンピュータであり、入力情報セル10、微小磁性体リザーバ20、重み付け演算素子30、及び出力情報セル40を備える。
微小磁性体リザーバ20には、複数の演算ノード21,21,…,21が含まれている。各演算ノード21は、後述する微小磁性体により構成されている。微小磁性体間に静磁気相互作用が働くことにより、演算ノード21,21間は磁気的に結合されている。図1の例では、マトリクス状に配置された4行×5列の演算ノード21,21,…,21のうち、左上隅に配置された演算ノード21は、右側及び下側に隣接する2つの演算ノード21,21に磁気的に結合されていることを示している。他の演算ノード21についても同様であり、図1の例では、各演算ノード21は2~4個の他の演算ノード21に磁気的に結合されていることを示している。
なお、図1の例では、最近接の演算ノード21,21同士が磁気的に結合された状態を示しているが、磁気的に結合される2つの演算ノード21,21は必ずしも最近接に配置される必要はない。
また、図1の例では、4行×5列のマトリクス状に演算ノード21,21,…,21を配置した構成を示したが、演算ノード21の配置は図1の例に限定されるものではない。例えば、図1に示すように正方格子の各頂点に演算ノード21が配置されていてもよく、矩形格子、三角格子、六角格子、菱形格子等の各種平面格子の各頂点に演算ノード21が配置されていてもよい。また、演算ノード21は平面上に配置される必要はなく、任意の空間格子における各頂点に配置されていてもよい。さらに、演算ノード21は周期的に配置される必要はなく、同一平面内若しくは空間内にランダムに配置されてもよい。
演算ノード21を構成する微小磁性体は、例えば、Ni-Fe系合金、Ni-Fe-Co系合金、Co-Fe系合金などの合金により形成される。微小磁性体は、例えば、形状磁気異方性を利用して、磁化容易軸を1つだけ有するように構成されている。図2は微小磁性体の一例を示す模式図である。演算ノード21に用いられる微小磁性体は、例えば楕円柱形状をなし、楕円の長軸方向に100nm、短軸方向に50nm、厚み方向に20nm程度の大きさを有する。このような形状の微小磁性体において、磁化容易軸は楕円の長軸方向と一致する方向に1つだけ形成される。特に、微小磁性体が磁化容易軸に沿って細長い形状であれば、磁化容易軸上において磁化の向きが双安定性を示す。すなわち、微小磁性体における磁化方向は、磁化容易軸に沿う第1方向(図中の白抜き矢符で示す方向)、又は第1方向から180度反転した第2方向(図中の黒塗矢符で示す方向)の何れかの方向をとり、他の方向(磁化容易軸からずれた方向)はとらないように構成することができる。
なお、図2では、微小磁性体の一例として、磁化容易軸を1つだけ有し、磁化容易軸上において磁化の向きが双安定性を示す微小磁性体の構成を説明したが、周囲の磁化状態に応じて磁化の安定方向が定まる限りにおいて、双安定性を示さない微小磁性体であってもよく、磁化容易軸が存在しない微小磁性体、又は磁化容易軸が複数存在する微小磁性体であってもよい。また、図2では、楕円柱形状をなす微小磁性体について説明したが、微小磁性体の形状は楕円柱形状に限定されるものではない。例えば、厚み方向と直交する断面の形状が円形、長方形、角が丸められた長方形、2つの円を僅かに重ねた形状であってもよい。これらの形状を有する微小磁性体は製造が容易であり、集積化が容易であるという利点を有する。
微小磁性体リザーバ20が備える演算ノード21,21,…,21への情報の書き込みは、入力情報セル10が行う。入力情報セル10は、微小磁性体リザーバ20が備える複数の演算ノード21,21,…,21のうち、選択した1又は複数の演算ノード21,21,…,21に対して情報の書き込みを行う。入力情報セルが書き込むべき情報は、例えば0又は1のバイナリの値により記述される。入力情報セル10は、選択した演算ノード21に「0」を書き込む場合、当該演算ノード21を構成する微小磁性体の磁化方向を例えば前述の第1方向に制御し、「1」を書き込む場合、微小磁性体の磁化方向を第1方向とは180度反転した第2方向に制御する。
微小磁性体における磁化方向の制御手法には、例えば、磁気抵抗効果型固体磁気メモリ(MRAM : Magnetic Random Access Memory)で利用される手法を用いることができる。MRAMで利用される磁化方向の制御手法として、古典的な電流磁場を用いる手法やスピン注入磁化反転を用いる手法が知られている。前者では、目的の微小磁性体の極近傍に配置した配線に電流を流すことにより磁場を発生させ、発生させた磁場により磁化方向を制御することができる。後者では、偏極スピン電流の供給(スピン注入)によって磁化反転を行い、目的の微小磁性体の磁化方向を制御することができる。ただし、前者では、磁性体のサイズが小さくなるほど必要な電流が大きくなるというデメリット、配線からの漏れ磁場により目的の微小磁性体に近接する他の微小磁性体に書き込みエラーが発生する可能性があるというデメリットが存在する。このため、本実施の形態では、後者のスピン注入磁化反転の手法を用いることが好ましい。
また、古典的な電流磁場を用いる手法、スピン注入磁化反転を用いる手法に代えて、電界効果によって磁気的な応答を誘起する手法を用いてもよい。例えば、国際公開第2009/133650号には、磁性層(超薄膜強磁性層)と絶縁層(ポテンシャル障壁)とを積層した構造体に対して積層方向に電界を印加することより、磁性層の磁気異方性を変調し、磁性層の磁化方向を制御する手法が開示されている。このような手法を用いて、選択した演算ノード21を構成する微小磁性体の磁化方向を制御してもよい。
上述した磁化制御手法により、選択された演算ノード21,21,…,21に対して情報が書き込まれた後、各演算ノード21を構成する微小磁性体の磁化方向は、周囲に配置された微小磁性体からの静磁気相互作用の影響を受け、自律的に演算結果を表す状態へ遷移する。
出力情報セル40は、入力情報セル10によって情報が書き込まれた後、微小磁性体リザーバ20の磁化状態が演算結果を表す状態に遷移したタイミング(例えば、情報の書き込み後10nsecが経過したタイミング)で情報の読み出しを行う。具体的には、出力情報セル40は、重み付け演算素子30を介すことにより、微小磁性体リザーバ20の各演算ノード21,21,…,21に保持されている情報を線形結合し、線形結合によって得られる情報を読み出す。
なお、各演算ノード21,21,…,21からの情報の読み出しには、前述した磁化方向の制御手法と同様に、MRAMで利用される手法を用いることが可能である。
重み付け演算素子30は、微小磁性体リザーバ20の各演算ノード21,21,…,21に保持されている情報を線形結合する機能と、線形結合で用いる線形重みを学習により決定する機能とを備える。重み付け演算素子30は、出力指示が外部から与えられた場合、図に示していないメモリに記憶されている線形重みを読み出し、読み出した線形重みを用いて各演算ノード21,21,…,21に保持されている情報の線形結合を行い、得られた情報を出力情報セル40へ出力する。なお、重み付け演算素子30は、半導体によるメモリ素子により重み付けを保持してもよく、磁性体中のドメインウォールの位置を利用した磁性メモリにより重み付けを保持してもよい。
一方、線形重みに対する学習指示が外部から与えられた場合、重み付け演算素子30は、入力に対して理想的な出力を示す教師情報を図に示していないメモリから読み出し、当該教師情報を再現するように線形重みを学習により決定する。重み付け演算素子30は、決定した線形重みを前述したメモリに記憶させる。重み付け演算素子30は、例えば、最小二乗法(線形回帰)を用いて、微小磁性体リザーバ20より得られる情報が示す値と教師情報が示す値との間の残差二乗和が最小となるように線形重みを決定してもよい。また、微小磁性体リザーバ20が備える演算ノード21の数が多すぎる場合、過学習による問題を回避するために、Ridge回帰、Lasso回帰、又はElastic netの手法などにより線形重みを正則化してもよい。更に、再帰的最小二乗法やいわゆるFORCE学習法などを用いて、学習過程をバッジ処理ではなく、リアルタイム処理で行うことも可能である。
なお、本実施の形態では、入力情報セル10から微小磁性体リザーバ20へ情報を書き込む構成としたが、入力情報セル10に複数の入力ノード11,11,…,11を設け、入力ノード11,11,…,11を通じて演算ノード21,21,…,21に情報を書き込む構成としてもよい。また、出力情報セル40に複数の出力ノード41,41,…,41を設け、出力ノード41,41,…,41のそれぞれを用いて、微小磁性体リザーバ20から情報を読み出す構成としてもよい。
以下、本実施の形態に係る情報処理装置の動作について説明する。
図3は本実施の形態に係る情報処理装置が実行する処理の手順を示すフローチャートである。情報処理装置の入力情報セル10は、演算対象の情報が入力され、演算指示が与えられた場合、情報を書き込むべき1又は複数の演算ノード21,21,…,21を選択する(ステップS101)。ここで、入力情報セル10は、全演算ノード21,21,…,21のうち、10%~90%程度の演算ノード21,21,…,21をランダムに選択すればよい。
例えば、図1に示す演算ノード21のうち、特定の行(又は列)に並ぶ演算ノード21,21,…,21のみを選択して情報を書き込んだ場合、これらの演算ノード21,21,…,21の近傍だけで磁化方向が安定化する可能性がある。この場合、書き込んだ情報が他の演算ノード21,21,…,21に伝搬しないので、リザーバとして機能させることができない。よって、ステップS101で選択する演算ノード21,21,…,21はランダムであることが好ましい。ただし、エネルギー的に高い状態となるように周期的に情報を入力できるのであれば、必ずしもランダムに演算ノード21,21,…,21を選択する必要はなく、周期性を持たせて演算ノード21,21,…,21を選択してもよい。
次いで、入力情報セル10は、ステップS101で選択した1又は複数の演算ノード21,21,…,21に対して情報を書き込む(ステップS102)。入力情報セル10は、各演算ノード21を構成する微小磁性体の磁化方向を制御することにより、情報の書き込みを行う。磁化方向の制御には、古典的な電流磁場を用いる手法、スピン注入磁化反転を用いる手法、電界効果により磁気的な応答を誘起する手法等を用いることができる。
次いで、微小磁性体リザーバ20の磁化状態を演算結果を表す状態に遷移させる(ステップS103)。演算ノード21を構成する微小磁性体の磁化方向は、当該演算ノード21の周囲に配置された微小磁性体からの静磁気相互作用の影響を受けて、自律的に演算結果を表す状態へ遷移する。情報処理装置が実行する処理としては、微小磁性体リザーバ20の磁化方向が演算結果を表す状態へ遷移するのに要する時間(例えば10nsec)だけ待機する処理を行う。
次いで、出力情報セル40は、微小磁性体リザーバ20に保持されている情報を制御出力する(ステップS104)。具体的には、出力情報セル40は、重み付け演算素子30を介すことにより、各演算ノード21,21,…,21に保持されている情報を線形結合し、線形結合によって得られる情報を出力情報として読み出す。更に入力情報が存在する場合、情報処理装置は、出力情報を読み出した後、ステップS102へ処理を戻して演算を継続する。
なお、図3のフローチャートではシーケンシャルな手順を示したが、ステップS101からS104のセットを複数用意し、これらのセットを非同期に実行してもよい。
以下、本実施の形態に係る情報処理装置の性能評価について開示する。
図4は性能評価で用いた微小磁性体リザーバ20の構成を示す模式図である。図4に示す微小磁性体リザーバ20は、16×16個の正方格子(ユニットセル200)を有し、各正方格子の頂点に第1の微小磁性体201、各正方格子の中心に第2の微小磁性体202を配置した構成を有している。すなわち、図4の例では、1つのユニットセル200内に2つの微小磁性体201,202が配置され、全体として、16×16×2個の演算ノード21を有する微小磁性体リザーバ20が構築されている。この例では、第1の微小磁性体201間に働く静磁気相互作用、第1の微小磁性体201と第2の微小磁性体202との間に働く静磁気相互作用、第2の微小磁性体202間に働く静磁気相互作用が演算に利用される。
図4に示す例において、16ビットの情報を書き込む場合、16×16×2個の演算ノード21のうち、例えば16個の演算ノード21(全ノードのうち3.125%の演算ノード21)をランダムに選択して情報を書き込めばよい。
本実施の形態では、図4に示す微小磁性体リザーバ20において、全ノードのうち30%の演算ノード21,21,…,21をランダムに選択し、NARMA10(Nonlinear Auto-Regressive Moving Average 10)タスクを実行することにより、性能評価を行った。なお、各演算ノード21における微小磁性体の磁化方向は、4次のRunge-Kutta法を用いて、Landau-Lifshitz方程式を解くことにより計算した。
発明者らによる計算結果に依れば、NARMA10タスクにおける規格化されたエラー値(NRMSE : normalized root mean square error)は、0.8以下の値を示し、本実施の形態に係る微小磁性体リザーバ20をリザーバコンピューティングに利用できることが分かった。
(実施の形態2)
実施の形態2では、実施の形態1とは演算ノード21の配置が異なる微小磁性体リザーバ20の検証結果について説明する。
図5は実施の形態2に係る微小磁性体リザーバ20の構成を示す模式図である。図5に示す微小磁性体リザーバ20は、1行目に1つの演算ノード21、2行目に2つの演算ノード21,21、…といったように、N行目(Nは1~10の整数)にN個の演算ノード21,21,…,21を配置した構成を有している。なお、各演算ノード21は、膜厚0.5nm、半径20nmの円柱状の微小磁性体により構成されており、隣り合う微小磁性体間の距離は10nmとした。また、本実施の形態では、行単位で演算ノード21のグループ分けを行い、2行目、5行目、8行目に配置された演算ノード21をグループ1、3行目、6行目、9行目に配置された演算ノード21をグループ2、1行目、4行目、7行目、10行目に配置された演算ノード21をグループ3とした。
本実施の形態に係る情報処理装置は、入力情報セル10を通じて、1行目に配置されている演算ノード21に情報を書き込み、微小磁性体リザーバ20において情報をシフトさせるために、各演算ノード21を構成する微小磁性体の磁気異方性を変更した。なお、微小磁性体における磁気異方性には、形状磁気異方性、界面磁気異方性、結晶磁気異方性などが含まれる。情報処理装置は、例えば、磁性層(超薄膜強磁性層)と絶縁層(ポテンシャル障壁)とを積層した構造体に対して積層方向に電界を印加することより、微小磁性体の磁気異方性を変更することができる。
図6は磁気異方性の変更方法を説明するグラフである。図6に示すグラフは、横軸が時間を表し、縦軸が磁気異方性を表しており、グループ1~3の各グループに属する微小磁性体における磁気異方性の時間変化を示している。なお、グラフの煩雑さを避けるために、グループ2に属する微小磁性体の磁気異方性には+2を加算し、グループ3に属する微小磁性体の磁気異方性には+4を加算している。
時間0~1のタイムステップでは、全てのグループに属する微小磁性体の磁気異方性を「1」としている。この場合、1行目に書き込まれた情報は他の演算ノード21へはシフトしない。ただし、各演算ノード21間には磁気的相互作用が働くため、磁化の状態はその影響を受け、安定化する向きが決定される。
演算ノード21,21間の磁気的結合には起因しない磁気異方性を実効的に「0」に近づけることにより、その演算ノード21の磁化の向きが周囲のノードとの磁気的相互作用の影響を受け、磁気異方性を変化させる前の状態から磁化の向きが大きく変化するようにする。
続く時間1~2のタイムステップでは、グループ3に属する微小磁性体の磁気異方性を「1」とした状態にて、グループ1及びグループ2に属する微小磁性体の磁気異方性を「0」としているので、1行目に書き込まれた情報は、グループ1に属する2行目の演算ノード21及びグループ2属する3行目の演算ノード21にシフトし得る。続く時間2~7のタイムステップについても同様であり、時間3~4のタイムステップで、グループ2に属する3行目の演算ノード21が保持している情報は、グループ3に属する4行目の演算ノード21へシフトし得る。また、時間5~6のタイムステップで、グループ3に属する4行目の演算ノード21が保持している情報は、グループ1に属する5行目の演算ノード21へシフトし得る。このように、タイムステップ毎に磁気異方性を変化させることにより、1行目の演算ノード21に入力された情報を各演算ノード21へ伝搬させることが可能となる。なお、磁気異方性の変更規則は図に示していないメモリに予め記憶されているものとし、情報処理装置は、メモリに記憶されている変更規則に従って、時間に対して周期的に磁気異方性を変化させるものとする。
また、時間0から時間6の状態に磁気異方性を変化させることにより、微小磁性体リザーバ20を次の情報を入力可能な状態に遷移させる。
実施の形態2では、時間に依存した入力信号を用いてバイナリ演算を行うことにより、微小磁性体リザーバ20の性能を評価した。バイナリ演算としては、論理積(AND)、論理和(OR)、及び排他的論理和(XOR)の3種類を用いた。図7はバイナリ演算に用いるデータを説明する説明図である。入力には0又は1のバイナリ状態を用いる。バイナリ状態の入力は、入力ノード(図5に示す1行目の演算ノード21)の磁化のZ成分の極性を+又は-に設定することで、0又は1に設定する。微小磁性体リザーバ20が学習するバイナリ演算には、図7に示すA及びBの値を用いる。すなわち、時間nstepにおいて入力された値をAとしたとき、Aからnd ステップだけ過去に入力されたデータをBとする。
実施の形態2では、微小磁性体リザーバ20を異なる入力に対してバイナリ演算を行うように学習した場合における、入力の遅延量に対する演算エラーレートを求めた。
図8A~図8Cは時間0~1の間の磁化状態のZ成分を用いて学習した場合の各演算のエラーレートを示すグラフである。図8A~図8Cに示すグラフにおいて、横軸は入力Bに対する入力Aの遅延量を表し、縦軸は微小磁性体リザーバ20の学習に用いた飽和磁化により規格化された演算ノード21の磁化の向きの有効数字を示している。図8A~図8Cは、それぞれ論理積演算、論理和演算、及び排他的論理和演算のエラーレートを示している。論理積演算及び論理和演算では、遅延量が4未満ではエラーレートは略0となる。これに対し、排他的論理和演算では、比較的大きな有効数字で演算を学習可能であるが、それ以外ではエラーレートが概ね0.5以上となり、十分に学習できていないことを示している。
図9A~図9Cは時間1~2の間の磁化状態のX成分を用いて学習した場合の各演算のエラーレートを示すグラフである。図9A~図9Cに示すグラフにおいて、横軸は入力Bに対する入力Aの遅延量を表し、縦軸は微小磁性体リザーバ20の学習に用いた飽和磁化により規格化された演算ノード21の磁化の向きの有効数字を示している。図9A~図9Cは、それぞれ論理積演算、論理和演算、及び排他的論理和演算のエラーレートを示している。論理積演算及び論理和演算では、遅延量が4未満ではエラーレートは略0となる。また、排他的論理演算においても、遅延量が4未満ではエラーレートが低く抑えられており、時間1~2の間の磁化のX成分を用いた場合、最も少ない有効数字で演算を学習可能であることが分かった。
図10は入力の遅延量に対するエラーレートを示すグラフである。図10のグラフは、微小磁性体リザーバ20を異なる時間の入力に対して論理積演算、論理和演算、及び排他的論理和演算の各演算を行うように学習した場合における、入力の遅延時間に対するエラーレートを示している。グラフの横軸は遅延量nd を示し、縦軸はエラーレートを示している。図10のグラフから明らかなように、論理積演算、論理和演算、及び排他的論理和演算の各演算に対し、遅延量nd が3までのデータに対してエラーレートが略0になることが確認された。
以上の結果により、微小磁性体素子をリザーバコンピュータとして用いた場合、過去の3個分の情報を用いて、論理積演算、論理和演算、排他的論理和演算が可能であることが明らかとなった。また、学習した出力用マトリックスの極性を反転すれば、否定論理積演算(NAND)、否定論理和演算(NOR)、否定排他的論理和演算(XNOR)ゲートの実現も可能である。
なお、本実施の形態では、グループのなす列の方向に演算ノード21が1つずつ増加するような配置を用いたが、列の方向に演算ノード21を一定数だけ有する配置であってもよい。例えば、グループのなす列の方向に1つ又は2つの演算ノード21を有する配置であってもよい。
また、本実施の形態では、演算ノード21のグループを10行分配置した構成を示したが、行数は10行に限定されるものではない。例えば、行数を増加させることによって、演算可能な遅延量を増加させることが可能となる。
(実施の形態3)
実施の形態3では、各行に2個の演算ノード21,21を配置した微小磁性体リザーバ20の検証結果について説明する。
図11は実施の形態3に係る微小磁性体リザーバ20の構成を示す模式図である。図11に示す微小磁性体リザーバ20は、1行目~N行目(図11に示す例ではN=10)の各行に2個の演算ノード21,21を配置した構成を有している。なお、各演算ノード21は、膜厚0.5nm、半径20nmの円柱状の微小磁性体により構成されており、隣り合う微小磁性体間の距離は10nmとした。また、本実施の形態では、行単位で演算ノード21のグループ分けを行い、2行目、5行目、8行目に配置された演算ノード21をグループ1、3行目、6行目、9行目に配置された演算ノード21をグループ2、1行目、4行目、7行目、10行目に配置された演算ノード21をグループ3とした。
本実施の形態に係る情報処理装置は、入力情報セル10を通じて、1行目に配置されている一方の演算ノード21に情報を書き込み、微小磁性体リザーバ20において情報をシフトさせるために、各演算ノード21を構成する微小磁性体の磁気異方性を変更した。なお、微小磁性体における磁気異方性には、形状磁気異方性、界面磁気異方性、結晶磁気異方性などが含まれる。情報処理装置は、例えば、磁性層(超薄膜強磁性層)と絶縁層(ポテンシャル障壁)とを積層した構造体に対して積層方向に電界を印加することより、微小磁性体の磁気異方性を変更することができる。
図12は磁気異方性の変更方法を説明する説明図である。図12において、黒丸は微小磁性体の磁気異方性を「1」に調整した状態(Ku ≠0の状態)、白丸は微小磁性体の磁気異方性を「0」に調整した状態(Ku =0の状態)を表している。磁気異方性の調整は、例えば微小磁性体に対して電圧を印加することにより実施される。白丸で示す微小磁性体は、本実施の形態では磁気異方性を「0」に調整した状態を示しているが、磁気異方性は完全にゼロである必要はなく、ゼロに近い値(Ku≒0)であってもよい。
Stage0で表されるタイムステップでは、全てのグループに属する微小磁性体の磁気異方性を「1」としている。この場合、演算ノード21に書き込まれた情報は他の演算ノード21へはシフトしない。ただし、各演算ノード21間には磁気的相互作用が働くため、磁化の状態はその影響を受け、安定化する向きが決定される。
続くStage1で表されるタイムステップでは、グループ3に属する微小磁性体の磁気異方性を「1」とした状態にて、グループ1及びグループ2に属する微小磁性体の磁気異方性を「0」としているので、1行目に書き込まれた情報は、グループ1に属する2行目の演算ノード21及びグループ2属する3行目の演算ノード21にシフトし得る。続くStage2~6で表されるタイムステップについても同様であり、Stage4のタイムステップで、グループ2に属する3行目の演算ノード21が保持している情報は、グループ3に属する4行目の演算ノード21へシフトし得る。また、Stage5のタイムステップで、グループ3に属する4行目の演算ノード21が保持している情報は、グループ1に属する5行目の演算ノード21へシフトし得る。このように、タイムステップ毎に磁気異方性を変化させることにより、1行目の演算ノード21に入力された情報を各演算ノード21へ伝搬させることが可能となる。なお、磁気異方性の変更規則は図に示していないメモリに予め記憶されているものとし、情報処理装置は、メモリに記憶されている変更規則に従って、時間に対して周期的に磁気異方性を変化させるものとする。
また、Stage0からStage6の状態に磁気異方性を変化させることにより、微小磁性体リザーバ20を次の情報が入力可能な状態に遷移させる。
実施の形態3では、時間に依存した入力信号を用いてバイナリ演算を行うことにより、微小磁性体リザーバ20の性能を評価した。具体的には、現在の入力uk と、nd 個前の入力uk-ndとに対する排他的論理和XOR(uk ,uk-nd)を教師関数としてトレーニングし、トレーニング時とは異なる入力を用いた場合における教師データの再現性を確認することによって、微小磁性体リザーバ20の性能を評価した。
微小磁性体リザーバ20のトレーニングにおいて、各タイムステップにおけるリザーバの状態Mk から教師データyk (=XOR(uk ,uk-nd))に最も近い出力ok を得る重み付け行列Wを最小二乗法を用いて算出した。本実施の形態では、742タイプステップ分のトレーニングデータを用いた。
トレーニング時とは異なる入力を使用し、トレーニング済みの重み付け行列Wにより得られる出力をバイナリ化して教師データと比較した。本実施の形態では、247タイムステップ分のテスト用データを用いた。
図13A及び図13Bは教師データとの比較結果を示す図である。図13Aは、事前トレーニングにより得られる重み付け行列Wを使用し、トレーニング時とは異なる新たなデータを入力した場合の微小磁性体リザーバ20の応答から得られる出力データを示している。縦軸は「0」又は「1」の状態を表し、横軸は時間(ステップ)を表している。なお、この例では、現在の入力uk と、2個前(すなわちnd =2)の入力uk-2とに対する排他的論理和XOR(uk ,uk-2)を教師関数としてトレーニングした結果を示している。図13Aに示す出力結果は、図13Bに示す教師データに完全に一致していることが分かる。
図14は磁化状態のX成分を用いて学習した場合の排他的論路演算におけるエラーレートを示すグラフである。図14に示すグラフにおいて、横軸は遅延量nd を表し、縦軸は微小磁性体リザーバ20の学習に用いた飽和磁化により規格化された演算ノード21の磁化の向きの有効数字を示している。図14に示すグラフからは、有効数字3桁以上で遅延3までのXOR関数として動作していることが分かる。
以上のように、本実施の形態では、微小磁性体素子をリザーバコンピュータとして用いた場合、過去の3個分の情報を用いて、排他的論理和演算が可能であることが明らかとなった。また、学習した出力用マトリックスの極性を反転すれば、否定排他的論理和演算(XNOR)ゲートの実現も可能である。
なお、本実施の形態では、演算ノード21のグループを10行分配置した構成を示したが、行数は10行に限定されるものではない。例えば、行数を増加させることによって、演算可能な遅延量を増加させることが可能となる。
(実施の形態4)
実施の形態4では、各行に1個の演算ノード21を配置した微小磁性体リザーバ20の構成について説明する。
図15は実施の形態4に係る微小磁性体リザーバ20の構成を示す模式図である。図15に示す微小磁性体リザーバ20は、1行目~N行目(図15に示す例ではN=10)の各行に1個の演算ノード21を配置した構成を有している。なお、各演算ノード21は、膜厚0.5nm、半径20nmの円柱状の微小磁性体により構成されており、隣り合う微小磁性体間の距離は10nmとした。また、本実施の形態では、行単位で演算ノード21のグループ分けを行い、2行目、5行目、8行目に配置された演算ノード21をグループ1、3行目、6行目、9行目に配置された演算ノード21をグループ2、1行目、4行目、7行目、10行目に配置された演算ノード21をグループ3とした。
発明者らの検討に依れば、図15に示すように各行に1個の演算ノード21を配置した微小磁性体リザーバ20であっても、排他的論理和等の演算ゲートとして機能させることができることが分かった。
(実施の形態5)
実施の形態1~4では、演算ノード21を格子状に配置した微小磁性体リザーバ20の構成について説明したが、演算ノード21は必ずしも周期的に配置される必要はなく、同一平面内若しくは空間内にランダムに配置されてもよい。
実施の形態5では、演算ノード21をランダムに配置した微小磁性体リザーバ20の構成について説明する。
図16は実施の形態5に係る微小磁性体リザーバ20の模式的平面図、図17はその模式的断面図である。図16に示す微小磁性体リザーバ20は、複数の演算ノード21,21,…,21が配置される第1層20Aと、情報を入力するためのノード22が配置される第2層20Bとを有する。第2層20Bは、例えば第1層20Aの上側に隣接して配置される。各ノード21,22を構成する微小磁性体は、Ni-Fe系合金、Ni-Fe-Co系合金、Co-Fe系合金などの合金により形成される。各ノード21,22を構成する微小磁性体は、例えば楕円柱形状をなしているが、これに限定されるものではない。例えば、各ノード21,22を構成する微小磁性体は、厚み方向と直交する断面の形状が円形、長方形、角が丸められた長方形、2つの円を僅かに重ねた形状であってもよく、回転楕円体などの形状であってもよい。
第1層20Aは例えば6×5個のユニットセルを有する。各ユニットセルには、1又は複数個の演算ノード21,21,…,21がランダムに配置される。演算ノード21の個数及び配置は、ユニット間で相違してもよく、同一であってもよい。
第2層20Bには、1又は複数のノード22,22,…,22が形成される。ノード22は、平面視において演算ノード21,21,…,21の1つと重なるように形成されてもよく、重ならないように形成されてもよい。
第2層20Bのノード22に書き込まれた情報は、実施の形態1~実施の形態5と同様に、磁気的相互作用の影響を受けて、第1層20Aの演算ノード21に伝搬する。また、演算ノード21,21,…,21を構成する各微小磁性体の磁化方向は、周囲に配置された微小磁性体からの静磁気相互作用の影響を受けて、自律的に演算結果を表す状態へ遷移する。
以上のように、実施の形態5では、演算ノード21を含む層と、情報が書き込まれるべきノード22を含む層とを個別に製造することができるので、製造容易性を高めることができる。
以上のように、本実施の形態に係る情報処理装置では、磁性体がもつ物理的性質を直接的に演算に用いているので、電気信号又は光を用いた従来のリザーバ素子と比較し、小型化及び低消費電力化を実現することができる。本実施の形態に係る情報処理装置の適応分野の1つは、近年急速に需要が高まっている機械学習分野である。そのため、その応用分野は多岐にわたる。一例として、モバイルデバイスにおけるスタンドアロンな機械学習が可能となるため、この一例だけに注目しても技術的及び経済的な効果は大きい。
今回開示された実施の形態は、全ての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上述した意味ではなく、請求の範囲によって示され、請求の範囲と均等の意味及び範囲内での全ての変更が含まれることが意図される。
10 入力情報セル(ノード選択部、情報書込部)
20 微小磁性体リザーバ
21 演算ノード
30 重み付け演算素子(学習部)
40 出力情報セル(情報読出部)

Claims (10)

  1. 夫々が磁性体により構成された複数のノードを含み、各ノードが少なくとも1つの他のノードに磁気的に結合されている磁性体リザーバと、
    該磁性体リザーバに含まれる複数のノードから、情報を書き込むべき1又は複数のノードを選択するノード選択部と、
    選択した1又は複数のノードに情報を書き込む情報書込部と、
    前記情報を書き込んだ後に、前記磁性体リザーバに含まれる各ノードの線形結合によって得られる情報を読み出す情報読出部と
    を備える情報処理装置。
  2. 前記ノード選択部は、前記磁性体リザーバに含まれる複数のノードから、2つ以上のノードをランダムに選択する
    請求項1に記載の情報処理装置。
  3. 前記1又は複数のノードに書き込んだ情報に対して理想的な出力を示す教師情報を再現するように、前記線形結合における線形重みを学習する学習部
    を備える請求項1又は請求項2に記載の情報処理装置。
  4. 前記磁性体は、1つの磁化容易軸を有しており、
    前記情報書込部は、前記ノード選択部により選択されたノードを構成する磁性体の磁化方向を制御することにより、情報の書き込みを行う
    請求項1から請求項3の何れか1つに記載の情報処理装置。
  5. 前記情報を書き込んだ後、各ノードを構成する磁性体の磁化方向は、前記磁性体リザーバに含まれる他のノードを構成する磁性体の磁化方向に応じて自律的に定まる
    請求項4に記載の情報処理装置。
  6. 前記ノードは、矩形格子、三角格子、六角格子、又は菱形格子の格子点上に配置されている
    請求項1から請求項4の何れか1つに記載の情報処理装置。
  7. 前記ノードは、非周期的に配置されている
    請求項1から請求項4の何れか1つに記載の情報処理装置。
  8. 前記磁性体リザーバは、情報を書き込むべきノードを含む第1層と、前記ノードに書き込まれた情報に応じて、磁化方向が自律的に定まる磁性体により構成された複数のノードを含む第2層とを備える
    請求項1から請求項7の何れか1つに記載の情報処理装置。
  9. 各ノードの磁気異方性を、設定された規則に従って、時間に対して周期的に変化させる
    請求項1から請求項8の何れか1つに記載の情報処理装置。
  10. 夫々が磁性体により構成された複数のノードを含み、各ノードが少なくとも1つの他のノードに磁気的に結合されている磁性体リザーバに対して、情報を書き込むべき1又は複数のノードを選択し、
    選択した1又は複数のノードに情報を書き込み、
    前記情報を書き込んだ後に、前記磁性体リザーバに含まれる各ノードの線形結合によって得られる情報を読み出す
    情報処理方法。
JP2019518815A 2017-05-15 2018-05-15 情報処理装置及び情報処理方法 Active JP7108987B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2017096692 2017-05-15
JP2017096692 2017-05-15
JP2018010013 2018-01-24
JP2018010013 2018-01-24
PCT/JP2018/018809 WO2018212201A1 (ja) 2017-05-15 2018-05-15 情報処理装置及び情報処理方法

Publications (2)

Publication Number Publication Date
JPWO2018212201A1 JPWO2018212201A1 (ja) 2020-03-12
JP7108987B2 true JP7108987B2 (ja) 2022-07-29

Family

ID=64274444

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019518815A Active JP7108987B2 (ja) 2017-05-15 2018-05-15 情報処理装置及び情報処理方法

Country Status (2)

Country Link
JP (1) JP7108987B2 (ja)
WO (1) WO2018212201A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7109046B2 (ja) * 2018-01-31 2022-07-29 国立大学法人 東京大学 情報処理デバイス
WO2020053988A1 (ja) 2018-09-12 2020-03-19 Tdk株式会社 リザボア素子及びニューロモルフィック素子
US20210351232A1 (en) * 2018-11-21 2021-11-11 Tdk Corporation Reservoir element and neuromorphic element
US12033062B2 (en) * 2018-11-21 2024-07-09 Tdk Corporation Reservoir element and neuromorphic element
US12063872B2 (en) * 2019-04-08 2024-08-13 Tdk Corporation Magnetic element, magnetic memory, reservoir element, recognizer, and method for manufacturing magnetic element
JP6866917B2 (ja) * 2019-11-25 2021-04-28 Tdk株式会社 リザボア素子の動作方法
EP4134882A4 (en) 2020-04-08 2023-05-10 Fujitsu Limited INFORMATION PROCESSING SYSTEM, INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING METHOD, AND INFORMATION PROCESSING PROGRAM
JPWO2022163782A1 (ja) * 2021-01-29 2022-08-04

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014203038A1 (en) 2013-06-19 2014-12-24 Aselsan Elektronik Sanayi Ve Ticaret Anonim Sirketi System and method for implementing reservoir computing in magnetic resonance imaging device using elastography techniques
US20170116515A1 (en) 2015-10-26 2017-04-27 International Business Machines Corporation Tunable optical neuromorphic network

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014203038A1 (en) 2013-06-19 2014-12-24 Aselsan Elektronik Sanayi Ve Ticaret Anonim Sirketi System and method for implementing reservoir computing in magnetic resonance imaging device using elastography techniques
US20170116515A1 (en) 2015-10-26 2017-04-27 International Business Machines Corporation Tunable optical neuromorphic network

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
楠川 裕志 ほか,Ni-Fe/SiO2/Ni-Fe積層膜からなるNAND/NOR論理演算素子の検討,2016年(第159回)秋期講演大会 日本金属学会講演概要集,社団法人日本金属学会,2016年09月07日,p.303,ISSN 1342-5730

Also Published As

Publication number Publication date
JPWO2018212201A1 (ja) 2020-03-12
WO2018212201A1 (ja) 2018-11-22

Similar Documents

Publication Publication Date Title
JP7108987B2 (ja) 情報処理装置及び情報処理方法
Wang et al. Spintronic leaky-integrate-fire spiking neurons with self-reset and winner-takes-all for neuromorphic computing
Kim et al. Emerging memory technologies for neuromorphic computing
Lequeux et al. A magnetic synapse: multilevel spin-torque memristor with perpendicular anisotropy
Yang et al. Integrated neuromorphic computing networks by artificial spin synapses and spin neurons
Vourkas et al. Memristor-based nanoelectronic computing circuits and architectures
Chen et al. Magnetic skyrmion as a spintronic deep learning spiking neuron processor
US20170330070A1 (en) Spin orbit torque based electronic neuron
Wang et al. Fundamental physics and applications of skyrmions: A review
Wang et al. Memristor-based synapse design and training scheme for neuromorphic computing architecture
Chen et al. Nanoscale room-temperature multilayer skyrmionic synapse for deep spiking neural networks
US11514301B2 (en) Magnetic domain wall drift for an artificial leaky integrate-and-fire neuron
Ascoli et al. Robust simulation of a TaO memristor model
Sengupta et al. Stochastic inference and learning enabled by magnetic tunnel junctions
Hu et al. Magnetic skyrmions and domain walls for logical and neuromorphic computing
CN108154226B (zh) 一种使用模拟计算的神经网络芯片
CN108154227B (zh) 一种使用模拟计算的神经网络芯片
Shim et al. Ising spin model using spin-hall effect (she) induced magnetization reversal in magnetic-tunnel-junction
US11977970B2 (en) Spintronic computing architecture and method
Staudigl et al. Fault injection in native logic-in-memory computation on neuromorphic hardware
Jin et al. Granular Magnetization Switching in Pt/Co/Ti Structure with HfOx Insertion for In-Memory Computing Applications
Blachowicz et al. Domain wall nucleation, propagation and annihilation in coupled bent ferromagnetic nanofibers with rotating local input fields
Singh Mem-elements based Neuromorphic Hardware for Neural Network Application
Majumdar Embracing Imperfections: Hardware-compatible Neural Networks for Neuromorphic Computing
Vatajelu et al. Resistive and spintronic RAMs: device, simulation, and applications

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20191024

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210506

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220628

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220706

R150 Certificate of patent or registration of utility model

Ref document number: 7108987

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150