光―電気ハイブリツド型多層ニユーラル・ネツトワーク・システム
【発明の詳細な説明】
【産業上の利用分野】
本発明は、光−電気ハイブリツド型多層ニユーラル・ネツトワーク・システムに係り、特に、光の並列性を利用して、学習及び想起のための演算時間を大幅に短縮することが可能な、光−電気ハイブリツド型の多層ニユーラル・ネツトワーク・システムに関するものである。
【従来の技術】
近年、従来のフオン・ノイマン型のコンピユータのアーキテクチヤとは違つて、人間の脳の情報処理様式のモデルであるニユーラル・ネツトワーク・モデルに基づいた新しい処理アーキテクチヤを実現しようとする研究が盛んに行われている。このニユーラル・ネツトワーク・モデルは、神経細胞モデルを基本単位とする大規模並列処理モデルであり、情報処理機能を自律的に自己組織可能である点に特徴がある。
従つて、このニユーラル・ネツトワーク・モデルの構造を本質的に実現しようとする場合には、演算機構、ネツトワーク、入出力等、全ての処理機構に関して完全並列処理を行う必要がある。
しかしながら、従来のコンピユータは、逐次処理に基本をおいており、ニユーラル・ネツトワークの元来持つ並列性をうまく生かすのが難しいシステムであつた。特に、ニユーロン数ｎの増加に関しては、計算量がn2で増大していくことになり、大規模ニユーラル・ネツトワークの実現は困難であつた。
一方、前記完全並列処理を実現するべく、原理的に高い空間的並列性を有する光を情報の媒体として利用する光演算並びに光接続が注目されている。この光を用いる方法によれば、大規模並列演算並びに高密度の並列接続が実現可能であるため、ニユーラル・ネツトワーク・モデルの大規模並列性を実現するのに効果的なハードウエアとして期待が持たれている。
ニユーラル・ネツトワーク・モデルの中でも、とりわけ連想記憶モデルは、演算構造が均質な並列性を持つため、光演算の特徴を生かして高密度の演算構造を実現できる可能性がある。
そこで発明者らは、1988年７月７日に開催された電子情報通信学会や、特開昭64−78491、63−307437等で、光アソシアトロンと呼ぶ、学習機能を導入した光連想記憶システムを提案している。この光アソシアトロンは、空間光変調管のアナログの並列演算・記憶機能を利用し、直交学習法を導入することにより、適応性の高い連想記憶を光演算により実現したものである。又、光アソシアトロン以外にも、光の持つ大規模並列性を用いて連想記憶方式を実現しようとする例は多くみられる（例えば特開平１−112225やホツプフイールドモデル）。
ここで、連想記憶方式とは、記憶装置にいくつものパターンを重複させて記憶させておき、必要なパターンの一部分のみを演算装置に与えることによつて、必要なパターンだけを記憶装置から分離して取り出すことのできる一種の検索方式である。この連想記憶方式を採用することによつて、従来のコンピユータが不得手である、曖昧な入力からの連想処理が実現できると共に、演算時間の大幅な短縮が可能となる。
【発明が達成しようとする課題】
しかしながら、光演算をニユーラル・ネツトワークに用いた従来のシステムは、いずれも、入力層と出力層が直結され、中間層が存在しない、１層のニユーラル・ネツトワーク・モデルを実現しているにとどまつていた。そのため、排他的論理和が処理できない等の限界が指摘されており、これから、多層のニユーラル・ネツトワークへの期待が集つていた。
本発明は、前記従来の課題を考慮してなされたもので、光−電気ハイブリツド型の多層ニユーラル・ネツトワーク・システムを提供することを課題とする。
【課題を達成するための手段】
本発明は、光−電気ハイブリツド型多層ニユーラル・ネツトワーク・システムを、第１図に示す如く、入力パターンを多重化して表示する第１の入力パターン変換装置12と、該第１の入力パターン変換装置12及び後出第１の記憶行列演算器22からの信号のアダマール積を光演算する第１の相関演算器14と、該第１の相関演算器14出力の部分和を電気的に並列演算する第１の部分和演算器16と、該第１の部分和演算器16からの出力に対して出力関数を施して中間層出力パターンを得る第１の出力関数演算器18と、該中間層出力パターンと入力パターン及び出力パターンよりエラー信号を計算する第１のエラー信号演算器20と、該第１のエラー信号演算器20から表示される信号に従い、入力層−中間層用の記憶行列を演算・保持する第１の記憶行列演算器22と、前記入力パターン及び中間層出力パターンを多重化して表示する第２の入力パターン変換装置32と、該第２の入力パターン変換装置32及び後出第２の記憶行列演算器42からの信号のアダマール積を光演算する第２の相関演算器34と、該第２の相関演算器34出力の部分和を電気的に並列演算する第２の部分和演算器36と、該第２の部分和演算器36からの出力に対して出力関数を施して出力パターンを得る第２の出力関数演算器38と、該出力パターンと前記入力パターンを比較してエラー信号を計算する第２のエラー信号演算器40と、該第２のエラー信号演算器40から表示される信号に従い、中間層−出力層用の記憶行列を演算・保持する第２の記憶行列演算器42とを用いて構成することにより、前記課題を達成したものである。
【作用及び効果】
本発明は、例えば第２図に示すような入力層−中間層−出力層から成る多層（第２図では２層）型ニユーラル・ネツトワーク・システムを、光−電気ハイブリツド形式で構成したものである。出力結果の誤りを逆に入力側に送り、それを元にして入力信号の重み付け量の変更を繰り返すことによつて正解を出力するネツトワークを形成するバツクプロパゲーシヨンを始めとするニユーラル・ネツトワーク・システムは、積和演算、出力関数演算等の単純な演算から構成され、均質性の良い演算であるため光演算に相性が良く、連想、認識処理を可能とすることができる。本発明においては、特に、均質性及び並列性の高い積の部分の演算を並列的に行う相関演算器14、34、54の周辺を光学システムとしたので、効率が良く、光の並列性を利用することによつて、学習及び想起のための演算時間を大幅に短縮できる。又、光−電気ハイブリツド方式を用いているので、全光方式に比べて構成が容易である。
特に、光演算に際して、単層の光学系を分割して中間層用と出力層用に割当てた場合には、簡単な光学系で多層ニユーラル・ネツトワーク・システムを実現できる。
【実施例】
以下図面を参照して、バツクプロパゲーシヨンによつて学習が行われる多層ニユーラル・ネツトワーク・システムに適用した、本発明の実施例を詳細に説明する。
本実施例は、第３図に示す如く、第１図に示した前記第１の入力パターン変換装置12の一部を構成する発光ダイオード（LED）アレイ70、レンズ72及び入力パターン変換用空間光変調管（MSLM）74と、前記第１の記憶行列演算器22を構成するLEDアレイ76、レンズ78及び記憶行列用MSLM80と、前記第１の相関演算器14を構成するレーザ光源82、コリメータレンズ84、ハーフミラー86、88、検光子90、92及びフオトトランジスタ（PTR）アレイ94と、前記第２の入力パターン変換装置32の一部を構成するLEDアレイ100、レンズ102及び入力パターン変換用MSLM104と、前記第２の記憶行列演算器42を構成するLEDアレイ106、レンズ108及び記憶行列用MSLM110と、前記第２の相関演算器34を構成するレーザ光源112、コリメータレンズ114、ハーフミラー116、118、検光子120、122及びPTRアレイ124と、前記第１及び第２の部分和演算器16、36を構成する並列アナログ電気回路130と、前記第１及び第２の出力関数演算器18、38、第１及び第２のエラー信号演算器20、40、第１及び第２の記憶行列演算器22、42の一部、及び、第１及び第２の入力パターン変換装置13、32の一部（入力パターンの多重化部分）を構成すると共に、各装置の制御を行うコンピユータ132と、から構成されている。
前記MSLM74、80、104、110は、例えば第４図に示す如く、レンズ（例えば72）を介して入射される入力像を光電子像に変換するための光電陰極74Aと、該光電陰極74Aから放出される光電子像を増倍するためのマイクロチヤンネルプレート（MCP）74Bと、該MCP74Bで増倍された光電子を加速するためのメツシユ電極74Cと、該メツシユ電極74Cを通過した電子によつて、図の左側の電荷蓄積面74Dに電荷パターンが形成される電気光学結晶74Eとから構成されている。
このMSLM（例えば74）においては、入力像に応じて電気光学結晶74Eの電荷蓄積面74Dに電荷パターンが形成され、この電荷パターンに応じて電気光学結晶74Eを横切る電界が変化し、ポツケルス効果によつて電気光学結晶74Eの屈折率が変化する。従つて、直線偏向のレーザ光を電気光学結晶74Eに図の右側から照射すると、電荷蓄積面74Dからの反射光は、該電気光学結晶74Eの複屈折性により偏向状態が変化しているので、検光子（例えば92）を通過させれば、入力像の光強度に対応した光強度を持つ出力像が得られる。
このMLSMは、インコヒーレント光→コヒーレント光変換機能や記憶機能に加えて、電荷を適当な条件で制御することにより、加減算機能、実時間閾値動作機能、AND演算機能等の優れた機能を有しており、この機能を利用した光連想記憶装置が、例えば、特開昭63−307437、特開昭64−78491等に開示されている。
前記LEDアレイ70、76、100、106は、それぞれ対応するMSLM74、80、104、110の光電陰極74Aに入力パターン又は記憶行列を書込むためのものである。
又、前記レーザ光源82、114は、それぞれMSLM74と80、又はMSLM104と110を並列的に読み出すためのものであり、前記PTRアレイ94、124は、その光演算結果を検出するためのものである。
なお本実施例においては、コンピユータ132で電気的に多重パターンを形成しているが、多重パターンを形成する方法はこれに限定されず、例えば、レンズ72、78、102、108の代わりに回折格子等を用いて、ここで光学的に多重化することも可能である。
以下、第２図に示した如く、入力層細胞が２、中間層細胞が２、出力層細胞が２のネツトワークを例にとつて、本実施例の作用を説明する。
なお、学習入力パターンを（x0、x1）、中間層出力パターンを（u0、u1）、想起出力パターンを（y1、y2）と表わしている。
１回の学習は、以下のように、■入力層−中間層の想起■中間層−出力層の想起■中間層−出力層の学習■入力層−中間層の学習から構成される。
■入力層−中間層の想起（第２図の想起１）
第５図（Ａ）に示すような学習入力パターンｘ（x0、x1）が、コンピユータ132において、第５図（Ｂ）に示すように多重化されてLEDアレイ70に提示され、入力パターン変換用MSLM74に書込まれる。このとき、記憶行列用MSLM80には、コンピユータ132の出力に応じて、第５図R>図（Ｃ）に示すような入力層−中間層間の重みw01（０）〜w01（３）（学習信号１）を示す記憶行列M01が提示されている。
想起過程では、まず入力パターン変換用MSLM74に提示されている入力パターンｘ（x0、x1）と、記憶行列用MSLM80に提示されている重み（w01（ｉ））を示す記憶行列M01を、レーザ光源84により光学的に読み出すことによつて、第５図（Ｄ）に示す如く、各点毎のアダマール積が並列的に演算される。従つて、並列アナログ電気回路130でこれの部分和をとることによつて、次式の演算を行う。
net0＝w01（０）＊x0＋w01（１）＊x1 …（１）
net1＝w01（２）＊x0＋w01（３）＊x1 …（２）
従つて、第５図（Ｅ）に示すような中間層出力ｕは、次式で表わされる。
u0＝ｆ（net0） …（３）
u1＝ｆ（net1） …（４）
ここで、ｆは出力関数である。この出力関数ｆは、例えば第６図に示すようなシグモイド関数や第７図に示すような閾値関数とされ、コンピユータ132内で計算された結果、中間層出力ｕ（u0、u1）を得ることができる。
■中間層−出力層の想起（第２図の想起２）
■で得られた中間層出力ｕ（u0、u1）は、コンピユータ132で多重化された後、LEDアレイ100に送られ、中間層−出力層についても、■と同様の演算が行われる。即ち、第５図（Ｆ）に示すような中間層出力ｕ及び入力ｘが、コンピユータ132によつて多重化され、第５図（Ｇ）に示すようなパターンがLEDアレイ100に提示される。又、記憶行列用MSLM110には、第５図（Ｈ）に示すような記憶行列M2（w02、w12）が記憶されている。これによつて、次式の演算が行われて、第５図（Ｉ）に示すようなPTRアレイ124上のパターンを経て、第５図（Ｊ）に示すような想起出力ｙ（y0、y1）が得られる。
y0＝ｆ｛w02（０）＊x0＋w02（１）
＊x1＋w12（０）＊u0 ＋w12（１）＊u1｝ …（５）
y1＝ｆ｛w02（２）＊x0＋w02（３）
＊x1＋w12（２）＊u0 ＋w12（３）＊u1｝ …（６）
■中間層−出力層の学習（第２図の学習１）
学習は、前記想起結果ｙを用いて、バツクプロパゲーシヨン方式により、最終層（中間層−出力層）の重みから、順に修正を行う。修正パターンは、次式によつて表わされる。
dw（ｉ）＝ａ＊Δ（ｉ）＊ｙ（ｉ） …（７）
ここで、 Δ（ｉ）＝（ｔ（ｉ）−ｙ（ｉ））
＊ｆ′（net（ｉ）） …（８）
ｔ（ｉ）：学習教師パターンｙ（ｉ）：想起出力パターン a:学習ゲイン このエラー信号演算を前記コンピユータ132内で行い、LEDアレイ106から修正信号dwを加減することによつて、記憶行列用MSLM110に蓄積されている記憶行列M02、M12の各要素（w02（ｉ）、w12（ｉ））を、次式のように修正する。
w12（ｉ）＝w12（ｉ）＋dw（ｉ） …（９）
w02（ｉ）＝w02（ｉ）＋dw（ｉ） …（10）
■入力層−中間層の学習（第２の学習２）
この入力層−中間層の学習は、次式で表わされる。
dw01（ｉ）＝ａ＊Δ（ｉ）＊ｙ（ｉ） …（11）
ここで、Δ（ｉ）＝ｆ′（net（ｉ）＊（Σ（Δ（ｋ）
＊w12（ｋ））） …（12）
Δ（ｋ）：中間層−出力層の修正信号
w12（ｋ）：中間層−出力層の重み これに従つて、■と同様にして、記憶行列M01（w01（ｉ））が修正される。
複数のパターン対｛（x0、x1）−（y0、y1）の一対が１パターン｝に対して、■から■を繰返すことによつて、バツクプロパゲーシヨン方式の学習が進む。このようにして学習された記憶行列M01を用いることによつて、パターン認識や分類等の処理機能を実現することができる。
なお前記実施例においては、入力層細胞が２、中間層細胞が２、出力層細胞が２のネツトワークを例にとつて説明していたが、層数やそれぞれの層の細胞数が増加した場合でも、記憶行列と入力の配置を調和させることにより、演算速度の増加なしで対応が可能である。
又、前記実施例においては、バツクプロパゲーシヨン方式による学習が採用されていたが、本発明の対象となる学習方式はこれに限定されない。例えば、標本同士を互いに競合させることにより、標本の中から１つを選択するカウンタープロパゲーシヨンや、閾値論理操作（ADALINE）を複数用いたMADALINEに対しても対応可能である。特に、本実施例においては、エラー信号の演算をコンピユータで行つているので、コンピユータ内での変更によつて容易に対応できる。
又、前記実施例においては、２次元の光メモリ、光演算器としてMLSMを用いていたが、記憶行列のダイナミツクレンジ及び線形性が連想能力に影響するため、特に線形性の良い２次元アナログ光デバイスが必要である。
従つて、MLSMを用いる場合には、学習出力パターンｔの設定に際して、複数の信号から形成される入力学習パターンｘ（例えば、物体認識システムにおける多種のセンサからの信号）に対して出力パターンｔを設定する場合、各学習出力パターンｔの平均値を記憶行列Ｍのダイナミツクレンジの平均値に合せて設定することにより、記憶行列Ｍの飽和を少くすることが可能である。
又、学習開始時の記憶行列の初期値Ｍ（０）を、記憶行列Ｍのダイナミツクレンジの中心に持つていくことにより、記憶行列Ｍの飽和を少なくすることもできる。
又、MSLMは、入力−出力関数特性に、sin2の関係を有する。しかしながら、学習においては、線形性の高いほうが、収束時の歪みが少ないために都合がよい。そこで、入力パターン表示用のMSLM74、104及び記憶行列用のMSLM80、110の動作電圧（電気光学結晶への印加電圧Vb）を、第８図に示す如く、ダイナミツクレンジを最大とするための通常の設定電圧である（Vbw1（消去時）、Vbe1（書込み時））の組合せから、（Vbw2、Vbe2）の組み合せに変更して、線形性の良い中心部を使用し、線形性の良い入出力特性を得ることができる。
なお、光デバイスとしては、前記MSLMの他、液晶ライトバルブLCLVやBSO光変調器PROM等を用いることが可能である。
【図面の簡単な説明】
第１図は、本発明の基本的な構成を示すブロツク線図、
第２図は、多層ネツトワークシステムの基本構成を示すブロツク線図、
第３図は、本発明の第１実施例の構成を示す光路図、
第４図は、第１実施例で用いられている空間光変調器の基本的な構成を示す断面図、
第５図は、第１実施例の作用を説明するための線図、
第６図、第７図は、第１実施例で用いられている出力関数の例を示す線図、
第８図は、前記実施例の変形例における、線形性を重視した空間光変調管の電圧設定例を示す線図である。
12、32……入力パターン変換装置、
14、34……相関演算器、
16、36……部分和演算器、
18、38……出力関数演算器、
20、40……エラー信号演算器、
22、42……記憶行列演算器、
70、76、100、106……発光ダイオード（LED）アレイ、
74、80、104、110……空間光変調管（MSLM）、
82、112……レーザ光源、
94、124……フオトトランジスタ（PTR）アレイ、
130……並列アナログ電気回路、
132……コンピユータ、
ｘ……入力パターン、
ｕ……中間層出力パターン、
ｕ……想起出力パターン、
M01、M02、M12……記憶行列。
【産業上の利用分野】
本発明は、光−電気ハイブリツド型多層ニユーラル・ネツトワーク・システムに係り、特に、光の並列性を利用して、学習及び想起のための演算時間を大幅に短縮することが可能な、光−電気ハイブリツド型の多層ニユーラル・ネツトワーク・システムに関するものである。
【従来の技術】
近年、従来のフオン・ノイマン型のコンピユータのアーキテクチヤとは違つて、人間の脳の情報処理様式のモデルであるニユーラル・ネツトワーク・モデルに基づいた新しい処理アーキテクチヤを実現しようとする研究が盛んに行われている。このニユーラル・ネツトワーク・モデルは、神経細胞モデルを基本単位とする大規模並列処理モデルであり、情報処理機能を自律的に自己組織可能である点に特徴がある。
従つて、このニユーラル・ネツトワーク・モデルの構造を本質的に実現しようとする場合には、演算機構、ネツトワーク、入出力等、全ての処理機構に関して完全並列処理を行う必要がある。
しかしながら、従来のコンピユータは、逐次処理に基本をおいており、ニユーラル・ネツトワークの元来持つ並列性をうまく生かすのが難しいシステムであつた。特に、ニユーロン数ｎの増加に関しては、計算量がn2で増大していくことになり、大規模ニユーラル・ネツトワークの実現は困難であつた。
一方、前記完全並列処理を実現するべく、原理的に高い空間的並列性を有する光を情報の媒体として利用する光演算並びに光接続が注目されている。この光を用いる方法によれば、大規模並列演算並びに高密度の並列接続が実現可能であるため、ニユーラル・ネツトワーク・モデルの大規模並列性を実現するのに効果的なハードウエアとして期待が持たれている。
ニユーラル・ネツトワーク・モデルの中でも、とりわけ連想記憶モデルは、演算構造が均質な並列性を持つため、光演算の特徴を生かして高密度の演算構造を実現できる可能性がある。
そこで発明者らは、1988年７月７日に開催された電子情報通信学会や、特開昭64−78491、63−307437等で、光アソシアトロンと呼ぶ、学習機能を導入した光連想記憶システムを提案している。この光アソシアトロンは、空間光変調管のアナログの並列演算・記憶機能を利用し、直交学習法を導入することにより、適応性の高い連想記憶を光演算により実現したものである。又、光アソシアトロン以外にも、光の持つ大規模並列性を用いて連想記憶方式を実現しようとする例は多くみられる（例えば特開平１−112225やホツプフイールドモデル）。
ここで、連想記憶方式とは、記憶装置にいくつものパターンを重複させて記憶させておき、必要なパターンの一部分のみを演算装置に与えることによつて、必要なパターンだけを記憶装置から分離して取り出すことのできる一種の検索方式である。この連想記憶方式を採用することによつて、従来のコンピユータが不得手である、曖昧な入力からの連想処理が実現できると共に、演算時間の大幅な短縮が可能となる。
【発明が達成しようとする課題】
しかしながら、光演算をニユーラル・ネツトワークに用いた従来のシステムは、いずれも、入力層と出力層が直結され、中間層が存在しない、１層のニユーラル・ネツトワーク・モデルを実現しているにとどまつていた。そのため、排他的論理和が処理できない等の限界が指摘されており、これから、多層のニユーラル・ネツトワークへの期待が集つていた。
本発明は、前記従来の課題を考慮してなされたもので、光−電気ハイブリツド型の多層ニユーラル・ネツトワーク・システムを提供することを課題とする。
【課題を達成するための手段】
本発明は、光−電気ハイブリツド型多層ニユーラル・ネツトワーク・システムを、第１図に示す如く、入力パターンを多重化して表示する第１の入力パターン変換装置12と、該第１の入力パターン変換装置12及び後出第１の記憶行列演算器22からの信号のアダマール積を光演算する第１の相関演算器14と、該第１の相関演算器14出力の部分和を電気的に並列演算する第１の部分和演算器16と、該第１の部分和演算器16からの出力に対して出力関数を施して中間層出力パターンを得る第１の出力関数演算器18と、該中間層出力パターンと入力パターン及び出力パターンよりエラー信号を計算する第１のエラー信号演算器20と、該第１のエラー信号演算器20から表示される信号に従い、入力層−中間層用の記憶行列を演算・保持する第１の記憶行列演算器22と、前記入力パターン及び中間層出力パターンを多重化して表示する第２の入力パターン変換装置32と、該第２の入力パターン変換装置32及び後出第２の記憶行列演算器42からの信号のアダマール積を光演算する第２の相関演算器34と、該第２の相関演算器34出力の部分和を電気的に並列演算する第２の部分和演算器36と、該第２の部分和演算器36からの出力に対して出力関数を施して出力パターンを得る第２の出力関数演算器38と、該出力パターンと前記入力パターンを比較してエラー信号を計算する第２のエラー信号演算器40と、該第２のエラー信号演算器40から表示される信号に従い、中間層−出力層用の記憶行列を演算・保持する第２の記憶行列演算器42とを用いて構成することにより、前記課題を達成したものである。
【作用及び効果】
本発明は、例えば第２図に示すような入力層−中間層−出力層から成る多層（第２図では２層）型ニユーラル・ネツトワーク・システムを、光−電気ハイブリツド形式で構成したものである。出力結果の誤りを逆に入力側に送り、それを元にして入力信号の重み付け量の変更を繰り返すことによつて正解を出力するネツトワークを形成するバツクプロパゲーシヨンを始めとするニユーラル・ネツトワーク・システムは、積和演算、出力関数演算等の単純な演算から構成され、均質性の良い演算であるため光演算に相性が良く、連想、認識処理を可能とすることができる。本発明においては、特に、均質性及び並列性の高い積の部分の演算を並列的に行う相関演算器14、34、54の周辺を光学システムとしたので、効率が良く、光の並列性を利用することによつて、学習及び想起のための演算時間を大幅に短縮できる。又、光−電気ハイブリツド方式を用いているので、全光方式に比べて構成が容易である。
特に、光演算に際して、単層の光学系を分割して中間層用と出力層用に割当てた場合には、簡単な光学系で多層ニユーラル・ネツトワーク・システムを実現できる。
【実施例】
以下図面を参照して、バツクプロパゲーシヨンによつて学習が行われる多層ニユーラル・ネツトワーク・システムに適用した、本発明の実施例を詳細に説明する。
本実施例は、第３図に示す如く、第１図に示した前記第１の入力パターン変換装置12の一部を構成する発光ダイオード（LED）アレイ70、レンズ72及び入力パターン変換用空間光変調管（MSLM）74と、前記第１の記憶行列演算器22を構成するLEDアレイ76、レンズ78及び記憶行列用MSLM80と、前記第１の相関演算器14を構成するレーザ光源82、コリメータレンズ84、ハーフミラー86、88、検光子90、92及びフオトトランジスタ（PTR）アレイ94と、前記第２の入力パターン変換装置32の一部を構成するLEDアレイ100、レンズ102及び入力パターン変換用MSLM104と、前記第２の記憶行列演算器42を構成するLEDアレイ106、レンズ108及び記憶行列用MSLM110と、前記第２の相関演算器34を構成するレーザ光源112、コリメータレンズ114、ハーフミラー116、118、検光子120、122及びPTRアレイ124と、前記第１及び第２の部分和演算器16、36を構成する並列アナログ電気回路130と、前記第１及び第２の出力関数演算器18、38、第１及び第２のエラー信号演算器20、40、第１及び第２の記憶行列演算器22、42の一部、及び、第１及び第２の入力パターン変換装置13、32の一部（入力パターンの多重化部分）を構成すると共に、各装置の制御を行うコンピユータ132と、から構成されている。
前記MSLM74、80、104、110は、例えば第４図に示す如く、レンズ（例えば72）を介して入射される入力像を光電子像に変換するための光電陰極74Aと、該光電陰極74Aから放出される光電子像を増倍するためのマイクロチヤンネルプレート（MCP）74Bと、該MCP74Bで増倍された光電子を加速するためのメツシユ電極74Cと、該メツシユ電極74Cを通過した電子によつて、図の左側の電荷蓄積面74Dに電荷パターンが形成される電気光学結晶74Eとから構成されている。
このMSLM（例えば74）においては、入力像に応じて電気光学結晶74Eの電荷蓄積面74Dに電荷パターンが形成され、この電荷パターンに応じて電気光学結晶74Eを横切る電界が変化し、ポツケルス効果によつて電気光学結晶74Eの屈折率が変化する。従つて、直線偏向のレーザ光を電気光学結晶74Eに図の右側から照射すると、電荷蓄積面74Dからの反射光は、該電気光学結晶74Eの複屈折性により偏向状態が変化しているので、検光子（例えば92）を通過させれば、入力像の光強度に対応した光強度を持つ出力像が得られる。
このMLSMは、インコヒーレント光→コヒーレント光変換機能や記憶機能に加えて、電荷を適当な条件で制御することにより、加減算機能、実時間閾値動作機能、AND演算機能等の優れた機能を有しており、この機能を利用した光連想記憶装置が、例えば、特開昭63−307437、特開昭64−78491等に開示されている。
前記LEDアレイ70、76、100、106は、それぞれ対応するMSLM74、80、104、110の光電陰極74Aに入力パターン又は記憶行列を書込むためのものである。
又、前記レーザ光源82、114は、それぞれMSLM74と80、又はMSLM104と110を並列的に読み出すためのものであり、前記PTRアレイ94、124は、その光演算結果を検出するためのものである。
なお本実施例においては、コンピユータ132で電気的に多重パターンを形成しているが、多重パターンを形成する方法はこれに限定されず、例えば、レンズ72、78、102、108の代わりに回折格子等を用いて、ここで光学的に多重化することも可能である。
以下、第２図に示した如く、入力層細胞が２、中間層細胞が２、出力層細胞が２のネツトワークを例にとつて、本実施例の作用を説明する。
なお、学習入力パターンを（x0、x1）、中間層出力パターンを（u0、u1）、想起出力パターンを（y1、y2）と表わしている。
１回の学習は、以下のように、
第５図（Ａ）に示すような学習入力パターンｘ（x0、x1）が、コンピユータ132において、第５図（Ｂ）に示すように多重化されてLEDアレイ70に提示され、入力パターン変換用MSLM74に書込まれる。このとき、記憶行列用MSLM80には、コンピユータ132の出力に応じて、第５図R>図（Ｃ）に示すような入力層−中間層間の重みw01（０）〜w01（３）（学習信号１）を示す記憶行列M01が提示されている。
想起過程では、まず入力パターン変換用MSLM74に提示されている入力パターンｘ（x0、x1）と、記憶行列用MSLM80に提示されている重み（w01（ｉ））を示す記憶行列M01を、レーザ光源84により光学的に読み出すことによつて、第５図（Ｄ）に示す如く、各点毎のアダマール積が並列的に演算される。従つて、並列アナログ電気回路130でこれの部分和をとることによつて、次式の演算を行う。
net0＝w01（０）＊x0＋w01（１）＊x1 …（１）
net1＝w01（２）＊x0＋w01（３）＊x1 …（２）
従つて、第５図（Ｅ）に示すような中間層出力ｕは、次式で表わされる。
u0＝ｆ（net0） …（３）
u1＝ｆ（net1） …（４）
ここで、ｆは出力関数である。この出力関数ｆは、例えば第６図に示すようなシグモイド関数や第７図に示すような閾値関数とされ、コンピユータ132内で計算された結果、中間層出力ｕ（u0、u1）を得ることができる。
y0＝ｆ｛w02（０）＊x0＋w02（１）
＊x1＋w12（０）＊u0 ＋w12（１）＊u1｝ …（５）
y1＝ｆ｛w02（２）＊x0＋w02（３）
＊x1＋w12（２）＊u0 ＋w12（３）＊u1｝ …（６）
学習は、前記想起結果ｙを用いて、バツクプロパゲーシヨン方式により、最終層（中間層−出力層）の重みから、順に修正を行う。修正パターンは、次式によつて表わされる。
dw（ｉ）＝ａ＊Δ（ｉ）＊ｙ（ｉ） …（７）
ここで、 Δ（ｉ）＝（ｔ（ｉ）−ｙ（ｉ））
＊ｆ′（net（ｉ）） …（８）
ｔ（ｉ）：学習教師パターンｙ（ｉ）：想起出力パターン a:学習ゲイン このエラー信号演算を前記コンピユータ132内で行い、LEDアレイ106から修正信号dwを加減することによつて、記憶行列用MSLM110に蓄積されている記憶行列M02、M12の各要素（w02（ｉ）、w12（ｉ））を、次式のように修正する。
w12（ｉ）＝w12（ｉ）＋dw（ｉ） …（９）
w02（ｉ）＝w02（ｉ）＋dw（ｉ） …（10）
この入力層−中間層の学習は、次式で表わされる。
dw01（ｉ）＝ａ＊Δ（ｉ）＊ｙ（ｉ） …（11）
ここで、Δ（ｉ）＝ｆ′（net（ｉ）＊（Σ（Δ（ｋ）
＊w12（ｋ））） …（12）
Δ（ｋ）：中間層−出力層の修正信号
w12（ｋ）：中間層−出力層の重み これに従つて、
複数のパターン対｛（x0、x1）−（y0、y1）の一対が１パターン｝に対して、
なお前記実施例においては、入力層細胞が２、中間層細胞が２、出力層細胞が２のネツトワークを例にとつて説明していたが、層数やそれぞれの層の細胞数が増加した場合でも、記憶行列と入力の配置を調和させることにより、演算速度の増加なしで対応が可能である。
又、前記実施例においては、バツクプロパゲーシヨン方式による学習が採用されていたが、本発明の対象となる学習方式はこれに限定されない。例えば、標本同士を互いに競合させることにより、標本の中から１つを選択するカウンタープロパゲーシヨンや、閾値論理操作（ADALINE）を複数用いたMADALINEに対しても対応可能である。特に、本実施例においては、エラー信号の演算をコンピユータで行つているので、コンピユータ内での変更によつて容易に対応できる。
又、前記実施例においては、２次元の光メモリ、光演算器としてMLSMを用いていたが、記憶行列のダイナミツクレンジ及び線形性が連想能力に影響するため、特に線形性の良い２次元アナログ光デバイスが必要である。
従つて、MLSMを用いる場合には、学習出力パターンｔの設定に際して、複数の信号から形成される入力学習パターンｘ（例えば、物体認識システムにおける多種のセンサからの信号）に対して出力パターンｔを設定する場合、各学習出力パターンｔの平均値を記憶行列Ｍのダイナミツクレンジの平均値に合せて設定することにより、記憶行列Ｍの飽和を少くすることが可能である。
又、学習開始時の記憶行列の初期値Ｍ（０）を、記憶行列Ｍのダイナミツクレンジの中心に持つていくことにより、記憶行列Ｍの飽和を少なくすることもできる。
又、MSLMは、入力−出力関数特性に、sin2の関係を有する。しかしながら、学習においては、線形性の高いほうが、収束時の歪みが少ないために都合がよい。そこで、入力パターン表示用のMSLM74、104及び記憶行列用のMSLM80、110の動作電圧（電気光学結晶への印加電圧Vb）を、第８図に示す如く、ダイナミツクレンジを最大とするための通常の設定電圧である（Vbw1（消去時）、Vbe1（書込み時））の組合せから、（Vbw2、Vbe2）の組み合せに変更して、線形性の良い中心部を使用し、線形性の良い入出力特性を得ることができる。
なお、光デバイスとしては、前記MSLMの他、液晶ライトバルブLCLVやBSO光変調器PROM等を用いることが可能である。
【図面の簡単な説明】
第１図は、本発明の基本的な構成を示すブロツク線図、
第２図は、多層ネツトワークシステムの基本構成を示すブロツク線図、
第３図は、本発明の第１実施例の構成を示す光路図、
第４図は、第１実施例で用いられている空間光変調器の基本的な構成を示す断面図、
第５図は、第１実施例の作用を説明するための線図、
第６図、第７図は、第１実施例で用いられている出力関数の例を示す線図、
第８図は、前記実施例の変形例における、線形性を重視した空間光変調管の電圧設定例を示す線図である。
12、32……入力パターン変換装置、
14、34……相関演算器、
16、36……部分和演算器、
18、38……出力関数演算器、
20、40……エラー信号演算器、
22、42……記憶行列演算器、
70、76、100、106……発光ダイオード（LED）アレイ、
74、80、104、110……空間光変調管（MSLM）、
82、112……レーザ光源、
94、124……フオトトランジスタ（PTR）アレイ、
130……並列アナログ電気回路、
132……コンピユータ、
ｘ……入力パターン、
ｕ……中間層出力パターン、
ｕ……想起出力パターン、
M01、M02、M12……記憶行列。
【特許請求の範囲】
【請求項１】入力パターンを多重化して表示する第１の入力パターン変換装置と、該第１の入力パターン変換装置及び後出第１の記憶行列演算器からの信号のアダマール積を光演算する第１の相関演算器と、該第１の相関演算器出力の部分和を電気的に並列演算する第１の部分和演算器と、該第１の部分和演算器からの出力に対して出力関数を施して中間層出力パターンを得る第１の出力関数演算器と、該中間層出力パターンと入力パターン及び後出出力パターンよりエラー信号を計算する第１のエラー信号演算器と、該第１のエラー信号演算器から表示される信号に従い、入力層−中間層用の記憶行列を演算・保持する第１の記憶行列演算器と、前記入力パターン及び中間層出力パターンを多重化して表示する第２の入力パターン変換装置と、該第２の入力パターン変換装置及び後出第２の記憶行列演算器からの信号のアダマール積を光演算する第２の相関演算器と、該第２の相関演算器出力の部分和を電気的に並列演算する第２の部分和演算器と、該第２の部分和演算器からの出力に対して出力関数を施して出力パターンを得る第２の出力関数演算器と、該出力パターンと前記入力パターンを比較してエラー信号を計算する第２のエラー信号演算器と、該第２のエラー信号演算器から表示される信号に従い、中間層−出力層用の記憶行列を演算・保持する第２の記憶行列演算器と、を含むことを特徴とする光−電気ハイブリツド型多層ニユーラル・ネツトワーク・システム。
【請求項１】入力パターンを多重化して表示する第１の入力パターン変換装置と、該第１の入力パターン変換装置及び後出第１の記憶行列演算器からの信号のアダマール積を光演算する第１の相関演算器と、該第１の相関演算器出力の部分和を電気的に並列演算する第１の部分和演算器と、該第１の部分和演算器からの出力に対して出力関数を施して中間層出力パターンを得る第１の出力関数演算器と、該中間層出力パターンと入力パターン及び後出出力パターンよりエラー信号を計算する第１のエラー信号演算器と、該第１のエラー信号演算器から表示される信号に従い、入力層−中間層用の記憶行列を演算・保持する第１の記憶行列演算器と、前記入力パターン及び中間層出力パターンを多重化して表示する第２の入力パターン変換装置と、該第２の入力パターン変換装置及び後出第２の記憶行列演算器からの信号のアダマール積を光演算する第２の相関演算器と、該第２の相関演算器出力の部分和を電気的に並列演算する第２の部分和演算器と、該第２の部分和演算器からの出力に対して出力関数を施して出力パターンを得る第２の出力関数演算器と、該出力パターンと前記入力パターンを比較してエラー信号を計算する第２のエラー信号演算器と、該第２のエラー信号演算器から表示される信号に従い、中間層−出力層用の記憶行列を演算・保持する第２の記憶行列演算器と、を含むことを特徴とする光−電気ハイブリツド型多層ニユーラル・ネツトワーク・システム。
【第４図】
【第６図】
【第７図】
【第１図】
【第２図】
【第３図】
【第５図】
【第８図】
【第６図】
【第７図】
【第１図】
【第２図】
【第３図】
【第５図】
【第８図】
【特許番号】第２８４３０６６号
【登録日】平成１０年（１９９８）１０月２３日
【発行日】平成１１年（１９９９）１月６日
【国際特許分類】
【出願番号】特願平１−２４８３３４
【出願日】平成１年（１９８９）９月２５日
【公開番号】特開平３−１１０６１４
【公開日】平成３年（１９９１）５月１０日
【審査請求日】平成８年（１９９６）８月２１日
【出願人】（９９９９９９９９９）浜松ホトニクス株式会社
【参考文献】
【文献】石川 正俊著「学習を導入した光連想システム」電子情報通信学会研究会資料，ＣＰＳＹ８８−１５，ｐ６１〜ｐ６８，１９８８
【登録日】平成１０年（１９９８）１０月２３日
【発行日】平成１１年（１９９９）１月６日
【国際特許分類】
【出願日】平成１年（１９８９）９月２５日
【公開番号】特開平３−１１０６１４
【公開日】平成３年（１９９１）５月１０日
【審査請求日】平成８年（１９９６）８月２１日
【出願人】（９９９９９９９９９）浜松ホトニクス株式会社
【参考文献】
【文献】石川 正俊著「学習を導入した光連想システム」電子情報通信学会研究会資料，ＣＰＳＹ８８−１５，ｐ６１〜ｐ６８，１９８８
[ Back to top ]