パルスニューラルネットワークにおけるカオス連想記憶




pnnam.jarをダウンロードしてダブルクリックして実行してください(コマンドラインでは java -jar pnnam.jar)。

パターン遷移が起こらないときは「Stimulate Group x」ボタンを押して、パターン x を記憶した素子を刺激してください。
それによりパターン遷移が誘発されることが多いです。

シミュレータが実行出来ない方は www.java.com からJavaをインストールしてください。


埋め込んだパターン
パターン 1
パターン 2
パターン 3


人間の記憶をモデル化した「連想記憶モデル」を考えます。このモデルにおいては記憶は「ポテンシャル井戸の底」として表現され、
系が井戸の底へ滑り落ちるようにして記憶が思い出されます。

しかし、「井戸の底」という比喩から想像のつく通り、一般的な連想記憶モデルでは記憶は一度思い出したら思い出しっぱなし、
そこから先が続かないという問題点がありました。 そこで、安達・合原や津田は連想記憶にカオス的なダイナミクスを導入し、
井戸の底をカオスによりつなぐことで、「過去に覚えた記憶を次々と思い出す」ダイナミクスを提案しました。
このダイナミクスは、記憶の想起だけではなく、最適化問題の解の探索にも応用できます。

これまでは、カオス連想記憶は抽象度の高いアナログニューロンでモデル化されることが多く
より現実の脳内のニューロンに近いパルスニューロンで実現されることはありませんでした。
この問題に対し、私はパルスニューロンのカオス的な同期を利用して、パルスニューロンによるカオス連想記憶モデルを
構成することができました。以下でそのモデルを紹介します。

興奮性パルスニューロンと抑制性パルスニューロンの全結合系からなるパルスニューラルネットワークを考え、これを「1モジュールと呼ぶことにします。

ニューロン間は指数関数型のシナプス結合をしており、系にはノイズが加わっています。


いま、素子数無限大の極限を考え、ネットワークのダイナミクスを解析すると、 1モジュールのネットワークは左の図のようにカオスアトラクターを持ちます。

左図 (c) は、1モジュールに属する1000 個の興奮性素子の発火時刻の ラスタプロットを表しており、 同期発火の起こる時刻がカオス的に変化していることがわかります。 左図 (a) と (b) は素子数無限大の極限での解析結果です。

この「1モジュール」を連想記憶モデルにおける「1素子」と考え、 多モジュール構造にして連想記憶系を構成します。 右図は、このモジュール間結合の模式図を 2 モジュール結合系を例として 描いたものです。
モジュール間結合には修正した Hebb 則を用いており、式で 書くと以下のようになります。





このような系を構成し、パラメータを適切に選ぶと、 パルスニューロン結合系で左図のようなカオス連想記憶が実現されます。

このシミュレータでは興奮性/抑制性素子を 60 個ずつで1モジュールを構成し、 8 モジュールのネットワークに 3 パターンを埋め込んでいます。

黄色が興奮性素子の発火を表しており、抑制性素子の状態の表示は省略しています。

素子数が少なく設定しているので、カオスによる遷移だけではなく ノイズによる影響もあるため、パターンが少し壊れやすくなっています。 「Stimulate Group x」ボタンを押すと、パターン x を記憶した素子を刺激します。
何も起こらない場合は何度か押してみるとパターン遷移が誘発されることが多いです。

右側のバーによってモジュール間の抑制結合の強さを変えることができます。
値が大きい方がパターンが安定な傾向があります。

このページは以下の文献を参考にしています。
←「結合つなぎ換えにより誘起される同期とカオス」へ
「確率共鳴 (stochastic resonance)」へ→

カオス&非線形力学入門に戻る