やさしいPDPモデルの話
やさしいPDPモデルの話―文系読者のためのニューラルネットワーク理論入門(新曜社)
守一雄
いまさら、PDPモデルの本の紹介です。
出版されたのは、1995年と、今からもう15年近く前になりますね。
PDPモデルとは、並列分散処理モデル(Parallel Distributed Processing)と言って、この言葉がタイトルになっている本が、今回紹介する本よりさらに10年ほど前に、ラメルハートとマクレランドら(1986)によって出版されました。
並列分散処理とは、その名の通り、直列じゃない処理をすることです。
SR学習理論→認知心理学(PSモデル)と進んできた心理学における、第三のパラダイムです。(…となるはずでした?どうなんでしょう実際は。今度調べます。)
認知心理学のボックスと矢印モデルにも行き詰まりを見せた20世紀後半に、不死鳥のごとく現れたモデルだったんです。何故不死鳥かというと、起源はもすこし古いから。
最近のパソコンのCPUはCORE2DUOとかQUADとか、二つ四つと、並列させてますよね。そんなんとは全然違うんですけど、直列がダメなら並列なんです。
並列分散表現の優れているところは、
(1)実際の神経の働きを模しているところ。
これを優れている点として挙げるかどうかは微妙ですが...似ている方がいいですよね。
(2)頑健であること。つまり、損傷に強い。モデルの一部が損傷しても、全体としての
働きは保たれること。パソコンみたいに、少し壊れたから全部ダメ、みたいなことにはなりません。
(3)学習の結果、ネットワークが生成されること。はじめに神様が作らなくてもいいんです。人間に例えるなら、成長するということでしょうか。どんどん頭良くなる。
(4)「中枢」がないこと。上の二つとかぶるんですが、それぞれのユニットは他のユニットがどのように働いているかも知らないし、どこか一か所が指令を出すわけでもない。
どっかで見たような言葉を使えば、「創発」される。
みたいな漠然とした感じで捉えてました。
音読(もしくは失読、てゆーか言語)のトライアングルモデルなんかは有名ですよね。
そんなPDPモデルについて、本当に平易に、とても読みやすく分かりやすく、
その魅力を伝えてくれるのが本書です。
PDPモデルを自分のパラダイムとして使用するかしないかという次元ではなく、とても有益な示唆が得られると思います。もともとモデル自体がとても魅力的ですし。
ページ数も100ページほどで、数時間で一気に読み終えられます。
コネクショニストとか言うと、文系の私たちには取っ付きにくく、実際、甘利(1989)の
「神経回路網モデルとコネクショニズム」など読んだことありますが、
何もわからずひっかからず終わりました。
これをきっかけにキャンベルやエデルマンなんかも読めたらいいなと思います。
守一雄
いまさら、PDPモデルの本の紹介です。
出版されたのは、1995年と、今からもう15年近く前になりますね。
PDPモデルとは、並列分散処理モデル(Parallel Distributed Processing)と言って、この言葉がタイトルになっている本が、今回紹介する本よりさらに10年ほど前に、ラメルハートとマクレランドら(1986)によって出版されました。
並列分散処理とは、その名の通り、直列じゃない処理をすることです。
SR学習理論→認知心理学(PSモデル)と進んできた心理学における、第三のパラダイムです。(…となるはずでした?どうなんでしょう実際は。今度調べます。)
認知心理学のボックスと矢印モデルにも行き詰まりを見せた20世紀後半に、不死鳥のごとく現れたモデルだったんです。何故不死鳥かというと、起源はもすこし古いから。
最近のパソコンのCPUはCORE2DUOとかQUADとか、二つ四つと、並列させてますよね。そんなんとは全然違うんですけど、直列がダメなら並列なんです。
並列分散表現の優れているところは、
(1)実際の神経の働きを模しているところ。
これを優れている点として挙げるかどうかは微妙ですが...似ている方がいいですよね。
(2)頑健であること。つまり、損傷に強い。モデルの一部が損傷しても、全体としての
働きは保たれること。パソコンみたいに、少し壊れたから全部ダメ、みたいなことにはなりません。
(3)学習の結果、ネットワークが生成されること。はじめに神様が作らなくてもいいんです。人間に例えるなら、成長するということでしょうか。どんどん頭良くなる。
(4)「中枢」がないこと。上の二つとかぶるんですが、それぞれのユニットは他のユニットがどのように働いているかも知らないし、どこか一か所が指令を出すわけでもない。
どっかで見たような言葉を使えば、「創発」される。
みたいな漠然とした感じで捉えてました。
音読(もしくは失読、てゆーか言語)のトライアングルモデルなんかは有名ですよね。
そんなPDPモデルについて、本当に平易に、とても読みやすく分かりやすく、
その魅力を伝えてくれるのが本書です。
PDPモデルを自分のパラダイムとして使用するかしないかという次元ではなく、とても有益な示唆が得られると思います。もともとモデル自体がとても魅力的ですし。
ページ数も100ページほどで、数時間で一気に読み終えられます。
コネクショニストとか言うと、文系の私たちには取っ付きにくく、実際、甘利(1989)の
「神経回路網モデルとコネクショニズム」など読んだことありますが、
何もわからずひっかからず終わりました。
これをきっかけにキャンベルやエデルマンなんかも読めたらいいなと思います。