新しい記事を書く事で広告が消せます。
David Marrが提唱した脳の情報処理を理解するために必要な３つのレベルについて書いてみる。３つのレベルとは、計算理論（computational theory）、表現とアルゴリズム（representation and algorithm）、そしてハードウェアによる実現（hardware implementation）である。この３つのレベルの研究が統合されたときにはじめて脳が行っている情報処理課題が理解される。とくにMarrはこれまであまり考慮されていなかった計算理論の重要性を説いた。
計算理論のレベルでは情報処理システム（脳）が何をするのか（what）、そして、なぜそれを行うのか（why）を問う。表現とアルゴリズムのレベルではある計算理論がどのようなアルゴリズムで実行されているのかを調べる（アルゴリズムとは、はじめにこれをやって、次にこれをして、というような順番に行う手続きのことである）。３つめのハードウェアによる実現のレベルではアルゴリズムを実行している物質的基盤について調べる。以下にMarrのビジョンに書かれている３つのレベルの例を上げる。
例：キャッシュレジスタの計算理論
計算理論：(what) 商品の値段を加算する。(why) 商品の合計金額を算出し、お金と商品を交換するため。
表現とアルゴリズム：(representation) 2進数。(how)逆ポーランド記法によるアルゴリズム。
ハードウェアによる実現：電線とトランジスタ。
一般にひとつの計算理論に対して複数のアルゴリズムが存在し、ひとつのアルゴリズムに対して複数のハードウェアによる実現がある。キャッシュレジスタの計算理論に対する他の表現とアルゴリズムについては我々が行うような10進数による筆算のアルゴリズムも考えられるし、ハードウェアによる実現についても紙とペンや、バベッジの解析機関なども考えられる。このように異なるレベルに分類することは、それぞれのレベルを独立に研究すればよいということを意味しない。 ハードウェアによる実現のレベルは可能な表現とアルゴリズムを制限するし、表現とアルゴリズムは可能な計算理論を制限する。その逆もまたしかりである。キャッシュレジスタの場合、電線とトランジスタの接続からそれを用いてできるアルゴリズムは制限されるし、商品の合計金額を出し、おつりを渡すという計算理論からそれを実現するためのアルゴリズムも制限される。
アルゴリズムに関して言えば少ない計算ステップというのが重要な制約条件である。例えば、ひとつひとつの商品の消費税を個別に計算し加算するよりは、商品の合計金額を出した後で消費税を計算した方が速い。我々は数百ミリ秒の間に感覚器から入ってくる情報をもとに外界を認識し目標に対する運動計画を行い運動指令を計算しているので、少ない数のステップで実現可能なアルゴリズム、またはそのようなアルゴリズムを規定する計算理論を考えなくてはならない。神経回路の逆方向接続を考慮しても、脳は高々数十回の計算ステップでこれを行っている。このようなことを可能にするアルゴリズムも計算理論も未解明のままである。どんなに美しい計算理論でもそれを実現するためのアルゴリズムが数千回のステップを要するならば、アルゴリズムひいては計算理論を再考しなくてはならない。ひょっとすると他の科学的な理論にあるような単純さ（simplicity）という条件は、脳のアルゴリズムには当てはまらないかもしれない。多少不格好でも脳が逐次的に行えるものが優先される。進化の産物である以上、脳が行っているアルゴリズムの最適性は保証されない。
Computational Neuroscienceが面白い理由のひとつは計算理論のレベルがあるからだと思う。Computational Neuroscienceは神経回路がどのように動いているのかを調べるだけでなく、そのプロセスは何を意味し、なぜそれを行っているのかまで問う。howにとどまらず、whyを問い、その答えを見つける方が面白い。反対に、神経科学が学問として物理学のようにしっかり確立していないのは、計算理論のレベルの理解が少ないからでもあると思う。とくに３つのレベルで統一的に理解されているものは少ない。提案されている理論も機械学習や制御理論から拝借してきたものが多くComputational Neuroscienceの独自性が問われる（実験によりおおよそ正しいと検証されたのなら機械学習の理論でも問題無いとは思うが）。神経科学の知見から着想されたものも少なくはないがどこか魅力がない。それはおそらく機械学習や制御理論のように実問題を解決してくれないからだと思う。実問題を解決してくれるほど洗練された脳の計算理論、アルゴリズムが望まれる。
Marrの３つのレベルについてはpooneilさんのところでも議論されています。
計算理論のレベルでは情報処理システム（脳）が何をするのか（what）、そして、なぜそれを行うのか（why）を問う。表現とアルゴリズムのレベルではある計算理論がどのようなアルゴリズムで実行されているのかを調べる（アルゴリズムとは、はじめにこれをやって、次にこれをして、というような順番に行う手続きのことである）。３つめのハードウェアによる実現のレベルではアルゴリズムを実行している物質的基盤について調べる。以下にMarrのビジョンに書かれている３つのレベルの例を上げる。
例：キャッシュレジスタの計算理論
計算理論：(what) 商品の値段を加算する。(why) 商品の合計金額を算出し、お金と商品を交換するため。
表現とアルゴリズム：(representation) 2進数。(how)逆ポーランド記法によるアルゴリズム。
ハードウェアによる実現：電線とトランジスタ。
一般にひとつの計算理論に対して複数のアルゴリズムが存在し、ひとつのアルゴリズムに対して複数のハードウェアによる実現がある。キャッシュレジスタの計算理論に対する他の表現とアルゴリズムについては我々が行うような10進数による筆算のアルゴリズムも考えられるし、ハードウェアによる実現についても紙とペンや、バベッジの解析機関なども考えられる。このように異なるレベルに分類することは、それぞれのレベルを独立に研究すればよいということを意味しない。 ハードウェアによる実現のレベルは可能な表現とアルゴリズムを制限するし、表現とアルゴリズムは可能な計算理論を制限する。その逆もまたしかりである。キャッシュレジスタの場合、電線とトランジスタの接続からそれを用いてできるアルゴリズムは制限されるし、商品の合計金額を出し、おつりを渡すという計算理論からそれを実現するためのアルゴリズムも制限される。
アルゴリズムに関して言えば少ない計算ステップというのが重要な制約条件である。例えば、ひとつひとつの商品の消費税を個別に計算し加算するよりは、商品の合計金額を出した後で消費税を計算した方が速い。我々は数百ミリ秒の間に感覚器から入ってくる情報をもとに外界を認識し目標に対する運動計画を行い運動指令を計算しているので、少ない数のステップで実現可能なアルゴリズム、またはそのようなアルゴリズムを規定する計算理論を考えなくてはならない。神経回路の逆方向接続を考慮しても、脳は高々数十回の計算ステップでこれを行っている。このようなことを可能にするアルゴリズムも計算理論も未解明のままである。どんなに美しい計算理論でもそれを実現するためのアルゴリズムが数千回のステップを要するならば、アルゴリズムひいては計算理論を再考しなくてはならない。ひょっとすると他の科学的な理論にあるような単純さ（simplicity）という条件は、脳のアルゴリズムには当てはまらないかもしれない。多少不格好でも脳が逐次的に行えるものが優先される。進化の産物である以上、脳が行っているアルゴリズムの最適性は保証されない。
Computational Neuroscienceが面白い理由のひとつは計算理論のレベルがあるからだと思う。Computational Neuroscienceは神経回路がどのように動いているのかを調べるだけでなく、そのプロセスは何を意味し、なぜそれを行っているのかまで問う。howにとどまらず、whyを問い、その答えを見つける方が面白い。反対に、神経科学が学問として物理学のようにしっかり確立していないのは、計算理論のレベルの理解が少ないからでもあると思う。とくに３つのレベルで統一的に理解されているものは少ない。提案されている理論も機械学習や制御理論から拝借してきたものが多くComputational Neuroscienceの独自性が問われる（実験によりおおよそ正しいと検証されたのなら機械学習の理論でも問題無いとは思うが）。神経科学の知見から着想されたものも少なくはないがどこか魅力がない。それはおそらく機械学習や制御理論のように実問題を解決してくれないからだと思う。実問題を解決してくれるほど洗練された脳の計算理論、アルゴリズムが望まれる。
Marrの３つのレベルについてはpooneilさんのところでも議論されています。
前回からだいぶ間があいてしまいましたが、『模型は心を持ちうるか』を読んで驚いたことがあるので書いておきます。それはプレディクティブ・コーディングに近い考え方をブライテンベルクが持っていたことです。
13番目に登場する模型は予測（本書では予見または予言とよばれている）装置を持っています。この装置は環境が移り変わる規則と同じような規則で常に環境の変化を予測しています。予測と環境からの入力が食い違う場合が起きると、環境からの入力を信じるようにスイッチが切り替わります。そして今後もっと予測がうまく行くように装置を学習させる機構が働きます。プレディクティブ・コーディングでは予測と入力のオンオフで切り替わったりしませんが、本質的なアイディアは似ています。
この装置がプレディクティブ・コーディングと最も異なるところは、予測と入力が異なると判断をした後で入力を信じなくてはならなくなっときに、その入力がすでに一時刻後のものになっているため、逐次入力を短時間保存しておく記憶装置が必要であるということです。
予測という考えが出てきた背景には、ただのヘブ側ではうまく模型（生物）が環境に適応するようにならないだろうという考察があるようです。同じことが強化学習で有名なサットンとバルトの論文（1981）にも載っているそうです。予測に関するブライテンベルクの考えは1973年の論文に載っていて、「同じことを考えた人は他にもいるだろう」と書かれているので、環境を認識するうえで予測が必要という考えは昔からあったようです。
13番目に登場する模型は予測（本書では予見または予言とよばれている）装置を持っています。この装置は環境が移り変わる規則と同じような規則で常に環境の変化を予測しています。予測と環境からの入力が食い違う場合が起きると、環境からの入力を信じるようにスイッチが切り替わります。そして今後もっと予測がうまく行くように装置を学習させる機構が働きます。プレディクティブ・コーディングでは予測と入力のオンオフで切り替わったりしませんが、本質的なアイディアは似ています。
この装置がプレディクティブ・コーディングと最も異なるところは、予測と入力が異なると判断をした後で入力を信じなくてはならなくなっときに、その入力がすでに一時刻後のものになっているため、逐次入力を短時間保存しておく記憶装置が必要であるということです。
予測という考えが出てきた背景には、ただのヘブ側ではうまく模型（生物）が環境に適応するようにならないだろうという考察があるようです。同じことが強化学習で有名なサットンとバルトの論文（1981）にも載っているそうです。予測に関するブライテンベルクの考えは1973年の論文に載っていて、「同じことを考えた人は他にもいるだろう」と書かれているので、環境を認識するうえで予測が必要という考えは昔からあったようです。
ブライテンベルク著 "VEHICLES : EXPERIMENTS IN SYNTHETIC PSYCHOLOGY"の邦訳『模型は心を持ちうるか―人工知能・認知科学・脳生理学の焦点』を紹介する。もう既に古典と呼ばれる本かもしれない。だが心を機能的に理解したいと思っている人には一読の価値があると思う。
この本は２部構成になっている。１部ではモーターとセンサーがついた単純な模型で生物の行動を模倣させることを考える。徐々に新たなメカニズムを追加していって、より複雑な行動を模倣させていく。２部ではそのメカニズムの根拠となった神経科学、心理学的な知見を紹介する。結局、最後まで邦訳の題名に対する答えは載っていないが、心を理解するために欠かせない重要なアプローチが本書を通して書かれている。つまり構成的な方法である。
１部で登場する模型は１号から１４号までの１４種類である。１号はもっとも単純な模型で、ひとつのセンサーがひとつのモーターに接続されている。センサーが高い温度を感知すると前に進み、寒い場所では停止する。この模型を観測すると、暖かいところでは落ち着きなく動き回って、快適な寒い場所を見つけようとしているとみえるかもしれない。
２号はセンサーとモーターが２つずつ付いた模型である。２号aは左のモーターに左のセンサーが接続され、右のモーターに右のセンサーが接続されている。そのセンサーは光を感知し、光が強いほどモーターを速く回転させる。２号aの左側に光源があると、左側のモーターの方がより早く回転し、２号aは光源から遠ざかろうとする。
２号bは左のモーターに右のセンサーが接続され、右のモーターに左のセンサーが接続されている。２号aとは対照的に、２号bは光源にぶつかるまで近づいていく。２号aと２号bはどちらも光源が嫌いだがその対処の仕方が異なる。２号aは光源から逃げるが、２号bは光源を破壊しようとする。
このように模型を徐々に複雑にして、より生物らしい行動ができるように改良していく。その過程でこのアプローチについての哲学的な意見が書かれている。それは「登りの分析・下りの発明の法則 (law of uphill analysis and downhill invention)」である。何らかの行動をさせることができる機械を作ることは簡単であるが、それに比べ機械の振る舞いを観測してその内部構造を推測しようとすることははるかに難しいということである。
もうひとつの哲学的な分析は、われわれは生物の複雑な振る舞いを見て、きっと内部構造はとても複雑なんだろうと考えがちになるということである。「下りの発明」から非常に単純な仕組みで複雑な振る舞いを行わせることができるとわかるのである。 【“模型は心を持ちうるか １”の続きを読む】
この本は２部構成になっている。１部ではモーターとセンサーがついた単純な模型で生物の行動を模倣させることを考える。徐々に新たなメカニズムを追加していって、より複雑な行動を模倣させていく。２部ではそのメカニズムの根拠となった神経科学、心理学的な知見を紹介する。結局、最後まで邦訳の題名に対する答えは載っていないが、心を理解するために欠かせない重要なアプローチが本書を通して書かれている。つまり構成的な方法である。
１部で登場する模型は１号から１４号までの１４種類である。１号はもっとも単純な模型で、ひとつのセンサーがひとつのモーターに接続されている。センサーが高い温度を感知すると前に進み、寒い場所では停止する。この模型を観測すると、暖かいところでは落ち着きなく動き回って、快適な寒い場所を見つけようとしているとみえるかもしれない。
２号はセンサーとモーターが２つずつ付いた模型である。２号aは左のモーターに左のセンサーが接続され、右のモーターに右のセンサーが接続されている。そのセンサーは光を感知し、光が強いほどモーターを速く回転させる。２号aの左側に光源があると、左側のモーターの方がより早く回転し、２号aは光源から遠ざかろうとする。
２号bは左のモーターに右のセンサーが接続され、右のモーターに左のセンサーが接続されている。２号aとは対照的に、２号bは光源にぶつかるまで近づいていく。２号aと２号bはどちらも光源が嫌いだがその対処の仕方が異なる。２号aは光源から逃げるが、２号bは光源を破壊しようとする。
このように模型を徐々に複雑にして、より生物らしい行動ができるように改良していく。その過程でこのアプローチについての哲学的な意見が書かれている。それは「登りの分析・下りの発明の法則 (law of uphill analysis and downhill invention)」である。何らかの行動をさせることができる機械を作ることは簡単であるが、それに比べ機械の振る舞いを観測してその内部構造を推測しようとすることははるかに難しいということである。
もうひとつの哲学的な分析は、われわれは生物の複雑な振る舞いを見て、きっと内部構造はとても複雑なんだろうと考えがちになるということである。「下りの発明」から非常に単純な仕組みで複雑な振る舞いを行わせることができるとわかるのである。 【“模型は心を持ちうるか １”の続きを読む】
日経サイエンス2007年11月号から二つ紹介。
まずは「サメの第六感 獲物をとらえる電気感覚」という記事について。
サメの口の周りには周囲の電場を感じ取れる器官があって、この感覚器により獲物を捕らえるそうです。魚の体と海水ではイオン濃度が違うため、魚は周囲に弱い電場を作り出しています。サメは獲物までの距離が1メートル以内に近づくと、その獲物の出す電場をもとにその位置を把握し食らいつくそうです。
なぜ視覚を使わないのかと思いましたが、1メートル以上近づくとサメの眼と口の構造上、獲物の位置が見えにくくなるか、全く見えなくなるのでしょう。いろんな感覚器が存在するのですね。
「もし人類が消えたら地球は？」がこの号では最も面白かったです。Scientific Americanの記者がアリゾナ大学のワイズマン准教授（"The World without Us"の著者。 邦訳は来週発売予定）にインタビューして作成された記事です。人類消滅から7日で原子炉の炉心融解が起こり、5年後には雷による火災でニューヨークの大部分が燃え尽きるかもしれないそうです。
人類がいなくなったあとの勝ち組は、ビルや電線にぶつからなくなった鳥類、駆除されることがなくなった蚊、繁殖力の旺盛な樹木だそうです。また、負け組は、人類の出すゴミがなくなっために飢え死にするネズミ、冬を生き延びるための暖房が無くなったゴキブリなどだそうです。
10万年後にようやく二酸化炭素濃度が産業革命以前のレベルに戻り、プラスチックの一部は数十万年たってもそのままかもしれないそうです。ワイズマン准教授によれば人類がいなくなったあとを想定することで、環境問題について別の視点から考察できるかもしれないとのことです。
原子炉というのは常にメンテナンスしていないといけない代物なのですね。またネズミやゴキブリはほとんど人間の生活に依存していることもわかりました。
まずは「サメの第六感 獲物をとらえる電気感覚」という記事について。
サメの口の周りには周囲の電場を感じ取れる器官があって、この感覚器により獲物を捕らえるそうです。魚の体と海水ではイオン濃度が違うため、魚は周囲に弱い電場を作り出しています。サメは獲物までの距離が1メートル以内に近づくと、その獲物の出す電場をもとにその位置を把握し食らいつくそうです。
なぜ視覚を使わないのかと思いましたが、1メートル以上近づくとサメの眼と口の構造上、獲物の位置が見えにくくなるか、全く見えなくなるのでしょう。いろんな感覚器が存在するのですね。
「もし人類が消えたら地球は？」がこの号では最も面白かったです。Scientific Americanの記者がアリゾナ大学のワイズマン准教授（"The World without Us"の著者。 邦訳は来週発売予定）にインタビューして作成された記事です。人類消滅から7日で原子炉の炉心融解が起こり、5年後には雷による火災でニューヨークの大部分が燃え尽きるかもしれないそうです。
人類がいなくなったあとの勝ち組は、ビルや電線にぶつからなくなった鳥類、駆除されることがなくなった蚊、繁殖力の旺盛な樹木だそうです。また、負け組は、人類の出すゴミがなくなっために飢え死にするネズミ、冬を生き延びるための暖房が無くなったゴキブリなどだそうです。
10万年後にようやく二酸化炭素濃度が産業革命以前のレベルに戻り、プラスチックの一部は数十万年たってもそのままかもしれないそうです。ワイズマン准教授によれば人類がいなくなったあとを想定することで、環境問題について別の視点から考察できるかもしれないとのことです。
原子炉というのは常にメンテナンスしていないといけない代物なのですね。またネズミやゴキブリはほとんど人間の生活に依存していることもわかりました。
8月10日のサイエンスにThe Cha-Cha-Cha- Theory of Science Discoveryという記事がありました。科学的発見はCharge, Challenge, Chanceの３種類に分けられるという話です。
Charge：現象は明らかだがそれを説明する方法がわからない問題を解いた
Challenge：つじつまの合わないことをまとめて新しい理論で説明した
Chance：だれも気づかなかったことに気づき、その重要性を説いた
Chargeの一例は万有引力の法則を発見したニュートンだそうです。物が落ちるということは皆知っていましたが、２つの物体間に重力という力が働くということはニュートンがはじめて言ったことです。Challengeの例にはアインシュタインによる特殊相対性理論、Chanceの例にはパスツールによる嫌気性細菌の発見などがあげられています。
また、多くの重要な科学的問題はひとつの発見によって解決されたわけではないそうです。重要な科学的発見をするためには、多くの独創的な発見と問題を解決するまで固執し続ける姿勢が要求されるといいます。例えば、ニュートンは万有引力の法則を完成させるに先立ってまず運動の法則をプリンキピアにまとめました。
そして、大きな発見のためには心構え (prepared mind）が必要だそうです。その心構えとは、問題に対する好奇心と、問題に関するたくさんの知識のことだそうです。
意識の問題は、意識そのものはだれにとっても最も身近なものなので、Chargeに分類されるのでしょうか。とはいえ、その問題を解くための基盤となるだろう脳に関する理論はまだ未整理な状態なので、Challengeに分類される研究も不可欠でしょう。さらに今ある知見だけからより良い脳の理論を構築しようとしても部品が足りなくなるでしょうから、Chanceに分類される研究も必要になると思います。
Charge：現象は明らかだがそれを説明する方法がわからない問題を解いた
Challenge：つじつまの合わないことをまとめて新しい理論で説明した
Chance：だれも気づかなかったことに気づき、その重要性を説いた
Chargeの一例は万有引力の法則を発見したニュートンだそうです。物が落ちるということは皆知っていましたが、２つの物体間に重力という力が働くということはニュートンがはじめて言ったことです。Challengeの例にはアインシュタインによる特殊相対性理論、Chanceの例にはパスツールによる嫌気性細菌の発見などがあげられています。
また、多くの重要な科学的問題はひとつの発見によって解決されたわけではないそうです。重要な科学的発見をするためには、多くの独創的な発見と問題を解決するまで固執し続ける姿勢が要求されるといいます。例えば、ニュートンは万有引力の法則を完成させるに先立ってまず運動の法則をプリンキピアにまとめました。
そして、大きな発見のためには心構え (prepared mind）が必要だそうです。その心構えとは、問題に対する好奇心と、問題に関するたくさんの知識のことだそうです。
意識の問題は、意識そのものはだれにとっても最も身近なものなので、Chargeに分類されるのでしょうか。とはいえ、その問題を解くための基盤となるだろう脳に関する理論はまだ未整理な状態なので、Challengeに分類される研究も不可欠でしょう。さらに今ある知見だけからより良い脳の理論を構築しようとしても部品が足りなくなるでしょうから、Chanceに分類される研究も必要になると思います。
