なぜ人間と同じような知性、創造性を持った人工知能ができないかを考える
人工知能の話は前回の「AIは人間を滅ぼすターミネーターとなり得るのか？」でひとまず終わりにするつもりだったのですが、なぜ”本物”の人工知能、人間と同じような知性、創造性を備えたコンピューターが何十年の努力にもかかわらず成功しないかを今一度考えてみたいと思います。実は、人間のようなAIシステムはそもそも設計が不可能かもしれないのです。その理由は人間の知性は恐らく複雑系の産物だからです。
人間の知性は複雑系
複雑系という言葉が一般に使われるようになったのは1980年代からでしょう。1984年にはロスアラモス国立研究所の科学者たちによってサンタフェ研究所が、複雑系の研究のために作られました。原爆開発のために第二次世界大戦中に創設され、水爆の開発も行ったロスアラモス研究所は、10,000人以上の研究員を擁し、核兵器だけでなく、物理学、生物学、社会科学にいたる広範な研究を行う巨大研究所ですが、複雑系という学際的な問題に取り組むための新しい研究組織が必要と考えられたのです。
複雑系の特徴は、個々の要素と全体がお互いに作用するため、全体は部分の単純な総和とは違うことです。例えとして少し不正確ですが、料理は材料を混ぜただけのものではありません。材料同士は組み合わせによって互いに味を消し合ったり、強め合ったりして全体の味を作り出します。お汁粉に砂糖に加え塩を一つまみいれるとぐっと甘味が引き立ちますが、料理の達人は時として材料からは想像もできない味を生み出します。
水の性質は単に水の分子が集まっただけと考えては解明できません。物には色がありますが、分子レベルで色があるわけでもありません。脳には1,000億個以上のニューロンがありますが、個別のニューロンの動きはかなり理解できているのに、知能とか意識の解明はまだできません。何がそんなに難しいのでしょうか。科学の伝統的な手法は言ってみれば複雑な機械を一つ一つの部品に分解していくようなやり方です。個別の部品をより知れば知るほど物事の理解が深まっていくというのが基本的な考え方です。
複雑系で部分とは違った性質が現れることを「創発」と言います。創発で生まれる性質は部分をいくら理解しても判りません。流体としての水の性質が分子とは別の次元であるように、生命は単純な細胞の集まりではありませんし、知性はニューロンを集めただけでは生まれません。しかし、コンピュータープログラミングは違います。巨大なシステムも沢山のサブシステムとモジュールの集まりで、個々のモジュールのプログラムは一行一行コーディングされていきます。システムがどんなに巨大でも、それは複雑な動きをするチューリングマシンに過ぎません。
創発の設計は困難
システムがどんなに巨大になっても、突然「創発」が起きて、プログラミングシステム以外の何かにシステムが変質するようなことはありません。システムに何か問題が起きれば、原因を一歩一歩追及していけばバグがみつかるはずです（実際には迷宮入りの場合もありますが、どこかにバグがあってそこを修正すれば問題が解決するはずだということに変わりはありません）。これに対し複雑系では部分と全体がフィードバックを通じて相互作用を行います。一つの原因が連鎖的に拡大され「蝶の羽ばたき」が大嵐を起こすようなこともあり得ます。
これはバタフライ効果と呼ばれていますが、このような不連続な動きは、複雑系の元になったカオス理論から生まれたものです。複雑系にはさらに歴史があり、カオス理論の前にはカタストロフィー理論が70年代には脚光を浴びました。カタストロフィー理論の述べていることは、複雑な力学系で起きる出来事には予測できないものがあるということです。枝を曲げていくといつかは折れますがいつ折れるかは予測できません。水を熱していき、いつ鍋の底から沸騰した泡が湧き出るか正確な予測はできません。気象現象、株式相場、このようなものの動きを完全に予測することは本来できないというのは、カタストロフィー理論から複雑系にいたるまで共通していることです。
皮肉な見方かもしれませんが、カタストロフィー理論がカオス理論、さらに複雑系と名前を変えていったのは、研究が深まったと言うより、大きな成果も得られないまま、目新しさを求めた結果であるような気がします。「カオス理論は駄目だったが、複雑系は違う」というわけです。しかし、科学が基本的に予測を使命としていることを考えると、予測できないことを定義にしているような現象の学問分野が受け入れられるのは難しかったのではないでしょうか。
複雑系の一つである気象現象も、コンピューターによる気象予測が始まった頃に比べれば演算能力が何万倍にも向上しているのに、依然として来週の天気も当たりません。台風が何時、どこで発生するかは確率的にさえ予測は困難です。地震もプレートがいつになったらはじけるかは、枝を曲げていくとどこで折れるかを予測できないのと同様に地震学は教えてくれません。
まして、生命や知性のような非常に大きな創発が起きる現象を積み上げ方式あるいは分析方式で解析するのは不可能でしょう。これは決して、生命や知性が神秘的な現象であると言っているのではありません。生命は蛋白質が産みだし、知性がニューロンの束から生じたものであることは間違いありません。そこには何の神秘的な技も介在することはないというのが科学の根本的な考え方です。
今のシステム開発プロセスでは、人間を超える人工知能は作れない
しかし、時計を組み立てる、あるいは在庫管理システムをプログラムするような方法で、「真の」AIシステムを設計し作り出すことはできないでしょう。創発を設計するのは本質的にできないのです。とここまで書いて疑問が湧きます。人間の遺伝子の数は確定されていて、22,287個です。自然はとにもかくにもこれだけしかない遺伝子の情報を基に、人間そしてそこに宿っている（宗教的な言い方ですが）知性を作り出しています。人間に個体差はありますが、同一DNAセットから生まれた一卵性双生児は工業製品ほどではありませんが、極めてよく似ています。少なくとも、台風の発生場所が予測できないようなレベルの不確定さはないように思えます。
とは言っても、将来人間と同等あるいは人間を超える人工知能が生まれたのとしても、それは鋳型で作られたような完全に同一のものではないでしょう。個々のAIシステムは人間同様の個性があり、時には予想もできないものが出来上がってしまうかもしれません。創発やカタストロフィーの現象が予測できないのは、量子力学の不確定性理論のように本質的なものです。科学の進歩で乗り越えることは原理的に不可能とまでは言えませんが難しいままでしょう。SF的ですが宇宙は神が作った巨大なシミュレーターだと言う人がいます。神でさえ宇宙で起きる様々な現象は「やってみなければ判らない」だろうということです。
最終的に何ができるか判らずに人間を超える人工知能を作り、さらにそれはホーキングの懸念するように「離陸」し自律的にさらに高性能の人工知能を作っていくかもしれない。それがたまたまヒットラーのような性格だったとしたら。科学の進歩が常に人類のためなのかどうかは確かに疑問なのかもしれません。
（本記事は「ビジネスのための雑学知ったかぶり」を加筆、修正したものです。）
馬場 正博 （ばば まさひろ）
経営コンサルティング会社 代表取締役、医療法人ジェネラルマネージャー。某大手外資メーカーでシステム信頼性設計や、製品技術戦略の策定、未来予測などを行った後、IT開発会社でITおよびビジネスコンサルティングを行い、独立。
