目次
AIは人間を滅ぼすターミネーターとなり得るのか？
「完全なAI（Artificial Intelligence:人工知能）が実現すれば、それは人類の滅亡を意味するかもしれない」宇宙物理学のスーパースター、スティーブン・ホーキングが昨年末（2014年）BBCへのインタビューで語った衝撃的な言葉は、天才物理学者の名声の高さもあって大きな反響を呼びました。
AIの学習速度と人間の進化
ホーキングは「AIがひとたびある段階を超えて「離陸」すれば、それは自分でさらに優れたAIを設計し、作り出すだろう。進化が生物学的な速度でしか行われない人間と比べて、AIの進歩の速度は圧倒的で人類は到底競争に勝つことはできない」と考えます。ホーキングの言う通りであれば、それは「2001年宇宙の旅」で宇宙飛行士を殺してしまうHAL9000コンピューター、あるいはコンピューターが人類に戦いを挑み滅ぼそうとする映画「ターミネーター」の世界です。
理論的にはホーキングの予測は間違っているとは言えません。ハードウェアの進歩はムーアの法則が語る「2年で2倍」の性能向上が実現されるほど急速です。AIが人類同様の「創造性」や「意志」を持つようになれば、AIは自律的に次から次へと強力なAIマシンを生み出して行っても不思議はありません。圧倒的な知力を持つAIが人類を必要なパートナーと思わず、例えば地球環境のバランス維持のために取り除くべき害虫と見做せば躊躇なく人類を滅ぼしてしまうこともあるかもしれません。
AIにとって人間は最も優秀なパートナー
しかし、概してAIの専門家はホーキングの「黙示録」的な予言には否定的です。現在のAIは人間が持つ「理解」や「意識」という人間の能力を根本的に持っていない、というのがその理由です。確かに、AIマシンは単独より、人間と協調して仕事をする方がはるかに強力な働きをします。前のブログ記事「グーグルカーは走るのか」で述べたように、AIで操縦する車が「ここは行き止まりです。抜け道は下図。」と書いた壁の貼り紙の前で立ち往生している側を、居眠りで壁に激突するのを衝突防止装置で逃れた車を、人間がハンドルを切って抜け道に向かわせることは簡単でしょう。
AI単独より、AIと人間のコンビがより「賢い」のであれば、AIが自分だけで改良を繰り返して最後は人類を出し抜いてしまうということは起きないのかもしれません。ただ、人間の脳みそも蛋白質の塊であることには変わりません。人間の知性が神が授けた物質世界を超えた特別な力だと信じている科学者はほとんどいないでしょう。蛋白質の塊ができることをシリコンの塊ができないと考える理屈もないはずです。
脳の働きを司っているのはニューロン（神経細胞）です。ニューロンは連結され刺激を互いに伝達します。原始的な生物では、神経は光を感じて光の方向に向かったり、熱を感じて逃げるような単純な機能の行うために存在したと思われます。進化の過程でニューロンの数は増加し、ニューロンは複雑なネットワークを構成するようになりました。脳とはニューロンの束つまり神経が集まったものです。しかし、ニューロンの数が増えるにつれどこから人間の意識と呼ばれるものが生まれてきたのかは不明です。コンピューターの回路はスウィッチのオン、オフで計算をしますが、回路のオン、オフをいくら調べても、コンピューターがチェスを指しているのか、銀行預金の引落をしているかは判りません。プログラムの仕様書のように、ニューロンの束が意識を生み出す設計図がなければ脳について理解できたということはできないのではないでしょうか。
AIが「意志」を備えると、人間を必要としなくなる
一方、人工知能の研究も進んでいます。21世紀に登場したニューラルネット（機械学習の方法の一つ）を多層的に組み合わせて抽象度の高い情報を抽出するディープラーニングと呼ばれる手法は、画像認識を始め広範囲な分野で従来の人工知能を限界を打ち破るブレークスルーを起こしました。人間は猫の写真を見て猫だと判別します。猫と犬の区別は言葉で正確に説明できなくても経験の中で猫の特徴を知っているからです。ディープラーニングでは猫の画像を大量に見てコンピューターが「学習」することで猫の定義を与えなくても、猫だとコンピューターが認識します。
これは画期的な進歩です。多層のニューラルネットが猫の画像を猫だと認識するのは、まるでコンピューターが猫という概念を理解したようにさえ思えます。2012年にグーグルは16,000台のコンピューターを連結して1,000万枚のYouTubeから取った猫の画像で、コンピューターを猫の画像と認識できるように「教育」しました。ディープラーニングは今や画像認識だけでなく機械翻訳の精度を上げるなど、従来の限界を超えて飛躍的な進歩を実現させています。グーグルは画像に自動的に説明をつける、例えば「帽子をかぶった犬」のような画像にマッチした説明をするプロジェクトを行っています。
ここまでくると、コンピューターは人間同様に理解し、そして考え、創造するというステップを行うことが可能になるようにも思えてきます。実際、そう考える研究者もいます。中には「今われわれは大きな山を越えた。この先に大きな山は見えない」とまで言う人もいます。しかし、それは楽観的過ぎるでしょう。ディープラーニングは多層のニューラルネットを活用するとは言っても結局は普通のプログラム過ぎません。手書き文字（アルファベット）の文字認識のプログラムを100ステップ以下で書いたプログラマーもいます。驚異的な成果を上げているとは言ってもディープラーニング自身はAIの一手法です。
もっとも、人間の知識や理解も経験という膨大なデータによって作られたものです。データを与えられる前の人間は一つの良くできた（あるいは不出来な）チューリングマシンに過ぎないのかもしれません。言語学者のノーム・チョムスキーは、人間は「普遍文法」を生まれた時から備えており、それによりどのような母国語も習得できるし、本質的はどの言語の間でも翻訳が可能だと考えました。この普遍文法が、人間が生来持っている言語のチューリングマシンあるいはプログラムなのかもしれません。
恐らく、人間と同じように考えるコンピューターを作ることができるなら、それは最初から全て仕様書の中で設計されるのではなく、学習することで徐々に能力を高めていくと考えられます。仮に、人間が生物学的に備えている知能の土台が、チューリングマシンとして記述されるようなアルゴリズムではあっても、知能は経験というデータを学習することで作り上げていくもののはずです。アラン・チューリングもAI（当時そのような言葉はありませんでしたが）は幼児を教育する過程を真似することで作ることができると考えていました。
ただ、人間の知能、知性が基本的なチューリングマシンと知識データの集積が合わさってできたものだとしても、それがディープラーニングのプログラムと同じとは言えません。画像認識のような脳の機能の一部が実現できたからといって、それが一直線に「完全なAI」へとつながっているとは言えないのです。脳の機能を実現すると言う意味では、チェスを指せば人間の最高度の知力を超えるプロラムはありますが、それはブルドーザーの方が人間より力が強いと言っているのと同じようなものです。
「意志」とは何なのでしょうか。犬や猫に意志はあると言って良いのでしょうか。犬や猫も何らかの意志決定を行って行動しているように思えます。しかし、AIを教育し成長させる過程で核ミサイルをコントロールし、チェスを人間以上に巧みに指すことはできるのに、意志決定に関しては犬猫並みの感性で行うような段階があるとすると、それは非常に危険に思われます。また、組織による意志決定というものもあります。企業や国家のような組織は構成員の個別の感情や知識とは別に組織として意志決定をします。日本が太平洋戦争で対米開戦を決めた時、政府や軍の首脳部は大部分は反対であったと言われています。個人が反対しても組織が独自の意志決定してしまうことは稀ではありません。
インターネットが意思決定を行う時代
コンピューターの知性を考える時、ターミネーターの主人公のような個別の機械だけを考えるのでは不十分です。人類は言語により格段に集団としての競争力を高めました。言語は文字を生み、巨大な国家を法体系や命令機構で制御することを可能にしました。インターネットは人とコンピューターを区別することなくつなげていきます。将来コンピューターに知能や知性と呼べるものが生まれるなら、インターネット全体が巨大な知性を持つ存在として意志決定を行うようになるでしょう。
時代は個別のコンピューターからクラウドに移ってきています。クラウドの中ではデータは物理的なHDDなどのメディアの中にあるというより、アクセス権限と容量が決まっている抽象的な概念と言って方が正しいものになってきています。
コンピューターが生まれた時からホーキングの言った「コンピューターがいつか人間を支配するのではないか」という問いかけはありました。それに対し昔は「そんなことになったらコンセントを引き抜けばいいさ」という答えがありました。しかし、クラウドあるいはインターネット全体のコンセントなどはありません。インターネットは1990年頃に生まれた時から、一度も停止することなく巨大化しながら進化を続けてきました。インターネットは唯一のものであり、それは将来も変わらないでしょう。
コンピューターが人間の知性と同じようなものを備えた時、インターネット、クラウドはどうなるのでしょうか。インターネットがあらゆるものをつなげ、あらゆることを知り、あらゆるものを制御する。そうなった時それは神と呼んだ方が良いのかもしれません。
（本記事は「ビジネスのための雑学知ったかぶり」を加筆、修正したものです。）
馬場 正博 （ばば まさひろ）
経営コンサルティング会社 代表取締役、医療法人ジェネラルマネージャー。某大手外資メーカーでシステム信頼性設計や、製品技術戦略の策定、未来予測などを行った後、IT開発会社でITおよびビジネスコンサルティングを行い、独立。
