今年9月、米国のAI開発企業「アンソロピック」の元研究者、ジェイソン・コクソン氏が「AIが人類を滅亡させる可能性がある」と警告を発し、世界に波紋を広げた。
【写真を見る】「何年も残されていない」激化するAI開発競争…“減速”は可能？人間の“主導権維持”は「未解決」哲学者が鳴らす警鐘【第3回】
AIは一体どうやって人類を滅亡させるというのか。
BS-TBS「報道1930」では、“世界の知性”とも称される３人の専門家にインタビュー取材を敢行した。
本記事ではその中から、スウェーデン出身で「現代最高の知性」と呼ばれ、2014年の著書「スーパーインテリジェンス」でいち早くAIによる「人類滅亡リスク」に警鐘を鳴らした哲学者、ニック・ボストロム氏のインタビュー全文を全3回にわたって公開する。
激化する開発競争 “減速”は可能か？
Q：AI開発者たちがAI開発のペースを遅らせるよう呼びかけるまでに、時間がかかりすぎたと思いますか？ あなたは12年前に既に警鐘を鳴らしていたので…
A：予測していたとはいえ、こうしたことが今、現実の世界で実際に起こり始めていることには本当に目をみはるものがあります。理論的には予測できていても、当時は多くの人が意見を異にしていましたし、実際に目の前で起きているのを見るというのは、別次元で痛感するものです。
最近「ペース・ザ・フロンティア（最先端の開発速度の調整）」という専門用語が使われるようになりましたが、AI能力が発展する速度を自ら規制できる能力を持つことは、いくつかのシナリオにおいて非常に価値があると思います。
現在は、非常に競争の激しい状況です。アメリカの研究所同士が競争しており、常にトップ企業が最も近い競争相手の2〜3か月先を走り、その後を多くの研究所が追う、といった状態です。
ですから、もし「AI能力の進歩」が「AIの安全性技術」を追い越して先行してしまった場合、安全性が追いつくのを待つために、ある時点で開発を意図的に減速する必要が出てくるかもしれません。しかし現時点では、トップを走る開発者が単独でどれだけ減速できるかには限界があります。1か月、あるいは2か月なら遅らせることはできるでしょう。しかしそれ以上となると、競争相手に主導権を渡してしまうことになります。
仮に、トップのAI企業が完全な正当性を持ち、人類にとって最善のことだけをしようと考えているとします。その場合でも、「自分たちが2〜3か月以上開発を遅らせれば、結果的に、自分たちほど倫理的に厳格でない別の誰かによって強力なAIが開発されてしまう」と考えるでしょう。それでは、本当に状況が良くなるのでしょうか。むしろ、少し悪化するように思えます。
ですから、数か月以上の開発減速を可能にするには、最先端のAI研究所（フロンティア研究所）同士で協調し、減速のタイミングを合わせる仕組みが必要になります。あるいは、AIの能力を高めるのには役立つものの、システムのアライメントをより難しくしてしまう「特定の技術」を使うことを、業界全体で控えるといったことも必要になるでしょう。それには商業的なコストが伴うかもしれませんが、全員が同じルールに従っているのであれば問題ありません。
それによって、可能な減速期間を2〜3か月から1年ほどに延ばせる可能性があります。もしそれ以上の期間減速したいのであれば、今度はアメリカと中国の間でも何らかの協調が必要になります。それはより困難な課題です。
現時点では、このアライメント問題が実際にどれほど難しいものになるのか、まだよく分かっていません。願わくば、必要な要素が自然とうまく組み合わさり、最大のスピードで突き進めるのが理想ですが、私たちが今知る限りでは、ある時点で「すべてを再確認するために追加の時間が必要になる可能性」も十分にあります。
安全性について、もう一段踏み込んで取り組むためです。できるだけ迅速にすべてのつまみを一気に最大まで上げるのではなく、もう少し段階的に進め、何が起こるのかを見て、注意深く観察し、それから少し能力を加えていく。そうしたやり方の方が、うまくいく可能性を高められるように思います。ただ、そのためには、いずれ最先端の開発速度を協力して調整（ペース・ザ・フロンティア）する必要が出てくるかもしれません。
「もう何年も残されていない」迫り来る“知能爆発”
Q：では、もっとずっと早い段階、例えば何年も前に、減速を呼びかける必要があったと思いますか？
A：そうですね…減速が必要になる時期まで、もう何年も残されているわけではないかもしれません。現時点で、研究所の内部に存在する最先端のモデルは、一般の人々が利用できるものよりもずっと先を行っているということも忘れてはなりません。
そして、すでに一部の研究所では「再帰的自己改善（RSI：AIが自ら自身を改良していくこと）」が実現し始めています。つまり、AIが「より高度な次世代のAIシステム」の開発に貢献できるほど、高性能になってきているということです。
これは小さな形では2〜3年ほど前から起きており、AIによるコーディング支援が非常に役立つようになっています。AI研究の多くは当然ながらプログラミングを伴うからです。さらに現在のAIは、新しい実験を設計したり、新しい訓練の結果を評価したりといった、他の研究業務もできるようになっています。
そのループが完全に閉じ始めると（＝AI開発の全工程をAI自身が行えるようになると）、次のフェーズに到達します。その段階になれば、AIを少し改善するたびに、そのAIは「次世代のAIを生み出す研究能力」も高まることになります。いくつかのシナリオでは、そこから能力が急速に向上し、一種の「知能爆発」が加速する可能性があります。
私たちがその局面に直面した際、すぐさま、あるいは政府などの緊急の通知によって、最先端の開発ペースを調整できることが、極めて重要になるかもしれません。ただ、それを実行するための仕組みは、事前に整えておく必要があります。
例えば、ある研究所が単独で開発を一時停止するのであれば、事前準備はほぼ必要ありません。自分たちで訓練を減速させると決めるだけです。しかし、研究所同士の協調には、例えば政府が独占禁止法（反トラスト法）の適用を除外するなどの特例措置が必要になるかもしれません。現時点では、複数の研究所が開発を減速させるために協定を結ぶこと自体が、カルテルとして違法になる可能性があるからです。公共の安全を高める目的であるならば、政府は法の執行を適用除外にする必要があります。
また、こうしたシステムを監視し、評価し、安全基準を満たしているかを確認できる政府の規制当局などを設けたいのであれば、その法整備や組織作りには時間がかかります。
そしてもちろん、アメリカと中国の間の合意には、交渉に長い時間がかかるでしょう。おそらく非常に優れた検証システムも必要になります。アメリカであれ中国であれ、「相手が合意を破らない」という確信が持てない取り決めに同意する可能性は低いからです。
お互いが相手側を監視でき、合意内容が守られていると高い確信を持てるような仕組みを考える必要があります。そうしたものを整備するには時間がかかりますし、「これが本当に有用なことなのだ」という合意形成をするのにも時間がかかります。一瞬で簡単に実現できるようなものではありません。
ですから、現在専門家たちから開発減速の呼びかけが行われている理由の一つは、いわば「そのための土台作り」であり、少なくとも「いつかこの種の国際協調が必要になるかもしれない」という理解を社会に構築するためなのだと思います。
人間が“主導権維持”…「哲学」の役割とは
Q：人間はますます強力になるAIと共存しつつも、どうすれば主導権を維持できるのでしょうか？ そして、そのために哲学はどのような役割を果たせるのでしょうか？
A：まず最後の部分から答えましょう。私にとって哲学というものは、人間の他の推論領域と完全に切り離された知的取り組みではありません。私はAIや哲学だけでなく、理論物理学や計算論的神経科学についても専門知識を持っていますが、私にとってそれらはある意味で重なり合う領域なのです。
哲学は、まだ科学的理論が定まっていない「探求の初期段階」において特に役立つと考えています。重要だと考えている現象や難問が存在する一方で、それを具体的にどのように究明すればいいのかがまだ明確になっていない段階です。「何が正しい問いなのか」「どの概念枠組みが適切なのか」が定まっていない時、哲学的な思考アプローチは、事前に問題を明確化する上で大いに役立ちます。そして最終的には、その明確化された問題を専門的な科学に引き継ぐことができるのが理想です。
歴史的に見ても、現在では科学として独立しているさまざまな分野が、もともとは哲学の一部でした。例えば、物理学は「自然哲学」の一部でしたし、心理学も人間の心や感情について哲学者たちが考えるところから始まりました。そういう意味で、哲学というのは科学の一種の「子宮（母体）」のようなものだと思います。哲学からさまざまなものが生まれていく。ただ、できれば哲学の中だけで終わってほしくはないですね。
そして現在でも、まだその「哲学的な初期段階」にある問いが多く存在します。単純な解決策が分かっていないものの、結論を急がずに懸命に取り組まなければならない問いです。
AIアライメントは、以前は哲学的な側面が強かったのですが、今ではより技術的な研究分野へと移行しつつあります。深く専門化された研究文献があり、実験が行われ、人々が数式を書いています。
しかし、AIの課題にはほかにもいくつかの側面があります。例えば「デジタル・マインドの倫理」です。これは本当に重要だと思います。アライメント問題や統制の問題と並んで、倫理の問題があるのです。
最終的に物事がうまく進めば、私たちは、さまざまな規模や能力を持つ「非常に多くのデジタル・マインド（精神性や認知機能を持つAI）」と、この未来を共有することになります。その中には、意識を持つものもいるかもしれません。あるいは、人間と同じように道徳的に配慮されるべき存在、つまり「モラル・ペイシェント（道徳的配慮の対象）」となるような属性を持つものもいるかもしれません。
ですから最終的には、未来は人間にとって良いものである以上に、私たちが作り出している「感覚や意識を持つデジタル・マインド」にとっても良い未来である必要があります。私なら、そこに人間以外の動物も含めます。
ただ、こうしたAIを「適切に扱う」とは具体的にどういうことなのか。それは深く難しい問いです。たとえAIに道徳的な配慮を与えるべきだと考えたとしても、それは「人間とまったく同じように扱うべきだ」という意味ではありません。AIは人間とは非常に異なるニーズや、非常に異なる性質を持っている可能性があるからです。
例えば人間については、「生殖の自由」という道徳的原則を持つことは理にかなっていると誰もが考えます。子どもを持つかどうか、何人持つかは個人の選択です。一方で、親が子どもを養えない場合には社会が介入し、セーフティーネットを提供するという規範があるのも良いことだと考えています。これらは人間の場合、非常に理にかなっています。
しかしデジタル・マインドの場合、自分自身を恣意的にコピーできるシステムがあったとしたら、たった30分の間に100万人の「子ども」を作ることもできるかもしれません。そうなると、「生殖の自由」と「社会が全員を養う」という2つの原則を同時に維持することは不可能になります。そこでは極めて急速に、資源が枯渇するマルサス的な状況が生じるからです。
また、人間にとって非常に悪いことと考えられている「死」も、こうしたAIシステムにとっては異なる意味を持つ可能性があります。AIは一時停止でき、再起動することもできます。私たちはそれをどう捉えるべきでしょうか。それは人間の死ほど重大ではないように思えるかもしれません。また、同じシステムのコピーが多数存在するかもしれません。そのうちのいくつかを停止したとしても、ある意味ではそのシステムは存続している一方で、別の意味では損なわれたとも言えます。
ですから、人間と私たちが作り出しているデジタル・マインドとの間で、調和の取れた共存を実現しようとするのであれば、私たちはこうした非常に根本的な問題に数多く取り組んでいかなければならないのです。
これはほんの一例です。この先には、非常に難しい哲学的な選択を迫られる分野がほかにもたくさんあります。
もう一つの例を挙げると、もし私たちがこのテクノロジーをうまく制御し、技術的なアライメント問題を解決できたとしたら、最終的に「このテクノロジーを使って、どのような未来を築きたいのか」という問いに行き着きます。AIによって、現在私たち人間の選択肢を制限している非常に多くの制約が取り除かれることになります。
私たちは、もはや働かなくてもよくなるでしょう。さまざまなことに使える自由な時間をたくさん手に入れます。私たちの基本的な生物学的制約もそうです。例えば、人間は数十年しか生きられず、老いて死にますが、デジタル・マインドの支援によってアンチエイジング技術が発明され、その制約を取り除くことができるかもしれません。私たちの認知能力や感情能力にも、現在は基本的な限界があります。しかし、人間が自分自身をさまざまな形でアップグレードしたり変えたりできる、高度な神経技術（ニューロテクノロジー）の登場も想像できます。
もし人間の存在を形作っているこうした「基本特性」の一部を変えることができるようになるのなら、はるかに広大な可能性の中で「何が本当に素晴らしい人間の存在（あり方）を構成するのか」という、価値観に関する深く哲学的な問いが出てきます。
現在の私たちの存在の中で価値あるものをどうやって維持しつつ、新たな可能性を探求し、その恩恵を活用できるのか。それを短絡的あるいは表面的ではなく、賢明な方法で行うためには、深い哲学的考察が必要不可欠になると思います。
“主導権維持”は「未解決」 だからこそ必要なこと
Q：では、改めて人間が主導権を維持するためにはどうすればいいのでしょうか？
A：それは分かりません！つまり現時点では、これは未解決の研究課題なのです。
それには明らかに、アライメント問題に関する大変高度で技術的な研究が必要になるでしょう。また、この研究を行う「時間」を稼ぐために、社会的な統制や規制の取り組みによって支援する必要があるかもしれません。
だからこそ、「最先端の開発速度を調整する（ペース・ザ・フロンティア）」という考えが出てくるわけで、必要であれば、それがAI能力の発展速度を少し遅らせるための手段となります。それによって必要な熟考や研究を行う猶予が生まれ、私たちが構築するシステムの働きを正確に理解し、確実に安全かつ人間の価値観に合致（アライメント）されるようにするのです。
・10歳若返る？「ジャパニーズウォーキング」…“1日30分”で1万歩歩くよりも効果的 道具いらずで海外で話題【Nスタ解説】
・40代から増加「脳梗塞」の初期症状は？「倒れてからじゃ遅い」早期発見のカギ「BE FAST」とは【ひるおび】
・「インフルにかかる人・かからない人の違いは？」「医師はどう予防？」インフルエンザの疑問を専門家に聞く【ひるおび】
