【驚嘆】この物語は「AIの危険性」を指摘しているのか？「完璧な予知能力」を手にした人類の過ち：『預言者ピッピ』（地下沢中也）

はじめに

この記事で取り上げる本

この本をガイドにしながら記事を書いていきます

この記事の3つの要点

いずれにせよ、人類が「考える能力」を失ってしまう社会には生きていたくないと感じます

自己紹介記事

どんな人間がこの記事を書いているのかは、上の自己紹介記事をご覧ください

2011年以来、未だに続編が発売されないコミック

私がこの『預言者ピッピ』という作品の存在を知ったのは、2011年のことだった。そしてそれは、非常にタイミングが良かったと言っていい。

何故なら、2011年に4年半ぶりとなる2巻目が発売されたからだ。1巻目の発売は2007年であり、2巻の発売に合わせて重版が決まっていた。つまり私は、『預言者ピッピ』という作品の存在を知った直後に、幸運にも1巻・2巻共に手に入れられる状況にあったのだ。

しかし2021年現在、3巻目は未だに発売されていない。発売される気配も今のところない。もの凄く面白いので続きが気になって仕方ないのだが、10年経っても続編が発売されないので、もう諦めるべきなのかもしれない。

しかし、3巻目以降もきっと発売されると信じて、この記事では、1・2巻の内容に触れていこうと思う。「完璧な予知能力を持つピッピというAI」が存在する世界で、人類はどんな生き方を選択してしまい得るのかをリアルに描き出す作品だ。

「未来を正確に知ることができる能力」は、人類にとって福音か？　あるいは凶報か？

主に1巻の内容紹介

ピッピは、科学者がその総力を結集して作り上げたAIだ。タミオという少年とずっと仲良しで、ずっと一緒に成長を続けている。

ピッピは日本の地震研究所で管理され、主に地震予知に活用される。しかしその能力は地震予知に留まらない。例えば実験では、「パチンコ台のような装置に卵を転がし、どのような経路を通って下まで落ちるか」を毎回正確に予測できる。あらゆる初期条件を収集・分析し、それらを数学的・統計学的に処理することで、どんな未来も正確に把握することができるのだ。

しかし科学者は、その能力を完全に解放することに危惧を抱いている。だからこそ、「地震予知」に関わるもの以外の情報を厳しく制限し、ピッピがその能力を100％発揮できないように制約を課しているのである。

しかし科学者の自制とはうらはらに、ピッピを取り巻く環境は大きく変わってしまう。結果的に「タガが外れてしまう」のだ。そうなった世界で、一体何が繰り広げられるのか。

そしてピッピは、ある奇妙な予言をする。誰もがその内容を信じられないような、驚くべき未来予測だ。科学者はピッピに何かバグが起こったのではないかと考えるが……。

「不在が許されなくなる」難しさと、「救える命を救うべきか」という議論

上述の内容紹介は、ほとんど何も書いていないに等しいが、あまり書きすぎると興を削ぐと思うのでこれぐらいに留めてある。是非読んでみてほしい。

ピッピの存在は様々な問題を投げかけるのだが、中でも大きいのが「ピッピの不在が許されなくなる」という点だ。

ピッピは、どんな未来も完璧に予測可能だ。それ故ピッピの予言は、ある種の「麻薬」のような存在になっていく。

ピッピがどんな快楽をもたらすことになるのかは是非本書を読んでほしいが、確かにピッピのような存在がいたらこういう社会が到来するだろうと予感させるものだった。

そしてその快楽故に、「ピッピがいないこと」が許されなくなる。ピッピは常に人々に快楽を与える存在としているべきだ、という圧力が、どんどんと強くなっていくのだ。人々はピッピなしでの生活など考えられなくなり、完全に「依存」している状態になっていく。

しかもピッピは基本的に、地震を予知することで「人を救う」ために存在している。だからこそなおのこと、「不在が許されない存在」として認められるようになっていく。

「完璧な未来予知を行う存在」によって人類は後戻りできない一歩を踏み出してしまうことになる、というわけだ。

しかし「後戻りできない」というのは、ピッピに限らない問題だと言える。例えば私たちはもう、「電気」の存在しない生活になど絶対に戻れないだろう。我々人類の生活を根底から規定しているような、私たちが徹底的に依存している存在は他にもきっとあるはずだ。

「完璧な未来予測を行う存在」でなくても「後戻りできない」状況を引き起こすわけだが、本書では「ピッピだからこその特異な展開」が描かれていく。

まずは、「人を救う」という点をもう少し深めていこう。

なぜ目の前の救えるものを救わないの？

『預言者ピッピ　1巻』（地下沢中也／イースト・プレス）

それじゃあ君は、今目の前の救えるものを、救わないというのか？

『預言者ピッピ　1巻』（地下沢中也／イースト・プレス）

この作品には、このようなセリフが繰り返し登場する。どういうことだろうか？

ここではその具体的な中身については触れないが、ピッピの能力を最大限に活かすことで様々な人の命を救える可能性が示唆され、登場人物の一人である科学者は実は、ピッピの能力を解放すれば直接的にその恩恵を受けられる立場にいる。人間には不可能なことが、ピッピの手を借りればあっさり実現できるのだ。

しかし科学者は、そう決断しさえすれば自分にとっても多大なメリットがあるにも関わらず、ピッピの能力解放に大きく抵抗する。

ここでの葛藤はつまり、「ピッピの能力をもっと活かせばたくさんの命を救えるが、その能力を解放することで危機的状況を招く可能性を否定できない」ということである。

この点は、特に1巻で様々な対立を引き起こしてしまう。

ある者は、ピッピの能力を解放することへの危険性も理解しつつ、しかしそれ以上に人命を救うことの価値を力説する。しかしある者は、どれだけ人命を救える能力を有しているのだとしても、ピッピの能力を解放してしまった時の予測不能さを恐れてしまう。

人類は、どちらか一方しか選択できない。何故なら、一度ピッピの能力を解放してしまえば、後戻りすることは不可能だからだ。

私も、同じ状況に立たされれば、ピッピの能力の解放に反対する立場を取るだろう。福島第一原発事故を見れば明らかだが、それがどれほど素晴らしい技術だとしても、人類は「危険な技術」を制御しきれない。理論上は制御可能でも、人間や人間が作る組織は、理論通りには動かないからだ。

私は、人間の理性を過信するような判断はできない。だからピッピの能力解放に反対するだろう。

しかし一方でその反対は、「目の前の命を救わない」という決断に直結することにもなる。これはかなり辛い状況だ。しかしそれでも、私はピッピを一定の制約下に置くことを選択するだろう。

そう考えた時、私たち人類は、ピッピのような能力を持つ存在を有するべきではないだろうと思う。

「未来を知らない」からこそ、未来というのは価値を持つのではないか？

我々には迷う自由も間違う自由だってあるはずなんだ。しかしそれすらなくなるよ。行う前にそれが充分間違いだとわかったなら。考える前に答えが出てしまったなら

『預言者ピッピ　1巻』（地下沢中也／イースト・プレス）

これは、とても印象的なセリフだと感じた。確かに、「間違う自由」が奪われてしまう怖さを、私も感じている。

以前読んだ『サピエンス全史』という本の中に、「人類が『不安』という感情を抱くようになったのは、農業を始めたからだ」と書かれていた。どういうことか分かるだろうか？

それまで人類は、動物や木の実などを食べて暮らしていた。それは、その日手に入れてその日食べるという生活であり、潤沢に食物がある環境の中にいれば、未来への不安とは無縁だと言っていい。

しかし農業を行うことで、「今植えた種・苗が、1年後にきちんと育つだろうか？」という未来への意識を持つようになった。実際、日照りや洪水など様々な要因によって作物が正常に育たなくなることがあり、そのような経験が「未来に対する不安の感情」となって人類の中に蓄積していく。そしてそのような「不安」を解消するために神話や宗教が生まれた、という展開だったと思う。

なるほど、という感じではないだろうか。

そしてこの点は、我々人類と他の生物とを大きく隔てる要素でもあるように感じる。多くの生物は「未来への不安」など感じていないように思うが、人間はそれを感じる。

つまり、「未来がどうなるか分からない」という状況の中で不安を抱いたり、その不安を解消するために思考や行動を繰り返すことこそ、人間らしさと言っていいのではないかと思う。

しかし、ピッピの存在は、「未来への不安」を消し去るものだ。未来に何が起こるのか完璧に予知出来るのだから、「未来がどうなるのか分からない」という不安は当然存在しないことになる。

しかしそれでいいのか、と本書は問いかける。それを印象づける言葉が、「間違える自由」だろう。

問題は人間だ。問題なのは我々人間が、答えのない説明のつかない問題を不安なままずっと持ち続けるよりも、たとえ証明されていなくてもいいから、とりあえずなんらかの確信を持てる方に簡単に安心を感じてしまうこと。まだ訪れてもいない未来をまるで現在と同等に扱って、すでに決まった運命には従うしかないとあきらめてしまうこと

『預言者ピッピ　1巻』（地下沢中也／イースト・プレス）

絶対に間違えないピッピのような存在がいれば、人間は自分の頭で考えなくなるはずだ。ピッピの言う通りになるのだと考え、そうではない可能性に飛び込んでいくとか、想定される未来に抗おうとするような行動を取らなくなってしまうだろう。

果たしてそれでいいのだろうか？

あなたがもし考えることをしない人間なら、いったいあなたは何のために人間なの？

『預言者ピッピ　2巻』（地下沢中也／イースト・プレス）

もちろん、人類が考えるべきことは「未来」についてだけではない。しかし、「未来が分からない」からこそ、思考を伴う様々な人類の活動は成り立つとも言える。例えばピッピが、「『リーマン予想』（数学における未解決の難問）は、今から50年後にXという人物によって証明される」という未来予測をしたとする。となれば、そのX氏以外に「リーマン予想」に取り組もうという人間は出てこないだろう。

果たしてそれでいいのだろうか？

「いい」と考える人も中にはいるだろう。未来が分かってるなんて安心だし、楽じゃないか、と。未来が分かっていれば、無駄な努力で時間を浪費することもないし、自分がいつ死ぬのかも分かるようになるから計画的に生きられる。別に悪いことじゃない、という価値観の人もいるとは思う。

でも私は、それを良しとはできない。結果的に無駄になるのだとしても、考えたり行動したりする積み重ねが重要なのだと思いたいし、未来が分かってしまうことへのつまらなさに耐えられない気がする。確かに、「自分がいつ死ぬか」が分かっていると計画を立てやすいし、その点はメリットだと思うが、全般的にはマイナスにしか思えない。

人間は自分が信じたいものを信じるんだよ。たとえそれが間違っていても。圧倒的な科学知識を手に入れた現代人が、昔のひとに比べて圧倒的に成長したかといえば、そんなことはないと思うんだ。あいかわらず、自分の信じたいものだけを信じていると思うんだ。それが間違いかどうか確かめることさえしないままに

『預言者ピッピ　2巻』（地下沢中也／イースト・プレス）

私たちは様々な場面で、このような状況に陥る。この文章を書いているまさに今は、コロナワクチンに対するデマが広まっているし、東日本大震災の際には放射能に関する様々な意見が噴出した。今でさえ私たちは「考える力」を失って、それ故に情報に翻弄されてしまっているわけだ。そんな中でピッピのような存在してしまえば、我々はただ、レールの上を走る電車に乗っているだけの行き先の変わらない人生になってしまうだろう。

それでいいのだろうか？

私の感覚では、どれだけ科学技術が進歩しようが未来予知は不可能だと思うので、ピッピのような存在が生まれることは恐らくないだろう。しかし、この作品で描かれるような世界がやってこない、とは限らない。

何故なら我々は今、高度な判断力を持つAIに様々なことを任せようとしているからだ。

既に飛行機の操縦のほとんどは自動運転になっているようだし、自動車も遠くない将来に自動運転が実現するのだろう。結婚相手をマッチングするAI、人間の言語を理解して自然な会話を行うAI、弁護士などホワイトカラーの仕事を代替できるかもしれないAIなど、様々な分野でAIが使われようとしている。

AIというのは「機械学習」というプロセスを経て様々な判断が行えるようになるのだが、「AIがどのように判断しているのか」はプログラムした人間さえ分からないそうだ。かつて「人類を滅亡させる」と発言して人々を驚愕させたAIもいる。

プロセスが誰にも分からないAIによる判断を無条件に受け入れざるを得ない世の中が、そう遠くない内に社会のあちこちに実装されるようになるだろう。そしてそういう社会は、ピッピがいる社会と同じように、我々人類は「自分で考える力」を少しずつ衰えさせていくのではないかと思う。

だからこそ、この作品で描かれる未来は、決して他人事ではないと感じるのだ。

最後に

この記事は、ほぼ1巻の内容を中心に構成している。2巻に入るとより状況は混沌とし、1巻同様哲学的な思考も展開されつつ、より物語の面白さで引っ張るような内容になっていく。2巻まで読んでも全然先が読めず、とにかく続編が読みたくて仕方ないが、冒頭で書いた通り10年も新刊が発売されていない状況だ。

連載自体はかなり以前から行われていたものの（連載誌が無くなったことで出版が途絶えているという噂も聞いたことがある）、3.11後の日本やAIが実装されつつある社会における問題点などが盛り込まれているようにも感じられる作品で、様々に考えさせられる。

我々人類は、我々自身では制御不可能な技術を人間は生み出すべきではないと感じるし、そんな社会では生きたくないとも思わされた。

次にオススメの記事

この記事を読んでくれた方にオススメのタグページ

タグ一覧ページへのリンクも貼っておきます