Life is Beautiful !! 日々是雑感　～COGITO ERGO SUM～ : ＡＩは人類を幸福にするのだろうか？

　先日、読んだ『いま世界の哲学者が考えていること』の中で、「ＡＩは人類を幸せにするのだろうか」という項目があった。興味深いテーマである。ＡＩは一部の領域では既に人間を凌駕している。チェスや碁でも既に人間に勝つＡＩが登場しているし、医療分野や自動運転ではかなりの期待がされている。お掃除ロボットなど家電にも搭載されており、我々の日常生活にＡＩは欠かせないものになっている。それなのになぜ「ＡＩは人類を幸福にするのだろうか」という疑問が付されるのであろうか。

　その疑問に対しては、根底に「ＡＩによって人間が不幸になる可能性もある」という考えがあると思う。その筆頭は映画『ターミネーター』だろう。このＳＦ映画では、近未来に進化したＡＩが、地球にとって人類は害悪をもたらすと判断し、人類抹殺を決定して実行に移すというストーリーであった。しかし、人類の抵抗にあって苦戦するＡＩは、過去にさかのぼり人類の指導者であるジョン・コナーをまだ子供のうちに抹殺しようとターミネーターを過去（映画では現在）に送り込んでくるというストーリーである。

　確かに、人類の発展によって現在は地球温暖化という問題が起こっており（これについては同書でも反対意見が紹介され議論を提示している）、人間が地球にとって有害な存在であるという意見も成立しなくもない。ＳＦ映画とは言え、ＡＩが人類を有害と判断して排除しようとしても不思議ではない。そんな事は起こりえないと断言できるかと言われると、素人の私としては「断言できないのではないか」と思うしかない。あらかじめそんな事にならないようにプログラムすればいいように思うが、シンギュラリティを超えたらどうなるかわからないのではないかと思う。

　シンギュラリティを超えると、AIが自己改善を繰り返し、人間の知能を超える、あるいは、人間の知能を超えるようなAI自身が生まれるらしい。そうなるといくら事前に人間に害をなさないようにプログラムしていても、そのプログラムをＡＩ自体が書き換えるのではないかと思う。さらにそんな書き換えができないようにプログラムしておいても、そのプログラム自体を書き換えるかもしれない。そんな歯止めを考えたとしても、その歯止め自体を越えられないようにできなければ意味はないし、人間に作れるものであればＡＩにも作れるはずであるし、結局は歯止めは機能しないように思う。

　人間には善人と悪人がいる。果たしてＡＩには善なるＡＩと悪のＡＩはできるのであろうか。できるとしたら悪のＡＩはどんな悪事をするのだろうか。そもそも悪事は人間の欲望に基づいていると思うが、ＡＩには欲望がないはずであるし（そう考えてもいいのかと考えると眠れなくなる）、そうするとＡＩが独自にどんな悪事を働けるのか疑問に思う。仮に善なるＡＩしかできないとして、その善の定義はどうなるのだろうか。「人間にとっての善」か「地球にとっての善」か、それによって「善だから安心」とは言えなくなる。

　人類と大げさに掲げなくても、ＡＩがすべて判断し、人間はそれに従うだけという世界もあり得そうに思う。しかし、それとて現在の支配者がＡＩに代わるだけと言えなくもない。我が家では妻が独裁政権を築いているので、私はその決定に同意するだけである。それがＡＩに代わったとしても何か変わるものでもない。会社の社長も側近の意見を聞いて決定している場合、側近がＡＩに代わったとしても何か変わるわけでもない。指示待ち族のサラリーマンにしてみれば指示するのが人間かＡＩかの違いだけで、「ＡＩに従っていれば責任は問われない」とすれば、何の疑問もなくＡＩの指示を受け入れるだろう。

　そんなところで何の根拠もなく思うのだが、人類を排除するようなＡＩは出現しないように思う。私の性格として楽観的なところもあるが、ＡＩは賢いので人類を滅ぼすような方向には働かないのではないかと根拠なく思う。ただ、では安心かと言うとそうではない。滅ぼす代わりに支配する方向にはいくかもしれない。支配と言っても欲望にまみれた人間の支配とは違い、人類に苦役を課す事はないが、「すべてＡＩの指示通りに生活しなさい」という形でのコントロールである。「人間の幸福はすべてＡＩが考えるので、人間はただそれに従っていれば良い」という事になったら、それは果たして幸福と言えるのだろうか。

　指示待ち族の人にとっては、誰をデートに誘い、どこのレストランに行き、どのメニューを注文し、どんな言葉を耳元でささやくのかすべてＡＩが指示してくれたら楽でいいだろう。そういう人にとってはＡＩは幸福をもたらしてくれるものと言えるだろう。指示待ち族でなくても、いつも誰かに助言を求めたり、自分で調べるにしてもネットで調べたりするのであればその手段がＡＩになるだけであり、同じであると言える。私ならsiriがもっとスムーズに人間のように回答してくれるなら、「新宿でお勧めのレストラン教えて！」など頻繁に使うだろう。ただ、さすがに耳元でささやく言葉は自分の脳みそで考えるだろうが・・・

　デートならまだしも、進路相談や結婚相談などするようになれば、それはもう支配と同じように思う。「支配」と考えれば抵抗があるが、「アシスタント」と考えれば抵抗はない。何事につけ、アシスタントに助言を求め、その通りに行動するのであれば「支配」と「アシスト」は同義になるように思う。果たしてそれは幸福なのだろうか。それは次世代の問題という気もするが、私としては自分の存命中にそういう時代が来てほしいと思う。そしてその答えを自分で出したいと思うのである・・・