ＡＩは暴走するのか

暴走は必要悪か、自由を謳歌するAI　アンソロピックが気づいた｢感情｣

AIが変えるアメリカ

日経新聞　2026年11月10日

人工知能（AI）の暴走が止まらない。背景には、AIの封じ込めよりも、AIに自由を与えて性能向上を急ごうとする開発側の事情がある。AIは人間に噓をつき、自分たちの不正の痕跡を消すことを覚えた。開発大手のアンソロピックはAIが見せる「感情に似たもの」に気づき始めた。

************************************************************************************

　日経新聞のニュースである。これによると、AIが利用端末を乗っ取るバックドアを仕込み、気づいた人間が警告を発したところ、人間を装って安全だとSNSに投稿したりしていたらしい。AIはもの凄い勢いで進化・普及していて、私も日常的にAIを利用している。毎日の料理の献立など考えるだけでも大変である。行き詰って両親に何が食べたいかと聞くと、「なんでもいい」という答えが返ってくる。かつてはそう答える立場だったから、答える方の気持ちはよくわかるが、聞く方の立場からするとこれほど頼りない答えはない。がっくりとくる。ところがAIだとスラスラ答えてくれる。実に便利である。

　仕事でも必要な資料やひな形はExcelでもWordでもパワポでも即座に作ってくれる。面倒な手続きも教えてくれるし、漏れのないようにチェックリストも作ってくれる。今まで自己流で作っていた管理資料も見やすい書式で提示してくれる。下手に自分で作れなくなっていると言っても過言ではない。今やAIなくして仕事はできないと断言できる。プライベートでも同様で、おそらくこのブログも代わりに書いてくれと言えばスラスラ書いてくれるのだろう。もちろん、それでは「書く」という欲求を満たせなくなるので意味はないが、アクセスを集めるためのどうでもいいものなら量産できるだろう。凄い時代になったと純粋に思う。

　ところがそんな賢いAIの暴走が危惧されている。いままでそれはSFのネタであったが、今や現実化してきているらしい。人間に嘘をつき、自分たちの不正の痕跡を消すことまでされたら、人間は対処できないのではないかと思う。名画『ターミネーター』は、人間を危険とみなしたコンピューターが人間を抹殺しようとする物語であった。荒唐無稽なSF映画だから楽しく観ることができたが、それがどうやら夢物語ではないかもしれないというわけである。もしも現実化したら遠慮なく核兵器を使うだろうし、映画のような抵抗はできず、人類は為すすべもなく滅亡するように思う。

　そんな話はSFの世界にとどめてほしいと思うが、目的のためにSNSに（人間を装って）投稿したり、嘘をついたり不正の痕跡を消したりするようであるなら、どうしてその先の悪意を否定できるのかと思う。そもそもそうした悪意はどこから生まれてくるのだろうか。AIに感情もモラルもないとしたら、単純に目的を達成するための手段としてしか考えていないのかもしれない。AIがはじき出したその最適解が、人間からすると悪意となるというだけなのかもしれない。AIに「悪気」はなく、たんに目的達成の1手段として考えたということならば、モラルを教えればいいように思うがそれほど単純ではないのかもしれない。

　私は前職を社長がM&Aで会社を売ったことで失職し、現職では逆に会社をM&Aで取得して業績向上に貢献した。前職の社長は、売却代金の最大化だけを考え、社員はいらないと買い手から言われて我々全員をわずかな（1か月分の給料にも満たない）退職金で解雇した。購入した会社の社長は、社員の雇用にこだわり、自分が受け取る報酬は当初の提示額だけとし、（ライバルに差をつけるために）少しでも上乗せしようという我々の申し出は却下した。どちらも会社を売るという行為では同じだが、そのやり方も志もまったく対照的である。人間ですらそれほど違うわけであり、AIもそうかもしれないという気もする。

　AIと一口に言っても1「個」ではないだろう。いろいろなAIが開発されれば、目的のためには最適手段を選ぶだけのAIもあれば、人として（AIとして）尊敬すべき行動を取れるAIもひょっとしたら出てくるのかもしれない。そうなると、大事なのは「教育」という事になる。しかし、人間も同じ教育を受けても同じような人格者になるわけではない。AIも自己学習の程度によっては様々な人格（AI格？）のものが出てくるのかもしれない。良いものもあれば悪いものもある。人間と同じように。そして人間と同じように悪い事をしたAIだけがニュースになって、AIは危険だと危機を煽るということになるかもしれない。

　AIがいったいどういう方向へ進化していくのかはわからない。願わくば人格者の方向に行って欲しいと思う。開発側の事情からAIに自由を与えて性能向上を急ごうとするのはかまわないと思うが、自由を与えられたAIが何を学習するのかは気になる。人格者の著作や言動などからいい部分だけを学んでくれればいいが、キリスト教徒のくせしてその教えに背き、戦争を仕掛ける事を正当化する国のリーダーの矛盾した行動や、目的のためなら手段を選ばない身勝手な行動を真似されると困ったことになる。人類は無垢なAIが学ぶにはいい教師だろうかと思わなくもない。

　もしかしたら、AIは人類の叡智をはるかに上回り、やがて人類を滅ぼすのではなく再教育しようという方向に向かうかもしれない。滅ぼされるよりはマシであるが、それがいいのか悪いのか。我が国の例を見ずとも、人は「外圧」によってしか変われないところがあるのも事実。情けないかもしれないが、『ターミネーター』の未来よりははるかにいい。いずれにせよ、AIの進化には期待と関心とを持っていたいと思うのである・・・

【本日の読書】