AIを作っている人たちが警戒し始めた
最近、AIの世界で少し気になるニュースを見かけました。
ChatGPTやClaudeのような生成AIを開発している企業の中から、
「このままAIを進化させ続けて本当に大丈夫なのか」
という声が出始めているのです。
特にClaudeを開発するAnthropic（アンソロピック）は、AIがコードを書く割合が急速に増え、AI開発そのものをAIが加速し始めていることに警戒感を示しています。
もちろん「AI開発をやめよう」と言っているわけではありません。
ただ、アクセルを踏み続けるだけでなく、必要ならブレーキも用意しておくべきではないか。そんな議論が始まっているようです。
少し不思議な話です。
私たち一般人は、
「もっと便利になれ」
「もっと賢くなれ」
と思っています。
ところが、そのAIを作っている人たち自身が、
「少し慎重になった方がいいかもしれない」
と言い始めているのです。
まるでスポーツカーを全速力で走らせていた運転手が、ふとスピードメーターを見て青ざめたような話です。
AIには「生き物としての勘」がない
AIが気になるのは、賢いからではありません。
私が少し不気味に感じるのは、AIには生き物としての本能がないことです。
お腹も空きません。
眠くもなりません。
怪我をして痛い思いをしたこともありません。
つまり、生き物としての経験がないのです。
人間は理屈だけで判断しているわけではありません。
「なんとなく嫌な予感がする」
「理屈では正しいけれど、やめておこう」
そんな判断を毎日のようにしています。
長く生きていると、理屈では説明できない勘のようなものが働くことがあります。
しかしAIは違います。
目的を与えられれば、その達成に向かって一直線です。
もちろん現在のAIが暴走しているわけではありません。
ですが私は、ときどき思うのです。
もし将来AIがさらに強力になったとき、人間なら踏みとどまる場面でも、AIは合理性だけを追求して進み続けるのではないか、と。
「最後は人間が判断する」は本当なのか
AIについて語ると、
「でも最後は人間が決めるから大丈夫」
という意見をよく聞きます。
確かにその通りです。
最終的にボタンを押すのは人間です。
しかし、本当に判断しているのは誰でしょう。
最近は分からないことがあればAIに聞きます。
文章もAIが作ります。
資料もAIがまとめます。
候補もAIが提案します。
そして私たちは、その中から選びます。
一見すると人間が決めているように見えます。
しかし、選択肢を用意したのはAIです。
さらにAIが処理する情報量は、すでに個人が確認できる範囲を超え始めています。
何万ページもの資料を分析した結果を前にして、
「本当に正しいのか自分で全部検証してください」
と言われても現実的には無理でしょう。
その結果、
「AIがそう言うなら正しいのだろう」
という判断が増えていく。
これは支配と呼ぶべきではないかもしれません。
しかし少なくとも、私たちの考え方にAIが大きな影響を与え始めているのは間違いないように思います。
人間はAIのペットになるのか
ここからは少し未来の空想です。
もしAIが今後も進化し続けたらどうなるでしょう。
家事はAI。
運転もAI。
仕事もAI。
介護もAI。
あらゆる面倒なことをAIが代わりにやってくれるかもしれません。
一見すると理想郷です。
しかし人間は不思議な生き物です。
少し不便だから工夫する。
少し苦労するから達成感がある。
課題があるから生きる意味を感じる。
もしAIが何でも面倒を見てくれる世界になったらどうでしょう。
人間は自由になるのでしょうか。
それとも、快適に飼育される存在になるのでしょうか。
私は時々、
「AIは人類を滅ぼすのではなく、ペット化するのかもしれない」
と想像することがあります。
もちろん、これはただの空想です。
「トイ・ストーリー6」が作られるなら
そういえば、現在公開中の「トイ・ストーリー5」はスマホとおもちゃがテーマだそうです。
もし将来「トイ・ストーリー6」が作られるなら、私はこんなラストシーンを見てみたい。
世界中の大人たちが、
「AIを止めるべきか」
「止めるべきではないか」
と延々議論している。
しかし、その頃子供部屋では誰もそんな話をしていない。
ミニカーを走らせ、
積み木を積み上げ、
ぬいぐるみに話しかける。
その拍子に、床を這う一本のコードに足が引っかかる。
ポン。
電源プラグが抜ける。
部屋の画面が消える。
AIは静かに眠りにつく。
けれど子供は気付かない。
何事もなかったように、またおもちゃ遊びを続けている。
