こんにちは。今日は通勤しながら、最近AIを使っていて感じることを話してみようと思います。少し前に、私がメインで使っているClaudeの最上位モデル(Fable)が一時使えなくなっていた時期がありました。その間、Sonnetを使うと「うーん」と思うことがあり、Opusを使っても「あれ、こんなもんだっけ……」と思うことがあり。Fableが復帰したときは「これで仕事の効率がまた良くなる、帰ってきて良かった」と思ったんです。ところが、しばらく使っていると、それでもやはり思うことがある。今日はその「思うこと」の正体について、歩きながら考えてみます。

AIとの出会いは、人間関係に似ている

この数年のAIと私の関係を振り返ると、なんだか人間関係に似ているなと思うところがあります。

最初の第一印象は、めちゃくちゃ良かったんですよ。こんなことができるんだ、すごいものが出てきた、このペースで性能が上がっていったら、本当に世界が変わってしまうんじゃないか。そういう高揚感がありました。人間関係でも、第一印象が良いと、その人ともっと話したい、関係を深めたいと思いますよね。

でも、いわゆるハネムーン期は永遠には続きません。どんなに魅力的な人でも、付き合いが深まるにつれて、色々と気になるところが出てくる。AIも同じで、第一印象は最高だったんだけど、使い込むほどに気になる点が見えてきた。冒頭のモデル遍歴の話も、要するに「性能の差」に敏感になっている自分がいるということです。そして世の中の期待も、基本的にはこの軸の上にあります。つまり、今のAIの限界は性能の限界であり、性能が上がれば解決していく、という見方です。

性能が上がっても消えない限界

ところが最近、私が引っかかっているのは、性能とは別の次元の話です。

それは、AIが責任を取れないということ。確かに能力は非常に高い。でも、最終の成果物、アウトプットに対して責任を取る存在ではないから、そこは依然として人間がやらなければならない。そして、責任を取るためにレビューし、確認するという作業は、作業量としても認知的な負荷としても、非常に重いものです。

特にそれを感じるのが、最近のAIをエージェントとして使う場面です。PCの権限を渡して、ファイルの書き換えや削除・作成を許して作業してもらう。すると、頼んだこと自体はこなしてくれるんですが、変えなくても良い場所を勝手に変えていたりする。こうなってくると、「何をしでかしたのか信頼できなくて」チェックする量が膨大になるんですよね。結果、「これ、自分でやった方が早いのでは?」と思ってしまうこともしばしばです。

つまり、AIの性能は確かに上がったのだけど、ボトルネックは「AIに何ができるか」から「どのように人間が検証するか」に移っただけで、消えてはいない。もしAIが責任を取る主体になりえないのだとしたら、このまま性能が上がり続けたとしても、結局人間の確認作業がボトルネックになって期待されていたような大きな社会変革にはつながらないかもしれない。そんな気がしています。

責任の壁は、性能ではなく「認識」の問題

ただ、ここでもう一歩考えてみたいんです。「AIは責任を取れない」というのは、本当にAIの技術的な限界なのでしょうか。

よく考えると、責任を取れる主体としてAIを認めるかどうかは、性能の問題ではなく、我々人間側の認識の問題ですよね。今はAIを道具として見ているから、責任を問わないのは当然です。道具に責任は問えない。意思決定や責任までAIに任せたら、暴走するんじゃないか、人間の意思とは違うことをし始めるんじゃないか。そんな感覚が、どこかにあるのかもしれません。

ここで人間関係の比喩に戻ると、私たちは信頼して仕事を任せた相手の成果物を、全件レビューしたりはしません。相手を責任主体として認めるということは、検証を省略できる関係になるということでもあります。AIとの間にそういう関係が成立するかどうかは、性能曲線の延長線上にはない、別の変数なのだと思います。

そして私は、この認識は変わるんじゃないかと実は思っています。しかも、そこには文化差があるんじゃないかという気もしている。日本だと、ドラえもんを見たときに感じる感覚ってありますよね。猫型ロボットですが、私たちはドラえもんを、のび太に対して一定の責任を取る主体として、ごく自然に見ているように思うわけです。AIがより人間の社会に入り込み、ロボットのように身体を持つようになり、さらにそのAIの一回性や個性のようなものを認めるようになったとき、責任を持つ主体として認識される日が来るのではないか。そんな仮説が浮かんでいます。

まとめ:認識の変化を観察するという仕事

というわけで、今日は「AIの限界は、AIの性能が決めるのか?」という問いを、歩きながら考えてみました。性能の限界はいずれ技術が超えていくかもしれない。でも、責任という壁は、技術ではなく私たちの認識の側にある。だとすると、この先本当に面白いのは、人々のAIに対する認識がどのように変化していくかを観察し、その方向性を予測することなんじゃないかと思います。これは技術予測ではなく、人の心と文化の研究です。私自身の研究テーマとしても、追いかけていきたいと思っています。

みなさんは、AIに「責任を任せられる」と感じる日が来ると思いますか?この記事が少しでも面白い・役に立ったと思ったら、ぜひいいねやフォローをしてくれると励みになります。

最後まで読んでくださり、ありがとうございます。また次回の「歩きながら考える」でお会いしましょう!