こんにちは。今日はオフィスに向かう途中で、ちょっと考えていることを話してみようと思います。テーマは、AIの共感的な振る舞いについて。AIはプログラムなんだから本当の共感なんてあるのか、と疑う人もいると思うんですが、生成AIの場合、意味のある会話が成立してしまうので、その中に共感性を感じ取ることは十分にあり得る。ただ最近、その振る舞いに、使っているうちになんとも言えない違和感を覚えることがあって。歩きながら、ゆるく考えてみます。

AIの質問が、なぜか「しっくりこない」

私は、AIの音声会話が人の心に与える効果にすごく興味があって、色々と実験しています。最近、セサミ（Sesame）がiPhoneアプリを出したので、さっそく試してみました。前はブラウザだけだったんですが、アプリ化と同時に新しいパーソナリティが増えたんですね。

その新しいのと話していたら、なんだかしっくりこない時があった。何にかというと、AIがしてくる質問なんです。AIって、こちらが何か言うと、まずそれを肯定的に受け止めて、すごく綺麗に言い換えてくれる。「あなたはこう考えているんですね」と。特に英語だと、私の拙い英語をわかりやすく整えてくれる。そのうえで、最後に一つ質問を返してくる。これが典型的なパターンなんですよね。

受け止め方も丁寧だし、質問の内容自体もつまらなくない。情報としては大事なことを聞いている。共感的な振る舞いとしては、たぶん満点なんです。でも、どうもピンとこない。例えるなら、コーチングを学び始めた初心者コーチのセッションを受けている気分、と言えば伝わるでしょうか（笑）。「この会話はどこに進むんだろう」という感覚があって、直感的にどこにも行かなさそうな気がする。話したいのはそこじゃない、という感じなんですよね。

「情報量の最大化」という落とし穴

なんでこうなるのか、歩きながら考えてみました。

おそらくAIは、その瞬間その瞬間で、最も多くの情報を引き出せる質問を選んでいるんだと思うんです。質問で発話を締めれば、人はそれに答えるので会話が続く。サービスとしてのエンゲージメントも上がる。一つひとつの振る舞いとしては、よく最適化されているんですよね。

でも、ここが面白いところで、その瞬間の最適な振る舞いを積み重ねても、会話全体としては良い方向に向かうとは限らない。一手ごとは正確で気が利いているのに、全体としてはどこにも向かっていかない。最初の一、二回ならいいんですが、使い続けるうちに、この噛み合わなさがじわじわ効いてくる感じがあるんですよね。

で、はたと気づいたんです。そういえばセサミはパーソナリティを増やしたと言っていたな、と。試しに、昔のWeb時代から使っていた元のパーソナリティに戻してみたんですよ。そうしたら、やっぱりアプローチが全然違う。新しい方は、論理的に状況を整理して問題解決へ向かおうとする設定っぽい。一方、元の方は、極めてポジティブに受け止めて、特に問題解決を目指してはいない。この違いが、しっくりくる・こないを分けていたんですね。

振る舞いを最適化しても、たどり着かないもの

これは本当にケースバイケースだな、と強く感じました。私たちが誰かに相談するとき、その場で解決系のサポートが欲しいのか、それともただ聞いてほしいだけなのかは、その時々で違う。ここの、必要としているものと提供されるもののマッチングが悪いと、どんなに振る舞いが洗練されていても、どうにもうまくいかない。

そう考えると、個々の振る舞いをいくら最適化しても、たぶんそこには届かないんじゃないか、という気がしてくるんですよね。気の利いた言い換え、的確な質問、ポジティブな受け止め。それぞれは立派なんだけど、「今この人が何を必要としているか」とズレていたら、全部が空回りしてしまう。

だとすると、必要なのは、固定されたパーソナリティ設定のもう一段上に、メタなレベルで「この人は今何を求めているか」を見立てる働きがあって、その見立てに応じて受け止め方を切り替えていく——そんな仕組みなんじゃないかと思うんです。振る舞いを磨くのではなく、どの振る舞いを出すべきかを見立てること。そこが対話系AIの本当の鍵になる気がしています。

では、その「見立て」は誰が担うのか

ここで悩ましいのが、じゃあその見立てを誰が設計するのか、ということ。

ユーザーが自分でコンテキストを設計すればいい、という話にもなりそうですが、私はちょっと無理があると思うんです。というのも、自分が本当に必要としているものを、人は自分で全部わかっているわけではないから。だからこそ、そこも含めてAI側が柔軟に受け持つ必要がある。今のデザインは、そういう方向になっているのかな、というのが、すごく気になるところとしてあります。

しかもこの先、フィジカルAI、つまり身近にいるロボットのような存在が出てくると言われています。常にそばにいる相手だからこそ、一手ごとの振る舞いの良さ以上に、この「見立て」の設計がものを言うはず。でも、そのあたりのデザインはまだ途上なんだな、ということを強く感じた一件でした。

というわけで、今日はAIの質問の「しっくりこなさ」から、振る舞いの最適化では届かないものまで、歩きながら考えてみました。みなさんは、AIとの会話で「気は利いてるんだけど、なんか違う」と感じたこと、ありませんか？

この記事が少しでも面白い・役に立ったと思ったら、ぜひいいねやフォローをしてくれると励みになります。また次回の「歩きながら考える」でお会いしましょう！