こんにちは。今日も歩きながら、最近考えていることを話してみようと思います。先日、企業向けのワークショップに出ていて、ちょっと驚いたことがあったんですよね。そこから考えが広がって、なかなか不気味な未来の話にたどり着いてしまったので、ゆるく話してみます。

研修でAIに答えさせていたグループの話

きっかけは、先日のワークショップでのこと。グループワークで考えるために出された題材を、そのままAIに入力して回答を得ているグループがあったと、コーファシリテーターから聞いたんです。

これを聞いたとき、私はかなり驚きました。だって、研修って、その場でよい答えを提出するためのものじゃないですよね。新しく学んだ知識を使って、自分で考えてみる。その過程で、自分に負荷をかけて認知能力を鍛える。それが研修の目的だと思っていたからです。ジムに行って自分でベンチプレス上げないで機械に上げさせてるようなもんじゃないですか。時間もったいないと思ってしまいました。

ただ、少し考えてみると、参加者がまったく何も考えていなかったわけではないんですよ。AIが出した回答を読んで、それがよいかどうかを自分たちで評価して、グループの回答として採用している。つまり、「自分でアウトプットを作るトレーニング」を「AIのアウトプットを評価するトレーニング」に変えていた、と考えることもできる。これからのAI時代の仕事の仕方としては実は正しいのかもしれない。

で、ここで問いが浮かぶわけです。それで本当に同じようなトレーニングになるんでしょうか？

作ったことがない人に、評価はできるのか

気になるのは、自分でアウトプットを作る経験を十分に積んでいない人に、そのアウトプットを適切に評価できるのか、ということです。しかも今回は、研修で初めて学んだ知識を使うグループワークでした。新しく得た知識をまず自分で使ってみて、うまくいかなかったり、考え直したりする練習をしないまま、いきなりAIが作った回答の評価者になる。それはかなり難しいんじゃないかと思うんです。

プログラムを想像してみると分かりやすいかもしれません。コードを書いたことのない人でも、プログラムがとりあえず動くかどうかは確認できます。でも、セキュリティ上の穴がないか、将来の修正に耐えられる設計になっているか。そこまで評価するには、実際にコードを書いて、失敗して、直してきた経験が必要じゃないですか。編集者や批評家のように「作らずに評価する」仕事もありますが、彼らも膨大な読み込みの蓄積で鍛えられた人たちです。評価する力は、何らかの蓄積なしには生まれないんじゃないかとやっぱり思ってしまいます。

今の熟練者は、AIが普及する前に自分で作る経験を積んできたから評価できる。でも、若手が最初からAIに作成を任せるようになったら、次の世代の評価者はどこで育つんでしょうか。

「最後は人間が責任を取る」も、実は難しい

ここで思い出すのが、よく言われる話です。AIの統合が進むと、人間に残る役割は「責任を取ること」に集約されていく、と。作るのはAI、でも最後に確認して責任を持つのは人間。

でも、それも難しくなりそうだなーと思いました。理由は二つあります。

一つは、いま話してきたとおり、十分な評価をして責任を取れる人間が育たなくなるからです。責任を取るというのは、単にハンコを押すことではなくて、中身を理解した上で「これで良い」と保証することのはずです。でも、担当者がAIの文章を読んで、自然に見えるから承認する、というだけなら、確認できているのは表面的なもっともらしさだけ。「人間が最終確認しています」という仕組みが形として残っていても、実質的な確認にはならないと思います。

もう一つは、競争の圧力です。すべてのアウトプットを人間が確認して責任を取る仕組みにしていると、確認を省略する競合よりも時間と費用がかかる。企業間の競争を考えれば、丁寧に確認する企業のほうが負けてしまうんですよね。

そこで企業は、おそらく別の品質管理に移っていくんじゃないかという気がします。一つ一つの成果物を、内容を理解した人間が確認して責任を持つのではなく、人間がやったとしても間違いは起こるのだから、AIも一定の確率で間違えるものだと考えて、その確率をシステム全体で管理する方法です。たとえば、一部だけを抜き取りで確認する。リスクの高い案件だけ人間が丁寧に確認する。事故率やクレーム率が許容範囲に収まっている限り、その仕組みを使い続ける。そうすれば、人間の認知的リソースをボトルネックにせず、大量の仕事を速く処理できます。

誰も中身を説明できない世界

ただ、その段階では、個々の成果物の中身はブラックボックスになります。ここで言うブラックボックスは、AIの内部構造が分からないという意味だけではありません。その成果物がなぜ正しいと言えるのかを、組織の中の誰も十分には説明できない、という意味です。誰かが内容を理解して保証したのではなく、「このシステムは通常、この程度の確率で正しい」という理由で、成果物が社会に出ていくことになる。

まとめ：「確認した」とは何を指すのか

というわけで、今日はワークショップでの小さな出来事から、企業の品質管理の未来まで、歩きながら考えてみました。

最初に聞いた話は、参加者が少し便利な道具を使っただけの、とても小さな出来事です。でも、そこには企業の将来を先取りするような問題が含まれている気がします。AIが作り、人間が評価して責任を取る。その分業は一見合理的だけど、評価者が育つ場所を、その分業自体が消しているかもしれない。そして評価して責任を取れる人間がいなくなったとき、誰も中身を完全には理解していないまま、AIの間違いは「確率」として管理されるようになるのかもしれません。

もしこの記事を読んで思うところがあったら、ぜひSNSでシェアして、コメントで教えてください。いいねやフォローをしてくれると励みになります。

最後まで読んでくださり、ありがとうございます。また次回の「歩きながら考える」でお会いしましょう！