こんにちは。今日は家に帰る途中に、ちょっと話しておきたいことがあって、歩きながら考えてみようと思います。ここ数日、私はある作業にすっかり疲れ果ててしまっていて、そのことがずっと頭にあるんですよね。テーマはずばり、文書仕事（ペーパーワーク）とAIについてです。

AIに任せたはずが、逆に疲れ果てた話

先日、ある組織へ提出する申請書を作っていました。よくある話だと思うんですが、申請書に対して「ここをこう直してほしい」という修正指示が返ってきたんですね。

厄介なのはここからです。申請書そのものを直すだけでは終わらない。それに紐づいた関連文書も、あわせて作ったり更新したりしなければならない。具体的には、新しい対応のための書類と、「指示に対してどこをどう変えたか」を示す回答書。しかもこの回答書の中では、当然ながら申請書の修正前と修正後の内容を引用することになります。

そうすると何が起こるか。複数の書類のあいだで、すべての表記を完全に一致させる必要が出てくるわけです。大学組織のような環境だと、論文のレビューに近いやり方で、書類ごとに別々のファイルを作ることが多い。ところが、一箇所に手を入れると、連動して他のすべての文書も直さなければならなくなる。一つ直すたびに、あちこちが芋づる式にずれていく。この整合性を取る作業が、本当に骨が折れるんです。

で、私はこの申請書づくりで、AIの助力を借りているわけですね。文書作成はAIはお手のもの。特に、整合性が取れているかどうかの確認は、AIは得意なはずですね。実際、二つの文章を見比べて、どんなに細かい箇所でも「どこが変わっているか」をざっとスキャンして拾い上げるのは、AIの得意技なんですよね。ここまでは、期待どおりでした。

ところが、その後に「罠」があった

ところが、です。

文言がずれていればAIに直させる。それはいい。でも、最終的に本当に整合性が取れているかどうかは、結局のところ自分で確認するしかないんですよ。そうすると、どうなるか。また一から、すべての文章を読み直して、一つずつチェックしていくという、重たい認知的な作業が発生してしまう。

これでは「最初から自分で作るのと変わらないのではないか」という、なんとも言えないジレンマを味わうことになりました。作業そのものは肩代わりしてもらえたのに、確認の負担はそっくり自分に残っている。むしろ、AIを間に挟んだぶん、「どこを信じていいのか」がかえって分かりにくくなる感じすらある。

これ、一人の仕事でもこうなんです。だとしたら、複数人で作業が重なるような場面では、状況がさらに複雑になるのは目に見えていますよね。誰かが直した箇所を、別の誰かが知らずにまた触って、つじつまが合わなくなる。こういう混乱が始まると、もう本来やりたかった仕事とは別の、膨大な事務作業が発生してしまう。

なぜ、こんなことになるんでしょうか。ここが今日いちばん考えたいところです。

AIにできない、たった一つのこと

理由は単純で「責任」なんですよね。AIは作業はできる、しかも極めて優秀。でも、ほぼ唯一AIにできないことがあって、それが「責任を取る」こと。

もし提出した書類のどこかが間違っていたら、責任を負うのは私です。AIではない。だから、最後は私自身が「これで大丈夫」と確認せざるを得ない。作業は肩代わりできても、責任は肩代わりできない。そして責任が人間に残っている以上、確認という重い認知作業は、どうやっても消えてくれないわけです。

面白いのは、これは私だけが感じている悩みではないらしいこと。調べてみると、世界中で似たような指摘があるようです。もともと自動化というのは、人間より上手くできるから機械に任せるはずなのに、その機械がちゃんと動いているかを人間が監視しなければならない、という皮肉がついて回る。

しかも、いま世の中の流れは「最終的には人間が責任を持って監視しなさい」という方向で進んでいるようです。ただ、そこには「人間が超人的なスピードで動くAIを、本当にちゃんと監視しきれるのか?」という無理があって、下手をすると人間が責任を一手に引き受けるだけの存在になってしまう。これはつらい。

「責任」の線引きをどう設計するか

じゃあ、どうすればいいのか。ここで問題になるのは、そもそも人間だろうとAIだろうと、私たちは「完璧なものを作る」ことを求めがち、という点だと思うんです。特に日本のような不確実性の回避の高い文化ではこの傾向は高い。

これまでは、非人間的で官僚的な確認作業を人間が汗をかいて背負うことで、なんとかその精度を担保してきました。でも、当然ながら人間にもミスはある。どんなに気をつけても、事故は一定の確率で起きてしまう。ここが肝心なところで、同じことはAIにも言えるわけです。AIのほうがミスをする確率は低くなるとは思う。でも、それでもゼロにはならない。

そこで、AIと人間でダブルチェックをすることで、ミスの確率はさらに下げようとする。ただ、ここに先ほどの落とし穴が待っている。つまり、人間が確認作業をすることになると、結局、膨大な労働力と認知的な負荷が発生して、生産性を上げるようなAIの使い方にはならないんですよね。堂々巡りに戻ってしまう。

そこで、一つの考え方として、こう割り切ってみるのはどうかと思うんです。人間がやってもミスは起こるし、AIがやってもミスは起こる。ならば、たとえば人間が普通に作業して起こる程度のミス確率を、AIがはっきり下回るのであれば、そこは思い切ってAIに任せてしまう。つまり、問題が起きても人間にその責任を負わせない。「人間がやっていたとしてもこの事故は起こった」と割り切る。

これは相当に抵抗感がある考え方なんだろうとは思いますが、今はちょうど、世界中でこの手の議論がまさに交わされている局面なんじゃないかとも思います。AIが私たちを楽にしてくれるかどうかは、AIの能力そのものよりも、私たちがどこに合格ラインを引き、それをどう合意するかにかかっている。そんな気がしています。

というわけで、今日は「AIは私たちのペーパーワークを本当に楽にするか?」というテーマで、自分の最近の経験から考えてみました。この記事が少しでも面白い・役に立ったと思ったら、ぜひいいねやフォローをしてくれると励みになります。みなさんは、AIにどこまで仕事を任せていますか? よかったらコメントで教えてください。

最後まで読んでくださり、ありがとうございます。また次回の「歩きながら考える」でお会いしましょう!