こんにちは。今週ずっとAI依存についての論文を書いていて、先行研究のレビューをしているんですね。で、読んでいるうちに「これ、ほんとにそうかな？」と思うところが出てきたので、今日はそのことについて歩きながら考えてみます。

しっかりした人は依存しない、ほんとに？

AIに依存してその出力を批判的に検証しなくなるのはなぜか。先行研究ではいくつかの調整変数が挙げられています。例えば、自己効力感が高い人、つまり自分の能力に自信がある人は、AIが出してきたものを鵜呑みにせず、ちゃんと吟味する傾向がある。また、AIリテラシーの高さ、つまり「AIとはそもそも何なのか」をちゃんと理解していることも、過度な依存を防ぐ要因として挙げられている。

これ、でも、ほんとにそうかなーとも思うんですよ。だって要するに、しっかりした人は依存しないって話じゃないですか。僕はむしろ逆で、しっかりした人ほど依存する要素もあるんじゃないかと思うんです。

競争圧力が検証を省略させる

なぜそう思うかというと、優秀な人は常に時間とアウトプットの競争に晒されているから。より高い品質で、より多くの成果を出すことを求められる。そのために批判的な思考力を磨いてきたし、メタ認知的な、ちょっと引いた目線でものを見る能力も鍛えてきた。

ここで、AIが入ってくると、自分の能力が何倍にも拡張される感覚がある。しかも、優秀な人は「周りの人も同じように拡張されているはずだ」と想像する。つまり、競争のプレッシャーは変わらないか、むしろ強化されるかもしれない。

そうすると、どこかのタイミングで、こういう計算が無意識に働くんじゃないかと思うんですよ。「AIの出力をこれ以上検証するのに使う認知エネルギーを、次のアウトプットを1つ多く出すことに回した方が得なんじゃないか」と。これは意識的にサボっているわけではなくて、合理的な資源配分として、検証のプロセスが自然に省略されていくということです。結果として、自分では気づかないうちに吟味をやめて依存しているということが起こるんじゃないかなと。

で、実際にそれを裏付けるようなデータも出てきていて、ペルーの大学生を対象とした研究によると、自分の能力への自信を示す「学業的自己効力感」が高い学生ほど、むしろAI依存度が高いという正の関係が確認されているそうです。一般的に言われているのとは逆の結果なんですよね。

部下への信頼と同じ構造

この話、実はAIに限ったことじゃないなと思っていて。部下をどれくらい信用するかっていう問題とかなり近い構造がある気がするんですよね。

どんなに優秀な部下でも、人間なんだから間違えることはある。でも、どこかのタイミングで部下を信頼すると、その人のアウトプットをいちいち吟味するのはやめてしまう。それは悪いことばかりではなくて、信頼できる部下がいるのは良いことですよね。97%くらいの状況ではそれでうまく回る。だけど3%のリスクは常にあって、それが大事故に繋がったときには責任を取らなきゃいけない。

これを裏付けるような知見もあって、AIを使ったタスクで批判的思考がどれくらい発動されるかを調べた研究では、「自分の能力への自信」と「AIの能力への信頼」がそれぞれ独立して効いていることが分かっています。自分への自信が高いと批判的思考は増えるけど、AIへの信頼が高いとそれが減る方向に働く。

で、これってまさに先ほどの競争圧力の話と繋がると思うんですよ。自分の判断力への自信は変わらなかったとしても、AIを使い込んでいくうちに「このAIはまあ大丈夫だろう。もっと高速でアウトプット出すぞ」という感覚になる。そうなったときに、AIに対する過信現象が起こるということが起こりうるんじゃないかと。部下を信頼して仕事を任せるのと同じで、これは能力の欠如ではなく、合理的な適応の結果として起こることなんだと思います。

防御策は本当にあるのか

だから、この依存の話って、もしかしたら防御策がないのかもしれないっていう気がしているんですよね。

AI依存への対策としてよく目にするのが「AIリテラシーを上げましょう」という処方箋なんですけど、これ本当に意味あるのかなと。だって、リテラシーが上がったとしても、それによってAIをさらに上手く使えるようになって、もっと高速にアウトプットを出せるようになるかもしれないじゃないですか。そうなったらむしろ競争はさらに激化して、検証を省略する圧力も強まる。リテラシーを上げた結果、依存が加速する気もします。しかも、AIの知識が中途半端に高まった段階が一番過信に陥りやすいという研究もあったりして、そう単純な話ではなさそうです。

こういう議論はこの先どんどん積み重ねられていくんだと思いますし、実証研究もたくさん出てくるでしょう。どういう展開になるか、非常に興味深いなと思って見ています。まあ、僕もこうやって歩きながら考えている時点で、自分でも何を考えているのかよくわからなくなってきてしまってますが笑

というわけで、今日はこのあたりで。最後まで読んでくださり、ありがとうございます。この記事が少しでも面白い・役に立ったと思ったら、ぜひいいねやフォローをしてくれると励みになります。また次回の「歩きながら考える」でお会いしましょう！