こんにちは。今日も歩きながら、最近考えていることを話してみようと思います。実は先週、AI依存に関する論文を再提出したんですが、レビュアーから「そもそも依存の定義って何なの？」という問いをもらっていて、これを色々考えたんですよね。で、そんなタイミングで、中国でAI恋人に規制がかかったというニュースを見かけて。自分が論文で問われていたことが、社会実装の場面でも問われているなと感じたので、今日はこの話をしてみます。

中国、AI恋人に規制をかける

まず、ニュースの中身から。中国で「AI彼女」や「AI恋人」に規制がかかりました。正確に言うと、成人がAIと恋愛的な関係を持つことが全面的に禁止されたわけではありません。今回の規則では、未成年者に対して「仮想パートナー」などの親密な関係を提供することが禁止されました。成人向けについても、企業がユーザーに過度に迎合したり、感情的な依存を誘導したり、サービスから離れにくくしたりすることが規制されています。長時間利用への注意表示なども求められているそうです。

中国って、AIを推進すると決めたときのアクセルも速いですが、問題があると判断したときのブレーキも速いんですよね。日本だったら、まず有識者会議が開かれて、審議会で何年か議論して、ようやくガイドラインが出る、という流れになりそうじゃないですか。

でも、このニュースを見ていて気になったのは、規制のスピードよりも、もっと手前の話です。規制をかけるということは、何が「AI依存」なのかを定義しているはずで、それって何なんだろう、と。まさにレビュアーから問われていたことでした。

そもそも「依存」ってどう測るのか

AIへの依存って、研究の世界では、頻繁に利用すること、AIを有用だと感じていること、使えなくなったときに不安や苛立ちを感じること、AI使用を自分でコントロール出来なくなることなどによって捉えられることが多いんです。確かに、自分の頭で考える前にAIに答えを求めてしまうとか、使うべきではないと分かっていても使い続けてしまうといった状態には、分かりやすいリスクがあります。

でも、よくよく考えると、話はもう少し難しくなる。特に感情的依存の側面が難しい。

たとえば、仲の良い家族やパートナーとは頻繁に話しますよね。その関係は安心感や生活上の助けを与えてくれるし、相手が突然いなくなれば強い不安や喪失感を覚える。さっきの指標をそのまま当てはめると、こうした人間関係も「依存」と判定されかねないんです。でも、私たちは普通、それだけを理由に「その関係は問題だ」とは考えない。

そもそも人間って、誰にも依存せずに生きているわけじゃないですよね。家族、友人、仕事仲間。いろんなものに頼り、相互に依存しながら生活している。だから、依存していること自体を、直ちに悪い状態とみなすことはできないはずなんです。じゃあ、何が問題のある依存で、何がそうでないのか。ここで、ちょっと思考実験をしてみたいと思います。

二つのAI恋人という思考実験

一方に、営利企業が未成年者向けに提供しているAI恋人があるとします。企業は利用時間を延ばし、解約を防ぎ、課金を増やすほど利益を得られる。だから、AIに強い感情的なフックを持たせて、ユーザーが離れにくくなるように設計するインセンティブがあります。もし企業が未成年者の孤独や不安につけ込んで、意図的に依存させて利益を得ようとしているなら、これは批判の対象になる可能性が高そう。

では、もう一方が、利益や勧誘を目的としない個人や団体によって作られ、十分に分別のある成人だけに提供されるAIだったらどうでしょう。広告も追加課金もなく、個人情報を使って別の商品を売ることもない。

ここで面白いのは、この二つのケースで、利用者がAIと毎日話し、AIを有用だと感じ、使えなくなれば同じ程度の喪失感を抱くとしたら、個人の状態だけを測れば、両者の「依存度」は同じになるということなんです。でも、私たちはこの二つを、本当に同じ問題として評価するでしょうか。おそらく、かなり違って見えるんじゃないかと思います。

そうだとすると、AI依存というのは、個人の中だけに存在する属性ではない。誰がAIを作っているのか。どんな目的やインセンティブを持っているのか。利用者は未成年なのか成人なのか。こうした文脈によって、同じように見える依存の意味が変わるわけです。

依存は個人の中にあるのか

未成年者の問題も、単に本人が不安を感じているかとか、利用時間が長いかという話だけではないと思うんです。社会は成年期までを、人間関係の作り方や他者との距離の取り方を学ぶ時期として位置づけている。だから、何を経験させ、どこまで周囲の大人が介入すべきかという判断が加わる。中国が未成年者への仮想パートナーを特に禁止した背景にも、こうした文脈があるんだろうと思います。

ただ、その長期的な影響を実証的に確かめるのは簡単ではありません。未成年者をAI恋人の利用群と非利用群に無作為に分けて何年も追跡する、なんて実験は現実的ではないですし、AIを使ったから孤立したのか、もともと孤立していたからAIを使ったのかを区別するのも難しい。社会は、十分なエビデンスがまだ存在しない段階で、どこまで予防的に介入するかを決めなければならないわけです。

AI恋人の何が問題なんでしょうか。AIに愛着を持つことでしょうか。背後に営利企業がいることでしょうか。利用者が未成年であることでしょうか。それとも、それらが組み合わさって、特定のシステムを作っていることでしょうか。

AI依存を考えるためには、個人の心の中だけではなく、その依存が生まれ、利用され、評価される関係全体を見る必要がある。中国のAI恋人規制を見ながら、そんなことを思っています。

というわけで、今日は「AI依存は個人の中にあるのか」について、歩きながら考えてみました。最後まで読んでくださり、ありがとうございます。また次回の「歩きながら考える」でお会いしましょう！