こんにちは。今日は歩きながら、最近のAI規制に関するニュースから考えたことを話してみようと思います。きっかけは3月11日の日経新聞の記事。カナダで起きた痛ましい事件と、その先に見えるAIの未来について、ちょっと考えてみます。

カナダの銃乱射事件とOpenAI提訴

2月にカナダ・ブリティッシュコロンビア州タンブラーリッジで起きた銃乱射事件を巡って、負傷した少女の家族がOpenAIを提訴しました。18歳の容疑者は事前にChatGPTと銃撃についての会話をしていて、訴状によると、2025年6月の時点でOpenAIの自動監視システムがその会話を検知し、従業員が「差し迫った深刻な危害のリスク」と判断して法執行機関への通報を求めたとのこと。しかし、経営陣はこれを却下。2026年2月の事件に至りました。

OpenAIは2025年8月に、自社の法執行機関への協力ポリシーを更新し、ユーザーの会話のスキャンと人間によるレビュー・通報プロセスを明確化していたのですが、事件後、OpenAIの政策担当副社長はカナダAI大臣への書簡で、「強化されたプロトコルの下であれば、2025年6月の時点で通報していただろう」と回答しています。

「拒否」から「監視」へ——変わるAI規制の方向性

この事件が示しているのは、AI規制の方向性そのものが変わりつつあるということです。

これまでのAI安全対策は、主に「危険な質問をAIが拒否する」という方式でした。爆弾の作り方を聞いてもAIが答えない、というアプローチです。しかし2025年半ば以降、規制の軸は「会話を監視し、必要に応じて通報する」方向に動き始めています。

背景には、タンブラーリッジ事件のほかにも、2025年8月にコネチカット州で起きたChatGPTに妄想を肯定され続けた男性が母親を殺害した事件など、AIとの会話が現実の暴力につながったケースが複数報告されたことがあります。

つまり、「AIが答えを拒否する」時代から、「AIとの会話が検閲される」時代への移行が、もう始まっているわけです。

まだ多くの人は気づいていない

とはいえ、おそらく大多数の人は、自分のAIとの会話が誰かにチェックされ得るとは思っていないんじゃないでしょうか。人間の友達や同僚と違って、AIは自分の話を他人に漏らさない。だから本音を言える——そういう感覚で使っている人が多いと思います。今のAIとの会話は、多くの人にとってリスクフリーな空間です。

でも、グローバルのプラットフォーマーや政策レベルでは潮目が変わっています。EUではEU AI Actが段階的に施行されており、米国でも2025年だけで多数のAI関連法案が提出されました。遅かれ早かれ、「AIとの会話は見られている可能性がある」という認識が一般にも広がっていくでしょう。

大多数の人は見られていることを若干意識しながらも、普通に使い続けるのだろうと思います。ちょうどWeb検索と似た構造です。変な検索ワードを入れたら履歴が残るんじゃないかと気にして検索内容を自重することはある。でも、検索エンジンを使うこと自体はやめない。AIとの関係も同じようになっていくのではないかと思います。

規制の届かない場所へ

ただ、その一方で、スタンドアローンのAI、つまりローカル環境で動くAIに価値を見出す人たちも出てくるでしょう。悪いことをしたいわけじゃなくても、たとえば企業にとって情報の秘匿性は重要です。規約上は安全と書いてあっても、本当の本当のところで大丈夫なのか——そう疑問に思う人は一定数います。個人レベルでも、思想信条に関わるような内面的な対話を「監視される可能性がある場所」でしたくないと感じる人は出てくるはずです。

実際、オープンソースのAIモデルは急速に進化しており、個人のPCでも動かせる実用的なものが増えています。規制が強まるほど、規制の届かないローカル環境に移る人が増えるというパラドックスです。すると次の論点は、ローカルAIを使った反社会的行動をどう規制するかになる。その先に見えるのは、もしかすると人間の行動そのものをAIで監視する社会かもしれません。AIを規制しようとした結果、AIによる管理が強まるという、なかなか皮肉な展開です。

1950年代に「Atoms for Peace」と夢を語られた原子力も、事故を経て大きく保守化しました。AIがたどる道は、同じなのか違うのか——考え続けたいテーマです。

最後まで読んでくださり、ありがとうございます。この記事が少しでも面白い・役に立ったと思ったら、ぜひいいねやフォローをしていただけると励みになります。また次回の「歩きながら考える」でお会いしましょう！