こんにちは。今日は週末の夕方に歩きながら、最近ちょっとモヤモヤしていることを話してみようと思います。テーマは、AIのサブスクコストと、それにまつわる奇妙な体験について。

使用量メーターを睨みながらAIを使う日々

ここに来て、AIのサブスク、つまりモデルに払うサービスコストに敏感にならざるを得なくなってきました。

きっかけは、Claudeの最上位モデルであるFableです。これがむちゃくちゃ高い。フルに使おうとすると、結構すぐ制限が来ちゃう。従量課金だと、月のコストがいったいいくらになるんだろうとちょっと心配になってしまいます

で、AIを使い始めて初めて、自分の使用量を常にウィンドウに表示するようになりました。リミットが来るとそこで作業が止まっちゃうし、従量課金だといくらになるのか心配だから、使用量をコントロールしながら使うわけです。タスクに応じて、モデルも自分で切り替えます。これは大した話じゃないなという時はSonnet。ちょっと複雑な話になるかもと思ったらOpus。Opusと話して埒があかないなと思ったら、一回Fableに切り替えて、Opusのアウトプットを検証してもらう。コンテキストが長くなるとトークンをすごく消費するから、チャットを分けたり、渡す情報量を絞ったり。この2、3週間、そんな感じの使い方になってます。

AIを使うために、人間が考えている

で、ある時ふと思ったんです。これ、ものすごく変じゃないか？と。

AIって本来、「どう解くかを考える」仕事を人間から引き受けてくれるものだったはずです。ところが今私がやっているのは、「このタスクはどのくらい難しいか」を自分で見積もって、「どのAIに解かせるか」を自分で判断するという作業。つまり、知的作業を任せるための道具のために、新しい知的作業が発生している。AIを使っているのに、AIを使うためにマニュアルで考えている。この作業に認知的リソースを使いたくないんですよね。

しかもこの問題、個人の財布の話にとどまりません。日本の場合、モデルの利用料は主にアメリカの企業に払っているので、AI活用が進むほどお金が国外に流出していく。いわゆるデジタル小作人の構図です。最近の日経新聞の記事によると、サービスにAIを組み込んでいる企業では、圧倒的に安い中国のモデルに切り替える動きが出ているそうです。コストの重さは、個人も企業も同じように感じ始めているということだと思います。

「変だな」は次の進化の方向を指している

ただですね、歩きながら考えているうちに、少し見え方が変わってきました。

私が毎日手作業でやっている「タスクを見極めて、最適なモデルに振り分ける」という作業。この面倒くささが存在するということは、裏を返せば、ここにまだ埋まっていない進化の可能性があるということなんじゃないか。

実際、この層を狙った動きは出てきています。質問の難易度を判定して安いモデルと高いモデルに自動で振り分けるLLMルーター。東京のSakana AIが提唱した、複数のモデルを統合してより良いモデルを自動生成する進化的モデルマージ。エージェントの設計自体を自動で最適化していくアプローチ。バラバラの話に見えますが、全部「モデル単体の性能」ではなく「モデルたちをどう組み合わせ、どう使うか」という同じ話に見えます。

思えば、道具の歴史っていつもそうですよね。ユーザーが「なんでこんなことを手でやってるんだ？」とイライラしているところが、次のイノベーションの場所になる。私の使用量メーター睨みも、未来から見れば「初期のパソコンでメモリ管理を手動でやっていた時代」みたいな笑い話になるのだろうな、と思います。

まとめ：使い分けの技術で、コストを下げる

もっとも、そんな未来がすぐ来るわけでもありません。当面のあいだは、私たち自身が「どのモデルを、どう使い分けるとコストを抑えられるか」を考え続けないといけないのだろうと思います。手動での切り替えにせよ、ルーター的な仕組みにせよ、うまく使い分けてコストを下げる技術が、これからしばらくはAI活用では必要になりそうです。使い分けを工夫してコストを抑えていかないと、AIを使えば使うほどお金が外に流れていくデジタル小作人の問題が、じわじわ深刻になっていきそうです。

というわけで、今日はAIモデルの手動切り替えの馬鹿馬鹿しさから、コストとの付き合い方まで、歩きながら考えてみました。しばらくはこんな感じなのかもしれませんが、モデルの組み合わせ技術が進んで、いきなり次の進化が現れるような気もしています。

この記事が面白いと思ったら、スキやフォロー、SNSでのシェアもしていただけると嬉しいです。最後まで読んでくださり、ありがとうございます。また次回の「歩きながら考える」でお会いしましょう！