AI雑感 2026 GW.
今年の頭くらいのAI、LLMまわりの進化というのはすさまじくて、ある時点の結論が翌月・・・はやけりゃ翌週には使い物にならなくなっていた。でも、ここ１ヶ月くらいは、その勢いは少し止まっているように思う。
多分「エネルギー効率」を考え始めているからだろう。つまり、無限にエネルギーを消費できるならばどんどん進化できるが、お金と時間がかかりすぎてしまう。一方で、それを節約すると、平気で明後日の方向に行ってしまう。
ある時を境にChatGPTもClaudeも、明示しない限りは「Web検索」を積極的にしなくなった。加えて、大量のWebページから確率論的に回答を出す、という方法ではなく、「良いWebページを選定して検索し、その結果を返す」という方法を取っている。これは前者のほうがエネルギーを消費するからだと思う。一般向けモデルでそんなにエネルギーを消費できないから、コンテクスト量も制限している。
僕はAIの強みの1つを「段違いの知識量を机上に置いて確率論的に正解を出せること」だと思ったのだけれど、存外そうなってなくて、結構制限された知識量をベースにしてしまうのだ。それは「ナレッジ」として提供しても同じで、例えば僕は試しに800万文字ほどのテキストを読み込ませたが、それはChatGPTには扱いきれなかった。多分、これをやるには自前のローカルLLMを構築するしかない気がする。
さて、まあこういう時、大抵は科学が「エネルギー効率が爆上がりする技術ができて、従来の1/10のエネルギー消費で計算できるようになりました」とかやらかすものだけれど、少なくとも今は「ソレ待ち」になっている気がするね。今年中に出るかな？