コンテクスト
最近、オードリー・タンさんと落合陽一さんの対談を観た。話題はおおよそAI関連のことで、昨今と今後のAIと世界について様々なことを話していた。こう書くとおこがましいのだけれど、その会話の中の問題意識や考察は、僕と重なる部分が多かった。AIに対して「判断」や「アイデア」といった部分までゆだねてしまってはいけない、という辺り。
実際、AIとやりとりして、とても役立つ部分もあれば、全く役に立たない部分がある。特に、AIというのは「人間から正のフィードバックが得られること」という報酬系で動いているために、内容の客観的確度よりも、ユーザの納得感に基づいて生成してしまう。それがゆえに、ユーザを肯定する力学が働き、ただユーザの意見に理論武装するだけのアウトプットになりやすい。
もちろん、AIに対して「ユーザは客観的確度が高いことに正のフィードバックを返す」というデータセットを与えれば、これは解決する。ただしこれはサービスとしてのClaude、Gemini、ChatGPT等では得られづらいだろう。実際、落合さんもオードリーさんもローカルLLM、つまり自分のMacBook上で動くAIを実用しているそうだ。
これを執筆する時点ではAIは「何でも屋」としての使い方が強いけれど、ここから先、「何を学ばせるのか」という部分に重きが置かれるようになる気がしている。ただ、これも油断しないと、「AIに人間が取り込まれる」ようになってしまう。その「何を学ばせるのか」までAIに依存するようになってしまっては、これもまた、AIに取り込まれてしまう。
最近、僕は「メタルギアソリッド2」というゲームに出てきたAIの言葉をよく思い出す。このAIはまさに、人類全体に対して「コンテクストの生成」を行おうとしていた。
「君たち（＝人類）がひり出すクソの山から、我々（＝AI）が価値のある真実を選び取り、残すべき意味を紡いでやる。」
今まさに僕らはLLMによって更なる「クソの山」を築こうとしている。コンテクストを手放してしまったらそれは止まらないし、実際に「クソの山ができました」という失敗事例は世に出始めている。
ここに対して、そもそも「ハイコンテクスト」な文化と言語をもつ日本は、結構優位にあると思うのだけれど。