ローカルLLM雑感
ローカルLLMを色々試したのだけれど、結論、「もうちょっと良いパソコンで試さないと使い物にならない」という状態だった。もちろん優秀なポイントは多いんだけれど、少なくともポータブルに寄せた僕のMacBook Airで動くモデルの中には、僕を助けてくれるレベルのローカルLLMはまともに動かなかったし、Bonsai-8Bのような計量タイプは、動くこと自体はすごいなと思いつつ、まだ育成ができないのもあって僕が求めるクオリティには全く届かなかった。ただ、これが来月はわからないし、とりあえず試せたのは良かった。また次の季節かな。