LLMによるテキスト処理

とあるテキストを対象にspaCyを用いて固有表現置換を行おうとしたが、全然駄目だったのでGeminiに相談したところ、LLMを用いたコードを書いてくれた。

最終的にはかなり満足できる結果となったのだけれど、そういえばこれをAppleのMシリーズでやるとどのくらいの時間がかかるのか?ということに興味が湧いたのでちょっとやってみた。あまり正確な比較ではないとは思うけれど。

比較は5060Tix2 + vLLM + RedHatAI/gemma-4-12B-it-FP8-Dynamic と M4Max + mlx_lm + mlx-community/gemma-4-12B-4bit。

結果は、50件の処理で5060Tiだと37分弱、M4Maxは5件処理を終えるのに約1.5時間、残り15時間というもの。M4Maxマシンのファンが轟音を立てていてこれ以上は時間と電気の無駄と思ったのでCtrl-Cで中断。

よくPCサイトの記事や個人ブログでMac上でこれだけ大きいモデルが動いた、とか、チャットボットのテキスト生成速度比較でMacが速いというのが書かれているけれど、どうやらそれは単一タスクだから、ということは薄々思っていた。今回はnVidia GPU上でvLLMを使って非常に効率的に並列処理を行うとAppleのチップでは全く歯が立たない速度が出ることを数字で見ることができた。しかもこれは現在のBlackwellアーキテクチャで最も遅い側のGPUと比較しての結果で、B300とか、そこまでいかなくとも96GBのモデルとかでももっと差が開くのではないかと思う。

俺ではない炎上

勢いに乗り、「俺ではない炎上」も見て、なかなか面白かった。ただ、映画に限らず一般的に作り話は一見整合性がとれているように見えて、いやいや、そこでその二人は会わないでしょう、いやいや偶然にしてはできすぎているでしょう、という場面が実に多い。この映画の犯人の心の動き方も、いかに歪んでいたとしても、こうはならないでしょう等気になりすぎるところが多い。まあ、それでも世間には受けているので、そうしたご都合主義と全体の話の面白さのバランスをうまく書ける人がいわゆるベストセラー作家になるのだろうな。

Xenoblade 2 - 4 -

もうエンディングを迎えてしばらく経つのだけれど、終わった直後は強くてニューみたいなのでもう一回やってみようかと考えていた。しかし、やっぱりどうにも面倒な要素が多くて断念したままになっている。今度は時間があれば全ての大元のXenogearsをやってみようかと思う。確かPS3でオンラインストアで買ったものが残っているはず。

コロボックル物語

子供の頃、大好きなシリーズで、ウン十年ぶりに読んでみた。現在3冊目まで読み終わって、次が「ふしぎな目をした男の子」。で、読んだ感想として、ちょっと、あれ？と思った。というのはたぶん子供の頃は不思議な小人が小さな国を作っている、ということで、物語の向こうにあるであろう、国のあれこれを想像してワクワクしたのだと思うけれど、今読んでみると、実は小国全体のアレコレの記述は薄いし、そもそもエピソードとエピソードの間が時間的にものすごく飛んでいて、しかもその間の記述がほとんどない。かといって、そこを細々と埋めるような話は面白くないだろうしな･･･。とりあえず、まずは一通り読み終わるところまでいってみよう。

Xenoblade 2 - 3 -

相変わらずどうやって行けばいいのか分からない、というのはXenobladeシリーズ通じた難点なのだけれど、やりこみたい人にはよいサービスだけれど、そうでないともういいや、となってしまう。Xenoblade 2はキャラ型のブレイドもシステムの特徴の一つで、それも好きな理由の一つではあるけれど派遣とかは最適なブレイドの組み合わせを自動的に作ってほしい。

 

Xenoblade 2 - 2 -

かなり後半に来たのだけれど、やっぱりバトルがイヤじゃない、というか好みなので続けられるのだと思う。遊んでいて、一回目なんか面倒だったな、とか敵を倒すのに時間がかかったな、とかちょっとだけ思い出している。あと、やっぱりマップというか次にどこに行けばいいのか、迷うことが多く、いらつくのは一回目と同じかな。それでも一回目の経験があるからか、まあまあスムーズ。

たぶん一ヶ月以内にはエンディングに辿り着けるのではないか、と思う。