ローカルLLM on 或る阿呆の記

ローカルLLMでAIコーディングにかかる時間

Sat, 17 Oct 2026 00:00:00 +0900

そんなもんモノによるやろとしか言えないわけですが、参考までに…。

環境

LLM: qwen3.8-flash-next
サーバ: GMKtec EVO-X2 (ミニPC)
- Ryzen AI Max+395
- 128GB RAM
- Windows 11
- LM Studio 0.4.25
クライアント: M2 Pro Mac mini + VSCode + Cline
対象: Go + Next.js のセルフホスト型Webアプリケーション

LLM的なスペックでいえば、ユニファイドメモリ128GBのっけたRyzenなミニPCで、Vulkanで実行、という感じです。これが庶民にできる精一杯なんや……と思っていましたが今はこの構成マジで60万してて死にました。30万のときに10台くらい買っておけばよかった。もう世界はおしまいです。

狂ってると思った。

改修内容

何かと言うと、私が趣味でやっているAIイラスト作成支援アプリの微改修です。Characterを登録する際に、いつも同じ情報があるため（わかる人向けに言うとmasterpieceなどクオリティ系やネガティブプロンプト）、それらをテンプレートとしていました。で、そのテンプレート自体を複製したい、というものです。

具体的には以下の画面改修です。

ここに複製ボタンを追加するだけです。複製する内容は具体的には以下のように、説明文であるとか、基本的な数値設定や、定型句となるプロンプト群です。

こいつをコピーする機能がほしいわけです。これはまぁ出来そうというか、出来てほしい感じがしますよね。

それでまぁ、細かく指示してもよかったけれど、ここはあえてふわっとした指示にします。

Templatesにおいて、Character用のテンプレートの複製を追加する。

Codexあたりならこれでまったく問題なく、投げたら数分で完全に完了すると思います。さてローカルLLMだとどうなるか……。

結果、2時間かけて完了です。2時間ノンストップで動き続けたんだから凄いといえば凄いんだけど、まぁまぁかかった感じですね。

oh…90.0k…。でもちゃんと機能はできていました。コードもそんな変なことはなかった…ように思う。

ローカルLLMだとさすがにもうちょっと人間側が指示を明確にしたほうが良さそうな感じはしました。

しかし正直、AntigravityのGemini 3.8 Flashよりもなんだかちゃんとしている気がする……。いやさすがにそんなはずはないか…？まぁもうちょっとみていかないとけませんが。

唸れミニPC

しかし、マジで2時間ずっと唸っていましたね。これは電気代を考えたときにどうなんだろうか。多分DeepSeekのAPIで20円くらいの改修だったと思うんですよね。まぁ最大電力が230Wなんだからフルパワーでも0.46kWh、1kWh 30円なら13.8円、LLMなら常にフルパワーではないはずだし、計算上はAPIよりは安いとは言える。まぁちょっとどっかで消費電力は計測しよう。

でも安いといっても、本体が60万円するようではちょっともうペイしないですね。30万円でもペイはしないのに。しかし、検閲やら情報統制やら嫌な動きが加速していることもあり、今後は本当にローカルLLMに最終的に頼らざるを得ない世界線になるような気はしています。使えそうなときには積極的に使って感触をつかんでいきたいところです。

AI PCが高すぎる問題も、これはAIバブルが弾けた段階で、投げ売りのターンは来るんじゃないかなぁ…あるいはもっと軽量なモデルでコーディング限定なら頑張れるものが出てくるか。Qwen3.8-Flash-Nextローカル実行環境「Strata」更新。旧世代GeForceやArcに一筋の光 - PC Watchとか注目ですね。まぁとにかく、世の趨勢に負けず抵抗していきたいところです。

<関連記事>

/localllm-ryzen-ai-max-395-128gb-ram-gmktec-evo-x2/

/localllm-ai-qwen3-8-flash-next/

あわせて読みたい

AIバブルが崩壊したら、何がどこまで崩壊するか

/aibubble-houkai/

【AI無課金勢終了のお知らせ】GoogleのGemini Flash-Liteはマジでしょぼいよ

Wed, 14 Oct 2026 00:00:00 +0900

AI無課金勢に悲報。

個人向けGeminiのモデル選択が厳格化無料ユーザーが使えるのは「Flash-Lite」のみに - ITmedia NEWS

これは本当に無課金勢終了のお知らせかも。

これまで、無課金縛りにおいてはGoogleが抜けていました。Gemini Flashが唯一の選択肢であったというがの実感です。俺たちのChatGPTは無課金だと悲しい出力になります。僕は現在、ChatGPTは課金していないので、たまに使うと悲しくなります。これに比べるとGeminiは無料枠でも（というより無料枠なら？）圧倒的じゃないか！となっておりました。

そのGeminiもついにFlash-Liteのみになるようです。現在は昨年末の半額セールにホイホイ釣られたたためにGoogle AI Proを契約しており、Gemini中心生活を余儀なくされているのでよくわかるのですが、このFlash-Liteはとにかく「はやーい！」なのですが、本当にひたすらもう「はやーい！」で終わりです。人工知能というよりは脊髄反射に近い。実際たまに使うことがあるのですが…あるというか、間違えて選択してしまうことがあるのですが、本当に酷いものです。たいていモデルを選択しなおして同じことを聞く感じになります。

まぁいよいよ、AIのコストの高さを誤魔化せなくなってきた、ということでしょうか。まぁだいぶエネルギー使っているようなので仕方ないというのが実情でしょうね。

Googleが黒塗りで報告したデータセンターの水使用量と最大電力容量がコピペによって明らかに - GIGAZINE

最近はAIだけではなくロボットも実はペイしないということが言われていますね。結局エネルギー問題なんですよね。最後は物理。

ロボットは人間の肉体労働の74％をすでに実行可能だが「人間より安く働ける仕事」に限るとわずか0.3％という調査結果 - GIGAZINE

人間は省エネですからね。

思えば、いままでもずっとエネルギーという物理的制約こそが問題でした。AIを無尽蔵に使えるほどのエネルギーがあれば、そもそもAIなんか使う必要もなく僕らはハッピーになれます。電気代やガソリン代が1/100になったらAI革命よりよっぽど本当に革命です。実際には価格は上がる一方ですが…AIばかりが伸びていき、ほかは停滞しています。ついでにAIも高いので、新たなコストがむしろ増えました。

イノベーションとは生活を豊かにするという触れ込みでしたが、まったく逆になっているなら、おかしな話です。僕らは多分、知能についてそもそも過大評価しすぎているのでしょう。過大評価された知能について多少自動化されたところで、サイバー攻撃が盛んになるだけの今日この頃ですね。

まぁ愚痴っても仕方ないのですが、そもそも商用LLMは僕らにとってリスクそのものがあります。たとえば最近こんな記事がありました。

Claudeを日記として使用した女性がAnthropicに内容を通報されて逮捕される - GIGAZINE

女性よりもAIよりも、企業と当局の対応にビビります。

まぁこんな感じなので、ローカルLLMが陽の目を浴びる日も近い、かもしれません。無能でしかも検閲も厳しい商用LLMを使うくらいなら、CPUパワーで動くローカルLLMのほうがマシ、という世界線になりつつある。まぁでも、それで結果的にはよかった、となるんじゃないでしょうか。

<関連記事>

/geminichatgptlocalllm/

/localllm-ai-qwen3-8-flash-next/

Windowsは1GBで天気を教えつつ8GB最適化を目指す

Wed, 26 Aug 2026 00:00:00 +0900

最近、Windows 11が天気を教えるのに1GB超のRAMを消費していたという話が話題になっている。

Windows 11標準の天気アプリがRAMを1GB超消費、広告まで表示する問題が浮上 | ゲームPC速報

1.6GBという報告もあるようだ（「マイクロソフトのWindows 11天気アプリ、1.6GBのRAMを消費し効率化推進に逆行 — BigGo ファイナンス」）。

もはやWindows 7くらいなら動かせそう。

PCメモリ高騰の最中で

いつもの邪悪なMS仕草かもしれないのだが、これは昨今許されない。というのも、MSも加担するAIブームによって、PCメモリが尋常ではないほど高騰しているからだ。これには多くのメーカが悲鳴をあげており、その親玉たるMSも子分の悲鳴を無視できないようだ。推奨要件としてあげていた32GBをひっそり削除し、それどころか8GBでも快適に使えるような最適化を進めるとしていた（「Microsoft、Windows 11の32GB推奨を削除 8GB最適化を進める狙いとは | TECH+（テックプラス）」）。

…だったはずなのに、なんだってこんなことになっているのか。とりあえず天気予報に1.6GB使うのやめればいいんじゃあないのか。こういうことは一事が万事、ありとあらゆるアプリで似たようなことしてんじゃないのか。

…と、誰でも思うだろうし、実際そういう惨状で中の人も個別で問題意識はもってるのではなかろうかと思うのだが、実態としてこの迷走っぷりなので、誰も制御できていないようだ。各部門で異なるKPIをもち、各々が自分ところの最適化だけ考えると、全体としてこうなるのかもしれない。

MSの盛大な巻き込み自爆

この一連のニュースは、帝王MSの盛大な自爆に見える。まずMSとしてはAI PCを謳い文句に推奨要件をさらにガンガン上げてユーザにWindowsでAIさせよう、というものがあったと思われる。AIという一大ブームが、OSの外側で起きていることに危機感を覚えたのだろうか。なんとかOSに引き寄せたかったのかなぁという風に見える。

実際、OS側で制御する技術的な合理性はある。いちいちクラウドに送るのではリアルタイム性の制約があるし、なによりプライバシー問題（もはや今更過ぎるが…）でたびたび炎上している。ユーザにとってもローカルAIのニーズ自体はある。

しかし、AIの処理は重い。これを実現するにはどうしても多くの計算資源が必要だ。しかしその資源が高騰している、AIのせいで。すると、その高いコストに見合った価値が提供されなければいけない。しかしその価値は今のところよくわかっていない。少なくとも、一般的には高スペックとはいえ所詮PCにのせられる程度のCPU/NPU/GPU/RAMで出来る範囲では、よくわからない。

このAI PCで出来ることがない問題は、ローカルAIの性能的な限界はもちろんあるが、そもそもこれまでのクラウドファーストでローカルからあらゆるデータや作業を取り上げてきたことも無関係ではないだろう。その割に何故かPCの推奨要件は上がり続けてきたわけだが、それは何に使われていたかといえば、お天気アプリの広告ダウンロードに使われていた。こんな状態でローカルAIは何するんだ？広告の選別か？

ということで、バカ高いうえにそのバカ高い理由がマッチポンプで、しかもできることはよくわからん、という状態では、当然ユーザからそっぽを向かれるわけで、PC業界は今後しばらく停滞するだろう。しかしそれもこれも自業自得という感じはする。

誤算の大元はなんだろか？

しかし、欺瞞とはいえこれまではこれでMSのビジネスがワークしていたのも事実。今回AIブームでそれが破綻しつつあるのだとすれば、誤算の大元はなんなのだろう。

というか、そもそもAIブームが問題なんだろうか？

AIブームは欺瞞を露呈させただけの気もする。お天気アプリが1.6GB使うのはAI関係ないし、そのうちお天気アプリが16GB使うようになったおきに噴出する問題が今起きた、というだけかもしれない。

つまり、ハードウェアの永続的な進歩を前提にしたソフトウェアの腐敗が根幹と思う。それはいつかハードウェアが資源という物理的な限界を迎えるまでのカウントダウンで、ジワジワと我々を蝕むものだった。それをAIが一気に顕在化させた、というのが本当のところに思える。

であれば、ソフト屋のやるべきことは、（資本ではなく）物理による制約の現実を再び直視して、リソースの制約のうえで最高の成果を出すという大昔はやっていたはずのことを、今一度思い出すことだと思うが、なんだか先は遠そうである。

<関連記事>

あわせて読みたい

AI革命で一般ユーザのPCがスペックダウンする謎の技術革新

/ai-spec-down/

あわせて読みたい

DellがAIファーストから方針転換。PCメーカにAIブーム反旗の兆し？

/dell-ai/