ローカルLLMやりたくてRyzen AI Max+ 395 + 128GB RAM の GMKtec EVO-X2(30万円)を震えながらポチった

2025年10月29日

ムシャクシャしてポチった。今庶民がギリギリできるローカルLLMの限界を自分の手で試したかった。

欲しくなってしまった

この記事を読んでいたらとてもほしくなったよね。

【西川和久の不定期コラム】Ryzen AI MaxのLLMとAI画像生成の性能は？OCuLinkでどちらも快適に♪「GMKtec EVO-X2」(後編) - PC Watch

Stable Diffusionでお絵かきしたい場合、そのうちにLoRAとかもやりたくなるだろうし、高くてもNVIDIAのグラボで頑張ることになるのではないか。しかしLLMの場合、学習が闇かつ大規模パラメータに勝るものなしという実情がある。すると、学習はともかく推論さえできればいいということで、比較的安価なAMDも選択肢に入る。

とはいえグラボは高いし電気もすごいしこれに見合う基盤PCはそもそも高い。家も狭い。とても手が出ない。そこへ颯爽と登場した俺たちのRyzen AI Max+ 395が当面の覇権なのはそうだろう。大容量VRAMの高級グラボなんてイーロン・マスクにしか買えないという現実の中で、バス幅のあるユニファイドメモリにオフロードすることにより、120BとかそれなりのパラメータのLLMを動かせる。現状庶民ができるのはこれが精一杯だと思う。

30万円の中華なミニPCはかなり勇気のいるところではあるが、待っていてもこれ以上安くなると思えないし、なんならインフレと通貨安で高くなる可能性すらある。128GB RAMだとせいぜい120Bまでが限界だろうが、256GB RAMとか512GB RAMは現状しんどそうだ。まぁ金に糸目を付けなければ現状Mac Studio 512GB RAMなるものもあるが……。

150万円はいや、さすがに。震える。512GBだと671Bのやつも乗るんだろうね。

これを見た後にGMKtexのEVO-X2の30万円を見ると圧倒的に安く感じられる（錯覚）。

GMKtec世界初EVO-X2 AIミニPC AMD Ryzen AI Max+ 395 搭載 128GB LPDDR5+2TB SSD（最大5.1GHz 16C/32T）8000MHz 8TB拡張対応 AI GPU搭載 Radeon 8060S（RDNA3.5/RTX4070超え (白い, 128GB+2TB)

created by Rinker

GMKtec

Amazon

安いのでポチった（錯乱）。

正確には5%クーポンがあったので公式サイトからポチった。注文から10日くらいで届いたかな。

みんな大好きgpt-oss-120bをのせる

とりあえず1日かけて一通りセットアップした。VRAMの割り当てが初期設定だと64GBになっているのだが、BIOSで設定変更することで96GBになる。BIOSはESCキーで入って、それっぽいところから「UMA Frame Buffer Size」なるものを探して設定すればよし。AMDのソフトウェアでも設定変更できる……ことになっているが、実際にやってみたら永遠に設定反映されなかった。AMDェ……。

まぁ色々と苦労しつつ、例によってLM Studioでダウンロードして早速ロードする。コンテクスト長は16384。32768にしたらロードできんかった。

これで読み込んで実行。

35トークン/秒はなかなかでは。チャットとしても全然耐えられる。コンテクストも16384ならそれなりには話せそう。M2 Pro Mac mini(32GB RAM)だとDeepSeekの32Bでも死にそうになりながら数トークン/sだったことを思うと、かなり大きい。そういえばこのMac miniもたしか23万円くらいしたかな……。