重い腰をあげて、Ryzen AI MX+395 の入ったGMKtec EVO-X2(128GB版) のLinux化をしました。あんまりUbuntuは入れたくなかったんですが、今回の用途はローカルAIであるため、まぁ色々と皆と合わせたほうがいいだろうな……と。
インストール
久々に使ったTranscendのmicroSDがぶっ壊れていたせいで無駄に苦労しました。中途半端にReadはできるから気づくのに半日かかったよ…。dd コマンドの使い方間違えたかと。
まぁ結局WindowsのRufus - 起動可能なUSBドライブを簡単に作成できますというソフトウェアを使わせていただきました。これ軽量でいいですね。MacでGUIアプリだとbalenaEtcher - Flash OS images to SD cards & USB drivesがありますが、前述のとおりmicroSDがぶっ壊れていたのでエラー起こした(アプリ何も悪くない)。
起動後にやるいつものこと
Linux Mint Xfceを入れてからやることあたりも見つつ、まぁいつものことは変わらんだろと一通り入れようとする。
入力方式でアワアワする
リモートデスクトップ環境でUS配列のキーボードを使う予定だったので、US配列でいこうとしたのだけれど、なんだかあまりうまくいかず諦めました。まぁ時間があればチャレンジするかもしれませんが、サーバー用途だしどうせほとんどの操作はSSHだしいいか……。
Waylandの洗礼を受けた気はする。WaylandとIBUSもFcitx5の間でオロオロするだけの日曜日だった。
- ⌨️ Ubuntu 26.04 LTSで日本語入力を快適にする方法!Fcitx5 + Mozcの導入手順と落とし穴 - Kazuki’s Blog
- Ubuntu26.04でfcitx5-mozcの設定 #日本語入力 - Qiita
Wayland対応未だにこんな感じなのか(;´Д`)
とてもEmacsキーバインドやりたいな☺️みたいな雰囲気ではなさそうである。
有線が繋がらないだと…?
ifconfigが使えなかったのでインストール。
sudo apt install net-tools
そして最初無線でやっていたのだが、安定性考えて有線にしようと繋いだらなぜか初期設定がリンクローカルのみ。まぁどうせIPアドレスは自分でいじるつもりではあったけれど、有線は繋いだら即繋がってほしかった。
リモート環境
とにかく早くメインのクライアントから操作したいはやくしたい。ということで何はともあれリモートデスクトップ環境を入れるところから。
あまり使っている人はいないと思うが、個人的にリモートデスクトップはMirror-DTC Home Pageを利用している。個人開発だがクロスプラットフォームでかつ買い切り(重要)でやりたいことが出来るので、大手のTeamViewerとかSplashtopとかより良かった。唯一の懸念は作者さんの引退くらいである(;´Д`)でもなんか、今回クリップボード共有がうまくいかない……。ううん……。あとHHKBからの入力もUS配列だとおかしくて、結局日本語配列にしたよね…。
自動起動アプリケーションの登録悩んだのだが、わかりづらいんだが「設定」の「アプリ」よりインストールアプリを選択すると自動起動するかどうか選べるらしかった。なるほど。
その後SSHを導入。とりあえずこれでCUI/GUIで繋がるようになったので、まぁあとはなんとでもなるだろう。
Strata + Qwen3.8-Flash-Next
とりあえず準備。
sudo usermod -a -G render,video $LOGNAME
strataをインストールする。
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh && sh install.sh
.profileにPATH追加しておく。で、コンソールウィザード起動する。
strata launch
設定何がいいかよくわからんのでオススメされるままに進む。公開だけLAN内を指定する。しばらくしたらインストール完了する。Ctrl-cでコンソールを閉じるが、選択肢でバックグラウンドで動かし続けるのを選べるのでそうする。
で、APIキーを取得。
strata launch --show-key
確認したら、curlする。
curl http://IPアドレス:8080/v1/models \
-H "Authorization: Bearer YOUR_API_KEY"
これでモデル返ってきたらOK。
早速実行してみるかい
Clineで早速試してみる。OpenAIのコンパチとして、URLは/v1つけるの忘れずに、APIキー設定して、なんか適当なタスクを投げる。動いた。
トークンの生成速度を知りたいので、ターミナルで再びモニタする。
strata monitor --url http://127.0.0.1:8080
API Keyがないとrejectされた。ので、~/.profileに以下を追加。
export STRATA_API_KEY="取得したAPIキー"
もっかい実行したら今度はとおる。画面はこんな感じ。

トークン生成は刻々と変わるが、Generatingの瞬間風速で30 tok/sオーバーを見て嬉しく思った。43 tok/sになることも。
CPU速度でこれは出ないはずだが、正直あんまりROCmわかってないのでちゃんとGPUが使われているか心配になったので確認する。
sudo apt update && sudo apt install -y rocm-smi
実行する。
watch -n 0.5 rocm-smi
間欠的だが89%とかまで上がるのでちゃんと使われているんだろう(適当)。
またしばらく試す
とりあえず運用できる状態にはなっただろうか?だいぶチューニングの余地などあると思うのだが、まずは使ってみる。
DeepSeekの料金も馬鹿にならないので、ローカルLLMで出来るところはやっていきたい。しかし電気代と比べるとどうなのかはまだ未知数である。

コメント
コメントは承認後に表示されます。
まだコメントはありません。
コメントを書く