ローカル LLM 基盤を Radeon RX9060 XT x2で構築した
投稿
APIコスト削減と自由な実験のため、VRAM 32GBを積んだ自作AIサーバーを構築した。AMD Radeon RX 9060 XTを2枚使い、Ubuntu Server上でOllamaやOpenClaw、SearXNGを連携させた構成だ。自分専用のローカルLLM環境が完成し、今後は具体的なワークフローへの活用を目指す。
〜ときどきメモる備忘録〜
忘れないうちにメモを残そう。特に、ThinkPad T16 GEN4 AMD に限ったことではないけれど、Wi-Fi デバイスが MEDIATEK 7925 の場合には工夫が必要になる。
インストールそのものは Debian 12 と大差ない。既に Windows 11 とのマルチブート環境が構築されているから、Debian 12 をインストールしているパーティション(/ と swap)を一旦削除して空の領域を準備、そこにインストーラーお任せでクリーンインストールした。
通常使用時のダウンロード速度は fast.com で 1 Gbps 程度。リンク速度 1200 Mbps(5.7 GHz)だから全く問題ない。ところが、MT 7925 のドライバーが悪さをして、正しく suspend / hibernate を実行できない問題がある。
試しに Ubuntu 24.04.3 LTS をインストールしてみたところ、suspend / hibernate は正常だけど、ダウンロード速度が 300 Mbps 弱しか出ないという問題があった。
Debian 13 での対応方法としては Framework Community のとおり、根本的な解決じゃないけれど、ノート PC の 蓋を閉じて suspend / hibernate を実行するときは mt 7925 を無効化、蓋を開けて resume するときに mt 7925 を有効化するというのが現実的。firmware が更新されるまでは諦めよう。
具体的には handle_mt7925e.sh を作って suspend / hibernate の度に MT7925 を無効化/有効化するというもの。
sudo mkdir /usr/lib/systemd/system-sleep
cd /usr/lib/systemd/system-sleep
sudo vi handle_mt7925e.sh#!/bin/sh
if [ "${1}" = "pre" ]; then
# about to suspend/hibernate
modprobe -r mt7925e
elif [ "${1}" = "post" ]; then
# about to resume
modprobe mt7925e
fichmod +x handle_mt7925e.sh
これで無事に suspend できるようになった。hibernate は使っていない。
sudo apt install libayatana-appindicator3-1 を実行すると右上の Dropbox アイコンが正しく表示される。sudo apt install nautilus-nextcloud で nextcloud-desktop と併せてインストールした。sudo apt install gnome-shell-extension-manager でインストールした。[Desktop Entry]
Name=Thunderbird
GenericName=Mail Client
Comment=Mozilla Thunderbird Email Client
Exec=/home/hogehoge/Thunderbird/thunderbird/thunderbird %u
Icon=/home/hogehoge/Thunderbird/thunderbird/chrome/icons/default/default256.png
Terminal=false
Type=Application
Categories=Network;Email;
StartupNotify=true
MimeType=x-scheme-handler/mailto;
Linux に限れば今のところ Wi-Fi は Intel が無難かも。MEDIATEC はドライバーの成熟を期待しよう。