さくらのVPSでローカルLLMを動かす：契約からSSH接続まで

動かせるプランと月額

載るかどうかと月額だけの比較です。速さは測っていないため示していません。他社との比較は事業者別の比較表へ。

1. サーバーを作る（コントロールパネル）

1. 契約時またはOS再インストールの画面で、OSにUbuntu 24.04または22.04を選ぶ。
2. 鍵認証で入る場合は、先にコントロールパネルでSSH公開鍵を登録しておく。サーバーの新規追加時、またはOS再インストール時に、その鍵を選べる。
3. すでに入れたOSの接続設定を変えたいときは、コントロールパネルではなくOSの中で行う。
4. 契約直後に、公式の「初期セキュリティ設定」に沿って、公開鍵認証への限定、rootでのログイン禁止、sudoできる一般ユーザーの作成を済ませる。

2. SSHでつなぐための通信の設定

• コントロールパネルの「パケットフィルター」で、サーバーの外側の通信を制限できる。初期状態でSSHの設定が用意されている。
• パケットフィルターとOSの中のファイアウォールは、両方で許可しないと通信が届かない。公式は、OSの中のファイアウォールを使うなら、パケットフィルターは「利用しない」にするよう勧めている。Ubuntu 24.04では、OSの中のファイアウォールは初期状態で有効になっていない。
• SSHのポート番号を変えたときは、パケットフィルターにも自動では追加されない。指定したポートを自分で許可する。
• パケットフィルターはIPv6に対応していない。1番目のネットワークインターフェースにだけ適用される。
• Ollamaは外に公開せず、SSHトンネルで使う手順を勧めているので、SSH以外のポートは開けなくてよい。

3. つながったら

SSHでサーバーに入れたら、Ollamaのインストール手順の1番から進めます。契約直後のセキュリティ設定はSSHの守り方にまとめています。