ローカルLLMをVPSで動かす：プランの選び方と導入の流れ

自前のVPSで動かすか、APIを使うか

ローカルLLMは、いつでも得になるわけではありません。向き不向きは、次の4点でほぼ決まります。

• 料金のかかり方：VPSは、使っても使わなくても月額が一定です。APIは使った分だけの従量課金です。 たまにしか使わないならAPIのほうが安く、毎日大量に呼ぶなら固定費のVPSが有利になることがあります。なお、8Bクラスのモデルが載る最安のプランは、月¥2,936からです（ABLENET VPS）。
• データの扱い：自分のサーバーの中で完結するので、社内の文書や個人情報を外のサービスに送らずに済みます。 これがローカルで動かす最大の理由になる場合が多くあります。
• モデルの賢さ：CPUとメモリで動かせる小〜中くらいのモデルは、大きなAPIモデルより得意な範囲が狭くなります。 要約・分類・定型の書き換えなど用途を絞れば実用になりますが、難しい推論や長い文章の生成を任せる用途には力不足なことがあります。
• 手間：APIは契約すればすぐ使えます。VPSは、サーバーの設定・更新・セキュリティを自分で受け持ちます。

APIの料金は、単価と使う量で見積もれます。LLM API Cost Calculator（ToolkITBox）で、使う予定の量から月額を出して、上のVPSの月額と並べてみてください。 データを外に出せない、または使う量が多いときに、VPSが選択肢になります。

動かしたあと：どう使うか

• サーバーの中で試す：ollama run モデル名 で、そのまま会話できます。まずはここで、使えそうかを確かめます。
• 自分のアプリから呼ぶ：Ollamaは、OpenAIのAPIと同じ形式のエンドポイントも持っています。 すでにOpenAI向けに書いたプログラムは、接続先を自分のサーバーに替えるだけで動くことがあります。 詳しくはAPIで呼ぶ手順にあります。外へ公開せず、SSHトンネルで届く範囲に留めてください（手順5）。
• ブラウザのチャット画面で使う：Open WebUIなどを前に置くと、ログイン付きのチャット画面になります。 手順はこちらです。事業者別の構築例はさくらのVPSでの構築例にあります。複数のサービスを組み合わせるときの設定ファイルは、Docker Compose Generator（ToolkITBox）で雛形を作れます。
• 自分の文書に質問する：Open WebUIには、PDFなどを読ませて答えさせる機能があります。手順はこちらです。
• エディタのコーディング補助に使う：拡張機能のContinueから、VPSのモデルを呼べます。手順はこちらです。
• 返ってきたJSONが壊れているとき：LLMの出力は、JSONの形が崩れることがあります。LLM JSON Repair（ToolkITBox）で修復できます。

公開してはいけないもの

Ollamaには認証がありません。待ち受けのポート（11434番）をインターネットに開けると、誰でもあなたのサーバーのCPUとメモリでモデルを動かせます。 結果として、サーバーが重くなる、規約違反の用途に使われる、といった被害につながります。

• 自分だけが使うなら、11434番は閉じたまま、SSHトンネルで届かせる（推奨）。
• どうしても直接つなぐなら、接続元のIPアドレスだけを許可する。許可する範囲は、CIDR Calculator（ToolkITBox）で確かめられます。
• 複数人で使うなら、ログインのある画面かリバースプロキシを前に置く。契約時のパスワードは、Password Generator（ToolkITBox）のように、ブラウザの中だけで作るものを使う。

設定の手順を見る →