SabaKore

PCが高くて買えなくても始められる：VPSでローカルLLM入門

ローカルLLMは、AIを自分の環境で動かす方法です。データを外に出さず、使うたびの課金もありません。 ただ、本格的に動かせる高性能なPC（とくにGPU付き）は高額になりやすく、「試したいだけ」で買うには重い、という人も多いはずです。 そんなときは、月額のVPSを借りて、試して、合わなければやめるという始め方があります。

  1. 1モデルを決める
  2. 2載るプランを選ぶ
  3. 3契約してSSHで入る
  4. 4Ollamaを入れる
  5. 5トンネルで安全に使う

VPSで、できること・難しいこと

できること

  • 小〜中くらいのモデルとの会話、要約、翻訳、文章の書き換え
  • 自分のデータを外に出さずにAIへ質問する
  • ブラウザのチャット画面や、自分のアプリからAIを呼ぶ
  • 使わなくなったら解約するだけで、片付けが済む

難しいこと

  • 大きなモデルを、速く動かすこと（GPUが無いため）
  • 画像や動画を作るAI
  • 大きなAPIモデルと同じ賢さを求めること
  • 契約・SSH接続・コマンドの入力といった、最初の準備

月いくらから始められるか

小さいモデルなら、安いプランに載ります。いまのデータで、載る最安のプランは次のとおりです（月額払い）。

モデル載る最安のプラン1年続けたら
Llama 3.2 3B3584MB以上¥1,760/月KAGOYA CLOUD VPS・4GB プラン¥21,120
Llama 3.1 8B6554MB以上¥2,936/月ABLENET VPS・8GB プラン（L3）¥35,232

載るかどうかと月額だけの比較で、速さの比較ではありません。「1年続けたら」は月額を12倍した単純計算で、初期費用・ 割引・為替は含みません。使わない月も月額はかかるので、使わなくなったら解約してください。

はじめの3ステップ

  1. 1. いちばん安いプランで、小さいモデルを試す

    まず、上の表の最安プランで、小さいモデルを動かします。月額の負担が小さく、動くか・使えそうかを確かめられます。 事業者ごとの契約の流れは、事業者別の手順にあります。

  2. 2. 足りなければ、1段上のプランへ

    モデルが重い、会話が長いと途中で止まる、といったときは、メモリの大きいプランに替えます。 事業者によっては、契約したまま上位プランへ変更できます。モデル別の選び方の目安も参考にしてください。

  3. 3. 使わなくなったら、解約する

    月額で借りているので、やめればそれ以上の費用はかかりません。モデルのファイルも、サーバーごと消えます。

コマンド付きの手順を見る →公式サイトへ →広告

よくある不安

プログラミングができなくても大丈夫ですか

コマンドをコピーして実行できれば進められます。手順ページのコマンドは、そのまま貼り付けて使える形で書いています。意味を知りたくなったら、姉妹サイトのLinux入門が助けになります。

失敗してお金が無駄になりませんか

VPSは月額で借りるので、使わなくなったら解約すれば、それ以上の費用はかかりません。最初は、最も安いプランで小さいモデルを試してください。事業者によっては、お試し期間もあります（条件は各社の公式でご確認ください）。

ChatGPTのような速さで使えますか

GPU（画像処理用の部品）の無いVPSでは、速くはなりません。当サイトは速度を測っていないため、何秒かかるかは示せません。まず小さいモデルで試し、自分の用途で待てる速さかを確かめてください。

高性能なPCを買ったほうがいい場合は

大きなモデルを速く動かしたい、画像生成を使いたい、といった場合は、GPUのあるPCや専用の環境のほうが向いています。ここで案内しているのは、CPUとメモリだけで動かす範囲です。

コマンドに不安があるなら（姉妹サイト）

姉妹サイトの、この記事と相性のいいページです。