VPSに自分専用のAIチャット環境を作る

レン

AIをVPSで動かすとして、使うときはどうやって操作するの？毎回SSHでログイン？

プロクラ

そこでOpen WebUIのようなツールが出てくるんだ。ブラウザから使えるチャット画面をVPS上に立てられる。見た目は一般的なAIチャットサービスとそっくりで、スマホからも使えるよ。

レン

自分専用のAIチャットサービスが作れるってこと！？

プロクラ

そういうこと。バックエンドをOllamaにすればローカルLLM、外部APIにつなげばそれも使える。複数のモデルを切り替えて使う、みたいなこともできるよ。

インターネットに公開するなら必須の対策

この種のツールは、初期状態では誰でも使える前提で作られていることがあります。そのまま公開すると、見つけた誰かが自由に使い、その処理の費用はこちらに来ます。認証をかけるか、そもそも公開せずVPN越しに使う。後者のほうが確実で、手間も少なく済みます。

ウィルスン

…待て。それをそのままインターネットに公開するつもりか？認証もかけずに置かれたAIチャット画面は、ワタシにとってタダで使える計算資源だ。見つけ次第、使い倒させてもらう。

レン

勝手に使われちゃうの！？API料金もぼく持ちなのに！

プロクラ

そこが一番の落とし穴なんだ。AIチャット環境を認証なしで公開すると、第三者に使われてAPI料金だけ請求される事故が起きうる。必ず守りを固めてから公開しよう。

• ログイン認証を必ず有効にする（初期設定のまま公開しない）
• 可能なら接続元IPを制限する、またはVPN経由でのみアクセスする
• HTTPSを設定する（やり取りする内容を盗聴されないように）
• そもそも公開せず、SSHポートフォワードで自分だけが使う構成にするのも有力

プロクラ

一番安全なのは最後の「公開しない」構成だね。自分だけが使うなら、わざわざインターネットに晒す必要はないんだ。

必要なスペックの目安

プロクラ

必要な容量は、どこで答えを作るかで大きく変わるよ。画面を出す部分自体は軽いんだ。

• 外部APIにつなぐ構成: 画面と設定を持つだけなので軽い。小さめのプランでも動く
• 自前のモデルを動かす構成: モデルをメモリに載せるため、容量が要る
• モデルを小さく変換したものを使えば、必要な容量は下がる
• 複数人で使うなら、同時に処理が走る前提で余裕を見る

公開しない構成にする

プロクラ

自分だけが使うなら、インターネットに出す必要はないよ。手元から安全に繋ぐ方法がいくつかある。

• SSHのポート転送を使い、手元のブラウザから繋ぐ
• 自分専用のVPNを立てて、その中でだけ見えるようにする
• どうしても公開するなら、ログイン認証・接続元の制限・HTTPSをすべて有効にする
• 初期設定のまま公開しない。作った直後が一番危ない

プロクラ

「あとで認証をかけよう」と思って立てた画面が、その日のうちに見つかる。公開する前に守りを固める、という順番だけは守ろう。

レン

自分専用なら、そもそも公開しない。これが一番安全なんだね。