VPSでAI APIを使ったBotを24時間動かす

レン

AIを使ったDiscord Botを作ったんだ！これを24時間動かしたい！

プロクラ

いいね、それはVPSがぴったりの用途だよ。自宅PCをつけっぱなしにする必要がなくなるし、停電やネット切断の影響も受けにくい。

レン

スペックはどれくらい要る？

プロクラ

AI処理そのものはAPI側（OpenAIやAnthropicのサーバー）で行われるから、VPS側は軽くていいんだ。1GB〜2GBもあれば十分動くことが多いよ。ローカルLLMと違って、VPSは「APIを呼んで結果を受け取るだけ」の役目だからね。

APIキーの扱いに注意

ウィルスン

フフフ…APIキーか。それはワタシにとって「他人の財布」そのものだ。盗めば、キミの請求で好き放題AIを使える。GitHubに上げたり、コードに直書きしたりしてくれると助かるのだがな。

レン

請求がぼくに来るのか…！それは怖い！

プロクラ

だからAPIキーは環境変数（.envファイル）に置いて、コードには書かない。.envは必ず.gitignoreに入れる。この2つは絶対に守ろう。

コストの暴走を防ぐ

• APIの利用上限額を設定する（多くのサービスに上限設定機能がある）
• Bot側でも呼び出し回数を制限する（無限ループでAPIを呼び続ける事故を防ぐ）
• ログを残し、想定外の呼び出しがないか定期的に確認する
• サーバーが常時稼働する分、AIの費用も常時発生しうることを意識する

プロクラ

常駐させるということは「動き続ける＝課金され続ける」ということでもある。最初に上限を決めておくと安心して運用できるよ。

落ちても戻る形にする

プロクラ

24時間動かすなら、落ちない前提ではなく、落ちても戻る前提で作ろう。ネットワークの瞬断や、相手側の一時的な不調は必ず起きるからね。

• プロセス管理ツールで、停止したら自動で再起動する
• サーバー再起動後も自動で立ち上がるよう設定しておく
• APIの呼び出しが失敗したときの再試行は、回数の上限を必ず決める
• 再試行の間隔を少しずつ広げる（すぐに叩き直さない）
• 動いていることを外から確認できるようにしておく

利用者からの入力を疑う

ウィルスン

…そのBot、誰でも話しかけられるのだったな。ならばワタシは、指示のように読める文章を投げるだけでよい。

プロクラ

そこは備えが要るところだよ。誰でも入力できるBotは、そのままAIへの入口になる。渡す前に長さを制限する、使える機能を絞る、返ってきた内容をそのまま実行しない。この3つは最低限入れておこう。

• 1人あたりの利用回数に上限を設ける
• 入力の長さに上限を設ける（長文をそのまま渡すと費用にも響く）
• AIの返答を、そのままコマンドや外部への送信に使わない
• 誰が何を送ったかを記録しておく

レン

鍵は環境変数、上限は先に決める、落ちても戻るようにする。