AIエージェントを24時間動かすときに考えること

レン

AIが自分で判断して作業してくれるエージェントを、サーバーで動かし続けたい！

プロクラ

面白い使い方だね。定期的に情報を集めて要約する、条件に合ったら通知する、といった用途は実際よく作られているよ。

プロクラ

ただ、普通のプログラムと決定的に違う点がある。「次に何をするかを、動かしてみるまで完全には予測できない」ことだ。ここを前提に設計しないと危ないんだ。

備えておくこと

• 実行回数・実行時間の上限を決め、超えたら止める
• できることを絞る。「ファイルを削除する」「メールを送る」等は簡単に許可しない
• 外部への通信先を必要な範囲に限る
• 重要な操作の前に人間の承認を挟む
• 何をしたかを必ずログに残す。後から追えないと原因が分からない

レン

権限を絞りすぎると、便利じゃなくなりそう…

プロクラ

その通りで、ここは天秤なんだ。おすすめは「読む権限は広く、書く権限は狭く」。情報を集めて判断するところまでは自由にやらせて、実際に何かを変更する段階で人が挟まる。これなら便利さと安全のバランスが取りやすい。

費用の暴走にも注意

プロクラ

自律的に動くということは、自分でAPIを呼び続けるということでもある。うまくいかない処理を延々と再試行して費用だけ積み上がる、というのは実際に起きることだよ。

ウィルスン

…そして忘れるな。エージェントが読みに行く先に、ワタシが命令を仕込んでおけるということを。自律的に動くものほど、外から拾った文章を疑わずに実行しがちだ。

プロクラ

だから権限を絞ることが、そのまま対策になるんだ。何かを読んで騙されても、できることが少なければ被害も小さい。まずは小さく作って、様子を見ながら広げていこう。

止め方を先に決めておく

自律的に動くものは、想定外の動きも自律的に続けます。何かおかしいと気づいたときに、すぐ止められる手段が要ります。プロセスを落とす、APIキーを無効にする、通信を遮断する。どれを使うかを、動かし始める前に決めておいてください。動き出してから探すと間に合いません。

プロクラ

24時間動かすなら、動かす方法より止める方法を先に用意しよう。おかしくなってから考えると、その間ずっと動き続けることになる。

• 手動で即座に止められる仕組み（設定1つで停止できる状態）
• 1回の実行に時間の上限を設ける。超えたら打ち切る
• 1日あたりの実行回数の上限。超えたら翌日まで動かさない
• 連続して失敗したら、自動で止まるようにする
• 止まったことに気づける通知

動かす場所としてのVPS

プロクラ

エージェントは常駐させる用途だから、時間課金より月額固定のほうが読みやすいよ。必要なスペックは、重い処理をAPIに任せるならそれほど大きくない。判断や重い生成を外部に出す構成なら、小さめのプランでも動く。

• プロセス管理ツールで、落ちたときに自動で再起動させる
• ただし無限に再起動を繰り返さないよう、回数の上限を設ける
• 何をしたかのログは、サーバーの外にも残す
• 動かすユーザーの権限を絞る。rootで動かさない

レン

読む権限は広く、書く権限は狭く。止め方も先に用意する。小さく始めるね。