自分のVPSでファインチューニングはできるのか

レン

自分の会社の言葉遣いを覚えさせたくて、モデルをファインチューニングしてみたいんだけど、VPSでもできる？

プロクラ

できなくはないけど、まず知っておいてほしいことがあるよ。ファインチューニングは、モデルを動かすだけの処理より、必要な計算もメモリもずっと重いんだ。GPUがほぼ前提になる作業だと考えて。

なぜそんなに重いのか

普段モデルを使うときは、すでに出来上がった数値を使って答えを作るだけです。ファインチューニングは、その数値そのものを少しずつ調整し直す作業で、大量のデータを繰り返し読み込ませながら計算します。読むだけの作業と、書き換えながら読む作業では、必要な計算量が大きく違います。

レン

じゃあVPSでは無理ってこと…？

プロクラ

全部を諦める必要はないよ。実は多くの場合、ファインチューニングをしなくても目的を達成できることが多いんだ。

先に試したい代わりの方法

• 指示文（プロンプト）を工夫する。言葉遣いの例をいくつか見せるだけで改善することが多い
• RAG（資料を検索して答えさせる仕組み）を使う。覚えさせるのではなく、参照させる方法
• 小さい範囲のルールなら、AIの前後に自分でコードを挟んで整える方法もある

プロクラ

この3つで足りないと分かってから、初めてファインチューニングを検討する。順番を守れば、多くの場合はVPSで完結する方法にたどり着けるよ。

どうしても必要になったら

それでも足りない場合は、GPUが使える環境を別に用意し、そこで学習だけを行うという分担が現実的です。学習を終えたモデルを、普段使っているVPSに持ってきて動かす、という形にすれば、常時GPUを借り続ける必要はありません。学習は一時的に、運用は普段のVPSで、という分担です。

• 学習だけをGPU環境で行い、終わったら環境を解約する
• できあがったモデルを、普段のVPSに持ち帰って動かす
• 学習用のデータに、外に出せない情報が混ざっていないか事前に確認する

プロクラ

『覚えさせる』という発想に飛びつく前に、代わりの方法で足りないかを確かめる。この順番さえ守れば、多くの個人開発ではファインチューニングを避けたまま目的を達成できるはずだよ。

レン

学習用のデータは、どれくらいの量があれば足りるの？

プロクラ

そこは目的次第で幅が大きいから、断定はできないよ。ただ、量より質のほうが効くと言われることが多くて、雑多に集めた大量のデータより、目的に合った少量のデータのほうがうまくいくケースもある。まず少量で試してから増やすのが安全だね。

学習に使ったデータの管理

ファインチューニングを行う場合、使った学習データそのものの管理も忘れないでください。どのデータでどのモデルを作ったかを記録しておかないと、あとで『なぜこの答え方をするのか』を追えなくなります。また学習データに機密情報や個人情報が含まれる場合、モデルの中にその情報の痕跡が残る可能性があるため、外部に配布する前提のモデルには特に注意が必要です。

• どの学習データからどのモデルができたかを、対応がわかる形で記録する
• 学習データに含めてよい情報かどうかを、学習前に確認する
• できあがったモデルを外部に渡す予定があるなら、機密情報の混入リスクを特に慎重に見る

レン

常にGPUを借り続けなくても、学習だけ一時的に借りればいいんだね。