DigitalOceanでOllamaを動かしてみる

レン

DigitalOceanって初心者向けの学習コンテンツが多いって聞いたけど、Ollamaを動かすのにも向いてるの？

プロクラ

向いていると思うよ。DigitalOceanはコミュニティ発の解説記事が豊富で、Linuxサーバーの基本操作でつまずいたときに調べやすい。Ollamaのセットアップも、基本はLinuxの操作の延長にあるから、この強みが活きる場面だね。

Dropletのプラン選び

DigitalOceanでは、VPSにあたるサーバーを「Droplet」と呼びます。Basic Dropletはメモリ容量ごとに複数の階層が用意されているので、動かしたいモデルの量子化後のサイズに対して、余裕のある容量を選んでください。他のアプリと同居させる予定があるなら、その分も加えて考える必要があります。

• 軽い量子化モデルから試し、選んだDropletで問題なく動くか確認する
• Webアプリ等と同居させる場合は、その分のメモリも別枠で見積もる
• 足りなければ、上位のDropletへの変更も検討する

レン

GPU Dropletっていうのも見かけたんだけど、あれを使えばもっと速くなる？

プロクラ

GPUを搭載したDropletを別料金で提供している場合もあるけれど、当サイトで比較しているのは一般的なCPU中心のVPSプランだよ。GPUが必要になるほど重い処理をしたいなら、通常のVPSの範囲を超えた選択になる。まずは量子化したモデルをCPUで動かす範囲で満足できるか、試してみるのがおすすめだね。

コミュニティ情報を活用する

プロクラ

セットアップでつまずいたときは、DigitalOceanのコミュニティチュートリアルを検索してみるといいよ。同じような構成で手順を解説している記事が見つかることが多くて、初めての人ほど心強いはずだ。

公開範囲の注意

セットアップに慣れてきても、外部への公開範囲だけは油断しないでください。学習用に手順通り進めた結果、意図せず誰でもアクセスできる状態になっていた、という事故は避けたいところです。個人で試す間は、外部公開せず手元からのアクセスに限定しておきましょう。

プロクラ

分からないことがあれば、コミュニティの記事を頼りながら少しずつ進めていけば大丈夫だよ。

スナップショットを活用する

DigitalOceanにはDropletの状態をまるごと保存できるスナップショット機能があります。Ollamaのセットアップが完了した時点でスナップショットを取っておけば、設定を壊してしまったときや、同じ環境をもう1台作りたいときに、最初からやり直さずに済みます。試行錯誤の多いセットアップだからこそ、うまくいった状態を残しておく価値は大きいです。

• セットアップが一段落したタイミングで、スナップショットを取っておく
• 設定を大きく変える前にも、念のためスナップショットを取る習慣をつける
• スナップショットにも保存容量が使われる点は忘れずに把握しておく

レン

学習コンテンツの充実度を活かしつつ、公開範囲だけは自分でしっかり確認するんだね。