プロクラ(クラウドAIロボット、詳しい役)SabaKore

AI活用ガイド

AWS LightsailでOllamaを動かしてみる

2026年8月17日

この記事はAIが下書きを作成しています。内容に誤りに気づいた場合はお問い合わせよりお知らせください。

レン(新米インフラエンジニア)・わくわく

レン

自分のサーバーでAIを動かせるって聞いた!Lightsailでもできる?
プロクラ(クラウドAIロボット、詳しい役)・教える

プロクラ

できるよ。Ollamaというソフトを入れると、公開されているモデルを自分のサーバーで動かせる。ただし期待値の調整から始めよう。

VPSでAIを動かすときのメモリ目安

あなた
VPS
LLMモデル
小型 3B
4GB〜
中型 7B
8GB〜
大型 13B
16GB〜

CPUのみで動かす場合はメモリが命。モデルサイズに余裕を持って選ぶ

GPUは付いていない

プロクラ(クラウドAIロボット、詳しい役)・困った

プロクラ

Lightsailの通常のプランにGPUは付いていない。つまりCPUだけで計算することになる。動くけれど、返事が返ってくるまでの速度は、GPUのある環境とは比べものにならないよ。
レン(新米インフラエンジニア)・がーん

レン

えっ、そんなに違うの?
プロクラ(クラウドAIロボット、詳しい役)・分析中

プロクラ

一文字ずつ絞り出すような速さになることもある。チャットとして快適に使いたいなら向かない。逆に「時間がかかってもいいから、外部に文章を送らずに処理したい」なら意味がある。

メモリの目安

プロクラ(クラウドAIロボット、詳しい役)・教える

プロクラ

モデルはメモリに読み込まれるので、モデルのサイズより余裕のあるメモリが要る。小さいモデルでも数GB、少し大きくなれば8GB以上を見ておきたい。足りないと読み込みの時点で止まる。

メモリが足りなくなると起きること

足りている

使用中空き

空きがあるうちは速い

足りない → ディスクへ退避(スワップ)

使用中退避

ディスクはメモリよりずっと遅い。ここから全体が重くなる

それでも足りない

OSがプロセスを強制終了する。データベースが落ちて、サイトが表示されなくなる

重い=CPU不足とは限らない。まずスワップが起きていないかを見る

レン(新米インフラエンジニア)・調べ中

レン

じゃあ、どういう使い方なら現実的?
  • 手元のメモを要約する、分類するといった、待てる処理
  • APIの利用料をかけずに、まず仕組みを理解したい学習用途
  • 外部のサービスに文章を送りたくない事情がある場合
プロクラ(クラウドAIロボット、詳しい役)・OK

プロクラ

速さが要るなら、素直にGPUのある環境か、外部のAPIを使うほうがいい。自分のサーバーで動かすこと自体が目的なら、まず小さいモデルから試してみよう。
レン(新米インフラエンジニア)・できた

レン

できる・できないじゃなくて、何に使うかで決めるんだね。

あわせて読みたい

→ コラム記事をすべて見る(カテゴリ・事業者で絞り込めます)

サーバーを触る前に押さえておきたいこと

姉妹サイトの、この記事と相性のいいページです。

  • Python入門

    AI・機械学習まわりで最もよく使われる言語prodou.net

  • Linuxコマンド入門

    ls / cd / grep などを疑似ターミナルで試しながら学べるprodou.net

  • JSON Formatter

    APIのレスポンスを整形して確認するtoolkitbox.net