VPSのローカルLLMを、エディタのコーディング補助に使う（Continue）

Ollamaを外に公開せず、SSHの通り道を借ります。手元のPCで、次を実行したままにします。

ssh -N -L 11434:localhost:11434 ユーザー名@サーバーのIPアドレス

これで、手元の http://localhost:11434 が、VPSのOllamaにつながります。トンネルを閉じると、エディタからは使えなくなります。

エディタの拡張機能の検索で、「Continue」を探して入れます。入れ方の詳細は、公式のドキュメントで確認してください。

Continueの設定ファイル（config.yaml）に、 Ollamaのモデルを書きます。接続先（apiBase）は、 トンネルの出口である http://localhost:11434 にします。 モデルの名前は、VPSで取得した名前と同じにします。

name: My Config
version: 0.0.1
schema: v1

models:
  - name: VPSのモデル
    provider: ollama
    model: 取得したモデルの名前（例: llama3.2:3b）
    apiBase: http://localhost:11434

Ollamaのモデルは、ツールの使用や画像入力などの機能が、通常は自動で検出されます （公式の説明）。カスタムの名前を付けたモデルで、機能が効かないときは、公式のcapabilitiesの書き方を確認してください。

Continueは、ほかのOllama向けのツールより長い会話の長さ（コンテキスト長）を、標準で使うことがあります （公式の説明）。そのため、別のツールでは動くモデルが、このエラーで止まることがあります。 そのときは、contextLength を下げます。

models:
  - name: VPSのモデル
    provider: ollama
    model: 取得したモデルの名前
    apiBase: http://localhost:11434
    defaultCompletionOptions:
      contextLength: 2048

それでも足りないときは、より小さいモデルに替えるか、メモリの大きいプランに替えます。会話の長さを増やすと、 メモリも増えます（メモリの見積もりツール）。モデルの選び方はプラン診断で、メモリに載るものから探せます。