自分の資料を検索できるAIを自前で作る（RAG）

レン

自分が書いたメモや資料に対して、AIに質問できるようにしたいんだけど…

プロクラ

それはRAGという仕組みでできるよ。モデルを学習し直す必要はなくて、「質問に関係しそうな部分を資料から探して、それをAIに渡して答えさせる」という方法なんだ。

レン

AIに全部覚えさせるんじゃないんだ？

プロクラ

覚えさせる（学習し直す）のは高くつくし、資料を更新するたびにやり直しになる。RAGなら資料を差し替えるだけで済むから、個人が扱うにはこちらが現実的だよ。

動きの流れ

• 1. 資料を適当な長さに分割しておく
• 2. 各断片を「意味を表す数値の並び」に変換して保存する（埋め込み）
• 3. 質問が来たら、質問も同じ方法で数値化する
• 4. 数値が近い＝意味が近い断片を探し出す
• 5. 見つけた断片と質問を一緒にAIへ渡し、それをもとに答えさせる

VPSで動かす場合

プロクラ

構成の分かれ目は、5番の「答えを作る部分」をAPIに任せるか、自前のモデルでやるかだよ。APIに任せるなら、VPS側は検索する部分だけなので驚くほど軽い。メモリ2GB程度から始められる。

• 埋め込みの保存先: 専用のベクトルデータベースもあるが、小規模ならPostgreSQLの拡張機能でも十分
• 資料が数百件程度なら、特別な工夫なしで実用的な速度が出る
• 全文検索と組み合わせると、固有名詞の検索精度が上がる

うまくいかないときに見る場所

プロクラ

答えがおかしいとき、原因はAIではなく「探す部分」にあることが多いよ。関係ない断片ばかり渡していれば、どんなに賢いAIでも正しく答えられない。まず、質問に対してどの断片が選ばれたかを確認してみて。

プロクラ

あと、分割の仕方も効くよ。細かすぎると文脈が失われ、大きすぎると関係ない情報が混ざる。ここは実際の資料で試しながら調整する部分だね。