ベクトル検索をVPSで動かす

レン

「ベクトル検索」ってよく聞くけど、普通の検索と何が違うの？

プロクラ

普通の検索は、文字が一致するかどうかで探すよね。ベクトル検索は「意味が近いかどうか」で探すんだ。だから「パソコンが重い」で検索して「PCの動作が遅い」という文書を見つけられる。

レン

言葉が違っても見つかるのか！

プロクラ

仕組みとしては、文章をAIで数値の並びに変換しておいて、その数値が近いものを探している。この数値の並びをベクトルと呼ぶんだ。

専用データベースは必要か

件数が数千程度なら、既に使っているデータベースの拡張機能で足ります。専用のものを導入すると、動かす対象がひとつ増え、更新もバックアップも別に面倒を見ることになります。まず手持ちの道具で試し、遅くて困ってから移すほうが、無駄が出ません。

プロクラ

ベクトル検索専用のデータベースもあるけど、個人や小規模なら急いで導入しなくていいよ。PostgreSQLには拡張機能があって、普段のデータと同じ場所でベクトル検索ができる。

• 既存のPostgreSQLで済む: 管理するものが増えず、通常のデータと結合した検索もできる
• 専用データベースが効いてくる: 件数が非常に多い、検索速度が重要、といった段階
• 小規模なうちは、そもそもデータベースを使わずファイルで持つ方法でも動く

VPSでの必要スペック

プロクラ

検索そのものは軽いよ。重くなるのは、文章をベクトルに変換する部分。これを外部APIに任せるならVPSは軽くて済むし、自前のモデルでやるならメモリが要る。

プロクラ

最初から大きく構えず、まずは手持ちのデータベースに拡張機能を入れて試すのがおすすめ。足りなくなってから移行しても遅くないよ。

件数が増えたときに効いてくること

プロクラ

少ない件数なら、全部と突き合わせても一瞬で終わる。件数が増えると、そのやり方では間に合わなくなる。そこで索引を作る仕組みが要るんだ。

• 数百〜数千件: 特別な工夫なしで実用的な速度が出る
• 数万件を超えたあたりから、索引を作ることを検討する
• 索引は「完全に正確な結果」より「十分近い結果を速く」を選ぶ仕組み
• 件数が増えるほど、必要なメモリも増える

言葉が違っても見つかる、の裏側

プロクラ

意味で探せるのは強みだけど、弱点でもあるんだ。型番や固有名詞のような「その文字列そのもの」を探したい場合、意味の近さでは外すことがある。

プロクラ

だから、普通の全文検索と組み合わせるのが実用的だよ。両方で探して結果を混ぜる。片方だけで完結させようとしないのがコツだね。

レン

まず手持ちのデータベースで試す。全文検索と併用する。

更新への向き合い方

元の文書を直したとき、検索用のデータは自動では追随しません。作り直す手順を決めておかないと、古い内容を根拠に答え続ける状態になります。しかも見た目には正常に動いているので、気づくのが遅れます。

プロクラ

資料を更新したら、その断片も作り直す必要がある。ここを忘れると、古い内容がいつまでも検索結果に出てくることになるよ。

• 更新した資料の古い断片を消してから、新しく作る
• 変換に使う方式を変えたら、全部作り直しになる
• どの資料から作った断片かを記録しておくと管理しやすい