LM Studio を使用した GrepAI 埋め込み

このスキルは、GrepAI の埋め込みプロバイダとして LM Studio を使用し、ローカルモデルを管理するためのユーザーフレンドリーな GUI を提供します。

このスキルを使用する場合

• グラフィカルインターフェースでローカル埋め込みを使用したい
• 他の AI タスクで既に LM Studio を使用している
• CLI より視覚的なモデル管理を優先する
• モデル間の切り替えを簡単に行いたい

LM Studio とは？

LM Studio は、ローカル LLM を実行するためのデスクトップアプリケーションです：

• 🖥️ グラフィカルユーザーインターフェース
• 📦 モデルのダウンロードが簡単
• 🔌 OpenAI互換 API
• 🔒 100% プライベート、ローカル処理

前提条件

1. lmstudio.ai から LM Studio をダウンロード
2. アプリケーションをインストールして起動
3. 埋め込みモデルをダウンロード

インストール

ステップ 1: LM Studio をダウンロード

lmstudio.ai にアクセスしてプラットフォーム用にダウンロード：

• macOS (Intel または Apple Silicon)
• Windows
• Linux

ステップ 2: 起動とモデルのダウンロード

1. LM Studio を開く
2. Search タブに移動
3. 埋め込みモデルを検索：
   • nomic-embed-text-v1.5
   • bge-small-en-v1.5
   • bge-large-en-v1.5
4. Download をクリック

ステップ 3: ローカルサーバーを起動

1. Local Server タブに移動
2. 埋め込みモデルを選択
3. Start Server をクリック
4. エンドポイントをメモ（デフォルト：http://localhost:1234）

構成

基本構成

# .grepai/config.yaml
embedder:
  provider: lmstudio
  model: nomic-embed-text-v1.5
  endpoint: http://localhost:1234

カスタムポート付き

embedder:
  provider: lmstudio
  model: nomic-embed-text-v1.5
  endpoint: http://localhost:8080

明示的な次元指定

embedder:
  provider: lmstudio
  model: nomic-embed-text-v1.5
  endpoint: http://localhost:1234
  dimensions: 768

利用可能なモデル

nomic-embed-text-v1.5 (推奨)

プロパティ	値
次元	768
サイズ	~260 MB
品質	優秀
速度	高速

embedder:
  provider: lmstudio
  model: nomic-embed-text-v1.5

bge-small-en-v1.5

プロパティ	値
次元	384
サイズ	~130 MB
品質	良好
速度	非常に高速

最適な用途：小規模なコードベース、高速なインデックス作成

embedder:
  provider: lmstudio
  model: bge-small-en-v1.5
  dimensions: 384

bge-large-en-v1.5

プロパティ	値
次元	1024
サイズ	~1.3 GB
品質	非常に高い
速度	低速

最適な用途：最大の精度

embedder:
  provider: lmstudio
  model: bge-large-en-v1.5
  dimensions: 1024

モデル比較

モデル	次元	サイズ	速度	品質
bge-small-en-v1.5	384	130MB	⚡⚡⚡	⭐⭐⭐
nomic-embed-text-v1.5	768	260MB	⚡⚡	⭐⭐⭐⭐
bge-large-en-v1.5	1024	1.3GB	⚡	⭐⭐⭐⭐⭐

LM Studio サーバーセットアップ

サーバーの起動

1. LM Studio を開く
2. Local Server タブに移動（左サイドバー）
3. ドロップダウンから埋め込みモデルを選択
4. 設定を構成：
   • ポート：1234（デフォルト）
   • Embedding Endpoint を有効化
5. Start Server をクリック

サーバーの状態

サーバーが実行中であることを示す緑色のインジケータを探します。

サーバーの検証

# サーバーが応答しているか確認
curl http://localhost:1234/v1/models

# 埋め込みをテスト
curl http://localhost:1234/v1/embeddings \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nomic-embed-text-v1.5",
    "input": "function authenticate(user)"
  }'

LM Studio 設定

推奨設定

LM Studio の Local Server タブ内：

設定	推奨値
ポート	1234
CORS を有効化	はい
コンテキスト長	自動
GPU レイヤー	最大（速度向上用）

GPU アクセラレーション

LM Studio は自動的に以下を使用します：

• macOS： Metal (Apple Silicon)
• Windows/Linux： CUDA (NVIDIA)

メモリと速度のバランスを取るために GPU レイヤーを調整します。

LM Studio をヘッドレスモードで実行

サーバー環境の場合、LM Studio は CLI モードをサポートします：

# GUI なしでサーバーを起動（正確な構文は LM Studio ドキュメントを確認）
lmstudio server start --model nomic-embed-text-v1.5 --port 1234

一般的な問題

❌ 問題： 接続が拒否された ✅ 解決策： LM Studio サーバーが実行されていることを確認：

1. LM Studio を開く
2. Local Server タブに移動
3. Start Server をクリック

❌ 問題： モデルが見つからない ✅ 解決策：

1. LM Studio の Search タブでモデルをダウンロード
2. Local Server ドロップダウンで選択

❌ 問題： 埋め込み生成が遅い ✅ 解決策：

• LM Studio 設定で GPU アクセラレーションを有効化
• より小さいモデルを使用（bge-small-en-v1.5）
• 他の GPU 集約的なアプリケーションを閉じる

❌ 問題： ポートが既に使用中 ✅ 解決策： LM Studio 設定でポートを変更：

embedder:
  endpoint: http://localhost:8080  # 別のポート

❌ 問題： LM Studio が閉じてサーバーが停止 ✅ 解決策： LM Studio をバックグラウンドで実行し続けるか、システムサービスとして実行される Ollama の使用を検討

LM Studio vs Ollama

機能	LM Studio	Ollama
GUI	✅ あり	❌ CLI のみ
システムサービス	❌ アプリ実行必須	✅ バックグラウンドサービス
モデル管理	✅ ビジュアル	✅ CLI
使いやすさ	⭐⭐⭐⭐⭐	⭐⭐⭐⭐
サーバー信頼性	⭐⭐⭐	⭐⭐⭐⭐⭐

推奨： GUI を使用したい場合は LM Studio、常時バックグラウンドサービスが必要な場合は Ollama

LM Studio から Ollama への移行

より信頼性の高いバックグラウンドサービスが必要な場合：

1. Ollama をインストール：

brew install ollama
ollama serve &
ollama pull nomic-embed-text

2. 設定を更新：

embedder:
  provider: ollama
  model: nomic-embed-text
  endpoint: http://localhost:11434

3. 再インデックス：

rm .grepai/index.gob
grepai watch

ベストプラクティス

1. LM Studio を実行し続ける： アプリが閉じるとサーバーが停止
2. 推奨モデルを使用： nomic-embed-text-v1.5 が最良のバランス
3. GPU を有効化： ハードウェアアクセラレーションで高速化
4. インデックス作成前にサーバーを確認： 緑色のステータスインジケータを確認
5. 本番環境では Ollama を検討： バックグラウンドサービスとしてより信頼性が高い

出力形式

LM Studio 設定成功時：

✅ LM Studio 埋め込みプロバイダが構成されました

   プロバイダ: LM Studio
   モデル: nomic-embed-text-v1.5
   エンドポイント: http://localhost:1234
   次元: 768 (自動検出)
   ステータス: 接続済み

   注：埋め込みが機能するには LM Studio を実行し続ける必要があります。