ClawCache Free - LLM コスト追跡 & キャッシング

ClawCache は、LLM API に費やす 1円単位まで追跡 し、レスポンスを自動キャッシュ してコストを削減できるプロダクションレディな Python ライブラリです。

🎯 特徴

💰 コスト追跡

• 自動ログ記録 - すべての LLM API 呼び出しを正確なトークンカウント付きで記録
• 日次 CLI レポート - 支出、節約額、キャッシュ効率を表示
• マルチプロバイダ対応 - OpenAI、Anthropic、Mistral、Ollama など複数のプロバイダに対応
• 2026 年度価格 - 正確なコスト計算のために最新の価格を内蔵

⚡ スマートキャッシング

• 完全一致キャッシング - SQLite を使用（高速、信頼性が高い、ローカル）
• 58.3% のキャッシュヒット率 - 実際のシナリオで実証済み
• 自動節約 - キャッシュされたレスポンスは $0
• 合成キャッシュキー - より高い精度（モデル + 温度 + パラメータ）

📊 実世界でのパフォーマンス

48 個の API 呼び出し による包括的なシミュレーション結果（4 つの一般的なユースケース）：

メトリクス	値
キャッシュヒット率	58.3%
総コスト	$0.0062
節約した API 呼び出し	48 回中 28 回
テスト済みシナリオ	コードレビュー、データ分析、コンテンツ生成、QA サポート

シナリオ別の詳細

シナリオ	呼び出し数	キャッシュヒット数	ヒット率
コードレビュー	12	7	58.3%
データ分析	12	8	66.7%
コンテンツ生成	12	7	58.3%
QA サポート	12	6	50.0%

🚀 クイックスタート

インストール

pip install clawcache

基本的な使い方

from clawcache.free.cost import async_monitor_cost
from clawcache.free.cache_basic import BasicCache

# キャッシュを初期化
cache = BasicCache()

# LLM 関数をデコレート
@async_monitor_cost
async def my_llm_call(prompt, model="gpt-4-turbo"):
    # まずキャッシュを確認
    cached = await cache.aget(prompt, model=model)
    if cached:
        return cached.content
    
    # 実際の API 呼び出しを実行
    response = await openai.ChatCompletion.acreate(
        model=model,
        messages=[{"role": "user", "content": prompt}]
    )
    
    # レスポンスをキャッシュ
    await cache.aset(prompt, response, model=model)
    return response

# 使用
result = await my_llm_call("量子コンピュータについて説明してください")

コストレポートを表示

ClawCache はすべての LLM 支出を自動で追跡します：

# 本日の詳細コストレポートを確認
clawcache --report

# 出力には以下が含まれます：
# - 本日の支出額
# - キャッシュによる節約額
# - 総 API 呼び出し数
# - キャッシュヒット率
# - 効率メトリクス

✨ 機能

コスト追跡とモニタリング

• ✅ 自動コストログ - すべての API 呼び出しをタイムスタンプ、モデル、トークン数、コストと共に追跡
• ✅ 日次 CLI レポート - 支出、節約額、効率メトリクスを表示
• ✅ 正確なトークンカウント - 利用可能な場合は tiktoken を使用
• ✅ マルチプロバイダ対応 - OpenAI、Anthropic、Mistral、Ollama など

スマートキャッシング

• ✅ 完全一致キャッシング - SQLite ベース（高速で信頼性が高い）
• ✅ 合成キャッシュキー - プロンプト + モデル + パラメータでキャッシュ
• ✅ 非同期対応 - 完全な async/await 互換性
• ✅ 自動節約 - キャッシュされたレスポンスは $0

セキュリティと信頼性

• ✅ セキュア - Pickle はオプト式（デフォルトで無効）
• ✅ 並行処理対応 - SQLite WAL モード
• ✅ クロスプラットフォーム - Windows、macOS、Linux

🔒 セキュリティ

ClawCache はセキュリティを重視しています：

• Pickle オプト式 - デシリアライゼーションはデフォルトで無効（RCE を防止）
• SQLite WAL モード - 安全な並行アクセス
• ファイルロック - ログ整合性のためのクロスプラットフォームファイルロック

📖 設定

環境変数で ClawCache の動作をカスタマイズできます：

export CLAWCACHE_HOME=/path/to/cache  # デフォルト: ~/.clawcache

キャッシュキーの詳細度

ClawCache は、より高い精度のための合成キャッシュキーに対応しています：

# プロンプト + モデル + 温度でキャッシュ
await cache.aset(
    prompt, 
    response, 
    model="gpt-4-turbo",
    temperature=0.7
)

サポート対象モデル（2026 年度価格）

モデル	入力（$/100万トークン）	出力（$/100万トークン）
GPT-4 Turbo	$10.00	$30.00
GPT-3.5 Turbo	$0.50	$1.50
Claude 3.5 Sonnet	$3.00	$15.00
Claude 3 Haiku	$0.25	$1.25

💡 ユースケース

1. コードレビューアシスタント

@async_monitor_cost
async def review_code(code_snippet):
    prompt = f"このコードをバグについてレビュー: {code_snippet}"
    return await llm_call(prompt, model="gpt-4-turbo")

2. データ分析

@async_monitor_cost
async def analyze_data(dataset):
    prompt = f"このデータセットを分析: {dataset}"
    return await llm_call(prompt, model="claude-3-5-sonnet")

3. コンテンツ生成

@async_monitor_cost
async def generate_content(topic):
    prompt = f"以下についてのブログ記事を書いてください: {topic}"
    return await llm_call(prompt, model="gpt-3.5-turbo")

📈 コスト削減の見積もり

典型的な使用パターンに基づいています：

• ClawCache なし - 48 回の呼び出しで $0.0062
• ClawCache あり - 初回実行で $0.0062、その後の実行で約 $0.0026（58% 削減）
• 年間見積もり - 月 10,000 回の呼び出しの場合 → 年間 $3,600 削減

⭐ Pro バージョン準備中

さらなる節約と洞察を求めていますか？ClawCache Pro には以下が含まれます：

• 🔮 セマンティックキャッシング - 類似クエリに対応（より高いヒット率！）
• 📊 高度な分析 - 詳細なコスト分析とトレンド
• 📈 ビジュアルレポート - 美しいグラフとチャート
• 🚀 ソーシャル共有 - Twitter、LinkedIn、Molbook で自動生成チャート付きで共有
• ☁️ クラウド同期 - デバイス間でキャッシュを同期
• 🎯 チーム分析 - チーム全体のコスト追跡

無料版 - CLI レポート付きコスト追跡 + 完全一致キャッシング
Pro版 - チャート付きソーシャル共有 + セマンティックキャッシング + 高度な分析を追加

詳細はこちら

🤝 貢献

貢献を歓迎します！以下の手順に従ってください：

1. リポジトリをフォーク
2. フィーチャーブランチを作成
3. 新機能のテストを追加
4. プルリクエストを送信

📄 ライセンス

MIT ライセンス - 詳細は LICENSE を参照してください

🔗 リンク

• ウェブサイト - clawcache.com
• GitHub - github.com/AbYousef739/-clawcache-free
• ドキュメント - docs.clawcache.com

---

AI コミュニティのために ❤️ で作成されました

コストを節約しましょう。支出を追跡しましょう。もっと良いものを作りましょう。