web-research-labeler
自律的なウェブ調査ツール — 複数のClaudeエージェントを並列実行して、任意のトピックについてウェブ検索、クローリング、結果のラベリングを行い、Ghost(Postgres)に保存して、リアルタイムのNext.jsダッシュボードで確認できます。
description の原文を見る
Autonomous web research tool — spins up parallel Claude agents to search, crawl, and label web results on any topic, stored in Ghost (Postgres) with a live Next.js dashboard.
SKILL.md 本文
web-research-labeler
任意のトピックについて、並列化されたClaudeエージェントを使用してリサーチを実施します。結果はPostgres(Ghost経由)に保存され、ライブダッシュボードで確認できます。
前提条件
- Ghost CLI がインストールされている(
curl -fsSL https://install.ghost.build | sh) - Ghost データベースが作成されている(
ghost create --name web-research) .envにANTHROPIC_API_KEYとDATABASE_URLが設定されている- Python の依存ライブラリがインストールされている(
pip install -r scripts/requirements.txt) - テーブルが作成されている(
python scripts/setup_db.py)
コマンド
トピックをクロール
python scripts/crawl.py --topic "<topic>" --agents 3 --max-results 50
並列エージェントを起動し、異なる視点(ニュース、学術、実用的など)からウェブ検索を実行して、結果を results テーブルにストリーミング保存します。
結果にラベルを付ける
python scripts/label.py --schema "relevance:high/medium/low, type:article/study/news" --agents 3
並列エージェントが SELECT FOR UPDATE SKIP LOCKED を使用してスキーマに対してラベル未付与の結果を分類し、二重ラベリングを回避します。
ライブダッシュボード
bash scripts/start_dashboard.sh
localhost:3000 でNext.js ダッシュボードを開きます。2秒ごとにデータベースをポーリングし、統計情報、アクティブエージェント、アクティビティログ、ラベルバッジ付きの結果を表示します。
結果をエクスポート
python scripts/export.py # すべてを export.json にエクスポート
python scripts/export.py --labeled-only -o out.json # ラベル付きの結果のみ
python scripts/export.py --topic "coral reef restoration"
結果とそのラベルを JSON ファイルにダンプします。呼び出し元のエージェントが読み込むことができます。
データベースを検査
ghost psql <db-id>
典型的なワークフロー
python scripts/crawl.py --topic "coral reef restoration" --agents 5bash scripts/start_dashboard.sh(別のターミナルで実行)python scripts/label.py --schema "relevance:high/medium/low, type:article/study/news" --agents 3- ダッシュボードでリアルタイムに結果とラベルが表示されるのを確認
python scripts/export.py --labeled-only -o research.json— ダウンストリームで使用するためにエクスポート
ライセンス: MIT(寛容ライセンスのため全文を引用しています) · 原本リポジトリ
詳細情報
- 作者
- shuripurin
- リポジトリ
- shuripurin/crwl
- ライセンス
- MIT
- 最終更新
- 2026/3/27
Source: https://github.com/shuripurin/crwl / ライセンス: MIT
関連スキル
agent-browser
AI エージェント向けのブラウザ自動化 CLI です。ウェブサイトとの対話が必要な場合に使用します。ページ遷移、フォーム入力、ボタンクリック、スクリーンショット取得、データ抽出、ウェブアプリのテスト、ブラウザ操作の自動化など、あらゆるブラウザタスクに対応できます。「ウェブサイトを開く」「フォームに記入する」「ボタンをクリックする」「スクリーンショットを取得する」「ページからデータを抽出する」「このウェブアプリをテストする」「サイトにログインする」「ブラウザ操作を自動化する」といった要求や、プログラマティックなウェブ操作が必要なタスクで起動します。
anyskill
AnySkill — あなたのプライベート・スキルクラウド。GitHubを基盤としたリポジトリからエージェントスキルを管理、同期、動的にロードできます。自然言語でクラウドスキルを検索し、オンデマンドでプロンプトを自動ロード、カスタムスキルのアップロードと共有、スキルバンドルの一括インストールが可能です。OpenClaw、Antigravity、Claude Code、Cursorに対応しています。
engram
AIエージェント向けの永続的なメモリシステムです。バグ修正、意思決定、発見、設定変更の後はmem_saveを使用してください。ユーザーが「覚えている」「記憶している」と言及した場合、または以前のセッションと重複する作業を開始する際はmem_searchを使用します。セッション終了前にmem_session_summaryを使用して、コンテキストを保持してください。
skyvern
AI駆動のブラウザ自動化により、任意のウェブサイトを自動化できます。フォーム入力、データ抽出、ファイルダウンロード、ログイン、複数ステップのワークフロー実行など、ユーザーがウェブサイトと連携する必要があるときに使用します。Skyvernは、LLMとコンピュータビジョンを活用して、未知のサイトも自動操作可能です。Python SDK、TypeScript SDK、REST API、MCPサーバー、またはCLIを通じて統合できます。
pinchbench
PinchBenchベンチマークを実行して、OpenClawエージェントの実世界タスクにおけるパフォーマンスを評価できます。モデルの機能テスト、モデル間の比較、ベンチマーク結果のリーダーボード提出、またはOpenClawのセットアップがカレンダー、メール、リサーチ、コーディング、複数ステップのワークフローにどの程度対応しているかを確認する際に使用します。
openui
OpenUIとOpenUI Langを使用してジェネレーティブUIアプリを構築できます。これらはLLM生成インターフェースのためのトークン効率的なオープン標準です。OpenUI、@openuidev、ジェネレーティブUI、LLMからのストリーミングUI、AI向けコンポーネントライブラリ、またはjson-render/A2UIの置き換えについて述べる際に使用します。スキャフォルディング、defineComponent、システムプロンプト、Renderer、およびOpenUI Lang出力のデバッグに対応しています。