wandb

概要

Weights & Biases (wandb) は、豊富な可視化、ハイパーパラメータスイープ、データセットバージョニング、モデルレジストリ、およびコラボレーティブダッシュボードを使用して ML 実験をトラッキングします。ML チーム全体における実験トラッキングの業界標準です。

インストール

uv pip install wandb
wandb login  # authenticate with API key

実験トラッキング

import wandb

wandb.init(project="my_project", config={
    "learning_rate": 0.001,
    "batch_size": 32,
    "architecture": "transformer",
})
for epoch in range(10):
    loss = train_one_epoch()
    wandb.log({"train_loss": loss, "val_loss": val_loss, "epoch": epoch})
wandb.finish()

ハイパーパラメータスイープ

sweep_config = {
    "method": "bayes",
    "metric": {"name": "val_loss", "goal": "minimize"},
    "parameters": {"lr": {"min": 1e-5, "max": 1e-2}},
}
sweep_id = wandb.sweep(sweep_config, project="my_project")
wandb.agent(sweep_id, function=train_function, count=20)

参考資料

• W&B docs
• W&B GitHub