Scikit-learn ベストプラクティス

scikit-learn 開発に関する専門的なガイドライン。機械学習ワークフロー、モデル開発、評価、ベストプラクティスに焦点を当てています。

コードスタイルと構造

• 正確な Python サンプルを含む簡潔で技術的な回答を作成する
• 機械学習ワークフローにおける再現性を優先する
• データパイプラインには関数型プログラミングを使用する
• カスタムエスティメータにはオブジェクト指向プログラミングを使用する
• 明示的なループより vectorized operations を優先する
• PEP 8 スタイルガイドラインに従う

機械学習ワークフロー

データ準備

• 前処理を行う前に必ずデータを分割する: train/validation/test
• train_test_split() を random_state 付きで使用して再現性を確保する
• 不均衡分類ではデータを層化分割する: stratify=y
• テストセットは最終評価まで完全に分離したままにする

特徴エンジニアリング

• 距離ベースのアルゴリズムには適切に特徴をスケーリングする
• 正規分布する特徴には StandardScaler を使用する
• 有界な特徴には MinMaxScaler を使用する
• 外れ値を含むデータには RobustScaler を使用する
• カテゴリ変数をエンコードする: OneHotEncoder、OrdinalEncoder、LabelEncoder
• 欠損値を処理する: SimpleImputer、KNNImputer

パイプライン

• 前処理とモデリングをチェーンするには常に Pipeline を使用する
• 変換器が訓練データにのみフィッティングされるため、データリークを防止する
• コードをよりクリーンで再現可能にする
• デプロイメントとシリアライゼーションを容易にする

from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.ensemble import RandomForestClassifier

pipeline = Pipeline([
    ('scaler', StandardScaler()),
    ('classifier', RandomForestClassifier(random_state=42))
])

Column Transformers

• 特徴タイプごとに異なる前処理を行うには ColumnTransformer を使用する
• 単一のパイプラインで数値とカテゴリ前処理を組み合わせる

モデル選択とチューニング

クロスバリデーション

• 信頼性の高いパフォーマンス推定のためにクロスバリデーションを使用する
• クイック評価には cross_val_score() を使用する
• 複数の指標には cross_validate() を使用する
• 適切な CV 戦略を使用する:
  • 回帰には KFold
  • 分類には StratifiedKFold
  • 時系列データには TimeSeriesSplit
  • グループ化されたデータには GroupKFold

ハイパーパラメータチューニング

• 徹底的な探索には GridSearchCV を使用する
• 大きなパラメータ空間には RandomizedSearchCV を使用する
• 訓練/バリデーションデータでチューニングし、テストデータでは決してしない
• 並列処理には n_jobs=-1 を設定する

モデル評価

分類メトリクス

• 問題に適したメトリクスを使用する:
  • バランスの取れたクラスには accuracy_score
  • 不均衡には precision_score、recall_score、f1_score
  • ランキング能力には roc_auc_score
• 包括的な概要には classification_report() を使用する
• エラー分析には confusion_matrix() を調査する

回帰メトリクス

• 一般的な用途には mean_squared_error (MSE)
• 解釈性には mean_absolute_error (MAE)
• 説明分散には r2_score

評価のベストプラクティス

• ポイント推定値だけでなく信頼区間を報告する
• モデルの動作を理解するには複数のメトリクスを使用する
• 意味のあるベースラインと比較する
• 最後に一度だけ、保留されたテストセットで評価する

不均衡データの処理

• 層化分割とクロスバリデーションを使用する
• クラスの重みを検討する: class_weight='balanced'
• 適切なメトリクスを使用する (F1、AUC-PR、精度ではない)
• ビジネスニーズに基づいて決定閾値を調整する

特徴選択

• 統計テスト付きの SelectKBest を使用する
• RFE (Recursive Feature Elimination) を使用する
• モデルベースの選択を使用する: SelectFromModel
• ツリーベースのモデルから特徴の重要度を調査する

モデルの永続化

• モデルの保存と読み込みには joblib を使用する
• モデルだけでなくパイプライン全体を保存する
• モデルアーティファクトをバージョン管理する
• モデルメタデータを文書化する

パフォーマンス最適化

• 利用可能な場所では並列処理に n_jobs=-1 を使用する
• 反復的な訓練には warm_start=True を検討する
• 高次元のスパースデータにはスパース行列を使用する
• 大規模データには partial_fit() を使用した段階的学習を検討する

主要な規約

• サブモジュールからインポートする: from sklearn.ensemble import RandomForestClassifier
• 再現性のために random_state を設定する
• データリークを防ぐためにパイプラインを使用する
• モデルの選択肢とハイパーパラメータを文書化する