MLX Apple Silicon スキル

「統一メモリとは、GPU↔CPU間のデータ転送がないということ。配列は共有メモリ内に存在します。」

Trit: +1 (PLUS - 生成的) Color: Warm (楽観的/高速)

概要

MLX は Apple Silicon 用の Apple の ML フレームワークです:

• 統一メモリ: GPU↔CPU 間のデータ転送がない
• 遅延評価: 必要な計算のみを実行
• Metal バックエンド: ネイティブ GPU アクセラレーション
• 4ビット量子化: モデルサイズが75%削減

MLX-LM は高レベルの LLM API を提供します。

クイックスタート

# インストール (macOS Apple Silicon)
pip install mlx mlx-lm

# インストール (Linux CUDA - v0.28+)
pip install "mlx[cuda]"

# テキスト生成
mlx_lm.generate --model mlx-community/Mistr

...