Azure AI Gateway

Azure API Management (APIM) を AI Gateway として設定し、AI モデル、MCP ツール、およびエージェントのガバナンスを行います。

APIM をデプロイするには、azure-prepare スキルを使用してください。APIM デプロイメントガイドを参照してください。

このスキルを使用する時期

カテゴリ	トリガー
モデルガバナンス	「セマンティックキャッシング」、「トークン制限」、「AI の負荷分散」、「トークン使用量の追跡」
ツールガバナンス	「MCP のレート制限」、「ツールの保護」、「ツールの設定」、「API を MCP に変換」
エージェントガバナンス	「コンテンツセーフティ」、「ジェイルブレイク検出」、「有害なコンテンツのフィルタリング」
設定	「Azure OpenAI バックエンド を追加」、「モデルを設定」、「AI Foundry モデルを追加」
テスト	「AI Gateway をテスト」、「Gateway 経由で OpenAI を呼び出す」

---

クイックリファレンス

ポリシー	目的	詳細
azure-openai-token-limit	コスト管理	モデルポリシー
azure-openai-semantic-cache-lookup/store	60-80% のコスト削減	モデルポリシー
azure-openai-emit-token-metric	可視化	モデルポリシー
llm-content-safety	セーフティとコンプライアンス	エージェントポリシー
rate-limit-by-key	MCP/ツール保護	ツールポリシー

---

Gateway の詳細を取得

# Gateway URL を取得
az apim show --name <apim-name> --resource-group <rg> --query "gatewayUrl" -o tsv

# バックエンド (AI モデル) をリスト表示
az apim backend list --service-name <apim-name> --resource-group <rg> \
  --query "[].{id:name, url:url}" -o table

# サブスクリプションキーを取得
az apim subscription keys list \
  --service-name <apim-name> --resource-group <rg> --subscription-id <sub-id>

---

AI エンドポイントをテスト

GATEWAY_URL=$(az apim show --name <apim-name> --resource-group <rg> --query "gatewayUrl" -o tsv)

curl -X POST "${GATEWAY_URL}/openai/deployments/<deployment>/chat/completions?api-version=2024-02-01" \
  -H "Content-Type: application/json" \
  -H "Ocp-Apim-Subscription-Key: <key>" \
  -d '{"messages": [{"role": "user", "content": "Hello"}], "max_tokens": 100}'

---

よくあるタスク

AI バックエンドを追加

詳細な手順は references/patterns.md を参照してください。

# AI リソースを検出
az cognitiveservices account list --query "[?kind=='OpenAI']" -o table

# バックエンドを作成
az apim backend create --service-name <apim> --resource-group <rg> \
  --backend-id openai-backend --protocol http --url "https://<aoai>.openai.azure.com/openai"

# アクセス権を付与 (マネージド ID)
az role assignment create --assignee <apim-principal-id> \
  --role "Cognitive Services User" --scope <aoai-resource-id>

AI ガバナンスポリシーを適用

<inbound> 内の推奨ポリシー順序:

1. 認証 - バックエンドへのマネージド ID 認証
2. セマンティックキャッシュルックアップ - AI 呼び出し前にキャッシュを確認
3. トークン制限 - コスト管理
4. コンテンツセーフティ - 有害なコンテンツをフィルタリング
5. バックエンド選択 - 負荷分散
6. メトリクス - トークン使用量追跡

完全な例は references/policies.md を参照してください。

---

トラブルシューティング

問題	解決策
トークン制限 429 エラー	tokens-per-minute を増やすか負荷分散を追加
キャッシュヒット なし	score-threshold を 0.7 に低下
コンテンツの誤検知	カテゴリのしきい値を増加 (5-6)
バックエンド認証 401 エラー	APIM に「Cognitive Services User」ロールを付与

詳細は references/troubleshooting.md を参照してください。

---

リファレンス

• 詳細ポリシー - 完全なポリシー例
• 設定パターン - ステップバイステップのパターン
• トラブルシューティング - よくある問題
• AI-Gateway Samples
• GenAI Gateway ドキュメント

SDK クイックリファレンス

• Content Safety: Python | TypeScript
• API Management: Python | .NET