
Explanation:
Microsoft の Azure AI Foundry アプリケーション向け可観測性ガイダンスでは、3 段階の有効化手順が説明されています。まず、デプロイ前に Microsoft Foundry プロジェクト設定でトレースを有効にします。トレースは、アプリケーションの LLM 呼び出しを OpenTelemetry 互換のスパンで計測し、フローの各ステップのタイミング データをキャプチャします。次に、アプリケーションを運用エンドポイントにデプロイして、計測対象のコード パスに実際のトラフィックが流れるようにします。実際の運用トラフィックがないと、観測できるレイテンシ データは存在しません。
3つ目は、Azure MonitorとApplication Insightsを構成して、トレーシングによって出力されるテレメトリを受信、集約、視覚化するようにします。Azure MonitorのメトリックエクスプローラーとApplication Insightsのパフォーマンスビューには、p50、p95、p99のレイテンシ分布が時系列で表示されるため、チームはレイテンシの悪化を特定し、アラートのしきい値を設定できます。この一連の手順(計測、デプロイ、視覚化)は、Microsoftが推奨する、本番環境におけるAIパフォーマンスの可観測性を実現する標準的な方法です。
Microsoft Learn リファレンス トピック: Azure Monitor と Microsoft Foundry Tracing を使用して生成型 AI アプリケーションを監視する
