IS監査担当者が生成型AIモデルの説明可能性を評価する上で最大の課題は、AIが学習を続けるにつれてアルゴリズムの性質が変化することです（選択肢D）。生成型AIモデル、特に深層学習や強化学習などの高度な技術を使用するモデルは、継続的または動的な学習を採用することが多く、その結果、モデルは時間とともに進化します。このような適応性により、ロジック、パラメータ、または意思決定経路が継続的な再学習やリアルタイム学習によって変化する可能性があるため、説明可能性が著しく阻害される可能性があります。
ISACAのAdvanced in AI Audit™（AAIATM）学習ガイドでは、「継続的に学習するAIシステムは、その内部表現や推論が導入後に変化する可能性があるため、特定の時点での出力の根拠を完全に把握し説明することが困難になるなど、特有の監査上の課題を提示する」と強調しています。