注:このセクションには、同じシナリオと問題に関する複数の質問セットが含まれています。各質問には、問題に対する固有の解決策が提示されています。提示された解決策が、提示された目標を満たしているかどうかを判断する必要があります。セット内の複数の解決策が問題を解決できる場合もあります。また、セット内のどの解決策も問題を解決できない場合もあります。
このセクションの質問に回答すると、前のセクションに戻ることはできません。そのため、これらの質問は復習画面には表示されません。
画像アップロードを受け付け、抽出した画像テキストを使用して応答を生成する、マルチモーダルなAI生成モデルをお持ちです。
ユーザーが安全でない画像をアップロードしたり、モデルを操作するための隠された指示を画像に埋め込んだりできることが分かります。
リスクを軽減するための対策を実施する必要があります。
解決策:ドキュメントにプロンプトシールドを設定します。
これは目標を達成していると言えるでしょうか?
正解:B
The solution does not fully meet the goal. A prompt shield for documents is the correct control for the embedded-instruction portion of the scenario. Microsoft defines Prompt Shields as protection against prompt manipulation, including attacks embedded in third-party or document-like content that is supplied to a generative model. OCR-extracted text from uploaded images is untrusted contextual content, so document attack protection is appropriate for detecting hidden instructions that attempt to override the model's intended behavior.
However, the scenario contains two separate risks: unsafe image uploads and hidden instructions embedded in images. Prompt Shields for documents address indirect prompt injection, but they do not classify or block harmful visual content in the uploaded image itself. Azure AI Content Safety image moderation is the control that scans images for harmful content categories such as sexual content, violence, hate, and self-harm with severity levels that can be used for blocking decisions.
Therefore, document prompt shielding alone is incomplete. A complete mitigation would combine image moderation for unsafe images with Prompt Shields for document attacks, and optionally Spotlighting for lower-trust third-party content. Reference topics: Content Safety image moderation, Prompt Shields, document attacks, indirect prompt injection, and multimodal safety.