今回の課題は、Foundation Model APIを使用して、LLMシステムにおける有害または危険な応答を最小限の労力で防止することです。それでは、利用可能なオプションを検討してみましょう。
オプションA：Foundation Model API上でLlama Guardをホストし、それを使用して安全でない応答を検出する。Llama Guardは、有害または安全でないコンテンツを検出するように設計された、安全性を重視したモデルです。Foundation Model API（Databricksサービス）を介してホストすることで、既存のシステムとシームレスに統合され、最小限の設定（デプロイとチェック手順のみ）で済み、プロビジョニングされたスループットを活用してパフォーマンスが向上します。
Databricks のリファレンス: 「Foundation Model API は、Llama Guard のような安全モデルをホストして出力を効率的にフィルタリングすることをサポートしています」（「Foundation Model API ドキュメント」、2023 年）。
オプション B: テキストを返す前に安全でないコンテンツを検出するために、チェーンにいくつかの LLM 呼び出しを追加します。追加の LLM 呼び出し (たとえば、LLM に毒性を分類するように促す) を使用すると、レイテンシ、複雑さ、および労力 (プロンプトの作成、ロジックの連鎖) が増加し、専用の安全モデルのような特異性がありません。
Databricks リファレンス：「アドホックな LLM チェックは、専用に構築された安全ソリューションよりも効率が低い」（「Databricks を使用した LLM アプリケーションの構築」）。
オプション C: 入力と出力に正規表現を追加して、安全でない応答を検出します。正規表現は単純なパターン (冒涜的な言葉など) を検出できますが、微妙な有害性 (皮肉、文脈依存の危害など) には対応できず、ルールの維持と更新にかなりの手作業が必要になります。
Databricks リファレンス：「正規表現ベースのフィルタリングは、複雑なセキュリティ要件には限界がある」（「Generative AI Cookbook」）。
オプションD：ユーザーに安全でない応答を報告するよう求める
ユーザーからの報告は事後対応型であり、予防的ではないため、システムではなくユーザーに負担をかける。また、危険な出力を事前に制限するものではなく、フィードバック処理に余分な労力が必要となる。
Databricksの参考資料：「ユーザー主導の監視よりも、事前対策型のガードレールが推奨されます」（「Databricks生成AIエンジニアガイド」）。
結論：オプションA（Foundation Model API上のLlama Guard）は、Databricksのインフラストラクチャを活用してシームレスなセキュリティ統合を実現する、最も労力が少なく効果的なアプローチです。