自動化バイアス（自己満足バイアスとも呼ばれる）は、人間が自動化システムに過度に依存し、システムの出力に疑問を抱いたり検証したりしない場合に発生します。この例では、ワープロソフトの自動テキスト修正機能が「ワイト島」ではなく「エイト島」と誤って提案します。複数のUATテスターが誤った提案に気づかずに受け入れてしまうため、AIベースのシステムに依存し、自身の判断力が損なわれてしまうという問題が発生します。
自動化バイアスは、一般的に以下のような場面で見られます。
* テキスト修正システムにおいて、ユーザーが誤った提案を検証せずに受け入れてしまうケース。
* 医療診断AIツールでは、医師がAIの推奨事項に過度に依存する可能性がある。
* 自動運転システムでは、ドライバーが自動化に過度に依存し、重大な状況で反応できなくなる。
* セクション 7.4 - AI ベース システムにおける自動化バイアスのテストでは、自動化バイアスは、人々が AI によって生成された出力を検証せずに受け入れるときに発生し、しばしば誤った決定につながることを説明しています。
ISTQB認定テスターAIテスト学習ガイドからの引用：