ケーススタディ
次の質問には次のように答えてください。
米国の地方警察は、ソーシャル メディアのフィード、オンライン マーケットプレイス、その他の公開情報源を監視および分析して、違法行為 (麻薬や盗品の販売など) の証拠を検出する AI システムを調達しました。AI システムは、犯罪を犯した可能性のある個人を特定するために、公開サイトを監視します。法執行機関が保持するデータと個人を相互参照し、過去の犯罪歴、場所、時間、人種、性別などの特定の要因に基づいて、犯罪行為の可能性のパーセンテージ スコアを割り当てます。
警察署は、最終候補 2 社を評価するために、調達プロセスでサードパーティのコンサルタントの支援を得ました。各ベンダーは、システムの精度率、トレーニング データの多様性、システムの仕組みに関する情報を提供しました。コンサルタントは、最初のベンダーのシステムの精度率が高いと判断し、この情報に基づいて、このベンダーを警察署に推薦しました。
警察署は最初のベンダーを選択し、その AI システムを導入しました。導入の一環として、警察署とコンサルタントはシステムの使用ポリシーを作成しました。これには、システムの仕組みと捜査プロセスへの組み込み方法について警察官をトレーニングすることが含まれています。
警察署はAIシステムを1年間使用してきた。内部調査の結果、システムが犯罪の可能性を90％以上と評価した場合、その後の警察の捜査でその人物が実際に犯罪を犯したことが確認された。この結果に基づき、警察署はAIシステムが90％以上の評価を下した事件については捜査を中止し、直接逮捕に踏み切りたいと考えている。
AI システムが個人の犯罪行為の可能性を 90% 以上と評価した場合でも、警察が捜査を継続するべき最大の理由は何ですか?