AI意思決定支援（DSS）が失敗する理由：信頼設計の欠如

1. 結論

• 多くのAI意思決定支援（DSS）が現場で失敗する理由は、モデル性能ではなく「信頼を設計していないこと」にある。
• この記事は、信頼を感情やUXの問題ではなく、リスク状況における予測装置であり「契約」として再定義し、なぜ「信頼を高めよう」というアプローチが、かえって不使用・誤用を生むのかを説明する。

2. 根拠

• 信頼問題の核心は、trust（ユーザーの態度） と trustworthiness（実際の能力） の混同にある
• ユーザーはAIを漠然と信じるのではなく、正確性・公正性・説明責任など特定の契約を信じている
• 契約と境界を明示しなければ、UI・権威・説明のトーンが不当な信頼を生み、事故につながる
• 説明可能性（XAI）の役割も、信頼の「増幅」ではなく、依存や疑念を補正することにある

3. 実行（改善策）

• AI-DSSを作る、あるいは導入する人であれば、「信頼をどう高めるか？」ではなく
  「何を信じさせ、いつ疑い・留保させるのか？」という問いへと視点を転換することになる。

4. 一言要旨

• AI-DSS失敗の原因は性能ではなく信頼設計であり、解決策は契約・脆弱性・補正を中心に据えた設計である。