Here's a controversial take: the most important feature of a trustworthy AI isn't what it knows—it's knowing when it しません 知る。
ハルシネーション問題
Generic AI chatbots are trained to be helpful. Sounds good, right? The problem is they're そう 助けたいあまり、知らないと認めるよりでっち上げてしまうほど。
「この修理は保証で3年間カバーされます。」（されません。）
「当社オフィスは土曜日は20時まで営業です。」（実際は違います。）
「そのサービスは150ドルです。」（実際は350ドルです。）
めったにない境界事例ではありません。汎用チャットボットでは常に起きています。
なぜ「わからない」が実は良いのか
Bobが承認済みのコンテンツから答えられない質問に出会った場合、次のように述べます：
「その件については、私のナレッジベースに具体的な情報がありません。対応できるチームにおつなぎします。」
失敗に感じられるかもしれませんが、実際には機能です。
- 顧客は正直な不確かさを信頼します more than confident nonsense
- 適切にエスカレーションされる instead of customers getting wrong info
- 不足していることがわかる from your knowledge base
信頼の方程式
信頼 ＝ 一貫性 × 誠実さ × 説明責任
限界を正直に伝えるチャットボットは、自信満々に作り話をするものよりも信頼されます。だからこそ、安全な拒否はバグではなく、ガバナンス付きAIをビジネスで本当に役立つものにする中核機能です。