Here's a controversial take: the most important feature of a trustworthy AI isn't what it knows—it's knowing when it no lo hace saber.
El problema de las alucinaciones
Generic AI chatbots are trained to be helpful. Sounds good, right? The problem is they're así tan ansiosos por ayudar que inventan cosas antes que admitir que no lo saben.
"Su garantía cubre esta reparación por 3 años." (No la cubre.)
"Nuestra oficina abre hasta las 20:00 los sábados." (No es cierto.)
"Ese servicio cuesta $150." (En realidad cuesta $350.)
No son casos raros de borde. Ocurren constantemente con los chatbots genéricos.
Por qué «No lo sé» es en realidad algo bueno
Si Bob se encuentra con una pregunta a la que no puede responder a partir de su contenido aprobado, lo dice:
"No tengo información específica sobre eso en mi base de conocimiento. Permítame conectarlo con nuestro equipo, que puede ayudarle."
Puede parecer un fallo, pero en realidad es una característica:
- Los clientes confían en la incertidumbre honesta more than confident nonsense
- La escalación ocurre de forma adecuada instead of customers getting wrong info
- Descubres qué falta from your knowledge base
La ecuación de la confianza
Confianza = Coherencia × Honestidad × Responsabilidad
Un chatbot que es honesto sobre sus límites genera más confianza que uno que inventa con seguridad. Por eso, el rechazo seguro no es un fallo: es la función central que hace que la IA gobernada sea realmente útil para las empresas.