Une hallucination, ce n'est pas une erreur technique. C'est une phrase parfaitement bien écrite, parfaitement crédible — et fausse.
À quoi ça ressemble, concrètement
Un modèle de langage produit le texte le plus vraisemblable, pas le plus vrai. Quand l'information lui manque, il ne s'arrête pas : il comble. En service client, ça donne des phrases irréprochables dans la forme :
- « Vous disposez de 30 jours pour changer d'avis. » — alors que votre politique dit 14.
- « La livraison en Belgique est offerte dès 50 €. » — alors que vous ne livrez pas en Belgique.
- « Cette référence est compatible avec tous les modèles récents. » — sans que personne n'ait jamais écrit ça.
Aucune de ces phrases n'a l'air d'une erreur. C'est précisément le problème.
Pourquoi c'est plus grave en service client qu'ailleurs
Ailleurs, une réponse fausse coûte une vérification. Ici, elle engage votre entreprise. Le client de bonne foi a lu une promesse sur votre site, faite par votre assistant. Il la retiendra et la fera valoir.
Le risque est invisible, et c'est ça le piège
Une panne se voit. Une hallucination, non. Elle ne déclenche aucune alerte, n'apparaît dans aucun tableau de bord. Vous la découvrez des semaines plus tard, par une réclamation — et vous ne saurez jamais combien d'autres sont passées sans que personne ne se manifeste.
C'est pourquoi « nous n'avons pas eu de problème » ne prouve rien. L'absence de plainte n'est pas une mesure de fiabilité.
Borner le risque plutôt que l'espérer
Il ne s'agit pas de renoncer à l'IA — sa capacité à comprendre une question mal formulée, dans une autre langue, reste précieuse. Il s'agit de séparer deux choses qu'on confond : comprendre la question, et inventer la réponse.
Un assistant peut très bien faire la première sans s'autoriser la seconde. Ses réponses viennent alors d'un ensemble fermé : vos contenus validés. Le pire cas devient connu d'avance — une réponse voisine, ou un « je n'ai pas cette information ».
Comment le vérifier avant de signer
- Testez sur vos propres pièges. Posez une question dont la réponse n'existe nulle part chez vous. Un assistant sérieux dit qu'il ne sait pas ; les autres inventent.
- Demandez la traçabilité. Pouvez-vous savoir d'où vient chaque réponse, et qui l'a validée ?
- Demandez ce qui remonte. Un outil qui ne vous signale jamais ses échecs vous prive du seul moyen de les corriger.
Voyez-le répondre sur vos propres questions.
Importez votre FAQ : en quelques minutes, l'assistant répond avec vos mots.
Demander une démo gratuite →