Une IA qui ne s'invente pas de chiffres : comment garantir une réponse RH fiable

« Combien d'heures a-t-on passées sur le chantier Imerys ce mois-ci ? » La question est banale. La réponse, elle, finit dans une facture, une situation de travaux ou un arbitrage de marge. Si le chiffre est faux de 8 %, personne ne s'en aperçoit — jusqu'à ce que quelqu'un s'en aperçoive.

C'est le problème central des assistants conversationnels branchés sur des données d'entreprise : ils formulent une phrase plausible, pas une phrase vérifiée. Cet article décrit les mécanismes qui font la différence, et le prix à payer pour chacun.

Pourquoi un modèle de langue se trompe sur les nombres

Un modèle de langue produit du texte en enchaînant ce qui est vraisemblable. Un nombre est, pour lui, une suite de caractères comme une autre. Trois situations produisent des erreurs, et elles n'ont pas le même remède :

• L'invention pure. Aucune donnée ne contient le chiffre : le modèle le fabrique parce que la phrase en réclamait un.
• Le calcul de tête. Les données contiennent 92, 2 et 1 ; le modèle écrit « total : 95 ». Le total est juste, mais il n'a été vérifié par personne.
• La recopie approximative. Les données contiennent le matricule 0000000242 ; le modèle en restitue 000000242. Une longue suite de zéros se recopie mal.

Les trois donnent le même symptôme — un chiffre faux dans une réponse assurée — mais la troisième est particulièrement traître : elle ressemble à une hallucination alors que la donnée existait bel et bien.

Premier principe : le modèle ne lit pas la base

La tentation est de donner au modèle un accès large aux données et de le laisser se débrouiller. C'est l'inverse qu'il faut faire : le modèle dispose d'outils, chacun répondant à une question précise — la répartition des heures par affaire, les habilitations arrivant à échéance, les participations à une formation donnée.

Chaque outil interroge la base et renvoie un résultat structuré. Le modèle rédige à partir de ce résultat, il ne va pas le chercher lui-même. L'avantage n'est pas seulement la fiabilité : c'est aussi que le périmètre de ce que l'assistant sait faire devient explicite, donc discutable et extensible.

Le coût est réel : chaque nouveau domaine de question demande un nouvel outil. Un assistant honnête refusera des questions les premiers mois. C'est le prix de l'absence d'invention.

Deuxième principe : vérifier la réponse après coup

Restreindre l'accès aux données ne suffit pas. Le modèle peut toujours dériver un chiffre lui-même, ou en recopier un de travers. Il faut donc un contrôle en sortie : chaque nombre présent dans la réponse doit exister dans les données remontées par les outils. S'il n'y est pas, la réponse n'est pas affichée.

Ce contrôle a deux réglages délicats, appris à l'usage :

• Les identifiants ne sont pas des valeurs. Un nombre commençant par zéro est un matricule, une référence de chantier, un numéro de série. Il faut le comparer sans ses zéros de tête, sinon le contrôle bloque des réponses justes.
• Les références segmentées. Une référence affichée « A25 05658 00 » peut être citée sans son dernier bloc. Le contrôle doit accepter les segments et les préfixes, sous peine de bloquer en permanence.

Sans ces tolérances, le garde-fou devient inutilisable et finit par être désactivé — ce qui revient à ne jamais l'avoir écrit.

Troisième principe : les pourcentages viennent de l'outil

« Ce chantier représente 7,4 % des heures » : voilà une phrase que le modèle a toutes les raisons de produire lui-même, à partir de deux nombres pourtant sourcés. Le calcul est simple, donc il le fait — et un contrôle qui ne vérifie que les nombres présents dans les données laissera passer un pourcentage dérivé.

La parade n'est pas technique, elle est de conception : c'est l'outil qui doit fournir la part en pourcentage, ligne par ligne, en même temps que les valeurs. Ce qui n'est pas calculé par le modèle ne peut pas être mal calculé par lui.

Le même raisonnement vaut pour les totaux, les moyennes et les écarts. Chaque fois qu'on laisse une opération arithmétique au modèle, on rouvre une porte.

Quatrième principe : trancher quand la donnée le permet

Un assistant trop prudent devient inutile. Si la question porte sur « la causerie du mois » et qu'une causerie concentre 92 participations sur 95, renvoyer « précisez laquelle » est une non-réponse : l'outil avait de quoi désigner la bonne.

La fiabilité n'est donc pas la timidité. La règle utile est plus précise : ne jamais inventer, mais toujours conclure quand les données concluent. En pratique, cela veut dire que l'outil doit renvoyer non seulement des chiffres, mais aussi la désignation qui s'en déduit.

Cinquième principe : mesurer, sinon rien

Un assistant se dégrade silencieusement. Les questions évoluent, les données changent, un outil devient insuffisant sans que personne le signale. Trois dispositifs simples suffisent à garder la main :

• Un avis par réponse, positif ou négatif, en un clic.
• La question réellement posée conservée avec l'avis — pas seulement le titre de la conversation, qui ne reflète que la première question du fil.
• Les outils appelés, tracés pour chaque réponse : un avis négatif désigne alors directement l'outil manquant ou la consigne à préciser.

Sans cette boucle, l'amélioration repose sur des impressions. Avec elle, chaque plainte devient une tâche.

Et la confidentialité ?

Un assistant RH manipule des noms, des heures, des absences, parfois des motifs. Trois garanties sont à exiger, et elles se vérifient :

• Une clé d'accès au modèle qui appartient à l'entreprise, pas à l'éditeur — c'est ce qui rend l'engagement contrôlable.
• Une durée de conservation des conversations paramétrable, avec purge automatique : un échange RH n'a pas vocation à rester indéfiniment.
• L'engagement écrit que les données ne servent pas à entraîner les modèles.

Ce que ça donne en pratique

Un assistant construit sur ces principes a un comportement reconnaissable : il répond vite sur ce qu'il maîtrise, il annonce les limites de la donnée, et il dit « je ne sais pas » sans détour quand l'information n'existe pas — au lieu de produire un chiffre pour ne pas décevoir.

C'est moins spectaculaire qu'une démonstration où tout marche. C'est surtout le seul comportement compatible avec un usage où les chiffres partent en paie, en facturation ou en réponse à un contrôle.