L’IA moderne repose sur un constat opérationnel.
La génération est devenue bon marché plus vite que la vérification.
Un modèle peut rédiger la synthèse d’un contrat, repérer un schéma de fraude potentiel, classer une demande client ou recommander une action en quelques secondes. Mais savoir si le résultat est juste exige souvent un processus différent et plus coûteux : vérifier les sources, valider les hypothèses, appliquer les règles métier, examiner les exceptions et attribuer les responsabilités.
Ce décalage, c’est le fossé de la vérification.
Pourquoi un résultat fluide change le problème
Les logiciels traditionnels échouaient généralement de manière visible. Un calcul erroné, un système indisponible ou une transaction rejetée signalaient clairement à l’utilisateur qu’un problème était survenu.
L’IA générative échoue autrement. Elle peut produire une réponse bien rédigée, bien structurée et présentée avec assurance, tout en étant incomplète, mal appliquée ou non étayée par les faits disponibles. Plus la réponse est fluide, plus on a tendance à l’accepter sans examiner le travail qui la sous-tend.
Cela ne rend pas l’IA particulièrement dangereuse. Les humains aussi commettent des erreurs avec assurance. Mais l’IA modifie le volume, la vitesse et le coût des résultats plausibles. Une organisation peut désormais produire une centaine de synthèses, de recommandations ou de rapports soignés avant que quiconque ait établi la solidité de sa chaîne de preuves.
La vérification a sa place dans le workflow
De nombreux projets d’IA traitent la vérification comme une étape de relecture humaine en fin de workflow :
Entrée → résultat de l’IA → validation humaine
C’est nécessaire, mais insuffisant. Cela ne dit pas ce que le relecteur doit contrôler, quelles sources comptent, comment les exceptions sont remontées, ni ce qui doit être conservé pour l’audit.
Une meilleure conception intègre la vérification au workflow lui-même :
Données sources → extraction → validation → preuves → décision → responsable → action
Chaque étape doit répondre à une question distincte.
| Étape | Question |
|---|---|
| Extraction | Quelles informations ont été trouvées ? |
| Validation | Respectent-elles les règles et contraintes connues ? |
| Preuves | Quelle source étaye cette affirmation ? |
| Décision | Quelle action est recommandée ? |
| Responsabilité | Qui est chargé de l’approuver ou de la rejeter ? |
| Suivi | Que s’est-il passé après l’action ? |
Adapter la vérification au coût de l’erreur
Le niveau de vérification requis dépend des conséquences d’une erreur.
Pour une aide à la rédaction à faible enjeu, le coût d’un résultat erroné peut être minime. Pour une recommandation d’achat, une classification de conformité, une exception financière, une note médicale ou une décision sur le risque client, il peut être considérable.
Il en découle un principe de conception.
Plus l’action est lourde de conséquences, plus les preuves nécessaires pour la justifier doivent être solides.
On obtient ainsi un modèle opérationnel gradué plutôt que binaire.
- Tâches à faible risque : l’IA rédige ; les humains corrigent de manière ciblée.
- Tâches à risque modéré : l’IA extrait et propose ; des règles valident ; les humains traitent les exceptions.
- Tâches à risque élevé : l’IA assiste l’investigation ; les preuves sont conservées ; des personnes habilitées prennent la décision.
Les preuves doivent être navigables
Une citation de source ne suffit pas si elle n’aide pas le relecteur à comprendre pourquoi un résultat a été produit.
Un système d’IA fondé sur des preuves doit permettre à l’utilisateur de passer d’une conclusion aux sources pertinentes avec un minimum de friction :
« Examiner le renouvellement du fournisseur »
→ Date de renouvellement : 30 juin 2027
→ Préavis : 90 jours
→ Valeur annuelle : 48 200 €
→ Clauses contractuelles et données d’utilisation à l’appui de la recommandation
C’est ce qui rend un résultat explicable en pratique. Le relecteur peut examiner les limites du raisonnement, corriger l’interprétation d’une source et décider s’il faut agir.
L’avantage pour l’entreprise
Le fossé de la vérification est aussi une opportunité concurrentielle.
À mesure que la génération générique se banalise, les organisations capables de relier de manière fiable les résultats à des données gouvernées, à des règles métier et à des workflows dotés de responsables pourront utiliser l’IA là où d’autres ne le peuvent pas. Elles dépasseront le stade de l’expérimentation pour passer à un usage opérationnel.
L’avantage reviendra aux entreprises capables de montrer pourquoi une recommandation mérite la confiance.
Adapté du livre La pensée au rabais : Ce que l’IA rend abondant, ce qu’elle rend rare, et à qui profite la différence de Daoyuan Li, PhD.