Pendant une grande partie de la vie organisationnelle moderne, un document soigné servait de preuve d’un effort invisible.

Une lettre de motivation personnalisée laissait supposer de l’attention. Un rapport détaillé laissait supposer une analyse. Un mémoire juridique en bonne et due forme laissait supposer des recherches. Une dissertation bien écrite laissait supposer une compréhension du sujet. Un tableur complet laissait supposer du temps passé à rapprocher des données et à tester des hypothèses.

Ces déductions n’ont jamais été parfaites. Mais elles étaient souvent utiles, parce qu’un travail soigné coûtait cher à produire.

L’IA a supprimé ce coût.

L’effondrement d’un signal caché

Lorsqu’un document crédible devient bon marché à générer, son apparence nous renseigne moins sur le processus qui l’a produit.

La fraude n’est qu’une partie du problème. Même un usage honnête de l’IA affaiblit l’ancien signal. Une personne peut utiliser l’IA pour améliorer la formulation d’une véritable expertise ; une autre peut s’en servir pour produire un document plausible sans comprendre le sujet. Les documents finaux peuvent se ressembler.

Le signal s’est affaibli parce que le lien entre le résultat visible et l’effort qui le sous-tend a été rompu.

Là où cela compte

L’effet se manifeste à plusieurs endroits à la fois.

Recrutement : les candidatures deviennent moins coûteuses à personnaliser et à envoyer, ce qui en augmente le volume tout en réduisant l’information contenue dans chaque lettre de motivation ou CV.

Enseignement : un devoir rédigé à la maison devient une preuve plus faible que l’élève en est l’auteur sans aide ou qu’il a compris le sujet.

Services professionnels : une note ou un mémoire soigné ne démontre plus forcément que l’auteur a vérifié lui-même chaque fait, chaque source et chaque citation.

Sécurité : la voix, la vidéo et les communications écrites ne peuvent plus être considérées comme une preuve solide d’identité sans contrôles supplémentaires.

La plupart des documents restent exacts. Simplement, le document seul prouve moins qu’auparavant.

Le substitut : prouver le processus, la provenance ou la présence

Lorsque le résultat ne prouve plus le travail, les institutions ont besoin de preuves plus solides ailleurs.

Il existe trois grandes stratégies.

1. Conserver le processus

Conserver les brouillons, les sources, l’historique des révisions, le lignage des données, les étapes de relecture et les journaux de décision. L’objectif est de préserver le chemin qui mène des preuves au résultat.

2. Établir la provenance

Utiliser des systèmes de confiance, des contrôles sur les sources, des signatures, des identifiants ou d’autres métadonnées pour montrer d’où vient l’information et comment elle a évolué.

3. Réintroduire la présence lorsque c’est nécessaire

La soutenance orale, la relecture en direct, la double autorisation, les procédures de rappel et la vérification en personne restent précieuses lorsque c’est l’identité ou la compréhension qui est mise à l’épreuve.

Ce que les organisations ne devraient pas faire

Interdire les contenus générés par l’IA, ou chercher à les détecter parfaitement, ne fonctionne pas. La détection est fragile. La question utile est de savoir si le résultat final est fiable pour l’usage prévu, quelle que soit la manière dont il a été rédigé.

Une meilleure politique pose les questions suivantes :

  • Que faut-il établir avant de pouvoir agir sur ce résultat ?
  • Quelles preuves faut-il conserver ?
  • Quelle personne en est responsable ?
  • Qu’est-ce qui ne peut pas être déduit du seul document ?

L’opportunité

L’effondrement de la preuve par l’effort donne une valeur nouvelle aux systèmes qui préservent la provenance et le processus.

aixtract peut aider les organisations à conserver les preuves qui sous-tendent les données extraites, les recommandations et les actions automatisées. Le soin apporté à un document ne témoignera plus de l’effort, mais la confiance peut reposer à la place sur des preuves traçables.

Adapté du livre La pensée au rabais : Ce que l’IA rend abondant, ce qu’elle rend rare, et à qui profite la différence de Daoyuan Li, PhD.