Contributions : la preuve des décisions IA contre le gaspillage et la fraude

Le gaspillage et la fraude ont une racine commune : des décisions dont personne ne peut rendre compte. On paie deux fois parce que personne ne sait ce qui a déjà été validé. On exécute autre chose que ce qui a été approuvé parce que rien ne relie l’accord à l’action. On réécrit la justification après coup parce que celle du moment n’a jamais été conservée. L’intelligence artificielle ne crée pas ce problème, mais elle l’accélère : elle prépare plus de décisions, plus vite, et rend plus floue la frontière entre ce que la machine a proposé et ce que l’humain a réellement décidé.

Depuis 2026, Laurent Lemonnier consacre une part de son travail à ce sujet, au-delà des outils d’iSoluce, en contribuant à des standards ouverts. Cette page explique pourquoi, ce qui a été construit et publié, et ce que ces preuves montrent ou ne montrent pas.

Pourquoi « faire confiance » ne suffit plus

Pendant longtemps, la preuve d’une décision tenait dans un document signé, un mail, une case cochée dans un logiciel. Ces traces ont un défaut commun : elles sont gardées par celui qui a intérêt à ce qu’elles disent la bonne chose. L’éditeur horodate dans sa propre base, l’entreprise archive dans ses propres dossiers. En cas de litige, on demande au tiers de croire sur parole.

Avec l’IA, une question s’ajoute : qui a décidé ? Le règlement européen sur l’IA (AI Act) exige un contrôle humain effectif et une traçabilité pour les usages à risque. Dans l’assurance, le devoir de conseil impose que la recommandation reste justifiable, même quand un outil l’a préparée. Affirmer « un humain a validé » ne suffit plus ; il faut pouvoir le montrer.

Les chercheurs en éthique des technologies ont un nom pour ce que l’on risque autrement. Filippo Santoni de Sio et Jeroen van den Hoven parlent de contrôle humain significatif : une décision n’est vraiment humaine que si l’on peut la rattacher à une personne qui comprenait ce qu’elle approuvait. Madeleine Clare Elish parle de zone d’écrasement morale : quand un système automatisé échoue, c’est l’opérateur humain le plus proche qui absorbe la faute, même s’il n’avait aucun moyen réel de contrôler. Une bonne preuve de décision protège donc aussi les personnes : elle montre ce qu’on leur a réellement soumis.

Où se loge le gaspillage

• Les décisions sans critère de réussite. Un achat, un projet ou un outil validé sans dire comment on saura s’il a fonctionné ne peut jamais être réévalué. On continue à payer par inertie.
• Les actions répétées dans le doute. Un envoi qui « n’a peut-être pas fonctionné » est relancé, et le client reçoit deux fois le même courrier, ou le fournisseur deux fois le même paiement.
• La reconstitution après coup. Lors d’un contrôle ou d’un litige, des jours sont perdus à retrouver qui a validé quoi, dans quelle version, sur la base de quelles informations.
• Les engagements publics sans mesure. Dans la commande publique, une dépense décidée sans contexte de prix ni mesure prévue rend le gaspillage invisible. Un exemple de marché public, publié en accès libre, montre comment chaque décision peut porter son contexte de prix et la façon dont elle sera mesurée, avec une réévaluation à douze mois qui dit ce qui était prévu, ce qui a été payé et ce qui est décidé ensuite.

Où se loge la fraude

• L’approbation d’une chose, l’exécution d’une autre. On fait valider un paiement de 1 200 €, puis le montant ou le bénéficiaire change avant l’envoi. Sans lien vérifiable entre ce qui a été approuvé et ce qui a été exécuté, personne ne le voit.
• L’approbation qui paie deux fois. Un même accord sert à justifier plusieurs exécutions.
• L’antidatage. Une validation est créée après les faits et datée d’avant.
• La justification réécrite. Une explication rédigée après coup est présentée comme celle du moment de la décision.
• L’approbation usurpée. Un compte de service, ou l’outil lui-même, « valide » à la place de la personne habilitée.

Aucune de ces fraudes n’exige de compétence technique particulière. Elles exploitent toutes la même faille : les traces sont modifiables par ceux qui les produisent, et rien ne relie entre elles les étapes d’une décision.

Ce qui a été construit et publié

Plutôt que d’inventer un format propriétaire, Laurent Lemonnier contribue à un standard ouvert, le Decision Provenance Standard, créé par Yohay Etsion. Ses contributions ont toutes été relues et intégrées par le responsable du standard. Elles portent sur quatre extensions :

• Signatures. La personne qui approuve signe ce qu’elle a décidé, y compris avec une passkey (Face ID, Touch ID, Windows Hello). La signature est liée au contenu exact approuvé : elle ne peut pas être déplacée sur une autre décision.
• Ancrage dans le temps. L’existence d’une décision à une date est prouvée par une source indépendante : un horodatage qualifié (RFC 3161), une preuve OpenTimestamps inscrite dans la blockchain Bitcoin, ou un registre de transparence. L’antidatage devient détectable.
• Vérification hors ligne. N’importe qui peut vérifier un export de décisions avec ses propres outils, sans accès à nos systèmes. Le rapport de vérification dit aussi ce qu’il ne prouve pas.
• Liaison entre approbation et exécution. Chaque étape est enregistrée séparément : ce qui a été proposé, ce qui a été montré au valideur, ce qu’il a approuvé, ce qui a été demandé, revérifié juste avant l’exécution, exécuté et observé. Une empreinte numérique relie chaque étape à la suivante. Un montant modifié, une approbation réutilisée, une justification datée après la décision : chacun de ces écarts est signalé par la vérification. Une approbation permanente, pour des demandes répétitives, n’est valable que dans des bornes précises, approuvées par une personne nommée.

En octobre 2026, il a aussi publié à l’IETF, l’organisme qui normalise les protocoles d’Internet, un brouillon de standard (Internet-Draft) : Decision Provenance for SCITT. Il explique comment relier ces preuves de décision aux registres de transparence de la chaîne logicielle (SCITT) et aux enregistrements d’actions d’agents IA, pour les mises en production de logiciels comme pour les actions d’agents. Des exemples exécutables sont publiés en accès libre sur GitHub.

Comment cela réduit le gaspillage et la fraude

Le principe est simple : ce qui est vérifiable n’a plus besoin d’être cru. Quand chaque décision porte qui l’a prise, sur quelle autorité, ce qu’on lui a montré, les options envisagées, la raison du choix et le critère de réussite, trois choses changent.

• La fraude devient visible. Modifier un montant après approbation, réutiliser un accord ou antidater une validation laisse une trace que n’importe quel vérificateur détecte, sans avoir besoin de nous faire confiance.
• Le doute ne se paie plus deux fois. Une action dont le résultat est incertain n’est jamais relancée automatiquement : elle est signalée pour être vérifiée.
• Le contrôle coûte moins cher. Un auditeur ou un régulateur vérifie en quelques minutes ce qui demandait des jours de reconstitution.

Ce que ces preuves ne montrent pas

Une preuve honnête dit ses limites. La vérification ne montre pas que les informations de départ étaient vraies. Elle montre ce que l’enregistrement dit avoir été présenté au valideur, pas ce qu’il a réellement lu. L’autorité d’un valideur reste une déclaration, sauf si elle est vérifiée auprès d’une source indépendante, comme l’annuaire des habilitations. Et une décision bien tracée peut rester une mauvaise décision. La preuve ne remplace pas le jugement : elle permet seulement de savoir qui l’a exercé, et sur quoi.

Comment nous l’appliquons

Dans nos agents IA, le principe est le même : l’IA prépare, la personne relit, modifie et valide, et la validation porte sur la version exacte qui sera exécutée. Nous accompagnons aussi les entreprises, en particulier dans l’assurance, qui veulent savoir ce qu’elles peuvent prouver aujourd’hui sur leurs décisions assistées par l’IA, et ce qui leur manque.

Parlons de vos décisions à rendre vérifiables ↗

Questions fréquentes

Qu’est-ce que la provenance d’une décision ?

C’est l’ensemble des éléments qui permettent de reconstituer une décision : qui l’a prise, sur quelle autorité, à partir de quelles informations, parmi quelles options, pour quelle raison, et ce qui a été exécuté ensuite. Une provenance vérifiable est une provenance qu’un tiers peut contrôler lui-même.

Faut-il une blockchain ?

Non. La blockchain Bitcoin peut servir, parmi d’autres sources, à prouver qu’une décision existait à une date donnée, via OpenTimestamps. Aucun jeton, aucune cryptomonnaie et aucune plateforme particulière ne sont nécessaires.

Est-ce lié à un logiciel ?

Non. Le Decision Provenance Standard est un format ouvert, sous licences libres (CC-BY 4.0 pour les textes, Apache-2.0 pour le code). N’importe quel éditeur peut le mettre en œuvre, et n’importe qui peut vérifier les preuves.

En quoi cela aide-t-il à respecter l’AI Act ?

Le règlement demande un contrôle humain effectif et une traçabilité pour les systèmes à risque. Une preuve de décision montre qu’une personne nommée a approuvé ce qui a été exécuté, après avoir vu quoi. Elle ne garantit pas à elle seule la conformité, qui reste l’appréciation d’un régulateur ou d’un auditeur, mais elle en fournit les éléments vérifiables.

« Decision Provenance Standard » est une marque d’Etsion Brands Ltd., citée ici pour identifier le standard. Le brouillon IETF est un document indépendant, qui n’est pas approuvé par le responsable du standard.