Assurance Grade-Financier pour l'IA Agentique : Risque de Monoculture et le Heterogeneity Score

La plupart des discussions sur la gouvernance d'IA traitent la sécurité comme une propriété unique d'un système individuel. Les banques et assureurs n'ont pas ce luxe. Quand l'IA agentique est livrée dans des flux financiers — décisions de crédit, exécution de trades, gestion de réclamations, revue AML — la surface de risque inclut non seulement le mode de défaillance par agent mais le mode de défaillance systémique : nombreux agents dans nombreuses institutions, tous partageant la même famille de modèles, tous prenant des décisions corrélativement mauvaises en même temps, tous réagissant à la même distribution de prompts.

Ce n'est pas hypothétique. C'est le même genre de risque de défaillance corrélée qui a poussé les régulateurs à se soucier de la monoculture des modèles dans la finance quantitative il y a deux décennies. L'article actuel Finance-Grade Assurance for Agentic AI (Fradelos, janvier 2026) prend le pattern de gouvernance vérifiable et l'étend explicitement pour les flux financiers à fort enjeu. Les contributions principales : un système de contrôle en couches que l'article appelle FG-VGA, et une métrique opérationnelle appelée Heterogeneity Score (HS) qui traite la monoculture des modèles comme un risque auditable de premier ordre.

C'est l'article à lire si vous êtes CTO dans une institution financière livrant des agents dans tout ce qui intéresse les régulateurs. Il est aussi utile bien au-delà de la finance, parce que le pattern architectural se généralise.

Ce qui Rend la Gouvernance « Grade-Financier »

L'assurance grade-financier n'est pas seulement de la gouvernance « plus rigoureuse ». C'est une forme spécifique que les régimes de supervision (gestion de risque de modèle, résilience opérationnelle, préoccupations de risque systémique ESRB/FSB) exigent réellement. L'article identifie quatre propriétés que les approches actuelles de gouvernance d'IA manquent typiquement :

1. Gating de politiques vérifiable par machine pour actions agentiques — pas « le modèle est censé suivre cette politique », mais « le runtime ne peut pas exécuter l'action sauf si la vérification de politique passe ».
2. Evidence packets liant intention, tool calls et résultats — chaque action produit un enregistrement signé qui lie l'intention déclarée de l'agent, le tool call réel et le résultat observé. Reconstructible. Inviolable.
3. Contrôles de déploiement liés à l'attestation — les agents ne tournent que sur des environnements d'exécution attestés. L'evidence packet lie à l'attestation, donc un auditeur peut vérifier qu'une action donnée a été prise par le code attendu sur le matériel attendu.
4. Une métrique opérationnelle qui traite le comportement corrélé d'agents comme risque de premier ordre — pas seulement le risque par agent, mais le risque systémique de nombreux agents convergeant vers la même réponse parce qu'ils partagent le même modèle sous-jacent.

Les trois premiers sont des extensions du pattern d'architecture de gouvernance vérifiable. Le quatrième est la contribution véritablement nouvelle.

Le Heterogeneity Score

Le Heterogeneity Score (HS) est une métrique applicable et auditable de combien de diversification de modèle et vendor existe dans un déploiement agentique donné. L'intention est d'opérationnaliser ce qui a été une préoccupation vague dans la discussion sur le risque d'IA : le fait que si l'IA agentique de chaque banque pour les décisions de crédit est construite sur les deux mêmes modèles de fondation, le mode de défaillance de ces modèles devient systémique.

Le HS est calculé contre le déploiement agentique en portée et est gardé comme condition d'autorisation. Au-dessus du seuil, le déploiement est permis. En dessous du seuil, le déploiement est bloqué ou exige une acceptation de risque explicite d'un individu sénior responsable.

Trois choses rendent le HS pratique :

Il est mesurable

Le HS est construit à partir d'inputs concrets : l'ensemble des familles de modèles utilisées, l'ensemble des vendors, la corrélation de comportement d'agent sur une distribution benchmark. Ce sont des quantités auditables. Elles ne sont pas parfaites — la corrélation de comportement de modèle est quelque chose de difficile à mesurer rigoureusement — mais elles sont assez concrètes pour faire du gating dessus.

C'est une porte de déploiement, pas une métrique de reporting

C'est la différence opérationnelle. La plupart des exigences de « diversité » dans les frameworks de risque d'IA sont des exigences de reporting : vous décrivez ce que vous faites, le régulateur revoit, le déploiement procède. Le HS est une porte : le runtime de déploiement vérifie le score et refuse de procéder s'il est en dessous du seuil. Le refus est une propriété du système, pas une propriété du jugement humain.

Il se mappe sur les préoccupations de risque systémique que les régulateurs soulèvent déjà

ESRB, FSB, FINMA et d'autres ont signalé une préoccupation sur la monoculture de modèles dans l'IA financière. Le HS est conçu pour être la métrique concrète que les superviseurs peuvent examiner, pas seulement une affirmation vague que « nous utilisons plusieurs vendors ».

Les Quatre Monnaies Auditables

Le mouvement architectural plus profond dans l'article est de décomposer la sécurité en quatre « monnaies » auditables :

• Sécurité probabiliste : quelle est la probabilité que le système viole les bornes de sécurité, avec preuves quantitatives.
• Sécurité énergétique et compute : le coût de ressources d'opérer le système, y compris la charge de pointe et la demande corrélée.
• Sécurité épistémique : l'intégrité de connaissance du système — sait-il ce qu'il sait, signale-t-il l'incertitude, fait-il du cross-check.
• Sécurité sociale et environnementale : les externalités d'opérer le système — équité, empreinte environnementale, impact social.

Chaque monnaie a sa propre méthodologie de mesure, format de preuve et cadence d'audit. Le pipeline de gouvernance les réassemble en une décision d'autorisation de déploiement.

La raison pour laquelle cette décomposition compte est que les quatre monnaies ne se troquent pas proprement. Un système peut être probabilistiquement sûr et énergétiquement gaspilleur. Il peut être épistémiquement rigoureux et socialement nuisible. Traiter la « sécurité d'IA » comme une métrique scalaire unique obscurcit ces compromis. La traiter comme quatre monnaies comptabilisées séparément rend les compromis explicites et auditables.

Ce que Contient Réellement un Evidence Packet

L'evidence packet est l'unité de registre auditable. Pour chaque action d'agent avec signification réglementaire, le packet doit lier :

• Intention : l'objectif déclaré de l'agent pour l'action, dérivé de son reasoning trace.
• Contexte d'autorisation : les décisions de politique évaluées, l'ancienneté de l'agent, les signoffs multi-parties (s'il y en a).
• Tool call : l'invocation précise de l'outil, paramètres, système cible.
• État pré-action : ce qui était vrai avant l'action.
• Résultat : ce que l'outil a retourné et quel état a changé.
• État post-action : ce qui est vrai après.
• Pointeur d'attestation : une référence cryptographique à l'attestation runtime (l'agent a tourné sur ce code sur ce matériel dans cette configuration).

Ces packets sont signés par le Watchdog, stockés dans un evidence store immuable, et mis à disposition d'auditeurs internes et externes sur demande. Ils deviennent le substrat de la conformité : non « nous faisons confiance à l'agent pour bien se comporter », mais « voici l'enregistrement cryptographiquement signé de ce que l'agent a réellement fait ».

Pourquoi la Gestion de Risque de Modèle a Besoin de Mise à Jour

Les frameworks de gestion de risque de modèle (MRM) existants ont été conçus pour des modèles prédictifs. Le modèle est un artefact fixe ; vous le validez, vous le surveillez pour la dérive, vous le re-validez périodiquement. L'IA agentique brise ce pattern de deux façons :

1. Le comportement de l'agent change avec le contexte. Le même modèle peut prendre des actions différentes selon le prompt, l'historique de conversation, les outils disponibles, le rôle de l'utilisateur. Le MRM qui valide « le modèle » ne vous dit pas ce que l'agent fera.

2. La surface de risque a la forme d'action, pas la forme de prédiction. Les modèles prédictifs produisent des sorties sur lesquelles les humains agissent ensuite. Les agents produisent des actions directement. Le risque des agents est risque d'action, pas risque de prédiction. Les frameworks MRM conçus pour le risque de prédiction manquent l'unité pertinente.

Le pattern FG-VGA aborde les deux : la validation est au niveau de la politique et de l'autorisation, pas au niveau du modèle ; la surveillance est sur les distributions d'action, pas les distributions de sortie ; l'evidence store immuable fournit l'enregistrement par action que la gestion de risque au niveau d'action exige.

Ce que les CTO en Institutions Financières Devraient Faire

Trois actions concrètes pour toute institution financière qui déploie activement de l'IA agentique :

1. Adoptez les evidence packets au niveau de l'action maintenant

Que votre régulateur l'exige actuellement ou non, construisez la génération d'evidence packet dans le runtime de l'agent. Le coût de rétroadapter cela plus tard est dramatiquement plus élevé que de le construire dès le départ. La valeur interne seule — débogage, analyse d'incidents, évaluation de capacité — justifie habituellement le coût.

2. Mesurez votre Heterogeneity Score même informellement

Même si vous ne formalisez pas le calcul du HS, auditez votre diversification de modèles. Si votre agent de détection de fraude, votre agent AML, votre agent KYC et votre agent de service client sont tous sur le même modèle de fondation du même vendor, vous avez un risque de monoculture non mesuré. La diversification à travers les familles de modèles est l'atténuation pratique.

3. Planifiez pour l'attestation

Le compute confidentiel et l'attestation à distance ne sont pas encore mainstream dans les déploiements d'IA en production, mais la direction réglementaire est claire. L'IA agentique dans les flux régulés aura besoin d'exécution attestable dans les prochaines années. Construire vers un déploiement prêt pour l'attestation maintenant est bien moins cher que de rétroadapter.

Ce que Cela Signifie en Dehors de la Finance

Le pattern se généralise bien au-delà de la finance. Tout secteur avec :

• Actions irréversibles à fort enjeu (santé, légal, infrastructure)
• Exigences de responsabilité réglementaire (utilities, assurances, services publics)
• Préoccupations de défaillance corrélée systémique (n'importe où une erreur d'IA à l'échelle crée du dommage en cascade)

…bénéficie de la même architecture. Le concept de Heterogeneity Score s'applique à tout déploiement où de nombreux opérateurs indépendants pourraient converger sur le même modèle. Le pattern d'evidence packet s'applique à tout déploiement où la reconstruction post-incident compte. La décomposition en quatre monnaies s'applique partout où la sécurité n'est pas scalaire.

L'assurance grade-financier est, en effet, la version high-bar de la gouvernance d'IA agentique. Les versions mid-bar ressemblent beaucoup avec des cadences d'audit relâchées et des exigences d'attestation plus légères. Les CTO qui construisent pour la version high-bar finissent avec une infrastructure qui fonctionne pour la version mid-bar automatiquement. Construire seulement pour mid-bar exige typiquement une reconstruction quand la barre bouge.

La barre bouge. La finance n'est qu'un des premiers à bouger.

---

Source : Fradelos, G. Finance-Grade Assurance for Agentic AI: Verifiable Governance, Systemic Risk Mitigation, and Sustainability/Compute Accounting Architecture for banks, insurers, and major financial services providers (Genève, 11 janvier 2026). SSRN 6306980.

Vous livrez de l'IA agentique dans un environnement régulé et avez besoin de capacité d'ingénierie qui construit déjà avec attestation, evidence packets et déploiement conscient de l'hétérogénéité ? Parlez à un CTO sur le déploiement d'un squad nearshore avec la discipline que le travail grade-financier exige.