Un bon score ne suffit pas. Son explication doit rester fidèle.
Publié le 28 octobre 2026 · Mis à jour le 28 octobre 2026
Une explication fluide peut donner une impression de confiance sans décrire correctement la décision du modèle. Dans un système hybride ML-RAG, la prédiction et l’explication doivent donc être évaluées séparément.
Deux fonctions, deux responsabilités
Dans l’architecture étudiée avec Fvundi, le modèle de machine learning produit une prédiction. Une couche RAG construit ensuite une explication à partir d’éléments d’attribution SHAP. Cette séparation rend les responsabilités plus lisibles, mais elle crée aussi une nouvelle question : le texte restitue-t-il réellement les facteurs qui ont contribué au score ?
Mesurer la fidélité, pas seulement la fluidité
La prépublication Constitutional Oversight propose quatre axes de mesure : la couverture des facteurs, la cohérence de leur classement, la constance entre profils démographiques et le taux d’hallucination. Ces critères visent à rendre observables des problèmes que la seule performance prédictive ne permet pas de décrire. Ils constituent un cadre de recherche, pas une garantie automatique d’équité.
Organiser la supervision
Le cadre proposé combine une constitution financière lisible par machine, un arbitre IA et une intervention humaine ciblée sur les violations. Il ne suffit pas de produire des règles : il faut pouvoir vérifier leur application et conserver une responsabilité humaine sur la gouvernance du système.
Élargir l’observation avec des limites explicites
Holistic Life Scoring explore un espace de signaux plus large pour l’inclusion financière. Cette extension augmente aussi les exigences de consentement, de protection des données et d’audit des biais. Le travail est conceptuel et architectural, avec une validation empirique en cours. L’ambition est de mieux comprendre des situations financières, en encadrant ce que le système observe et ce qu’il peut en déduire.
La qualité d’une IA se juge aussi à la fidélité de ce qu’elle raconte, à ce qu’elle est autorisée à observer et à la façon dont elle est supervisée.Poursuivons la conversation