Par Elisha Bajemon, Ingénieur IA chez TW3 Partners. Dernière mise à jour : 16 novembre 2026.

En bref

Chaque ajout identique peut rapporter moins de points que le précédent : une transformation dite concave permet ce ralentissement d’un score. Cette propriété intéresse une direction qui veut limiter l’effet d’une manipulation sur un indicateur de décision. Dans Scoring Without the Engine, prépublication de TW3 Partners déposée sur arXiv le 7 septembre 2026, une démonstration mathématique décrit les conditions d’une telle limitation. Le cas étudié suppose qu’une seule composante du score part de zéro et augmente proportionnellement à la quantité ajoutée, sans atteindre son plafond. Avec la transformation retenue, la remarque du texte intégral indique que multiplier cette quantité par 8 multiplie le gain par environ 2,83. Pour apprécier la protection proposée, il faut comparer ces conditions aux manipulations possibles et examiner séparément les résultats des essais.

1. Que signifie un rendement marginal décroissant ?

Un rendement marginal décroissant signifie qu’une même augmentation de la donnée d’entrée apporte un gain de score qui n’augmente pas à mesure que cette donnée augmente. Le rendement marginal désigne ici le supplément obtenu pour un ajout, au point où se trouve déjà la composante.

Dans la prépublication de TW3 Partners du 7 septembre 2026, chaque composante est transformée par la fonction g(u) = 100 √(u/100), puis intégrée à une somme pondérée. La composante évolue entre 0 et 100. La transformation est croissante : augmenter son entrée augmente sa sortie. Elle est aussi concave : sa pente diminue lorsque l’entrée augmente. Le plafond et la concavité jouent donc des rôles distincts. Le premier arrête la progression ; la seconde la ralentit avant cet arrêt.

Il faut également distinguer la valeur totale et l’incrément. L’incrément est la différence entre le score après modification et le score initial. Le rapport étudié compare les incréments associés à différentes quantités de modification. Comparer directement les valeurs finales ferait intervenir le niveau de départ et les contributions restées fixes, alors que la garantie porte sur le gain.

Pour une revue de conception, nous recommandons de nommer explicitement la grandeur placée au numérateur et celle placée au dénominateur. La mention « amplification limitée » devient ainsi une proposition dont l’équipe peut vérifier le sens.

2. Quelles hypothèses rendent le lemme applicable ?

Le lemme suppose qu’une seule composante augmente linéairement avec la quantité de modification, jusqu’à son plafond, tandis que les autres restent inchangées. La formulation de TW3 Partners du 7 septembre 2026 représente cette évolution par min(u + kδ, 100). Ici, u désigne la valeur initiale, δ un ajout positif et k le multiplicateur de dose. La dose désigne la quantité de modification appliquée.

Pour lire le rapport de gains, retenons une dose au moins égale à la dose de référence et un gain de référence strictement positif. Ce sont des précautions de lecture : un rapport avec un dénominateur nul serait indéfini. La transformation examinée est concave, croissante et nulle à l’origine. Les poids de l’agrégation restent fixes, non négatifs et leur somme vaut un.

L’égalité particulière en racine carrée ajoute des conditions : la composante part de zéro, la transformation est celle du papier et le plafond reste inactif aux doses comparées. Chacune de ces conditions appartient à l’énoncé qu’il faut conserver lorsque l’on cite le résultat.

Notre proposition de méthode consiste à établir une correspondance entre la modification autorisée et les variables du calcul. Si une modification déplace simultanément plusieurs composantes, le dossier d’essai doit le faire apparaître. Cette vérification permet de savoir quelle partie de la garantie est applicable au système envisagé.

3. Comment suivre le raisonnement ?

Le raisonnement compare le gain à dose accrue avec le gain de référence, en utilisant la concavité de la transformation. La preuve donnée par TW3 Partners le 7 septembre 2026 se déroule au plancher, c’est-à-dire lorsque la composante initiale vaut zéro, avant activation du plafond.

Notons Δ(k) le gain associé à la dose k et w le poids de la composante. Puisque les autres contributions restent fixes, elles disparaissent dans la soustraction entre le score modifié et le score initial. Comme g(0) = 0, il reste Δ(k) = w g(kδ). Pour une dose au moins égale à la référence, la concavité donne alors g(kδ) ≤ k g(δ), donc Δ(k) ≤ k Δ(1). Lorsque le gain de référence est positif, le rapport Δ(k)/Δ(1) est au plus égal à k.

Avec la racine carrée, le papier précise une égalité plus forte dans ce même cadre : g(kδ)/g(δ) = √k. La remarque donne le cas d’une dose multipliée par 8 : le rapport vaut environ 2,83 et respecte le seuil de 3 retenu pour le test de saturation. Ces valeurs décrivent un cas mathématique défini, avec son point de départ.

La borne relative compare donc des gains entre doses. Elle ne fournit aucun maximum universel exprimé en points de score. Pour annoncer un tel maximum, il faudrait une justification portant précisément sur cette autre grandeur et sur son domaine de validité.

4. Que change un point de départ déjà élevé ?

Un départ élevé change le rapport des incréments, car la racine carrée se comporte localement presque comme une fonction linéaire. La remarque de TW3 Partners du 7 septembre 2026 le souligne et attribue alors au plafond un rôle dans la limitation du gain.

La concavité reste présente : la pente continue de diminuer. Cependant, sur une petite portion de courbe éloignée de l’origine, les incréments peuvent suivre approximativement la quantité ajoutée. Le rapport exact en racine, obtenu depuis zéro, ne décrit plus cette situation. À l’approche du plafond, la portion effectivement parcourue devient elle aussi déterminante.

Le papier apporte une autre précision : les réponses des composantes réelles ne sont pas exactement linéaires avec la dose. Il maintient donc le test de saturation comme vérification empirique. Cette articulation explique l’utilité de conserver une mesure de la courbe de réponse après avoir établi une propriété mathématique.

Pour transposer cette lecture à un indicateur métier, une pratique proposée par le cabinet consiste à documenter le niveau initial de chaque composante testée. Conserver aussi la valeur après modification permet d’identifier l’activation du plafond. Le lecteur peut alors distinguer un gain limité par la forme de la courbe d’un gain limité par la borne supérieure. Le compte rendu devient interprétable, y compris lorsque deux essais partent de niveaux différents.

5. Quelles propriétés restent empiriques ?

Les gains moyens observés, leur diminution avec la dose et l’effet des manipulations combinées sont des résultats expérimentaux. Dans le résultat détaillé de TW3 Partners du 7 septembre 2026, le plus grand gain moyen d’un levier isolé atteint +6,1 points à la dose de référence, puis +3,5 points à la dose 8 pour ce même levier. La combinaison des trois leviers à la dose 8 donne un gain moyen de +4,5 points.

La figure associée présente des gains moyens sur les entrées testées ; ces valeurs ne constituent donc pas des maxima individuels. La prépublication distingue expressément la borne démontrée sur l’amplification d’un levier et les constats empiriques sur le gain absolu et les combinaisons. La décroissance observée du gain avec la dose est notamment plus spécifique que l’inégalité générale du lemme. Elle appelle une lecture du système effectivement testé.

L’OCDE, l’Union européenne et le JRC, dans leur manuel de 2008 sur les indicateurs composites, apportent une vigilance complémentaire : des indicateurs corrélés peuvent introduire un double comptage. Le manuel explique aussi que les agrégations linéaires et géométriques permettent à un surplus sur une dimension de compenser un déficit sur une autre.

Pour un score métier, examiner ces dépendances et ces compensations constitue donc une extension méthodologique proposée par le cabinet. Elle complète l’étude d’une composante isolée et demande des essais propres au nouvel indicateur.

6. Comment relire une promesse de robustesse ?

Une promesse de robustesse se relit en faisant correspondre les capacités de l’attaquant, le domaine de la preuve et les essais réalisés. Dans On Evaluating Adversarial Robustness, prépublication déposée sur arXiv le 18 février 2019, Carlini et ses coauteurs définissent le modèle de menace par les objectifs, les connaissances et les capacités de l’adversaire.

Leur texte intégral révisé le 20 février 2019 recommande des attaques adaptées aux détails de la défense. Il souligne également qu’une preuve portant sur un ensemble précis d’entrées conserve ce périmètre. Une évaluation utile cherche ainsi à mettre à l’épreuve la propriété annoncée dans les conditions où elle sera employée.

La grille suivante est notre proposition de relecture, fondée sur ces recommandations et sur les distinctions du lemme.

RubriqueÉlément à consigner
HypothèsesComposante modifiable, niveau initial, dose, plafond, variables fixes
Conclusion formelleGrandeur bornée, conditions du rapport, domaine de la preuve
Vérification empiriqueCourbes de réponse mesurées, gains absolus, essais de combinaisons
Attaque exclueModification de plusieurs variables ou capacité absente du modèle étudié

Pour chaque ligne, joindre la formule ou le résultat d’essai correspondant. Consigner les attaques exclues permet de délimiter la décision : accepter l’usage dans le périmètre vérifié, demander une nouvelle évaluation ou restreindre les modifications permises. Cette décision doit garder la distinction entre la propriété démontrée et les résultats observés sur les essais disponibles.

FAQ

La concavité détecte-t-elle les attaques ?
La concavité règle la progression d’une transformation ; le lemme de TW3 porte sur l’amplification d’un gain. Un mécanisme de détection demande une évaluation distincte, avec des attaques et un objectif définis. La grille de lecture de Carlini et ses coauteurs aide à préciser ce périmètre.

Le rapport en racine vaut-il partout ?
Avec la transformation en racine carrée du papier, l’égalité exige un départ à zéro, une augmentation linéaire de la composante avec la dose et un plafond inactif. Les autres composantes restent fixes et le gain de référence doit être positif. La remarque de TW3 indique qu’un départ éloigné du plancher peut donner un comportement local presque linéaire. Le niveau initial doit donc accompagner la formule citée.

Une borne relative donne-t-elle un gain maximal universel ?
Elle relie le gain à une dose au gain de référence, sous les hypothèses du lemme. Les gains moyens rapportés par TW3 appartiennent aux essais effectués. Les reprendre pour un autre indicateur demanderait une justification spécifique à ce nouvel usage.

Que se passe-t-il avec plusieurs leviers ?
Il faut étudier leur effet conjoint et identifier les composantes qu’ils modifient. Si plusieurs composantes changent, l’hypothèse du lemme qui maintient les autres fixes ne décrit plus cette modification. Le manuel de l’OCDE invite en complément à examiner les dépendances entre indicateurs et les compensations autorisées par l’agrégation.

Pourquoi tester après une preuve ?
Les tests vérifient le comportement du système dans les conditions de manipulation retenues. La preuve apporte une garantie à l’intérieur de ses hypothèses ; les attaques adaptées recommandées par Carlini et ses coauteurs éprouvent l’application concrète de la défense. Pour un usage métier, documenter les écarts entre ces périmètres fait partie de l’évaluation proposée ici.

Pour aller plus loin

Sources