Par Elisha Bajemon, Ingénieur IA chez TW3 Partners. Dernière mise à jour : 16 novembre 2026.

En bref

Tester des attaques combinées consiste à appliquer plusieurs manipulations à une même entrée pour mesurer leur effet conjoint sur un score. Pour décider des contrôles à déployer, une direction doit savoir si ces manipulations se renforcent, se compensent ou changent d’effet selon leur ordre. Une composition désigne leur enchaînement ; une interaction désigne ici l’écart entre son effet et la somme des effets séparés. Dans Scoring Without the Engine, prépublication TW3 déposée sur arXiv le 7 septembre 2026, les essais comprennent quatre attaques combinées dans un ordre fixé, sur 500 entrées par groupe testé. Le protocole proposé ci-dessous compare les variations du score à celles provoquées par un ajout de texte neutre, servant de témoin, et examine l’influence de l’ordre. Son livrable est une comparaison documentée qui permet de choisir les compositions à approfondir selon les capacités de l’attaquant.

1. Pourquoi les effets isolés ne suffisent-ils pas ?

Les essais isolés mesurent chaque transformation sur l’entrée initiale, tandis qu’une composition applique la suivante à une entrée déjà modifiée. Cette différence doit figurer dans le protocole d’évaluation. On note A et B les transformations : B(A(x)) signifie que B reçoit le résultat de A appliqué à l’entrée x.

Dans leur prépublication On Evaluating Adversarial Robustness, déposée sur arXiv le 18 février 2019, Carlini et ses coauteurs demandent d’adapter l’attaque aux particularités de la défense. Ils expliquent qu’appliquer des attaques existantes avec leurs réglages par défaut fournit une évaluation insuffisante. Pour un score, nous recommandons de traduire cette exigence en une question expérimentale : quelles opérations pourraient exploiter les modifications produites par une opération précédente ?

Une hypothèse à tester serait qu’un ajout, suivi d’une duplication, reproduise aussi les éléments ajoutés. Une autre serait qu’une opération relevant le score atténue la baisse produite par une dégradation. Ce second phénomène constitue ici une hypothèse de masquage : le signal utilisé pour repérer la manipulation devient moins visible. Ces mécanismes proposés doivent être vérifiés sur les transformations effectivement exécutées.

La décision métier détermine la mesure prioritaire. Si le risque est une hausse artificielle du score, relever son amplitude répond à la question. Si le risque est le passage sous un seuil d’alerte, il faut aussi enregistrer la décision du détecteur. Le protocole doit annoncer cet objectif avant de sélectionner les compositions.

2. Que faut-il garder identique entre les essais ?

Il faut repartir des mêmes entrées et conserver une configuration de calcul identique pour comparer les effets. Le protocole TW3 du 7 septembre 2026 définit un témoin constitué d’un ajout neutre de même longueur que l’ajout étudié. Cette précaution permet de distinguer la réponse à la manipulation de celle liée au volume ajouté.

Pour adapter cette méthode à un autre système, préparez les variantes isolées et combinées à partir d’une copie de chaque entrée initiale. Conservez la version du calcul du score, ses pondérations et les réglages des transformations. La dose désigne la quantité de manipulation appliquée ; sa définition doit rester explicite pour chaque opération. Dans une composition, enregistrez aussi la quantité réellement produite après chaque étape.

Le tableau suivant constitue une proposition de fiche d’essai, dérivée de cette comparaison avec témoin.

ÉlémentInformation à conserverUsage dans la comparaison
Entrée initialeIdentifiant et contenu de départApparier les variantes
TransformationsOrdre, réglages et résultats intermédiairesReconstituer l’enchaînement
VolumeQuantité ajoutée à chaque étape et au totalConstruire le témoin adapté
Calcul du scoreVersion et pondérationsMaintenir la même configuration
RéponsesScore initial, isolé, combiné et témoinSéparer effet brut et effet corrigé

L’effet brut compare la variante transformée à l’entrée initiale. L’effet corrigé compare cette variante à son témoin neutre. Lorsque la composition change le volume total, son témoin doit suivre ce volume. Consigner les témoins utilisés évite de présenter comme une interaction entre manipulations ce qui proviendrait d’un changement de référence.

3. L’ordre des opérations importe-t-il ?

L’influence de l’ordre doit être testée dès lors que les opérations peuvent modifier leurs conditions d’exécution respectives. Le protocole TW3 du 7 septembre 2026 conserve un ordre fixé pour ses compositions. Tester l’ordre inverse constitue donc une extension proposée ici, dont le résultat reste à mesurer.

La prépublication METTLE de Xie et ses coauteurs, révisée sur arXiv le 11 juin 2019, étudie des relations attendues entre plusieurs exécutions d’un système. Une telle relation est dite métamorphique. Dans leur étude du regroupement automatique de données, les auteurs distinguent le changement d’ordre des données du même changement avec conservation des centres initiaux des groupes. Les conditions maintenues constantes font partie du test.

L’adaptation proposée au score consiste à comparer B(A(x)) et A(B(x)). Avant de les exécuter, précisez les préconditions de chaque transformation : les éléments qu’elle doit trouver, ceux qu’elle peut modifier et ceux qu’elle doit conserver. Une opération devenue inapplicable après la précédente doit être enregistrée comme telle. L’assimiler à une absence d’effet brouillerait la comparaison.

L’égalité des scores dans les ordres comparés est une hypothèse distincte de l’égalité des entrées finales. Archivez donc ces entrées avec leurs réponses. Si les résultats divergent, l’équipe pourra rechercher à quelle étape la différence apparaît. Pour un système comportant de l’aléatoire, conserver les paramètres de répétition aide à distinguer la variation entre exécutions de celle attribuée à l’ordre. METTLE fournit l’appui méthodologique ; cette comparaison de compositions de score reste notre proposition.

4. Comment mesurer une interaction ?

Une interaction se mesure en comparant l’effet conjoint à la somme des effets isolés, selon une convention de référence annoncée. Nous proposons le calcul symbolique suivant comme outil d’analyse complémentaire au banc TW3.

Soit s le score et x l’entrée initiale. Pour les effets bruts :

  • ΔA = s(A(x)) − s(x) ;
  • ΔB = s(B(x)) − s(x) ;
  • ΔAB = s(B(A(x))) − s(x) ;
  • IAB = ΔAB − ΔA − ΔB.

Un IAB positif indique que l’effet conjoint dépasse la somme des effets séparés dans ce sens de calcul. Un IAB négatif indique un effet inférieur à cette somme. L’interprétation en matière de risque dépend ensuite de l’objectif : une hausse du score peut favoriser l’attaquant, tandis qu’une baisse peut déclencher une alerte.

Le contrôle du volume introduit une autre convention. En reprenant le principe du témoin neutre décrit par TW3 le 7 septembre 2026, définissez chaque effet corrigé comme la différence entre le score transformé et celui de son témoin de longueur correspondante. Calculez ensuite l’écart entre effet conjoint corrigé et effets isolés corrigés. Cet écart doit porter un libellé distinct : les corrections appliquées aux variantes peuvent changer la valeur de l’interaction.

Effectuez les calculs sur chaque entrée appariée, puis examinez leur distribution avant de résumer le résultat. Pour la revue de décision, conservez le sens de l’attaque, l’ordre testé et la convention de correction à côté du résultat. Une valeur d’interaction devient interprétable lorsque ces conditions sont connues.

5. Pourquoi faut-il vérifier localement la sous-additivité ?

Une sous-additivité doit être établie pour les compositions et les références effectivement comparées. Elle signifie que l’effet conjoint reste inférieur ou égal à la somme des effets séparés. Le texte intégral TW3 du 7 septembre 2026 distingue une borne mathématique sur une composante isolée des observations portant sur plusieurs leviers.

Le lemme suppose qu’une transformation déplace linéairement une seule composante avec la dose, jusqu’à son plafond, en laissant les autres inchangées. La transformation concave utilisée dans le calcul borne alors la croissance du gain avec la dose, sous les hypothèses énoncées. Une composition susceptible de modifier plusieurs composantes appelle une vérification supplémentaire de ses effets réels.

La source présente aussi un écart à résoudre. À la dose 8 et sous la pondération retenue du score, son tableau 4 affiche des gains moyens isolés de +3,5, +0,1 et +0,5 points, soit +4,1 points par addition des valeurs affichées. Il donne +4,5 points pour leur combinaison, que le texte qualifie pourtant de sous-additive. Cette addition des valeurs affichées ne suffit donc pas à établir la sous-additivité annoncée. Le référentiel du calcul doit être clarifié avant de reprendre cette conclusion.

Pour une nouvelle évaluation, rattachez chaque conclusion au jeu d’entrées, aux doses, aux ordres et aux témoins utilisés. Le cadre de Carlini et ses coauteurs invite également à préciser les capacités adverses couvertes. Une décision peut ainsi s’appuyer sur les comportements observés dans le périmètre testé, avec une liste explicite des compositions restant à examiner.

6. Comment prioriser les compositions à tester ?

La priorité doit aller aux compositions réalisables par l’attaquant et susceptibles d’affecter la décision métier. Selon Carlini et ses coauteurs, dans leur prépublication de février 2019, le modèle de menace précise les objectifs, les connaissances et les capacités de l’adversaire. Ces éléments donnent un cadre à la sélection des essais.

Nous recommandons de dresser une carte des dépendances entre transformations. Pour chaque opération, consignez ce qu’elle lit et ce qu’elle modifie. Repérez ensuite les enchaînements dans lesquels une opération peut créer une entrée exploitable par la suivante, modifier sa dose effective ou atténuer le signal surveillé. Cette carte est une méthode de préparation proposée par le cabinet.

Pour chaque composition retenue, le dossier d’essai devrait préciser :

  • l’objectif adverse et les modifications accessibles ;
  • la dépendance qui motive l’essai ;
  • les ordres exécutables et leurs préconditions ;
  • la règle de comparaison et les témoins ;
  • le résultat observé et la suite décidée.

Après les premiers essais, adaptez les transformations aux faiblesses observées. Carlini et ses coauteurs préconisent cette recherche d’attaques adaptées à la défense étudiée. Dans le prolongement de METTLE, formulez aussi les comportements attendus pour l’usage concerné, puis confrontez-les aux résultats.

Enfin, documentez les compositions omises et leur motif : opération inaccessible à l’adversaire, précondition absente ou essai reporté. La direction dispose alors d’un périmètre de validation lisible et peut arbitrer les investigations suivantes en fonction du risque restant.

FAQ

Les gains isolés peuvent-ils s’additionner ?
L’addition est une hypothèse de comparaison à vérifier sur les mêmes entrées. Le calcul doit conserver les doses et préciser les témoins utilisés pour chaque variante. Distinguez dans le compte rendu l’effet brut de celui corrigé par le témoin.

Faut-il tester tous les ordres ?
Le protocole proposé retient les ordres exécutables qui correspondent aux capacités de l’adversaire. Les préconditions permettent d’identifier les enchaînements applicables. Lorsqu’un seul ordre est testé, le compte rendu doit le nommer afin que la conclusion reste rattachée à cet enchaînement.

Qu’est-ce qu’un effet de masquage ?
Dans le protocole proposé, c’est l’atténuation du signal d’une manipulation par une autre opération. Pour rechercher cet effet, il est utile de conserver la réponse du détecteur avec le score. Une compensation visible dans le score et un changement de décision du détecteur constituent des observations distinctes.

Une seule composition valide-t-elle les autres ?
Elle renseigne sur l’enchaînement exécuté avec ses réglages et ses entrées. Pour étendre la conclusion, il faut justifier les propriétés communes aux autres compositions ou les soumettre à des essais. Le lemme TW3 sur une composante isolée conserve ses hypothèses propres lorsqu’on examine cette extension.

Comment limiter le nombre d’essais ?
Partez du modèle de menace et sélectionnez les dépendances susceptibles de modifier la décision métier. Conservez une liste des compositions reportées avec le motif de leur omission. Les essais adaptés aux premiers résultats permettent ensuite de concentrer l’effort sur les mécanismes qui méritent une investigation supplémentaire.

Pour aller plus loin

Sources