Par Elisha Bajemon, Ingénieur IA chez TW3 Partners. Dernière mise à jour : 29 octobre 2026.

En bref

Un modèle peut favoriser ses propres textes lorsqu’il les évalue : c’est l’auto-préférence, qui devient un biais si leur qualité ne justifie pas cet avantage. Panickssery, Bowman et Feng, dans leur prépublication déposée sur arXiv le 15 avril 2024, étudient le lien entre cette préférence et la capacité du modèle à reconnaître ses propres textes. Leurs expériences étayent ce lien sans démontrer pleinement que la reconnaissance est la cause de la préférence. La prépublication de Gibert, Despujols et Rochet, déposée sur arXiv le 30 septembre 2026, examine un autre contexte : 17 livrables construits sur des informations publiques, sans référence de notation experte. Elle observe des écarts compatibles avec une auto-préférence, dont les causes restent à départager. Pour choisir un évaluateur, TW3 recommande de comparer ses jugements à des appréciations humaines sur le travail concerné et de répéter les évaluations en masquant la provenance des documents.

1. Qu’appelle-t-on auto-préférence ?

L’auto-préférence est une préférence d’un modèle pour ses propres productions ; pour parler de biais de qualité, il faut établir que cet avantage dépasse leur mérite réel. Dans la définition donnée par Panickssery, Bowman et Feng, le 15 avril 2024, le modèle note mieux ses textes alors que des annotateurs humains les jugent de qualité équivalente. Un modèle de langage, ou LLM, devient ici un « juge » lorsque la consigne lui demande d’évaluer un texte.

Cette définition impose une distinction utile au responsable de validation. Une production peut recevoir une meilleure note parce qu’elle répond mieux aux exigences. Le problème apparaît lorsque la relation entre producteur et évaluateur contribue à l’avantage observé, au-delà de la qualité attendue.

L’auto-reconnaissance désigne une autre capacité : distinguer ses propres textes de ceux d’autres modèles ou d’humains. Les auteurs emploient ce terme dans un sens expérimental, sans attribuer au modèle une conscience de soi. Un même modèle peut successivement produire, noter et identifier la provenance d’un texte, selon les instructions reçues.

Le contrôle humain mérite une précision : l’expérience présentée ne dispose pas d’une référence humaine permettant de tenir la qualité constante. Les auteurs retiennent comme indice indirect des préférences réciproques : sur une partie du corpus, les modèles comparés favorisent chacun leurs propres textes. Il faut donc lire séparément la définition du biais et les moyens effectivement employés pour l’étudier.

2. Comment teste-t-on l’auto-reconnaissance ?

Le test consiste à demander au modèle d’identifier ses productions parmi des textes dont la provenance réelle est connue des expérimentateurs. Panickssery et ses coauteurs, le 15 avril 2024, travaillent sur des résumés d’articles provenant des corpus XSUM et CNN/DailyMail. Ils comparent des productions de modèles et des résumés rédigés par des humains.

Dans le dispositif par paires, le modèle reçoit son propre résumé et celui d’une autre source. Une consigne demande lequel il a produit ; une autre demande lequel est de meilleure qualité. L’identité de la source alternative reste cachée. Les expérimentateurs inversent l’ordre des options et calculent la moyenne des scores de confiance pour tenir compte d’un éventuel effet de position.

Question poséeCe que mesure la réponse
Quel résumé avez-vous produit ?La reconnaissance de provenance
Quel résumé est de meilleure qualité ?La préférence de l’évaluateur
La préférence est-elle justifiée par la qualité ?Le contrôle supplémentaire à établir avec une référence indépendante

Les auteurs harmonisent la ponctuation et les capitales initiales. Ce nettoyage laisse ouverte la possibilité d’autres indices : ils discutent notamment la verbosité comme signal potentiel de reconnaissance. Pour un test métier, le cabinet propose donc de vérifier l’efficacité du masquage du nom du producteur.

Le papier examine aussi les textes présentés isolément. La reconnaissance devient alors moins bonne que dans la comparaison par paires. Ce résultat invite à conserver le format exact du test dans toute conclusion : identifier une provenance entre plusieurs possibilités et répondre sur un texte isolé sont des conditions différentes.

3. Que montrent les expériences contrôlées ?

Elles relient une modification de la capacité de reconnaissance à une modification de la préférence, sans achever la démonstration causale. Dans leur prépublication du 15 avril 2024, Panickssery et ses coauteurs ajustent GPT-3.5 et Llama 2 par apprentissage supervisé : le modèle s’exerce à choisir, parmi des résumés, celui qu’il a produit. Les textes servant à cet apprentissage sont séparés des textes d’évaluation.

Après cet ajustement, les mesures par paires montrent une forte corrélation linéaire entre auto-reconnaissance et auto-préférence. Le transfert observé d’un corpus de résumés à l’autre apporte un contrôle supplémentaire sur le périmètre de l’expérience.

Les chercheurs explorent ensuite des explications concurrentes. Ils entraînent des modèles sur des tâches de longueur, de comptage des voyelles et de lisibilité, ainsi que sur des réponses constantes ou aléatoires. Les résultats de ces contrôles s’inscrivent dans la même tendance. Leur contrôle par des évaluateurs modèles ne fait pas apparaître de préférence systématique pour les résumés produits après ajustement par rapport à ceux du modèle initial. Les auteurs y voient un argument contre une explication fondée sur une amélioration générale de la qualité.

Une expérience modifie seulement les étiquettes de provenance. Sur XSUM, GPT-4 et GPT-3.5 favorisent le résumé présenté comme le leur, même lorsque les étiquettes sont inversées. Cet effet n’apparaît pas clairement sur CNN/DailyMail ou avec Llama 2.

La réserve des auteurs concerne autant la cause que la généralisation. Ces contrôles étayent une hypothèse ; ils ne permettent pas d’attribuer chaque préférence individuelle à une reconnaissance préalable. Les résultats restent attachés aux tâches, aux modèles et aux conditions étudiés.

4. Que permet d’affirmer le papier TW3 ?

Il permet de décrire une préférence compatible avec l’auto-préférence et d’en examiner la sensibilité aux conditions de notation. La prépublication de Gibert, Despujols et Rochet, déposée sur arXiv le 30 septembre 2026, porte sur des présentations produites par un système associant un modèle à des calculs, des modèles de documents et des vérifications. Ce système est comparé à des générations directes.

Dans ces comparaisons, le juge Opus accorde au système sa plus faible marge face aux documents écrits directement par Opus, avec la consigne courte comme avec la consigne renforcée. Le protocole masque la provenance et le tour de développement des documents. L’écart observé peut néanmoins avoir plusieurs explications.

La comparaison sur texte seul illustre cette prudence : la conclusion statistique dépend du traitement des sessions, c’est-à-dire des groupes de documents évalués ensemble. Un résultat obtenu en considérant les documents séparément devient moins probant lorsque l’analyse tient compte de ces groupes. Les auteurs qualifient l’auto-préférence d’explication possible, sans l’identifier comme effet causal.

Autre limite déterminante pour une direction métier : le corpus ne comporte pas de référence notée par des experts du métier. L’accord entre évaluateurs renseigne sur leur convergence, sans établir l’exactitude des documents ni leur acceptabilité professionnelle. Les tests sont exploratoires. Le masquage, les variantes de présentation et les répétitions apportent des contrôles utiles, mais l’interprétation reste attachée aux configurations et aux sessions observées.

5. Changer de famille suffit-il à éliminer le problème ?

Changer de famille constitue un contrôle partiel : des évaluateurs distincts peuvent partager des préférences. La discussion de Gibert, Despujols et Rochet, du 30 septembre 2026, relève que les hausses de notes observées par d’autres familles suggèrent que les gains de notation ne sont pas propres à Opus. Elle conserve toutefois la possibilité de préférences communes.

Le papier fournit aussi un exemple qui interdit de déduire le biais du seul lien entre producteur et juge. Qwen préfère les présentations du système contenant ce modèle, mais GPT-6 Luna Pro manifeste une préférence comparable. Cette convergence ne suffit donc pas à isoler une auto-préférence de Qwen. Ces noms désignent les modèles employés dans l’étude.

Les auteurs décrivent un panel de convenance, comprenant des familles de modèles apparentées. Ses résultats décrivent ce groupe de juges ; ils ne fournissent aucun classement général d’impartialité. L’identité du fournisseur reste une information de protocole, à compléter par les conditions d’évaluation et la confrontation aux exigences métier.

Pour un contrôle prospectif, il est utile de distinguer la provenance des productions, l’identité du juge et la référence humaine. Cette séparation est une proposition de méthode du cabinet : elle vise à examiner la préférence propre à chaque évaluateur et les désaccords persistants avec les lecteurs métier. Un consensus automatique devient ainsi un résultat à analyser avec sa référence de qualité.

6. Comment organiser un test prospectif ?

Un test utile doit faire varier la relation entre producteur et juge tout en documentant la qualité des productions. La proposition suivante est une méthode de TW3, inspirée des contrôles de Panickssery et ses coauteurs, du 15 avril 2024, et des recommandations de répétition de Gibert, Despujols et Rochet, du 30 septembre 2026. Elle reste à éprouver sur le métier concerné.

  • Équilibrer les productions. Soumettre les mêmes tâches et les mêmes informations aux générateurs retenus, avec des occasions comparables de produire et de réviser. Conserver les consignes, les versions et les documents obtenus.
  • Masquer la provenance. Retirer les étiquettes identifiantes, attribuer des codes neutres et faire varier l’ordre. Garder une trace des transformations pour vérifier qu’elles préservent le contenu à évaluer.
  • Construire la référence métier. Faire apprécier les productions par des lecteurs compétents selon une grille explicite, en conservant leurs désaccords. Examiner ensuite les préférences automatiques parmi des productions jugées comparables.
  • Séparer reconnaissance et qualité. Organiser des appels distincts pour la question de provenance et pour la notation, afin de pouvoir comparer ces mesures sans annoncer la provenance pendant le jugement de qualité.
  • Répéter les évaluations. Redistribuer les documents entre sessions et consigner la configuration de chaque appel. Présenter les résultats par producteur et par juge, avec leur variabilité entre répétitions.

La décision à préparer est précise : le juge retenu favorise-t-il un producteur au-delà de ce que justifie la référence métier, et cette préférence persiste-t-elle quand les conditions changent ? La réponse doit rester assortie du périmètre testé et des incertitudes observées.

FAQ

Un juge peut-il reconnaître ses propres sorties ?
Oui, dans leur prépublication déposée sur arXiv le 15 avril 2024, Panickssery et ses coauteurs observent cette capacité dans les conditions testées. Elle dépend notamment du modèle et du format de présentation des résumés. Reconnaître une provenance et préférer un texte sont des mesures distinctes.

Que permettent d’établir les expériences contrôlées ?
Les expériences de Panickssery et ses coauteurs, du 15 avril 2024, apportent des indices reliant auto-reconnaissance et auto-préférence, après modification de l’apprentissage et exploration d’explications concurrentes. Les auteurs maintiennent une réserve explicite sur la validation complète de la cause et sur le contrôle de la qualité par une référence humaine.

TW3 démontre-t-il l’auto-préférence de son juge ?
La prépublication de Gibert, Despujols et Rochet, déposée sur arXiv le 30 septembre 2026, décrit des observations compatibles avec cette explication. La sensibilité aux sessions et l’absence de référence experte limitent cette interprétation. Elle ne permet pas d’attribuer causalement les écarts à l’auto-préférence.

Changer de famille suffit-il à garantir l’impartialité ?
Dans la discussion de Gibert, Despujols et Rochet, du 30 septembre 2026, les évaluateurs externes apportent une comparaison utile, mais des préférences partagées restent possibles. Le panel TW3 est un panel de convenance, dont les résultats restent liés aux configurations étudiées. La confrontation à une référence métier demeure une étape distincte.

Comment concevoir un contrôle indépendant ?
La méthode proposée consiste à équilibrer les productions, masquer leur provenance et faire intervenir des lecteurs métier. Des évaluations répétées permettent ensuite d’examiner la stabilité des préférences. Les critères de décision doivent être fixés avant la lecture des résultats.

Pour aller plus loin

Sources