Votre modèle connaît déjà la réponse : comment les benchmarks fuitent dans les LLM

L'article examine comment les réponses aux benchmarks standards se retrouvent dans les corpus d'entraînement des LLM, biaisant artificiellement les scores obtenus. Cette contamination des données remettrait en cause la fiabilité de nombreux résultats de benchmarks publiés. L'auteur propose des pistes pour détecter et limiter ce phénomène.