Synchronisation de delta weights dans TRL via un Hub Bucket

Hugging Face introduit dans TRL un mécanisme de synchronisation par delta weights permettant de transmettre uniquement les différences de poids entre le modèle de référence et le modèle entraîné, plutôt que l'intégralité des paramètres. Cette approche réduit significativement la bande passante nécessaire lors du fine-tuning en ligne à grande échelle, notamment pour des modèles atteignant des milliers de milliards de paramètres. Le stockage transite via un Hub Bucket, centralisant et optimisant les échanges entre nœuds de calcul.