Toutes les news taguées avec ce sujet.
Une méthode FACET utilise un seul adaptateur conditionné par tâche pour lutter contre l'oubli catastrophique sans données passées.
Une nouvelle borne mathématique définit l'erreur minimale atteignable par le fine-tuning LoRA en fonction du rang.
Une méthode de fine-tuning conditionnel réduit fortement les réponses nuisibles tout en préservant les performances sur les tâches bénignes.
Le sMuon étend l'optimiseur Muon au fine-tuning efficace pour améliorer les performances LoRA.