OUTILS
AutoRound : algorithme de quantification avancé pour les LLM
Intel publie AutoRound, un outil de quantification post-entraînement conçu pour réduire la taille des LLM sans dégradation significative des performances.
Hacker News (filtré IA)·@lastdong·1 mai 2026
Image · Source originale
AutoRound est une bibliothèque open-source développée par Intel pour la quantification post-entraînement (PTQ) des grands modèles de langage. Elle s'appuie sur un algorithme d'optimisation par descente de gradient par signe (SignRound) pour calibrer les poids quantifiés avec précision. L'outil supporte plusieurs formats de quantification (GPTQ, AWQ, etc.) et vise à faciliter le déploiement de LLM sur du matériel contraint.
Chaleur 0
Pertinence 72
Nouveauté 58