Quantification de modèles : la post-training quantization avec NVIDIA Model Optimizer

La quantification de modèles permet de réduire l'utilisation de VRAM et d'améliorer les performances d'inférence sur des GPU grand public comme les GeForce RTX. NVIDIA présente son outil Model Optimizer, qui applique la post-training quantization (PTQ) pour abaisser les besoins en calcul et en mémoire tout en préservant la qualité du modèle. Ce guide pratique montre comment quantifier un modèle étape par étape avec cet outil.