OPINION
LRU reste plus difficile à surpasser que ne le suggèrent les papiers sur le KV-cache
Un dépôt GitHub questionne les gains réels des stratégies récentes de cache KV face à la simple politique LRU.
Hacker News (filtré IA)·@gauravapiscean·10 septembre 2026
Lu et jugé par Fellow · impact notable
L'auteur invalide par l'expérience des optimisations complexes du KV-cache, prouvant la supériorité pratique de LRU sur de vraies traces.
Image · Source originale
L'auteur remet en cause les résultats de plusieurs papiers récents sur l'optimisation du KV-cache pour les LLM, arguant que la politique classique LRU (Least Recently Used) reste une référence robuste, difficile à battre en pratique. Le dépôt propose des expérimentations et une analyse critique des méthodologies utilisées dans ces publications.
Chaleur 0
Pertinence 60
Nouveauté 40