Toutes les news taguées avec ce sujet.
Tilert.ai détaille comment deux avancées techniques ont permis de franchir le seuil de 1000 tokens/seconde sur un LLM à 1 trillion de paramètres.
SurrealDB publie des chiffres comparatifs de sa version 3.x contre les bases de données les plus répandues, durabilité fsync activée.
Microsoft Research présente mimalloc, un allocateur mémoire open-source conçu pour les services hautement concurrents et les charges LLM à grande échelle.
Un développeur détaille comment porter les performances de la multiplication matricielle de quelques Gflop/s à plusieurs Tflop/s en Swift, première étape vers l'entraînement d'un LLM natif.
Une proposition au noyau Linux introduit un mécanisme de court-circuit par fonction pour atténuer les vulnérabilités CPU de type Spectre.