Faire tourner des LLM locaux hors ligne pendant un vol de dix heures

L'auteur détaille comment il a fait fonctionner des LLM locaux en mode totalement offline durant un vol de dix heures, en couvrant le choix du matériel, des modèles et des outils d'inférence. L'article aborde les compromis entre taille de modèle, performance et contraintes d'autonomie batterie en contexte nomade. Un retour terrain utile pour les développeurs souhaitant s'affranchir du cloud.